高并发解决方案

概念

系统能够在段时间内处理大理请求，同时保持可接受延时和稳定性

设计原则

• 负载均衡：多服务分担流量压力
• 无状态服务：服务不保持状态，方便水平扩展
• 限流：限制请求数量，保护系统不被打垮
• 异步化：把同步请求变成异步处理，削峰填谷，解耦系统。
• 批处理：把多个请求合并成一个批次处理，常见 OLAP 系统，日志系统。
• 缓存：热点数据放在内存中，减少数据库访问压力。
• 数据库优化：分库分表、读写分离、索引优化等。
• 读写分离：读请求和写请求分开处理。如 mysql

架构层次

架构层次	高可用方案
接入层	负载均衡
应用层	无状态服务、多实例、K8s 部署，异步化，批处理，异步化，缓存
数据层	数据库：读写分离，分库分表