gunicorn + flask 处理高并发请求
一、核心架构
Flask：局限于单线程 WSGI 应用框架，默认仅能顺序处理请求，无法直接并发。
Gunicorn：多进程模型，通过预派生（pre-fork）机制启动多个 Worker 进程（-w参数），每个 Worker 独立处理请求，充分利用多核 CPU。
- I/O 密集型场景：使用协程模式（-k gevent），单进程内通过事件循环处理数千并发连接。
- CPU 密集型场景：使用多线程（-k gthread）或同步 Worker（sync）。
二、关键配置
- Worker 数量与类型
- 进程数公式：Worker 数 = (CPU 核心数 × 2) + 1（例：4 核 CPU → 9 Workers）。
- 协程并发数：通过 --worker-connections 调整单个 Worker 的协程池大小（默认 1000，可增至 2000 ~ 5000）。
- 资源限制与稳定性
- 超时控制：–timeout 30 防止慢请求阻塞 Worker，–graceful-timeout 30确保安全重启。
- 内存优化：启用 --preload预加载代码，减少多进程内存占用。设置 --max-requests 1000 定期重启 Worker，避免内存泄漏。
- 反向代理（Nginx）：负载均衡：Nginx 分发请求至多个 Gunicorn 实例（监听不同端口），避免单点瓶颈。静态文件与缓存：Nginx 直接处理静态资源，减少 Flask 压力；启用 proxy_cache 缓存动态内容。
三、优化策略
- 异步任务处理耗时操作（邮件发送、数据处理）用 Celery + Redis 异步执行，释放请求线程。
- 数据库与缓存
- 连接池：SQLAlchemy 配置 pool_size=20 复用数据库连接。
- Redis 缓存：高频查询结果缓存，减少数据库访问。
- 实时通信优化 WebSocket 场景（如聊天室）使用 Flask-SocketIO + eventlet，替代 HTTP 轮询。
四、部署监控
- 容器化部署（Docker）：打包应用依赖，确保环境一致性，Docker Compose 管理多实例水平扩展。
- 性能监控：Gunicorn 配置 accesslog 和 errorlog 跟踪请求与错误。Prometheus + Grafana 监控内存 / CPU 使用，定位瓶颈。
五、最佳实践
- 基础架构：Nginx（负载均衡） + Gunicorn（进程/协程管理） + Flask（业务逻辑）。
- 扩展能力：
- 垂直扩展：增加 Worker 数 / 协程连接数。
- 水平扩展：通过 Docker 部署多容器实例。
- 适用场景：
I/O 密集型：Gevent Worker + 高 worker-connections。
CPU 密集型：多进程 + 线程池（gthread）。