DeepSeek 开源周：第六天的“One More Thing” – DeepSeek-V3/R1 推理系统的概述
DeepSeek 发起的开源周活动，从 2 月 24 日~ 2 月 28 日，每天发布一个开源存储库。但今天突然看到有新的推文，作为开源周的额外补充，详细说明了 DeepSeek-V3/R1 推理系统的一些技术细节。
有意思的是，这次官方披露了一些内部的成本利润细节。理论上甚至可以做到所谓“一天收入 56 万刀，盈利率 545%”。
<知乎> DeepSeek-V3 / R1 推理系统概览
https://zhuanlan.zhihu.com/p/27181462601?utm_campaign=shareopn&utm_medium=social&utm_psn=1879145733099349392&utm_source=wechat_session
（下面文字主要由 Grok 3 协助生成）
内容概述
介绍 DeepSeek-V3 和 R1 模型的推理系统。强调了系统的优化方法，并分享了在线服务的性能统计数据，以展示其高效性和经济性。
技术优化方法
DeepSeek-V3/R1 推理系统的优化主要集中在以下三个方面：
-
跨节点 EP 驱动的批处理扩展：通过在多个节点上扩展批处理能力，提高系统处理大规模任务的效率。
-
计算通信重叠：通过同时进行计算和通信操作，减少等待时间，从而降低延迟。
-
负载平衡：通过智能分配资源，确保系统在高负载下保持稳定性能。
这些优化方法旨在提升推理系统的吞吐量和响应速度，使其能够处理复杂的 AI 任务。
性能统计数据
提供了 DeepSeek 在线服务的具体统计数据，展示了系统的实际性能：
-
令牌处理速率：每秒每 H800 节点处理 73.7k 输入令牌和 14.8k 输出令牌。这表明系统在高并发场景下的强大处理能力。
-
成本利润率：达到 545%，这不仅显示了系统的经济效益，还暗示其在商业化应用中的潜力。
这些数据为评估 DeepSeek 模型的实际性能提供了重要依据，尤其是与闭源模型的对比。
对比与背景
通过网络搜索，可以发现 DeepSeek-V3 和 R1 模型在性能上与闭源模型（如 OpenAI 的 o1）有可比性。DeepSeek-R1 采用大规模强化学习（RL）训练，表现出色，尤其在数学、代码和推理任务上（DataCamp 博客）。而 DeepSeek-V3 则在推理速度上实现了突破，领先于其他开源模型（GeeksforGeeks 对比）。这些背景信息进一步佐证了帖子中提到的优化和性能数据的可信度。
潜在影响
DeepSeek-V3/R1 推理系统的优化不仅提高了效率，还降低了部署成本，这对企业级 AI 应用尤为重要。例如，提到的成本利润率高达 545%，可能吸引更多企业采用开源模型，减少对闭源模型的依赖（AWS 博客）。此外，系统的多节点扩展和负载平衡能力使其适合高并发场景，如全球 SaaS 平台的 AI 功能支持。
表：DeepSeek 在线服务性能统计
| 指标 | 数据 |
|---|---|
| 输入令牌处理速率 | 每秒每 H800 节点 73.7k |
| 输出令牌处理速率 | 每秒每 H800 节点 14.8k |
| 成本利润率 | 545% |
小结
这次是分享了 DeepSeek-V3/R1 推理系统的技术细节，重点介绍了其优化方法和性能统计。这不仅展示了系统的技术实力，也体现了 DeepSeek 对开源社区的承诺。
关键引用
-
DeepSeek-V3 GitHub 页面
-
DeepSeek 官方网站
-
Fireworks AI 博客
-
DataCamp 博客
-
GeeksforGeeks 对比文章
-
AWS 机器学习博客
-
Deepseek AI X 帖子
-
Reji Modiyil 回复