在 Modal 平台上高效部署 DeepSeek 模型：从环境准备到实战案例

引言

随着生成式 AI 的快速发展，部署大型语言模型（LLM）已成为业内关注的重点。DeepSeek 是中国新兴的 AGI 公司，推出了多款高性能模型（如 DeepSeek-V3、R1 等），在成本与性能上具有显著优势 (DeepSeek’s ‘aha moment’ creates new way to build powerful AI with less money) (DeepSeek vs. ChatGPT: I tried the hot new AI model. It was impressive, but there were some things it wouldn’t talk about.)。Modal 则提供了无服务器（serverless）、自动弹性伸缩的 AI 基础设施，支持毫秒级冷启动与数千 GPU 扩展 (Modal: High-performance AI infrastructure) (Managing deployments | Modal Docs)。本文将结合二者优势，展示在 Modal 平台上部署 DeepSeek 模型的完整流程，并通过实战案例说明最佳实践。

DeepSeek 模型概述

DeepSeek 公司的发展与模型体系

DeepSeek（深度求索）成立于 2023 年，致力于 AGI 研究，已发布多款高性能模型，包括 DeepSeek-V3、R1 及多种精简版模型 (deepseek-ai (DeepSeek) - Hugging Face) (deepseek-ai/DeepSeek-V3 - GitHub)。

• DeepSeek-V3：采用 Mixture-of-Experts（MoE）架构，总参数量 671B，单次激活 37B，实现了高效的推理与训练 (The Complete Guide to DeepSeek Models: From V3 to R1 and Beyond)。
• DeepSeek-R1：面向推理与逻辑任务，通过强化学习自动化人类反馈（RLHF）大幅降低标注成本，推理性能媲美 OpenAI o1 (DeepSeek’s ‘aha moment’ creates new way to build powerful AI with less money)。

模型性能与应用场景

DeepSeek 模型在多项 benchmark 上展现出优异表现：

• 在数学与推理任务上，与 ChatGPT 相当或略优 (DeepSeek vs. ChatGPT: I tried the hot new AI model. It was impressive, but there were some things it wouldn’t talk about.)。
• 由于采用 RLHF 自动化技术，训练成本较传统方式降低了 50% 以上 (DeepSeek’s ‘aha moment’ creates new way to build powerful AI with less money)。
• 已在金融、科技与电商领域率先应用，并计划在大规模客服与内容生成中推广。

Modal 平台介绍

Modal 的核心特性

Modal 是一款面向 AI 推理与训练场景的无服务器平台，具备以下优势：

1. 快速冷启动：几秒内加载 TB 级模型权重 (Modal: High-performance AI infrastructure)。
2. 自动弹性伸缩：支持从 0 到数千 GPU 的动态扩容，适应突发流量 (Modal: High-performance AI infrastructure)。
3. 自定义容器：用户可自带 Docker 镜像，灵活定义依赖与硬件需求 (Deploy your GenAi app and ML Models on Modal | serverless …)。
4. 部署管理：modal run 与 modal serve 方便本地调试，modal deploy 一键上线应用 (Managing deployments | Modal Docs)。

Modal 架构概览