当前位置：首页 > news >正文

DeepSeek-R1 现已作为全托管无服务器模型在 Amazon Bedrock上线。

news 来源：原创 2025/5/4 5:19:45

截至 2024 年 1 月 30 日，DeepSeek-R1 模型已通过 Amazon Bedrock Marketplace 和 Amazon Bedrock 自定义模型导入功能在 Amazon Bedrock 上线。自那时起，数千家客户已在 Amazon Bedrock 中部署了这些模型。客户高度评价其强大的安全护栏和全面的工具，确保了 AI 的安全部署。如今，我们通过提供包括全新无服务器解决方案在内的更多选择，使 DeepSeek 在 Amazon Bedrock 中的使用变得更加便捷。

全托管的 DeepSeek-R1 模型现已在 Amazon Bedrock 正式上线。亚马逊云科技（Amazon）是首家将 DeepSeek-R1 作为全托管正式上线模型提供的云服务提供商（CSP）。通过亚马逊云科技上的 DeepSeek，您可以加速创新并实现切实的业务价值，而无需管理复杂的基础设施。借助 Amazon Bedrock 全托管服务中的单一 API，您可以利用 DeepSeek-R1 的强大能力为生成式 AI 应用程序提供动力，并享受其广泛的功能和工具集。

据 DeepSeek 介绍，其模型在 MIT 许可下公开发布，并在推理、编码和自然语言理解方面表现出色。这些能力为智能决策支持、软件开发、数学问题解决、科学分析、数据洞察以及全面的知识管理系统提供了强大支持。

与所有 AI 解决方案一样，在生产环境中实施时，请仔细考虑数据隐私要求，检查输出中的偏见，并监控结果。在实施像 DeepSeek-R1 这样的公开模型时，请考虑以下因素：

数据安全——您可以利用 Amazon Bedrock 的企业级安全、监控和成本控制功能，这些功能对于大规模负责任地部署 AI 至关重要，同时您还能完全掌控自己的数据。用户的输入和模型输出不会与任何模型提供商共享。默认情况下，您可以使用这些关键的安全功能，包括数据静态和传输中的加密、细粒度的访问控制、安全的连接选项，以及在 Amazon Bedrock 中与 DeepSeek-R1 模型交互时下载各种合规认证。

负责任的人工智能——您可以通过 Amazon Bedrock Guardrails 实施根据应用需求和负责任的 AI 政策定制的保障措施。这包括内容过滤、敏感信息过滤以及可自定义的安全控制等关键功能，通过上下文基础和自动推理检查来防止幻觉。这意味着您可以通过过滤生成式 AI 应用中的不良和有害内容，按照自定义的策略集控制用户与 Bedrock 中 DeepSeek-R1 模型的交互。

模型评估——您可以通过 Amazon Bedrock 的模型评估工具，在几步之内通过自动或人工评估来评估和比较模型，包括 DeepSeek-R1，从而为您的用例识别最佳模型。您可以选择使用预设指标（如准确性、鲁棒性和毒性）进行自动评估，也可以选择人工评估工作流来处理主观或自定义指标（如相关性、风格和品牌语音一致性）。模型评估提供了内置的精选数据集，您也可以使用自己的数据集。

我们强烈建议将 Amazon Bedrock Guardrails 和 Amazon Bedrock 模型评估功能与您的 DeepSeek-R1 模型集成，为您的生成式 AI 应用程序提供强大的保护。如需了解更多信息，请访问亚马逊云科技。

在 Amazon Bedrock 中开始使用 DeepSeek-R1 模型
如果您是首次使用 DeepSeek-R1 模型，请前往 Amazon Bedrock 控制台，在左侧导航栏中选择“配置”下的“模型访问”。要访问全托管的 DeepSeek-R1 模型，请在 DeepSeek 中申请 DeepSeek-R1 的访问权限。申请通过后，您即可在 Amazon Bedrock 中访问该模型。

接下来，若要在 Amazon Bedrock 中测试 DeepSeek-R1 模型，请在左侧菜单栏中选择“Playground”下的“Chat/Text”。然后在左上角选择“选择模型”，在模型分类中选择“DeepSeek”，并选择“DeepSeek-R1”作为具体模型。最后，点击“应用”即可

使用选定的 DeepSeek-R1 模型，我运行了以下提示示例：

一个家庭有 5,000 美元用于为明年的度假储蓄。他们可以将这笔钱存入年利率为 2% 的储蓄账户，或者存入年利率为 4% 的定期存款，但在度假前无法动用这笔资金。如果他们在这一年中需要 1,000 美元用于紧急支出，他们应该如何在这两种选择之间分配资金，以最大化他们的度假基金？

此提示需要复杂的思维链，并生成非常精确的推理结果。

如需了解更多关于提示语的使用建议，请参考 DeepSeek-R1 模型提示语指南。

通过选择“查看 API 请求”，您还可以使用 AWS 命令行界面（AWS CLI）和 AWS SDK 中的代码示例访问该模型。您可以使用 us.deepseek.r1-v1:0 作为模型 ID。

以下是 AWS CLI 命令的示例：

aws bedrock-runtime invoke-model \
       --model-id us.deepseek.r1-v1:0 \
       --body "{\"prompt\": \"<｜begin_of_sentence｜><｜User｜>Type_Your_Prompt_Here<｜Assistant｜><think>\n\", \"max_tokens\": 512, \"temperature\": 0.5, \"top_p\": 0.9}" \
       --cli-binary-format raw-in-base64-out \
       --region us-west-2 \
       invoke-model-output.txt

该模型同时支持 InvokeModel 和 Converse API。以下 Python 代码示例展示了如何使用 Amazon Bedrock 的 Converse API 向 DeepSeek-R1 模型发送文本消息以实现文本生成。如需了解更多信息，请访问 AWS 文档中的 DeepSeek 模型推理参数和响应。

import boto3
from botocore.exceptions import ClientError

# Create a Bedrock Runtime client in the AWS Region you want to use.
client = boto3.client("bedrock-runtime", region_name="us-west-2")

# Set the model ID, e.g., DeepSeek-R1 Model.
model_id = "us.deepseek.r1-v1:0"

# Start a conversation with the user message.
user_message = "Type_Your_Prompt_Here"
conversation = [
    {
        "role": "user",
        "content": [{"text": user_message}],
    }
]

try:
    # Send the message to the model, using a basic inference configuration.
    response = client.converse(
        modelId=model_id,
        messages=conversation,
        inferenceConfig={"maxTokens": 512, "temperature": 0.5, "topP": 0.9},
    )

    # Extract and print the response text.
    response_text = response["output"]["message"]["content"][0]["text"]
    print(response_text)

except (ClientError, Exception) as e:
    print(f"ERROR: Can't invoke '{model_id}'. Reason: {e}")
    exit(1)

要在 DeepSeek-R1 模型上启用 Amazon Bedrock Guardrails，请在左侧导航栏中选择“保障措施”下的“Guardrails”，并根据需要配置过滤器来创建 Guardrail。例如，如果您设置了“政治”一词的过滤器，Guardrails 将识别提示中的该词汇并向您显示被阻止的消息。

您可以通过不同的输入测试 Guardrail，以评估其性能。您可以通过设置禁止主题、词汇过滤器、敏感信息过滤器和阻止消息来优化 Guardrail，直到其完全符合您的需求。

如需了解更多关于 Amazon Bedrock Guardrails 的信息，请访问亚马逊云科技文档中的使用 Amazon Bedrock Guardrails 阻止模型中的有害内容，或查阅亚马逊云科技机器学习博客频道中关于 Amazon Bedrock Guardrails 的深度文章。

现已推出 DeepSeek-R1 现已在美国东部（北弗吉尼亚）、美国东部（俄亥俄）和美国西部（俄勒冈）亚马逊云科技区域通过跨区域推理在 Amazon Bedrock 中全面托管。查看完整区域列表以获取未来更新。了解更多信息，请访问 DeepSeek in Amazon Bedrock 产品页面和 Amazon Bedrock 定价页面。

立即在 Amazon Bedrock 控制台中试用 DeepSeek-R1 模型，并将反馈发送至 Amazon re:Post for Amazon Bedrock 或通过您常用的 Amazon 支持联系人。

— Channy

更新于2025年3月10日 — 修复了模型选择和模型 ID 的截图。

更新于2025年3月13日 — 添加了 DeepSeek-R1 模型提示和模型推理参数及响应的指南链接。
如需了解更多，请关注DeepSeek – Amazon Bedrock 中的模型 – Amazon