AWS 推出 DeepSeek-R1 模型

随着生成式人工智能应用的规模扩大,计算成本真的很重要。人们非常渴望更好的性价比。第二,构建一个真正优秀的生成式人工智能应用实际上相当困难。第三,当我们让构建者自由选择他们想做的事情时,所使用的模型是多样化的。亚马逊提供的广泛而深入的模型使客户能够选择最能满足其独特需求的精确功能。通过密切关注客户需求和技术进步,AWS 定期扩展我们精选的模型,将有前景的新模型与成熟的行业热门模型结合起来。这种高性能和差异化模型产品的持续扩展有助于客户始终站在 AI 创新的前沿。

现在,您可以在Amazon Bedrock和Amazon SageMaker AI中部署 DeepSeek-R1 模型。Amazon Bedrock 最适合希望通过 API 快速集成预先训练的基础模型的团队。Amazon SageMaker AI 非常适合需要高级定制、训练和部署并可以访问底层基础设施的组织。此外,您还可以使用AWS Trainium和AWS Inferentia通过Amazon Elastic Compute Cloud (Amazon EC2)或 Amazon SageMaker AI以经济高效的方式部署 DeepSeek-R1-Distill 模型。

借助 AWS,您可以使用 DeepSeek-R1 模型构建、试验和负责任地扩展您的生成式 AI 创意,只需投入最少的基础设施投资,即可使用这种功能强大、经济高效的模型。您还可以通过构建专为安全性而设计的 AWS 服务,自信地推动生成式 AI 创新。我们强烈建议您将 DeepSeek-R1 模型的部署与Amazon Bedrock Guardrails集成,为您的生成式 AI 应用程序增加一层保护,Amazon Bedrock 和 Amazon SageMaker AI 客户都可以使用它。

您现在可以选择如何在 AWS 上部署 DeepSeek-R1 模型,方式有以下几种:

1.用于 DeepSeek-R1 模型的Amazon Bedrock Marketplace

2.用于 DeepSeek-R1 模型的Amazon SageMaker JumpStart

3.用于 DeepSeek-R1-Distill 模型的Amazon Bedrock Cust om Model Import

4.用于 DeepSeek-R1-Distill 模型的Amazon EC2 Trn1 实例

本文帮助您了解在 AWS 上开始使用 DeepSeek-R1 模型的各种途径。无论是构建第一个 AI 应用程序还是扩展现有解决方案,这些方法都可以根据您团队的专业知识和要求提供灵活的起点。

 

1. Amazon Bedrock Marketplace 中的 DeepSeek-R1 模型
Amazon Bedrock Marketplace提供 100 多种流行、新兴和专业 FM,以及 Amazon Bedrock 中当前精选的行业领先模型。可以轻松地在单个目录中发现模型,订阅模型,然后在托管终端节点上部署模型。

要访问 Amazon Bedrock Marketplace 中的 DeepSeek-R1 模型,请转到Amazon Bedrock 控制台并选择Foundation 模型部分下的模型目录。可以通过搜索或按模型提供商筛选来快速找到 DeepSeek。

 

 

在查看包括模型功能和实施指南在内的模型详细信息页面后,可以通过提供端点名称、选择实例数量和选择实例类型来直接部署模型。

 

 

还可以配置高级选项,以便自定义 DeepSeek-R1 模型的安全和基础设施设置,包括 VPC 网络、服务角色权限和加密设置。对于生产部署,应该检查这些设置以符合组织的安全和合规性要求。

借助 Amazon Bedrock Guardrails,可以独立评估用户输入和模型输出。可以通过过滤生成式 AI 应用程序中不良和有害的内容,使用定义的策略集控制用户与 DeepSeek-R1 之间的交互。Amazon Bedrock Marketplace 中的 DeepSeek-R1 模型只能与 Bedrock 的ApplyGuardrail API一起使用,以评估 Amazon Bedrock 之外可用的自定义和第三方 FM 的用户输入和模型响应。要了解更多信息,请阅读使用 Amazon Bedrock Guardrails 实施独立于模型的安全措施。

Amazon Bedrock Guardrails 还可以与其他 Bedrock 工具(包括Amazon Bedrock Agents和Amazon Bedrock Knowledge Bases)集成,以构建符合负责任 AI 政策的更安全、更可靠的生成式 AI 应用程序。要了解更多信息,请访问AWS 负责任 AI页面。

 

2. Amazon SageMaker JumpStart 中的 DeepSeek-R1 模型
Amazon SageMaker JumpStart是一个机器学习 (ML) 中心,具有 FM、内置算法和预构建的 ML 解决方案,您只需单击几下即可部署。要在 SageMaker JumpStart 中部署 DeepSeek-R1,您可以在SageMaker Unified Studio、 SageMaker Studio、 SageMaker AI 控制台中发现 DeepSeek-R1 模型,或通过SageMaker Python SDK以编程方式。

在Amazon SageMaker AI 控制台中,打开 SageMaker Studio 并选择JumpStartDeepSeek-R1 ,然后在所有公共模型页面中搜索“ ” 。

 

 

可以选择模型并选择部署以使用默认设置创建端点。当端点处于InService状态时,可以通过向其端点发送请求来进行推理。

 

 

可以使用Amazon SageMaker AI功能(例如Amazon SageMaker Pipelines、Amazon SageMaker Debugger或容器日志)获得模型性能和 ML 操作控制。该模型部署在 AWS 安全环境中并受您的虚拟私有云 (VPC) 控制,有助于支持数据安全。

与 Bedrock Marketpalce 一样,可以使用ApplyGuardrailSageMaker JumpStart 中的 API 将生成式 AI 应用程序的防护措施与 DeepSeek-R1 模型分离。现在,可以在不调用 FM 的情况下使用防护措施,无论使用哪种模型,这都为将标准化且经过全面测试的企业防护措施更多地集成到您的应用程序流程中打开了大门。

 

3. 使用 Amazon Bedrock Custom Model Import 构建 DeepSeek-R1-Distill 模型
Amazon Bedrock Custom Model Import允许通过单个无服务器统一 API 导入和使用自定义模型以及现有 FM,而无需管理底层基础设施。借助 Amazon Bedrock Custom Model Import,可以导入包含 15 亿到 700 亿个参数的DeepSeek-R1-Distill 模型。

将这些公开可用的模型存储在Amazon Simple Storage Service (Amazon S3)存储桶或Amazon SageMaker 模型注册表中后,转到Amazon Bedrock 控制台中基础模型下的导入模型,然后通过 Amazon Bedrock 将其导入并部署到完全托管的无服务器环境中。这种无服务器方法无需管理基础设施,同时提供企业级安全性和可扩展性。

 

 

2 月 1 日更新– 导入提炼模型后,您可以使用 Bedrock playground 来了解提炼模型对您的输入的响应。

 

 

4. 使用 AWS Trainium 和 AWS Inferentia 的 DeepSeek-R1-Distill 模型
AWS Deep Learning AMI (DLAMI)提供自定义机器映像,可以在各种 Amazon EC2 实例中使用这些映像进行深度学习,从小型 CPU 实例到最新的高性能多 GPU 实例。您可以在 AWS Trainuim1 或 AWS Inferentia2 实例上部署 DeepSeek-R1-Distill 模型以获得最佳性价比。

首先,转到Amazon EC2 控制台trn1.32xlarge并使用名为 Deep Learning AMI Neuron (Ubuntu 22.04) 的Neuron Multi Framework DLAMI启动EC2 实例。

连接到已启动的 ec2 实例后,安装 vLLM(一种用于服务大型语言模型 (LLM)的开源工具),并从 Hugging Face 下载 DeepSeek-R1-Distill 模型。您可以使用 vLLM 部署模型并调用模型服务器。

了解事项

以下是需要了解的一些重要事项。

  • 定价– 对于 DeepSeek-R1 等公开可用的模型,只需根据为 Amazon Bedrock Markeplace、Amazon SageMaker JumpStart 和 Amazon EC2 选择的推理实例小时数支付基础设施价格。对于 Bedrock 自定义模型导入,只需根据自定义模型的活跃副本数量支付模型推理费用,以 5 分钟为单位计费。要了解更多信息,请查看Amazon Bedrock 定价、Amazon SageMaker AI 定价和Amazon EC2 定价页面。
  • 数据安全 – 您可以使用 Amazon Bedrock 和 Amazon SageMaker 中的企业级安全功能来帮助您确保数据和应用程序的安全性和私密性。这意味着您的数据不会与模型提供商共享,也不会用于改进模型。这适用于所有模型(专有和公开可用),例如 Amazon Bedrock 和 Amazon SageMaker 上的 DeepSeek-R1 模型。

 

总结

DeepSeek 模型代表了 AWS 在 AI 领域的前沿创新,为各行业提供了强大的数据洞察能力。无论是加速决策过程、提升业务智能化,还是优化客户体验,DeepSeek 都能为企业带来巨大的价值。为了帮助更多企业早日体验这一领先技术,我们公司现推出特别优惠,为您提供专属的咨询和部署支持服务。通过我们,您可以在最短的时间内将 DeepSeek 模型应用于实际场景,助力业务转型与提升竞争力。通过页面底部扫码联系我们,了解更多优惠详情。

更多探索

Tell me what you need