隨著生成式人工智慧應用的規模擴大，運算成本真的很重要。人們非常渴望更好的性價比。第二，建立一個真正優秀的生成式人工智慧應用其實相當困難。第三，當我們讓建構者自由選擇他們想做的事情時，所使用的模型是多樣化的。亞馬遜提供的廣泛而深入的模型使客戶能夠選擇最能滿足其獨特需求的精確功能。透過密切關注客戶需求和技術進步，AWS 定期擴展我們精選的模型，將有前景的新模型與成熟的行業熱門模型結合。這種高效能和差異化模型產品的持續擴展有助於客戶始終站在AI 創新的前沿。
現在，您可以在Amazon Bedrock和Amazon SageMaker AI中部署DeepSeek-R1 模型。 Amazon Bedrock 最適合希望透過API 快速整合預先訓練的基礎模型的團隊。 Amazon SageMaker AI 非常適合需要進階自訂、訓練和部署並且可以存取底層基礎架構的組織。此外，您還可以使用AWS Trainium和AWS Inferentia透過Amazon Elastic Compute Cloud (Amazon EC2)或Amazon SageMaker AI以經濟高效的方式部署DeepSeek-R1-Distill 模型。
借助AWS，您可以使用DeepSeek-R1 模型建立、試驗和負責任地擴展您的生成式AI 創意，只需投入最少的基礎設施投資，即可使用這種強大、經濟高效的模型。您還可以透過建立專為安全性而設計的AWS 服務，自信地推動生成式AI 創新。我們強烈建議您將DeepSeek-R1 模型的部署與Amazon Bedrock Guardrails集成，為您的生成式AI 應用程式增加一層保護，Amazon Bedrock 和Amazon SageMaker AI 客戶都可以使用它。
現在您可以選擇如何在AWS 上部署DeepSeek-R1 模型，方式有以下幾種：
1.DeepSeek-R1 模型的Amazon Bedrock Marketplace
2.DeepSeek-R1 模型的Amazon SageMaker JumpStart
3.DeepSeek-R1-Distill 模型的Amazon Bedrock Cust om Model Import
4.用於DeepSeek-R1-Distill 模型的Amazon EC2 Trn1 實例。
本文可協助您了解在AWS 上開始使用DeepSeek-R1 模型的各種方法。無論是建立第一個AI 應用程式還是擴展現有解決方案，這些方法都可以根據您團隊的專業知識和要求提供靈活的起點。
1. Amazon Bedrock Marketplace 中的DeepSeek-R1 模型
Amazon Bedrock Marketplace提供100 多種流行、新興和專業FM，以及Amazon Bedrock 中當前精選的行業領先模型。可以輕鬆地在單一目錄中發現模型，訂閱模型，然後在託管終端節點上部署模型。
要存取Amazon Bedrock Marketplace 中的DeepSeek-R1 模型，請前往Amazon Bedrock 控制台並選擇Foundation 模型部分下的模型目錄。可以透過搜尋或按模型提供者篩選來快速找到DeepSeek。
在查看包括模型功能和實施指南在內的模型詳細資訊頁面後，可以透過提供端點名稱、選擇實例數量和選擇實例類型來直接部署模型。
還可以配置進階選項，以便自訂DeepSeek-R1 模型的安全性和基礎設施設置，包括VPC 網路、服務角色權限和加密設置。對於生產部署，應該檢查這些設定以符合組織的安全和合規性要求。
借助Amazon Bedrock Guardrails，可以獨立評估使用者輸入和模型輸出。可以透過過濾生成式AI 應用程式中不良和有害的內容，使用定義的策略集控制使用者與DeepSeek-R1 之間的互動。 Amazon Bedrock Marketplace 中的DeepSeek-R1 模型只能與Bedrock 的ApplyGuardrail API一起使用，以評估Amazon Bedrock 以外可用的自訂和第三方FM 的使用者輸入和模型回應。要了解更多信息，請閱讀使用Amazon Bedrock Guardrails 實施獨立於模型的安全措施。
Amazon Bedrock Guardrails 還可以與其他Bedrock 工具（包括Amazon Bedrock Agents和Amazon Bedrock Knowledge Bases）集成，以建立符合負責任AI 政策的更安全、更可靠的生成式AI 應用程式。要了解更多信息，請訪問AWS 負責任AI頁面。
2. Amazon SageMaker JumpStart 中的DeepSeek-R1 模型
Amazon SageMaker JumpStart是一個機器學習(ML) 中心，具有FM、內建演算法和預先建置的ML 解決方案，您只需點擊幾下即可部署。要在SageMaker JumpStart 中部署DeepSeek-R1，您可以在SageMaker Unified Studio、 SageMaker Studio、 SageMaker AI 控制台中發現DeepSeek-R1 模型，或透過SageMaker Python SDK以程式設計方式。
在Amazon SageMaker AI 控制台中，開啟SageMaker Studio 並選擇JumpStartDeepSeek-R1 ，然後在所有公共模型頁面中搜尋“ ” 。
可以選擇模型並選擇部署以使用預設設定建立端點。當端點處於InService狀態時，可以透過向其端點發送請求來進行推理。
可以使用Amazon SageMaker AI功能（例如Amazon SageMaker Pipelines、Amazon SageMaker Debugger或容器日誌）來獲得模型效能和ML 操作控制。此模型部署在AWS 安全環境中並受您的虛擬私有雲(VPC) 控制，有助於支援資料安全。
與Bedrock Marketpalce 一樣，可以使用ApplyGuardrailSageMaker JumpStart 中的API 將生成式AI 應用程式的防護措施與DeepSeek-R1 模型分開。現在，可以在不呼叫FM 的情況下使用防護措施，無論使用哪種模型，這都為將標準化且經過全面測試的企業防護措施更多地整合到您的應用程式流程中打開了大門。
3. 使用Amazon Bedrock Custom Model Import 建構DeepSeek-R1-Distill 模型
Amazon Bedrock Custom Model Import允許透過單一無伺服器統一API 匯入和使用自訂模型以及現有FM，而無需管理底層基礎架構。借助Amazon Bedrock Custom Model Import，可以匯入包含15 億到700 億個參數的DeepSeek-R1-Distill 模型。
將這些公開可用的模型儲存在Amazon Simple Storage Service (Amazon S3)儲存桶或Amazon SageMaker 模型登錄中後，前往Amazon Bedrock 控制台中基礎模型下的導入模型，然後透過Amazon Bedrock 將其匯入並部署到完全託管的無伺服器環境中。這種無伺服器方法無需管理基礎設施，同時提供企業級安全性和可擴充性。
2 月1 日更新– 匯入提煉模型後，您可以使用Bedrock playground 來了解提煉模型對您的輸入的反應。
4. 使用AWS Trainium 和AWS Inferentia 的DeepSeek-R1-Distill 模型
AWS Deep Learning AMI (DLAMI)提供自訂機器映像，可在各種Amazon EC2 執行個體中使用這些映像進行深度學習，從小型CPU 執行個體到最新的高效能多GPU 執行個體。您可以在AWS Trainuim1 或AWS Inferentia2 實例上部署DeepSeek-R1-Distill 模型以獲得最佳性價比。
首先，前往Amazon EC2 控制台trn1.32xlarge並使用名為Deep Learning AMI Neuron (Ubuntu 22.04) 的Neuron Multi Framework DLAMI啟動EC2 執行個體。
連接到已啟動的ec2 實例後，安裝vLLM（用於服務大型語言模型(LLM)的開源工具），並從Hugging Face 下載DeepSeek-R1-Distill 模型。您可以使用vLLM 部署模型並呼叫模型伺服器。
了解事項
以下是需要了解的一些重要事項。
- 定價– 對於DeepSeek-R1 等公開可用的模型，只需根據為Amazon Bedrock Markeplace、Amazon SageMaker JumpStart 和Amazon EC2 選擇的推理實例小時數支付基礎設施價格。對於Bedrock 自訂模型導入，只需根據自訂模型的活躍副本數量支付模型推理費用，以5 分鐘為單位計費。要了解更多信息，請查看Amazon Bedrock 定價、Amazon SageMaker AI 定價和Amazon EC2 定價頁面。
- 資料安全 – 您可以使用Amazon Bedrock 和Amazon SageMaker 中的企業級安全功能來協助您確保資料和應用程式的安全性和私密性。這意味著您的資料不會與模型提供者共享，也不會用於改進模型。這適用於所有模型（專有和公開可用），例如Amazon Bedrock 和Amazon SageMaker 上的DeepSeek-R1 模型。
总结
DeepSeek 模型代表了AWS 在AI 領域的前沿創新，為各行業提供了強大的數據洞察能力。無論是加速決策過程、提升業務智慧化，或是優化客戶體驗，DeepSeek 都能為企業帶來巨大的價值。為了幫助更多企業早日體驗這項領先技術，我們公司現推出特別優惠，為您提供專屬的諮詢和部署支援服務。透過我們，您可以在最短的時間內將DeepSeek 模型應用於實際場景，協助業務轉型與提升競爭力。透過頁面底部掃碼聯絡我們，以了解更多優惠詳情。
