생성적 AI 애플리케이션이 확장됨에 따라 컴퓨팅 비용이 매우 중요해졌습니다. 사람들은 더 나은 가성비를 원합니다. 두 번째로, 정말 좋은 생성 AI 애플리케이션을 만드는 것은 실제로 매우 어렵습니다. 셋째, 건설업체에 원하는 것을 선택할 수 있는 자유를 주면 다양한 모델을 사용할 수 있습니다. Amazon이 제공하는 모델의 폭넓고 심도 있는 기능을 통해 고객은 자신의 고유한 요구 사항에 가장 적합한 기능을 정확하게 선택할 수 있습니다. AWS는 고객의 요구 사항과 기술 발전을 면밀히 모니터링하여 유망한 신규 모델과 이미 업계에서 선호되는 모델을 결합하여 모델 선택을 정기적으로 확대합니다. 고성능 및 차별화된 모델 제공을 지속적으로 확대함으로써 고객은 AI 혁신의 최전선에 설 수 있습니다.
이제 Amazon Bedrock과 Amazon SageMaker AI를 사용할 수 있습니다.Amazon Bedrock에 DeepSeek-R1 모델을 배포하는 것은 API를 통해 사전 훈련된 기본 모델을 빠르게 통합하려는 팀에 가장 적합합니다. Amazon SageMaker AI는 기본 인프라에 대한 액세스를 통해 고급 사용자 정의, 교육 및 배포가 필요한 조직에 적합합니다. 또한 AWS Trainium과 AWS Inferentia를 사용하면 Amazon Elastic Compute Cloud(Amazon EC2) 또는 Amazon SageMaker AI를 통해 DeepSeek-R1-Distill 모델을 비용 효율적으로 배포할 수 있습니다.
AWS를 사용하면 DeepSeek-R1 모델을 사용하여 생성적 AI 아이디어를 구축, 실험하고 책임감 있게 확장할 수 있으며, 최소한의 인프라 투자로 이 강력하고 비용 효율적인 모델을 사용할 수 있습니다. 보안을 염두에 두고 구축된 AWS 서비스를 통해 자신 있게 생성적 AI 혁신을 추진할 수도 있습니다. Amazon Bedrock 및 Amazon SageMaker AI 고객 모두가 이용할 수 있는 생성 AI 애플리케이션에 대한 보안 계층을 추가하기 위해 DeepSeek-R1 모델 배포를 Amazon Bedrock Guardrails와 통합하는 것을 적극 권장합니다.
이제 다음과 같은 방법으로 AWS에 DeepSeek-R1 모델을 배포하는 방법을 선택할 수 있습니다.
1. DeepSeek-R1 모델용 Amazon Bedrock Marketplace
2. DeepSeek-R1 모델용 Amazon SageMaker JumpStart
3. DeepSeek-R1-Distill 모델에 대한 Amazon Bedrock 고객 모델 가져오기
4. DeepSeek-R1-Distill 모델에 대한 Amazon EC2 Trn1 인스턴스.
이 문서는 AWS에서 DeepSeek-R1 모델을 사용하는 다양한 방법을 이해하는 데 도움이 됩니다. 최초의 AI 애플리케이션을 구축하든 기존 솔루션을 확장하든 이러한 방법론은 팀의 전문 지식과 요구 사항에 따라 유연한 시작점을 제공합니다.
1. Amazon Bedrock Marketplace의 DeepSeek-R1 모델
Amazon Bedrock Marketplace에서는 100개가 넘는 인기, 신규, 전문 FM을 제공하며, 현재 Amazon Bedrock에 있는 업계 최고 모델을 엄선하여 제공합니다. 단일 카탈로그에서 모델을 쉽게 검색하고, 이를 구독한 다음 관리형 엔드포인트에 배포할 수 있습니다.
Amazon Bedrock Marketplace에서 DeepSeek-R1 모델에 액세스하려면 Amazon Bedrock 콘솔로 이동하여 다음을 선택하세요.기초 모델섹션 아래에모델 카탈로그. DeepSeek은 모델 제공업체로 검색하거나 필터링하여 빠르게 찾을 수 있습니다.
모델 기능과 구현 지침을 포함한 모델 세부 정보 페이지를 본 후 엔드포인트 이름을 제공하고, 인스턴스 수를 선택하고, 인스턴스 유형을 선택하여 모델을 직접 배포할 수 있습니다.
또한 VPC 네트워킹, 서비스 역할 권한, 암호화 설정을 비롯하여 DeepSeek-R1 모델의 보안 및 인프라 설정을 사용자 정의하기 위한 고급 옵션을 구성할 수 있습니다. 실제 운영에 배포하는 경우 조직의 보안 및 규정 준수 요구 사항을 충족하도록 이러한 설정을 검토해야 합니다.
Amazon Bedrock Guardrails를 사용하면 사용자 입력과 모델 출력을 독립적으로 평가할 수 있습니다. 사용자와 DeepSeek-R1 간의 상호 작용은 생성 AI 애플리케이션에서 불쾌하고 유해한 콘텐츠를 필터링하여 정의된 정책 세트를 사용하여 제어할 수 있습니다. Amazon Bedrock Marketplace의 DeepSeek-R1 모델은 Bedrock의 ApplyGuardrail API와 함께만 사용하여 Amazon Bedrock 외부에서 제공되는 사용자 입력과 사용자 정의 및 타사 FM에 대한 모델 응답을 평가할 수 있습니다. 자세한 내용은 Amazon Bedrock Guardrails를 사용하여 모델 독립적 보안 조치 구현을 읽어보세요.
Amazon Bedrock Guardrails는 Amazon Bedrock Agents 및 Amazon Bedrock Knowledge Bases를 비롯한 다른 Bedrock 도구와 통합하여 책임 있는 AI 정책을 준수하는 보다 안전하고 안정적인 생성 AI 애플리케이션을 구축할 수도 있습니다. 자세한 내용은 AWS Responsible AI 페이지를 방문하세요.
2. Amazon SageMaker JumpStart의 DeepSeek-R1 모델
Amazon SageMaker JumpStart는 FM, 내장 알고리즘, 몇 번의 클릭만으로 배포할 수 있는 사전 구축된 ML 솔루션을 갖춘 머신 러닝(ML) 허브입니다. SageMaker JumpStart에 DeepSeek-R1을 배포하려면 SageMaker Unified Studio, SageMaker Studio, SageMaker AI 콘솔에서 DeepSeek-R1 모델을 검색하거나 SageMaker Python SDK를 통해 프로그래밍 방식으로 검색할 수 있습니다.
Amazon SageMaker AI 콘솔에서 SageMaker Studio를 열고 선택하세요.점프스타트딥시크-R1 , 그 다음에모든 공개 모델페이지에서 " "를 검색하세요.
모델을 선택하고 배포를 선택하면 기본 설정으로 엔드포인트를 만들 수 있습니다. 종료점이 있을 때인서비스상태에 도달하면 해당 상태의 엔드포인트에 요청을 보내 추론을 수행할 수 있습니다.
Amazon SageMaker Pipelines, Amazon SageMaker Debugger 또는 컨테이너 로그와 같은 Amazon SageMaker AI 기능을 사용하면 모델 성능과 ML 작업을 제어할 수 있습니다. 이 모델은 AWS 보안 환경에 배포되고 Virtual Private Cloud(VPC)에서 제어되어 데이터 보안을 지원하는 데 도움이 됩니다.
Bedrock Marketplace와 마찬가지로 사용할 수 있습니다.ApplyGuardrailSageMaker JumpStart의 API는 DeepSeek-R1 모델에서 생성 AI 애플리케이션을 위한 가드레일을 분리합니다. 이제 FM을 호출하지 않고도 가드를 사용할 수 있으므로, 사용된 모델에 관계없이 표준화되고 철저히 테스트된 엔터프라이즈 가드를 애플리케이션 프로세스에 더욱 통합할 수 있습니다.
3. Amazon Bedrock Custom Model Import를 사용하여 DeepSeek-R1-Distill 모델 구축
Amazon Bedrock Custom Model Import를 사용하면 기본 인프라를 관리할 필요 없이 단일의 서버리스, 통합 API를 통해 기존 FM과 함께 사용자 정의 모델을 가져와서 사용할 수 있습니다. Amazon Bedrock Custom Model Import를 사용하면 15억 개에서 700억 개에 달하는 매개변수 범위의 DeepSeek-R1-Distill 모델을 가져올 수 있습니다.
공개적으로 사용 가능한 모델을 Amazon Simple Storage Service(Amazon S3) 버킷이나 Amazon SageMaker 모델 레지스트리에 저장한 후 Amazon Bedrock 콘솔로 이동합니다.기본 모델다음모델 가져오기그런 다음 Amazon Bedrock을 통해 완전히 관리되는 서버리스 환경으로 가져와 배포합니다. 이러한 서버리스 접근 방식은 엔터프라이즈급 보안과 확장성을 제공하는 동시에 인프라를 관리할 필요성을 없애줍니다.
2월 1일에 업데이트됨– 정제된 모델을 가져온 후에는 Bedrock 플레이그라운드를 사용하여 정제된 모델이 입력에 어떻게 반응하는지 파악할 수 있습니다.
4. AWS Trainium과 AWS Inferentia를 사용한 DeepSeek-R1-Distill 모델
AWS Deep Learning AMI(DLAMI)는 소규모 CPU 인스턴스부터 최신 고성능 다중 GPU 인스턴스까지 광범위한 Amazon EC2 인스턴스에서 딥 러닝에 사용할 수 있는 맞춤형 머신 이미지를 제공합니다. 최상의 가격 대비 성능을 얻으려면 DeepSeek-R1-Distill 모델을 AWS Trainuim1 또는 AWS Inferentia2 인스턴스에 배포할 수 있습니다.
먼저 Amazon EC2 콘솔로 이동하세요trn1.32xlarge그리고 Deep Learning AMI Neuron(Ubuntu 22.04)이라는 Neuron Multi Framework DLAMI를 사용하여 EC2 인스턴스를 시작합니다.
시작된 ec2 인스턴스에 연결한 후 대규모 언어 모델(LLM)을 제공하기 위한 오픈소스 도구인 vLLM을 설치하고 Hugging Face에서 DeepSeek-R1-Distill 모델을 다운로드합니다. vLLM을 사용하여 모델을 배포하고 모델 서버를 호출할 수 있습니다.
알아야 할 사항
알아두어야 할 중요한 사항은 다음과 같습니다.
- 가격– DeepSeek-R1과 같은 공개적으로 사용 가능한 모델의 경우 Amazon Bedrock Markeplace, Amazon SageMaker JumpStart 및 Amazon EC2에 대해 선택한 추론 인스턴스 시간 수에 따라서만 인프라 가격을 지불합니다. Bedrock 사용자 정의 모델 가져오기의 경우, 사용자 정의 모델의 활성 사본 수를 기준으로 모델 추론 비용만 지불하며, 5분 단위로 요금이 청구됩니다. 자세한 내용을 알아보려면 Amazon Bedrock 가격, Amazon SageMaker AI 가격 및 Amazon EC2 가격 페이지를 확인하세요.
- 데이터 보안 – Amazon Bedrock과 Amazon SageMaker의 엔터프라이즈급 보안 기능을 사용하면 데이터와 애플리케이션을 안전하고 비공개로 유지할 수 있습니다. 즉, 귀하의 데이터는 모델 제공자와 공유되지 않으며, 모델을 개선하는 데 사용되지 않습니다. 이는 Amazon Bedrock 및 Amazon SageMaker의 DeepSeek-R1 모델과 같이 모든 모델(독점적 및 공개적으로 사용 가능한 모델)에 적용됩니다.
요약하다
DeepSeek 모델은 AI 분야에서 AWS의 최첨단 혁신을 나타내며, 다양한 산업에 강력한 데이터 통찰력 기능을 제공합니다. DeepSeek은 의사결정 프로세스를 가속화하거나, 비즈니스 인텔리전스를 개선하거나, 고객 경험을 최적화하는 등 기업에 막대한 가치를 가져다줄 수 있습니다. 더 많은 회사가 가능한 한 빨리 이 선도적인 기술을 경험할 수 있도록 돕기 위해, 저희 회사는 귀하에게 독점적인 컨설팅 및 배포 지원 서비스를 제공하는 특별 행사를 시작합니다. 저희를 통해 최단 시간 내에 DeepSeek 모델을 실제 시나리오에 적용하여 비즈니스 혁신을 지원하고 경쟁력을 강화할 수 있습니다. 자세한 혜택 내용을 알아보려면 페이지 하단의 QR 코드를 스캔하여 문의하세요.
