Amazon Web Services(AWS)는 중국 스타트업 DeepSeek의 최신 AI 모델인 DeepSeek-R1 시리즈를 공식 출시하여 생성적 인공지능 솔루션을 다시 한번 확장했습니다. DeepSeek-R1 시리즈는 현재 AWS Bedrock과 Amazon SageMaker AI에 배포할 수 있습니다. 인공지능의 급속한 발전으로 딥러닝 기술은 혁신과 산업 업그레이드를 위한 핵심 동력이 되었습니다. 선도적인 생성적 인공지능 서비스인 AWS Bedrock 플랫폼은 최근 DeepSeek-R1 모델을 출시하여 딥러닝 분야의 기술 역량을 더욱 강화했습니다. DeepSeek-R1은 컴퓨팅 효율성과 모델 정확도 면에서 뛰어날 뿐만 아니라, 다양한 산업에 대해 더욱 정확하고 효율적인 AI 솔루션을 제공합니다. AWS Bedrock은 이 강력한 모델의 도움으로 기업이 지능형 전환을 가속화하고, 혁신의 속도를 높이고, 더 복잡한 AI 애플리케이션 시나리오의 실현을 촉진하는 데 도움이 될 것입니다.
DeepSeek-R1: 생성 AI의 새로운 이정표
DeepSeek-R1 시리즈 모델은 2025년 1월 20일에 출시되었으며, 여기에는 DeepSeek-R1과 DeepSeek-R1-Zero가 포함되며, 최대 6,710억 개의 매개변수(671B)를 포함하고 있으며, 매개변수 크기가 15억(15B)에서 700억(700B)까지 다양한 증류된 소형화 모델(DeepSeek-R1-Distill)도 출시되었습니다. 이러한 모델은 혁신적인 강화 학습(RL) 훈련 기술 덕분에 뛰어난 추론 능력을 갖춘 것으로 알려져 있으며, 더 낮은 비용으로 OpenAI 및 기타 상용 모델과 비교할 수 있는 성능을 제공할 수 있습니다.
DeepSeek-R1의 주요 특징:
- 강화 학습 혁신：DeepSeek-R1-Zero는 지도 미세 조정(SFT) 학습이 아닌 강화 학습에 전적으로 기반한 최초의 모델로, 자체 검증 및 긴 사고 사슬(CoT) 기능을 구현했습니다.
- 다양한 용도: 수학적 추론이든, 코드 생성이든, 일반 추론이든, DeepSeek-R1은 여러 벤치마크에서 우수한 성능을 보이며, 업계를 선도하는 많은 모델을 능가하기도 합니다.
- 비용 효율적이고 유연함: DeepSeek 모델의 비용은 비슷한 상용 모델의 5~10%에 불과해 비용을 효과적으로 통제해야 하는 기업에 적합합니다.
AWS Bedrock 및 SageMaker AI: DeepSeek-R1의 유연한 배포
AWS는 다양한 유형의 사용자 요구 사항을 충족하기 위해 DeepSeek-R1 모델을 배포하는 여러 가지 방법을 제공합니다.
1. 아마존 베드록 마켓플레이스
AWS Bedrock은 인프라 관리가 필요 없는 서버리스 서비스입니다. DeepSeek-R1 모델은 이제 Bedrock Marketplace에서 사용할 수 있으며, 사용자는 API를 통해 이를 애플리케이션에 직접 통합할 수 있습니다.
- 간단하고 편리하다: 사용자는 Bedrock 콘솔에서 DeepSeek-R1만 선택하고 엔드포인트 이름과 인스턴스 유형을 구성한 다음 모델을 배포하기만 하면 됩니다.
- 안전하고 신뢰할 수 있는: Bedrock Guardrails와 같은 도구를 통해 사용자는 불쾌한 콘텐츠를 걸러내고 생성 AI의 보안과 규정 준수를 보장할 수 있습니다.
- 즉석 테스트: 사용자는 Bedrock Playground를 사용하여 모델 출력을 테스트하고 프롬프트 설계를 최적화하여 최상의 결과를 얻을 수 있습니다.
2. 심층 증류 모델의 유연한 선택
DeepSeek-R1-Distill 모델(Llama 및 Qwen에서 학습됨)은 이제 Amazon Bedrock Custom Model Import 기능을 통해 배포할 수 있습니다. 이러한 모델은 대형 모델의 뛰어난 추론 능력과 소형 모델의 높은 효율성을 결합한 것으로, 낮은 지연 시간과 높은 비용 효율성이 필요한 애플리케이션 시나리오에 적합합니다. 동시에 이러한 증류 모델은 고객, 특히 비용 및 성능 요구 사항에 민감하고 대형 모델이 필요하지 않은 기업 사용자에게 더 많은 선택권을 제공하며, 보다 경제적인 방식으로 실제 비즈니스 요구 사항을 충족할 수 있습니다.
DeepSeek-R1 시리즈는 대형 모델이든 소형 증류 모델이든 고객의 다양한 요구에 따라 유연하게 구축할 수 있어 기업이 생성적 AI에 가장 적합한 솔루션을 찾는 데 도움이 됩니다.
3. Amazon SageMaker JumpStart
SageMaker JumpStart는 사용자가 DeepSeek-R1을 SageMaker 플랫폼에 빠르게 배포할 수 있는 AWS의 머신 러닝 허브입니다.
- 고급 사용자 정의: SageMaker는 빠른 배포 외에도 추가적인 모델 미세 조정 및 성능 모니터링을 지원하므로 특정 요구 사항이 있는 기업에 적합합니다.
- 완전히 통합됨: SageMaker가 제공하는 파이프라인과 디버거와 같은 도구는 사용자가 모델 성능을 보다 효과적으로 분석하고 운영 제어를 수행하는 데 도움이 될 수 있습니다.
4. AWS Trainium 및 Inferentia의 비용 효율적인 배포
AWS의 Trainium 및 Inferentia 칩을 사용하면 사용자는 Amazon EC2에서 DeepSeek-R1-Distill 모델을 실행하여 높은 성능을 유지하면서도 운영 비용을 더욱 줄일 수 있습니다.
기업용 애플리케이션에 이상적
