技術分享&最新動態

隨著生成式AI的發展，大語言模型（LLM）推理成為企業在建構智慧應用時的核心算力需求之一。相較於訓練環節，推理階段的負荷更廣泛、即時性要求更高，同時也更重視效能與成本的平衡。在這一背景下，Amazon Web Services（AWS）自研的Graviton 系列處理器，憑藉其卓越的性價比與廣泛的兼容性，正成為AI推理的新選擇。

AWS Glue究竟是如何向客戶收費的呢？取得資料整合的成本似乎相當複雜，尤其是AWS Glue的費用。對於所有使用AWS 的用戶（無論是資料工程師還是科技新創公司）來說，了解在雲端開展業務與為所提供服務而花費的資源之間的關係至關重要。 AWS Glue支援建立功能強大的無伺服器資料集成，這表示可以轉換、豐富和載入資料。但是，如果您不明確了解AWS Glue 的定價方案，使用AWS Glue 可能會產生一些費用。

隨著組織越來越多地遷移到雲，保護其資源變得至關重要。 AWS提供一系列工具來幫助使用者保護其環境，而安全框架中最基本的組成部分之一是AWS安全群組。安全群組是專門為Amazon EC2 （Elastic Compute Cloud）執行個體設計的，它就像虛擬防火牆，控制入站和出站流量。本文深入探討AWS安全群組，詳細介紹其功能、最佳實踐，以及它們如何幫助您有效地保護您的EC2 執行個體。

在過去十餘年中，亞馬遜始終深耕語音技術的前沿領域，持續為對話式人工智慧的演進注入動力。從Amazon Alexa這樣享譽全球的智慧語音助手，到Amazon Lex、Amazon Polly和Amazon Connect等一系列雲端服務，亞馬遜不斷推動語音AI在真實業務中的落地與創新。

為了幫助企業用戶更有效率地評估和優化大語言模型（LLM）的輸出效果，Amazon Bedrock現已正式推出LLM-as-a-Judge 模型評測能力。這項新功能透過使用大型語言模型對模型輸出進行品質判斷，提供更快速、可擴展且一致的評測方式，從而簡化模型對比、微調和落地應用過程中的評估流程。