在今年的Amazon re:Invent大會上，第二天的焦點明顯轉向了模型訓練、推理及應用落地，一系列創(chuàng)新工具和服務成為了全場矚目的亮點。Amazon SageMaker、Amazon Bedrock和Amazon Q，作為這一戰(zhàn)略的核心組成部分，正引領著生成式AI技術的全新發(fā)展方向。
亞馬遜云科技的人工智能與數(shù)據副總裁Swami Sivasubramanian指出，我們正站在生成式AI發(fā)展的十字路口，盡管前路并非總是清晰明了，但推動技術進步的好奇心與解決客戶實際問題的決心，正成為我們前行的強大動力。
Amazon SageMaker，這一全球數(shù)十萬客戶信賴的平臺，已經憑借其卓越的功能成為了構建、訓練和部署機器學習模型的首選。在今年的Keynote演講中，亞馬遜云科技的首席執(zhí)行官Matt Garman詳細介紹了下一代SageMaker的愿景，它將大數(shù)據處理、快速SQL分析、機器學習以及生成式AI的核心能力整合到一個統(tǒng)一的平臺中，為用戶提供前所未有的便捷體驗。
為了進一步提升SageMaker的訓練效率，亞馬遜云科技推出了Amazon SageMaker HyperPod。這款創(chuàng)新的解決方案具備出色的彈性能力，能夠在集群遭遇全棧故障時自動恢復，同時提供快速的檢查點和主動計算資源管理功能。HyperPod的靈活訓練計劃和任務治理功能，更是極大地簡化了模型訓練計劃的管理，提高了計算資源的利用率，降低了成本。
在推理領域，Amazon Bedrock正成為企業(yè)構建和擴展生成式AI應用的得力助手。它不僅是一個模型庫，更是一種一站式解決方案，覆蓋了從模型選擇、成本優(yōu)化、延遲和準確性提升，到數(shù)據定制、安全性和負責任AI，再到構建和協(xié)調Agent的全方位能力。通過Bedrock的統(tǒng)一API，用戶可以輕松訪問來自領先提供商的100多個新興和專業(yè)基礎模型，并結合知識庫、智能防護和智能代理功能，實現(xiàn)更高效的應用開發(fā)。
Amazon Bedrock還引入了多項創(chuàng)新功能，如提示詞緩存和提示詞智能路由，以大幅降低延遲和成本。同時，它還提供了Amazon Kendra GenAI Index，為RAG和Bedrock提供托管檢索服務，簡化了對企業(yè)數(shù)據源的連接和使用。在數(shù)據自動化方面，Bedrock能夠自動化非結構化多模態(tài)數(shù)據的轉換，為結構化數(shù)據檢索提供支持，并增強了GraphRAG對知識圖譜的集成。
Amazon Q作為生成式AI助手，也在大會上大放異彩。Amazon Q Developer不僅成為了亞馬遜云科技專家的得力助手，更是一款功能強大的軟件開發(fā)生成式AI助手。它支持SageMaker Canvas中的自然語言開發(fā)ML模型，幫助經驗較少的客戶輕松上手。同時，Amazon Q還在Quicksight Scenarios中提供了支持，實現(xiàn)了BI對復雜業(yè)務問題的自動拆解，加速了商業(yè)分析的過程。
盡管亞馬遜云科技提供了如此完備的產品和技術服務，但企業(yè)在面對生成式AI時仍然面臨一些挑戰(zhàn)。亞馬遜云科技全球服務副總裁Uwem Ukpong總結了三大挑戰(zhàn)：云遷移瓶頸、數(shù)據孤島難題以及應用場景聚焦不足。為了解決這些問題，亞馬遜云科技成立了生成式AI創(chuàng)新中心，與客戶合作完成了超過700個應用案例。對于不同技術水平的客戶，亞馬遜云科技提供了從“低強度指導”到“白手套服務”的全方位支持，幫助客戶獨立推進項目或一起構建生成式AI應用。
在概念驗證項目中，Uwem Ukpong強調，企業(yè)需要認真評估成本與收益，分析投資回報率，并判斷具體的用例是否值得重點推進。通過這一系列的創(chuàng)新舉措和全方位支持，亞馬遜云科技正致力于推動生成式AI技術的廣泛應用和深入發(fā)展。
