亞馬遜云科技近日啟動了其re:Invent 2024中國行全國巡演活動,覆蓋了包括北京、上海、深圳在內的多個重要城市,為企業和開發者們帶來了一場技術與創新的盛宴。此次巡演的核心亮點在于亞馬遜云科技在全球大會上公布的一系列創新舉措,旨在通過全棧聯動的方式,幫助企業更好地應用生成式AI技術,重塑云上創新的體驗。
在上海站的活動中,亞馬遜云科技大中華區解決方案架構總經理代聞指出,技術領域的一個普遍現實是,沒有任何一個大模型能夠勝任所有任務。因此,他強調,根據不同的應用場景靈活選擇模型,并在多模型統籌管理下為不同智能體精準賦能,是至關重要的。
亞馬遜云科技此次發布的創新主要集中在生成式AI、數據戰略和云服務三大領域。在生成式AI方面,公司推出了Amazon Nova系列基礎模型,并對Amazon SageMaker、Amazon Bedrock和Amazon Q等核心服務進行了強化。這些舉措旨在通過降低訓練和推理成本、提供更多的模型選擇以及更深入的應用場景覆蓋,全面加速企業應用生成式AI的創新步伐。在數據戰略上,新一代Amazon SageMaker為數據、分析和AI提供了一個統一的平臺,同時Amazon S3新增了Tables存儲類型和元數據功能,以及無服務器分布式SQL數據庫Amazon Aurora DSQL,進一步提升了用戶的數據管理能力。而在云服務方面,亞馬遜云科技推出了搭載Trainium2芯片的新型計算實例和專為萬億參數模型提供實時推理性能的超級服務器。
Amazon Nova系列基礎模型是此次發布的一大亮點,包括Nova Micro、Nova Lite、Nova Pro和Nova Premier等多個基礎模型,以及專門用于生成高質量圖像的Nova Canvas和生成高質量視頻的Nova Reel。這些模型在各自的智能類別中表現出色,應用成本相比Amazon Bedrock中表現最佳的模型降低了至少75%,同時還是對應類別中速度最快的模型。
代聞還提到,當前越來越多的客戶不再孤立地使用不同的數據分析工具,而是將分析、機器學習和生成式AI相結合來獲取洞察。為此,新一代Amazon SageMaker提供了一個新的、統一的工作室環境,讓客戶能夠查找和訪問組織中的所有數據,選擇最佳工具處理各種常見數據用例,并將數據和AI項目擴展至團隊內的不同角色以實現協作。
在全球大規模計算集群中,能源消耗已成為一個備受關注的問題。代聞指出,電力已成為一種稀缺資源,特別是在很多海外地區,電力和碳排放緊密相連。因此,服務器的綜合成本不僅取決于價格,還包括能效表現。在規定能耗范圍內提升算力,不僅有助于企業節約成本,還能減少碳排放。對于有在海外進行工作負載部署或計劃開展機器學習工作負載部署的用戶,他建議特別關注能效問題。
亞馬遜云科技在數據中心設計方面也進行了創新,通過簡化電力分配和機械系統,實現了基礎設施的高可用性,減少了受電氣問題影響的機架數量。創新的“液體到芯片”冷卻系統結合了空氣和液體冷卻功能,降低了機械能耗。全新設計讓每個站點提供了更多的計算能力,同時在可持續性方面取得了重要突破,如采用可再生柴油作為備用發電系統燃料,顯著減少了溫室氣體排放。
亞馬遜云科技還預發布了Amazon Trainium3芯片,該芯片采用3納米制程工藝,計算速度提高兩倍,能效提升40%以上。代聞表示,生成式AI的需求往往是由用戶業務側反向推動產生的,這種需求推動了整個技術棧的演進。此次發布的Trainium2芯片是專為生成式AI設計的原生芯片,而Amazon Bedrock和Amazon Q則分別面向大模型管理和生成式AI的場景化應用,這體現了技術創新與需求聯動的趨勢。