Meta并不像谷歌、微軟等科技巨頭從事銷售云計算服務的業務,過去公司從未公開談論其內部數據中心芯片項目。
為了更好地支持人工智能項目,科技巨頭競相在企業內部研發AI芯片。Facebook母公司Meta在5月18日首次宣布了其AI自研芯片項目,并分享了數據中心項目的新細節。
Meta并不像谷歌、微軟等科技巨頭從事銷售云計算服務的業務,過去公司從未公開談論其內部數據中心芯片項目。但Meta高管稱,全球科技界都對此表現出興趣,所以有必要與外界溝通。
Meta當天股價上漲近2%。今年以來,該公司累計漲幅已經翻番。
在一篇博客文章中,Meta公司表示,它早在2020年就設計了第一代芯片,作為Meta訓練和推理加速器(MTIA)計劃的一部分,主要用于提升廣告投放和其他內容推薦模型的效率。
據Meta介紹,首個MTIA芯片將專注于AI推理。Meta軟件工程師Joel Coburn表示,Meta最初考慮將GPU用于推理任務,但后來發現GPU并不不太適合推理工作。
“GPU在真實模型應用方面的效率仍然很低,而且部署起來成本高昂。”Coburn表示,“這就是我們需要MTIA的原因。”
研究機構Gartner分析師盛陵海對第一財經記者表示:“英偉達的GPU也可以用于推理,但是效能不一定合適,因為推理需要的算力區別很大,很多時候會浪費算力,就好像重型卡車不適合做保姆車。還是要根據具體應用場景,匹配相應的算力。”
市場認為,AI芯片最終將支持更高級的元宇宙相關任務,例如虛擬現實和增強現實,以及新興的生成式人工智能領域。
今年2月,Meta發布了新的大型語言模型LLaMA之后,扎克伯格宣布公司正在創建一個專注于生成式AI研發的頂級團隊。
目前Meta使用由16000個英偉達A100 GPU組成的超級計算機來訓練LLaMA語言模型。公司稱,最大的LLaMA語言模型LLaMA 65B包含650億個參數。相比之下,谷歌最新發布的大型語言模型PaLM 2包含了3400億個參數。
Meta去年開啟大規模裁員,并轉而加大對AI技術基礎設施的投資建設。不過,它沒有就MTIA新型芯片的部署時間表發表評論。
Meta承認,MTIA芯片在處理高復雜度AI模型時仍然面臨挑戰,但在處理中低復雜度模型時,比競爭對手的芯片更有效。
“MTIA芯片的功耗僅為25瓦,遠低于英偉達等廠商的芯片功耗,并使用RISC-V的開源芯片架構。”Meta在博客中表示,“性能的改進將證明投資是合理的。”
另據博客文章介紹,該芯片處理器采用臺積電7納米工藝制造。不過公司沒有進一步透露相關的細節。
Meta還介紹了一種稱作“可規模化視頻處理器”(MSVP)的芯片,可用于處理視頻并傳輸,同時降低能源需求。公司稱,每天需要處理40億個視頻的任務。
【來源:第一財經】