3月8日 消息:Facebook的大型語言模型LLaMa通常只供獲得批準(zhǔn)的研究人員、政府官員或民間社會成員使用，現(xiàn)在已經(jīng)泄露到網(wǎng)上供任何人下載。
據(jù)悉，目前在4chan 上已經(jīng)有人在共享泄露的語言模型。上周，一名成員上傳了 Facebook 工具 LLaMa（(Large Language Model Meta AI）)的 torrent 文件。這標(biāo)志著一家大型科技公司的專有 AI 模型首次遭公開泄露。
迄今為止，谷歌、微軟和 OpenAI 等公司最新模型都處于保密狀態(tài)，只能通過消費者界面或 API 訪問，據(jù)稱是為了控制濫用情況。4chan 成員聲稱在他們自己的機器上運行 LLaMa，但此次泄漏的確切內(nèi)容尚不清楚。
在一份聲明中，Meta 也并沒有否認(rèn) LLaMa 遭泄漏的說法，并強調(diào)了其在研究人員之間共享模型的方法。
“Meta 的目標(biāo)是與研究社區(qū)的成員分享最先進的 AI 模型，以幫助我們評估和改進這些模型。LLaMA 是出于研究目的而共享的，這與我們之前共享大型語言模型的方式一致。雖然并非所有人都可以使用該模型，并且有些人試圖規(guī)避批準(zhǔn)程序，但我們相信當(dāng)前的發(fā)布策略允許我們在責(zé)任和開放之間取得平衡，”Meta 發(fā)言人在一封電子郵件中寫道。
據(jù)了解，與包括 OpenAI 的 GPT-3在內(nèi)的其他人工智能模型一樣，LLaMa 建立在大量單詞或“標(biāo)記”的基礎(chǔ)上。只要在LLaMa 輸入單詞，就能預(yù)測下一個單詞，并生成更多文本。
LLaMa 有多個不同大小的版本，其中 LLaMa65B 和 LLaMa33B 在1.4萬億token上進行了訓(xùn)練。該模型主要從維基百科、書籍、以及來自 ArXiv、GitHub、Stack Exchange 和其他網(wǎng)站的學(xué)術(shù)論文中收集的數(shù)據(jù)集上訓(xùn)練的。
報道稱，Meta 似乎正在在線提交該模型的刪除請求以控制其傳播。
來源：站長之家
