來(lái)源：三易生活
繼此前在今年 3 月 29 日，圖靈獎(jiǎng)得主 Yoshua Bengio、推特 CEO 馬斯克等多位業(yè)界和學(xué)界人士聯(lián)署公開(kāi)信，呼吁所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比 GPT-4 更為強(qiáng)大的人工智能系統(tǒng)、暫停至少 6 個(gè)月，以便制定和實(shí)施安全協(xié)議后。近日在麻省理工學(xué)院舉行的一個(gè)討論商業(yè)和人工智能的活動(dòng)中，OpenAI 首席執(zhí)行官兼聯(lián)合創(chuàng)始人 Sam Altman 對(duì)這一事件以及 GPT-4 后續(xù)研發(fā)等問(wèn)題進(jìn)行了回應(yīng)。
Sam Altman 指出，他也認(rèn)為人工智能確實(shí)存在重大的安全挑戰(zhàn)，隨著大模型的能力越來(lái)越強(qiáng)，與之對(duì)應(yīng)的安全措施確實(shí)需要增加。據(jù)他透露，GPT-4 便是在訓(xùn)練完成后六個(gè)月才發(fā)布，期間公司對(duì)其進(jìn)行了大量安全性方面的研究，并接受了外部審核。Sam Altman 表示，" 自從我們發(fā)布 GPT-4 以后，一切都很不錯(cuò)。"
事實(shí)上，此前在今年早些時(shí)候，Sam Altman 就曾不止一次承認(rèn)人工智能技術(shù)讓他 " 有點(diǎn)害怕 "。并且他還認(rèn)為，隨著人工智能技術(shù)的不斷發(fā)展，人類可能面臨著前所未有的挑戰(zhàn)和風(fēng)險(xiǎn)。
但 Sam Altman 也認(rèn)為，馬斯克等人呼吁將人工智能研發(fā)工作暫停 6 個(gè)月的公開(kāi)信 " 缺少大部分技術(shù)細(xì)節(jié)，無(wú)法了解需要暫停的地方 "，而且暫停訓(xùn)練并非人工智能安全問(wèn)題的解決之道。
就在此次活動(dòng)舉行的的當(dāng)天，OpenAI 公司總裁兼聯(lián)合創(chuàng)始人 Greg Brockman 還發(fā)布一段長(zhǎng)文，強(qiáng)調(diào)公司對(duì)大模型安全問(wèn)題的重視。他表示，" 我們計(jì)劃繼續(xù)加強(qiáng)我們就安全問(wèn)題采取的措施，更積極地面對(duì)安全性問(wèn)題，要比很多用戶想的更積極。"
此外 Sam Altman 還指出，這封公開(kāi)信的早期版本曾聲稱 OpenAI 目前正在訓(xùn)練 GPT-5，但這是謠傳，" 我們現(xiàn)在沒(méi)有訓(xùn)練，也短期內(nèi)不會(huì)訓(xùn)練 GPT-5 ……所以從這個(gè)意義上說(shuō)，這封信有點(diǎn)兒愚蠢 "。
但同時(shí)他也透露，目前該公司正在拓展 GPT-4 的能力，并表示，" 我們正在 GPT-4 之上做其他事情，我認(rèn)為這些都涉及到安全問(wèn)題，這些問(wèn)題在信中被完全忽略了 "。
此外 Sam Altman 還提及，目前人工智能相關(guān)監(jiān)管的一個(gè)重要挑戰(zhàn)是難以衡量和跟蹤進(jìn)展。具體來(lái)說(shuō)，有編號(hào)的版本產(chǎn)品只是為了強(qiáng)調(diào)技術(shù)的明確發(fā)展，但并不能說(shuō)明具體的技術(shù)進(jìn)步程度，這實(shí)際上只是一種 " 營(yíng)銷工具 "，例如 iPhone 35 要比 iPhone 34 好。
Sam Altman 還表示，目前大語(yǔ)言模型的規(guī)模可能正在接近極限，而且大語(yǔ)言模型并不是規(guī)模越大越好，" 人們太關(guān)注參數(shù)數(shù)量了，我認(rèn)為最重要的是提升性能 "。
