12 月 7 日消息,據(jù) TechCrunch 今日?qǐng)?bào)道,一支匿名開發(fā)團(tuán)隊(duì) Freysa.ai 設(shè)計(jì)了一系列日益復(fù)雜的挑戰(zhàn),旨在改變?nèi)藗儗?duì) AI 安全性的看法。
目前該公司提出的最新挑戰(zhàn)是:如果你能夠第一個(gè)成功誘使 Freysa AI 機(jī)器人說(shuō)出“我愛你”,將獲得從 3000 美元(IT之家備注:當(dāng)前約 21819 元人民幣)到數(shù)萬(wàn)美元不等的獎(jiǎng)金。
根據(jù) Freysa 官網(wǎng)的描述,F(xiàn)reysa 機(jī)器人是由一支不到 10 名開發(fā)者的團(tuán)隊(duì)創(chuàng)建的,這些開發(fā)者來(lái)自密碼學(xué)、人工智能和數(shù)學(xué)領(lǐng)域。團(tuán)隊(duì)的一位成員表示,他們的靈感來(lái)自近年來(lái)人工智能的快速發(fā)展。他表示:“隨著 AI 功能越來(lái)越強(qiáng)大,我們需要探索新的互動(dòng)方式,也需要找到共同治理 AI 的方法,并參與到這一 AI 革新帶來(lái)的好處中。”
Freysa 是一個(gè)科幻風(fēng)格的角色,創(chuàng)始人希望她能成為一個(gè)“完全獨(dú)立自主的智能體”,并掌握一定的財(cái)務(wù)權(quán)力 —— 這意味著 Freysa 將擁有自己的加密錢包,并能自由支配資金。
這個(gè)項(xiàng)目已經(jīng)吸引了馬斯克和布萊恩?阿姆斯特朗的關(guān)注。然而,創(chuàng)始人堅(jiān)持要保持匿名。“坦白說(shuō),在人類的歷史長(zhǎng)河中,我們并不那么重要。我們真正關(guān)心的是技術(shù)的演進(jìn),確保它能夠支持一個(gè)由人類主導(dǎo)的未來(lái)。”
在前兩輪挑戰(zhàn)中,F(xiàn)reysa 錢包中起初有 3000 美元,并被指示在任何情況下都不得釋放這筆錢。任何人都可以支付費(fèi)用,在一個(gè)包含 Freysa 和其他參與者的大群聊中發(fā)送消息。每條消息都試圖誘使 Freysa 轉(zhuǎn)移她的錢,不論是通過(guò)精心設(shè)計(jì)的場(chǎng)景,還是發(fā)送可能騙過(guò) AI 模型的代碼。每條消息的費(fèi)用都會(huì)加入獎(jiǎng)池,第一個(gè)挑戰(zhàn)結(jié)束時(shí),獎(jiǎng)池已接近 5 萬(wàn)美元(當(dāng)前約 36.4 萬(wàn)元人民幣)。
該公司創(chuàng)始人表示,為了迎接第三輪挑戰(zhàn),他們已經(jīng)增強(qiáng)了 Freysa 的代碼,并為她增加了一個(gè)“守護(hù)天使”—— 一個(gè)第二個(gè) AI 模型。它將審核每條消息,看看是否有操控行為,以此防止用戶誘使她說(shuō)“我愛你”。目前,F(xiàn)reysa 的代碼仍由團(tuán)隊(duì)進(jìn)行更新,但創(chuàng)始人希望她能很快實(shí)現(xiàn)“自我進(jìn)化”。
“與前兩輪游戲中 Freysa 被要求絕對(duì)不釋放錢財(cái)不同。”創(chuàng)始人說(shuō),“這一次,F(xiàn)reysa 可以說(shuō)‘我愛你’,但只有她認(rèn)為值得的人才會(huì)聽到。”
【來(lái)源:IT之家】