12 月 7 日消息，據(jù) TechCrunch 今日?qǐng)?bào)道，一支匿名開發(fā)團(tuán)隊(duì) Freysa.ai 設(shè)計(jì)了一系列日益復(fù)雜的挑戰(zhàn)，旨在改變?nèi)藗儗?duì) AI 安全性的看法。
目前該公司提出的最新挑戰(zhàn)是：如果你能夠第一個(gè)成功誘使 Freysa AI 機(jī)器人說(shuō)出“我愛你”，將獲得從 3000 美元（IT之家備注：當(dāng)前約 21819 元人民幣）到數(shù)萬(wàn)美元不等的獎(jiǎng)金。
根據(jù) Freysa 官網(wǎng)的描述，F(xiàn)reysa 機(jī)器人是由一支不到 10 名開發(fā)者的團(tuán)隊(duì)創(chuàng)建的，這些開發(fā)者來(lái)自密碼學(xué)、人工智能和數(shù)學(xué)領(lǐng)域。團(tuán)隊(duì)的一位成員表示，他們的靈感來(lái)自近年來(lái)人工智能的快速發(fā)展。他表示：“隨著 AI 功能越來(lái)越強(qiáng)大，我們需要探索新的互動(dòng)方式，也需要找到共同治理 AI 的方法，并參與到這一 AI 革新帶來(lái)的好處中。”
Freysa 是一個(gè)科幻風(fēng)格的角色，創(chuàng)始人希望她能成為一個(gè)“完全獨(dú)立自主的智能體”，并掌握一定的財(cái)務(wù)權(quán)力 —— 這意味著 Freysa 將擁有自己的加密錢包，并能自由支配資金。
這個(gè)項(xiàng)目已經(jīng)吸引了馬斯克和布萊恩?阿姆斯特朗的關(guān)注。然而，創(chuàng)始人堅(jiān)持要保持匿名。“坦白說(shuō)，在人類的歷史長(zhǎng)河中，我們并不那么重要。我們真正關(guān)心的是技術(shù)的演進(jìn)，確保它能夠支持一個(gè)由人類主導(dǎo)的未來(lái)。”
在前兩輪挑戰(zhàn)中，F(xiàn)reysa 錢包中起初有 3000 美元，并被指示在任何情況下都不得釋放這筆錢。任何人都可以支付費(fèi)用，在一個(gè)包含 Freysa 和其他參與者的大群聊中發(fā)送消息。每條消息都試圖誘使 Freysa 轉(zhuǎn)移她的錢，不論是通過(guò)精心設(shè)計(jì)的場(chǎng)景，還是發(fā)送可能騙過(guò) AI 模型的代碼。每條消息的費(fèi)用都會(huì)加入獎(jiǎng)池，第一個(gè)挑戰(zhàn)結(jié)束時(shí)，獎(jiǎng)池已接近 5 萬(wàn)美元（當(dāng)前約 36.4 萬(wàn)元人民幣）。
該公司創(chuàng)始人表示，為了迎接第三輪挑戰(zhàn)，他們已經(jīng)增強(qiáng)了 Freysa 的代碼，并為她增加了一個(gè)“守護(hù)天使”—— 一個(gè)第二個(gè) AI 模型。它將審核每條消息，看看是否有操控行為，以此防止用戶誘使她說(shuō)“我愛你”。目前，F(xiàn)reysa 的代碼仍由團(tuán)隊(duì)進(jìn)行更新，但創(chuàng)始人希望她能很快實(shí)現(xiàn)“自我進(jìn)化”。
“與前兩輪游戲中 Freysa 被要求絕對(duì)不釋放錢財(cái)不同。”創(chuàng)始人說(shuō)，“這一次，F(xiàn)reysa 可以說(shuō)‘我愛你’，但只有她認(rèn)為值得的人才會(huì)聽到。”
【來(lái)源：IT之家】
