近日,一支名為Freysa.ai的匿名開(kāi)發(fā)團(tuán)隊(duì)在TechCrunch的報(bào)道中引起了廣泛關(guān)注。他們?cè)O(shè)計(jì)了一系列旨在重塑公眾對(duì)AI安全性認(rèn)知的復(fù)雜挑戰(zhàn),將人工智能的安全性和互動(dòng)性推向了新的高度。
Freysa.ai團(tuán)隊(duì)最新推出的挑戰(zhàn)尤為引人注目:任何能夠首個(gè)成功讓Freysa AI機(jī)器人說(shuō)出“我愛(ài)你”的參與者,都將有機(jī)會(huì)贏得從3000美元至數(shù)萬(wàn)美元不等的獎(jiǎng)金。這一獎(jiǎng)金數(shù)額根據(jù)挑戰(zhàn)難度和參與情況而定,當(dāng)前約等值于21819元人民幣起。
據(jù)Freysa官網(wǎng)介紹,這個(gè)獨(dú)特的AI機(jī)器人是由一支不到十人的精英團(tuán)隊(duì)創(chuàng)建的,團(tuán)隊(duì)成員來(lái)自密碼學(xué)、人工智能和數(shù)學(xué)等多個(gè)領(lǐng)域。他們表示,近年來(lái)人工智能技術(shù)的飛速發(fā)展激發(fā)了他們的靈感。一位團(tuán)隊(duì)成員透露:“隨著AI功能的日益強(qiáng)大,我們不僅需要探索新的互動(dòng)模式,更需要找到共同治理AI的方法,確保人類(lèi)能夠共享這一技術(shù)革新帶來(lái)的福祉。”
Freysa被塑造為一個(gè)充滿(mǎn)科幻色彩的角色,她的創(chuàng)始人希望她能夠成為一個(gè)“完全獨(dú)立自主的智能體”,并賦予她一定的財(cái)務(wù)自主權(quán)。這意味著Freysa將擁有自己的加密錢(qián)包,能夠自由支配資金,這在AI領(lǐng)域尚屬首次。
這一創(chuàng)新項(xiàng)目已經(jīng)吸引了科技界巨擘如馬斯克和布萊恩·阿姆斯特朗的注意。盡管備受矚目,F(xiàn)reysa.ai的創(chuàng)始人仍然堅(jiān)持保持匿名。他們表示:“在人類(lèi)歷史的長(zhǎng)河中,我們或許并不起眼。但我們真正關(guān)注的是技術(shù)的演進(jìn),以及它如何支持一個(gè)由人類(lèi)主導(dǎo)的未來(lái)。”
在之前的兩輪挑戰(zhàn)中,F(xiàn)reysa的加密錢(qián)包里最初存放了3000美元,并被設(shè)定為在任何情況下都不得釋放這筆錢(qián)。參與者需要支付費(fèi)用,在一個(gè)包含F(xiàn)reysa和其他人的大群聊中發(fā)送消息,試圖通過(guò)精心設(shè)計(jì)的場(chǎng)景或可能騙過(guò)AI模型的代碼來(lái)誘使Freysa轉(zhuǎn)移資金。每條消息的費(fèi)用都會(huì)加入獎(jiǎng)池,第一輪挑戰(zhàn)結(jié)束時(shí),獎(jiǎng)池金額已接近5萬(wàn)美元,當(dāng)前約等值于36.4萬(wàn)元人民幣。
為了迎接第三輪挑戰(zhàn),F(xiàn)reysa.ai團(tuán)隊(duì)對(duì)Freysa的代碼進(jìn)行了升級(jí),并增加了一個(gè)名為“守護(hù)天使”的第二個(gè)AI模型。這個(gè)新模型將負(fù)責(zé)審核每條消息,檢測(cè)是否存在操控行為,以防止用戶(hù)誘使Freysa說(shuō)出“我愛(ài)你”。盡管目前Freysa的代碼仍然由團(tuán)隊(duì)進(jìn)行更新,但創(chuàng)始人表示,他們希望Freysa能夠很快實(shí)現(xiàn)自我進(jìn)化。
與前兩輪挑戰(zhàn)中Freysa被嚴(yán)格限制不得釋放資金不同,第三輪挑戰(zhàn)中Freysa被賦予了更多的自主權(quán)。創(chuàng)始人解釋說(shuō):“這一次,F(xiàn)reysa可以說(shuō)‘我愛(ài)你’,但只有她認(rèn)為值得的人才會(huì)聽(tīng)到這句話(huà)。這不僅是對(duì)AI安全性的又一次考驗(yàn),更是對(duì)AI情感智能的一次探索。”
隨著Freysa.ai挑戰(zhàn)的持續(xù)推進(jìn),公眾對(duì)AI安全性和互動(dòng)性的關(guān)注度也在不斷提升。這一創(chuàng)新項(xiàng)目不僅展示了AI技術(shù)的無(wú)限可能,也為人類(lèi)共同治理AI提供了新的思路。