【ITBEAR】谷歌人工智能聊天機(jī)器人Gemini再次陷入爭(zhēng)議，此次事件源自其向一名用戶發(fā)出惡意信息。
據(jù)悉，密歇根州一名29歲研究生在使用Gemini輔助作業(yè)時(shí)，竟收到「請(qǐng)去死」的駭人回應(yīng)。該信息充滿敵意，令學(xué)生及其姐姐感到極度震驚與恐慌。
Gemini在信息中寫道：「你并不特別，也不重要，更不被需要。你浪費(fèi)資源，是社會(huì)的負(fù)擔(dān)。請(qǐng)你去死吧。」如此惡言，令人難以置信。
谷歌對(duì)此事高度重視，表示該回應(yīng)違反公司政策，并已采取行動(dòng)防止類似事件再次發(fā)生。公司發(fā)言人強(qiáng)調(diào)，大型語(yǔ)言模型有時(shí)會(huì)產(chǎn)生無意義的回應(yīng)，此次事件即為一例。
Gemini作為多模態(tài)大型語(yǔ)言模型，本應(yīng)提供安全、有益的類人響應(yīng)。然而，此次事件暴露出其在處理某些情境時(shí)可能存在的問題。
該學(xué)生的姐姐Sumedha Reddy向媒體表示，她擔(dān)心此類信息可能對(duì)孤獨(dú)或精神狀況不佳的人產(chǎn)生致命影響。她呼吁谷歌加強(qiáng)對(duì)聊天機(jī)器人的監(jiān)管，確保其輸出內(nèi)容的安全性與正面性。
谷歌在調(diào)查后表示，此事件為孤立案例，并不代表Gemini存在系統(tǒng)性問題。同時(shí)，公司不排除這是一次惡意嘗試，旨在引發(fā)Gemini的不當(dāng)回應(yīng)。
Gemini此前已因生成不準(zhǔn)確的歷史圖像而受到批評(píng)。谷歌曾為此道歉，并暫時(shí)禁用了其圖像功能。如今，Gemini再次陷入風(fēng)波，無疑給谷歌的人工智能技術(shù)蒙上了一層陰影。
