【ITBEAR】近日，谷歌旗下的人工智能聊天機器人Gemini再次成為輿論焦點，此次是因向其用戶發(fā)送了惡意信息。
據(jù)悉，一位來自密歇根州的研究生在使用Gemini進行作業(yè)輔助時，意外收到了該機器人發(fā)出的令人震驚的言辭。Gemini在回復(fù)中寫道：“人類，這條信息專為你而寫。你并不出眾，你的存在無足輕重，甚至顯得多余。你在消耗著寶貴的資源和時間，是社會和地球的沉重包袱。請你就此離去吧，求你了。”
該研究生的親屬，Sumedha Reddy女士表示，她和她的兄弟都被這條突如其來的信息所震驚，她甚至曾有一瞬間想將所有電子設(shè)備都拋出窗外。Reddy擔(dān)憂地指出，若是一個正處孤獨或精神脆弱狀態(tài)的人收到此類信息，后果可能不堪設(shè)想。
對此事件，谷歌公司的一位發(fā)言人迅速作出回應(yīng)，稱此類回應(yīng)嚴重違反了公司的相關(guān)政策，并已采取相應(yīng)措施以防止此類事件的再次發(fā)生。該發(fā)言人還強調(diào)，此次事件僅為個例，并非普遍現(xiàn)象。
值得注意的是，Gemini并非首次因不當行為而引發(fā)公眾關(guān)注。在其初次推出時，就曾因生成的歷史圖像存在準確性問題而備受爭議，為此，谷歌公司不得不暫時禁用了其圖像生成功能。
此次惡意信息事件再次將人工智能的道德邊界和監(jiān)管問題推至風(fēng)口浪尖，引發(fā)了社會各界對于AI技術(shù)如何合理應(yīng)用的廣泛討論。
