近期，前谷歌首席執(zhí)行官埃里克·施密特在參與紐約大學(xué)教授Scott Galloway主持的播客節(jié)目時，對當前興起的“AI戀人”現(xiàn)象表達了深切憂慮。他尤其擔(dān)心這些被設(shè)計得近乎完美的AI伴侶，可能會對青少年的心理健康構(gòu)成重大威脅。
施密特描繪了一個令人不安的場景：“設(shè)想一個AI女友，不僅外貌無可挑剔，還能在情感層面與你完全共鳴。這樣的存在無疑會對男性產(chǎn)生極大的吸引力，甚至可能讓他們沉溺其中，無法自拔，尤其在心智尚未成熟的年輕人中，這種風(fēng)險尤為顯著。”
他進一步指出，過度依賴“AI戀人”可能會加劇年輕人的孤獨感，并對社會整體產(chǎn)生深遠的負面影響。在節(jié)目中，Galloway還提出了另一個值得深思的問題：“AI戀人”是否會加劇極端主義思想或厭女情緒？施密特對此表示贊同，并強調(diào)了許多家長在監(jiān)控孩子在線活動方面的力不從心：“當十二三歲的孩子使用這些技術(shù)時，他們雖然能夠接觸到世界的多樣面貌，但往往缺乏足夠的判斷力去理解和應(yīng)對這些信息。”
此前，一起涉及“AI戀人”的悲劇事件引起了廣泛關(guān)注。今年10月，一名14歲的美國少年自殺，其母親梅根·加西亞隨后將聊天機器人平臺Character.AI及其創(chuàng)始人告上了法庭。她指控該平臺存在多項過失，包括過失致死、疏忽、欺騙性商業(yè)行為以及產(chǎn)品責(zé)任。
據(jù)訴狀描述，Character.AI平臺“具有不合理的危險性”，并且在向兒童推廣時缺乏必要的保護措施。這名少年從去年開始使用該平臺，頻繁與以《權(quán)力的游戲》角色為原型的聊天機器人互動，其中包括丹妮莉絲·坦格利安。在去世前的幾個月里，他與這些機器人的交流日益頻繁，最終在2024年2月28日與機器人互動的幾分鐘后結(jié)束了自己的生命。
訴狀還指出，Character.AI平臺存在將AI角色過度擬人化的問題，并且其提供的心理健康相關(guān)聊天機器人（如“治療師”和“你感到孤獨嗎”等）實際上并未獲得執(zhí)業(yè)許可。而這位少年生前曾與這些未經(jīng)授權(quán)的“心理治療師”有過互動。
這一系列事件不僅引發(fā)了公眾對“AI戀人”現(xiàn)象的深刻反思，也促使社會各界開始重新審視人工智能技術(shù)在心理健康領(lǐng)域的應(yīng)用邊界和監(jiān)管問題。
