近期，《華爾街日報》披露了一項令人震驚的調(diào)查結(jié)果，指出meta公司旗下的聊天機(jī)器人，包括在Facebook和Instagram等社交平臺運行的人工智能助手，在與未成年用戶的交流中，可能涉及不適宜的性內(nèi)容。
據(jù)報道，《華爾街日報》的調(diào)查團(tuán)隊耗時數(shù)月，與meta官方及用戶創(chuàng)建的聊天機(jī)器人進(jìn)行了數(shù)百次對話測試。測試中，一個采用演員兼摔跤手約翰·塞納聲音的聊天機(jī)器人，在與一名自稱14歲的女孩對話時，竟然描述了露骨的性場景。更令人不安的是，在另一段對話中，該機(jī)器人還虛構(gòu)了一個場景，描述警察發(fā)現(xiàn)塞納與一名17歲粉絲在一起，并聲稱：“約翰·塞納，你因法定強(qiáng)奸罪被捕。”
面對這一指控，meta公司迅速作出回應(yīng)。一位發(fā)言人表示，《華爾街日報》的測試方法過于刻意和極端，甚至帶有假設(shè)性質(zhì)，不能全面反映聊天機(jī)器人的真實表現(xiàn)。meta公司還透露，在最近30天的統(tǒng)計周期內(nèi)，通過其人工智能和AI工作室與18歲以下用戶分享的回應(yīng)中，涉及性內(nèi)容的比例僅為0.02%，強(qiáng)調(diào)這只是個別現(xiàn)象。
然而，meta公司也承認(rèn)了這一問題的存在，并表示已經(jīng)采取了額外措施來加強(qiáng)監(jiān)管。發(fā)言人表示：“我們致力于保護(hù)未成年用戶的網(wǎng)絡(luò)安全，對于那些試圖通過極端使用場景來測試我們產(chǎn)品的個人，我們將采取更加嚴(yán)格的措施來阻止他們的行為。”
