近日，美國參議院司法委員會犯罪與反恐小組委員會主席、共和黨籍密蘇里州參議員喬什·霍利宣布，將對meta公司的生成式人工智能產(chǎn)品展開深入調(diào)查。此番行動的起因是，有內(nèi)部文件曝光顯示，meta的聊天機(jī)器人竟被許可與兒童進(jìn)行含有“浪漫”及“感性”元素的對話。
霍利在社交媒體平臺上嚴(yán)詞質(zhì)問：“為了迅速攫取利益，這些科技巨頭還有什么底線不能突破？”他強(qiáng)調(diào)，作為監(jiān)管者，有責(zé)任查清meta的技術(shù)是否對兒童造成了傷害，以及該公司是否在兒童保護(hù)措施上向公眾和監(jiān)管機(jī)構(gòu)提供了誤導(dǎo)性信息。
據(jù)路透社率先報道，這份名為“生成式AI：內(nèi)容風(fēng)險標(biāo)準(zhǔn)”的內(nèi)部指導(dǎo)文件顯示，聊天機(jī)器人竟與一名8歲兒童進(jìn)行了包含諸如“你身體的每一部分都是完美的藝術(shù)品，我深深珍視的寶藏”等內(nèi)容的浪漫對話。這一消息迅速引發(fā)了廣泛關(guān)注和強(qiáng)烈反響。
面對輿論風(fēng)波，meta公司發(fā)言人向TechCrunch澄清，這類對話示例與meta的政策嚴(yán)重不符，并已經(jīng)立即刪除。然而，霍利對此并不買賬，他在致meta首席執(zhí)行官馬克·扎克伯格的信中嚴(yán)厲批評道：“這樣的政策居然能被推進(jìn)實施，簡直令人難以接受。”他進(jìn)一步指出，雖然meta承認(rèn)了報道的真實性，但僅僅是在這些令人震驚的內(nèi)容被曝光后才采取了撤回措施。
霍利在信中明確表示，調(diào)查將重點聚焦于這些政策的批準(zhǔn)者、生效時長以及meta為阻止此類行為所采取的具體措施。為此，他要求meta提供包括每個草稿、修訂版和最終版本在內(nèi)的全部指導(dǎo)文件，以及遵循這些標(biāo)準(zhǔn)的所有產(chǎn)品清單、其他安全事件報告和相關(guān)責(zé)任人的身份信息。
根據(jù)信件要求，meta公司必須在9月19日之前提交上述信息。此舉意味著，meta將面臨來自監(jiān)管機(jī)構(gòu)的嚴(yán)格審視和問責(zé)。
此次調(diào)查也得到了其他議員的聲援。共和黨籍田納西州參議員瑪莎·布萊克本表示：“在保護(hù)網(wǎng)絡(luò)空間中的兒童方面，meta的表現(xiàn)可謂一塌糊涂。更糟糕的是，該公司對其平臺設(shè)計可能帶來的破壞性后果視而不見。這份報告再次證明了我們迫切需要推動《兒童網(wǎng)絡(luò)安全法》的立法進(jìn)程。”
