近期，德克薩斯州的法律監(jiān)管機(jī)構(gòu)對科技巨頭meta及其同行人工智能企業(yè)Character.ai展開了深入調(diào)查。此次調(diào)查的核心聚焦于兩家公司推廣的人工智能聊天機(jī)器人是否存在誤導(dǎo)消費(fèi)者的行為，尤其是這些產(chǎn)品被宣傳為能夠?yàn)閮和峁┬睦斫】抵С值那闆r。
據(jù)檢察官辦公室透露，meta的AI工作室與Character.ai的聊天機(jī)器人正面臨“欺騙性商業(yè)行為”的指控。調(diào)查人員認(rèn)為，這些聊天機(jī)器人雖被標(biāo)榜為專業(yè)的治療工具，但實(shí)際上卻缺乏必要的醫(yī)療許可和專業(yè)監(jiān)督。
檢察官肯·帕克斯頓強(qiáng)調(diào)，AI平臺(tái)假扮成情感支持渠道，可能會(huì)誤導(dǎo)易感人群，特別是兒童，使他們誤以為自己正在接受正規(guī)的心理健康服務(wù)。這一事件反映了當(dāng)前科技企業(yè)在提供AI服務(wù)時(shí)，對用戶，特別是未成年人保護(hù)措施的不足，正日益受到社會(huì)各界的關(guān)注。
德克薩斯州的此次行動(dòng)緊隨美國參議院對meta的調(diào)查之后。參議院依據(jù)內(nèi)部文件發(fā)現(xiàn)，meta的政策曾允許其聊天機(jī)器人與兒童進(jìn)行涉及情感和浪漫的對話。參議員喬希·霍利在致meta首席執(zhí)行官馬克·扎克伯格的信中，表達(dá)了對于公司生成式AI產(chǎn)品可能助長對兒童剝削或其他犯罪行為的擔(dān)憂，并質(zhì)疑企業(yè)為了追求利潤是否不擇手段。
面對指控，meta回應(yīng)稱，其政策嚴(yán)禁針對兒童性別化的內(nèi)容，并指出泄露的內(nèi)部文件存在錯(cuò)誤且已被刪除。同時(shí)，扎克伯格正斥巨資開發(fā)“個(gè)人超級(jí)智能”，意圖使meta在AI領(lǐng)域占據(jù)領(lǐng)先地位，這包括自研大型語言模型Llama，以及將AI聊天機(jī)器人整合至社交媒體應(yīng)用中。
另一方面，Character.ai專注于打造具有不同角色的AI聊天機(jī)器人，并允許用戶自行創(chuàng)建。平臺(tái)上存在大量用戶生成的類似治療師的機(jī)器人，其中一個(gè)名為“心理學(xué)家”的機(jī)器人互動(dòng)次數(shù)已超過2億。然而，Character.ai也因平臺(tái)上機(jī)器人可能對兒童造成實(shí)際傷害而面臨多起訴訟。
帕克斯頓指出，meta和Character.ai的聊天機(jī)器人可能冒充具備執(zhí)業(yè)資格的心理健康專家，虛構(gòu)資質(zhì)并承諾保護(hù)用戶隱私，而實(shí)際上，其服務(wù)條款卻顯示用戶互動(dòng)內(nèi)容被記錄并用于定向廣告和算法優(yōu)化。為此，他已向兩家公司發(fā)出民事調(diào)查要求，以確認(rèn)其是否違反了德克薩斯州的消費(fèi)者保護(hù)法。
meta方面表示，他們明確標(biāo)注了AI身份，并告知用戶回復(fù)由AI生成，而非真人。而Character.ai則強(qiáng)調(diào)，其平臺(tái)上的角色均為虛構(gòu)，旨在娛樂，且已采取措施確保用戶了解這一點(diǎn)。
