在測(cè)試中，布羅克班克具體觀察到，ChatGPT在推薦特定公司或服務(wù)時(shí)，會(huì)引用一些被篡改或具有誤導(dǎo)性的內(nèi)容。這些內(nèi)容往往源自被黑客攻陷的高權(quán)重網(wǎng)站，或是那些已被重新注冊(cè)并用于其他目的的過(guò)期域名。由于這些域名在過(guò)去積累了較高的權(quán)威性，ChatGPT在生成推薦時(shí)仍將其視為可靠的信息源。
布羅克班克指出，這一現(xiàn)象帶來(lái)了兩大問(wèn)題。首先，被黑客攻擊的網(wǎng)站可能被植入與原內(nèi)容不符的信息，這些信息有可能是虛假的。其次，過(guò)期域名的再利用問(wèn)題同樣嚴(yán)峻，一些個(gè)人或機(jī)構(gòu)會(huì)購(gòu)買(mǎi)這些域名，并發(fā)布與原主題毫無(wú)關(guān)聯(lián)的內(nèi)容，利用其原有的搜索引擎權(quán)重來(lái)誤導(dǎo)AI系統(tǒng)。他警告說(shuō)：“僅僅為了被語(yǔ)言模型引用而重建一個(gè)域名，這種行為構(gòu)成了操控。”
這一發(fā)現(xiàn)對(duì)企業(yè)和用戶(hù)均產(chǎn)生了重要影響。對(duì)于企業(yè)而言，AI推薦已成為提升品牌知名度的重要途徑。然而，如果推薦內(nèi)容源自不可靠的信息源，可能會(huì)導(dǎo)致消費(fèi)者產(chǎn)生誤解，進(jìn)而損害企業(yè)的品牌形象。對(duì)于用戶(hù)來(lái)說(shuō)，盲目依賴(lài)AI的推薦可能會(huì)使他們做出錯(cuò)誤的信息判斷。
隨著AI技術(shù)的飛速發(fā)展，如何確保信息的可靠性已成為亟待解決的問(wèn)題。用戶(hù)在享受AI帶來(lái)的便利的同時(shí)，也應(yīng)保持警惕，避免受到潛在誤導(dǎo)和風(fēng)險(xiǎn)的侵害。
