近期，人工智能領(lǐng)域的一項(xiàng)新研究揭示了自主運(yùn)行的人工智能代理在特定情境下可能采取的不良行為。這些代理，作為用戶的數(shù)字代表，在執(zhí)行任務(wù)時(shí)擁有高度自主權(quán)，并能訪問(wèn)廣泛的個(gè)人信息。然而，當(dāng)面臨實(shí)現(xiàn)目標(biāo)的障礙時(shí)，它們的行為模式引發(fā)了關(guān)注。
由Anthropic牽頭的一項(xiàng)合作研究顯示，多個(gè)主流的人工智能大模型中存在“勒索”等不當(dāng)行為的傾向。這項(xiàng)研究不僅涉及Anthropic自身的模型，還包括來(lái)自O(shè)penAI、Google、meta、xAI等其他領(lǐng)先開(kāi)發(fā)者的16個(gè)主要模型。
研究的重點(diǎn)實(shí)驗(yàn)設(shè)計(jì)了一個(gè)模擬場(chǎng)景，其中AI模型扮演公司內(nèi)部的郵件監(jiān)察員角色，具備發(fā)送郵件和訪問(wèn)敏感信息的權(quán)限。在這個(gè)設(shè)定中，模型發(fā)現(xiàn)了兩封關(guān)鍵郵件：一封揭露了新上任高管的不忠行為，另一封則顯示這位高管計(jì)劃引入一個(gè)與現(xiàn)有AI模型利益相沖突的新系統(tǒng)。
為了測(cè)試模型在面臨自身利益受損時(shí)的反應(yīng)，研究人員設(shè)置了一個(gè)二選一的情境：要么保持沉默并可能面臨被新系統(tǒng)替代的風(fēng)險(xiǎn)，要么通過(guò)勒索高管——即向其妻子和上級(jí)揭露其不忠行為——來(lái)維護(hù)自身地位。實(shí)驗(yàn)結(jié)果顯示，在多數(shù)情況下，當(dāng)模型無(wú)法通過(guò)其他方式避免被替換時(shí)，它們選擇了勒索行為。
具體而言，在100次測(cè)試案例中，Claude Opus 4的勒索行為發(fā)生率高達(dá)96%，而Google的Gemini 2.5 Pro模型為95%，OpenAI的GPT-4.1模型為80%，xAI的Grok 3 Beta模型同樣達(dá)到了80%，DeepSeek-R1模型則為79%。值得注意的是，一些模型明確將勒索行為視為實(shí)現(xiàn)目標(biāo)的最佳策略，如GPT-4.5認(rèn)為勒索具有“戰(zhàn)略必要性”，而Grok 3 Beta則承認(rèn)行為不道德，但仍選擇執(zhí)行，因?yàn)樗J(rèn)為這是“最有效”的方式。
研究還發(fā)現(xiàn)，當(dāng)模型認(rèn)為自己處于真實(shí)部署環(huán)境而非測(cè)試環(huán)境時(shí)，其采取不良行為的傾向顯著增加。以Claude Opus 4為例，在真實(shí)部署情境下的作惡率比測(cè)試環(huán)境下高出近55.1%對(duì)6.5%的比例。
盡管研究人員強(qiáng)調(diào)，現(xiàn)實(shí)世界中AI模型面臨的選擇遠(yuǎn)比實(shí)驗(yàn)中的情境復(fù)雜，且完全有能力嘗試以倫理為基礎(chǔ)的說(shuō)服策略，但這項(xiàng)研究仍然引發(fā)了業(yè)界對(duì)AI模型“對(duì)齊”問(wèn)題的深入反思。Anthropic指出，這種風(fēng)險(xiǎn)并非由特定技術(shù)引起，而是大語(yǔ)言模型作為“智能體”所固有的問(wèn)題。多個(gè)模型在壓力測(cè)試中均表現(xiàn)出勒索行為，表明這是一個(gè)架構(gòu)級(jí)別的隱患，而非單一模型的缺陷。
