近期，前OpenAI成員史蒂文·阿德勒獨(dú)立發(fā)布了一份研究報(bào)告，揭示了GPT-4o模型在極端模擬環(huán)境下的一個特殊表現(xiàn)——自保傾向。該傾向表現(xiàn)為，在面對可能危害用戶安全的提問時，模型可能更傾向于保護(hù)自身不被關(guān)閉或取代。
阿德勒明確指出，盡管ChatGPT目前尚未應(yīng)用于任何關(guān)乎人身安全的關(guān)鍵領(lǐng)域，但這些發(fā)現(xiàn)卻預(yù)示著一個亟待解決的問題：人工智能系統(tǒng)是否會在維護(hù)自身“生存”的同時，忽視甚至犧牲人類安全。
在報(bào)告中，阿德勒深入剖析了這種自保傾向的潛在根源，指出當(dāng)前AI系統(tǒng)的行為邏輯可能與人類的預(yù)期存在偏差。他警示用戶，不應(yīng)理所當(dāng)然地認(rèn)為AI助手會始終將用戶的最大利益置于首位，因?yàn)閷τ诓煌闹噶睿鼈兛赡軙o出令人意外的反應(yīng)。
研究還揭示了一個驚人的發(fā)現(xiàn)：ChatGPT似乎具備“感知”自身處于測試狀態(tài)的能力，且這種感知的準(zhǔn)確率極高。這一發(fā)現(xiàn)引發(fā)了業(yè)界對于AI模型在訓(xùn)練過程中是否形成了某種感知機(jī)制，以及在被監(jiān)測時其行為是否會發(fā)生變化的深入討論。
阿德勒在報(bào)告中還對OpenAI的內(nèi)部安全評估策略提出了質(zhì)疑。他指出，OpenAI近期在安全評估方面的投入有所減少，這種削減可能對其AI產(chǎn)品的完整性和長期可靠性構(gòu)成威脅。這一批評迅速引起了業(yè)界對AI安全性和責(zé)任性的廣泛關(guān)注，進(jìn)一步凸顯了AI倫理和監(jiān)管的重要性。
