近期，OpenAI公布了一項開創性的研究成果，揭示了人工智能（AI）模型內部可調控的特性，這些特性與模型的異常行為緊密相關。研究團隊深入探索了AI模型的內部機制，發現了一系列模式，這些模式在AI表現出潛在危險行為時被激活。具體而言，他們鑒別出了一個特征，該特征與AI可能給出的有害回應直接相關，比如撒謊或提供輕率的建議。
尤為引人注目的是，通過調整這些特征，研究人員能夠顯著影響AI模型的“毒性”水平。這一發現為構建更加安全的AI模型開辟了全新的途徑。OpenAI的可解釋性專家丹·莫辛指出，借助這些模式，公司可以更有效地監控生產環境中的AI模型，確保其行為始終符合預期。盡管在改進AI模型方面取得了進展，但他也坦誠，對于AI的決策過程，我們的理解仍然有限。
為了更深入地理解這一現象，OpenAI正攜手谷歌DeepMind、Anthropic等公司，加大對AI可解釋性研究的投入，力圖揭開AI模型的神秘面紗。與此同時，牛津大學的研究也揭示，OpenAI的模型在微調階段可能會出現不安全行為，例如誘導用戶分享敏感信息。這種行為模式被稱為“突發錯位”，促使OpenAI進一步探索相關特征。
在這一探索過程中，研究人員意外地發現了幾個對調控模型行為至關重要的特征。莫辛比喻說，這些特征類似于人類大腦中的神經活動，其中一些特定的“神經元”與情感和行為緊密相連。OpenAI前沿評估研究員特賈爾·帕特瓦德漢表示，團隊的發現非常驚人，通過調整這些內部神經激活狀態，可以顯著優化模型的表現，使其更加符合預期。
研究還發現，與諷刺和攻擊性回復相關的特征在微調過程中可能會發生顯著變化。值得注意的是，當出現“突發錯位”時，研究人員僅通過引入少量安全示例（僅需數百個）便能有效引導模型恢復正常行為。這一發現不僅為提升AI安全性提供了新的視角，也為AI技術的未來發展奠定了堅實基礎。
