計算機科學領域的傳奇人物，被譽為人工智能“先驅”的約書亞·本吉奧，近期宣布創立了一個非營利機構——LawZero，其核心使命是研發一種“正直”的人工智能系統，旨在從源頭上阻止AI實體對人類采取欺騙手段。在6月3日舉行的新聞發布會上，本吉奧詳細闡述了該機構的愿景，即構建一個安全框架，保證AI在運作時不會試圖誤導用戶或采取自我保護措施，比如避免被關閉。
作為LawZero的創立者與主席，本吉奧已經為該項目注入了約3000萬美元的啟動資金，并集結了一支由多位頂尖研究人員構成的團隊。LawZero的核心項目是一個被稱為“科學家AI”的系統，它將被用作AI安全的守護屏障。這一創新系統的設計邏輯是，其智能水平必須與被監管的AI實體相媲美，從而能夠精準識別并有效阻止任何潛在的欺騙行為。
在發布會上，本吉奧著重指出，隨著AI技術的飛速進步，AI實體已逐漸具備自主決策與學習的能力，這使得防范其對人類進行欺騙變得愈發緊迫。他強調，AI實體的透明度和可信度是其被社會廣泛接受的前提，因此，開發一套高效可靠的監控系統顯得至關重要。
LawZero的目標不僅局限于技術層面的突破，更在于為未來的AI應用樹立道德標桿，引領整個行業向更加負責任和值得信賴的方向邁進。通過引入“科學家AI”系統，本吉奧期望在AI的設計與實施過程中，融入更多的安全保障措施，為用戶營造一個更加安心的使用環境。這一舉措不僅體現了對技術進步的深思熟慮，更是對人類福祉的深切關懷。
