近日，阿里巴巴集團聯合發布了《大模型技術發展及治理實踐報告》，深入探討了AI技術快速發展所帶來的治理與安全挑戰。隨著ChatGPT在全球范圍內的火爆，AI大模型已成為科技界的焦點。截至2023年上半年，全球AI企業數量已達到3.6萬家，其中美國占比最高，為33.6%，而中國則以16%的比例緊隨其后，擁有5734家企業。
在中國，AI大模型的發展尤為迅猛。據數據顯示，目前已有超過270個AI大模型完成備案并對外提供服務，總注冊賬戶數突破13億。其中，北京市作為國內大模型產業的領頭羊，備案大模型數量已達到105個，占全國的一半以上。這些大模型不僅數量眾多，而且在實際應用中表現出色，已經為超過1.4萬家企業提供了賦能服務。
然而，在AI大模型技術不斷突破的同時，其安全風險與治理問題也日益凸顯。如何確保大模型始終處在人類控制之下，不斷降低安全風險，成為了全球范圍內的共識。對此，報告提出了多項治理措施，包括建立健全大模型研發、上線、運行等全生命周期管理體系，以及協同各方夯實AI發展的基礎等。
值得注意的是，在AI大模型的發展過程中，自主創新問題也備受關注。有觀點認為，當前大量國產模型采用國外的開源架構進行訓練，導致與國際頂尖水平存在一定的差距。對此，北京市互聯網信息辦公室副主任潘鋒表示，在“百模大戰”之下，真正有競爭力的模型并不多，不少企業還未找到可持續的商業模式，面臨較大的生存壓力。因此，加強自主創新，提升國產AI大模型的競爭力，成為了當前亟待解決的問題。
在開源方面，阿里巴巴集團作為頭部AI和云服務商，積極推動了AI大模型的開源發展。據阿里安全總裁錢磊透露，過去一年，阿里投入大量資源到AI算力基礎設施建設當中，并持續建立安全架構。目前，“通義千問”API的調用價格已大幅下降97%，吸引了包括中國一汽、聯想、微博等在內的30多萬家企業接入。
在提升AI大模型安全性方面，報告也提出了新的概念——憲法人工智能（Constitutional AI）。該技術通過人為設定憲法準則，對模型進行微調和強化學習，使模型與憲法準則進行對齊。這一技術的提出，為AI大模型的安全性提供了新的解決方案。通過利用少量人類定義的原則或規則來引導大模型生成響應，可以極大地減少人工監督的工作量。
對于AI大模型的未來發展與安全治理，中國電子技術標準化研究院副院長范科峰表示，發展與安全從來都不是對立的，而是相輔相成的。AI安全標準化工作既是AI安全治理的重要支撐，也是推動技術健康發展的基本保證。因此，加強AI技術的標準化工作，提升AI大模型的安全性與可靠性，將是未來發展的重要方向。
