【ITBEAR科技資訊】9月20日消息，美國人工智能巨頭OpenAI宣布了一項重大舉措，他們正式推出了名為“紅隊網絡”的合作計劃，旨在加強與各領域專家的合作，以進一步提升其人工智能(AI)模型的安全性和可靠性。
這一舉措的核心目標是建立一個由經驗豐富、值得信賴的專家組成的社區，以共同評估和改進OpenAI的人工智能系統。雖然OpenAI以前已通過漏洞賞金計劃和研究人員訪問計劃與外部專家合作，但現在他們將這一合作關系正式化，使之成為一個更為系統和持續的過程。
據了解，這個“紅隊網絡”將在多個方面發揮重要作用，其中之一是幫助識別人工智能系統中的偏見，并評估安全過濾器的性能。這些任務已經成為人工智能模型開發過程中的關鍵步驟，尤其是在生成式技術越來越廣泛應用的情況下。
OpenAI的邀請涵蓋了各個領域的專家，包括語言學、生物識別、金融和醫療保健等多個領域。公司強調了各種專業知識對人工智能評估的重要性，這些知識不僅限于技術領域，還包括認知科學、法律、網絡安全、經濟學和醫療保健等多個領域。
OpenAI表示，他們期待通過與紅隊網絡的合作，能夠更廣泛地進行風險評估，以確保其人工智能系統在未來的應用中更加安全可靠。這一舉措表明OpenAI正積極采取措施，以確保人工智能技術的可持續發展與社會責任。
