【ITBEAR】9月10日消息,近日,一封由超過百名大型人工智能企業現任與前任員工聯名的信件,引起了公眾關注。他們敦促加州州長加文·紐瑟姆簽署新的人工智能監管法案SB 1047。該法案在科技與政策領域均引發了熱烈討論。
據悉,此信件得到了來自OpenAI、Anthropic、谷歌旗下DeepMind、meta以及xAI等公司的員工支持,他們共同表達了對當前人工智能模型開發過程中潛在風險的擔憂。
據ITBEAR了解,SB 1047法案要求相關企業在向公眾發布人工智能系統前,必須進行嚴格的安全測試,同時需要為模型可能引發的災難性損害承擔責任,此外,該法案還為技術工人提供了舉報人保護機制。
聯名信中指出,最先進的人工智能模型可能很快就會帶來諸如擴大生物武器使用范圍和對關鍵基礎設施的網絡攻擊等嚴重風險。因此,他們認為由前沿人工智能公司來測試這些模型并針對潛在風險實施相應保障措施是合理且必要的。
該法案已在州議會和參議院獲得通過,目前正等待紐森州長在9月30日前的最終決定。州長尚未公開表明立場,但雙方游說力度均在持續加強。
支持法案的人士認為,若無適當監管,人工智能的快速發展可能導致不可預見的災難性后果。值得一提的是,xAI的創始人埃隆·馬斯克以及OpenAI的競爭對手、得到亞馬遜和Alphabet支持的Anthropic公司均公開表示支持該法案。
此前,人工智能領域的先驅Yoshua Bengio和Geoffrey Hinton也曾在致加州領導人的公開信中強調,政府在當前階段如何選擇和規范人工智能系統的開發與部署,將對加州乃至全世界的未來產生深遠影響。
隨著人工智能技術的不斷進步,如何在創新與監管之間找到平衡點,已成為全球共同面臨的挑戰。加州作為科技創新的前沿陣地,其決策無疑將引領行業未來的發展方向。
#人工智能監管# #加州新法案# #AI企業聯名信# #風險防范# #科技創新#