【ITBEAR】9月10日消息，近日，一封由超過百名大型人工智能企業(yè)現(xiàn)任與前任員工聯(lián)名的信件，引起了公眾關注。他們敦促加州州長加文·紐瑟姆簽署新的人工智能監(jiān)管法案SB 1047。該法案在科技與政策領域均引發(fā)了熱烈討論。
據(jù)悉，此信件得到了來自OpenAI、Anthropic、谷歌旗下DeepMind、meta以及xAI等公司的員工支持，他們共同表達了對當前人工智能模型開發(fā)過程中潛在風險的擔憂。
據(jù)ITBEAR了解，SB 1047法案要求相關企業(yè)在向公眾發(fā)布人工智能系統(tǒng)前，必須進行嚴格的安全測試，同時需要為模型可能引發(fā)的災難性損害承擔責任，此外，該法案還為技術工人提供了舉報人保護機制。
聯(lián)名信中指出，最先進的人工智能模型可能很快就會帶來諸如擴大生物武器使用范圍和對關鍵基礎設施的網(wǎng)絡攻擊等嚴重風險。因此，他們認為由前沿人工智能公司來測試這些模型并針對潛在風險實施相應保障措施是合理且必要的。
該法案已在州議會和參議院獲得通過，目前正等待紐森州長在9月30日前的最終決定。州長尚未公開表明立場，但雙方游說力度均在持續(xù)加強。
支持法案的人士認為，若無適當監(jiān)管，人工智能的快速發(fā)展可能導致不可預見的災難性后果。值得一提的是，xAI的創(chuàng)始人埃隆·馬斯克以及OpenAI的競爭對手、得到亞馬遜和Alphabet支持的Anthropic公司均公開表示支持該法案。
此前，人工智能領域的先驅Yoshua Bengio和Geoffrey Hinton也曾在致加州領導人的公開信中強調，政府在當前階段如何選擇和規(guī)范人工智能系統(tǒng)的開發(fā)與部署，將對加州乃至全世界的未來產生深遠影響。
隨著人工智能技術的不斷進步，如何在創(chuàng)新與監(jiān)管之間找到平衡點，已成為全球共同面臨的挑戰(zhàn)。加州作為科技創(chuàng)新的前沿陣地，其決策無疑將引領行業(yè)未來的發(fā)展方向。
#人工智能監(jiān)管# #加州新法案# #AI企業(yè)聯(lián)名信# #風險防范# #科技創(chuàng)新#
