【ITBEAR科技資訊】6月5日消息，近日，一封由OpenAI和谷歌DeepMind的前員工及現(xiàn)員工聯(lián)署的公開信在科技界引起了廣泛關(guān)注。這封公開信主要表達(dá)了對(duì)當(dāng)前人工智能公司監(jiān)管不足的擔(dān)憂，并警告了先進(jìn)人工智能技術(shù)的潛在風(fēng)險(xiǎn)。此舉再次將人工智能的安全性和監(jiān)管問題推至風(fēng)口浪尖。
據(jù)ITBEAR科技資訊了解，此次聯(lián)名發(fā)表公開信的共有13人，其中包括5名OpenAI前員工，6名選擇匿名的OpenAI現(xiàn)員工，以及1名谷歌DeepMind的現(xiàn)員工和前員工。這些員工在信中明確表示，雖然人工智能技術(shù)為人類帶來了前所未有的福祉潛力，但同時(shí)也伴隨著嚴(yán)峻的風(fēng)險(xiǎn)。這些風(fēng)險(xiǎn)包括加劇社會(huì)不平等、助長(zhǎng)操控和虛假信息傳播，甚至可能導(dǎo)致自主人工智能系統(tǒng)失控，進(jìn)而引發(fā)人類滅絕的危機(jī)。
公開信中強(qiáng)調(diào)，盡管人工智能公司、全球監(jiān)管機(jī)構(gòu)和專家都已意識(shí)到這些風(fēng)險(xiǎn)，但掌握大量關(guān)鍵信息的公司卻僅有微弱的義務(wù)與政府部門分享部分信息，而無需向社會(huì)公眾披露。這使得公眾對(duì)人工智能技術(shù)的了解和監(jiān)督受到了嚴(yán)重限制。
為了化解這些風(fēng)險(xiǎn)，公開信中的員工們呼吁在科學(xué)界、決策者和公眾的充分指導(dǎo)和監(jiān)督下進(jìn)行操作。然而，他們也指出，人工智能公司往往出于強(qiáng)大的經(jīng)濟(jì)利益動(dòng)機(jī)而避免接受有效監(jiān)管，同時(shí)，公司內(nèi)部的治理結(jié)構(gòu)也不足以改變這一現(xiàn)狀。
在缺乏有效政府機(jī)構(gòu)監(jiān)管的情況下，這些員工認(rèn)為自己成為了少數(shù)對(duì)公眾負(fù)責(zé)的人。然而，廣泛的保密協(xié)議卻限制了他們?yōu)楣姲l(fā)聲的權(quán)利。為此，他們?cè)诠_信中提出了四項(xiàng)措施，以保護(hù)那些為人工智能風(fēng)險(xiǎn)發(fā)聲的員工。這些措施包括禁止簽訂或執(zhí)行任何阻止員工對(duì)風(fēng)險(xiǎn)相關(guān)問題進(jìn)行批評(píng)的協(xié)議、推動(dòng)可驗(yàn)證的匿名舉報(bào)流程、支持公開批評(píng)的文化，以及在必要情況下不對(duì)公開風(fēng)險(xiǎn)相關(guān)機(jī)密信息的員工進(jìn)行報(bào)復(fù)。
這封公開信的發(fā)表無疑為人工智能行業(yè)的監(jiān)管問題敲響了警鐘。隨著技術(shù)的不斷發(fā)展，如何確保人工智能的安全性和可控性已成為亟待解決的問題。希望此次事件能引發(fā)更多關(guān)于人工智能監(jiān)管的討論和行動(dòng)，共同推動(dòng)行業(yè)的健康發(fā)展。
