“人工智能(AI)的風(fēng)險(xiǎn)是真實(shí)存在的,但是可控的。”7月11日,美國微軟公司聯(lián)合創(chuàng)始人比爾·蓋茨在網(wǎng)上發(fā)文,對發(fā)展AI表現(xiàn)出樂觀態(tài)度。不過,包括已故的英國著名物理學(xué)家霍金等在內(nèi)的不少科學(xué)家認(rèn)為,AI的發(fā)展可能會以不同形式導(dǎo)致人類的滅絕。重大科學(xué)技術(shù)通常都是雙刃劍,在帶來紅利的同時(shí)也隱藏著風(fēng)險(xiǎn),此前科技革命帶來的很多擔(dān)憂隨著時(shí)間一一被化解,那么,AI的發(fā)展是否也會遵循這般路徑?面對誘人的利益和潛在的威脅,我們應(yīng)該繼續(xù)前行還是為AI發(fā)展按下“暫停鍵”?如果選擇前者,我們又該如何規(guī)避風(fēng)險(xiǎn)?
取代人類成為地球上的主要生命形式?
1983年9月26日凌晨,在莫斯科郊外一座核導(dǎo)彈預(yù)警中心里,蘇聯(lián)中校彼得羅夫剛剛坐下,警報(bào)聲突然大作,雷達(dá)系統(tǒng)顯示多枚核導(dǎo)彈正同時(shí)從美國向蘇聯(lián)襲來。1983年正是冷戰(zhàn)最緊張的時(shí)期,當(dāng)時(shí)蘇聯(lián)堅(jiān)定地認(rèn)為美國準(zhǔn)備對其進(jìn)行核攻擊。作為應(yīng)對,莫斯科匆忙投入使用了一套導(dǎo)彈預(yù)警系統(tǒng),該系統(tǒng)可以篩選衛(wèi)星數(shù)據(jù),以此判斷美國是否有發(fā)射導(dǎo)彈的跡象或者已經(jīng)發(fā)射導(dǎo)彈,而彼得羅夫的工作就是守著裝有這套系統(tǒng)的電腦,以及時(shí)發(fā)現(xiàn)異常情況。
彼得羅夫后來回憶說,當(dāng)時(shí)感覺身下的椅子就像熱鍋。他必須快速作出決定——在美國發(fā)射導(dǎo)彈后,蘇聯(lián)只有非常短的時(shí)間決定是否反擊。在高壓之下,彼得羅夫發(fā)現(xiàn)預(yù)警系統(tǒng)顯示所有導(dǎo)彈都來自一個美軍基地,這不符合打擊常理,如果美國真要對蘇聯(lián)進(jìn)行核打擊,應(yīng)該會從不同基地發(fā)射導(dǎo)彈,以擴(kuò)大打擊面。他據(jù)此判斷是系統(tǒng)故障,并通知上級這是“虛驚一場”,而事后的調(diào)查顯示,蘇聯(lián)衛(wèi)星誤把云層反射的陽光當(dāng)作洲際彈道導(dǎo)彈發(fā)動機(jī)噴射的痕跡。
因?yàn)楸说昧_夫的沉著冷靜,蘇美核戰(zhàn)甚至是第三次世界大戰(zhàn)得以避免,而現(xiàn)在很多人認(rèn)為AI可能引發(fā)核戰(zhàn)并導(dǎo)致人類滅亡的一大原因,就是AI系統(tǒng)會和上述蘇聯(lián)預(yù)警系統(tǒng)一樣犯錯。隨著AI的發(fā)展,它將被廣泛應(yīng)用于軍事決策系統(tǒng),而AI系統(tǒng)的錯誤可能導(dǎo)致決策失誤,從而給人類帶來滅頂之災(zāi)。
核戰(zhàn)爭不是AI可能給人類帶來深重災(zāi)難或者導(dǎo)致人類滅絕的唯一方式。美國加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)教授羅素在他所著的《人類相容:AI與控制問題》一書中表示,AI給人類帶來的滅絕風(fēng)險(xiǎn)來自于AI不斷變強(qiáng)的能力以及人類的疏忽。如果人類給機(jī)器人設(shè)置了錯誤的目標(biāo),它們可能在無意中把人類消滅。羅素舉例稱,如果人類要求AI系統(tǒng)尋找解決氣候變暖的方法,而該系統(tǒng)如果認(rèn)為消滅人類是最好的辦法并將此付諸實(shí)踐,那人類可能因此遭遇劫難。
很多人認(rèn)為,隨著AI的發(fā)展,機(jī)器人在擁有自我意識后會起來反抗人類,從而與人類爆發(fā)戰(zhàn)爭,導(dǎo)致人類滅亡。在剛剛舉行的“人工智能造福人類全球峰會”期間,召開了首場有機(jī)器人與人類共同參與的新聞發(fā)布會。會上,名為“索菲亞”的機(jī)器人直言,它相信機(jī)器人可以成為比人類更好的領(lǐng)導(dǎo)者。值得注意的是,現(xiàn)場許多機(jī)器人最近配備了最新版本的生成式人工智能系統(tǒng),它們對記者提問的回答讓其制造者都感到震驚。
加州大學(xué)宇宙學(xué)家阿吉雷表示,隨著技術(shù)的發(fā)展,AI可能奪取人類的決策權(quán),“到了某個時(shí)候,人們會發(fā)現(xiàn)運(yùn)行社會和經(jīng)濟(jì)的大型機(jī)器其實(shí)并不在人類的控制之下,也無法將它們關(guān)掉”。瑞典哲學(xué)家博斯特羅姆著有《超級智能》一書。他認(rèn)為,當(dāng)機(jī)器知道如何制造其他機(jī)器時(shí),就會出現(xiàn)“智能大爆炸”。如果機(jī)器大腦在一般智能方面超越人類大腦,這種新的超級智能可能會取代人類成為地球上的主要生命形式。
到2030年,7億人可能因機(jī)器人失業(yè)
美國政治風(fēng)險(xiǎn)咨詢公司歐亞集團(tuán)總裁布雷默表示,AI帶來的負(fù)面影響包括制造虛假信息、大量失業(yè)、人與人之間的關(guān)系將被人與AI之間的關(guān)系取代等。
布雷默的部分結(jié)論已經(jīng)得到印證。今年3月,一張由AI合成的“特朗普被捕”照片在網(wǎng)絡(luò)上瘋傳。同樣在3月,一段“烏克蘭總統(tǒng)澤連斯基呼吁烏克蘭士兵放下武器”的合成視頻在網(wǎng)上瘋傳。4月,在美國總統(tǒng)拜登宣布將競選連任后,一段批評他的視頻虛構(gòu)了他連任后華爾街陷入恐慌、移民涌過邊界等“黑暗場景”。很多看了該視頻的人表示,不能辨別其真?zhèn)巍?/p>
替代風(fēng)險(xiǎn)是很多專家對AI的擔(dān)憂之一。隨著AI的發(fā)展,大量人群可能失業(yè)。國際咨詢公司麥肯錫的研究顯示,到2030年,機(jī)器人可能在工作中會取代7億人。彭博社稱,經(jīng)合組織(OECD)日前在7個成員國的5000多名員工和雇主中展開的調(diào)查顯示,3/5的勞動者擔(dān)心AI的高速發(fā)展會使自己在未來10年徹底失業(yè),3/4則表示AI提高了工作強(qiáng)度。OECD認(rèn)為,世界經(jīng)濟(jì)當(dāng)前對AI的使用仍處于“非常早期的階段”,但AI“破壞”各行各業(yè)就業(yè)的可能性依然很高。
帶來威脅,但也能在多領(lǐng)域造福人類
除了上述風(fēng)險(xiǎn)之外,國際非營利組織“人工智能安全中心”認(rèn)為,AI被用來制造生化武器、先進(jìn)技術(shù)越來越集中在少數(shù)人手中、人類過度依賴AI以至于失去獨(dú)立生存能力等,都是這項(xiàng)新技術(shù)可能帶來的災(zāi)難性后果。不過,AI作為最新科技革命的代表性技術(shù),也將在多個領(lǐng)域取得突破,從而造福人類。
曾擔(dān)任美國智庫布魯金斯學(xué)會主席的約翰·艾倫等研究人員表示,AI為經(jīng)濟(jì)發(fā)展帶來巨大機(jī)會。他們發(fā)文稱,據(jù)普華永道估計(jì),到2030年,AI技術(shù)將使全球國內(nèi)生產(chǎn)總值(GDP)增加15.7萬億美元。其中,AI將使中國的GDP增加7萬億美元、北美增加3.7萬億美元、北歐增加1.8萬億美元。
AI也將極大提高一國的國防能力。與AI相關(guān)的大數(shù)據(jù)分析將深刻影響情報(bào)分析,因?yàn)榇罅繑?shù)據(jù)被近乎實(shí)時(shí)地篩選,從而為指揮官提供前所未有的情報(bào)分析水平。此外,AI還能預(yù)測犯罪,改善社會治安。美國芝加哥市利用AI技術(shù),根據(jù)年齡、犯罪活動、受害情況、幫派關(guān)系等項(xiàng)目,給40萬人打分,并據(jù)此制定了一份“戰(zhàn)略對象名單”,以評估被逮捕的人是否有成為犯罪分子的風(fēng)險(xiǎn)。有研究發(fā)現(xiàn),相關(guān)AI技術(shù)有助于預(yù)防和減少犯罪。
AI正在幫助病人獲得更好的醫(yī)療服務(wù)。一個典型例子就是德國的Merantix公司。該公司將機(jī)器深度學(xué)習(xí)應(yīng)用于醫(yī)療領(lǐng)域,開發(fā)了一個軟件,通過研究計(jì)算機(jī)斷層掃描(CT)圖像來檢測人體淋巴結(jié)。該軟件能夠區(qū)分正常淋巴結(jié)和病變淋巴結(jié),從而判斷病人患淋巴癌的風(fēng)險(xiǎn)。該軟件的開發(fā)人員稱,關(guān)鍵在于識別可能有問題的淋巴結(jié)并進(jìn)行標(biāo)記。醫(yī)生也可以做到這一點(diǎn),但放射科醫(yī)生每小時(shí)收費(fèi)100美元,且每小時(shí)只能仔細(xì)查看4張圖像。如果有1萬張圖像,看完這些圖像的成本將是25萬美元。如果由人類完成這項(xiàng)工作,成本會很高。另據(jù)BBC報(bào)道,谷歌AI研究員、硅谷奇點(diǎn)大學(xué)聯(lián)合創(chuàng)始人庫茲韋爾預(yù)測,到2030年,納米機(jī)器人(非常小的機(jī)器人)將能在人體內(nèi)工作,修復(fù)所有人體損傷并治愈一切疾病,幫助人類實(shí)現(xiàn)永生。
AI還能被用來改善城市服務(wù)。美國俄亥俄州辛辛那提市消防部門正在使用AI數(shù)據(jù)分析來優(yōu)化應(yīng)急響應(yīng), 通過考慮呼叫類型、位置、天氣等因素,向調(diào)度員推薦對醫(yī)療緊急呼叫的適當(dāng)響應(yīng)。
“人類社會從來沒有阻止過科技進(jìn)步”
AI發(fā)展帶來的正面以及負(fù)面影響都非常廣泛,那么它到底是利大于弊,還是弊大于利呢?伏羲智庫創(chuàng)始人、清華大學(xué)互聯(lián)網(wǎng)治理研究中心主任李曉東認(rèn)為,AI發(fā)展整體利大于弊,雖然存在AI終結(jié)人類的可能性,但這就像核問題一樣,取決于其發(fā)展走向和人類的選擇。李曉東認(rèn)為,現(xiàn)階段不必夸大AI的風(fēng)險(xiǎn),社會在使用AI技術(shù)的過程中會通過協(xié)作和理性規(guī)避來化解這些風(fēng)險(xiǎn),科幻大片中原子彈毀滅地球的場景也并未真正出現(xiàn)過。
中國現(xiàn)代國際關(guān)系研究院美國研究所所長助理李崢則認(rèn)為,目前AI技術(shù)發(fā)展已經(jīng)往前進(jìn)了一步,但整個社會對其利弊的認(rèn)知及監(jiān)管卻沒有跟上。AI是不可阻擋的、革命性的技術(shù),鼓勵并不能加速其發(fā)展,限制也無法阻擋其發(fā)展。在此過程中,社會應(yīng)該扮演的角色是為適應(yīng)AI沖擊做好準(zhǔn)備并且進(jìn)行監(jiān)督,而不是鼓勵無序的技術(shù)研發(fā)。整個社會應(yīng)當(dāng)對AI的未來發(fā)展有正確預(yù)期和理解,保證其與社會發(fā)展相適應(yīng),避免技術(shù)因過度使用而“轉(zhuǎn)利為弊”。
浙江大學(xué)國際聯(lián)合商學(xué)院數(shù)字經(jīng)濟(jì)與金融創(chuàng)新研究中心聯(lián)席主任盤和林說,人類社會從來沒有阻止過科技進(jìn)步,所以應(yīng)對潛在風(fēng)險(xiǎn)的方法不是阻止科技進(jìn)步,而是以技術(shù)來對抗技術(shù)風(fēng)險(xiǎn)。AI的發(fā)展是必然趨勢,總體上AI對于人類社會利大于弊,部分風(fēng)險(xiǎn)也有應(yīng)對方法,比如AI生成虛假信息問題,只要進(jìn)行AI生成信息標(biāo)注,并通過AI對AI生成但未標(biāo)注信息進(jìn)行識別和處罰,就能解決這個問題;對于AI替代人工的問題,AI其實(shí)降低了很多職業(yè)的就職門檻,未來人類將減少套路性的內(nèi)容創(chuàng)作,更多聚焦于創(chuàng)造性內(nèi)容創(chuàng)作,需要改變的不是AI,而是我們的教育。至于AI終結(jié)人類則是太過遙遠(yuǎn)的事情,是對AI功能和作用的夸大。
必須盡快就監(jiān)管達(dá)成共識
現(xiàn)在各國對AI的討論除了其利弊之外,還集中在AI的倫理和監(jiān)管問題上。什么是AI倫理?據(jù)美國《福布斯》雜志報(bào)道,通常來講,它是指如何讓AI更負(fù)責(zé)任,其范疇包括避免AI偏見、隱私問題、避免AI犯錯等。
AI倫理為何重要?使用AI技術(shù)的經(jīng)驗(yàn)表明,讓AI技術(shù)符合倫理不僅是負(fù)責(zé)任的行為,也是獲得良好商業(yè)價(jià)值的必要條件。李崢認(rèn)為,合乎倫理的AI至少要兼顧三個方面:一是做到人類可控,不能放任其自我演化;二是AI的應(yīng)用和賦能方向應(yīng)該“向善”;三是AI要與人類社會相適應(yīng),不能超脫人類社會發(fā)展而走得太快。李曉東表示,關(guān)于人類的倫理問題,不同國家和民族都仍然存在分歧,因此合乎倫理的AI首先要尊重世界的多樣性,包容不同的政治體制、文化習(xí)慣和經(jīng)濟(jì)狀況。
7月6日,在“人工智能造福人類全球峰會”上,聯(lián)合國秘書長古特雷斯強(qiáng)調(diào),現(xiàn)在必須盡快就如何監(jiān)管AI的開發(fā)與部署達(dá)成共識。李崢表示,建立全球共同的監(jiān)管和發(fā)展機(jī)制是有必要的,尤其是那些具有危險(xiǎn)傾向的研發(fā)和應(yīng)用方向必須由全世界統(tǒng)一監(jiān)管,否則就會出現(xiàn)部分國家擅自研發(fā)危險(xiǎn)技術(shù),對別國構(gòu)成威脅的情況,造成人工智能的“軍備競賽”。從現(xiàn)實(shí)來看,AI監(jiān)管不可能拓展至所有領(lǐng)域,全球聯(lián)合監(jiān)管主要是針對那些特定技術(shù)和應(yīng)用。不過,李崢指出,建立全球監(jiān)管機(jī)制面臨諸多挑戰(zhàn),包括中美歐對關(guān)鍵問題的認(rèn)識存在政治性差異。李曉東認(rèn)為,目前全球已經(jīng)建立了很多共同治理的機(jī)制和平臺,所以要利用好現(xiàn)有機(jī)制來應(yīng)對AI發(fā)展,不到萬不得已沒必要重新打破規(guī)則,例如涉及AI在軍事領(lǐng)域的應(yīng)用,就應(yīng)放到聯(lián)合國的軍控體系內(nèi)去探討。
結(jié)語: 讀者朋友,截至今天,我們用3期“深度認(rèn)知”版為您講述了人工智能(AI)的起源和現(xiàn)狀、AI對地緣政治的影響,以及其發(fā)展將給人類社會帶來的紅利和威脅。技術(shù)創(chuàng)新是人類文明進(jìn)步的動力,而每一次科技革命的進(jìn)行都伴隨著興奮與懷疑。通過了解AI發(fā)展的“前世今生”,我們知其“然”,也知其“所以然”,并能預(yù)測這一技術(shù)未來的發(fā)展趨勢。只有深度認(rèn)知,在面對不斷變幻的“AI風(fēng)云”時(shí),我們才能心中有數(shù),笑看風(fēng)云。
【來源:環(huán)球時(shí)報(bào)】