騰訊科技訊 7月12日消息，微軟創(chuàng)始人比爾·蓋茨（Bill Gates）周二發(fā)表博客文章稱，人工智能的未來(lái)不會(huì)像一些人想象的那么嚴(yán)峻、也不會(huì)像一些人想象的那么樂(lè)觀。人工智能的風(fēng)險(xiǎn)確實(shí)存在，但仍可控制。蓋茨認(rèn)為，人工智能的影響不會(huì)像工業(yè)革命那樣巨大，但會(huì)像個(gè)人計(jì)算機(jī)問(wèn)世那樣帶來(lái)重大沖擊，許多由人工智能引發(fā)的的問(wèn)題可以通過(guò)人工智能自身來(lái)解決。
以下為文章全文：
人工智能帶來(lái)的風(fēng)險(xiǎn)可能看起來(lái)勢(shì)不可擋。被智能機(jī)器搶了飯碗的人會(huì)怎么樣？人工智能會(huì)影響選舉結(jié)果嗎？如果未來(lái)的人工智能決定不再需要人類，并想擺脫人類，那該怎么辦？
這些都是公平的問(wèn)題，它們引起的關(guān)注需要認(rèn)真對(duì)待。但有一個(gè)很好的理由認(rèn)為我們可以應(yīng)對(duì)它們：重大創(chuàng)新帶來(lái)了必須加以控制的新威脅，這已不是第一次出現(xiàn)。我們以前經(jīng)歷過(guò)這些。
無(wú)論是汽車的問(wèn)世，還是個(gè)人電腦和互聯(lián)網(wǎng)的興起，人類都經(jīng)歷了變革時(shí)刻。盡管變革過(guò)程中出現(xiàn)許多動(dòng)蕩，但最終都變得更好。第一輛汽車上路后不久，就發(fā)生了第一起車禍。但我們并未禁止汽車--而是制定出限速、安全標(biāo)準(zhǔn)、駕駛證、酒后駕駛法和其他交通規(guī)則。
我們現(xiàn)在正處于另一場(chǎng)深刻變革的雛形階段，即人工智能時(shí)代。這類似于限速和安全帶之前的那些不確定時(shí)期。人工智能變化如此之快，以至于還不清楚接下來(lái)會(huì)發(fā)生什么。我們正面臨著由當(dāng)前技術(shù)的運(yùn)行方式、人們將利用它進(jìn)行不良企圖的方式、以及人工智能將改變社會(huì)所提出的重大問(wèn)題。
在這樣的時(shí)刻，感到不安是很自然的。不過(guò)歷史表明，解決新技術(shù)帶來(lái)的挑戰(zhàn)是可能的。
我之前寫(xiě)過(guò)人工智能將如何徹底改變我們的生活。它將有助于解決健康、教育、氣候變化等問(wèn)題，這些問(wèn)題過(guò)去似乎很難解決。蓋茨基金會(huì)將此作為優(yōu)先事項(xiàng)，我們的首席執(zhí)行官馬克·蘇茲曼（Mark Suzman）最近分享了他對(duì)人工智能在減少不平等中的作用的想法。
關(guān)于人工智能的好處，我將在未來(lái)有更多的話要說(shuō)，但在這篇文章中，我想承認(rèn)我最常聽(tīng)到和讀到的擔(dān)憂，其中許多我都有同感。我還會(huì)解釋我對(duì)它們的看法。
從迄今為止所有關(guān)于人工智能風(fēng)險(xiǎn)的文章中可以清楚地看出，沒(méi)有人知道所有的答案。另一件對(duì)我來(lái)說(shuō)很清楚的事情是，人工智能的未來(lái)并不像一些人認(rèn)為的那樣嚴(yán)峻，也不像其他人認(rèn)為的那樣樂(lè)觀。風(fēng)險(xiǎn)是真實(shí)存在的，但我樂(lè)觀地認(rèn)為它們是可以控制的。在討論每個(gè)問(wèn)題時(shí)，我會(huì)回到幾個(gè)主題:
--人工智能引發(fā)的許多問(wèn)題都有歷史先例。例如，它將對(duì)教育產(chǎn)生重大影響。但幾十年前手持計(jì)算器也是如此。最近，學(xué)校已允許學(xué)生帶著計(jì)算機(jī)進(jìn)入教室。我們可以從過(guò)去的經(jīng)歷中學(xué)習(xí)。
--人工智能帶來(lái)的很多問(wèn)題，也可以借助人工智能來(lái)管理這些問(wèn)題。
--我們需要修改舊法律，采用新法律--正如現(xiàn)有的反欺詐法律必須適應(yīng)網(wǎng)絡(luò)世界一樣。
在這篇文章中，我將重點(diǎn)關(guān)注已經(jīng)存在或即將存在的風(fēng)險(xiǎn)。我不是在處理當(dāng)我們開(kāi)發(fā)一個(gè)可以學(xué)習(xí)任何主題或任務(wù)的人工智能時(shí)會(huì)發(fā)生什么，這與今天專門開(kāi)發(fā)的人工智能相反。無(wú)論我們是在十年還是一個(gè)世紀(jì)后達(dá)到這一點(diǎn)，社會(huì)都需要考慮一些深刻的問(wèn)題。如果一個(gè)超級(jí)人工智能建立了自己的目標(biāo)呢？如果它們與人類的沖突呢？我們到底該不該制造一個(gè)超級(jí)人工智能？
但考慮這些長(zhǎng)期風(fēng)險(xiǎn)不應(yīng)以犧牲更為緊迫的風(fēng)險(xiǎn)為代價(jià)。我現(xiàn)在就談?wù)勥@些問(wèn)題：
人工智能產(chǎn)生的虛假和錯(cuò)誤信息可能會(huì)破壞選舉和民主
技術(shù)可以用來(lái)傳播謊言和不實(shí)之詞的想法并不新鮮。幾個(gè)世紀(jì)以來(lái)，人們一直用書(shū)籍和傳單來(lái)做這件事。隨著文字處理器、激光打印機(jī)、電子郵件和社交網(wǎng)絡(luò)的出現(xiàn)，這變得容易多了。
人工智能解決了虛假文本的問(wèn)題，并對(duì)其進(jìn)行了擴(kuò)展，幾乎允許任何人創(chuàng)建虛假的音頻和視頻，即深度偽造（Deepfakes）。如果你收到一條語(yǔ)音信息，聽(tīng)起來(lái)像是你的孩子在說(shuō)“我被綁架了，請(qǐng)?jiān)诮酉聛?lái)的10分鐘內(nèi)向這個(gè)銀行賬戶匯1000美元，不要報(bào)警”。這將產(chǎn)生可怕的情緒影響，遠(yuǎn)遠(yuǎn)超過(guò)一封寫(xiě)著同樣內(nèi)容的電子郵件的影響。
在更大的范圍內(nèi)，人工智能生成的深度偽造可以用來(lái)試圖傾斜選舉。當(dāng)然，對(duì)選舉的合法獲勝者產(chǎn)生懷疑并不需要復(fù)雜的技術(shù)，但人工智能將使這變得更容易。
已經(jīng)有一些虛假的視頻以著名政治家的虛構(gòu)鏡頭為主角。想象一下，在一場(chǎng)重大選舉的早晨，一段顯示一名候選人搶劫銀行的視頻在網(wǎng)上瘋傳。這是假的，但需要新聞媒體和競(jìng)選團(tuán)隊(duì)幾個(gè)小時(shí)來(lái)證明。有多少人會(huì)看到后在最后一刻改變投票？這可能會(huì)扭轉(zhuǎn)局勢(shì)，尤其是在勢(shì)均力敵的選舉中。
當(dāng)AI target=_blank class=infotextkey>OpenAI的聯(lián)合創(chuàng)始人山姆·奧特曼（Sam Altman）最近在美國(guó)參議院委員會(huì)參加庭審時(shí)，兩黨的參議員都聚焦于人工智能對(duì)選舉和民主的影響。我希望這個(gè)問(wèn)題繼續(xù)提上每個(gè)人的議事日程。
我們當(dāng)然還沒(méi)有解決誤傳和造假的問(wèn)題。但有兩件事讓我保持謹(jǐn)慎樂(lè)觀。一是人們有能力學(xué)會(huì)不要從表面上看一切。多年來(lái)，電子郵件用戶陷入騙局，有人冒充尼日利亞王子，承諾給一大筆錢，作為交換，分享你的信用卡號(hào)碼。但最終，大多數(shù)人都學(xué)會(huì)了多看那些郵件。隨著騙局變得越來(lái)越復(fù)雜，他們的許多目標(biāo)也變得越來(lái)越復(fù)雜。
另一件讓我充滿希望的事情是，人工智能可以幫助識(shí)別深度偽造。例如，英特爾開(kāi)發(fā)了一款深度偽造檢測(cè)器，美國(guó)國(guó)防部高級(jí)研究計(jì)劃局（DARPA）正在研究識(shí)別視頻或音頻是否被操縱的技術(shù)。
這將是一個(gè)循環(huán)的過(guò)程：有人找到了檢測(cè)造假的方法，有人想出了應(yīng)對(duì)的方法，有人制定了反制措施，等等。不會(huì)是完美的成功，但我們也不會(huì)束手無(wú)策。
人工智能使得對(duì)人民和政府發(fā)動(dòng)攻擊變得更加容易
今天，當(dāng)黑客想要找到軟件中可利用的缺陷時(shí)，他們會(huì)通過(guò)暴力來(lái)實(shí)現(xiàn)--編寫(xiě)代碼，攻擊潛在的弱點(diǎn)，直到他們找到進(jìn)入的方法。這需要走很多死胡同，這意味著需要時(shí)間和耐心。
想要對(duì)抗黑客的安全專家不得不做同樣的事情。你在手機(jī)或筆記本電腦上安裝的每一個(gè)軟件補(bǔ)丁，都代表著人們出于善意或惡意進(jìn)行的長(zhǎng)時(shí)間搜索。
人工智能模型將通過(guò)幫助黑客編寫(xiě)更有效的代碼來(lái)加速這一過(guò)程。他們還能夠利用個(gè)人的公開(kāi)信息，如他們?cè)谀睦锕ぷ鳎麄兊呐笥咽钦l(shuí)，來(lái)開(kāi)發(fā)比我們今天看到的更高級(jí)的網(wǎng)絡(luò)釣魚(yú)攻擊。
好消息是，人工智能既可以用于好的目的，也可以用于壞的目的。政府和私營(yíng)部門的安全團(tuán)隊(duì)需要擁有最新的工具來(lái)發(fā)現(xiàn)和修復(fù)安全漏洞，以免被犯罪分子利用。我希望軟件安全行業(yè)將擴(kuò)展他們?cè)谶@方面已經(jīng)做的工作--這應(yīng)該是他們最關(guān)心的問(wèn)題。
這也是為什么我們不應(yīng)該像一些人提議的那樣，試圖暫時(shí)阻止人們實(shí)現(xiàn)人工智能的新發(fā)展。網(wǎng)絡(luò)罪犯不會(huì)停止制造新工具。想用人工智能設(shè)計(jì)核武器和生物恐怖襲擊的人也不會(huì)。阻止它們的努力需要以同樣的速度繼續(xù)下去。
在全球?qū)用嬉灿幸粋€(gè)相關(guān)的風(fēng)險(xiǎn)：人工智能領(lǐng)域的開(kāi)發(fā)競(jìng)賽可以用來(lái)設(shè)計(jì)和發(fā)動(dòng)針對(duì)其他國(guó)家的網(wǎng)絡(luò)攻擊。每個(gè)政府都希望擁有最強(qiáng)大的技術(shù)，這樣就可以阻止對(duì)手的攻擊。這種不讓任何人領(lǐng)先的激勵(lì)可能會(huì)引發(fā)一場(chǎng)制造越來(lái)越危險(xiǎn)的網(wǎng)絡(luò)武器的競(jìng)賽。每個(gè)人都會(huì)變得更糟。
這是一個(gè)可怕的想法，但我們有歷史來(lái)指引我們。盡管世界核不擴(kuò)散機(jī)制有其缺陷，但它阻止了我們這一代人在成長(zhǎng)過(guò)程中非常害怕的全面核戰(zhàn)爭(zhēng)。各國(guó)政府應(yīng)該考慮為人工智能創(chuàng)建一個(gè)類似于國(guó)際原子能機(jī)構(gòu)的全球性機(jī)構(gòu)。
人工智能會(huì)搶走人的工作
未來(lái)幾年，人工智能對(duì)工作的主要影響將是幫助人們更高效地完成工作。無(wú)論他們是在工廠還是在處理銷售電話和應(yīng)付賬款的辦公室工作，都是如此。最終，人工智能將能夠很好地表達(dá)想法，它將能夠?yàn)槟銓?xiě)電子郵件和管理你的收件箱。
你將能夠用簡(jiǎn)單的英語(yǔ)或任何其他語(yǔ)言寫(xiě)一個(gè)請(qǐng)求，并對(duì)你的工作做一個(gè)豐富的介紹。
正如我在2月份的文章中所說(shuō)，生產(chǎn)率提高對(duì)社會(huì)有益。它讓人們有更多的時(shí)間去做其他事情，無(wú)論是在工作中還是在家里。對(duì)幫助他人的人的需求--例如，教書(shū)、照顧病人和贍養(yǎng)老人--永遠(yuǎn)不會(huì)消失。但確實(shí)，隨著我們向人工智能驅(qū)動(dòng)的工作場(chǎng)所過(guò)渡，一些工人將需要支持和再培訓(xùn)。這是政府和企業(yè)的職責(zé)，他們需要很好地管理它，這樣工人就不會(huì)被落下--以避免在美國(guó)制造業(yè)就業(yè)崗位下降期間發(fā)生的那種對(duì)人們生活的破壞。
此外，請(qǐng)記住，這不是第一次新技術(shù)導(dǎo)致勞動(dòng)力市場(chǎng)的大轉(zhuǎn)變。我不認(rèn)為人工智能的影響會(huì)像工業(yè)革命那樣引人注目，但它肯定會(huì)像個(gè)人電腦的引入一樣巨大。文字處理應(yīng)用程序并沒(méi)有消除辦公室工作，但它們永遠(yuǎn)改變了辦公室工作。雇主和雇員必須適應(yīng)，他們做到了。人工智能帶來(lái)的轉(zhuǎn)變將是一個(gè)坎坷的轉(zhuǎn)變，但我們完全有理由認(rèn)為，我們可以減少對(duì)人們生活和生計(jì)的破壞。
人工智能繼承了人類的偏見(jiàn)，編造了一些東西。
幻覺(jué)--這個(gè)術(shù)語(yǔ)指的是當(dāng)人工智能自信地做出一些根本不真實(shí)的斷言時(shí)--通常是因?yàn)闄C(jī)器不理解你的請(qǐng)求的上下文而發(fā)生的。讓一個(gè)人工智能寫(xiě)一個(gè)關(guān)于去月球度假的小故事，它可能會(huì)給你一個(gè)非常有想象力的答案。但是讓它幫你計(jì)劃一次去坦桑尼亞的旅行，它可能會(huì)試著把你送到一個(gè)不存在的酒店。
人工智能的另一個(gè)風(fēng)險(xiǎn)是，它反映甚至加劇了對(duì)某些性別身份、種族、民族等人群的現(xiàn)有偏見(jiàn)。
為了理解為什么會(huì)出現(xiàn)幻覺(jué)和偏見(jiàn)，重要的是要知道當(dāng)今最常見(jiàn)的人工智能模型是如何工作的。它們本質(zhì)上是非常復(fù)雜的代碼版本，可以讓你的電子郵件應(yīng)用程序預(yù)測(cè)你將要鍵入的下一個(gè)單詞:它們掃描大量的文本--在某些情況下，幾乎是網(wǎng)上可以找到的所有內(nèi)容--并對(duì)其進(jìn)行分析，以找到人類語(yǔ)言的模式。
當(dāng)你向人工智能提出問(wèn)題時(shí)，它會(huì)查看你使用的單詞，然后搜索經(jīng)常與這些單詞相關(guān)聯(lián)的文本塊。如果你寫(xiě)“列出薄煎餅的配料”，它可能會(huì)注意到“面粉、糖、鹽、發(fā)酵粉、牛奶和雞蛋”這些詞經(jīng)常與這個(gè)短語(yǔ)一起出現(xiàn)。然后，基于它所知道的這些單詞通常出現(xiàn)的順序，它生成一個(gè)答案。(以這種方式工作的人工智能模型使用的是所謂的變壓器。GPT-4就是這樣一個(gè)模型。)
這個(gè)過(guò)程解釋了為什么人工智能可能會(huì)出現(xiàn)幻覺(jué)或出現(xiàn)偏見(jiàn)。你問(wèn)的問(wèn)題和你告訴它的事情都沒(méi)有上下文。如果你告訴一個(gè)人它犯了一個(gè)錯(cuò)誤，它可能會(huì)說(shuō)，“對(duì)不起，我打錯(cuò)了。”但那是一種幻覺(jué)——它沒(méi)有打出任何東西。它只是說(shuō)，因?yàn)樗鼟呙枇俗銐蚨嗟奈谋荆?ldquo;對(duì)不起，我打錯(cuò)了那個(gè)”是人們經(jīng)常在有人糾正他們后寫(xiě)的句子。
類似地，人工智能模型繼承了他們接受訓(xùn)練的文本中的任何偏見(jiàn)。如果一個(gè)人讀了很多關(guān)于內(nèi)科醫(yī)生的書(shū)，并且書(shū)中大部分都提到了男醫(yī)生，那么它的答案會(huì)假設(shè)大多數(shù)醫(yī)生都是男性。
雖然有些研究者認(rèn)為幻覺(jué)是一個(gè)固有的問(wèn)題，但我不同意。我樂(lè)觀地認(rèn)為，隨著時(shí)間的推移，人工智能模型可以被教會(huì)區(qū)分事實(shí)和虛構(gòu)。例如，OpenAI正在這方面做著有希望的工作。
其他組織，包括艾倫圖靈研究所和國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所，都在致力于解決偏見(jiàn)問(wèn)題。一種方法是將人類價(jià)值觀和更高級(jí)的推理構(gòu)建到人工智能中。這類似于一個(gè)有自我意識(shí)的人的工作方式：也許你認(rèn)為大多數(shù)醫(yī)生都是男人，但你足夠意識(shí)到這個(gè)假設(shè)，知道你必須有意識(shí)地與之斗爭(zhēng)。人工智能可以以類似的方式運(yùn)作，特別是如果模型是由來(lái)自不同背景的人設(shè)計(jì)的。
最后，每個(gè)使用人工智能的人都需要意識(shí)到偏見(jiàn)問(wèn)題，并成為一個(gè)知情的用戶。你讓人工智能起草的文章可能充滿偏見(jiàn)，也可能存在事實(shí)錯(cuò)誤。你需要檢查你的人工智能和你自己的偏見(jiàn)。
學(xué)生不會(huì)學(xué)習(xí)寫(xiě)作，因?yàn)槿斯ぶ悄軙?huì)替他們做。許多教師擔(dān)心人工智能會(huì)破壞他們與學(xué)生的工作。在一個(gè)任何可以上網(wǎng)的人都可以使用人工智能來(lái)寫(xiě)一篇體面的論文初稿的時(shí)代，有什么可以阻止學(xué)生把它作為自己的作品來(lái)提交呢？
已經(jīng)有一些人工智能工具正在學(xué)習(xí)辨別某個(gè)東西是由人還是由計(jì)算機(jī)寫(xiě)的，這樣老師就可以知道他們的學(xué)生什么時(shí)候沒(méi)有做自己的作業(yè)。但是一些老師并沒(méi)有試圖阻止他們的學(xué)生在寫(xiě)作中使用人工智能--他們實(shí)際上是在鼓勵(lì)它。
今年1月，一位名叫切麗·希爾茲（Cherie Shields）的資深英語(yǔ)教師在《教育周刊》上寫(xiě)了一篇關(guān)于她如何在課堂上使用ChatGPT的文章。它幫助她的學(xué)生從開(kāi)始寫(xiě)論文到寫(xiě)提綱，甚至給他們工作上的反饋。
“教師將不得不接受人工智能技術(shù)，作為學(xué)生可以使用的另一種工具，”她寫(xiě)道。“就像我們?cè)?jīng)教學(xué)生如何進(jìn)行正確的谷歌搜索一樣，教師應(yīng)該圍繞ChatGPT機(jī)器人如何幫助論文寫(xiě)作設(shè)計(jì)清晰的課程。承認(rèn)人工智能的存在并幫助學(xué)生使用它可能會(huì)徹底改變我們的教學(xué)方式。”不是每個(gè)老師都有時(shí)間學(xué)習(xí)和使用一種新工具，但像切麗·希爾茲這樣的教育家提出了一個(gè)很好的論點(diǎn)，那些這樣做的人將受益匪淺。
這讓我想起了20世紀(jì)70年代和80年代電子計(jì)算器普及的時(shí)候。一些數(shù)學(xué)老師擔(dān)心學(xué)生會(huì)停止學(xué)習(xí)如何做基本算術(shù)，但其他人接受了新技術(shù)，并專注于算術(shù)背后的思維技能。
人工智能還可以通過(guò)另一種方式幫助寫(xiě)作和批判性思維。尤其是在這些早期，當(dāng)幻覺(jué)和偏見(jiàn)仍然是一個(gè)問(wèn)題時(shí)，教育者可以讓人工智能生成文章，然后與他們的學(xué)生一起檢查事實(shí)。我資助的汗學(xué)院和OER項(xiàng)目等教育非營(yíng)利組織為教師和學(xué)生提供免費(fèi)的在線工具，這些工具非常重視測(cè)試斷言。很少有技能比知道如何辨別真假更重要。
我們確實(shí)需要確保教育軟件有助于縮小成績(jī)差距，而不是讓它變得更糟。今天的軟件主要是面向那些已經(jīng)有動(dòng)力的學(xué)生。它可以為你制定學(xué)習(xí)計(jì)劃，為你指出好的資源，并測(cè)試你的知識(shí)。但是它還不知道如何把你帶入一個(gè)主題
你已經(jīng)不感興趣了。這是開(kāi)發(fā)者需要解決的問(wèn)題，以便所有類型的學(xué)生都能從人工智能中受益。
下一步是什么？
我相信有更多的理由不樂(lè)觀，我們可以管理人工智能的風(fēng)險(xiǎn)，同時(shí)最大化其利益。但是我們需要盡快行動(dòng)。
政府需要積累人工智能方面的專業(yè)知識(shí)，以便能夠制定明智的法律法規(guī)來(lái)應(yīng)對(duì)這一新技術(shù)。他們需要努力應(yīng)對(duì)錯(cuò)誤信息和虛假信息、安全威脅、就業(yè)市場(chǎng)的變化以及對(duì)教育的影響。僅舉一個(gè)例子：法律需要明確深度偽造的哪些使用是合法的，如何標(biāo)記深度偽造，以便每個(gè)人都明白他們看到或聽(tīng)到的內(nèi)容不是真的。
政治領(lǐng)導(dǎo)人需要具備與選民進(jìn)行知情、深思熟慮的對(duì)話的能力。他們還需要決定在這些問(wèn)題上與其他國(guó)家合作的程度，而不是單干。
在私營(yíng)部門，人工智能公司需要安全負(fù)責(zé)地開(kāi)展工作。這包括保護(hù)人們的隱私，確保他們的人工智能模型反映基本的人類價(jià)值觀，最大限度地減少偏見(jiàn)，讓盡可能多的人受益，以及防止技術(shù)被犯罪分子或恐怖分子使用。許多經(jīng)濟(jì)領(lǐng)域的公司將需要幫助他們的員工向以人工智能為中心的工作場(chǎng)所過(guò)渡，以便沒(méi)有人被落下。客戶應(yīng)該總是知道他們何時(shí)與人工智能而不是人類互動(dòng)。
最后，我鼓勵(lì)每個(gè)人盡可能地關(guān)注人工智能的發(fā)展。這是我們有生之年將會(huì)看到的最具變革性的創(chuàng)新，健康的公共辯論將取決于每個(gè)人對(duì)該技術(shù)及其好處和風(fēng)險(xiǎn)的了解。好處將是巨大的，相信我們能夠管理風(fēng)險(xiǎn)的最好理由是我們以前做過(guò)。（無(wú)忌）
