據英國《新科學家》雜志報道,2004年,由威爾-史密斯主演的美國影片《機械公敵》在全球上映,其中描述了芝加哥警察對付學會了獨立思考并且脫離了人類控制的機器人的故事.當然,影片中人類最終戰勝了機器人,但科學家們警告說,這樣的威脅目前正在不斷迫近,人類應該提早考慮應對之策.
科學家們表示,在災難來臨前,人類將會分為三派:宇宙主義者(主張發展人工智能的人)、地球主義者(反對發展人工智能的人)和人工智能控制論者(將自己改造成機器人的人).也許在人工大腦對付人類之前,這三類人會先展開人類內部的斗爭.
考慮到上述這些可能發生的威脅,美國耶魯大學倫理學家溫德爾-瓦拉克、美國印地安那州立大學認知科學家柯林-阿倫提出了6種有望避免悲劇發生的應對之策.
1、將它們存放在低危環境中
要確保所有的計算機和機器人永遠不會做出可能導致事先無法預測的后果的決定.
成功的可能性:極低.工程師們現在已經建成了計算機和機器人系統,但它們的行為好象并不總是可以預測.消費者、工業界以及政府部門需要那種能夠執行各種任務的技術,而為了滿足這種需求,企業也將會不斷提高產品的數量和性能.為了實現這一戰略,就必須立即深入發展計算機和機器人技術.
2、不要給它他們武器
成功的可能性:為時已晚.現在已經出現了半自動機器人武器系統,如巡航導彈、無人駕駛飛機等.一些持槍機器人也已經被派往伊拉克境內負責戰場攝影,但很明顯它們實際上并未真正部署.
但是,軍事決策者們卻好象對機器人士兵的研發非常感興趣,并將其看作是未來戰爭中降低人員傷亡的一種重要手段.如果想要停止自動化武器的建設,現在好象為時已晚,但是如果想要對機器人所攜帶的武器或是對它們可以使用武器的前提條件進行限制,好象還并不太晚.
3、為他們制定行為準則
成功的可能性:中等.科幻小說家艾薩克-阿西莫夫的著名規則就是分等級排序的:最重要的是,機器不應該傷害人類或對它們的傷害無動于衷;其次,就是機器人應該服從于人類;而機器人的自我保護則屬于最低等次的優先級.
然而,阿西莫夫只是小說家,并不會真去研制機器人.在他的小說故事里,他列舉了可能會僅僅因為這些簡單的規則而產生的一系列問題,比如,當同時收到由兩個人發出的相互沖突的兩道命令時,機器人該如何執行?
阿西莫夫的規則使得機器人難以判斷.例如,機器人如何理解一名正在對患者進行切割手術的外科醫生其實是在幫助患者呢?實際上,阿西莫夫的機器人故事已經非常清楚地說明了基于規則的道德限制.然而,規則可以成功地對機器人的行為進行限制,但同時也將其功能局限于一個有限的空間內.
4、為機器人編制特定程序
研制機器人的目的應該是“為最廣泛的人群創造最大的利益”,或是“對待他人就像你希望被對方對待的程度一樣”.因此,機器人的研制應該從更為安全的角度考慮,而不是放棄一些簡單化的規則.
成功的可能性:中等.由于這些規則的局限性,一些倫理學家在試圖尋找一條可以壓倒一切的原則,用于評估機器人的所有行為.
但是,對于一些剛剛提出的簡單原則,其道德價值和局限性就會成為人們長期爭論的話題.例如,犧牲一個人生命來挽救五個人的生命,這看起來好象是合乎邏輯的.但是醫生卻不會因為這個邏輯,而去犧牲一個健康人僅僅是為了為五個病人提供他們所需要的器官.那名機器人又如何看待這條邏輯呢?有時,在給定的規則下確定最佳選擇是極其困難的.例如,判斷到底哪一種行為可能會產生最大的利益,這可能需要大量的知識以及對世界上各種行為的影響的理解.當然,做出這種思考也需要大量的時間和計算能力.
5、像教育孩子一樣教育它們
在“成長”過程中,機器人也應該不斷學習人類對各種行為的是非判斷,以提高它們對各種行為的敏感性.
成功的可能性:有希望.雖然這一戰略的實施還需要一些技術方面的重大突破,但科學家們已經研制出能夠像人類一樣學習的機器人.當然,目前的工具還非常有限.
6、讓機器人擁有感情
像人類的一些功能,如同情、感情以及對非語言社會暗示的理解能力,都可以讓機器人擁有更強的與人類互動能力.科學家們已開始著手為家用機器人添加這些類人類功能.
成功的可能性:研發感情豐富的機器人必將有助于實現上面三條剛剛討論過的問題的解決方案.人類在做出決策時以及在與他人合作的過程中對對方觀點、手勢或意圖的理解能力,依賴的主要信息來源于我們的情感.
