2021年5月，Mind Matters播客的主持人Robert J. Marks博士，邀請到了威斯康星康考迪亞大學的哲學教授Angus Menuge博士，兩人從人工智能和哲學兩個視角出發，針對意識的三個問題展開了深度對談，，而在本期對談中，我們將看到兩人對當代不同意識模型的看法。
本文來自微信公眾號：，作者：，譯者：朱思嘉，審校：十三維，原文標題：《人工智能與哲學的意識對談 | Part2：意識模型》，題圖來自：視覺中國
Robert J. Marks：
我知道我是有意識的，但我不知道別人是否也是這樣。今天，我們將繼續討論關于“意識”的話題。
為了建立意識模型，研究者進行了大量的研究。泛心論（panpsychism）、量子意識（quantum consciousness）和整合信息論（Integrated Information Theory， IIT）等意識模型最近獲得了很多的關注。為了討論意識和意識模型，我們再次請來了 Angus Menuge 博士，他是康考迪亞大學的哲學教授和系主任，也是福音派哲學學會的前任主席。Angus ，歡迎你。
Angus Menuge：感謝再次邀請我。
現象意識和感受質
Phenomenal consciousness and qualia
Robert J. Marks：
在談論意識之前，我們有必要先對意識進行定義。我曾經和別人（在一個話題上）討論了很久。最后，我們決定花點時間來定義我們正在談論的術語，然后發現，見鬼，我們都同意，我們浪費了所有的時間。因此，我認為在談論一個話題之前，對它進行定義是很重要的。那么首先，意識的定義是什么？這個定義是否得到了廣泛的認同？
Angus Menuge：
這個問題的關鍵在于，意識是一個模糊的術語，可以用來表示各種不同的想法。有一種意識基本上就等同于經驗、是你自己的覺察，這種意識叫做現象意識（phenomenal consciousness），心靈哲學家在研究這種意識上花了很多時間。它包括看到或聞到一朵紅玫瑰花或者被玫瑰刺痛是什么感覺等各種想法。
Robert J. Marks：這就是所謂的感受質（Qualia）嗎？
Angus Menuge：
是的。這種想法曾經被稱為原始感覺（raw feels），因為存在一些情況，比如，有人踩到你的腳趾，或者你得到了一筆意外的財富等。有一種主觀體驗是你所擁有的，而且它似乎是你可以直接取用的。你意識到了這種體驗，并且無法真正否認它的存在。
在某種意義上，盡管有些哲學家對此提出質疑，但你依然擁有取用它的能力。舉個例子來說，當有一個人在痛苦中掙扎的時候，我們會采取一種模糊的看法。如果其他人對他說“你不是真正的痛苦”，確實存在這種可能，因為他可能是在演戲，但如果他覺得自己很痛苦，他就不會聽別人說他不痛苦，因為他已經通過內省（introspection）直接意識到了（自己是痛苦的）這一點。
然而，這不是意識的唯一概念。內德·布洛克（Ned Block）試圖區分他所謂的取用意識（access consciousness）。在這里，這個想法更具有認知性，它從經驗（experience）轉移到表征內容（representational content）。例如，如果你正在解決一個邏輯或數學問題，你的思考就有一個內容。這個內容可能不帶有任何特定的感受質或主觀經驗。然而，它是可以被你的推理所取用的。
所以布洛克的想法是，你或許可以有一些沒有特定內容的感受質。所以你只是有一種模糊的疼痛，但這種疼痛不指向任何東西。你也可能有思想（thoughts），但沒有相關的感受質或體驗，或者你可以兩者兼而有之。所以很多時候，當你在思考一些抽象的東西時，你可能會同時寫一些東西。比如你正在思考質數，但你實際上是在用一個符號來表示它們。所以，你會同時擁有這兩種東西，但它們似乎又是不同的。
然后還會出現其他種類的意識，特別是在人類中，我們有自我意識，所以我們能意識到自己的意識。比如，你可以欣賞日落，但你也可以再退后一步，去思考你當下的意識。
Robert J. Marks：我從來沒有想過自我意識是一種元意識，這很有吸引力。
Angus Menuge：
而事實上，意識的層次幾乎沒有盡頭。這實際上是黑格爾注意到的東西。例如，假設我們有充分的理由相信其他人擁有心智，首先，我已經注意到了你，然后我才意識到我正在注意你?，F在我是有自我意識的，但后來我開始認為你是有意識的。所以現在我意識到你意識到了我對你有意識這件事是有意識的（I'm conscious of your being conscious of me being conscious of your being conscious）。而你可以增加的層次看起來幾乎沒有盡頭。
值得慶幸的是，我們通常不會這樣做。但是我們原則上可以在很多層次上是有意識的。也許其中最有趣的是已故的林恩·貝克（Lynn Baker）所說的第一人稱視角，她注意到我們可以從內部意識到，我們的生活將是什么樣子的。
當我在心里想，“我在我兒子的婚禮上會哭嗎？”這與別人說“Angus Menuge 會在他兒子的婚禮上哭嗎？”是完全不同的。這也不同于使用名字或者明確的描述。我想的是作為我自己經歷這些會是什么樣子。而這表明，我對自己的理解是隨著時間的推移而持存的。
同樣，我們會后悔過去的事情，或者構想即將到來的假期，如果這樣的事情再次出現，我們就是在思考我們自己在這些角度上會是什么樣子。而且我們有一種相當好的心理模擬能力，使我們能夠去共情。我們不能內省其他人的精神狀態，但我們可以在某種程度上想象成為那個現在正在受苦的可憐人會是什么樣子。
Robert J. Marks：
我一直有這種體驗。在這種元狀態（meta state）下，我對自己的意識想得太多了，以至于我沒有像我認為的那樣享受生活。我想，“我在享受生活”，然后我想，“嘿，我正在享受生活”，然后我開始思考我的意識體驗，整個體驗的快樂就消失了。
體驗視覺和顏色
Experiencing vision and color
Robert J. Marks：
這些很吸引人。你提到了感受質。在人工智能領域，我可以以此為例，說明為什么人工智能永遠不會在一般意義上存在，因為你會有一個復制（duplication）。
例如，我們對紅色的感知是一種感受質。我要用的例子是，你如何向一個天生失明的人解釋紅色？你無法做到這一點。你可以解釋它的屬性、它的波長，什么是紅色的（例如蘋果）以及其他東西，但實際的經驗是不能被傳達的。如果這樣的話，你又怎么能寫一個計算機程序，向計算機解釋什么是紅色？感受質不是算法，它不能被計算出來。
Angus Menuge：
這與著名的“黑白瑪麗”實驗有很好的聯系，弗蘭克·杰克遜（Frank Jackson，1982）提出，想象一個叫做瑪麗的女人（從出生起就）在一個房間里，房間里所有東西都是黑白的，她自己也是黑白的。她學習并知曉了關于色覺生理學的全部科學事實。問題是她從來沒有真正見過紅色的東西。然后有一天她離開了這個房間，第一次看到了一朵紅玫瑰?？雌饋硭_實獲得了一些新知識。她現在知道看到紅色是什么感覺了。
而且很有意思的是，人總是有辦法應付各種事情。所以色盲的人可以在停車標志前停車，即使他們沒有紅色的感受，因為他們知道那個停車標志的功能是什么。
從某種意義上說，失明的人可以談論紅色的東西，例如，當別人說血液是紅色時，他們在某種意義上知道這意味著什么，但他們沒有像真正看得到紅色的人那樣直接、直觀的理解。
Robert J. Marks：
瀕死體驗的證據之一就是那些天生失明的人，他們有能力在瀕死體驗中走出自己的身體，真正去“看見”。因此，他們體驗到了他們在生活中從未體驗過的感受質。我覺得這很吸引人，這確實是二元論的身心問題的有力證據。
Angus Menuge：
是的。盲人的瀕死體驗絕對是非同尋常的，因為他們可以用關于顏色的術語來描述他們從未親眼見過的顏色。而這是相當令人驚奇的，因為他們似乎有某種獨立的方式去接觸它們，這是一個很困難的問題。我們如何知道有這種體驗是什么感覺呢？我想這是一個幾乎無法回答的問題，但是他們卻能夠用他們從未見過的事物的語言來描述這些事情，這真的很了不起。
泛心論的問題
Problems for panpsychism
Robert J. Marks：好了，現在讓我們回到這里的一些意識模型上來。你在上一期播客中提到了“泛心論（Panpsychism）”。在我看來，這似乎是那些不能以唯物主義形式定義意識的人的一種逃避。
Angus Menuge：
沒錯。在我看來，泛心論的確是一個相當絕望的舉動。它想說，在所有的物質中，它要么有一種心智，要么在泛心論的觀點中，它有一種早期的、類似心智的東西，因此，心智在某種程度上是一種建立在物質中的可能性（potentiality）。而你只要得到正確的配置，你就會得到心智產生的所有奇跡（wonders）。
當然，這其中的一個問題是意識的統一性，因為如果這些單獨的粒子是類似心智的，然后它們形成在一起，那你所預測和期望的應該是多種意識的涌現。而事實上，我們發現關于意識的最引人注目的事實是，它是統一的。所以這個問題，也是物理主義（physicalism）的一個問題，因為物理主義有一個非常復雜的大腦（作為其基礎）。而我們現在可以肯定地知道，大腦的不同部分會加工同一個物體不同部分的信息。
然而在意識中，這個物體是一個整體，比如一個“藍色的碗”。這并不是說有一個“藍色”的意識和一個“碗”的意識，它們相互分離。意識有著這樣一種客觀的統一性。我認為這個組合問題對于唯物主義（materialism）和泛心論來說都是一個強有力的問題。
整合信息論
Integrated information theory
Robert J. Marks：
是的，我認為把意識分配給物質，就像你分配質量、能量或類似的東西一樣，這種想法真的很牽強。但是仍然有人真正支持泛心論的概念。我想（可能因為）如果你是一個唯物主義者，你并沒有很多選擇，但這是你的選擇之一。另一個意識模型是所謂的整合信息論（Integrated information theory，IIT）。我和我的數學偶像之一格里高里·蔡廷（Gregory Chaitin）曾經談到過這個問題，我向他坦白，我不理解今天由克里斯托夫·科赫（Christophe Koch）推廣的整合信息論。
他不是理論的創始人，而是它的普及者。令人驚訝的是，蔡廷向我承認：“是的，我也不理解”。這個杰出的人并不了解整合信息論。在他看來，他還沒有盡可能多地去挖掘它。那么你對整合信息論有了解嗎？你對它又有什么樣的看法呢？
Angus Menuge：
是的，我也關注到了這個理論。這條（研究意識的）進路有點意思。它承認了意識的難題，即從我們所知道的任何物理知識中，你都無法預測或解釋意識。
所以它建議我們從反方向入手。這基本上就是說，我們首先對意識體驗的本質做一個分析。我們在理論中稱它們為公理（axioms），這就是我們要開始的地方，我們要接受意識，因為它呈現出了自己。這方面，我覺得是不可思議的。
我對像保羅·M·丘奇蘭德（Paul Churchland）這樣的取消物理主義者（eliminative materialists）感到不安，他們似乎否認了我們真的有意識，甚至否認我們有信仰和欲望，但這些現象（信仰和欲望）是存在的，所以這就是否認事實。所以他一開始就接受了意識有一個可取用的內在特征。然后試圖從中推斷，意識的物理關聯物會怎樣支持意識的這些特征？
所以這就好比一個逆向工程（reverse engineering）項目。有趣的是，它想成為一種科學的解釋，即提出科學上可檢驗的主張，探究大腦皮層的狀態如何導致有意識體驗。這個觀點與擁有某種整合表征的能力相關，因此，當你昏迷或昏睡時，形成這些表征的能力發生故障，而這正是意識出現問題的關鍵所在。所以我認為這是值得關注和研究的。
但我也傾向于認為，這其中會存在一些明顯的問題。它實際上是提供了一個所謂的意識的因果關系的解釋。但問題是，這些物理基礎并沒有真正地給你任何理由去期待主體性（subjectivity）的出現。而且，這些關系也沒有真正地解釋意向性。
所以你會看到，有時它會談論這些表征的結構甚至是幾何特征（geometry）。至此我就不知道他們在說什么了，因為現在對于我們的思想似乎有一些物理隱喻。當我思考一個三角形時，我的思想不是三角形和意向性，由于一些很明顯的原因，它不能還原為任何物理性的東西。我可以思考未來，但未來不可能在物理上導致我去思考它。我現在就可以去想埃菲爾鐵塔，但埃菲爾鐵塔并沒有在影響我。而且我也可以思考不存在的物體，比如精靈和霍比特人。
所以困難在于，即使你能找到其中的一些因果關聯，很可能它們也只是前提條件。而通常情況下，如果你的大腦不處于某種狀態，你就很可能不會對各種事物產生意識。這就是我希望科學家們能夠給出有力證據的事情。
但在意識的因果先決條件和解釋思考與感覺的內容之間會有一段空缺（gap）。在那里會存在一些內容。在我看來，這種意向性并沒有還原成任何物理上的東西，也沒有被大腦的這些狀態所解釋。
Robert J. Marks：
我想我現在對整合信息論有了更好的理解。我看過一篇報道說， Koch 把他的整合信息論講給了一群支持通用人工智能的計算機程序員。Koch 告訴他們意識在近期依舊是不可計算的，而未來的發展也還有一條很長的道路要走，而這些程序員并不喜歡這種說法。所以我想，在某些情況下，這（IIT）會以一種錯誤的方式讓人們感到不快。那么，我還知道的另一個意識模型，即所謂的量子意識。
量子意識
Quantum consciousness
Robert J. Marks：
我對此非常感興趣，因為在閱讀羅杰·彭羅斯（Roger Penrose）的作品時，彭羅斯認為人類可以做非算法的事情。他環顧整個宇宙，然后說，在我們的宇宙中，有哪里會發生非算法的事情呢？
他的結論是，只有在量子力學中，當你有一個波函數（wave function）坍縮到一個特定的結果時，我們才有非算法的東西。所以我不知道這是否與量子意識有關，但確實有一個（關于量子意識的）理論，而且在這個領域中已經有人做了很多工作。那么，量子意識中究竟講了什么呢？
Angus Menuge：
量子意識的觀點是，量子現象似乎并不像經典物理學中的事物那樣以決定性的或算法的方式發展。這可以解釋人類的創造力和自由意志，以及其他似乎與經典決定論物理學不相容的心智力量。所以，這個領域的一個觀點，也就是你提到的彭羅斯的觀點，他的工作是相當推測性的，因為他正在研究量子引力（quantum gravity），而這些想法還沒有真正被整理清楚以解決到這一點。
但是亨利·斯塔普（Henry StApp）根據對量子力學的特殊解釋認為，也許正在發生的事情是，大腦在離子活動（ionic activity）水平上是一個量子系統。這意味著，大腦可能存在各種疊加的狀態。而每一種狀態都可能表征了一個不同行動的模板。
比如，當你決定，在五本電影中選擇哪一本去看，選擇出去看還是在家里看。在那里，所有模板都以疊加的方式存在。它們都有一定的概率被選中，但沒有任何一個被選中。是什么解釋了最后你會看其中的某部電影而不是其他的？
讓我們回到馮·諾伊曼（Von Neumann）的觀點，諾伊曼認為量子物理的非凡之處在于，觀察者似乎對系統的演變產生了影響。所以你可以有這樣一個系統，這個系統里有所有的這些可能狀態，然后你有這個波函數。
至于是什么讓波函數坍縮？為什么這些狀態中會有一個成為實際狀態？諾伊曼認為這也許是測量的作用。他自己并沒有區分測量的心理行為或做測量的光學儀器（aura machine），但斯塔普做了區分，斯塔普推測也許大腦是一個量子系統，而意識所增加的是選擇性注意。
因此，當你考慮五件你可以做的事時，你最終關注和選擇的那件事是固定的。然后，那件事情最終被實現，你最終確實做了那件事。
所以，也許就像這樣，你的心智測量你的大腦，你的意識導致波函數的這種坍縮。而這就解釋了你所做的特定行動。而這將與一種強烈的自由意志觀點相一致，即自由意志主義（libertarian free will），因為你的大腦的任何物理狀態都不能決定你接下來要做什么。是你有意識的注意力最終真正決定了你所做的那些可能的行動，你不是簡單地被你的大腦狀態強迫而機械地行為，你不是在這樣一個模糊的系統中。
Robert J. Marks：那么量子意識是否根植于唯物主義呢？你可以看著唯物主義的意識模型，訴諸到量子意識，然后說這是唯物主義的嗎？
Angus Menuge：
天哪，好吧，這是一個棘手的問題。大多數唯物主義者，他們的范式實際上是由19世紀的舊物理科學觀點設計的，所以根據定義，這（意識）超出了這個范圍。不過當然，如果人們用最新的物理科學的理論來定義唯物主義，那么你可以說，如果物理科學開始允許意識的存在，那我可以接受它。
但是請注意它帶來的后果：它最終會在某種程度上使二元論者和唯物論者之間的大辯論變得微不足道。因為如果我們允許意識本身是一種東西，那么意識就是自成一類的實體（Sui generis）。
Robert J. Marks：自成一類的實體（Sui generis）？
Angus Menuge：
就是它沒有和其他的東西一起被還原。換句話說，它是屬于它自己的類型（type）或屬類（genus）的東西。這就好比，在物理學的歷史上，人們先前認為電磁輻射需要以太（ether）作為媒介，然后邁克爾遜·莫雷（Michelson Morley）的實驗表明，電磁輻射實際不需要介質，它是屬于自己的東西。因此，我們不再把電磁學看作是可以以某種方式簡化為機械的東西。
同樣地，如果物理學最終會得出結論，當然這種可能性很小。我們不能把意識還原為任何普通的物理現象，我們只能承認它是它自己的一種東西。事實上，需要有意識才能有一個完整的物理學，因為畢竟，如果你想要斯蒂芬·霍金（Stephen Hawking）提出的萬物理論（theory of everything），最終就會如托馬斯·內格爾（Thomas Nagel）所說，萬物理論必須包括科學家以及科學家所觀察的世界。
如果我打算用一種方案完全地解釋，當科學家測量量子物理學中的系統并處理量子糾纏（entanglement）和其他所有事情時發生了什么，而事實證明這種解釋方案中意識是必需的，那么意識是否成為物理學的一部分？如果是這樣，那么在某種程度上，物理學家和二元論者之間的辯論就會結束，因為物理已經納入了意識。而二元論者會在這個意義上更勝一籌，他們會激動地說，沒錯，意識并沒有還原成任何這些其他的東西，這正是他們幾個世紀以來一直宣揚的觀點。
在AI中檢驗意識
Testing consciousness in artificial intelligence
Robert J. Marks：
這里有一個重要的人工智能的問題。也是我所感興趣的地方。我知道我是有意識的，那么有沒有一種方法，讓我們可以檢驗他人的意識？如果我們可以，我們是否可以將這種對他人的意識的檢驗應用于人工智能？我可以在你身上檢驗出意識嗎？我將如何做到這一點？
Angus Menuge：
嗯，這是一個難題，但我認為，它始于我們如何根據數據進行概括。我們發現，所有人都會自然地、隨著他們在兒童時期的成長，發展出心理理論（theory of mind），這導致他們相信其他人也有像他們一樣的心智。我們也可以直接通過內省意識到我們確實有心智，而且我們發現其他人在所有方面都與我們相似。因此，因為其他人在各方面都和我們一樣而得出他們有心智的結論是非常合理的，因為這是我們的自然判斷。
問題是，當你轉向人工智能時，人工智能與人類是如此不同，以至于現在不能做出一個清晰、可靠的推斷。所以當我通過觀察你是否產生疼痛行為來檢驗你的意識時，令我確信你有意識的部分原因是因為我已經確信你本身是擁有心智的存在。
而對于人工智能，我還沒有確信這一點。而且由于AI系統與人類是如此不同，我們遇到的問題是它可能會產生各種（與人類）相同的行為。它可能會模擬所有你期望從有意識的人那里觀察到的行為。舉例來說，給一個機器人編程是很容易的，當它接觸到熱的東西時，它可以發出驚呼并把手收回來。它可以有熱傳感器，可以被編程來做這些事情。但這并沒有給我足夠的理由去認為它真的很痛苦。
問題的一部分在于它在構成上與我截然不同。它在所有其他方面都與我不同，因此我不相信這（它是有意識的）是一個可靠的推斷。
Robert J. Marks：是的。在我看來，問題在于區分意識是否被復制或被模仿。而我認為這將是一個很細微同時也難解決的問題（a hard frog hair to cut）。
Angus Menuge：沒錯，我想是這樣的。這是一個很奇怪的情況，因為從理論上講，可能有一些東西是像這樣的機器人或 AI系統，但我們永遠對它們是不可知的。
Robert J. Marks：這真的是一個很有趣的話題，謝謝你，Angus，我學到了很多東西。
對談者簡介請參見上期：身心問題
本文來自微信公眾號：Mindverse Research（ID：gh_be9d7092abf7），作者：Mind Matters，譯者：朱思嘉，審校：十三維
本內容為作者獨立觀點，不代表虎嗅立場。未經允許不得轉載，授權事宜請聯系 [email protected]
正在改變與想要改變世界的人，都在虎嗅APP
