“有些心理學研究表明，人就是有因果模式

（pattern）

的，人是從因果模式進化而來的。我們該如何想象讓機器去進化出這些東西？所以侯世達很懷疑現在的人工智能。雖然如今人工智能很火，而且在社會上應用得很廣泛，但我想說，那種應用不是真正意義上的人工智能，而是大數據應用的一些方式。在我看來，‘人工智能’這個名字名不副實。侯世達想要做‘真正的人工智能’，因此他必須自覺地與現在做人工智能的人保持距離。這是因為他們對自我的理解、對人的理解是非常不一樣。人不是一個算法，這是侯世達一個很核心的觀點。” 梅劍華說。

自我是不是一種幻覺？自由意志存在不存在？意識是什麼？如果人隻是一個純粹物理性的存在，那所有的道德、情感、倫理和美該如何解釋？想要做出侯世達眼裡“真正的人工智能”，即一個跟人類一樣的人工智能，就必須要解釋以上的難題。在“人工智能威脅論”甚嚣塵上的今天，這種反思顯得非常必要。我們在設計人工智能的過程中，也是一個不斷發現和認清自我的過程。

1月6日，曾寫過 “神書”《哥德爾、埃舍爾、巴赫——集異璧之大成》的作者侯世達的新書《我是個怪圈》，在中信書店芳草地店舉行了新書發布會。在會上，首都師範大學哲學系教授梅劍華、果殼網的聯合創始人小莊和中科創南的CTO、高級副總裁鄒鵬程一起談了談作者侯世達、人工智能與生命和人類意識的秘密。

《我是個怪圈》，作者：侯世達，譯者：修佳明，中信出版集團 | 湖岸，2019年1月

“現在的人工智能走在一個錯誤的道路上”

梅劍華認為，侯世達不能算一個嚴格意義上的哲學家，但是他的著作在哲學家中激起了強烈的反響。他的作品融彙了科學和哲學。他經常談到哥德爾定理。假如要簡單地用一句話去概述什麼叫哥德爾定理，那就是“可證的不完全，完全的不可證”，即如果一個系統是可證的話，那麼這個系統就不是完全的，肯定有漏掉的真理不能被定理表述出來；反過來說，如果這個系統是完全的，那麼這裡面起碼有一個真理我們是證明不了的。

在梅劍華看來，這就是侯世達遠離當下的人工智能研究的原因。侯世達認為，我們現在談論的人工智能和“真正的人工智能”有很大區别。人可以發現一個形式系統裡面不能證的東西，然後可以判定這個系統是不完全的，但是計算機卻發現不了。侯世達認為，現在的人工智能走在一個錯誤的道路上。

侯世達

所以，侯世達并不是一個人工智能研究者，而是一個認知科學家。他在漫長的研究中發現，大家現在做的人工智能，不論是機器學習還是深度學習，都是數據整合，在根本就是算法。而我們的大腦是不能被算法所窮盡的。不能被窮盡的東西有很多。比如說，我們的意識，我們的感受，都不能被窮盡。說得更根本一點，算法連我們的因果評判能力都不能窮盡，連再弱的意識都不行。這樣如何讓機器學習做因果推斷？這是不可能的。但小孩就能很快學會。比如說，小孩偶然間碰到火會“燙”，那下次他自然而然就不會去碰火。這是因為人有因果模式，并不是算法。

自我是一個幻覺？

那麼，侯世達是如何理解意識和人的呢？我們通常認為人有兩個部分——身體和心靈，或者更古老的說法叫靈魂。我們稱之為身心二元論。這個立場也是哲學界的主流立場，無論是中國古代還是西方都有這種兩分法，比如說，我們的靈魂最終會升向天空，或者是靈魂轉世。但是，如果我們接受科學訓練，或去讀一些當代自然主義的作品，或當代的心理學、神經科學的作品，我們可能會得到一個相反的觀念：人就是一個物理的存在，一個功能體，除此之外什麼都不是。你所有的道德、情感、倫理、美都是源自這個東西，沒有一個獨立的心靈去為它承擔解釋。

當然，知道這個真相是很殘酷的，所以很多人要守護我們的心靈，給人類留下最後的空間。梅劍華提到，昨天下午他剛在中國人民大學就這個問題争論過一次，他系裡的同事葉峰老師是一個很強硬的物理主義者，和侯世達的觀點非常一緻。他說這個世界上唯一存在的就隻是物理系統，其他所有東西都是派生的。“實質上成為一個物理主義者，或者是一個沒有自我感覺的人的日常生活是非常平靜的。葉峰老師就徹底無我，他把他所有關于項目的經費全都捐給我們去做很多學術活動了。他真的永遠沒有情緒，隻有理性。”梅劍華調侃道。

所以，按照侯世達和葉峰的理解，自我是一個幻覺，實際上沒有大家所認為的自我。這個觀點其實比較像佛教，佛教最後也是要去掉“我執”。所以，當代心理學、心靈哲學和印度哲學，佛教有很多接軌的地方。很多人會讨厭這種說法，假若自我是一種幻覺，人實際上是沒有自由意志的，這聽起來很難受。但這就是哲學家的“求真強迫症”，他們想要向世界揭示這樣的真相。

《哥德爾、艾舍爾、巴赫——集異璧之大成》，作者：侯世達，譯者：嚴勇、劉皓明、莫大偉，出版社：商務印書館，1997年5月

如果說自我是一個幻覺，那麼活着的意義何處安放？如果說自我是一個幻覺，那我們的道德、倫理從哪裡來呢？我們除了大腦裡幾億個神經元的活動之外，實際上沒有更多的東西，那麼我們的選擇和決定不就可能被預測和把握了？

梅劍華認為，可能有很多人因此會認為，自我是我們不能放棄的最後一個精神領地。但事實上，自我實際上是我們自己建構起來的幻覺，我們當然可以去把玩這種幻覺，隻是這種幻覺對我們的生存來說有好多用處。

但梅劍華要補充的是，“自我是一種幻覺”絕不是心靈哲學的主流。實際上，有很多觀點是反對它的。其中侯世達的學生大衛·查爾默斯就堅定地反對這種觀點。他是一個反物理主義者，他要為意識和感受留一個餘地。他不認為我們的心靈或所有的意識必須依附在物理上，因為我們并沒有“最終的科學”。神經科學、大腦科學，遠遠沒有到我們能夠搞清這個問題的地步。

其次，查爾默斯為自己說法提供了一個論證，這個論證就是所謂的“僵屍實驗”。我們通常會認為我們的心靈和物理之間是沒有隔閡的，它們的關聯是本質的、必然的，永遠拆散不了的。但我們可以設想，完全可能存在着一些“哲學僵屍”，它和人類在外形和行為上一模一樣，我們可以通過給它植入芯片來植入記憶。但是，這樣的僵屍會有“内在層面”嗎？比如說，我們現在在說話，我們能感覺到自己坐在這說話，因為我們有一個“内在層面”，可是僵屍沒有。若是這種僵屍可能存在的話，那麼這就表明心靈層面和物理層面是可以互相分離的，這也就表明，侯世達和葉峰等人都是錯的。這就是查爾默斯的觀點。

在理解心靈的問題上，還存在着很多截然不同的立場。比如“泛心論”。什麼叫“泛心論”？有些人會認為天地萬物都有“心”。他們認為，從人到植物，從低級動物到高級動物，心是一種程度，并不是說“有心”或“沒心”，而是它們有百分之多少的“心”。

還有一種觀點更簡單，我們稱之為“唯心論”。從極端“唯心論”到“泛心論”到身心二元論到物理主義，我們會發現關于心靈的看法很多。但在當代的讨論裡，侯世達和查爾默斯所代表的兩派是比較主流的看法。

隻有把人類大腦的圖景畫出來，我們才能去建立類人的人工智能

梅劍華一直強調算法是有問題的，不完備的，但小莊認為，我們除算法也别無選擇。我們确實沒有完美地理解“我”是從哪裡産生的，或意識是如何建立的。我們要認清自我是一個很漫長的過程。這當中很多觀點和想法，都是這個大廈建設當中的某個部分，或是某個形成關鍵突破很重要的部分。

我們該如何理解人類大腦中上千億的神經元？如果我們能把這樣一幅圖景畫出來，我們才能去建立類人的人工智能。但這項工作特别難。人類基因組計劃耗費了全世界科學家十年的努力才完成。他們要面對的隻是三十億個堿基對，而研究大腦要面對上千億個神經元，他們的互相連接是指數級的。所以我們需要等待。

但是，像自我是什麼這樣的話題，始終可以被拿出來讨論，時代和科技的進步是讨論的基礎。像自由意志，自我這樣的話題，從物理的角度被認真的探讨應該可以追溯到1943年的《生命是什麼》。雖然這本書沒有什麼新知識，但是它把一些基本的框架都提了出來，包括統計學如何在生命中起作用。為什麼這個世界需要那麼多的原子和粒子才能構成物體，為什麼這麼複雜？其實很好理解。隻有在這麼巨大的數量下，統計學才能起作用。如我們所看到的磁體的現象，如果我們放大去看，我們會發現，磁鐵裡并不是所有的原子都按照磁極分布的，在南極的一部分的原子可能是朝北的。但是在整個大的層面上，南極是朝南的，整個磁體才會呈現出這樣的磁性。

《生命是什麼》，作者：埃爾溫·薛定谔，譯者：張蔔天，出版社：商務印書館，2014年12月

人的思維會不斷地跳躍，這是人和人工智能最大的區别

鄒鵬程認為，人工智能并沒有那麼複雜，它和計算器一樣隻是工具，能放大他的智能，但它不會取代他的大腦。

侯世達認為人類思維中類比是很重要的。鄒鵬程覺得，類比這個詞有點淡，可以換成聯想。因為聯想有許多層次，它的特征是跳躍的。人的思維不斷地跳躍，是人和人工智能最大的區别，這也是我們不用特别擔心人工智能的原因。

梅劍華也表示贊同。在生活當中，類比論證可能比邏輯論證更重要。比如說，我們如何知道今天的自己和明天的自己是同一個人呢？最早讨論這個問題就來自于類比論證： “忒修斯之船”——請想象一下，一艘海上航行的船，其船身的木闆逐步被新的木闆替換，直至最後被完全替換，那麼現在這艘船還是原來的那艘嗎？這個例子跟侯世達講的 “意識上傳”的例子是類似的：如果把你的所有數據都上傳到雲端，那麼雲端的那個你是不是原來的那個你呢？

梅劍華認為，我們現在經常區分強人工智能和弱人工智能，其實我們根本無法模仿人的意識或情緒。有人認為，強人工智能我們是達不到的，但弱人工智能可以實現，但哥德爾就會說不可能。而Judea Pearl則會說，人跟機器如果有關鍵性區别的話，那就是人有一種因果性推理的能力。因此他曾嘗試為因果推理建立了一個數學模型，但谷歌現在不給他投錢了，這使得這項研究面臨着許多困難。

而除了因果之外，類比也是人理解世界和與人交往的一個基本方式。有時候在禅宗裡面，經常會有所謂的“一句禅”，我們從中悟出些什麼。這裡面就有類比和因果的聯系，我們的思維在當中進行跳躍。在科學哲學裡面，類比也是一個很重要的話題，甚至在心理學裡面，比如聯想作為類比的一種，被分為圖像式的聯想、概念式的聯想或者結構式的聯想，都是很重要的議題。

因此，雖然梅劍華對人工智能的未來是樂觀的，但從理論的層面來看，梅劍華對人工智能是悲觀的。因為哲學家所定義的類人的人工智能是無法實現的：不僅是因為技術原因。即使技術水平達到了，人也會為自己保留一定的特權。不過，梅劍華覺得這種悲觀的态度也無所謂，因為它和我們現在做的人工智能關系不大。

機器沒有意識，是因為它沒有生物基礎，這會不會過于人類中心主義？

梅劍華提到，有一種觀點認為，機器是沒有意識的，因為它沒有生物基礎。從另一方面來想，這樣會不會過于人類中心主義了呢？機器沒有生物基礎，但是它們也有可能用另一種方式在理解着我們。在語言哲學裡，什麼是理解的條件？其中一個條件就是，我要把你所說的話當作真，否則我無法跟你交流。此外，我還需要一個條件，就是“寬容原則”

（the principle of charity）

，即你所說的話不僅要前後一緻，還得有所論斷，無論是肯定還是否定，這樣我才能理解你。其實機器也能做到這些。

小孩子學語言，究竟怎麼樣才算是掌握了一門語言呢？這個問題現在依然沒有定論。在語言理解最淺顯的層面來說，人和機器其實沒有什麼差别。哲學家約翰·塞爾有一個非常有名的“中文屋”思想實驗：你一覺醒來發現自己所在的房間裡堆滿了簍子，簍子裡都是中文符号，還有一本使用手冊。你雖然看不懂中文，但可以看懂使用手冊。突然間，有人從門縫遞進來一張字條，上面寫着一個中文符号，你翻看使用手冊時，發現裡面寫道：“當你收到這個中文符号，就把另一個特定的中文符号遞出去。”于是，你就照做了。很快，你就把整本使用手冊都背了下來，不管接到哪個中文符号，都可以很快地把對應的符号再遞出去。這樣一來，雖然你并不懂中文，但你所做的事情和懂中文的人沒有兩樣，因此房間外面的人也會相信你是懂中文的。同樣的，如果你就是一台機器，那麼你就通過了圖靈測試。但是，我們依然會認為，機器确實是不懂中文的。梅劍華認為，這就是人類的“我執”。

哲學家約翰·塞爾

随着人和人工智能接觸越來越多，人反而會不會變得像人工智能？

現場有觀衆提問，我們都在讨論怎麼樣把人工智能做得像人，但随着人和人工智能接觸得越多，人會不會變得更像人工智能？人類的自我會不會漸漸消失？

鄒鵬程作為工程師，因此對這個問題相對樂觀。他認為，人工智能所暴露出來的問題，最終還是要依靠人去解決，甚至要依靠哲學家，要依靠文明和法律解決。所以他不擔心人會因為人工智能而改變，因為我們不會像機器一樣四處亂學，而會有一個方向性。這是因為人類文明延續下來的倫理。

梅劍華認為，我們會發現，我們待人方式和我們的孩子輩就不太一樣。因為他們更獨立，更願意和機器打交道；機器也開始變得像人，這個鴻溝隻會越來越小。1998年，查爾默斯和另外一個認知科學家安迪·克拉克合寫了一篇論文，叫“Extended Mind”

（《延展心靈》）

，裡面說，我們的心靈不是在大腦裡面，我們的心靈延展到環境，其中手機就是延展的一個重要的部分。我們的認知不光靠大腦，還要和環境互動。

而關于我們的自我是否會逐漸消失，梅劍華的想法是不會的。他認為，我們塑造自我的方式隻會變得不同。新的時代有新的自我。我們和機器人接觸，會多一種塑造自我的方式。比如說，以後人和機器人有可能談戀愛，這也是一種塑造自我經驗的方式。即使你對機器人的愛不會完全像對人一樣，但梅劍華認為這隻是量的變化而不是質的變化。

自我是在不斷流變的，我們很難劃出自我的邊界在哪。我們的手機讓我很有自我感，但沒有了它我們也能活下來；甚至于沒了手或腿我們也能活下來，所以我們很難劃出自我的界限。但是我們有自我感，我們根據這種自我感去籌劃我們的人生。這在任何時代都是一樣的。因此，我們并不會因為人工智能的到來而喪失自我。

作者：新京報記者 徐悅東

編輯：徐悅東 校對：何燕

更多精彩资讯请关注tft每日頭條，我们将持续为您更新最新资讯!