的，人是從因果模式進(jìn)化而來(lái)的。我們?cè)撊绾蜗胂笞寵C(jī)器去進(jìn)化出這些東西？所以侯世達(dá)很懷疑現(xiàn)在的人工智能。雖然如今人工智能很火，而且在社會(huì)上應(yīng)用得很廣泛，但我想說(shuō)，那種應(yīng)用不是真正意義上的人工智能，而是大數(shù)據(jù)應(yīng)用的一些方式。在我看來(lái)，‘人工智能’這個(gè)名字名不副實(shí)。侯世達(dá)想要做‘真正的人工智能’，因此他必須自覺(jué)地與現(xiàn)在做人工智能的人保持距離。這是因?yàn)樗麄儗?duì)自我的理解、對(duì)人的理解是非常不一樣。人不是一個(gè)算法，這是侯世達(dá)一個(gè)很核心的觀點(diǎn)?！?梅劍華說(shuō)。

自我是不是一種幻覺(jué)？自由意志存在不存在？意識(shí)是什么？如果人只是一個(gè)純粹物理性的存在，那所有的道德、情感、倫理和美該如何解釋？想要做出侯世達(dá)眼里“真正的人工智能”，即一個(gè)跟人類一樣的人工智能，就必須要解釋以上的難題。在“人工智能威脅論”甚囂塵上的今天，這種反思顯得非常必要。我們?cè)谠O(shè)計(jì)人工智能的過(guò)程中，也是一個(gè)不斷發(fā)現(xiàn)和認(rèn)清自我的過(guò)程。

1月6日，曾寫過(guò) “神書(shū)”《哥德?tīng)?、埃舍爾、巴赫——集異璧之大成》的作者侯世達(dá)的新書(shū)《我是個(gè)怪圈》，在中信書(shū)店芳草地店舉行了新書(shū)發(fā)布會(huì)。在會(huì)上，首都師范大學(xué)哲學(xué)系教授梅劍華、果殼網(wǎng)的聯(lián)合創(chuàng)始人小莊和中科創(chuàng)南的CTO、高級(jí)副總裁鄒鵬程一起談了談作者侯世達(dá)、人工智能與生命和人類意識(shí)的秘密。

《我是個(gè)怪圈》，作者：侯世達(dá)，譯者：修佳明，中信出版集團(tuán) | 湖岸，2019年1月

“現(xiàn)在的人工智能走在一個(gè)錯(cuò)誤的道路上”

梅劍華認(rèn)為，侯世達(dá)不能算一個(gè)嚴(yán)格意義上的哲學(xué)家，但是他的著作在哲學(xué)家中激起了強(qiáng)烈的反響。他的作品融匯了科學(xué)和哲學(xué)。他經(jīng)常談到哥德?tīng)柖ɡ怼＜偃缫?jiǎn)單地用一句話去概述什么叫哥德?tīng)柖ɡ?，那就是“可證的不完全，完全的不可證”，即如果一個(gè)系統(tǒng)是可證的話，那么這個(gè)系統(tǒng)就不是完全的，肯定有漏掉的真理不能被定理表述出來(lái)；反過(guò)來(lái)說(shuō)，如果這個(gè)系統(tǒng)是完全的，那么這里面起碼有一個(gè)真理我們是證明不了的。

在梅劍華看來(lái)，這就是侯世達(dá)遠(yuǎn)離當(dāng)下的人工智能研究的原因。侯世達(dá)認(rèn)為，我們現(xiàn)在談?wù)摰娜斯ぶ悄芎汀罢嬲娜斯ぶ悄堋庇泻艽髤^(qū)別。人可以發(fā)現(xiàn)一個(gè)形式系統(tǒng)里面不能證的東西，然后可以判定這個(gè)系統(tǒng)是不完全的，但是計(jì)算機(jī)卻發(fā)現(xiàn)不了。侯世達(dá)認(rèn)為，現(xiàn)在的人工智能走在一個(gè)錯(cuò)誤的道路上。

侯世達(dá)

所以，侯世達(dá)并不是一個(gè)人工智能研究者，而是一個(gè)認(rèn)知科學(xué)家。他在漫長(zhǎng)的研究中發(fā)現(xiàn)，大家現(xiàn)在做的人工智能，不論是機(jī)器學(xué)習(xí)還是深度學(xué)習(xí)，都是數(shù)據(jù)整合，在根本就是算法。而我們的大腦是不能被算法所窮盡的。不能被窮盡的東西有很多。比如說(shuō)，我們的意識(shí)，我們的感受，都不能被窮盡。說(shuō)得更根本一點(diǎn)，算法連我們的因果評(píng)判能力都不能窮盡，連再弱的意識(shí)都不行。這樣如何讓機(jī)器學(xué)習(xí)做因果推斷？這是不可能的。但小孩就能很快學(xué)會(huì)。比如說(shuō)，小孩偶然間碰到火會(huì)“燙”，那下次他自然而然就不會(huì)去碰火。這是因?yàn)槿擞幸蚬Ｊ剑⒉皇撬惴ā?/p>

自我是一個(gè)幻覺(jué)？

那么，侯世達(dá)是如何理解意識(shí)和人的呢？我們通常認(rèn)為人有兩個(gè)部分——身體和心靈，或者更古老的說(shuō)法叫靈魂。我們稱之為身心二元論。這個(gè)立場(chǎng)也是哲學(xué)界的主流立場(chǎng)，無(wú)論是中國(guó)古代還是西方都有這種兩分法，比如說(shuō)，我們的靈魂最終會(huì)升向天空，或者是靈魂轉(zhuǎn)世。但是，如果我們接受科學(xué)訓(xùn)練，或去讀一些當(dāng)代自然主義的作品，或當(dāng)代的心理學(xué)、神經(jīng)科學(xué)的作品，我們可能會(huì)得到一個(gè)相反的觀念：人就是一個(gè)物理的存在，一個(gè)功能體，除此之外什么都不是。你所有的道德、情感、倫理、美都是源自這個(gè)東西，沒(méi)有一個(gè)獨(dú)立的心靈去為它承擔(dān)解釋。

當(dāng)然，知道這個(gè)真相是很殘酷的，所以很多人要守護(hù)我們的心靈，給人類留下最后的空間。梅劍華提到，昨天下午他剛在中國(guó)人民大學(xué)就這個(gè)問(wèn)題爭(zhēng)論過(guò)一次，他系里的同事葉峰老師是一個(gè)很強(qiáng)硬的物理主義者，和侯世達(dá)的觀點(diǎn)非常一致。他說(shuō)這個(gè)世界上唯一存在的就只是物理系統(tǒng)，其他所有東西都是派生的?！皩?shí)質(zhì)上成為一個(gè)物理主義者，或者是一個(gè)沒(méi)有自我感覺(jué)的人的日常生活是非常平靜的。葉峰老師就徹底無(wú)我，他把他所有關(guān)于項(xiàng)目的經(jīng)費(fèi)全都捐給我們?nèi)プ龊芏鄬W(xué)術(shù)活動(dòng)了。他真的永遠(yuǎn)沒(méi)有情緒，只有理性?！泵穭θA調(diào)侃道。

所以，按照侯世達(dá)和葉峰的理解，自我是一個(gè)幻覺(jué)，實(shí)際上沒(méi)有大家所認(rèn)為的自我。這個(gè)觀點(diǎn)其實(shí)比較像佛教，佛教最后也是要去掉“我執(zhí)”。所以，當(dāng)代心理學(xué)、心靈哲學(xué)和印度哲學(xué)，佛教有很多接軌的地方。很多人會(huì)討厭這種說(shuō)法，假若自我是一種幻覺(jué)，人實(shí)際上是沒(méi)有自由意志的，這聽(tīng)起來(lái)很難受。但這就是哲學(xué)家的“求真強(qiáng)迫癥”，他們想要向世界揭示這樣的真相。

《哥德?tīng)?、艾舍爾、巴赫——集異璧之大成》，作者：侯世達(dá)，譯者：嚴(yán)勇、劉皓明、莫大偉，出版社：商務(wù)印書(shū)館，1997年5月

如果說(shuō)自我是一個(gè)幻覺(jué)，那么活著的意義何處安放？如果說(shuō)自我是一個(gè)幻覺(jué)，那我們的道德、倫理從哪里來(lái)呢？我們除了大腦里幾億個(gè)神經(jīng)元的活動(dòng)之外，實(shí)際上沒(méi)有更多的東西，那么我們的選擇和決定不就可能被預(yù)測(cè)和把握了？

梅劍華認(rèn)為，可能有很多人因此會(huì)認(rèn)為，自我是我們不能放棄的最后一個(gè)精神領(lǐng)地。但事實(shí)上，自我實(shí)際上是我們自己建構(gòu)起來(lái)的幻覺(jué)，我們當(dāng)然可以去把玩這種幻覺(jué)，只是這種幻覺(jué)對(duì)我們的生存來(lái)說(shuō)有好多用處。

但梅劍華要補(bǔ)充的是，“自我是一種幻覺(jué)”絕不是心靈哲學(xué)的主流。實(shí)際上，有很多觀點(diǎn)是反對(duì)它的。其中侯世達(dá)的學(xué)生大衛(wèi)·查爾默斯就堅(jiān)定地反對(duì)這種觀點(diǎn)。他是一個(gè)反物理主義者，他要為意識(shí)和感受留一個(gè)余地。他不認(rèn)為我們的心靈或所有的意識(shí)必須依附在物理上，因?yàn)槲覀儾](méi)有“最終的科學(xué)”。神經(jīng)科學(xué)、大腦科學(xué)，遠(yuǎn)遠(yuǎn)沒(méi)有到我們能夠搞清這個(gè)問(wèn)題的地步。

其次，查爾默斯為自己說(shuō)法提供了一個(gè)論證，這個(gè)論證就是所謂的“僵尸實(shí)驗(yàn)”。我們通常會(huì)認(rèn)為我們的心靈和物理之間是沒(méi)有隔閡的，它們的關(guān)聯(lián)是本質(zhì)的、必然的，永遠(yuǎn)拆散不了的。但我們可以設(shè)想，完全可能存在著一些“哲學(xué)僵尸”，它和人類在外形和行為上一模一樣，我們可以通過(guò)給它植入芯片來(lái)植入記憶。但是，這樣的僵尸會(huì)有“內(nèi)在層面”嗎？比如說(shuō)，我們現(xiàn)在在說(shuō)話，我們能感覺(jué)到自己坐在這說(shuō)話，因?yàn)槲覀冇幸粋€(gè)“內(nèi)在層面”，可是僵尸沒(méi)有。若是這種僵尸可能存在的話，那么這就表明心靈層面和物理層面是可以互相分離的，這也就表明，侯世達(dá)和葉峰等人都是錯(cuò)的。這就是查爾默斯的觀點(diǎn)。

在理解心靈的問(wèn)題上，還存在著很多截然不同的立場(chǎng)。比如“泛心論”。什么叫“泛心論”？有些人會(huì)認(rèn)為天地萬(wàn)物都有“心”。他們認(rèn)為，從人到植物，從低級(jí)動(dòng)物到高級(jí)動(dòng)物，心是一種程度，并不是說(shuō)“有心”或“沒(méi)心”，而是它們有百分之多少的“心”。

還有一種觀點(diǎn)更簡(jiǎn)單，我們稱之為“唯心論”。從極端“唯心論”到“泛心論”到身心二元論到物理主義，我們會(huì)發(fā)現(xiàn)關(guān)于心靈的看法很多。但在當(dāng)代的討論里，侯世達(dá)和查爾默斯所代表的兩派是比較主流的看法。

只有把人類大腦的圖景畫(huà)出來(lái)，我們才能去建立類人的人工智能

梅劍華一直強(qiáng)調(diào)算法是有問(wèn)題的，不完備的，但小莊認(rèn)為，我們除算法也別無(wú)選擇。我們確實(shí)沒(méi)有完美地理解“我”是從哪里產(chǎn)生的，或意識(shí)是如何建立的。我們要認(rèn)清自我是一個(gè)很漫長(zhǎng)的過(guò)程。這當(dāng)中很多觀點(diǎn)和想法，都是這個(gè)大廈建設(shè)當(dāng)中的某個(gè)部分，或是某個(gè)形成關(guān)鍵突破很重要的部分。

我們?cè)撊绾卫斫馊祟惔竽X中上千億的神經(jīng)元？如果我們能把這樣一幅圖景畫(huà)出來(lái)，我們才能去建立類人的人工智能。但這項(xiàng)工作特別難。人類基因組計(jì)劃耗費(fèi)了全世界科學(xué)家十年的努力才完成。他們要面對(duì)的只是三十億個(gè)堿基對(duì)，而研究大腦要面對(duì)上千億個(gè)神經(jīng)元，他們的互相連接是指數(shù)級(jí)的。所以我們需要等待。

但是，像自我是什么這樣的話題，始終可以被拿出來(lái)討論，時(shí)代和科技的進(jìn)步是討論的基礎(chǔ)。像自由意志，自我這樣的話題，從物理的角度被認(rèn)真的探討應(yīng)該可以追溯到1943年的《生命是什么》。雖然這本書(shū)沒(méi)有什么新知識(shí)，但是它把一些基本的框架都提了出來(lái)，包括統(tǒng)計(jì)學(xué)如何在生命中起作用。為什么這個(gè)世界需要那么多的原子和粒子才能構(gòu)成物體，為什么這么復(fù)雜？其實(shí)很好理解。只有在這么巨大的數(shù)量下，統(tǒng)計(jì)學(xué)才能起作用。如我們所看到的磁體的現(xiàn)象，如果我們放大去看，我們會(huì)發(fā)現(xiàn)，磁鐵里并不是所有的原子都按照磁極分布的，在南極的一部分的原子可能是朝北的。但是在整個(gè)大的層面上，南極是朝南的，整個(gè)磁體才會(huì)呈現(xiàn)出這樣的磁性。

《生命是什么》，作者：埃爾溫·薛定諤，譯者：張卜天，出版社：商務(wù)印書(shū)館，2014年12月

人的思維會(huì)不斷地跳躍，這是人和人工智能最大的區(qū)別

鄒鵬程認(rèn)為，人工智能并沒(méi)有那么復(fù)雜，它和計(jì)算器一樣只是工具，能放大他的智能，但它不會(huì)取代他的大腦。

侯世達(dá)認(rèn)為人類思維中類比是很重要的。鄒鵬程覺(jué)得，類比這個(gè)詞有點(diǎn)淡，可以換成聯(lián)想。因?yàn)槁?lián)想有許多層次，它的特征是跳躍的。人的思維不斷地跳躍，是人和人工智能最大的區(qū)別，這也是我們不用特別擔(dān)心人工智能的原因。

梅劍華也表示贊同。在生活當(dāng)中，類比論證可能比邏輯論證更重要。比如說(shuō)，我們?nèi)绾沃澜裉斓淖约汉兔魈斓淖约菏峭粋€(gè)人呢？最早討論這個(gè)問(wèn)題就來(lái)自于類比論證： “忒修斯之船”——請(qǐng)想象一下，一艘海上航行的船，其船身的木板逐步被新的木板替換，直至最后被完全替換，那么現(xiàn)在這艘船還是原來(lái)的那艘嗎？這個(gè)例子跟侯世達(dá)講的 “意識(shí)上傳”的例子是類似的：如果把你的所有數(shù)據(jù)都上傳到云端，那么云端的那個(gè)你是不是原來(lái)的那個(gè)你呢？

梅劍華認(rèn)為，我們現(xiàn)在經(jīng)常區(qū)分強(qiáng)人工智能和弱人工智能，其實(shí)我們根本無(wú)法模仿人的意識(shí)或情緒。有人認(rèn)為，強(qiáng)人工智能我們是達(dá)不到的，但弱人工智能可以實(shí)現(xiàn)，但哥德?tīng)柧蜁?huì)說(shuō)不可能。而Judea Pearl則會(huì)說(shuō)，人跟機(jī)器如果有關(guān)鍵性區(qū)別的話，那就是人有一種因果性推理的能力。因此他曾嘗試為因果推理建立了一個(gè)數(shù)學(xué)模型，但谷歌現(xiàn)在不給他投錢了，這使得這項(xiàng)研究面臨著許多困難。

而除了因果之外，類比也是人理解世界和與人交往的一個(gè)基本方式。有時(shí)候在禪宗里面，經(jīng)常會(huì)有所謂的“一句禪”，我們從中悟出些什么。這里面就有類比和因果的聯(lián)系，我們的思維在當(dāng)中進(jìn)行跳躍。在科學(xué)哲學(xué)里面，類比也是一個(gè)很重要的話題，甚至在心理學(xué)里面，比如聯(lián)想作為類比的一種，被分為圖像式的聯(lián)想、概念式的聯(lián)想或者結(jié)構(gòu)式的聯(lián)想，都是很重要的議題。

因此，雖然梅劍華對(duì)人工智能的未來(lái)是樂(lè)觀的，但從理論的層面來(lái)看，梅劍華對(duì)人工智能是悲觀的。因?yàn)檎軐W(xué)家所定義的類人的人工智能是無(wú)法實(shí)現(xiàn)的：不僅是因?yàn)榧夹g(shù)原因。即使技術(shù)水平達(dá)到了，人也會(huì)為自己保留一定的特權(quán)。不過(guò)，梅劍華覺(jué)得這種悲觀的態(tài)度也無(wú)所謂，因?yàn)樗臀覀儸F(xiàn)在做的人工智能關(guān)系不大。

機(jī)器沒(méi)有意識(shí)，是因?yàn)樗鼪](méi)有生物基礎(chǔ)，這會(huì)不會(huì)過(guò)于人類中心主義？

梅劍華提到，有一種觀點(diǎn)認(rèn)為，機(jī)器是沒(méi)有意識(shí)的，因?yàn)樗鼪](méi)有生物基礎(chǔ)。從另一方面來(lái)想，這樣會(huì)不會(huì)過(guò)于人類中心主義了呢？機(jī)器沒(méi)有生物基礎(chǔ)，但是它們也有可能用另一種方式在理解著我們。在語(yǔ)言哲學(xué)里，什么是理解的條件？其中一個(gè)條件就是，我要把你所說(shuō)的話當(dāng)作真，否則我無(wú)法跟你交流。此外，我還需要一個(gè)條件，就是“寬容原則”

（the principle of charity）

，即你所說(shuō)的話不僅要前后一致，還得有所論斷，無(wú)論是肯定還是否定，這樣我才能理解你。其實(shí)機(jī)器也能做到這些。

小孩子學(xué)語(yǔ)言，究竟怎么樣才算是掌握了一門語(yǔ)言呢？這個(gè)問(wèn)題現(xiàn)在依然沒(méi)有定論。在語(yǔ)言理解最淺顯的層面來(lái)說(shuō)，人和機(jī)器其實(shí)沒(méi)有什么差別。哲學(xué)家約翰·塞爾有一個(gè)非常有名的“中文屋”思想實(shí)驗(yàn)：你一覺(jué)醒來(lái)發(fā)現(xiàn)自己所在的房間里堆滿了簍子，簍子里都是中文符號(hào)，還有一本使用手冊(cè)。你雖然看不懂中文，但可以看懂使用手冊(cè)。突然間，有人從門縫遞進(jìn)來(lái)一張字條，上面寫著一個(gè)中文符號(hào)，你翻看使用手冊(cè)時(shí)，發(fā)現(xiàn)里面寫道：“當(dāng)你收到這個(gè)中文符號(hào)，就把另一個(gè)特定的中文符號(hào)遞出去?！庇谑?，你就照做了。很快，你就把整本使用手冊(cè)都背了下來(lái)，不管接到哪個(gè)中文符號(hào)，都可以很快地把對(duì)應(yīng)的符號(hào)再遞出去。這樣一來(lái)，雖然你并不懂中文，但你所做的事情和懂中文的人沒(méi)有兩樣，因此房間外面的人也會(huì)相信你是懂中文的。同樣的，如果你就是一臺(tái)機(jī)器，那么你就通過(guò)了圖靈測(cè)試。但是，我們依然會(huì)認(rèn)為，機(jī)器確實(shí)是不懂中文的。梅劍華認(rèn)為，這就是人類的“我執(zhí)”。

哲學(xué)家約翰·塞爾

隨著人和人工智能接觸越來(lái)越多，人反而會(huì)不會(huì)變得像人工智能？

現(xiàn)場(chǎng)有觀眾提問(wèn)，我們都在討論怎么樣把人工智能做得像人，但隨著人和人工智能接觸得越多，人會(huì)不會(huì)變得更像人工智能？人類的自我會(huì)不會(huì)漸漸消失？

鄒鵬程作為工程師，因此對(duì)這個(gè)問(wèn)題相對(duì)樂(lè)觀。他認(rèn)為，人工智能所暴露出來(lái)的問(wèn)題，最終還是要依靠人去解決，甚至要依靠哲學(xué)家，要依靠文明和法律解決。所以他不擔(dān)心人會(huì)因?yàn)槿斯ぶ悄芏淖?，因?yàn)槲覀儾粫?huì)像機(jī)器一樣四處亂學(xué)，而會(huì)有一個(gè)方向性。這是因?yàn)槿祟愇拿餮永m(xù)下來(lái)的倫理。

梅劍華認(rèn)為，我們會(huì)發(fā)現(xiàn)，我們待人方式和我們的孩子輩就不太一樣。因?yàn)樗麄兏?dú)立，更愿意和機(jī)器打交道；機(jī)器也開(kāi)始變得像人，這個(gè)鴻溝只會(huì)越來(lái)越小。1998年，查爾默斯和另外一個(gè)認(rèn)知科學(xué)家安迪·克拉克合寫了一篇論文，叫“Extended Mind”

（《延展心靈》）

，里面說(shuō)，我們的心靈不是在大腦里面，我們的心靈延展到環(huán)境，其中手機(jī)就是延展的一個(gè)重要的部分。我們的認(rèn)知不光靠大腦，還要和環(huán)境互動(dòng)。

而關(guān)于我們的自我是否會(huì)逐漸消失，梅劍華的想法是不會(huì)的。他認(rèn)為，我們塑造自我的方式只會(huì)變得不同。新的時(shí)代有新的自我。我們和機(jī)器人接觸，會(huì)多一種塑造自我的方式。比如說(shuō)，以后人和機(jī)器人有可能談戀愛(ài)，這也是一種塑造自我經(jīng)驗(yàn)的方式。即使你對(duì)機(jī)器人的愛(ài)不會(huì)完全像對(duì)人一樣，但梅劍華認(rèn)為這只是量的變化而不是質(zhì)的變化。

自我是在不斷流變的，我們很難劃出自我的邊界在哪。我們的手機(jī)讓我很有自我感，但沒(méi)有了它我們也能活下來(lái)；甚至于沒(méi)了手或腿我們也能活下來(lái)，所以我們很難劃出自我的界限。但是我們有自我感，我們根據(jù)這種自我感去籌劃我們的人生。這在任何時(shí)代都是一樣的。因此，我們并不會(huì)因?yàn)槿斯ぶ悄艿牡絹?lái)而喪失自我。