大腦是由數(shù)十億神經(jīng)元和數(shù)萬億個連接構(gòu)成一個非線性動力系統(tǒng)組成的一個復(fù)雜器官。它可能是宇宙中目前為止我們已知最復(fù)雜的結(jié)構(gòu)。它可以解決似乎無窮無盡的任務(wù)，讓我們在一個不斷變化的環(huán)境中生存并且指引著我們。我們和自身的性格就是大腦行為的產(chǎn)物，所以我們和自身的個性與大腦復(fù)雜性緊密相連。

這篇文章深入探討了構(gòu)成我們大腦機制與我們所做所想之間的沖突。理解了自身輸出的問題和人工智能研究中可解釋性的一些相似之處。

這種沖突的一些副作用在心理學(xué)上被稱為認(rèn)知偏見( cognitive biases )，其中我們發(fā)現(xiàn)了兩種效應(yīng)---認(rèn)知失調(diào)( cognitive dissonance )和虛構(gòu)心理( confabulation )。這讓我們質(zhì)疑我們對自己內(nèi)心世界的了解程度。

或許你還沒有意識，但是你的大腦有。

在弗洛伊德( Sigmund Freud )提出的‘潛意識’這一概念的 100 多年后，他認(rèn)為我們并不是自己的真正主人這一觀點在某種程度上已經(jīng)融入了我們的身份。

考慮到大腦的復(fù)雜性，或許你會說大多數(shù)的時候我們對自己正在做什么是無知的。但實際上只有在二十世紀(jì)的時候，人們才開始接受我們的內(nèi)心世界遠(yuǎn)比我們實際意識到的事物還要復(fù)雜這樣一個事實。我們生活中的大部分時間都像是在處于自動駕駛狀態(tài)，只有當(dāng)緊急事件發(fā)生時，我們才會有意識地集中注意力。

《超體》

大腦每秒鐘過濾的信息量大得令人難以置信，而有意識的大腦只會感覺到其中的一小部分，其中大部分都提前經(jīng)過了嚴(yán)格的過濾篩選。無論是運動的、認(rèn)知的，還是情感的，幾乎所有的過程都是自動并受到主動意識控制之外的調(diào)節(jié)。

不僅我們的信息吸收程度是自動化的,其實在日常生活中我們所做的決定和以為的也大有不同。研究表明，如果關(guān)閉大腦的情感成分并且單獨依賴于前額葉的活動，那么我們幾乎是不可能執(zhí)行決策的。相反，人們許多決策嚴(yán)重依賴于身體和大腦直覺的模擬能力，與特殊類型的神經(jīng)元一起進(jìn)行分布式并行處理。從科學(xué)的角度上來說，憑直覺行事實際上比你想象的要精確得多。

正如 Danny Kahneman 和 Amos Tversky 所指出的，在不確定的情況下，由啟動效應(yīng)（ priming ）或錨定效應(yīng)（ anchoring ）引起的偏見會對我們的決策產(chǎn)生強烈的影響，人們通常會意識到它們的發(fā)生。更糟糕的是，即使能夠意識到我們正在被啟動效應(yīng)或是錨定效應(yīng)所影響，但仍然無法逃脫這兩種效應(yīng)帶來的偏見。

人工智能和計算神經(jīng)科學(xué)的研究人員也面臨類似的問題，并將其總結(jié)為“可解釋性”。那我們該如何解釋人工智能系統(tǒng)中出現(xiàn)的智能并讓這些系統(tǒng)向我們反饋的呢？它們又是如何邊做決策的同時還能解釋它們?nèi)绾翁幚硇畔⒓?xì)節(jié)的呢?

現(xiàn)代機器學(xué)習(xí)方法不是構(gòu)建算法來解決特定的任務(wù)并將它們硬連接到計算機中，而是允許計算機通過處理指定的輸入和期望的輸出來自行開發(fā)算法 (此處可參考 Pedro Domingos 的主算法)。

這也意味著，我們越來越難以理解機器在做什么。然而矛盾的是，機器在做的包括圖像分類、語音識別、圍棋等各方面的事情也越來越成功。有時它們似乎在沒有任何人為干預(yù)或試圖手動教它們知識的情況下表現(xiàn)得更為優(yōu)異。這一著名的發(fā)現(xiàn)促使Frederick Jelinek (語音識別之父之一)在 IBM 開發(fā)語音識別軟件時宣稱“每次我解雇一位語言學(xué)家，語音識別器的性能就會提高”。

大型神經(jīng)網(wǎng)絡(luò)的計算分布在整個網(wǎng)絡(luò)中，因此幾乎不可能通過構(gòu)成網(wǎng)絡(luò)的各層來跟蹤計算的細(xì)節(jié)。由網(wǎng)絡(luò)表示算法中隱含的知識同樣分布在整個網(wǎng)絡(luò)的權(quán)值結(jié)構(gòu)中，因此您無法通過查看權(quán)值來直觀地了解網(wǎng)絡(luò)是否擅長對貓或狗進(jìn)行分類。所以在理解復(fù)雜的分布式系統(tǒng)中信息處理時，我們可能會面臨原則性的約束，或者至少在構(gòu)建高效的智能系統(tǒng)時我們也許會面臨這一問題。

人類無法解釋自己大腦中的信息也就不足為奇了。行為主義學(xué)家把大腦當(dāng)作一個黑盒子(類似于輸入-輸出的關(guān)系)。但在心理和社會環(huán)境中，我們總是需要找到一種敘事方式來解釋我們在做什么，為什么要這樣做。

但這種說法有多可信呢？

人類是從動物進(jìn)化而來的。但是動物們在進(jìn)化的過程當(dāng)中卻沒有誰不斷地告訴彼此這么做的意義。直到后來發(fā)展出了一種可以相互交談的語言能力(甚至可以自言自語)。社會和性選擇方面的壓力可能是激發(fā)像語言這樣的高級認(rèn)知能力發(fā)展的首要因素。即使在今天，我們的腦力仍然花在八卦上，花在了解身邊人的動態(tài)上。

從進(jìn)化的角度來說，語言能力所在的新大腦皮層是我們神經(jīng)回路中最新的進(jìn)化。就其絕對質(zhì)量而言，它構(gòu)成了人們大部分的大腦，但這并不意味著它總是在掌控一切。換言之，它并不總是“知道”發(fā)生了什么。

大腦功能視圖顯示，如果大腦的一個部分(如語言中心或創(chuàng)建自我模型的大腦區(qū)域)想要了解另一個部分的活動，指定活動的信號需要傳遞到這個大腦區(qū)域。我們需要清楚的是，這既不可行也毫無效果，甚至在任何情況下對所有的大腦活動都不是必要的。因此，這最終只會增加可解釋性的問題----負(fù)責(zé)幫我們做出解釋的大腦區(qū)域有時會將提供必要見解的信息流切斷。裂腦患者就是一個很好的例子。

但是，我們?nèi)匀辉谂忉尅?/p>

能夠保持常規(guī)的敘述，是很有用的，對于社會也有益處。但是我們要謹(jǐn)慎，因為不是所有我們關(guān)于自己和他人的敘述都是真實的。

事實上，這恰恰相反。

“如果一個想法在人類中流傳了幾代，就像共識一樣存在，那么結(jié)束這個想法需要真誠和持續(xù)的努力。如果這是我們文明庫存中最古老、常規(guī)、有影響力的想法之一，那么想要改變它的人就要付出巨大的努力?！?——Charlotte Perkins Gilman

我們對勾畫完整的故事有著強烈的心理傾向，并在敘事故事的過程中感知世界。我們的超社會性令我們不斷地在外部世界尋找動力和因果關(guān)系。因此總是想要給自己敘述一個連貫的故事: 我之所以這樣或那樣是因為有這樣或那樣的原因。

《神鬼奇謀》

但正如所看到的那樣，大腦和身體對于許多任務(wù)都有大量的分布式并行計算，這也使得我們很難理解和描述動機。所以我們最終會不斷猜測自己行為的原因。

此外，我們也很難消除相互矛盾的思想。這意味著，最終都會在腦中產(chǎn)生大量的矛盾，而這些矛盾只能通過艱苦的批判性思維來克服，而這種技能即使是受過良好教育的批判性思考者也無法持續(xù)地實踐。從進(jìn)化的角度來說，我們的生存并不需要有一個完全一致的世界觀，所以大腦只是讓它們在不太妨礙彼此的情況下存在。

即便沒有意識到，但是故事也有能力塑造我們的感知力。大腦不斷地預(yù)測其直覺輸入的內(nèi)容, 所以你感知到的東西是基于你對世界期望狀態(tài)的。這也令認(rèn)知科學(xué)家聲稱現(xiàn)實為“控制幻覺”( controlled hallucination )。當(dāng)我們不斷地試圖把世界上復(fù)雜和混亂的現(xiàn)象變成時而簡單、時而又自相矛盾的故事時，這些故事可能會戲劇性地改變我們對現(xiàn)實的看法。

“他很少懷疑，當(dāng)事實與他的人生觀相矛盾時，他就會不以為然地閉上眼睛。”——Hermann Hesse

1957年，Leo Festinger 引入了“認(rèn)知失調(diào)”( cognitive dissonance) 這一概念以表示在經(jīng)歷與世界觀不同的事情時感到的不適。但是這種不適通常是潛意識的，我們傾向于通過對不喜歡的事情提出其他的解釋來應(yīng)對或者索性放棄它們。

避免認(rèn)知失調(diào)的沖動使我們停留在自己世界觀的舒適區(qū)，這令我們下意識地忽略一些信息或重新構(gòu)建令我們感到不安的認(rèn)知。我們還可以通過自我辯護(hù)來解決認(rèn)知失調(diào)的問題，這種方法既可以是內(nèi)在的也可以是外在的。

吸煙者就是一個很典型的例子。吸煙者可能會下意識地知道吸煙有害健康，但當(dāng)被問及吸煙的理由時，總是以各種各樣的理由為自己辯護(hù)(如：“我只是喜歡它的味道/儀式/社交/在外面/它沒有那么不健康”)。很多人都有過類似的經(jīng)歷，而且我們經(jīng)常這樣做。

《第一次》

裂腦患者之所以稱之為裂腦患者是因為連接他們大腦左右半球的胼胝體被切斷了 (Michael Gazzaniga就是研究裂腦患者的先驅(qū)者之一)。視覺是交叉連接的，所以左半球處理右視野，反之亦然。因此當(dāng)左右半球無法交流的時候，左右視野是兩個大腦半球各自獨立處理的。語言中心位于左半球，這意味著它不能訪問左視野。你的右腦會處理顯示在你左視野的事物。這會通過你的生理反應(yīng)體現(xiàn)出來，但是裂腦患者得到的語言信息不會進(jìn)入到左半腦，這些信息不會直接訪問到他們大腦處理語言的區(qū)域。

當(dāng)人們猜測自己為什么做某事，卻沒有真憑實據(jù)的時候，我們通常不會說“我不知道”，而只是簡單地編造一些東西，當(dāng)再回顧這條信息時，把這個解釋當(dāng)作是自我反省后得到的確鑿證據(jù)。這就是‘虛構(gòu)心理’。幾乎每個人都在這么做。雖然在日常生活中通常沒有證據(jù)充分證明這種自我無視的行為原因到了什么程度，但可以肯定的是，人們從來沒有完全理解，是什么導(dǎo)致了我們的決定，所以人們總是試圖讓一切都顯得順理成章。

研究認(rèn)知偏見或許聽起來有點令人感到驚悚，但正如有些人說的那樣---知識是通往智慧的第一步。退一步觀察自己的評判并將其與你復(fù)雜的內(nèi)心世界進(jìn)行對比還是很有趣的。

這有助于意識到自己的偏見和虛構(gòu)的事物。當(dāng)我發(fā)現(xiàn)我自己公然對自己的行為胡說八道，或是明顯試圖為自己辯護(hù)時，我會努力記錄下這些時刻，但我不會幻想自己能擺脫偏見。它們在人們內(nèi)心深處根深蒂固，認(rèn)為可以克服它們可能只是另一種認(rèn)知偏見。如果 Daniel Kahneman 都說他沒有取得多大進(jìn)展，那這或許就是不可能的。

最后，我認(rèn)為研究 AI 的領(lǐng)域也應(yīng)該注意這一點。我們的偏見表明，當(dāng)涉及到自己的行為時，我們嚴(yán)重高估了其可解釋性，所以應(yīng)該意識到機器為自己行為辯護(hù)的能力，也存在潛在的局限性。我們有強烈的愿望和它們對話，并讓它們的動機變得透明，但我們應(yīng)該清楚機器不會變得太像人類一樣。

參考文獻(xiàn)：

[1]Brenner, M. (2019). The Bayesian Brain Hypothesis. Medium. Retrieved from https:///the-bayesian-brain-hypothesis-35b98847d331

[2]Festinger, L. (1962). Cognitive Dissonance. Scientific American, 207(4), 93-106. doi: 10.1038/scientificamerican1062-93

[3]Heider, F., & Simmel, M. (1944). An Experimental Study of Apparent Behavior. The American Journal Of Psychology, 57(2), 243. doi: 10.2307/1416950

[4]Mayer, E. (2011). Gut feelings: the emerging biology of gut–brain communication. Nature Reviews Neuroscience, 12(8), 453-466. doi: 10.1038/nrn3071

[5]Miller, G. (2001). The mating mind. London: Vintage.

[6]Nuzzo, R. (2015). How scientists fool themselves – and how they can stop. Nature, 526(7572), 182-185. doi: 10.1038/526182a

[7]Tversky, A., & Kahneman, D. (1974). Judgment under Uncertainty: Heuristics and Biases. Science, 185(4157), 1124-1131. doi: 10.1126/science.185.4157.1124

本文系網(wǎng)易新聞·網(wǎng)易號“各有態(tài)度”特色內(nèi)容