![]() 2023年4月30日,媒介域聯(lián)盟第六季“萬物·媒介”讀書會舉辦了第二期講座。本講由清華大學(xué)科學(xué)史系副教授胡翌霖領(lǐng)讀《人有人的用處:控制論與社會》,清華大學(xué)新聞與傳播學(xué)院副教授吳璟薇擔(dān)任主持人。現(xiàn)推送此次講座文字紀要,以饗讀者。 目錄 catalog 1.1 開場 1.2 維納的生平 1.3 書名的翻譯問題 1.4 兩種機器觀(哲學(xué)背景) 1.4.1 對前定和諧的批判 1.4.2 駕馭偶然性 1.5 從機器觀到生命觀(動物學(xué)背景) 1.5.1 遺傳與適應(yīng) 1.5.2 兩種反饋 1.5.3 人與動物的區(qū)別 1.6 追問社會理想 1.6.1 學(xué)習(xí)的社會 1.6.2 反饋機制的必要性 1.6.3 認清機器的位置 1.7 線下問答 1.7.1 機器能負責(zé)嗎? 1.7.2 交互反饋式的和諧可能嗎? 1.7.3 維納的獨特性 1.7.4 短期套現(xiàn)問題與確保長期責(zé)任的機制 1.7.5 心靈認知問題 1.7.6 責(zé)任主體問題 1.1 開場 吳璟薇:各位在線的朋友,各位長期關(guān)注媒介域聯(lián)盟讀書會的各位書友們,大家好!我們今天非常榮幸的請到了清華大學(xué)科學(xué)史系的胡翌霖老師,來領(lǐng)讀維納的一本非常重要的經(jīng)典書《人有人的用處》。相信大家對于控制論都非常的熟悉,尤其今天在這樣一個ChatGPT或人工智能高度發(fā)達的時代,人和技術(shù)之間的關(guān)系是什么,是一個長期探討的經(jīng)典話題。所以,在當(dāng)下控制論也成為討論人和機器關(guān)系的一個核心理論。 去年,我們曾經(jīng)邀請過香港城市大學(xué)的許煜老師來領(lǐng)讀《遞歸與偶然》,許煜老師也說了,其實《遞歸與偶然》都是在討論控制論的,特別巧,我們今天也能夠通過維納這本《人有人的用處》來討論控制論的問題。 值得留意的是,它是《控制論》的姊妹篇,上一冊《控制論》中有大量的公式,對于文科背景的同學(xué)和學(xué)者來講是非常難以理解的。為了幫助大家從社會或者是文化的角度去解讀控制論,維納在《控制論》之后又寫了《人有人的用處》。 今天我們邀請到了科學(xué)史系的胡翌霖老師來給我們做這個分享和講解這本書。胡老師是北京大學(xué)哲學(xué)系的本科、博士,現(xiàn)在是清華大學(xué)科學(xué)史系的副教授,主要研究方向是技術(shù)史,技術(shù)哲學(xué)。胡翌霖老師在清華大學(xué)也開設(shè)了媒介史相關(guān)的課程,也是橫跨科學(xué)史和新聞傳播領(lǐng)域的一位學(xué)者,另外在新聞傳媒學(xué)領(lǐng)域的期刊也發(fā)表過很多文章。相信大家對胡老師都非常的熟悉了,之前可能讀過《媒介史強綱領(lǐng)》,還有《什么是技術(shù)》,以及《技術(shù)哲學(xué)導(dǎo)論》,今天非常期待胡老師帶我們來從社會學(xué)的視角來解讀控制論的相關(guān)問題。 ![]() ![]() 1.2 維納的生平 胡翌霖:好的,謝謝吳老師的邀請,我也是過來班門弄斧,就是因為大家對控制論肯定是多少都有些熟悉。我也不能說非常熟悉,只是和大家討論吧。 這本書,剛才吳老師也介紹了,是一個姊妹篇,是維納寫完《控制論》之后寫的,你可以說是一個入門版,或者是一個普及版。但是某種意義上,其實不是普及控制論,反而是控制論的更為基礎(chǔ)的思想背景。我接下來會討論這個事情,某種意義上說控制論的基礎(chǔ)不是一個純技術(shù)的或者說數(shù)學(xué)的一個事情,它的基礎(chǔ)其實就是從哲學(xué)社會科學(xué)來的。 這個維納呢,大家應(yīng)該也很熟悉。我們說整個信息科學(xué),或者說計算機科學(xué),有幾個非常重要的大師推動了它們的發(fā)展,這個維納肯定算是其中之一。但是呢,比起圖靈,香農(nóng),馮·諾伊曼等等其他的一些人,維納的地位或者說貢獻被認為是受到低估的。比如說,中國有一個維納的大粉絲——王飛躍老師。他經(jīng)常鼓吹維納的貢獻,他認為維納的工作直接幫助四個人獲得三個諾貝爾獎,包括波恩、海森堡、沃森和克里克。馮·諾伊曼說第一臺馮·諾伊曼機的模式其實也是維納的思路,其實是把維納的原則整合起來。還有香農(nóng)的信息論很厲害,但據(jù)說香農(nóng)其實只是改了一下維納的正負號,而且信息論在很大程度上要歸功于維納的哲學(xué)。另外,我們現(xiàn)在看到印度人在軟件業(yè)那么強,為什么印度那么強???除了他們英文強以外,還有一些教育基礎(chǔ),王飛躍老師說,這其實也是維納奠定的。維納其實晚年一直是在印度,推動信息科學(xué)普及教育。這本傳記,就是講他是信息時代的一個隱秘英雄,dark hero,翻譯過來就是幕后大佬的意思。這些當(dāng)然都是一家之談,其實維納也未必說那么強,但肯定是很重要的。 ![]() 我們在講那個書之前先暖暖場,稍微講講八卦:維納和我們中國,特別是和我們清華的淵源非常深。維納有一個得意門生叫做李郁榮。這張照片就是維納和李郁榮,最左邊是李郁榮,右邊是維納,中間還有一個是博斯,是李郁榮的學(xué)生,就是Bose耳機的創(chuàng)始人。 ![]() 后來李玉榮回到清華任教,又把維納給邀請到清華來講學(xué),做訪問學(xué)者。維納其實是有機會在中國交流更長時間,他還寫信給馮·諾依曼力邀他來中國。但是之后正好是日本侵華了,時局不安全了,這些交流都沒有后文了。維納當(dāng)時他把全家老小都帶過來了,他的女兒在北京上的小學(xué)。在清華對于維納本身來說,也是一個很重要的經(jīng)歷。在他自己的回憶的時候,就說“在我的職業(yè)生涯中,如果說有一個分界線,標志著從科學(xué)學(xué)徒到一定程度上能獨當(dāng)一面的大師,那么我認為是1935年的中國之行。”他和李郁榮在清華大學(xué)一起合作做全電子模擬計算機的研究。雖然這個研究沒有成功,但是也積累了很多重要的經(jīng)驗。當(dāng)然了,李郁榮也很重要,但是李郁榮后來是去北美了,死在加拿大,所以我們國內(nèi)科技史對他也不夠重視。 ![]() 抓緊時間,我最后八卦一下維納本人,他本身從小就是一個神童,小時候就上報紙了。當(dāng)時的新聞報道就是說,這個神童維納小小年紀,不到6歲的時候,別人在讀童話書,他不讀。他讀什么呢?讀柏拉圖和達爾文。你看報紙上的照片,他腳踩的是什么?神童維納踩的是《物種起源》。 ![]() 這個《物種起源》非常重要!下面會講,控制論,其實它某種意義上很大的程度上就是從進化論來的,進化論是控制論的基礎(chǔ)之一。維納從大學(xué)到研究生,他也是跨學(xué)科的學(xué)習(xí),先是學(xué)數(shù)學(xué),學(xué)完數(shù)學(xué)以后學(xué)了動物學(xué),學(xué)完動物學(xué)以后再去學(xué)哲學(xué)。這三個學(xué)科其實基本上也是維納的思想的三個方面,控制論的三個側(cè)面:一個是數(shù)學(xué)的部分;一個是生物學(xué)進化論,神經(jīng)科學(xué),就是動物學(xué)的部分;還有一個是哲學(xué)的部分。這個在他的教育經(jīng)歷里頭也可以看到一點縮影。 所以他最終的學(xué)歷其實是哲學(xué)。他的哲學(xué)也是非常正統(tǒng)的科班出身,他做過羅素的學(xué)生,然后到哥廷根學(xué)習(xí),又學(xué)數(shù)學(xué)也學(xué)哲學(xué),和胡塞爾也有交集。然后,維納第一份教職也是去哈佛去教授的就是哲學(xué)。那之后到了一戰(zhàn)的時候,開始進入彈道學(xué)研究。再之后其實還是研究哲學(xué)。維納在1943年發(fā)表了一篇科學(xué)哲學(xué)的論文,名為《行為、目的和目的論》,一篇關(guān)于目的論的論文。它要闡發(fā)的就是人類動物和機器的行為模式。在論文中,反饋、因果循環(huán)邏輯,這樣一些控制論的核心概念都已經(jīng)出來了。 維納之后和馮·諾伊曼一塊組織團隊,搞成一個學(xué)會,這個學(xué)會一開始叫做“目的論學(xué)會”,你可以看到這個哲學(xué)的味道也是非常的鮮明。之后就是著名的梅西會議,1945年開始的一系列的會議,維納在這個會議中一直是其中的絕對的核心——精神領(lǐng)袖和討論的核心。最后梅西會議的主題就是“控制論”,但是其實前幾年的主題不叫控制論,前幾年的名稱是“生物和社會科學(xué)領(lǐng)域的反饋機制和循環(huán)因果系統(tǒng)會議”。所以在控制論這個名詞還沒有被最終確定下來之前,他們討論的問題其實是什么呢?討論的問題不是以信息工程、電子科學(xué)、電子科技為中心的,他們討論問題的中心首先是哲學(xué),是目的論和因果性的問題,這是典型的科學(xué)哲學(xué)問題。然后還有一個中心就是生物學(xué),動物學(xué),再加上社會科學(xué),這些都寫在標題里。所以我前面講的就是《人有人的用處》,這本書副標題叫“控制論與社會”,這個“社會”不是控制論的沿用,而是控制論的發(fā)端。 不是說先有控制論,然后才把控制論延伸到哲學(xué)社會科學(xué)里頭。反過來,控制論的根源就在社會科學(xué)里面。他是把社會科學(xué)里頭的控制論反過來發(fā)揚為一個更加全面,更加系統(tǒng)化,更加數(shù)學(xué)化的這樣一個體系。比如梅西會議,哪些學(xué)者在參與、哪些文章在報告呢?也是包羅萬象的,我們可以去看他的那個會議的內(nèi)容啊,包括心理學(xué),社會科學(xué),邏輯學(xué),倫理學(xué),語言學(xué),腦科學(xué)以及計算機科學(xué)……計算機科學(xué)只是其中一小部分。這樣一個我們現(xiàn)在看來非??鐚W(xué)科的(包含了文科、理科、社會科學(xué))會議,是非常難得的。而且這些所有的這些領(lǐng)域最終都在維納的思想當(dāng)中得到匯聚,所以我們說維納確實是個神童。我們經(jīng)常說。誰是“最后的通才”?有的時候有人會說是彭加勒、希爾伯特。在我看來維納也是算是最后的通才。 八卦講完了,我們回到這本書,這本書叫做《人有人的用處》,這是一個可以商榷的中文譯名。 1.3 書名的翻譯問題 這本書英文名字叫做The Human Use of Human Beings:Cybernetics And Society,這個還有點押韻吧,中文里頭就是翻不出這個味道…… 這本書呢,之前其實吳國盛老師主持的“高山科學(xué)經(jīng)典”公益項目就講過這個書。當(dāng)時講完了之后,吳老師就提了一個建議,說這本書原來那個中譯書名不太好,莫名其妙,你不知道他在講什么,他就建議說我們就翻譯成“把人當(dāng)人”更好。 我覺得挺好的,雖然有點意譯,但是其實更能夠把握這個書的意涵。把人當(dāng)人,你一聽其實就明白了,什么叫把人當(dāng)人呢?就是不要把人當(dāng)“非人”。什么叫不要把人“不當(dāng)人”呢?我們現(xiàn)在很多領(lǐng)域就是把人不當(dāng)作人來用——比如我們經(jīng)常說社畜對吧,我們當(dāng)牛做馬。就是把人當(dāng)牛,把人當(dāng)馬,對吧;把人當(dāng)螺絲釘,當(dāng)齒輪嗎,還有現(xiàn)在叫耗材、人礦……這些都不是人啊,對吧?都不是把人當(dāng)人!所以他說人有人的用處,或者說把人當(dāng)人,其實核心就是說:要恰當(dāng)?shù)匕l(fā)揚人的價值,其實是這本書的一個精神內(nèi)涵。所以某種意義上,在我們現(xiàn)在這個時代,這本書還是非常有現(xiàn)實的意義,我們之后再討論。 ![]() 我們前面講不要把人當(dāng)畜生,不要把人當(dāng)螺絲,不要把人當(dāng)?shù)V物。我們沒有說不要把人當(dāng)機器。有點奇怪的是,維納要把人當(dāng)機器,就是說某種意義上人就是一種特殊的機器,獨特的機器,這是維納自己的原話!維納說:“一切通訊系統(tǒng)都以機器為終端,但是,普通的語言系統(tǒng)則是以特殊種類的機器為其終端,這種機器叫做人。人,作為終端機器,有一個通訊網(wǎng)絡(luò)”(引文大多來自《人有人的用處》中譯本) 所以維納說著把人當(dāng)人,但是你看內(nèi)容,怎么他又把人當(dāng)機器了呢?這是一個很奇怪的問題。 1.4 兩種機器觀(哲學(xué)背景) 這個問題就要看維納的理論貢獻——控制論——恰恰就從把人當(dāng)一種機器來出發(fā)。確實,維納也認為人是機器,人可以當(dāng)作是一種獨特的機器,特殊的機器。但真正的問題是:什么是機器?就是說,把人當(dāng)作機器,本身沒有問題,有問題的是某些人的機器觀。他們對“機器”的理解狹隘了。 我們說起把人當(dāng)機器呢,經(jīng)常就會想到近代的整個的機械論傳統(tǒng),對吧,比如就有一本書就叫做《人是機器》,拉·梅特里寫的。這就代表了一整個以牛頓力學(xué)為代表,從笛卡爾到牛頓這個機械論傳統(tǒng)之下的這樣一個觀念。這個觀念延綿至今,到現(xiàn)在其實又有了一些新的形式,比如說計算主義,數(shù)據(jù)主義,就是人無非就是計算機。這些觀念當(dāng)然是有道理的。我們說人是機器人,是計算機,這些這個觀念都不錯,但是你要注意機器的特點究竟是什么? ![]() 維納在這個書里頭其實就一直貫穿著兩種區(qū)分,就是有兩種觀念和兩種機器。第一種就是我們可以叫做機械論的觀念,一個比較傳統(tǒng)的牛頓式的機械論的觀念;第二種是維納自己的現(xiàn)代的控制論的機械觀。而相應(yīng)地有兩種機器:一種是符合于牛頓機械論的,這樣一個機器,典型的就是萊布尼茲設(shè)計的萊布尼茲計算器。這種機器以及這種觀念,其實都有一個基本的特點,就是整個世界是一個決定論的,是一個充滿確定性的一個世界。包括之前說的人是計算機程序,某種意義上也是這樣的意思,因為它是非常確定的,你給他一個初始的數(shù)據(jù),它就可以得到一個確定的結(jié)果。而維納強調(diào)的是不確定性。具有不確定性的、典型的機器就是學(xué)習(xí)的機器,其實最典型的形態(tài)在維納那個時候還沒有完全造出來,其實我們現(xiàn)在看到的,這些人工智能、機器學(xué)習(xí)、深度學(xué)習(xí)某種意義上已經(jīng)比較充分地實現(xiàn)了維納所說的這個學(xué)習(xí)機器,我們之后再會討論。 這兩種機器是很不一樣的,學(xué)習(xí)的機器代表了不確定性,它是要隨機應(yīng)變,要不斷的和外界互動,然后不斷地接受反饋,從而能夠“成長”的。它不是一架死的機器擺在那兒,而是一個會成長的機器,會學(xué)習(xí)會成長的機器。我們帶著這兩種觀念,兩種機器觀,我們接著梳理維納的著作。 1.4.1 對前定和諧的批判 我剛才提到了萊布尼茨,他在維納這本書里也是經(jīng)常被提到啊,經(jīng)常作為一個比較反面的形象被提到。萊布尼茨的宇宙觀非常的獨特,非常的出名,它的計算器也是在歷史上也非常的重要。他的宇宙觀中,特別被維納提及的是單子論。 萊布尼茨當(dāng)然也共享了從笛卡爾到牛頓的這個機械論的這樣一種世界觀,他把機械論世界觀推到了極致,這個極致就是一種非常奇葩的原子論,這種原子論叫做單子論。什么意思呢?這個世界的基本的元素或者說不可分的基本元件是“單子”。這個單子是“沒有窗”的,這是萊布尼茲哲學(xué)的一個基本概念。“沒有窗”是什么意思呢?就是說單子是完全封閉,每一個單子與每一個單子之間其實是沒有通訊的,就是說沒有交流或者說傳播的啊,單子和單子之間是完全隔絕的。但是我們的世界不是充滿聯(lián)系嗎?我這兒拍一下,那邊就動一下,那怎么能說它們完全隔絕沒有交流呢?萊布尼茨就說了,這就叫做前定和諧。什么叫前定和諧呢?就是說每一個單子內(nèi)部都有一套,用現(xiàn)在通俗的話來講都好像有一套程序。每一個單子內(nèi)部有一套程序,它告訴你,你什么時候會感覺到發(fā)生了什么。但是呢,這個程序的所有的運轉(zhuǎn)都是在一開始上帝創(chuàng)世的時候就設(shè)置好了。上帝給每一個單子,或者每一個人,每一個人的靈魂,都編好了程序。在這之后,他們都是沒有交流的,按照既定的程序運轉(zhuǎn)。比如,我跟吳老師是沒有交流的。我們面對面說話其實也是沒有交流的。但是呢,我為什么會感覺到我們有交流呢?是因為我們那個程序?qū)懞昧?,從一開始這個上帝就把那個程序都編好了,讓你覺得啊,在一定的時間會交流,就是我在某一個時刻覺得我在跟吳老師交流,然后吳老師在某一個時刻覺得她在跟我交流,但其實我們沒有交流,僅僅是因為我們都覺得在交流,所以好像這個世界是充滿聯(lián)系的。這是一個很奇葩哲學(xué)理論,我不細致展開講他的哲學(xué)理論了。 按照維納的說法,萊布尼茨發(fā)明的計算器,包括之前的帕斯卡計算器,以及到之后的機械式的計算器,都是異曲同工的。這個單子論在哲學(xué)層面上還是聽起來很玄乎,但是他做出來那個機器就告訴你例子了——他這個機器就是一個單子。什么意思呢?這個機器是個封閉的機器。這個機器只要一次輸入,這個輸入就像上帝創(chuàng)世一樣,你輸入一個數(shù)據(jù),然后就一通手搖式。我好像之前參加這個媒介域讀書會時,就是跟大家講過這個計算器,對吧?就是這種手搖式計算器,比如你要算幾乘以幾,你把那個算式、這兩個數(shù)字輸入進去,調(diào)撥一下那些齒輪,調(diào)撥好了然后你就開始搖,搖動那個計算器,搖搖搖……到“咔”一下停了,你就能夠把那個結(jié)果讀出來了。這個你需要搖半天才得出結(jié)果,但是呢,這個結(jié)果其實在你開始搖之前就已經(jīng)注定了。是吧,大家可以理解,這樣一個就是叫“前定”的結(jié)果,因為當(dāng)你把那個算式輸入到這個計算器上的時候那一刻,這個計算器會出什么結(jié)果就早已經(jīng)注定了。 只是他還需要一個過程來實現(xiàn),實際上用手去搖一搖,把這個結(jié)果給實現(xiàn)出來這樣一個時間,所以這個叫做前定的計算器,對吧,就是說你一通手搖啊,最后是輸出的結(jié)果不會變化,你不會說你手搖得快一點,你結(jié)果就變了,或者說手搖得慢一點,結(jié)果就變了。結(jié)果和手搖的過程沒關(guān)系,在整個過程里頭,這個計算機器和外界其實是沒有信息的交互的,沒有通訊。他只是完成一個把既成的結(jié)果給它展現(xiàn)出來這樣一個事情。 所以說那個無窗的單子和這個封閉的、閉合的計算器,它有基本的一些共同點,這個共同點首先是確定性。它沒有面對不確定性,沒有幾率性。它的結(jié)果是前定的啊。當(dāng)然這個“前定和諧”是哲學(xué)界翻譯單子論的時候常用的術(shù)語。在這本書里頭的翻譯是叫“預(yù)定和諧”,差不多意思:這個結(jié)果是之前就預(yù)定好了的。 維納是怎么評論的啊,就說這個“萊布尼茨把調(diào)整在同一時刻的時鐘給出時間的一致性看作是單子預(yù)定和諧的模型”。在這樣的世界觀、這種機械觀之下,維納給了一個比喻:八音盒上跳著舞的小人的動作。它們是按照這個模式而運動的,這個模式是預(yù)先安排的模式來運動。然后這個八音盒呢,除了你給它上發(fā)條,讓它去動之外,它沒有和外界通信的痕跡,就這個小人是這個“又聾又啞”的。 ![]() 1.4.2 駕馭偶然性 剛才我們講人是機器,維納也說人是機器,但是維納一定要強調(diào)人不是這種機器,對吧?一定不能把人當(dāng)作這種八音盒式的小人這樣的機器,這種機器就是萊布尼茨的機械觀下得到的圖景,就是說人完全都是預(yù)定的,那些看起來很豐富的事情,蹦蹦跳跳啊,載歌載舞啊,其實啊,都是在完成一些早已經(jīng)預(yù)訂好的軌跡,這個軌跡從這個宇宙被剛剛設(shè)定出來之時,就已經(jīng)一切都已經(jīng)注定了。所以維納強調(diào)的就是,“我們一定不要把八音盒設(shè)想作一切機器行為的典型”。八音盒不是典型的機器。 這里頭有一個宇宙觀的區(qū)別,或者基本哲學(xué)的、存在論上一個區(qū)別,就是說這個世界本質(zhì)上是什么樣的?在牛頓、萊布尼茨這樣一派世界觀之下,這個宇宙是確定性的,我們前面講,這是一個前定的、預(yù)先決定的,你只要知道初始,就沒有什么意外的這樣一個世界。這個觀念是維納重點要去反對的東西,所以他在《人有人的用處》的序言,副標題就叫做“一個偶然性的宇宙觀念”。所以說我們看到,整個地維納的哲學(xué),或者整個維納的控制論,它都奠定在對牛頓宇宙觀的顛覆,以及一個充滿偶然性的新的宇宙觀的樹立之上。 他就開篇就說“牛頓物理學(xué)曾經(jīng)從十七世紀末統(tǒng)治到十九世紀末而幾乎聽不到反對的聲音,它所描述的宇宙是一個其中所有事物都是精確地依據(jù)規(guī)律而發(fā)生著的宇宙,是一個細致而嚴密地組織起來的、其中全部未來事件都嚴格地取決于全部過去事件的宇宙……現(xiàn)在,這種觀點在物理學(xué)中已經(jīng)不居統(tǒng)治地位了,而對推翻這種觀點出力最多的人就是德國的玻耳茲曼和美國的吉布斯?!?/p> 牛頓物理學(xué)曾經(jīng)從17世紀末統(tǒng)治到19世紀,這個幾乎沒有反對,但是呢,現(xiàn)在這個物理學(xué)里頭已經(jīng)推翻了。牛頓物理學(xué)的特點就是全部未來的事件都嚴格地取決于全部過去的宇宙,這樣一個確定性的世界。當(dāng)然了,維納重點講的實際是統(tǒng)計力學(xué)方面的貢獻,一個是玻爾茲曼,一個是美國的吉布斯,他對美國人更加推崇,對美國的吉布斯說得更多一點。玻爾茲曼和吉布斯對統(tǒng)計力學(xué)作出了一些很重要地推進,不過在維納他寫這個的時候我們之后說的混沌科學(xué)、復(fù)雜性科學(xué),它們還沒有流行起來,之后混沌科學(xué)、復(fù)雜性科學(xué)逐漸流行起來了,其實也可以繼續(xù)佐證維納的判斷。維納也提到其他一些領(lǐng)域,包括量子力學(xué)——量子力學(xué)在存在論上、在宇宙觀上也是用偶然性、幾率性取代了確定性。所以,維納是從這樣一個偶然性的角度來展開他的控制論,或者說他的信息科學(xué),那么他的信息科學(xué)要做的一件基本的事情是什么呢? ![]() 就是要去駕馭偶然性。就說某種意義上說,他《人有人的用處》的修訂版是1954年出版的,修訂的時候香農(nóng)的信息論已經(jīng)出來了。維納也是欣然接受,也沒有說香農(nóng)搶了我的創(chuàng)意什么,但是他要強調(diào)這個信息論不限于電子科學(xué),不限于電工理論。在維納之后,其實很多時候,信息論是被狹隘化了,它更多的就變成信息技術(shù),信息科學(xué)都變成那個電子工程的事情?;氐骄S納,他強調(diào)信息論不是一個電子科技的問題,主要還是一個更廣大的領(lǐng)域,這個領(lǐng)域包括語言的研究,包括機器的和社會的控制手段的研究,包括計算機、自動機、心理學(xué)、神經(jīng)系統(tǒng)、科學(xué)方法論,等等。就是把這些東西都應(yīng)該包括到這個信息論、信息科學(xué)里頭。而這個主要的一個核心的觀念就是這個信息論是要去解決一個幾率性的理論,也就是說這個幾率性、這個偶然性的問題。就是他后面講信息到底是什么???信息,香農(nóng)也是用熵來定義的,維納也是用熵來定義的。只是維納更強調(diào)它這個偶然性,“接收信息和使用信息的過程就是我們對外界環(huán)境中的種種偶然性進行調(diào)節(jié)并在該環(huán)境中有效地生活著的過程”。 就是說信息科學(xué)要解決一個什么問題?解決的問題就是這個世界是偶然的,是吧,我們前面已經(jīng)講世界觀切換了,但是我們沒有辦法深入地多講,我們就先承認了世界觀已經(jīng)切換了,牛頓已經(jīng)過時了,我們有一個新的偶然性的世界觀。但偶然性的世界觀,一定不是一種虛無主義的——哎呀,這個世界啊,風(fēng)云莫測,就啥都別管了,反正什么都沒有定數(shù)啊,對吧?不是這樣。這個世界充滿偶然,所以恰恰也更需要去科學(xué)地應(yīng)對它,科學(xué)要干嘛呢?科學(xué)要去“駕馭偶然性”。 什么叫駕馭偶然性啊?一個典型的例子就是航海。在風(fēng)浪莫測、風(fēng)云變幻的那個海域當(dāng)中。你要去駕馭一艘船只,你要做什么事情?你要做的一定不是那種:我在出行之前就編制好程序,然后一切都規(guī)定好,該什么時候幾點幾分往左轉(zhuǎn),幾點幾分往右轉(zhuǎn),不是的。要實時地觀測啊,起風(fēng)了你得怎么做?大浪來了你得怎么做?。克阅銜r時的要去觀察,這些偶然的風(fēng)云莫測,這樣一個世界的變化,然后實時的和它交互,然后不斷地接收反饋。 所以維納的“控制論”這個詞就是,把希臘文的那個舵手、掌舵的詞匯引過來,發(fā)明了控制論(cybernetics)這個詞匯,其實就是一個核心隱喻:控制就是去掌舵。掌什么舵呢?就是因為這個世界是偶然的,世界是風(fēng)云莫測的。所以我們再回到前面講的這兩種世界觀啊,這兩種世界觀和兩種機器的模型。 回到兩種機器和兩種世界觀。一種是單子論,一種是維納的控制論,就是控制論是駕馭偶然性。單子論是前定的,閉合的東西,所以這個單子論或者是機械論、宇宙觀代表的,就是由神輸入了第一推動,之后就閉合了之后,整個世界就閉合了啊,是一個絕對確定的東西。而在這種觀念的指導(dǎo)下做出來的機器是什么樣的呢?就比如機械鐘,這個機械鐘怎么走???完全由他自己的一個內(nèi)在的節(jié)律,通過一個擒縱機構(gòu),它要把外部的那個偶然性給它剔除掉。然后還有計算器,萊布尼茨式的這個手搖計算器,然后還有八音盒,對吧?這些東西是典型的閉合機器:就是你單向輸入之后,這個就閉合地去運轉(zhuǎn)。它的結(jié)果也是預(yù)先注定的。 而在這個“有窗的”,或者說控制論視角下的一個生命,或者是人,他是什么樣的呢?很重要的一點就是人是有感官的,維納非常強調(diào),說人是機器,不代表說人沒有感官啊,之前的機械論者,就完全是貶低人的感官,貶低人的情緒,覺得人的本質(zhì)就是理性的邏輯的,對這些東西比較看重。但是維納會強調(diào),人很重要的一點是它有感官。但是這不代表人不是機器,因為機器也應(yīng)該有感官,有感官這件事情非常重要。 感官干嘛的呢?感官就是那個“單子”的窗啊——他不是單子,他是和外界是互通的,他要實時的和外界進行一個雙向的交互。然后根據(jù)這個交互呢,動態(tài)的去變化自己的內(nèi)在,就是他的內(nèi)在要不斷的隨著外部的環(huán)境去變化,外部的環(huán)境呢也隨著你的有所作為,你和外部的交互而發(fā)生變化。你在改變環(huán)境,環(huán)境在改變你。這是人的特征,或者說是一般生命的特征。一般生命也包括廣義的生命,廣義的有機體,就是比如說社會,一個社群,一個國家,一個團體,它也是廣義上的有機體,它一定是有一個和外界的交互的過程。 而在這樣一個觀念底下,那么制造出來的機器是什么樣的呢?這樣制造出來的機器也是有感官的,所以他說現(xiàn)在的自動機是有感官的,它是要與外界雙向去交互,它也要去動態(tài)的去變化它的。這是維納的原話“比較古老的機器……事實上都是在閉合式鐘表的基礎(chǔ)上搞起來的。但是,現(xiàn)代自動機器,諸如自控導(dǎo)彈……都是具有感覺器官的,亦即具有接收外界消息的接收器。”。在這個意義上,生命和機器二者是完全相同的:“生命個體的生理活動和某些較新型的通訊機器的操作,在它們通過反饋來控制熵的類似企圖上,二者完全相當(dāng)?!?/p> 1.5 從機器觀到生命觀(動物學(xué)背景) 1.5.1 遺傳與適應(yīng) 我們說到這里,其實我們可以看到,維納一直就是“生命是什么”和“機器是什么”這兩個問題來回對比。結(jié)果發(fā)現(xiàn)兩邊是一致的,什么樣的生命觀和什么樣的機器觀是相吻合的。那么我們回到生命觀的問題,現(xiàn)代生命觀的建立啊,很大一部分我們還要講到達爾文主義。 被六歲的維納踩在腳下的那個《物種起源》,確實維納是消化透了。他就講到這個達爾文的核心是什么?達爾文的貢獻何在? 維納說:“從馬爾薩斯到達爾文,思想嬗替的線索是清楚的。達爾文在進化論上的偉大革新,就在于他承認進化并非一種拉馬克式的高而更高、好了又好的自發(fā)上升過程,而是這樣一種現(xiàn)象:生命體在其中表現(xiàn)出了:(甲)多向發(fā)展的自發(fā)趨勢和(乙)保持自己祖先模式的趨勢。這兩種效應(yīng)的結(jié)合就鏟除掉了自然界中亂七八糟的發(fā)展,同時通過'自然選擇’的過程淘汰掉了那些不能適應(yīng)周圍環(huán)境的有機體。這樣鏟除的結(jié)果就留下了多少能夠適應(yīng)其周圍環(huán)境的生命形式之剩余模式。按照達爾文的見解,這個剩余模式便是萬有的合目的性的表現(xiàn)?!?/p> 達爾文的進化論上的偉大革新是什么呢?他和拉馬克的單向進取過程不一樣。達爾文的進化論第一個特點就是盲目性,就是一個多向發(fā)展的自發(fā)趨勢。道金森也有一本書叫《盲眼鐘表匠》,就是說生命體的進化是沒有一個確定的目的,它是多樣的,它的遺傳是隨機的。這個幾率性啊,就前面講的就是那個偶然性、不確定性,對吧,就在這里遇到了,就是生命沒有一個確定的發(fā)展方向,而生命的發(fā)展也不是自發(fā)的,它是和環(huán)境交互當(dāng)中最后慢慢的確定下來。 還有一點就是生命是有記憶的,就是遺傳嘛,就是要保持自己祖先模式的趨勢。就是說它一方面它是有一定確定性的,保持遺傳記憶上有一定的確定性,但是這個保持呢,又不是原封不動地保持。它是有幾率突變,對吧?對達爾文我就不介紹了,大家都熟悉,它有突變,那么這個突變以后,再去適應(yīng)環(huán)境,就是它要不斷的和環(huán)境交互,這個不同的突變,再去和環(huán)境的交互是不一樣的。最后看哪一種交互最適應(yīng)于環(huán)境,那其他的一些不適應(yīng)于環(huán)境的那些突變方式就被淘汰掉了,對吧,優(yōu)勝劣汰了。這叫“剩余模式”,就是剩下那最優(yōu)的,被留下來,這個最優(yōu)沒有一個絕對的標尺,而是不斷動態(tài)的相對的標準,由于環(huán)境是不斷變化的。 所以,要點一個是“隨機性”,一個是“記憶”。而在不斷的通過隨機的分裂,隨機的探索來不斷的修正記憶,通過外部的這個環(huán)境,反過來修正記憶。所以,某種意義上,達爾文的貢獻就是發(fā)現(xiàn)了生物、族群、物種和環(huán)境之間的“雙向通訊”的機制,這是這是維納對達爾文的理解。所以在這個里頭,就有這樣一個過程,某種意義上這個過程就是學(xué)習(xí)的過程。但是對于一般的物種來說,它是需要有幾代,無數(shù)代,一代又一代的這樣一個基因的傳承才能夠去“學(xué)習(xí)”。所以《物種起源》說的就是物種在學(xué)習(xí),但不是物種個體在學(xué)習(xí),是整個物種,它通過不斷地積累、不斷地反饋,去學(xué)著適應(yīng)環(huán)境,去成長。 1.5.2 學(xué)習(xí)即反饋 ![]() 但是呢,對于人來說,人是一種獨特的動物啊,人的這種獨特的特性呢,其實就是學(xué)習(xí),那么維納想強調(diào)的這樣一個機制,這種控制論的雙向互動的機制就是反饋的機制。反饋分為兩類,有一些是簡單的反饋,有一些是復(fù)雜的反饋。 什么是簡單的反饋呢?簡單的反饋就無非就是說,只是把一些環(huán)境當(dāng)中的一些簡單的,比較粗糙的數(shù)據(jù)反饋過來,吸收過來,來代入到下一個解。就是某種像遞歸,或者說像迭代。簡單的一些迭代啊,比如說斐波拉契數(shù)列,這種你可以說它是一個反饋,就把一個加和的結(jié)果反過來放到那個加數(shù)上面,然后再繼續(xù)加,這是一種反饋。但是這種反饋不叫學(xué)習(xí),這還是一個八音盒能夠做到的事情,那么一個復(fù)雜的反饋是什么呢?就是說你不僅僅是反饋回來的是一些單純的數(shù)據(jù),反饋回來的是能夠?qū)δJ竭M行調(diào)整的信息。這種信息對那個基本模式要進行調(diào)整,就那個八音盒,比如說你要在反饋的過程中,你要把八音盒內(nèi)部的整個的結(jié)構(gòu)、整個的形式,都不斷的發(fā)生調(diào)整,它是動態(tài)的,那樣的話就可以稱作為一種學(xué)習(xí)的過程。這種過程也是在面對不確定性的一個環(huán)境的過程當(dāng)中,和它交互過程當(dāng)中發(fā)展出來的能力,就是我要以某一種方式去跟環(huán)境交互,得到反饋以后呢,你會根據(jù)那個反饋去改變你的交互的策略本身。 這個策略本身是要改變的,就是你的內(nèi)在改變了啊,然后你再去交互,再進一步接受反饋,然后再不斷的在不同的反饋當(dāng)中去甄別出來,最好的策略是什么。找到最好的策略,然后再去發(fā)揚光大,這就是進化論的一種模式。 1.5.3 人與動物的區(qū)別 ![]() 所以維納就說人作為一個物種,它是獨特的。其他的物種,它需要整個物種去實現(xiàn)的一個慢慢適應(yīng)環(huán)境、學(xué)習(xí)環(huán)境的過程。人的每一個個體都會有這樣一個能力,就是學(xué)習(xí),這里又回到人的本性,是要把人當(dāng)人,人不是動物。如果說人不是動物,人和動物的本質(zhì)區(qū)別是什么?人和動物的本質(zhì)區(qū)別在維納看來,就是人的個體是能夠?qū)W習(xí)的。 他說,法西斯主義的問題是什么?法西斯主義就是沒有把人當(dāng)人,而是把人當(dāng)螞蟻啊,把人當(dāng)畜生。可是,螞蟻不會學(xué)習(xí)啊!螞蟻的能力基本上都是它先天決定的。它需要后天的發(fā)展,但是不需要學(xué)習(xí),就是動物也是這樣,動物你可以說有的時候動物好像也需要“學(xué)習(xí)”,但問題是動物的學(xué)習(xí)是幾乎沒有偶然性的(如果說有的話也是說它比較像人),就是說動物的生存技能幾乎不可能學(xué)不會。所以動物的學(xué)習(xí)是一個非常簡單的反饋機制,它是隨著成長,它的那個先天的能力,逐漸的成熟,那么他就會去捕食啊,就會去筑巢啊,等等這樣一些事。 但人是有可能學(xué)不會的,人的學(xué)習(xí)是不確定的。人究竟要學(xué)什么?這個是不確定的,是要根據(jù)環(huán)境來決定的,你在一個原始叢林底下,你就要學(xué)習(xí)捕獵,學(xué)習(xí)追蹤野獸;你在一個現(xiàn)代社會里頭,你就需要學(xué)習(xí)上網(wǎng),學(xué)習(xí)用計算機。你在不同的環(huán)境下,你要學(xué)習(xí)的東西是不一樣的。而且有人會學(xué)不會,有人會學(xué)得會,學(xué)不會的你可以調(diào)整一下,你可以學(xué)別的,就是這人的這個學(xué)習(xí)的能力啊,是人固有的一種特性。所以你要把人當(dāng)人呢,你就必須要強調(diào),注重人的學(xué)習(xí)的能力,而不是要把人定死在一個專業(yè)的軌道之上。出身三歲看老了,三歲就決定一切了啊,你是這個工匠的兒子你就也是工匠,你是士兵的兒子,你就是士兵,那這樣一個社會是非常糟糕的。 1.6 追問理想社會 1.6.1 學(xué)習(xí)的社會 把人當(dāng)人的社會,就一定是一個學(xué)習(xí)的社會。我們前面講就是維納的思想反復(fù)地在生物和機器之間跳轉(zhuǎn),對吧?就是說你看機器是什么樣的,所以我們要怎么樣看待生物啊,然后生物是什么樣的,所以我們要怎么樣看待機器。 現(xiàn)在我們看到,對于人來說,學(xué)習(xí)是一個非常重要的一個本性。所以反過來說,機器應(yīng)該是什么樣的呢?機器應(yīng)該也是學(xué)習(xí)的機器——一個典型的機器不應(yīng)該是一個八音盒,八音盒是不會學(xué)習(xí)的。對,一個好的機器是要會學(xué)習(xí)的。這是什么樣的機器呢? “剩余模式的概念在阿希貝博士的工作中重新提出來了。他用它來解釋機器的學(xué)習(xí)?!诎⑾X惖臋C器中,就像在達爾文的自然界中一樣,我們在一個不是有目的地構(gòu)成起來的系統(tǒng)中看到了目的性,”——維納他是把機器學(xué)習(xí)的這個理念歸功于阿希貝,這個人我也不太熟悉啊,總之機器學(xué)習(xí)就像是達爾文的動物適應(yīng)自然界一樣,在一個不是由目的構(gòu)成起來的系統(tǒng)中看到的目的性,強調(diào)一種目的的涌現(xiàn)。類似于達爾文的進化論,它本身是盲目的,是沒有目的的,是適應(yīng)偶然性的,但是在適應(yīng)偶然性當(dāng)中,就涌現(xiàn)出了一種目的,就是好像每一個物種都各司其位,有自己的生態(tài)位,尋找到了自己的一種模式。 所以這個目的在無目的中的涌現(xiàn),是這個達爾文主義發(fā)展過程中的一個洞見。維納就說怎么樣設(shè)計一個學(xué)習(xí)的機器呢,也是說要在無目的中把目的性涌現(xiàn)出來,這個其實就是非常地超前。我們知道,現(xiàn)在我們這一波人工智能火起來,其實根源就是深度學(xué)習(xí)嘛!什么叫深度學(xué)習(xí)呢?其實就是維納式的這個理念,完全就是一樣的——就是把達爾文進化論用到了機器學(xué)習(xí)里頭,就是去訓(xùn)練,就讓它隨機的運作,你改改參數(shù),然后讓它們?nèi)ヅ芤幌?。跑出來結(jié)果后,看哪個結(jié)果更好,你就再反饋過去,說這個參數(shù)再進一步再去調(diào)整,再進一步去修正。所以現(xiàn)在的那個機器學(xué)習(xí),基本上就是說如何面對偶然性,就是隨機的變異加上一個反饋機制。反饋是必要的,這樣才能夠把那個最好的變異保留下來,在這個好的變異的基礎(chǔ)上再進一步變異。這就是機器學(xué)習(xí)的一個機制。 所以說,這樣一些機器學(xué)習(xí)的概念,其實在維納那里就已經(jīng)非常清晰地指明了方向了,所以某種意義上后來的人工智能,它很長一段時間走了彎路,走的是邏輯主義的路,就是還是一個預(yù)定和諧、前定和諧的那樣一個路數(shù),對吧?其實現(xiàn)在再返回來看到那個神經(jīng)網(wǎng)絡(luò),看到深度學(xué)習(xí),是對控制論的回歸。 “某些種類的機器和若干生命體,特別是比較高級的生命體,都能在過去經(jīng)驗的基礎(chǔ)上來改變自己的行為模式……換言之,有機體并不像萊布尼茨鐘機式的單子那樣,同宇宙作預(yù)定的和諧,而是和宇宙及其未來的種種偶然性依據(jù)實際情況而尋求著新的平衡……學(xué)習(xí),和比較簡單的反饋形式一樣,也是一種從未來看過去和從過去看未來有所不同的過程。關(guān)于顯然合目的的有機體這一整個概念(不論這概念是機械的、生物學(xué)的或是社會的),都是時間之流中具有特定方向的一根飛箭……” 這樣一種“學(xué)習(xí)”的模式,它是具有普遍性的。在機械的、生物學(xué)、社會科學(xué),其實都有這樣的同樣的一種模式,而這種模式呢,是不可逆的,在時間之流上是不可逆的,什么意思呢?我們說在牛頓的世界觀里頭,其實是沒有時間方向的,就牛頓的世界觀里頭,你按著時間,正過來跑和反過來跑是一模一樣的,對吧?比如這個剛體是順時針轉(zhuǎn),你反過來時按時間逆著倒帶,無非就變成逆時針轉(zhuǎn),對吧?它是完全一樣的,它的物理學(xué)規(guī)律運動模式什么的都是完全一樣的。正因為這樣一個確定性的機制,所以它才是一個前定和諧的東西,因為它整個就是靜態(tài),按牛頓力學(xué),這個世界整個就變成一個“四維流形”嘛,這個四維的流形從古至今全都已經(jīng)確定了,因為古和今也無非就是可逆的一個時間參數(shù)而已。 這個世界觀被顛覆了,關(guān)鍵就是熵的概念的提出,熵代表了一個不可逆的方向。維納要強調(diào),就是說我們要適應(yīng)這樣一個不可逆的方向,為什么不可逆呢?因為偶然性和這個學(xué)習(xí)這個方向都是不可逆的。因為你正過來看,是一個你不斷面對偶然性的過程,是在不斷的學(xué)習(xí)的過程,不斷地固化。但你反過來看呢,就變成遺忘了。學(xué)習(xí)和遺忘不是互逆的,對吧?就那個順時針轉(zhuǎn)和逆時針轉(zhuǎn),它是互逆的,它的規(guī)律是一模一樣的,而學(xué)習(xí)的這個規(guī)律,按照時間的倒帶,它是不可逆的。所以就說我們要承認這個世界的偶然性,承認這個世界的時間性,承認時間的不可逆性,那么我們就要強調(diào)這個所有的事物,包括機械、機器、生物和這個社會,是要去適應(yīng)這個變化的,要去駕馭這個充滿偶然性的世界。那我們就需要去學(xué)習(xí)。所以維納發(fā)展機器學(xué)習(xí)這個概念,是非常超前,非常有遠見。 1.6.2 反饋機制的必要性 我們前面說人是人,人的本質(zhì)是要學(xué)習(xí)。機器的理想是要學(xué)習(xí),社會也需要學(xué)習(xí)。所以維納對于社會政治的一些理想,他的社會理念,也是說我們的社會也是需要學(xué)習(xí)的,政治也是需要變化的,不尊重變化的社會就是專制社會。 什么是專制社會呢?比如前面講的法西斯社會。需要注意的是,專制社會甚至不一定是法西斯社會,包括現(xiàn)在——維納說的現(xiàn)代的美國社會,可能也是專制社會。美國社會,在維納看來,雖然表面上標榜民主,但是實際上在很多的領(lǐng)域都是專制的。比如說一個工廠,一個企業(yè),他們?nèi)怯脤V频姆绞絹碇卫?。而民主的特點是什么?就是不確定性。豐富多樣的、形式不定的是民主。而專制是什么?專制就是好像能夠預(yù)先的控制一切,預(yù)先地決定一切,所以為什么專制的發(fā)展就必然會有一些,比如說計劃經(jīng)濟之類的這樣一些運轉(zhuǎn)方式,就是說他試圖預(yù)先的確定一切,把一切事物都預(yù)先的放到一個確定的指定給他的一個社會軌道上,對吧? 維納說:“但是,這種限制多端、形式不定的民主,對于許多以效率作為最高理想的人們說來,甚至還是認為太無政府主義了。這些崇拜效率的人們喜歡讓每一個人從孩提時代起就在指定給他的社會軌道上活動,執(zhí)行著束縛他就像奴隸之被束縛在泥土上面一樣的社會職能。在美國的社會圖景中,存在著這些傾向,存在著這種對未知未來所蘊含的種種機會之否定,這是可恥的?!倘擞靡慌菑牡娜藝@在自己周圍,從而使自己和他的雇員們隔離開來;或者,一個大研究所的領(lǐng)導(dǎo)人給每一屬員指定一個研究專題,但不給他獨立思考的權(quán)利……他們所向往的預(yù)先指定個人社會職能的秩序井然的國家,令人想起了萊布尼茨的自動機,它在通向偶然性的未來時,不會提供不可逆轉(zhuǎn)的活動,而這種活動卻是人的生活的真正條件?!?/span> 維納這一段引文批判的不是法西斯了,他批判的是美國。就是說對于很多美國人來說,號稱喜歡民主其實是葉公好龍啊,雖然他們口口聲聲都是說喜歡民主,但其實他們都更喜歡專制,為什么呢?因為他們都喜歡“效率”,效率至上。效率至上會什么樣呢?就是把每一個人都安排在他一個最適應(yīng)的一個位置,然后就像一個生產(chǎn)流水線一樣,你坐在那個位置上以后你就別動了,是吧?你就按部就班地,機械化的就搞你那套事情,按照既定的軌道運行,整個社會要搞成一個流水線工廠一樣。這樣的效率最高、最確定,對吧?每個人做什么事情,每個人生產(chǎn)什么東西,都在一個預(yù)定好的社會軌道啊。 所以說他們就像奴隸一樣被束縛著,被賦予了一個預(yù)先給定的社會職能。于是美國的社會圖景上就存在這樣一些傾向——存在著對未知的未來與偶然性的種種機會之否定,他們害怕不確定性。維納說這是可恥的。 他說商人也是這樣,大研究所的領(lǐng)導(dǎo)人也是這樣,學(xué)閥也是這樣,專業(yè)化也是這樣,每個人給派一個主題,去研究他們向往的預(yù)先指定給個人的專題。所以他又提到萊布尼茲,“令人想起了萊布尼茲的自動機,它在通向偶然性的未來時,不會提供不可逆轉(zhuǎn)的活動,而這種活動卻是人的生活的真正條件?!?/span> 就是說美國的政治和法西斯的政治如出一轍,他們都沒有真正地擁抱不確定性,沒有真正擁抱機會、可能性。所以說,怎么樣去擁抱這個可能性,怎么樣去駕馭可能性呢?那么社會也需要學(xué)習(xí)。社會要學(xué)習(xí)首先就是說,我們要承認進步是一種迷思。我們要打破進步的迷思,打破對進步的迷信。就是維納批評之前的很多人,特別是美國人,他們迷信進步,就覺得這個迷信進步其實是迷信什么呢?其實是迷信技術(shù)本身的一個內(nèi)在邏輯。就覺得你把技術(shù)給釋放出來之后,那個技術(shù)自己去發(fā)展,像摩爾定律那樣,它好像就能夠按照自己的步調(diào),一步一步地進步,一步一步地發(fā)展,逐漸變得發(fā)達(人要做的就好比給八音盒上發(fā)條或者賣力氣去手搖計算器那樣,把技術(shù)的既定步調(diào)推進出來就行了)。美國人就信任這種技術(shù)本身的模式,所以他不去思考自己的責(zé)任,不去思考反饋,就迷信進步,就是把技術(shù)釋放出來,然后去擴大它的力量就完事了。 一切也都是單向的,不接收反饋的,比如“征服自然”、破壞環(huán)境。一門心思征服自然壞在哪里呢?其實就是沒有考慮環(huán)境的反饋,我們就是只考慮我們怎么樣去單向地改造它。專制社會也是沒有考慮反饋,它就是單向的,自上而下地去頒布秩序,它聽不到民眾的反饋。所以這是一個不學(xué)習(xí)的社會,一個萊布尼茨式的社會。 那么維納理想當(dāng)中的社會,它是要承認不確定性的,那么首先它不能迷信進步,認識到進步是有限度的,未來是多樣化的,是不確定的。所以我們必須依賴的不是一些預(yù)先決策好了的計劃,也不是預(yù)先決定好的規(guī)范。我們不能徹底依賴這些預(yù)先設(shè)計好的東西,而是要去不斷的去接受反饋,這個反饋機制才是最重要的。所謂反饋機制呢,就是要不斷的發(fā)現(xiàn)環(huán)境的變化,讓環(huán)境的變化去不斷影響我們的政策,影響我們的觀念。 那么維納就說。在我們這個時代啊,也就是在維納這個時代,非常重要的一件事情就是我們的環(huán)境被徹底地、被很巨大地改變了,但我們的社會還沒有反應(yīng)過來。這是一個最大的問題?!拔覀円呀?jīng)如此徹底地改造了我們的環(huán)境,以至于我們現(xiàn)在必須改造自己,才能夠在這個新環(huán)境中生存下去啊,我們再也不能生存在舊環(huán)境之中了。”那么這個舊的環(huán)境,舊的傳統(tǒng),都需要得到反思和改變。維納這里重點還是在批評美國,因為他自己是美國人嘛,美國人當(dāng)然要批評美國了。美國的許多舊的觀念,在維納看來還是覺得是很有問題的。 那么美國的傳統(tǒng)是什么呢?美國的傳統(tǒng),維納就說是“一切皆可以買賣”,就是全都是用市場價格來衡量,迷信市場,迷信價格。他說:“在美國人的生活環(huán)境中,信息的種種問題都是按照標準的美國眼光來評價的:一物之有價值就在于它作為一項商品之進入公開市場的情況。這是官方的正統(tǒng)學(xué)說,……在典型的美國世界中,信息的命運變成了某種可以買賣的東西?!?/span> 一切東西都可以買賣這件事情,倒也不是說錯,但是它是一個舊時代的特征——在工業(yè)時代里頭還算適用。這種美國價值觀最適應(yīng)的是去分析工業(yè)化產(chǎn)品的貿(mào)易活動,那些工業(yè)化產(chǎn)品當(dāng)然都是商品了,是吧?工業(yè)流水線的時候生產(chǎn)出來的羊毛毛衣啊,這些東西那當(dāng)然都是商品了,那個礦啊資源啊也是可以買賣的嘛。所以這個一切可以買賣的觀念,它是適應(yīng)于工業(yè)時代,或者說適應(yīng)于第一次工業(yè)革命。 在維納看來,到了新的時代,到了信息時代,到了一個新的環(huán)境底下,這個把一切事物都看作可買賣的東西,這樣一個觀念應(yīng)該過時了,就應(yīng)該受到新的調(diào)整。為什么呢?因為信息不是商品。信息不是那個工廠流水線里頭生產(chǎn)出來的東西。他說“信息和熵都不是守恒的,都同樣不適于作為商品。”因為,一個東西你就是擺在那兒,它依舊是“一個”,而一段信息它是可以復(fù)制的,它是一段信息,它可以不斷地被分享。 維納舉了一個典型的例子,就是藝術(shù)品,就說藝術(shù)品的價值是不能用錢衡量的。一塊面包的價值是可以幾乎等同于它的商品價值的,你可以看它在市場中賣了多少錢,然后說這塊面包的價值大概是五塊錢,或者大概是十塊錢。但是一幅畫就不一樣,你說它的價值是多少?我們現(xiàn)在也貌似能衡量,比如這個作品拍賣價4萬,400萬,4000萬,但這個拍賣價衡量的不是這個藝術(shù)品的價值啊,為什么呢?因為當(dāng)你在看藝術(shù)品的時候,你在博物館里欣賞它的時候,你沒有花錢呀!你一分錢沒花,你就跑到博物館里頭,在藝術(shù)品前面,你欣賞藝術(shù)品的時候,這個藝術(shù)品的價值就已經(jīng)展現(xiàn)了。對吧,這個藝術(shù)品的價值是在你一分錢不花在旁邊博物館里欣賞它的時候才得到了最大的展現(xiàn)。反而你花了4000萬買了這幅畫,雪藏在家里,地窖里頭,誰都沒有看的時候,這個藝術(shù)品的價值恰恰沒有被展現(xiàn)出來。所以那個4000萬不是藝術(shù)品的價值。 藝術(shù)品的價值何在呢?在于它的公開,是它讓更多的人去看到啊!而這個更多的人去看到通過的就是那個可復(fù)制的信息??!放在博物館你可以讓1萬個人看到,你再放到互聯(lián)網(wǎng)上,你可以讓100萬個人看到是吧?而這個事情,是難以量化的,不可能用一個衡量商品的方式來衡量這個藝術(shù)品的價值。 在信息時代,在信息世界里更重要的東西是那些創(chuàng)作物啊。在信息世界被創(chuàng)作、被傳播,互聯(lián)網(wǎng)上的東西,都不能夠再以在商品市場中衡量商品傳播的方式來衡量。因為那些東西實質(zhì)和面包毛衣之類是完全不一樣的,他們是可復(fù)制的。所以說在那個信息化的世界里頭,在維納看來,就是說,“在一個變動不居的世界里頭,你再去把信息貯藏起來,而不使其嚴重的貶值,這種想法是荒誕的?!蹦呐略趥鹘y(tǒng)上,你還可以說你把一幅畫窖藏起來,我可能過個20年之后再拿出來看,它會升值。但是在互聯(lián)網(wǎng)時代越來越不能這么想了。我要把信息封鎖起來,我把信息保密,就放在我電腦里啊,誰都不讓他看,然后覺得這個信息是有價值的。維納說你這個衡量錯了,信息的價值不應(yīng)該是這樣來衡量。 所以他非常強調(diào),舊的那個制度,包括前面講的集中化的流水線的制度,它是適應(yīng)于蒸汽機革命的。蒸汽機是一種大型的機器,你用蒸汽機就能夠提升效率,但是蒸汽機不適合小作坊用,它就適合集中化用。所以我們要適應(yīng)蒸汽機這種技術(shù)媒介,適應(yīng)這種新技術(shù),我們我就不得不投靠于集中化,投靠于專制的工廠體系。 但是呢,時代變了。現(xiàn)在這個時代的主導(dǎo)的技術(shù)是什么呢?是信息技術(shù)。我們要去適應(yīng)信息技術(shù),我們就需要做出調(diào)整。我們不能用適應(yīng)蒸汽機的方式再去適應(yīng)信息技術(shù)。所以維納非常強調(diào)自由的共享的制度,他相信自由和共享的機制才能夠更適應(yīng)于信息技術(shù)。所以如果維納活到現(xiàn)在,他一定是一個開源運動的一個支持者,是吧? 1.6.3 認清機器的位置 我們前面講啊,不要把人當(dāng)作非人,我們要把人當(dāng)人。這里的某種要點就是我們要恰當(dāng)?shù)乜创龣C器。既然人是一種獨特的機器,所以說你如果不好好地認清機器的位置,擺好機器的位置,你反過來你也是不能夠擺好人的位置。 維納會批評一個典型的趨向:就是要把機器當(dāng)作一種單純的奴隸。奴隸是什么?奴隸就是一個可買賣的東西,也前面講的以買賣為基礎(chǔ)的觀念。我的奴隸是一個商品,它不是一個人,它不是一個主體,它是一個商品。奴隸的價值就是他可以出賣的勞動力,對吧?你買來這個奴隸,相當(dāng)于你一次性支付一筆錢,然后買一個細水長流的勞動力,對吧,就是這樣一個邏輯。維納看來,我們現(xiàn)在好像有一個趨勢,就是把機器,特別是那些自動機器都看成是奴隸。 但維納說:“讓我們記住,不管我們對于自動機之有無感情問題采取什么樣的想法,它在經(jīng)濟上完全和奴隸的勞動相當(dāng)?!薄憧催@都非常超前對吧,他覺得這個首先我們談?wù)撃莻€機器有沒有感情啊,是值得談?wù)摰模皇亲钪匾?。無論它有沒有感情,你在經(jīng)濟上把它當(dāng)作什么?這才是重要的。機器的勞動在經(jīng)濟上完全和奴隸的勞動相當(dāng),這就屬于是一種“當(dāng)作”方式啊,但不是維納提倡的方式。 你把它當(dāng)作奴隸的話,那么,維納接著說“任何一種同奴隸勞動競爭的勞動,都必須接受奴隸勞動的經(jīng)濟條件”。什么意思呢?就是你把機器當(dāng)作奴隸的時候,你會發(fā)現(xiàn)人被當(dāng)作什么了呀?因為機器干的是人的活,機器在跟人搶活干,對吧,現(xiàn)在我們已經(jīng)看到機器不斷在跟人搶活干。你把機器當(dāng)奴隸了,那跟奴隸搶活干的人是什么呢?甚至和奴隸搶活干,還搶不過奴隸的那個人是什么?不就變奴隸的奴隸了嗎?不就比奴隸還低等嗎?如果把那個機器的價值就用單純的奴隸來衡量它的話,那么,比機器還不如的勞動力,比機器還不如的人類,豈不就變成奴隸的奴隸了?你不是比奴隸還廉價了嗎?所以無論說機器有沒有感情,你把機器當(dāng)奴隸都是糟糕的,或者說都是危險的。 我從《控制論》的序言里頭摘了一段:“機器將要像將要求我們像理解人類一樣理解他們。否則我們將變成他們的奴隸?!苯Y(jié)合之前的說法,這段話不是說機器一定會覺醒自我意識,然后會反過來奴役人類,不僅僅是這個意思。維納看到了哪怕機器沒有感情,就機器哪怕沒有覺醒成像人類一樣的這種有自我意識的個體,它仍然會奴役人類,因為如果你這個制度就建立在一個把人和機器都當(dāng)作用來買賣的商品,都當(dāng)作勞動力的出賣者的觀念基礎(chǔ)上,都以對待一個勞動力的方式對待人和機器,那么最終我們在這樣一個社會制度,在這樣一個經(jīng)濟體系下來看待問題的話,那么,結(jié)局一定是人是機器的奴隸,人是給機器打工的。 現(xiàn)在其實某種意義上就已經(jīng)變成這樣了,我們說那個“在系統(tǒng)中的人”,不就是嗎?那些美團小哥,他就是在給那個“系統(tǒng)”在打工,某種意義上就是這樣。并不是說美團那個跑腿系統(tǒng)已經(jīng)覺醒自我意識了。它沒有決定自我意識的時候,你也已經(jīng)在給它打工,你也已經(jīng)在給它做奴隸,對吧?維納看到的就是諸如此類的危險。所以說維納強調(diào),要把人當(dāng)人,還有一個重要的一點,就是只有人才能夠為自己的行動負責(zé),機器是負不了責(zé)的,哪怕是那些再智慧的機器啊,再怎么控制論的反饋的機器,它們也不能取代人的這樣一個負責(zé)任的特點,所以不能把自己的責(zé)任推卸給機器??! 所以他在講機器的時候他也說,我在談?wù)摍C器,但是同樣也在談?wù)撊?,這個人也不能夠互相推卸責(zé)任,人必須要像這么一個個體,一個獨立的個體那樣去承擔(dān)責(zé)任。好,我今天的這個導(dǎo)讀就到這里,因為這個書確實是非常的豐富,所以我只是簡單地介紹一下,還有很多遺漏之處哈,歡迎大家指正!非常感謝! ? 問答 Q&A ? 線下問答 01 機器能負責(zé)嗎? 吳璟薇:剛才胡老師用非常清晰而簡潔的思路,給我們介紹了維納的整個控制論,尤其是和萊布尼茨的機械觀做了一個鮮明的比較,專門突出這樣的一種反饋和學(xué)習(xí)機制,是非常重要的。這種機制是一個控制論的機器,或者是這樣的控制論語境中的社會,它本身的特征。那大家其實看到維納的整個視角,不僅僅只是關(guān)注到整個我們所談?wù)摰臋C器里面,他還把人所處的這樣的一種制度,或者說社會,都納入到其中來思考這樣一個作為整體的這種控制論問題。包括我印象最深刻的話,胡老師剛剛也專門解釋了,說維納的控制論不是從機器里面來的,它本身就存在于這樣的一個社會運作的機制里。 所以相信今天我們會有非常多的這樣一種感慨,包括今天在ChatGPT這樣的一種時代背景下,或者是從弱人工智能到強人工智能這樣一種轉(zhuǎn)換的過程之中,讓我們再重新去思考機器,包括機器是否會去替代這類的勞動的問題,有著一個重要的意義。而維納很多的思想,像胡老師說的,它是超前的,他盡管是在那樣的五六十年代的社會,但是其實已經(jīng)呼應(yīng)了七八十年代之后的這個整個技術(shù)的發(fā)展和動向,那相信大家其實也有很多疑問,那我自己聽了胡老師和閱讀了書之后也有一些疑問,所以我先行使我主持人的這樣的一個權(quán)利,我本身是非常喜歡維納的控制論的,所以其實在讀的時候也非常多的想法,所以我們能不能先做和胡老師做一個探討,我們稍后再把問題的權(quán)利交給大家。 胡老師剛剛其實說到了,就是機器和人都是有感官的,人是有感官的動物,那這時候就會讓我們想到了,就是當(dāng)下,其實我們在這樣一個智能系統(tǒng)里面,有一個非常重要的、非常依賴的技術(shù),就是傳感系統(tǒng),包括我們今天的互聯(lián)網(wǎng),包括以后我們所說的一些人工智能,其實非常重要的問題,就是需要去建構(gòu)一種機器的感官系統(tǒng)來替代人的感官系統(tǒng),甚至像馬斯克那樣,把這種所謂的芯片植入到人腦之中,進行一個這種腦機的結(jié)合,那么在今天的這樣的一種過程里面,我們其實看到,既然人和機器都是同樣具有這種感官的功能,那么未來是不是意味著,如果我們按照這樣的一個邏輯下去的話,人和機器其實可以沒有差別?甚至到了賽博格之后,其實人的感官和機械的感官無法區(qū)分了,那么人和技術(shù)或者是人和機器之間的本質(zhì)區(qū)別在哪里呢? 胡翌霖:我想就是按照維納最后的講法,就還是一個負責(zé)任的問題。就是說,這個機器可以有感官,或者是可以做一些決斷,但是機器的決斷仍然是人委托給它做的,就是當(dāng)你委托一個他者去做決斷的時候,這個他者其實不一定是機器對吧,他者可以是他人,可以是機器。但你可以委托給他者就是說,這個事情我交給你判斷啊,你幫我去做這件事情。 但是你可以委托一個任務(wù)給他,你不能把你的責(zé)任全部委托給他,就是當(dāng)他給搞砸了,那么作為委托者的你需要負責(zé),你也需要承擔(dān)責(zé)任。所以,這件事情就是說,這是機器可以作為一個被委托者,但是機器不能作為一個委托者。他作為一個被委托者,就是說他不能夠承擔(dān)發(fā)起一個根本上的責(zé)任。這件事情是只有人可以去承擔(dān)的。 (至少短期內(nèi))機器和人是不可能完全一樣的,為什么呢?機器它是可復(fù)制的,或者說它的那個可復(fù)制性非常強。比如說有這樣一個機器,一個數(shù)字馬斯克或者是數(shù)字什么人,那你有了一個就能有兩個,有了兩個就能有四個,就能有無限個,然后它每一次自己在做那個演算的時候,它也不斷的在自我分裂,在不斷的接受反饋,它隨時可以做切割,對吧?所以這樣的話,機器它很難以負責(zé)任,究竟是讓哪一個版本來負責(zé)嘛?是吧? 比如我讓一個人來負責(zé)任,我們把這個人槍斃了吧,或者說關(guān)上20年牢,對吧?那機器干嘛呢?你“槍斃”了一個程序,它馬上復(fù)制嘛,把鏡像或備份恢復(fù)出來嘛,我給你這個人工智能關(guān)禁閉,那別的地方還有備份呢。所以這些事情對人和對機器來說,是難以等價的,之前網(wǎng)上某個段子我覺得它是有一定的合理之處的,就是說AI不能坐牢嘛。 很重要一點也就是說,人還是要挺身而出去負起責(zé)任,就是在所有的這些在運用機器的那個過程當(dāng)中,最終負責(zé)的還是人。 吳璟薇:其實剛剛說到,因為是復(fù)制的問題,由于它有這樣的一種學(xué)習(xí)和反饋的機制,所以在這個過程當(dāng)中,其實它就是不可逆的,而且是一直向前的,所以這是不是就意味由于這樣的一個反饋機制,意味著學(xué)習(xí)的能力會越來越強,那么技術(shù)是不斷在進步,有沒有一種可能——雖然起點是人對機器的控制,但是如果我們按照一種機器的這種自主性的進化來講,那是否也有可能會在不斷的自我完善之中機器變得非常地適應(yīng)環(huán)境,然后越來越能夠去發(fā)展出一個自我循環(huán),自我優(yōu)化這樣的自主性? 胡翌霖:可能在維納看來,這也是進步的迷信的一部分。就是說,維納強調(diào)這個學(xué)習(xí),是通過不斷的反饋在學(xué)習(xí),但是他沒有說學(xué)習(xí)的能力是無限的。比如我們作為人,我們都知道學(xué)習(xí)的能力是很有限的,我現(xiàn)在的學(xué)習(xí)能力就比30年前要弱很多,對吧?小時候?qū)W習(xí)能力很強,是吧?無論是一臺新的手機擺在面前,還是新的一種語言,小孩子很容易就上手了,我們現(xiàn)在就不太行了,可能再過30年我們也變成老古董了,所以這個學(xué)習(xí)能力是衰退的,不一定是那個我們會越來越強的。 對于機器來說其實也一樣。機器的適應(yīng),它可能也會走向死胡同。比如說它雖然也在不斷的接受反饋,但是過程中它可能經(jīng)歷一個惡性循環(huán),或者是一個死循環(huán),它就走不出來了。它走到一個死胡同里頭去,完全可能會這樣。我們不能夠迷信機器,就像我們不能迷信人一樣,對吧?所以在這個方面,人和機器還是一樣的,你不能說,唉,你看這個人多厲害啊,這個就是我們的一個英明的領(lǐng)袖啊,那我們把一切都交給他就行了,那不行啊,那個人是會腐壞的呀。可能他之前確實很英明啊,但是他掌權(quán)了之后,過個幾年他可能就腐壞了呢?那我們不能把這個一切都寄托在一個強人之上,那同樣我們也不能把一切都寄托在機器上,寄希望機器一定會朝向好的地方發(fā)展。所以我們也需要實時的交互,那個交互是復(fù)數(shù)的,這個交互是人和機器之間、不同的機器之間、不同的人之間都要不斷的去互相交互,互相反饋。那你不能夠指望,一切都會自動的朝好的方向發(fā)展。 吳璟薇:非常感謝胡老師。今天我們在現(xiàn)場,當(dāng)然有一點遺憾的是,本來我們應(yīng)該可以到那個維納曾經(jīng)工作的地方,就是清華大學(xué)新聞傳播學(xué)院之前那個樓,屬于舊電機系的,維納的辦公室原來是在三樓??上КF(xiàn)在都在裝修,三樓已經(jīng)拆得跟之前完全不一樣了,所以今天我們也只能在這個另外一個現(xiàn)場來進行直播,所以留一點小小的遺憾。這個樓以后修好了,大家可以到那個現(xiàn)場去,那么我們今天因為是線上和線下的這樣的結(jié)合,在場我們也有觀眾,我們在線上有各位觀眾啊,我們大家看一看有沒有相關(guān)的提問。我們先優(yōu)先給現(xiàn)場觀眾吧! 02 交互反饋式的和諧可能嗎? 馮光能:因為今天的批評是建立在萊布尼茨的“前定和諧”概念之上的。但是呢,其實胡老師主要批評的是前定,而不是和諧,萊布尼茨這個思想本身也是比較復(fù)雜的。其實我們社會總是要追求和諧的,那么就是說在一個人和人不斷的跟環(huán)境交互,不斷的在復(fù)雜的環(huán)境中交流信息,在通過反饋來學(xué)習(xí)的過程中,他可能是沒有目的的,但是呢,就是胡老師也說了,在這種復(fù)雜的情況下,最終有可能涌現(xiàn)出一種目的性。那在這樣的背景下,其實我比較關(guān)注的就是和諧,它是否可能?何以可能?或者說和諧并不一定是社會的最好的目的,即便如此,我們還是作為人,終歸還是有社會理想的。 胡翌霖:是這樣,但萊布尼茨的和諧是個假的和諧。萊布尼茨的和諧是什么樣呢?只是聽起來和諧。比如像那個八音盒,八音盒里頭可以有幾個樂曲對吧,比如一個是鋼琴,一個是小提琴,一個是其他的,然后可以奏出一個和諧的聲音,但其實它們是互相之間是沒有交互的,它都是預(yù)先排列好了的,幾秒鐘發(fā)出鋼琴聲,幾秒鐘發(fā)出小提琴響,就小提琴歸小提琴在那彈,鋼琴歸鋼琴在那彈,它們之間甚至完全獨立,但是呢,放到一塊的時候,你就可以聽到一個好像和諧的聲音,這就叫前定和諧。但實際的和諧是什么呢?比如音樂會現(xiàn)場的那個指揮,音樂會需要有指揮,是因為大家都是不斷地反饋的,這個指揮其實做的一個就是來回反饋的事情。就是說,哎,你那個這邊做得快了,那可能就讓你這邊慢一點。這邊怎么樣???現(xiàn)場的氣氛怎么樣?他可能就實時地要調(diào)節(jié)。為什么音樂會里頭的那個指揮非常重要。很多外行可能就理解不了——要指揮干嘛呢?不就大家按著譜子彈嘛,你們按著譜子,每人各人彈各人的譜子就完事兒了。那其實各彈各的呢,確實也能聽,外行聽著可能也不錯,但是有指揮還是沒指揮,對于音樂還是影響還是很大的。指揮扮演關(guān)鍵的角色,他不是前定和諧,而是反饋式的、實時調(diào)整的那個和諧,所以維納理想當(dāng)中的和諧應(yīng)該是有指揮的那樣一個和諧,而且演奏者們互相之間也能夠聽到,我在彈琴的時候,我聽到那個小提琴手,我看到那個指揮家,我甚至我看到觀眾的反應(yīng)。那這些東西都在整個場域之中互相關(guān)聯(lián),互相交互,然后這樣構(gòu)成的和諧,是一個比較理想的和諧。維納反對的就是都給你指定好了,像計劃經(jīng)濟一樣,也很和諧,預(yù)先你干什么他干什么,他干的事和你干的是不用交流,最后也能搭配對吧?最后組裝出來。那個流水線就是前定和諧,是我裝我的,你裝你的,最后匯總到一塊,哎,拼起來了,一輛車出來了,對吧?那和那個八音盒式的和諧是一樣的。所以說這個東西是很生硬的,它不能適應(yīng)變化,它可以永遠生產(chǎn)。你如果永遠生產(chǎn)同一輛車,那沒事,你可以這么做,效率是最高的。但是問題是現(xiàn)實社會中不能永遠生產(chǎn)的一輛車。現(xiàn)實社會是會變化的,那個變化發(fā)生的時候你就適應(yīng)不過來了。所以維納說,你在一個充滿不確定性,不斷變化,不斷發(fā)展的社會當(dāng)中。前定和諧不行,你需要一個“后定和諧”,對吧?就是這樣,不知道是不是解答了你的困惑? 馮光能:就是這給了我很大的啟發(fā),因為這個音樂指揮的作用確實特別重要,就這種反饋式的和諧。不過一個演唱會它有專業(yè)的隊員,有指揮啊,它是一個專業(yè)的團體,而且它是有限的。就是說,比如說你要指揮他也是有難度的,你指揮十個人和指揮100個人、1000個人那是不同的,就是從理論上來說,如果我們社會的每一個團體,就不管是工廠,煉鋼廠,汽車生產(chǎn)廠,它都可以按照這樣的指揮的模式來得到一個在每一個局部,每一個地域,每一個具體的工作場所都可以實現(xiàn)的這樣的一個反饋的和諧。那如果這個范圍又擴大到整個社會呢?就是比如說我們研究的對象不是一個具體的車間,不僅僅是一個具體的工作的場所,而就是這些各種不同的、形形色色的活動的場所,它們之間的和諧您覺得有可能嗎? 胡翌霖:當(dāng)然有可能了?;蛘哒f這也是維納的理想,維納的理想就是這樣。我還是按照維納的思路來講:維納他會研究這個生物有機體,就是像一個人、一個生命,是怎么形成一個整體的?生命形成一個整體,其實就是說它的各個部分,就是它既相互獨立又互相結(jié)成一體,有一些東西就是外來的,甚至是像線粒體之類的,它是外來地加入進來,有一些東西它是分化的,也有專業(yè),就是維納不會完全反對這個專業(yè)化。但是專業(yè)分工之后,你要有一個聯(lián)系機制。所以那個維納的控制論它有很重要的一塊,我今天沒有講,就是神經(jīng)科學(xué),對吧,它很大一塊是這個,神經(jīng)做的事情就是在你的人體里頭做扮演一個串聯(lián)的角色,就是把各司其職的不同的部分,又能夠聯(lián)系起來。讓各部分互相溝通,能夠去實時反饋。比如說你的手疼了的時候,你可能你的腳要做反應(yīng),對吧?你要往后撤啊。你的腳疼的時候,可能你的眼睛要有反應(yīng),怎么回事?那就是一種協(xié)同的、靠神經(jīng)的反饋機制來做的這種協(xié)同。所以他會認為你一個社會如果要健全的話,它其實也需要某種神經(jīng)系統(tǒng)。這個神經(jīng)系統(tǒng)呢,不是完全一盤散沙的,就是它是有中樞的,對吧?人是有大腦,有中樞,但他又不是完全前定的,就是完全那個刻板自上而下的,它是要不斷的交互,不斷的聯(lián)系。這是維納的理想,當(dāng)然具體怎么設(shè)計這個社會,它不是維納的事情,維納只能在理想方面給提出一些大的方針而已。 03 維納的獨特性 現(xiàn)場嘉賓:剛剛就是也談到了社會,談到了打破進步的神話,批判了美國專制,強調(diào)不確定性,然后包括就是前面其實更多的談到是人這個主題,機器、確定性、穩(wěn)定性,然后包括剛剛談到這個音樂的合奏。所以我可以這么理解嗎,這種所謂的機器觀,或者說維納的控制論,它其實是一種哲學(xué)意義上有關(guān)人的一種行為的認識論和方法? 胡翌霖:嗯,沒有,控制論包含哲學(xué)意義上的認識論和方法論,但不僅是哲學(xué)。你去看《控制論》那本書,它主要是一本數(shù)學(xué)書,對吧?它是一個工程書、數(shù)學(xué)書和科學(xué)書。只是我今天講的主要是在哲學(xué)上講而已。其實維納的一些具體的思想,你倒也不能說是全新的,包括他自己也在引用別人,他的最大的貢獻還是他是一種匯總的集大成者。就是他把生物學(xué)、神經(jīng)科學(xué)、社會學(xué)、哲學(xué)……把這些領(lǐng)域的思想?yún)R聚到一起。他這一生,有點類似于牛頓的那個地位(集大成者),具體看,其實很多包括他的哲學(xué)其實也不新,其實其他人也有,但是他能夠如此系統(tǒng)、整體地把它們梳理到一塊,這個是維納的特長。 04 短期套現(xiàn)問題與確保長期責(zé)任的機制 現(xiàn)場嘉賓:是這樣,因為我經(jīng)常跟技術(shù)專業(yè)的人一起合作,就是說,如果按照老師說的這個,機器大家一起都能學(xué)習(xí)。有沒有相關(guān)的研究這個有關(guān)極限的?比如說,當(dāng)機器和人學(xué)習(xí)到了一種極限,可能都會產(chǎn)生一些惡性的,或者是一些無法控制的事情,機器無法控制,人也無法控制的事情。這樣的話,就是維納他有沒有相關(guān)的暢想,說我們到了這個極限,大概會出現(xiàn)種種什么情況?又如何體現(xiàn)去規(guī)避? 胡翌霖:這個問題有點大吧?嗯……你可以先說說你的想法。 現(xiàn)場嘉賓:我會覺得其實,有時候人們過于追求效率了。效率越來越高后,對人的社會也會造成影響,比如機器做得效率過高,那有一些人以前做的工作是完全就沒有用,或者一些人的這個社會上的一些工作和身份可能也沒有用,比如說整個工作的結(jié)構(gòu)也發(fā)生變化,有些崗位也就沒有了,產(chǎn)生就業(yè)的這種問題。如果我們一直在追求無限的效率提升,那可能現(xiàn)在所有的勞動力也會過剩,那接下來這個社會可能會怎樣呢?我,我們就會比較擔(dān)心會出現(xiàn)一些問題。 胡翌霖:對,維納他一直就是在說這個就業(yè)問題,我之前講的時候沒讀這段,但是我應(yīng)該引了,就是維納說這個新的第二次工業(yè)革命,它會導(dǎo)致蕭條,對吧?會導(dǎo)致那個失業(yè)問題。(翻PPT) “自動機的采用會帶來失業(yè)現(xiàn)象,它同目前的工業(yè)蕭條甚至三十年代的危機相較,后者只不過是兒戲而已。這種危機會給許多工業(yè)部門帶來危害,甚至也可能給那些利用新潛力的工業(yè)部門帶來危害。另一方面,我們的工業(yè)傳統(tǒng)決不妨礙工業(yè)家去攫取迅速取得而又穩(wěn)當(dāng)可靠的利潤,并且在他個人行將破產(chǎn)之前溜之大吉?!?/p> 這里說的危害,在維納看來,關(guān)鍵的一個問題就是說以買賣為核心工業(yè)傳統(tǒng)——只注重錢,只注重效率,效率本質(zhì)上也是收益率、資本的增值。問題在于,倒不是說你賺錢本身不行,而是說那個資本啊,它是缺乏反饋的。 你的問題很好,這一段我前面講快了,沒細講。所謂工業(yè)傳統(tǒng)或者說美國的那個以買賣為中心的那個傳統(tǒng),它“決不妨礙工業(yè)家去攫取迅速取得而又穩(wěn)當(dāng)可靠的利潤,并且在他個人行將破產(chǎn)之前溜之大吉”。什么意思呢?就是說技術(shù)有不確定性,這種不確定性經(jīng)常體現(xiàn)在:短期之內(nèi)這個技術(shù)能帶來很大的利益,但是從長期上看,它對社會帶來巨大的危害,包括對你前面講的包括失業(yè)問題,也包括環(huán)境污染,也包括生態(tài)危機、戰(zhàn)爭危機等等。這些東西都是長期的,都得在長期才看到很多危害。但問題是按美國傳統(tǒng),資本家在短期獲利的時候,他就套現(xiàn)了,他就找下一個項目去了,他就拍拍屁股走了:哎,我投資的這個技術(shù)改變世界對吧,很厲害,我富了,我上市了,我套現(xiàn)了。上市了之后,股民就去承擔(dān)那個風(fēng)險去了,對吧?然后他自己可能走人了啊,到長期之后,可能甚至那個人都死了,對吧?那些早期的獲利者都已經(jīng)壽終正寢了。過了50年之后,這些危機出來了,危害出來了,失業(yè)問題也好,這個環(huán)境污染也好,一個個爆發(fā)了,你再去找誰來負責(zé)?。繘]有人來負責(zé)的,真正該負責(zé)的人呢,盆滿缽滿賺錢了跑了,那個現(xiàn)在的人呢,其實也是倒霉者。股民一邊買著那家公司的股票,一邊受著那個公司的欺壓,對吧,那個員工一邊受著那個剝削,一邊也是收著他的錢,你讓那個員工反對啊,你讓股民和員工去反對那個公司。怎么可能呢?他們左右都是受害對吧。 所以這是維納說你這個制度就是有問題,這個資本家輕易能夠脫身而出的一個機制是有問題的。所以最后還是回到人得負責(zé),不光是對一個東西負一次責(zé)啊,社會還得有個長期的負責(zé)機制。你即便說等危害出來了早期的人都沒了,但是你可以用社會組織、社會制度的方式,要一直有人盯著,隨時有人能站出來為技術(shù)的后果負責(zé)。這樣的一個機制是更重要的。 05 心靈認知問題 吳璟薇:有批評認為,其實維納還會有一些比較機械式的論斷,他可能涉及到了感知,但沒有涉及到心靈認知的這樣更深層次的主題。 胡翌霖:維納是有一些討論的,就說人的那個本質(zhì)是什么?他說,人的本質(zhì)某種意義上也是信息,不過是信息的形式,而不是信息的物質(zhì)。就是說,所謂的自我意識是什么?就是維納是隱約是提到了。對于這個問題,維納認為,關(guān)鍵并不在于構(gòu)想某種確定的端點,不是說某種確定的端點附著于你的肉體之上,或者附著你的大腦深處,這樣一個端點決定了你的自我意識。你的自我意識是在交互當(dāng)中形成的。你沒有交互,是沒有自我意識的,就是那種還是整個的這種在反饋機制當(dāng)中,你涌現(xiàn)出來的那個自我意識。所以在這個意義上,維納說人的意識活動本質(zhì)上也是數(shù)字化的。這一點當(dāng)然吳老師批評也是合理的,就是說他還是相對機械化的,就覺得人本質(zhì)上也是能復(fù)制的,只是人和機器的區(qū)別在于,人復(fù)制很難,現(xiàn)在實現(xiàn)不了,但是原則上它其實原理上還是一致的,但是人無非就是數(shù)字。 不過也要強調(diào)一點,維納可以講人本質(zhì)上是數(shù)據(jù),但他和其他一般的數(shù)據(jù)主義還是不太一樣,因為他會強調(diào)人是那個數(shù)據(jù)“流”,就是他一定要強調(diào)動態(tài)、流動、變化,是這樣一個東西。你一個靜態(tài)的數(shù)據(jù)不是人,重要的是那個流動過程。就是說那個流動過程全是可以數(shù)據(jù)化的,這個沒有問題,但問題就是說這個流動過程是動態(tài)的,人不是一個靜態(tài)的那樣一個東西。所以他比較強調(diào)那個時間的不可逆性啊,強調(diào)這些東西啊,那所以人的自我意識可能也是在和外界的交互之中蘊含的,或者是涌現(xiàn)出來的自我意識,而不是一種確定的,就定死在那,可以被一段程序?qū)懲甑倪@樣一個東西。 06 責(zé)任主體問題 吳璟薇:我提到機器是不是有主體性的問題,其實我剛剛也想到這個就是誰在負責(zé),其實維納把這個問題拋出來,那最后結(jié)語就是說人要對這個事情負責(zé),但是其實他并沒有進一步去詳細去說明,當(dāng)技術(shù)發(fā)展到一定的程度之后,人怎么去負責(zé)的問題,所以他經(jīng)常談到負責(zé),似乎也去強調(diào)了一個非常人類中心主義,或者以人為主體的這樣一個話題,機器還是在人的這種控制、影響或者設(shè)計之下的,那么最后要負責(zé)的主體還是人,其實機器是沒有主體性的。他似乎潛設(shè)了這樣一個就是以人為主體性的這樣的一個制度。 胡翌霖:要注意一點,他最后很強調(diào)一點,就是說所謂人要負責(zé),一定不是說少數(shù)人負責(zé)。比如說我們把事情都委托給少數(shù)的一撮人,讓他們負責(zé),這是不行的。他強調(diào)的就是說。人不能把責(zé)任隨便推,不能委托給機器,同樣你也不能把責(zé)任隨便推給他人。意思就是不光要人負責(zé),而且是要人人負責(zé)!每個人作為個人,都要為自己負責(zé)。所以他反對的其實是一個非?;A(chǔ)的一個層面。就比如說我們現(xiàn)在我們這個一個工廠制度啊,這個專業(yè)制度啊,現(xiàn)在工廠流水線上的一個工人,他是不需要對那個產(chǎn)品負責(zé)的。對吧?因為他只是說我就是拿錢,我干干活嘛,出賣勞動力。 維納認為這也是不對的,那個工人本身也應(yīng)該是一個人,你不能把責(zé)任隨便委托給他人。所以他的這樣一個批判,它其實不僅僅是針對說人把責(zé)任委托給機器這樣一件事情,而且就是針對人讓渡掉自己的責(zé)任這件事情。這樣一點倒是和阿倫特講的“平庸之惡”之類的觀念是能夠呼應(yīng)的,就是說,我只是一個齒輪。比如阿倫特批評的那個艾希曼,艾希曼就是那個納粹戰(zhàn)犯嘛,他在耶路撒冷受審判的時候,他就說,唉,我只是齒輪啊,這個傳動裝置當(dāng)中的一個齒輪,這些錯又不是我干的,命令是上級下,執(zhí)行是下級干的,我就是一個傳動裝置而已。是吧?那這樣的話其實有沒有人負責(zé)呢?整個納粹罪行都由希特勒負責(zé)了?但是其實,每一個人都要負責(zé),甚至每一個普通人,每一個參與到這個社會機器里頭的人都應(yīng)該要負起責(zé)任。而這樣的一件事情其實是很難做到的,但是維納提出了一個比較理想的觀點。 吳璟薇:其實剛剛也講到一點,我其實還現(xiàn)在還是比較疑惑,因為維納其實一直是反對這種流水線,這種有明確的前置的這種生產(chǎn),可是當(dāng)下至少我們的生產(chǎn)還在這樣一個流水線的體系之下。在維納的設(shè)想之下,其實最好的狀態(tài)應(yīng)該是更加多元的機制,更加人性的這樣的一種社會機制或者是生產(chǎn)機制,但是當(dāng)下我們其實還在一個機械式的狀態(tài)里面,就回過頭去說誰來負責(zé),就像您剛剛說的那個,我只是操作流水線上的一個負責(zé)執(zhí)行的人而已,那么這時候就面臨著他究竟應(yīng)該把它看作是一個人還是一個機器的問題。 胡翌霖:對維納來說,問題不是是否把人看成機器,而是把人看成元件、螺絲釘、齒輪和機器是不一樣的。維納認為,你可以把人看成機器,但你不能把人看成齒輪,你不能把人看成元件,因為元件本身是不學(xué)習(xí)的,是不負責(zé)的,是吧?你可以把人看成機器,當(dāng)然人是一種獨特的機器,這個獨特性在于它能負責(zé),他從一般的能力和那個社會角色上來說,他可以看成機器。 然后呢,維納的那個設(shè)想,他可能是更加超前的。我現(xiàn)在比較推崇web3.0,以及相關(guān)的一些理念,我覺得這些理念是可能是更合乎于信息時代的。為什么現(xiàn)在那個流水線式的生產(chǎn)還是主流?就是因為現(xiàn)在的那個工業(yè)產(chǎn)品還是主流,因為數(shù)字產(chǎn)品仍然沒有壓倒工業(yè)產(chǎn)品,成為這個世界主要的經(jīng)濟、政治、權(quán)力的主要的力量。 但是這種情況正在發(fā)生變化。就比如說我們現(xiàn)在新一代的年輕人,其實也包括我們這代人,可能我們更希望在數(shù)字世界當(dāng)中享受,而不是在現(xiàn)實生活當(dāng)中享受。比如現(xiàn)實生活當(dāng)中你讓我出門找很多的吃的、喝的,我都不如說我宅家里多打兩盤游戲。當(dāng)我們這個觀念發(fā)生變化的時候,那么逐漸我們就有可能突破那個工業(yè)化生產(chǎn)為主導(dǎo)的這樣一個社會組織方式,進入到一個信息時代的生產(chǎn)方式,更適應(yīng)于信息時代的生產(chǎn)方式,可能就像維納所預(yù)言的那樣,這是一個共享的,就是一項開源的創(chuàng)作,就像現(xiàn)在,比如說眾包眾創(chuàng)等等,可能這些東西是更適應(yīng)于信息時代的生產(chǎn)模式的。 之所以我們現(xiàn)在還沒有切換到這個新的模式,一方面是因為,整個的這個技術(shù)環(huán)境和那個生活狀態(tài)還沒有完全切過來,另一方面當(dāng)然也是因為我們可能還是需要有努力,需要有所作為,要有一些人去推動這些事情。所以我們現(xiàn)在去重讀維納,重新發(fā)揚維納可能也對我們現(xiàn)在的,以及未來的這個社會的建設(shè),還是有積極的作用。 線上問答 01 機器控制人需要有意識嗎? 胡翌霖:我看到很多問題,那有一些問題是共性的:很多人都還是在糾結(jié),就是說機器能不能像人一樣啊,或者機器能不能主宰人,能夠覺醒。有人也說機器啊,覺醒了之后沒事,你把電源拔了就行啊,諸如此類的說法。 但是這些說法其實恰恰就是說維納所要超越的。我覺得維納是超越于這些簡單的思路的,就是說你先不用考慮機器是不是覺醒。就現(xiàn)在,比如說,外賣小哥受到那個系統(tǒng)的壓榨啊,那你覺得美團的系統(tǒng)很糟糕,或者說你作為普通人,受到那個信息繭房的控制,你覺得那個抖音的算法很糟糕……我們不討論它究竟是糟糕還是好的問題啊,有些問題可能見仁見智,我們就是假設(shè)說:抖音的算法是糟糕的,或者說這個美團的算法是糟糕的,你能拔電源嗎?誰去拔?它沒有覺醒啊,它就是一個算法,就是一個這個死的機器,沒有感情的,沒有感情的機器,人應(yīng)該能夠控制他呀,請問誰控制它呢? 不是美團的老總在控制它嗎?并不是那個真正受到它影響的人去控制它。你說哎呀?jīng)]事,機器出事了,可以去拔電源,誰去拔?那現(xiàn)在有些東西已經(jīng)失控了,有些東西已經(jīng)出事了,你去拔呀,誰去拔呢?你拔不了,為什么拔不了?因為這整個的社會的機制在保護那些機器啊,那些機器不是你隨便能拔的。 當(dāng)然你說你隨便就可以拔的話,那這樣的社會也亂套了——隨便誰都能拔隨便一臺機器電源,比如一個好好運轉(zhuǎn)的一個機器,比如我們現(xiàn)在在上課呢,你就嫌我這個課不好,你就來把電源拔了。那也不是好事。是吧?這不是那么簡單的事情。我們不需要一定要到人工智能覺醒之后,我們才考慮誰來拔電源的問題,現(xiàn)在你就不能拔了呀!現(xiàn)在你就拔不了電源了呀,就是這個問題,現(xiàn)在那些機器就已經(jīng)在主宰人類呀!現(xiàn)在這些機器就已經(jīng)在取代人的工作,就已經(jīng)造成失業(yè)問題了,不需要覺醒啊!也許覺醒了反而好了,覺醒了我還能跟它對話、打打商量啊。現(xiàn)在就是沒有覺醒,就已經(jīng)出這些問題了呀。所以維納也說你不用考慮機器有沒有感情這樣一件事情,就可以考慮機器是不是奴隸,機器有沒有把人變成奴隸這些事情。 這些威脅都已經(jīng)出現(xiàn)了,而且要去面對這些威脅的核心,并不是拔電源或者怎么樣,而是說要有一個健全的反饋機制,一個變更的社會制度。你哪怕是要拔電源,也是你要把社會制度變化了以后,讓一個適合拔電源的人去拔電源,讓不適合拔電源的人,不要隨便拔電源,這樣一個社會制度有沒有建立起來呢?這才是一個核心重要的問題。 02 人向機器學(xué)習(xí)? 胡翌霖:機器在某些方面超越人,然后之后可能人要向機器學(xué)習(xí),這個當(dāng)然是這樣,就是在維納的范疇里,你其實把他們都當(dāng)成人或者都當(dāng)成機器就行了。人也需要向其他人學(xué)習(xí)嘛,人也需要向機器學(xué)習(xí),這些事情在維納看來可能沒有什么區(qū)別。 但是這個人的負責(zé)是一個大問題,就是你的能力不如機器不代表說,你就能夠去讓機器負責(zé)。所謂的能力越大,責(zé)任越大,這是對于能負責(zé)的人來而言的。對于機器來說,它本來就沒有辦法負責(zé),所以必須還是需要以人為主體去負責(zé)這樣一個制度,當(dāng)然我只能說是一個方針或者理想,我沒有說清,維納也沒有說清。 03 外賣系統(tǒng)問題 胡翌霖:“外賣系統(tǒng)的反饋機制反而壓榨了這種壓榨了騎手的勞動,這種反饋對于外賣公司而言顯然是好的,但造成了對騎手的傷害。外賣系統(tǒng)的這種反饋哈是維納提倡的反饋嗎?反饋到底如何能夠促進民主和解放?”——對,這是一個好問題,就是說外賣騎手的這個系統(tǒng)。指揮外賣騎手的那個系統(tǒng),確實是一種反饋機制,但是這種反饋機制呢,它沒有把人當(dāng)人嘛,它沒有把那個外賣騎手當(dāng)作人來看待,所以他接受的反饋其實根本就不是外賣騎手真實的意愿,或者是其他人真實的意愿,而是就單純的一個效率上的反饋,就是這個運行數(shù)據(jù)上的反饋。 吳璟薇:有可能,其實系統(tǒng)本身它就已經(jīng)關(guān)閉了騎手的反饋,系統(tǒng)主要是機器反饋給機器,它不需要人反饋給機器。 胡翌霖:對,而且就是說,他的反饋其實某種意義上是相對簡單化的,就是說它反饋的其實只是數(shù)據(jù)。維納其實講你如果反饋過來只是數(shù)據(jù)的話,其實是比較簡單的,它不是學(xué)習(xí)式的,或者控制論式的反饋,控制論式的反饋回來是需要改變那個模式的。在很多系統(tǒng)里頭,其實它那個模式本身沒有被改變,它改變的只是一些數(shù)據(jù),只是說這個派單時間是25分鐘還是24分鐘。 ? 結(jié)束語 ? 吳璟薇:非常感謝胡老師,其實在這樣的一個討論中,我們其實也可以看到,在今天的社會,對那樣一個早先的預(yù)言式的作品的這樣一個討論,是非常的有先進性和預(yù)見性。這也就代表著為什么今天控制論會在這樣的一個信息社會或者是信息前社會,還沒有完全進入到一個信息化生產(chǎn)時代,有著它無比的魅力。那當(dāng)然包括我們之前閱讀的相關(guān)的一些文獻,包括《遞歸與偶然》,那后面還有一本書,就是許煜老師,那本《藝術(shù)與宇宙技術(shù)》,也在回歸說這個控制論之下,如何去理解人或者是生機論的這樣的一個觀點。今天除此之外,還有非常多的關(guān)于控制論的討論。那今天我們可以說是一個在信息時代充分地去思考自我的主體性,人的主體形成和技術(shù)關(guān)系的主體性的這樣一個時代,相信維納的控制論作為一個具有前沿式、前瞻性的理論,能夠?qū)ξ覀兾磥淼乃伎己脱芯坑懈鄦l(fā),我們也再次感謝胡老師的精彩解讀,我們謝謝胡老師,謝謝大家! 胡翌霖:我再說明一下,有些問題不回答是可能也是因為這個問題問得比較難啊,像在做考題一樣,我的能力也有限,主要是本來就是來班門弄斧的嘛,這個所以也沒有辦法給每個問題都很好的回答。謝謝大家的支持!祝大家五一愉快! 吳璟薇:也非常感謝胡老師帶來了我們這樣一個非常重要的這個控制論的講座。胡老師一直是我們的勞模,因為兩年前就已經(jīng)在五一節(jié)的時候,主持了我們線上的那個神機妙算的在線直播展覽,大家可以再去看一下和今天講座相關(guān)的萊布尼茨的計算機,巴貝奇計算機是什么樣的原理。鏈接也放到了我們今天的騰訊會議的聊天框里,大家可以再繼續(xù)去關(guān)注一下,包括今天的所有的錄屏,稍后我們會轉(zhuǎn)到B站啊,我非常再次感謝胡老師,也謝謝大家的參與!大家節(jié)日快樂! |
|