段偉文（中國社會(huì)科學(xué)院哲學(xué)所研究員）

所謂人機(jī)伴生，要強(qiáng)調(diào)的是在人工智能和機(jī)器人的發(fā)展進(jìn)程中，一直通過人與機(jī)器的協(xié)同而演化。如果認(rèn)識(shí)不到這一點(diǎn)，就很容易忽視人類智能與機(jī)器智能的現(xiàn)實(shí)關(guān)系，脫離由兩者構(gòu)成的智能生態(tài)談?wù)撈纥c(diǎn)和強(qiáng)人工智能。這就涉及哲學(xué)研究，不僅僅是提供答案或者解決方案，還要對問題本身進(jìn)行分析和重構(gòu)，讓人們能夠從更好地體現(xiàn)實(shí)際的視角看到問題的本質(zhì)。

每個(gè)人都想成為解決問題的高手，各個(gè)學(xué)科提供了各自的視角，而哲學(xué)總在試圖告訴人們，還可以用另外一種方式來面對問題。這就是哲學(xué)的思考，不斷地變換角度，使得從其他角度不顯見的現(xiàn)實(shí)得以呈現(xiàn)。

首先，機(jī)器人、人工智能不僅是技術(shù)創(chuàng)新，其產(chǎn)生與發(fā)展也伴隨著文化創(chuàng)新。尤其是機(jī)器人與機(jī)器人文化，一直呈現(xiàn)出共生互動(dòng)關(guān)系。機(jī)器人起初是科幻作品中想象的機(jī)器，其中就已經(jīng)投射了對人的價(jià)值以及人造生命的風(fēng)險(xiǎn)的反思。

1920年，捷克作家恰佩克（Karel ?apek，1890-1938）首先在科幻劇《羅素姆萬能機(jī)器人》（Rossum’s Universal Robots（R.U.R））中將幻想的人造人稱為機(jī)器人（Roboti/Robots），意思是勞工或苦力。劇中的機(jī)器人起初似乎樂意為人類工作，后來卻反叛并導(dǎo)致人類滅絕。在一戰(zhàn)由機(jī)械和化學(xué)武器造成的殺戮帶來震驚的余緒中，恰佩克希望借此抗議現(xiàn)代化所帶來的去人性化和對人的生命價(jià)值的漠視。此外，他也受到瑪麗·雪萊的長篇小說《弗蘭肯斯坦》的影響，表達(dá)了對人類創(chuàng)造生命的狂妄之舉可能造成的惡果的疑慮。

從某種程度上講，這種懼怕技術(shù)和機(jī)器人的技術(shù)文化與機(jī)器人文化決定了西方機(jī)器人文化的基調(diào)，也成為機(jī)器人文化反思與創(chuàng)新的出發(fā)點(diǎn)。此后，比較有代表性的文化創(chuàng)新者有阿西莫夫的機(jī)器人定律和日本的機(jī)器人文化。20世紀(jì)30—40年代，阿西莫夫著手創(chuàng)作科幻小說時(shí)，面對各種機(jī)器人故事中過于人性化的“威脅人類的機(jī)器人”和“引人同情的機(jī)器人”，他看到了另一種可能——由工程師制造的內(nèi)設(shè)安全機(jī)制并用于執(zhí)行特定工作的機(jī)器人產(chǎn)品，它們既不會(huì)威脅人類，亦無從引人同情。

為此，他在《環(huán)舞》等小說中提出了機(jī)器人三定律，為理想的機(jī)器人設(shè)定了一套假想的可通過機(jī)器執(zhí)行的道德體系，讓人們看到機(jī)器人是可控的。這就從文化層面大大消除了人們對機(jī)器人的恐懼，大大鼓舞了早期機(jī)器人的發(fā)展。正是通過阿西莫夫的康德式的機(jī)器人倫理創(chuàng)構(gòu)，形成了一種可以平衡 “機(jī)器人畏懼”的正面的機(jī)器人文化。

再看對機(jī)器人充滿信任和好感的日本機(jī)器人文化，既沿襲了其神道教與喜愛“機(jī)關(guān)人偶”的傳統(tǒng)，也體現(xiàn)了日本發(fā)展有別于西方的機(jī)器人文化的意圖。眾所周知，20世紀(jì)70年代以來，日本的機(jī)器人文化可謂獨(dú)樹一幟。而早在20世紀(jì)20年代，《羅素姆萬能機(jī)器人》日文版問世后，旋即在日本引起廣泛關(guān)注。

當(dāng)時(shí)有一位名叫西村真琴（1883—1956）的生物學(xué)家和哲學(xué)家不滿西方作品中作為勞動(dòng)者的實(shí)用機(jī)器人形象，認(rèn)為人不應(yīng)與人造人對立，主張作為自然之子的人類應(yīng)該將機(jī)器人視如己出，與其攜手共進(jìn)以實(shí)現(xiàn)萬物平等、和諧共生。

基于這一理念，他于1928年制造了一種他認(rèn)為理想的機(jī)器人“學(xué)天則”（學(xué)習(xí)自然法則之意），后在京都、廣島、東京等地巡回展出?！皩W(xué)天則”是一個(gè)高、寬均3米多的機(jī)器人，它超越了西洋機(jī)器人強(qiáng)迫勞動(dòng)的狀態(tài)，而被設(shè)定為與人類平等的“類人”。當(dāng)然，西村倡導(dǎo)這一東洋機(jī)器人文化的初衷，與當(dāng)時(shí)日本想在文化上與西方對立不無關(guān)聯(lián)，其中夾雜著軍國主義和民族主義。 

由機(jī)器人文化及其創(chuàng)新可見，科技和人文之間存在著一種內(nèi)生關(guān)系：科學(xué)追求的是有意義的真理，技術(shù)旨在解決有價(jià)值的問題，知識(shí)的生產(chǎn)和機(jī)器的部署，都是由人的信念、欲望和意圖驅(qū)動(dòng)的，是為人服務(wù)的。而科技時(shí)代的人文問題的關(guān)鍵恰在于其中呈現(xiàn)出的能動(dòng)性：科技追尋的是誰的意義和價(jià)值，又受誰的信念、欲望和意圖驅(qū)使，具體為誰服務(wù)？比方說，平臺(tái)根據(jù)消費(fèi)者的數(shù)據(jù)畫像進(jìn)行各種推送，但這符合消費(fèi)者的意愿嗎？如果這會(huì)引導(dǎo)消費(fèi)者的行為，其邊界何在？

談到人工智能或機(jī)器人，往往會(huì)將其作為一種獨(dú)立存在的主體來看待，但實(shí)際上它們目前還只是數(shù)據(jù)驅(qū)動(dòng)的智能體（Agents，又稱智能代理等）。它自身有一套規(guī)則，然后通過環(huán)境數(shù)據(jù)或其他輸入數(shù)據(jù)的獲取和處理進(jìn)行計(jì)算和學(xué)習(xí)，獲得認(rèn)知結(jié)果并做出反應(yīng)。我們跟智能機(jī)器交互的時(shí)候，要認(rèn)識(shí)到它們是按照機(jī)器的方式來思考的，只能夠讀懂?dāng)?shù)據(jù)。如在進(jìn)行人臉識(shí)別時(shí)，機(jī)器識(shí)別的是視頻像素之類的數(shù)據(jù)。而人自身在此過程中也成為賽博物理空間（CPS）中和網(wǎng)絡(luò)數(shù)字平臺(tái)上的可識(shí)別和交互的智能體。 

目前，這些數(shù)據(jù)驅(qū)動(dòng)的智能體并不具有意識(shí)、自我意識(shí)和自由意志，更談不上情感、情緒和同理心，它們在道德行為中遠(yuǎn)不像人那樣是完全的道德主體，不可能單獨(dú)為其行為后果承擔(dān)責(zé)任。因此，針對自動(dòng)駕駛、智能音箱和各種機(jī)器人應(yīng)用中的倫理問題，不能簡單地說這是程序、算法或自動(dòng)機(jī)器的錯(cuò)，應(yīng)由它們負(fù)責(zé)，而只能在人和智能機(jī)器構(gòu)成的行動(dòng)者網(wǎng)絡(luò)中找到背后的設(shè)計(jì)者、制造者、部署者和操作者，向相關(guān)人類主體和機(jī)構(gòu)追責(zé)。

更進(jìn)一步來講，固然可以從拉圖爾的行動(dòng)者網(wǎng)絡(luò)理論出發(fā)，探討人類行動(dòng)者與作為非人類行動(dòng)者的智能機(jī)器的建構(gòu)與形塑，但也必須看到，在智能機(jī)器的使用中人類智能與機(jī)器智能的協(xié)同。后者恰恰是容易被忽視的智能機(jī)器的具體性——這種忽視使得智能機(jī)器與人的關(guān)系被簡化為抽象的人工物與人的關(guān)系，而人工智能與機(jī)器人倫理的探討不能脫離人與智能機(jī)器在具體場景中的關(guān)聯(lián)。 

一方面，要對人類與智能機(jī)器的交互環(huán)境即網(wǎng)絡(luò)數(shù)字平臺(tái)的運(yùn)行模式有所認(rèn)識(shí)。

在現(xiàn)實(shí)世界中有大量的機(jī)器人，包括陪伴機(jī)器人、聊天機(jī)器人、戰(zhàn)爭機(jī)器人、賽博格（如外骨骼裝置）等，人和這些數(shù)據(jù)驅(qū)動(dòng)的智能體越來越多地被聚合在網(wǎng)絡(luò)數(shù)字平臺(tái)上。因此，談到數(shù)字技術(shù)和人工智能帶來的隱私泄露，或Face book會(huì)不會(huì)操縱選舉，不應(yīng)該只是假想個(gè)人通信內(nèi)容會(huì)不會(huì)被偷看，平臺(tái)如何有選擇地發(fā)布信息，而應(yīng)關(guān)注元數(shù)據(jù)如何被分析、社交媒體會(huì)如何短時(shí)間和大面積地影響人的情緒等具體問題。例如，在平臺(tái)導(dǎo)流的情況 下，一兩分鐘的視頻評(píng)論，會(huì)產(chǎn)生幾百萬的流量，這種影響力及其反噬的力量無疑不容小覷。 

另一方面，應(yīng)看到當(dāng)前很多機(jī)器智能的應(yīng)用是通過人類智能的眾包與之協(xié)同才得以實(shí)現(xiàn)的，這就是人們常說的“有多少人工，就有多少智能”。

在各種人工智能的應(yīng)用場景中，包括網(wǎng)約車、外賣平臺(tái)、智能音箱、古文字識(shí)別、機(jī)器翻譯等，都伴隨著不斷學(xué)習(xí)人類的群體智能而提升機(jī)器智能的過程，這實(shí)質(zhì)上是人機(jī)伴生的社會(huì)系統(tǒng)在調(diào)試中運(yùn)行的過程。比方說，上下班高峰時(shí)候，為何滴滴司機(jī)要接市中心擁堵路段的訂單？因?yàn)槟菢铀湍軌虻玫礁嗟莫?jiǎng)勵(lì)分?jǐn)?shù)?，F(xiàn)在的導(dǎo)航軟件為什么越來越好用？因?yàn)榇蠹叶荚谟谩?/p>

但同時(shí)不難看到，導(dǎo)航的使用改變了人們出行認(rèn)路的方式，即從以往的人類經(jīng)驗(yàn)學(xué)習(xí)模式轉(zhuǎn)向?qū)?dǎo)航指令的接受與糾錯(cuò)模式，從而通過反饋和遞歸實(shí)現(xiàn)了駕駛等行進(jìn)活動(dòng)的人機(jī)協(xié)同。如果不加反省地依賴導(dǎo)航，人實(shí)際上會(huì)削弱甚至喪失通過直接經(jīng)驗(yàn)學(xué)習(xí)的能力，這是不是科技時(shí)代人們必須付出的代價(jià)？這個(gè)問題涉及每個(gè)人，要從科技與人類未來的角度加以審視，從而促進(jìn)廣泛深入的社會(huì)討論。 

當(dāng)前，認(rèn)識(shí)到人工智能通過人機(jī)協(xié)同而進(jìn)化具有重要的現(xiàn)實(shí)意義：不能只看到機(jī)器智能如何先進(jìn)和加速迭代，而應(yīng)該看到人類智能在整體上依然高于機(jī)器智能，看到人類智能在此過程中一直發(fā)揮著不可替代的隱形作用。

近年來，學(xué)界對人工智能倫理展開了廣泛的討論，從算法歧視、自動(dòng)駕駛到負(fù)責(zé)任的人工智能、可解釋的人工智能和可信的人工智能，等等。其中，哲學(xué)界討論得最熱的問題包括：人工智能和機(jī)器人能不能成為道德主體？能否通過倫理設(shè)計(jì)使人工智能和機(jī)器人具有某種機(jī)器道德或算法倫理，甚至成為某種道德機(jī)器？但對于這些哲學(xué)與倫理學(xué)討論的價(jià)值，我保持一定的懷疑態(tài)度。比方說，所謂“電車難題”及其自動(dòng)駕駛版，會(huì)不會(huì)始終只是一種哲學(xué)游戲，除了發(fā)表論文，對具體的自動(dòng)駕駛到底有多大的實(shí)際意義？ 

機(jī)器人能不能成為道德主體，這涉及機(jī)器人的權(quán)利、責(zé)任等道德地位。對這一問題，哲學(xué)與倫理學(xué)一般會(huì)訴諸本質(zhì)論的討論，即機(jī)器人所具備的本質(zhì)是否使其應(yīng)該擁有道德地位。有人認(rèn)為，機(jī)器人只是工具，就像汽車和電視機(jī)一樣，談不上什么本質(zhì)，也不具備道德地位。但也有人指出，它不僅僅是工具，還可能具有與人類類似的主體性乃至道德地位。但要在哲學(xué)和倫理學(xué)上對本質(zhì)或?qū)嵸|(zhì)進(jìn)行辨析和論述存在諸多困難。

一方面，相關(guān)論述會(huì)運(yùn)用譜系學(xué)的方法展開探討。如談到權(quán)利，就會(huì)追溯人的權(quán)利的發(fā)展過程。比方說，奧德修斯從特洛伊戰(zhàn)爭中歸來后處死了十幾個(gè)女奴，那是因?yàn)榕`在那個(gè)時(shí)候不是具備道德和法律權(quán)利的主體。接著，會(huì)運(yùn)用與論證動(dòng)物權(quán)利、大自然權(quán)利類似的思路，類推出當(dāng)人工智能與機(jī)器人的智能感知達(dá)到某種程度時(shí)，也將被賦予權(quán)利、成為道德主體，云云。顯然，這種類推的論證模式的說服力非常有限。

另一方面，相關(guān)論述會(huì)直接從機(jī)器智能的本質(zhì)探討賦予其道德地位的可能。比方說，若能制造出某種能夠感受到痛苦的“最大似人自動(dòng)機(jī)”（MHA），就應(yīng)該視其為道德主體。但這種討論往往會(huì)陷入尷尬境地：如果能夠做出這種機(jī)器人，這種建造本身是不是就違背了被造機(jī)器人的知情同意權(quán)。概言之，哲學(xué)和倫理學(xué)層面的這些本質(zhì)論的探討，應(yīng)該防止陷入自說自話與自我詰難的話語游戲循環(huán)。 

為了克服工具論、本質(zhì)論等實(shí)體論論述的局限，應(yīng)該面向泛智能體社會(huì)的現(xiàn)實(shí)，從實(shí)際的關(guān)系論角度思考人與機(jī)器的道德關(guān)系。以中國科技大學(xué)機(jī)器人專家陳小平帶領(lǐng)的團(tuán)隊(duì)制作的佳佳機(jī)器人為例，盡管很多人認(rèn)為目前做不出具有內(nèi)在情感認(rèn)知和真實(shí)情感交互能力的機(jī)器人，但在陳小平看來，這項(xiàng)工作是有價(jià)值的。

從人機(jī)情感關(guān)系的角度出發(fā)，人們會(huì)把情感投射到機(jī)器人上。在與機(jī)器人聊天和互動(dòng)的過程中，不論是長時(shí)間的互動(dòng)， 還是聊著聊著“把天聊死”，都會(huì)形成某種情感關(guān)系。例如，現(xiàn)在有一種圓形的掃地機(jī)器人，送去維修的時(shí)候，有的主婦會(huì)跟工程師說，你不要隨便給我換一個(gè)新的，你要把我們家的“保羅”給我?guī)Щ貋?。其中就有一種泛主體關(guān)系，有著道德關(guān)系和情感的投射。 

實(shí)際上，在阿西莫夫的機(jī)器人小說中，并沒有抽象地談?wù)摍C(jī)器人定律，而是通過各種故事，構(gòu)想其應(yīng)用于人機(jī)關(guān)系遇到的沖突與可能的出路。例如，在《鏡像》中，一位年長的科學(xué)家和一位年輕的科學(xué)家同坐一條船，他們各自有一個(gè)陪伴機(jī)器人，其中一人談到一個(gè)數(shù)學(xué)定理的證明，最后兩人就此內(nèi)容發(fā)表了同樣的論文。在對這一公案進(jìn)行問詢時(shí)，兩個(gè)機(jī)器人的證詞也是一致的：我的主人沒有問題，是對方主人抄襲。小說的名字所反映的就是這種人機(jī)關(guān)系的對稱性，而打破這種對稱性就需要道德律之外解決沖突的實(shí)踐智慧。 

面對正在來臨的泛智能體社會(huì)，需要更進(jìn)一步的倫理設(shè)計(jì)與哲學(xué)考量。在此主要談三個(gè)方面。

其一，如何設(shè)計(jì)和構(gòu)建一種分布式的道德機(jī)制。在自動(dòng)智能武器的討論中，最常見的觀點(diǎn)是要讓人處在自動(dòng)決策的閉環(huán)之中。但問題是，在戰(zhàn)斗狀況下，一個(gè)人監(jiān)控幾十架無人機(jī)實(shí)際上是不現(xiàn)實(shí)的，如何設(shè)計(jì)一種對人和機(jī)器進(jìn)行全局監(jiān)控和決策的超級(jí)監(jiān)控者？還有在自動(dòng)駕駛與人類駕駛并行的情況下，如何分配責(zé)任？

對此，荷蘭的兩個(gè)法庭判例具有一定的啟發(fā)性。一個(gè)判例是，法律規(guī)定只能有兩輛自行車同行，第三輛車加入而造成事故時(shí)負(fù)主責(zé)，但前面兩輛車也要承擔(dān)一定責(zé)任。類似地，法律規(guī)定港口航道只能兩艘船并行，第三艘船闖入并發(fā)生事故時(shí)則需要負(fù)全責(zé)。對比兩個(gè)判例可見，在泛智能體社會(huì)中的分布式道德機(jī)制會(huì)同時(shí)考慮造成后果的原因以及相關(guān)智能體的能力。因此，不論機(jī)器倫理還是機(jī)器道德，不應(yīng)停留在自上而下或自下而上的實(shí)體論視角，還需從泛智能體社會(huì)的智能體之間的關(guān)系展開考察。 

其二，要從智能體的角度反思人類主體性所遇到的挑戰(zhàn)。如今，我們?nèi)找嬷蒙砣祟愔?能與機(jī)器智能所構(gòu)成的智能生態(tài)系統(tǒng)之中，人類主體正在轉(zhuǎn)變?yōu)榭梢员粰C(jī)器所認(rèn)知的智能體。面對各種智能監(jiān)測，從AI教室到通過人臉識(shí)別才能進(jìn)高鐵站，“我”已經(jīng)不再是內(nèi)在的第一人稱的我，而更多的是機(jī)器能夠理解與接納的第三人稱的“它”，必須在頭腦里有這種意識(shí)才能實(shí)現(xiàn)人機(jī)協(xié)同。

比方說，進(jìn)高鐵站的時(shí)候，我一定要把口罩拉下來，機(jī)器才能夠識(shí)別出來是不是“我”，而且我還不能特別著急地沖過去，要等機(jī)器反應(yīng)過來，才不會(huì)撞到閘機(jī)。在這個(gè)看似自然的過程中，人類主體不能不做一個(gè)外在的行動(dòng)者。什么叫外在的行動(dòng)者？就是說在泛智能體時(shí)代，人與機(jī)器的協(xié)同建立在對智能體的數(shù)據(jù)刻畫之上，作為智能體的人只有成為一個(gè)可觀察的數(shù)據(jù)才能納入智能系統(tǒng)。

換言之，如果人類不加反思地適應(yīng)這種主體性的外在化，是否意味著這將是一個(gè)人變得越來越像機(jī)器的過程？假設(shè)對導(dǎo)航能力進(jìn)行圖靈測試，認(rèn)路是人的一種基本智能，50年前，我們要檢測機(jī)器能否像人一樣會(huì)認(rèn)路。而現(xiàn)在隨著很多人依賴智能導(dǎo)航而喪失認(rèn)路能力，是不是意味著機(jī)器的認(rèn)路能力較差才更接近人類智能？如果把人類智能和機(jī)器智能孤立起來進(jìn)行對比，就會(huì)看到所謂圖靈邊界實(shí)際上是在變動(dòng)的。但從人機(jī)協(xié)同的角度看，這種變動(dòng)是可以解釋和加以調(diào)節(jié)的?？傊瑢τ谟纱藥淼闹黧w性挑戰(zhàn)的哲學(xué)追問，無疑是泛智能體社會(huì)倫理設(shè)計(jì)的基礎(chǔ)。 

其三，談?wù)劦赖聶C(jī)器，即用智能機(jī)器來提升我們的道德水準(zhǔn)。比方說，在上海外灘過馬路時(shí)，已經(jīng)有機(jī)器提醒你現(xiàn)在是紅燈，甚至有的地方會(huì)在大屏幕上顯示違章者的姓名和身份證號(hào)，這就是道德機(jī)器的雛形。如果要將機(jī)器人設(shè)計(jì)成道德機(jī)器，不僅需要道德語言交互能力，或場景與事件觸發(fā)的對應(yīng)提示機(jī)制，還要具有實(shí)際環(huán)境中的道德判斷力和預(yù)見力。當(dāng)然，這種道德機(jī)器不僅僅是強(qiáng)制性或命令式的，而更多的是行為心理層面的助推或說服。

對此可以提出設(shè)計(jì)標(biāo)準(zhǔn)，如能減緩人的破壞傾向，并且給人以安慰；為人提供必要的心理服務(wù)，為人所接受，令人滿意，使人的行為得當(dāng)?shù)取Ｉ踔翆恚『⒖梢栽诟鞣N道德機(jī)器人或教育機(jī)器人的陪伴下成長。但問題是，道德機(jī)器究竟根據(jù)什么標(biāo)準(zhǔn)塑造我們？其實(shí)，人類本身對于什么是善的，什么是好的，什么是好的教育方式，什么是好的品行等，都缺乏一個(gè)固定的衡量標(biāo)準(zhǔn)。 

我們的將來會(huì)是什么樣的未來？答案應(yīng)該是實(shí)現(xiàn)人和機(jī)器的相互協(xié)同與兼容。從機(jī)器的角度講，將來的機(jī)器會(huì)是利他的機(jī)器嗎？它會(huì)是一種慈悲的機(jī)器嗎？會(huì)與人類之間產(chǎn)生一種情感依賴嗎？阿西莫夫《機(jī)器人短篇小說集》的最后一篇叫《雙百人》，據(jù)此改編的電影名叫《機(jī)器人管家》，其中的機(jī)器人主人公因?yàn)榛畹锰?，目睹過他經(jīng)歷的人紛紛故去，最后寧愿不做機(jī)器人而變成了終會(huì)逝去的人。

所以，面對智能化的未來，最重要的問題是必須重新思考和構(gòu)建人性。最近，人工智能學(xué)家斯圖爾特·羅素（Stuart Russell）寫了本新書《AI新生》，其中談到未來的人工智能應(yīng)該純粹利他、更加謙卑、學(xué)會(huì)學(xué)習(xí)和預(yù)測人類的偏好，等等。在我看來，最終還是要立足于人機(jī)關(guān)系的維度，構(gòu)建我們想要的合乎倫理的未來——人類而不是機(jī)器人擁有未來的未來。

（本文根據(jù)2020年7月南京信息工程大學(xué)主辦的“人工智能：理論闡釋與實(shí)踐觀照”專題研討會(huì)發(fā)言整理成文，發(fā)表于《閱江學(xué)刊》2021年第4期。）