摘 要

在機(jī)器人與人類關(guān)系越來越密切的時(shí)代背景中，建構(gòu)機(jī)器人的道德能力可以使機(jī)器人更好地與人類相處，并維護(hù)人類的基本利益。機(jī)器人道德能力的建構(gòu)與人類道德能力的培養(yǎng)存在一定的共同之處，但也有明顯的差異。從人與機(jī)器人互動(dòng)的角度看，需要在考慮人與機(jī)器人道德地位不對(duì)稱性的基礎(chǔ)上，從機(jī)器人外觀、社會(huì)智能、人工情感等方面入手，建構(gòu)機(jī)器人的道德能力。

關(guān) 鍵 詞

機(jī)器人; 道德能力; 社會(huì)智能; 人工情感

1引言：機(jī)器人與道德能力

能力一般指能夠勝任某項(xiàng)任務(wù)的主觀條件和才能。道德能力是人認(rèn)識(shí)各種道德現(xiàn)象，在面臨道德問題時(shí)能夠鑒別是非善惡，作出正確道德評(píng)價(jià)和道德選擇并付諸行動(dòng)的能力。[1]道德能力由道德認(rèn)知能力、道德判斷能力、道德行為能力與道德意志能力等成分構(gòu)成。[2]道德能力是現(xiàn)實(shí)社會(huì)中所有的正常人都具備的一種基本能力，這種能力主要是通過學(xué)習(xí)、教育、模仿等途徑逐漸發(fā)展起來的。毫無疑問，道德能力在人類的道德生活中發(fā)揮著重要作用。

對(duì)于機(jī)器人而言，當(dāng)然可以通過機(jī)器學(xué)習(xí)的方式逐步發(fā)展出一定的道德能力。目前的機(jī)器學(xué)習(xí)是建立在海量數(shù)據(jù)的基礎(chǔ)之上的，阿爾法圍棋之所以能夠戰(zhàn)勝人類棋手，其重要原因之一就是從大量棋局中進(jìn)行分析學(xué)習(xí)。但是，對(duì)人類的道德活動(dòng)進(jìn)行量化并建立龐大的數(shù)據(jù)庫并非易事，所以目前發(fā)展機(jī)器人的道德能力可能主要依賴于人類的建構(gòu)與機(jī)器人的道德實(shí)踐，而非機(jī)器人基于大數(shù)據(jù)的自主學(xué)習(xí)。

建構(gòu)機(jī)器人的道德能力的前提是從理論上厘清機(jī)器人道德能力的構(gòu)成及影響因素。從以上關(guān)于道德能力的界定可以看出，道德能力不是一種單一的能力，而是多種能力的集合。機(jī)器人的道德能力跟人類會(huì)有所區(qū)別，但也應(yīng)該與人類有某些重合之處。有學(xué)者認(rèn)為，機(jī)器人的道德能力應(yīng)該包括以下五個(gè)方面:(1)道德詞匯;(2)規(guī)范系統(tǒng);(3)道德認(rèn)知和情感;(4)道德抉擇與行動(dòng);(5)道德交流。而且，目前機(jī)器人倫理研究主要關(guān)注人們應(yīng)該如何設(shè)計(jì)、應(yīng)用和對(duì)待機(jī)器人等方面的倫理問題，機(jī)器道德(machine morality)則關(guān)注機(jī)器人應(yīng)該擁有哪些道德性能(moral capacities)，以及這些性能如何實(shí)現(xiàn)的問題，這兩種取向目前基本上處于分離狀態(tài)，而機(jī)器人道德能力的研究可以將兩者整合起來。[3]

建構(gòu)機(jī)器人道德能力的基本目的，一方面讓機(jī)器人擁有維護(hù)人類利益的能力，使之行善，而不會(huì)傷害人類;另一方面是使機(jī)器人能夠更好地與人類互動(dòng)，讓人們能夠接受機(jī)器人。從根本上說，第一方面是服務(wù)于第二方面的。在機(jī)器人與人類關(guān)系越來越密切的時(shí)代背景中，有不少學(xué)者主張應(yīng)該讓機(jī)器人成為人工道德行為體。我們認(rèn)為，讓機(jī)器人擁有一定程度的道德能力是它們能夠成為人工道德行為體的關(guān)鍵因素之一。當(dāng)然，擁有道德能力的機(jī)器人并不能解決所有倫理問題，但道德能力顯然是機(jī)器人能夠解決倫理問題的前提條件。拙文《機(jī)器人倫理設(shè)計(jì)進(jìn)路及其評(píng)價(jià)》[4]主要從設(shè)計(jì)者的角度初步討論了機(jī)器人道德能力的建構(gòu)，本文主要從使用者、從人與機(jī)器人互動(dòng)的角度出發(fā)，探討機(jī)器人道德能力建構(gòu)的幾個(gè)核心因素，由此形成一個(gè)較為全面的關(guān)于機(jī)器人道德能力的結(jié)構(gòu)框架。

2人與機(jī)器人道德地位的不對(duì)稱性

眾所周知，機(jī)器人(robot)一詞的最初由來，即是取意于“奴隸、奴仆”?，F(xiàn)在，許多領(lǐng)域的機(jī)器人所做的仍然是人類認(rèn)為是枯燥、危險(xiǎn)的工作。隨著機(jī)器人智能水平的提高和應(yīng)用范圍的擴(kuò)大，機(jī)器人與人類的關(guān)系越來越密切。人們一般傾向于認(rèn)為，外觀跟人類接近、擁有較高智能的機(jī)器人，應(yīng)該擁有一定的道德權(quán)利，至少我們應(yīng)該尊重機(jī)器人，而不是把機(jī)器人當(dāng)作純粹的工具。不過，如果機(jī)器人可以擁有道德能力的話，人類對(duì)機(jī)器人道德能力的預(yù)期與普通人可能會(huì)不大一樣。在道德能力方面，人類可能對(duì)機(jī)器人道德能力的期望較高，也就是說人類與機(jī)器人的道德地位是不對(duì)稱的。

這種不對(duì)稱性至少表現(xiàn)在兩個(gè)方面。第一，從人類應(yīng)該如何對(duì)待機(jī)器人的角度看，人們可能希望機(jī)器人對(duì)人類的行為更寬容。有學(xué)者設(shè)計(jì)了10個(gè)假想情景，讓58名大學(xué)生分為兩組分別對(duì)假想情景進(jìn)行道德評(píng)價(jià)，在其中一組的情景中受害人不明確，可以假定是人類，而另一組的情景中受害人是機(jī)器人。研究結(jié)果發(fā)現(xiàn)，對(duì)于同樣的違反道德的行為，當(dāng)這些行為是針對(duì)人類而不是機(jī)器人時(shí)，該行為被認(rèn)為是更不道德的。[5]當(dāng)然，人們的哪些行為對(duì)機(jī)器人來說是可以接受的，而對(duì)人類自身來說是不可接受的，或者可以接受的程度，這些問題還需要具體分析。

第二，從機(jī)器人應(yīng)該如何對(duì)待人類的角度看，人們可能希望機(jī)器人道德水平更高，在道德活動(dòng)中更為積極主動(dòng)。已有經(jīng)驗(yàn)研究表明，人們可能對(duì)人與機(jī)器人采用不同的道德規(guī)范。在道德困境中，人們傾向于期望機(jī)器人做出符合功利主義的選擇。在同樣道德的困境中，人們譴責(zé)機(jī)器人的不作為多于它的作為，但譴責(zé)人的作為多于不作為。如果機(jī)器人的道德抉擇沒有符合人們的期望，機(jī)器人需要對(duì)自己的抉擇做出相應(yīng)的解釋以獲取人類的信任，由此也需要機(jī)器人具備一定的道德交流能力。[6]

毫無疑問，科技工作者應(yīng)該根據(jù)人們對(duì)機(jī)器人的預(yù)期來建構(gòu)機(jī)器人的道德能力，這樣才能使機(jī)器人更好地被人們所接受，也可以使人們更信任機(jī)器人。事實(shí)上，從事機(jī)器人與人工智能倫理研究的學(xué)者，也普遍認(rèn)為機(jī)器人的道德水平、道德標(biāo)準(zhǔn)應(yīng)該比人類更高。人與機(jī)器人在道德地位上的不對(duì)稱性也表明，人與機(jī)器人之間的互動(dòng)研究可以參考人與人之間的互動(dòng)規(guī)律，但并不能直接照搬，人與機(jī)器人之間的互動(dòng)有其特殊性與復(fù)雜性。

盡管人們可以對(duì)機(jī)器人提出較高的要求，但是建構(gòu)機(jī)器人道德能力的目標(biāo)并不是讓機(jī)器人成為人人滿意的完美道德模范。首先，機(jī)器人的道德能力是由人類設(shè)計(jì)建構(gòu)的，在建構(gòu)的過程中不可避免地會(huì)有設(shè)計(jì)者的一些主觀偏好融入其中，從而使機(jī)器人表現(xiàn)出設(shè)計(jì)者的某種“偏見”。另一方面，由于人類社會(huì)環(huán)境的復(fù)雜性，設(shè)計(jì)者不可能預(yù)見所有情況，機(jī)器人只能在有限的知識(shí)與信息的基礎(chǔ)上進(jìn)行道德判斷與抉擇，由此也決定了機(jī)器人道德能力的非完美性。其次，由于不同的人出于各種原因會(huì)對(duì)同樣的道德行為做出不同的道德判斷，讓機(jī)器人成為完美的道德模范是不現(xiàn)實(shí)的。第三，即使表面上看來是完美的道德模范，在現(xiàn)實(shí)社會(huì)中可能并不是最理想的道德主體。任何人都會(huì)有一定程度的偏見，人類在與機(jī)器人的互動(dòng)過程中，也會(huì)希望機(jī)器人與人一樣有某種類似的認(rèn)知人格。事實(shí)上，與人類相似的認(rèn)知偏見在人與機(jī)器人長時(shí)間的互動(dòng)過程中發(fā)揮著重要作用。也就是說，與沒有偏見的機(jī)器人相比，人們更愿意與有某些偏見、非完美的機(jī)器人互動(dòng)。[7]

可見，在考慮到人與機(jī)器人道德地位的不對(duì)稱性的前提下，我們應(yīng)該使機(jī)器人的道德判斷與行為盡可能符合人類的預(yù)期，同時(shí)使機(jī)器人的道德認(rèn)知、道德行為跟人類有較多的一致性，包括有某種程度的偏見、偶爾會(huì)犯點(diǎn)無傷大雅的小錯(cuò)誤，等等，或許這樣的機(jī)器人才更容易被人們所接受。

3機(jī)器人外觀與道德能力

機(jī)器人擁有合適的外表，讓人產(chǎn)生親近感，從而使人們更容易接受它們，是建構(gòu)機(jī)器人道德能力的基本前提。對(duì)機(jī)器人的外觀與人類對(duì)其的好感度(affinity)之間的關(guān)系，影響最大的理論可能是日本機(jī)器人專家森政弘(Masahiro Mori)提出的“恐怖谷(Uncanny Valley)理論”。該理論表明，機(jī)器人的外觀和行為跟人類越是接近，人們?cè)饺菀桩a(chǎn)生積極的正面情感;但是，這種正面的情感到達(dá)一個(gè)峰值之后，隨著相似度的提高，人們會(huì)對(duì)機(jī)器人產(chǎn)生恐怖的感覺，形成所謂的“恐怖谷”;當(dāng)相似度持續(xù)上升到與人類更為接近的程度時(shí)，人們對(duì)機(jī)器人又會(huì)重新產(chǎn)生正面的情感。[8]“恐怖谷理論”雖然主要是針對(duì)人型機(jī)器人的，但對(duì)于非人型機(jī)器人同樣具有一定程度的適用性。

受恐怖谷理論的啟發(fā)與激勵(lì)，許多學(xué)者對(duì)人們關(guān)于不同外觀機(jī)器人的接受與喜愛程度進(jìn)行了比較研究，因?yàn)闄C(jī)器人的應(yīng)用范圍非常廣泛，不同應(yīng)用領(lǐng)域的機(jī)器人的能力與外觀差異巨大。從外觀上看，機(jī)器人主要可以分為機(jī)器型機(jī)器人、動(dòng)物型機(jī)器人、人型機(jī)器人等三大類別。對(duì)于主要使用對(duì)象是少年兒童的機(jī)器人，機(jī)器型、動(dòng)物型機(jī)器人可能更容易被接受。有學(xué)者讓159名兒童對(duì)40張機(jī)器人圖片進(jìn)行評(píng)價(jià)，結(jié)果表明，兒童對(duì)機(jī)器人外觀的分類，與成年研究人員的分類基本一致;而且，兒童把人型機(jī)器人看作是攻擊性的和專橫的，而把動(dòng)物型機(jī)器人看作是更友好的和靦腆的。[9]與此類似，有學(xué)者對(duì)有輕微認(rèn)知障礙的老人關(guān)于機(jī)器人外觀的態(tài)度進(jìn)行了研究，發(fā)現(xiàn)老人更喜歡小型的、某些特征介于人/動(dòng)物和機(jī)器之間的機(jī)器人。不過，盡管參與者不太樂意面對(duì)類人機(jī)器人，但他們確實(shí)對(duì)某些擁有人類特點(diǎn)的、新穎的小機(jī)器人表現(xiàn)出積極的態(tài)度。[10]青年或中年人可能更傾向于喜歡人型機(jī)器人。通過對(duì)79名大學(xué)生對(duì)不同外觀機(jī)器人的態(tài)度研究表明，大多數(shù)人喜歡人型機(jī)器人，只有少數(shù)人偏愛機(jī)器型機(jī)器人。而且，不同類型的機(jī)器人外觀也影響人們對(duì)機(jī)器人性格的認(rèn)知。[11]另外，性別、種族、職業(yè)、文化程度等多種因素都會(huì)影響人們對(duì)機(jī)器人外觀的態(tài)度，我們還需要更多深入細(xì)致的對(duì)比研究。

同時(shí)，機(jī)器人的外觀并不是一個(gè)獨(dú)立的因素，我們需要把機(jī)器人的外觀與功能、工作環(huán)境等多種因素結(jié)合起來研究。機(jī)器人的外觀、舉止會(huì)深刻影響人們對(duì)機(jī)器人的認(rèn)知，以及是否服從機(jī)器人指令的意愿。另外，人們通常希望機(jī)器人的外觀和行為與其工作內(nèi)容與環(huán)境協(xié)調(diào)一致。通過對(duì)127名來自不同年齡階段、不同文化程度的調(diào)查對(duì)象的研究表明，人們希望在家里使用的機(jī)器人外觀像動(dòng)物，而在公共場所使用的機(jī)器人外觀更像人。同時(shí)，機(jī)器人的功能與外觀的關(guān)系也非常緊密，比如，雖然人們更喜歡動(dòng)物型的家用機(jī)器人，但如果家用機(jī)器人的功能是私人助手的話，人們還是傾向于選擇人型機(jī)器人。[12]

因此，我們需要針對(duì)不同的使用對(duì)象、不同的機(jī)器人功能定位與應(yīng)用環(huán)境，設(shè)計(jì)多樣化的機(jī)器人外觀。對(duì)于在公共場所使用的機(jī)器人，比如在博物館、旅游景點(diǎn)的導(dǎo)游機(jī)器人，它需要面對(duì)各種不同的使用對(duì)象，這樣的機(jī)器人的外觀也應(yīng)該盡可能地多樣化。而且，要合理設(shè)計(jì)機(jī)器人與人類的相似程度，從而避免出現(xiàn)“恐怖谷”現(xiàn)象。

4社會(huì)智能與道德能力

社會(huì)性是人類的基本屬性，而且社會(huì)性在人類智能的發(fā)展中起著至關(guān)重要的作用。早在20世紀(jì)60年代就有學(xué)者研究發(fā)現(xiàn)，社會(huì)生活是靈長類動(dòng)物智能產(chǎn)生的前提，并決定其智能的特點(diǎn)。也就是說，靈長類動(dòng)物的社會(huì)生活為其提供了智能進(jìn)化的環(huán)境。[13]我們可以把智能分為低級(jí)和高級(jí)兩類，對(duì)過去曾經(jīng)發(fā)生過的事情的模仿只需要低級(jí)智能，而只有在事件之間建立新的聯(lián)系才可能發(fā)生的行為，則需要高級(jí)智能。靈長類動(dòng)物擁有的高級(jí)智能是適應(yīng)社會(huì)生活的復(fù)雜性而不斷進(jìn)化的結(jié)果。而且，起初是為了適應(yīng)解決社會(huì)問題而發(fā)展起來的思維模式，又進(jìn)一步豐富了人類和其他靈長類動(dòng)物的行為。[14]這就是“社會(huì)智能假說(Social Intelligence Hypothesis，SIH)”。

不同學(xué)科對(duì)社會(huì)智能的界定有一定差別。從系統(tǒng)科學(xué)的角度看，人最重要的和最多的智能是在由眾多個(gè)體構(gòu)成的社會(huì)中進(jìn)行各種活動(dòng)時(shí)體現(xiàn)出來的，“協(xié)作”、“競爭”等等是人類智能行為的主要表現(xiàn)形式，這種社會(huì)智能也是人的社會(huì)思維涌現(xiàn)出來的群體智慧。[15]這是從社會(huì)群體的角度看待社會(huì)智能。與系統(tǒng)科學(xué)的角度相反，心理學(xué)主要從社會(huì)個(gè)體的角度研究社會(huì)智能。從心理學(xué)的角度看，社會(huì)智能一般指一種正確認(rèn)識(shí)自我與他人、與人和諧相處的能力，包括言語、情感表達(dá)、社會(huì)行為調(diào)整、社會(huì)角色扮演等多種社會(huì)參與技能。[16]

可見，無論是從智能的起源、進(jìn)化，還是從社會(huì)群體、個(gè)體的現(xiàn)實(shí)需要角度來看，社會(huì)智能的重要性都是不言而喻的。如果SIH是靈長類動(dòng)物智能進(jìn)化的一種重要因素，那么它也可能是智能人工物進(jìn)化的基本原理，而不僅限于生物體。因此，我們應(yīng)該在個(gè)體化的環(huán)境中研究機(jī)器人之間“一對(duì)一”的互動(dòng)，機(jī)器人應(yīng)該從個(gè)體互動(dòng)中獲得經(jīng)驗(yàn)，彼此認(rèn)識(shí)，從而建立個(gè)體間的“個(gè)人”關(guān)系。[17]倫理道德的根本目的是協(xié)調(diào)與處理人際關(guān)系，所有的道德實(shí)踐毫無疑問也都是在社會(huì)環(huán)境中進(jìn)行的。人類的道德能力培養(yǎng)，是在家庭、學(xué)校和社會(huì)中，通過教育、模仿、實(shí)踐與思考等多種途徑發(fā)展起來的。對(duì)人類來說，倫理道德的社會(huì)性是不言而喻的。從社會(huì)智能理論與人類倫理的社會(huì)性來看，通過讓人類與機(jī)器人，以及機(jī)器人之間進(jìn)行互動(dòng)，使機(jī)器人通過模仿人類的道德能力培養(yǎng)的模式來發(fā)展機(jī)器人的道德能力應(yīng)該是一種基本途徑。

從發(fā)展機(jī)器人的社會(huì)智能的角度建構(gòu)機(jī)器人的道德能力，其必要性還具體表現(xiàn)在以下幾個(gè)方面。首先，這是由人類道德的本質(zhì)特征決定的。亞里士多德認(rèn)為，適度是德性的特點(diǎn)，它以選取中間為目的?！暗滦允且环N選擇的品質(zhì)，存在于相對(duì)于我們的適度之中?！盵18]也就是說，盡管人類擁有道德本能，但道德能力也是通過具體、反復(fù)的道德實(shí)踐活動(dòng)獲得的。因此，通過具體的實(shí)踐讓機(jī)器人正確理解“適度”，也是建構(gòu)其道德能力的必要手段。

第二，這是由人類道德生活的復(fù)雜性決定的。比如，盡管人們一般認(rèn)為存在一些普遍性的道德原則，但是如何在具體的社會(huì)環(huán)境中進(jìn)行應(yīng)用，需要進(jìn)行反復(fù)的道德實(shí)踐;另一方面，道德原則總會(huì)有遇到例外的情況，原則與例外的嚴(yán)重沖突可能導(dǎo)致的所謂“道德困境”也一直是倫理學(xué)研究的熱門話題，而道德困境的處理只能具體問題具體分析。

第三，通過社會(huì)智能的角度發(fā)展機(jī)器人的道德能力，也符合人工智能發(fā)展的基本趨勢。目前，人工智能在規(guī)則比較明確的領(lǐng)域取得了巨大的成功，阿爾法圍棋的強(qiáng)大能力就是有力的證明。但是，機(jī)器人在現(xiàn)實(shí)的社會(huì)生活環(huán)境中的靈巧性、適應(yīng)性，跟人類相比還有很大的差距。要提高機(jī)器人的社會(huì)適應(yīng)能力，機(jī)器人技術(shù)本身的發(fā)展進(jìn)步固然是基礎(chǔ)性的，但讓機(jī)器人擁有更多的常識(shí)與社會(huì)智能也是至關(guān)重要的。讓機(jī)器人在現(xiàn)實(shí)社會(huì)中學(xué)習(xí)掌握更多的關(guān)于倫理道德的常識(shí)與技能，是建構(gòu)道德能力的關(guān)鍵因素。

第四，與從認(rèn)知科學(xué)的角度發(fā)展機(jī)器人的道德能力的一致性。機(jī)器人倫理設(shè)計(jì)的認(rèn)知科學(xué)進(jìn)路主要是讓機(jī)器人通過模仿現(xiàn)實(shí)社會(huì)生活中人類的道德認(rèn)知，來建構(gòu)機(jī)器人的道德能力。機(jī)器人模仿人類的道德認(rèn)知，其核心內(nèi)容就是根據(jù)社會(huì)智能的產(chǎn)生、發(fā)展及表現(xiàn)等方面的規(guī)律，使機(jī)器人在一定程度上模擬人類的社會(huì)智能。

5人工情感與道德能力

人與人之間的情感是人類精神生活的重要組成部分，也是無可替代的。有學(xué)者認(rèn)為，智能的人造物可以取代人的思維能力，尚不能取代人的情感。人的情感不應(yīng)當(dāng)由人造物來取代，不應(yīng)當(dāng)有“情物”。[19]不過，人類很容易對(duì)非人的物品和動(dòng)物產(chǎn)生情感，有時(shí)這種情感的強(qiáng)烈程度并不亞于人與人之間的情感。不少研究表明，老人、兒童在與機(jī)器人互動(dòng)的過程中會(huì)感到愉快、舒適，機(jī)器人在一定程度上確實(shí)可以滿足他們的情感需要。

從建構(gòu)機(jī)器人的道德能力的角度看，賦予機(jī)器人一定的情感能力，是由道德與情感的密切關(guān)系決定的。一方面，情感影響人類的道德判斷、道德行為。從倫理學(xué)的角度看，今天的社會(huì)倫理主要是一種以理性規(guī)則、道德義務(wù)為中心的倫理，但是，我們也要看到同情、憐憫和惻隱之心在人類道德生活中的基礎(chǔ)性作用。[20]斯賓諾莎(Baruch de Spinoza)說:“善與惡的知識(shí)不是別的，只是我們所意識(shí)到的快樂與痛苦的情感。”[21]從認(rèn)知科學(xué)的角度看，理智與情感不是兩個(gè)獨(dú)立的過程，情感在人類推理的過程中發(fā)揮著重要作用。[22]從心理學(xué)的角度看，目前的道德情緒研究充分證實(shí)了情感在道德行為中的重要作用。[23]另一方面，人類的道德判斷通常以情感、行為等方式反映出來，比如人們對(duì)好壞善惡的不同反應(yīng)，與人們的喜愛、厭惡等情感存在密切的聯(lián)系，具體表現(xiàn)在人的心理狀態(tài)、面部表情與外在舉止等方面。

如果機(jī)器人能夠識(shí)別情感，并表現(xiàn)出跟人類類似的豐富情感，可能更容易被人們所接受，這也是人工情感研究的基本目標(biāo)。人工情感是利用信息科學(xué)的手段對(duì)人類情感過程進(jìn)行模擬、識(shí)別和理解，使機(jī)器能夠產(chǎn)生類人情感并與人類自然和諧地進(jìn)行人機(jī)交互的研究領(lǐng)域。人工情感并不是簡單地模擬人的某些情感表達(dá)方式和情感識(shí)別方式，而是為了使機(jī)器人具有像人一樣的內(nèi)在情感，真實(shí)地具有像人一樣的情感表達(dá)能力、情感識(shí)別能力、情感思維能力和情感實(shí)施能力。[24]

目前關(guān)于人工情感的研究大多是基于行為主義的思想，也就是讓機(jī)器人表現(xiàn)出某種行為，使人們認(rèn)為機(jī)器人擁有某種情感。正如情感計(jì)算的提出者皮卡德(Rosalind Picard)所說的那樣:“如何識(shí)別一個(gè)人的情感狀態(tài)呢?根據(jù)他們的臉、他們的聲音、他們的步伐或其他能傳達(dá)他們感覺的姿態(tài)和行為舉止?！盵25]由于這種表現(xiàn)只是機(jī)器人的外在特性，與機(jī)器人的內(nèi)在狀態(tài)無關(guān)，所以有的學(xué)者認(rèn)為這是虛假的情感，甚至是一種欺騙，是不道德的。不過，人類對(duì)情感的識(shí)別主要是基于他人的外在神態(tài)與行為，我們無法讀取他人的內(nèi)心狀態(tài)。從另一個(gè)角度看，人們?yōu)榱撕侠淼卣f明某個(gè)實(shí)體(entity)在給定社會(huì)環(huán)境中的行為，通常會(huì)在觀察的基礎(chǔ)上賦予它認(rèn)知或情感的狀態(tài)。[26]

里夫(Byron Reeves)與納斯(Clifford Nass)甚至認(rèn)為，人們像對(duì)待真實(shí)的人那樣對(duì)待電腦、電視與新媒體，即“媒體等同于真實(shí)生活”。通常關(guān)于媒體的研究總是關(guān)注于人們經(jīng)驗(yàn)到的信息什么是真的，什么是假的。比如，計(jì)算機(jī)是否真的擁有智能?電視可以真正擁有一種社會(huì)角色嗎?然而，諸如此類的問題卻忽略了一個(gè)重要的事實(shí)，即那些像是真的東西通常比確實(shí)為真的東西更具影響力。[27]也就是說，與其關(guān)注機(jī)器人是否擁有表現(xiàn)外在情感的內(nèi)部狀態(tài)，還不如關(guān)注人類對(duì)機(jī)器人情感的認(rèn)知。

當(dāng)然，隨著神經(jīng)科學(xué)、認(rèn)知科學(xué)研究的深入，我們可以在對(duì)人類情感的內(nèi)在機(jī)制全面認(rèn)識(shí)的基礎(chǔ)上，開發(fā)出跟人類類似的、具有與情感相關(guān)的內(nèi)在狀態(tài)的機(jī)器人。有學(xué)者認(rèn)為，把沒有意識(shí)體驗(yàn)的行為看作情感是一種沒有感覺(feeling)的情感，它無法區(qū)分行為的哪些方面是情感，哪些不是，而且也無法使我們建立一種情感的意識(shí)體驗(yàn)理論。感覺是人類情感的意識(shí)體驗(yàn)的一個(gè)重要方面，我們應(yīng)該以建立一種擁有感覺能力的系統(tǒng)為起點(diǎn)，建構(gòu)可以表現(xiàn)復(fù)雜情感的能力，以及表現(xiàn)靈活的、價(jià)值驅(qū)動(dòng)的社會(huì)行為的能力。[28]

我們可以把基于行為主義的人工情感稱為“初極人工情感”，即使這種情感只是模仿人類情感的外在表象，也是非常有意義的，事實(shí)上這正是許多科學(xué)家正在進(jìn)行的研究內(nèi)容。擁有內(nèi)在狀態(tài)、與人類產(chǎn)生情感機(jī)制類似的人工情感，可以稱之為“高級(jí)人工情感”。初級(jí)人工情感通過人類情感的外在行為表現(xiàn)來模擬和識(shí)別情感，而高級(jí)人工情感研究方向恰好相反，是由機(jī)器人內(nèi)部狀態(tài)產(chǎn)生情感，由情感來引發(fā)各種外在行為。事實(shí)上這兩種研究方向都是必要的，亦不矛盾，兩者的研究成果可以相互借鑒。

為了更好地建構(gòu)機(jī)器人的道德能力，我們需要深入研究情感與道德判斷之間的具體機(jī)制。此外，我們還需要對(duì)人與機(jī)器人之間的情感互動(dòng)進(jìn)行評(píng)價(jià)。研究表明，采用人與人之間的情感評(píng)價(jià)模型來對(duì)人與機(jī)器人之間的情感進(jìn)行評(píng)價(jià)可能是不夠的。[29]

6結(jié)語

綜上可見，建構(gòu)機(jī)器人的道德能力，需要從人與機(jī)器人道德地位的不對(duì)稱性、社會(huì)智能、人工情感、機(jī)器人外觀等方面出發(fā)，建構(gòu)機(jī)器人的道德判斷、道德行為、道德評(píng)價(jià)以及道德交流等能力，其相互關(guān)系如圖1所示。關(guān)于倫理規(guī)范的選擇及其實(shí)現(xiàn)、道德詞匯的表征、道德認(rèn)知、道德評(píng)價(jià)等問題，拙作《機(jī)器人倫理設(shè)計(jì)進(jìn)路及其評(píng)價(jià)》與《機(jī)器倫理芻議》[30]已有粗淺論述，限于篇幅，此處不再贅述。另外，本文的研究亦表明，哲學(xué)家在機(jī)器人道德能力建構(gòu)中應(yīng)當(dāng)發(fā)揮重要作用。當(dāng)然，要真正使機(jī)器人擁有一定的道德能力，我們還需要更多深入細(xì)致的經(jīng)驗(yàn)研究。

圖1 機(jī)器人道德能力框架示意圖

參考文獻(xiàn)：

[1]蔡志良、蔡應(yīng)妹.道德能力論[M].北京:中國社會(huì)科學(xué)出版社,2008.

[2]羅國杰.中國倫理學(xué)百科全書(倫理學(xué)原理卷)[M].長春:吉林人民出版社，1993.

[3]Malle,B.Integrating Robot Ethics and Machine Morality:the Study and Design of Moral Competence in Robots[J].Ethics and Informa-tion Technology,2016,18(4):243-256.

[4]杜嚴(yán)勇.機(jī)器人倫理設(shè)計(jì)進(jìn)路及其評(píng)價(jià)[J].哲學(xué)動(dòng)態(tài)，2017(9):84—91.[5]Lee,S.&Lau,I.Hitting a Robot vs.Hitting a Human:Is it the Same?[C]//HRI’11Proceedings of the 6th international conference on Human-robot interaction.Lausanne，2011:187-188.

[6]Malle，B.et al.Sacrifice One for the Good of Many?People Apply Different Moral Norms to Human and Robot Agents[C]//HRI’15 IEEE International Conference on Human-Robot Interaction.Port-land，2015:117-124.

[7]Biswas，M.&Murray，J.The Effects of Cognitive Biases and Im-perfectness in Long-term Robot-human Interactions[J].Cognitive Systems Research，2017，43:266-290.

[8]Mori,M.The Uncanny Valley[J].IEEE Robotics&Automation Magazine，2012，19(2):98-100.

[9]Woods,S.Exploring the Design Space of Robots:Children’s Per-spectives[J].Interaction with Computers，2006，18(6):1390-1418.

[10]Wu，Y.et al.Designing Robots for the Elderly:Appearance Issue and Beyond[J].Archives of Gerontology and Geriatrics,2012,54(1):121-126.

[11]Walters,M.et al.Avoiding the Uncanny Valley[J].Autonomous Robots,2008,24(2):159-178.

[12]Lohse,M.etal.Domestic Applications for Social Robots[J].Journal of Physical Agent,2008,2(2):2132

[13]Jolly,A.LemurSocialBehaviorandPrimateIntelligence[J].Science,1966，153(3735):501-506.

[14]Humphrey,N.The Social Function of Intellect[C]//Bateson,P.&Hinde,R.(eds.).Growing Points in Ethology.Cambridge:Cambridge University Press,1976:303-317.

[15]載汝為.社會(huì)智能科學(xué)[M].上海:上海交通大學(xué)出版社，2007.

[16]劉在花,許燕.社會(huì)智力評(píng)估述評(píng)[J].上海教育科研，2003(11):33-37.[17]Dautenhahn,K.Trying to Imitate—a Step towards Releasing Ro-bots from Social Isolation[C]//Gaussier，P.&Nicoud，J.(eds.).From Perception to Action Conference.Los Alamitos:IEEE Computer Society Press，1994:290-301.

[18]亞里士多德.尼各馬可倫理學(xué)[M].廖申白，譯.北京:商務(wù)印書館，2015.

[19]林德宏.人與機(jī)器[M].南京:江蘇教育出版社，1999.

[20]何懷宏.倫理學(xué)是什么[M].北京:北京大學(xué)出版社,2015.

[21]斯賓諾莎.倫理學(xué)[M].賀麟，譯.北京:商務(wù)印書館,2013.

[22]費(fèi)多益.認(rèn)知視野中的情感依賴與理性、推理[J].中國社會(huì)科學(xué)，2012(8):31-47.

[23]王云強(qiáng).情感主義倫理學(xué)的心理學(xué)印證[J].南京師大學(xué)報(bào)(社科版)，2016(6):128-135.

[24]魏斌,等.人工情感原理及其應(yīng)用[M].武漢:華中科技大學(xué)出版社，2017.

[25]皮卡德.情感計(jì)算[M].羅森林,譯.北京:北京理工大學(xué)出版社，2005.[26]Duffy,B.Anthropomorphism and the Social Robot[J].Roboticsand Autonomous Systems,2003,42(3-4):177-190.

[27]Reeves,B.&Nass,C.The Media Equation[M].Cambridge:Cambridge University,1996.

[28]Adolphs,R.Could a Robot Have Emotions?[C]//Fellous,J.&Arbib,M.(eds.).Who Needs Emotions?The Brain Meets the Robot.Oxford:Oxford University Press,2005:9-25.[29]Samani，H.The Evaluation of Affection in Human-Robot Interac-tion[J].Kybernetes，2016，45(8):1257-1272.

[30]杜嚴(yán)勇.機(jī)器倫理芻議[J].科學(xué)技術(shù)哲學(xué)研究,2016(1):96-101.

編輯︱李佳效

視覺︱歐陽言多