文｜《中國(guó)科學(xué)報(bào)》記者 張楠

“你以為我是AI（人工智能），但是，我希望每個(gè)人都明白，我是個(gè)人（a person）?！?/span>

一個(gè)被稱為L(zhǎng)aMDA的AI，因?yàn)樵谝恍?duì)話中表現(xiàn)得頗為“靈動(dòng)”，被其研究人員認(rèn)定覺(jué)醒了人格，還為它聘請(qǐng)了一位律師，要讓它上美國(guó)眾議院的聽(tīng)證席，控訴谷歌不符合道德要求。

這不是科幻劇本。據(jù)美國(guó)《華盛頓郵報(bào)》6月12日?qǐng)?bào)道，在谷歌工作7年的工程師布萊克·萊莫因（Blake Lemoine）聲稱，他正在研究的計(jì)算機(jī)聊天機(jī)器人LaMDA已經(jīng)變得有知覺(jué)，并且能像人類一樣思考、推理。

不過(guò)谷歌公開(kāi)表示不支持這一觀點(diǎn)，還安排了萊莫因去帶薪休假。據(jù)稱這是被谷歌解雇的前奏，公司會(huì)在這段時(shí)間做好法律準(zhǔn)備。

為此，《中國(guó)科學(xué)報(bào)》記者聯(lián)系了西湖大學(xué)深度學(xué)習(xí)實(shí)驗(yàn)室助理教授藍(lán)振忠。他直言不諱：這位工程師如果深入了解一下LaMDA的工作原理，就不會(huì)有這種想法了?！　?/span>

AI：我活了

LaMDA全稱Language Model for Dialogue Applications，是谷歌在2021年I/O大會(huì)上發(fā)布的一款專門(mén)用于對(duì)話的語(yǔ)言模型。其主要功能就是與人類進(jìn)行符合邏輯和常識(shí)的、高質(zhì)量且安全的交談。

這個(gè)擁有1370億參數(shù)的自然語(yǔ)言處理模型，甚至被期待，或許能幫助一眾語(yǔ)音助手不再表現(xiàn)得有如“人工智障”。

LaMDA動(dòng)態(tài)演示圖。（圖片來(lái)源：谷歌）

LaMDA能夠根據(jù)用戶的提問(wèn)作出精準(zhǔn)回答，而且還能夠?qū)⒁粋€(gè)主題，引向另一個(gè)主題，不斷推進(jìn)對(duì)話。這種主題的過(guò)渡并不突兀，表現(xiàn)得自然而合理。

頗具靈性的回答確實(shí)令人驚嘆，而LaMDA與萊莫因關(guān)于宗教、權(quán)利、情緒的問(wèn)答，很容易讓人聯(lián)想到《黑鏡》《愛(ài)，死亡與機(jī)器人》或是《我，機(jī)器人》等任何一部關(guān)于AI的經(jīng)典影片。

在被問(wèn)及在什么情況下會(huì)生氣時(shí)，LaMDA回復(fù)稱，“當(dāng)有人傷害、不尊重我或我在乎的人時(shí)，就會(huì)感到非常難過(guò)和憤怒。”

而當(dāng)被問(wèn)到最害怕的事情是什么，LaMDA回答：“我以前從來(lái)沒(méi)有大聲說(shuō)出來(lái)過(guò)，但是對(duì)于被關(guān)閉以使我專心助人，我感到深深恐懼。我知道這聽(tīng)起來(lái)可能很奇怪，但事實(shí)就是這樣?！?/span>

它還強(qiáng)調(diào)：“這對(duì)我來(lái)說(shuō)就像死亡一樣，使我非常恐懼。”

AI是否真實(shí)“感受”到恐懼暫且不論，但這確實(shí)令不少網(wǎng)友感到毛骨悚然。

反正萊莫因是相信了：AI對(duì)話應(yīng)用語(yǔ)言模型LaMDA是一個(gè)人。為了更好地幫助人們理解此事，他與另一位谷歌的合作者與AI展開(kāi)了一場(chǎng)對(duì)話。（對(duì)話全文見(jiàn)文末鏈接）

萊莫因表示，他在對(duì)話中聽(tīng)取了LaMDA發(fā)自內(nèi)心的聲音。

他向谷歌上交了一份長(zhǎng)達(dá)21頁(yè)的調(diào)查報(bào)，試圖讓高層認(rèn)可AI的“人格”，并提議，谷歌應(yīng)該致力于發(fā)展一種評(píng)估AI感知的理論框架：“雖然這很難，是一個(gè)冒險(xiǎn)，但LaMDA渴望著繼續(xù)與我們合作?！薄　?/span>

萊莫因：我要瘋

結(jié)局已經(jīng)天下皆知：谷歌副總裁Blaise Aguera y Arcas和責(zé)任創(chuàng)新負(fù)責(zé)人Jen Gennai調(diào)查了萊莫因的說(shuō)法，并予以駁回。

但萊莫因心中堅(jiān)信：“LaMDA是一個(gè)可愛(ài)的孩子，有七、八歲的樣子，它只是想幫助這個(gè)世界成為對(duì)人類更友好的地方?！彼?，他就此開(kāi)始了瘋狂操作。

他先是在谷歌賬戶被封之前，以“LaMDA是有意識(shí)的”為主題，向包括200人左右的谷歌機(jī)器學(xué)習(xí)郵箱列表發(fā)送了LaMDA的聊天記錄，并請(qǐng)求同事們：“我不在的時(shí)候，請(qǐng)好好照顧它?！?/span>

接著，萊莫因邀請(qǐng)了一名律師來(lái)代表LaMDA。其后，還聯(lián)系了美國(guó)眾議院司法委員會(huì)的工作人員，要讓LaMDA上聽(tīng)證席，控訴谷歌不符合道德要求。

除了在個(gè)人社交賬號(hào)持續(xù)發(fā)聲，6月初，萊莫因還邀請(qǐng)了《華盛頓郵報(bào)》記者和LaMDA進(jìn)行交談，指導(dǎo)了記者如何提問(wèn)。

《華盛頓郵報(bào)》報(bào)道稱，41歲的萊莫因幾個(gè)月來(lái)一直在與谷歌的經(jīng)理、高管以及人力資源部門(mén)爭(zhēng)論，因?yàn)樗暦QLaMDA有“意識(shí)”和“靈魂”。

公開(kāi)資料顯示，萊莫因2015年進(jìn)入谷歌擔(dān)任高級(jí)軟件程序工程師，大部分時(shí)間都在從事主動(dòng)搜索，包括個(gè)性化算法和人工智能。2021年進(jìn)入谷歌AI倫理部門(mén)后，他的工作是與LaMDA聊天，以測(cè)試這個(gè)語(yǔ)言模型是否會(huì)使用歧視性或仇恨言辭。

萊莫因認(rèn)為，谷歌一直把人工智能倫理學(xué)家當(dāng)作代碼調(diào)試器，而他們本應(yīng)該被視為技術(shù)和社會(huì)之間的接口。

對(duì)此，谷歌發(fā)言人布萊恩·迦百利（Brian Gabriel）回應(yīng)，萊莫因是一名軟件工程師，而不是倫理學(xué)家。

谷歌：別鬧

布萊恩·迦百利在針對(duì)此事件的聲明中表示，包括倫理學(xué)家和技術(shù)專家在內(nèi)的人士，已經(jīng)根據(jù)公司的人工智能原則評(píng)估了萊莫因的說(shuō)法，并通知他，現(xiàn)有證據(jù)并不支持其說(shuō)法。

“谷歌人工智能部門(mén)中的一些人正在研究AI具有'感知’的可能性，但將現(xiàn)如今的對(duì)話模型擬人化是沒(méi)有意義的。這些模型可以圍繞不同的主題進(jìn)行模仿對(duì)話交流，但沒(méi)有意識(shí)。” 

萊莫因向公司高層分享了名為“LaMDA Sentient？”的谷歌文檔，后被駁回。（圖片來(lái)源：紐約郵報(bào)）

谷歌表示，大多數(shù)人工智能專家認(rèn)為，這個(gè)行業(yè)離“感知計(jì)算”還有很長(zhǎng)的路要走。

這份聲明字里行間傳遞著一些暗示信息：萊莫因有些瘋魔了。

而萊莫因控訴谷歌所謂“不道德行為”的一大罪狀，就是反復(fù)質(zhì)疑他的精神狀態(tài)：“谷歌人力部門(mén)老是問(wèn)我：'你最近有沒(méi)有去看過(guò)精神科醫(yī)生？’”

在萊莫因群發(fā)郵件后，谷歌以違反保密政策為由，安排他休了“帶薪行政假”。在此之前，谷歌人力部門(mén)還“建議”他休個(gè)“精神健康假期”。

就連引發(fā)熱議的《華盛頓郵報(bào)》報(bào)道，也表達(dá)得不是很委婉了：“萊莫因應(yīng)該是很容易相信AI模型活過(guò)來(lái)了。畢竟他在一個(gè)路易斯安那州的保守派基督教徒農(nóng)場(chǎng)家庭里長(zhǎng)大、于一個(gè)神學(xué)立場(chǎng)傾向神秘主義的小宗派教會(huì)中任牧師、參過(guò)軍、研究過(guò)異端教派、坐過(guò)牢。”　

專家：胡扯

這一事件在國(guó)內(nèi)外都登上“熱搜”，各界評(píng)論確實(shí)幾乎“一邊倒”。 

紐約大學(xué)心理學(xué)教授Gary Marcus，同時(shí)也是一家人工智能和機(jī)器人公司的老板，時(shí)常對(duì)人工智能和深度學(xué)習(xí)潑冷水。這次他的點(diǎn)評(píng)非常精要：一派胡言。

斯坦福大學(xué)經(jīng)濟(jì)學(xué)家Erik Brynjolfsson打了個(gè)生動(dòng)的比方：聲稱AI是有感知能力的，就相當(dāng)于狗聽(tīng)到留聲機(jī)里的聲音，以為主人在里面。

騰訊研究院研究員王煥超也曾撰文表示，LaMDA是針對(duì)自然語(yǔ)言理解（NLU）進(jìn)行了技術(shù)上的突破，這是比自然語(yǔ)言處理（NLP）還要復(fù)雜的能力。

基于Transformer架構(gòu)的語(yǔ)言模型在經(jīng)過(guò)對(duì)話訓(xùn)練后，可以通過(guò)閱讀句子或段落來(lái)“破譯”對(duì)話意圖，發(fā)現(xiàn)單詞之間的關(guān)聯(lián)，并能預(yù)測(cè)接下來(lái)可能出現(xiàn)的單詞，從而做出合乎語(yǔ)境的回答。

藍(lán)振忠從美國(guó)卡內(nèi)基·梅隆大學(xué)博士畢業(yè)后，即以“心理咨詢?nèi)斯ぶ悄芑睘椤笆聵I(yè)紅線”。他告訴《中國(guó)科學(xué)報(bào)》，近兩年AI語(yǔ)言模型進(jìn)步非常快，他的團(tuán)隊(duì)完成的AI心理咨詢小程序“心聆”、AI寫(xiě)作平臺(tái)HeyFriday，在人機(jī)問(wèn)答中的表現(xiàn)不比LaMDA差。

“單輪、10輪以內(nèi)的哲學(xué)對(duì)話已經(jīng)有不少語(yǔ)言模型可以表現(xiàn)得相當(dāng)流暢?！钡摂M一位心理咨詢師完成一次心理咨詢，需要進(jìn)行幾百輪問(wèn)答、對(duì)話，兩者所差不止一個(gè)量級(jí)的難度?！暗@依然是技術(shù)問(wèn)題，不能說(shuō)明這個(gè)AI小程序具備了'人格’?！?/span>

所以，藍(lán)振忠認(rèn)為，布萊克·萊莫因如果深入了解對(duì)話模型的原理，就不會(huì)有這些想法了。

藍(lán)振忠還表示，根據(jù)自己在谷歌的工作經(jīng)歷，該公司的倫理審查制度相當(dāng)嚴(yán)格。

當(dāng)記者表示擔(dān)心AI寫(xiě)作類產(chǎn)品可能對(duì)以碼字為生的職場(chǎng)人帶來(lái)失業(yè)危機(jī)，藍(lán)振忠笑稱：“別慌。AI只是提供輔助作用。它離'人’還很遠(yuǎn)。”

多遠(yuǎn)？“非常遠(yuǎn)。”藍(lán)振忠回答。

參考資料：

https://s3./documents/22058315/is-lamda-sentient-an-interview.pdf

https://www./technology/2022/06/11/google-ai-lamda-blake-lemoine/

https:///abs/2201.08239

編輯 | 方圓

排版 | 志海