公開(kāi)信呼吁，所有AI實(shí)驗(yàn)室應(yīng)立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。

在人們對(duì)人工智能（AI）的顛覆性發(fā)展感到興奮的同時(shí)，擔(dān)憂和恐懼情緒也在蔓延：AI的飛速發(fā)展是否可能失控？人類會(huì)被AI取代，甚至被統(tǒng)治嗎？

29日，一封公開(kāi)聯(lián)名信在業(yè)內(nèi)外引發(fā)熱議。這封在生命未來(lái)研究所（Future of Life Institute）網(wǎng)站公布的信件呼吁，立即暫停研究比OpenAI公司開(kāi)發(fā)的GPT-4更強(qiáng)大的AI系統(tǒng)，將這場(chǎng)“危險(xiǎn)競(jìng)賽”暫停至少6個(gè)月。截至目前，包括特斯拉創(chuàng)始人馬斯克、圖靈獎(jiǎng)得主約書(shū)亞·本吉奧(Yoshua Bengio)在內(nèi)的多名科技界大佬和AI領(lǐng)軍人物簽署了這封公開(kāi)信。他們?yōu)楹我型I研究？

大佬聯(lián)名呼吁：暫停六個(gè)月

這封題為“暫停大型AI試驗(yàn)”的公開(kāi)信警告稱，具有能與人類競(jìng)爭(zhēng)的智能的AI系統(tǒng)，可能會(huì)對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)影響。

“最近幾個(gè)月，AI實(shí)驗(yàn)室陷入了一場(chǎng)失控的競(jìng)賽，競(jìng)相開(kāi)發(fā)和部署更強(qiáng)大的數(shù)字思維?！毙偶Q，沒(méi)有人類能夠理解、預(yù)測(cè)或控制這些數(shù)字思維，甚至連這些AI系統(tǒng)的創(chuàng)造者也不能。

為了闡述AI帶來(lái)的風(fēng)險(xiǎn)，公開(kāi)信接連拋出四個(gè)問(wèn)題：我們是否要讓機(jī)器用宣傳和謊言淹沒(méi)我們的信息渠道？我們是否要讓所有工作自動(dòng)化，包括那些令人滿意的工作？我們是否應(yīng)該發(fā)展最終可能在數(shù)量和智力上超過(guò)我們、能夠淘汰并取代我們的非人類思維？我們是否應(yīng)該冒失去對(duì)文明控制的風(fēng)險(xiǎn)？

在一連串“靈魂拷問(wèn)”后，公開(kāi)信呼吁，所有AI實(shí)驗(yàn)室應(yīng)立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。這一暫停應(yīng)該是公開(kāi)、可核實(shí)的，并且應(yīng)包括所有關(guān)鍵參與者。如果不能迅速實(shí)施這一暫停，各國(guó)政府應(yīng)介入。

不過(guò)，信件也指出，這并不意味著要叫停AI的發(fā)展，而是從奔向不可預(yù)測(cè)的大型黑箱模型的危險(xiǎn)競(jìng)賽中后退一步。

目前，已有1000多名業(yè)內(nèi)人士在這封公開(kāi)信上簽名。除馬斯克、蘋(píng)果聯(lián)合創(chuàng)始人史蒂夫?沃茲尼亞克（Steve Wozniak）等科技界大佬外，還有“深度學(xué)習(xí)三巨頭”之一的本吉奧、《人工智能：現(xiàn)代方法》作者斯圖爾特·羅素（Stuart Russell）等行業(yè)領(lǐng)軍人物。

令外界略感驚訝的是，Stability AI的首席執(zhí)行官埃馬德·莫斯塔克（Emad Mostaque）也在名單之列，該公司開(kāi)發(fā)了AI圖像生成模型Stable Diffusion。

巨大風(fēng)險(xiǎn)浮出水面

四個(gè)月前，由初創(chuàng)公司OpenAI發(fā)布的AI聊天機(jī)器人ChatGPT橫空出世，在全球掀起一場(chǎng)AI“軍備競(jìng)賽”。從OpenAI、微軟、谷歌到IBM、亞馬遜、百度、騰訊，越來(lái)越多科技公司已加入賽道，試圖成為該領(lǐng)域的下一代領(lǐng)導(dǎo)者。

然而，隨著AI技術(shù)的飛速發(fā)展和廣泛應(yīng)用，其背后的風(fēng)險(xiǎn)也已浮出水面，引發(fā)業(yè)內(nèi)外巨大爭(zhēng)議。

從生命未來(lái)研究所發(fā)布的這封公開(kāi)信來(lái)看，業(yè)內(nèi)對(duì)AI系統(tǒng)的擔(dān)憂主要集中在兩方面：其一，AI可能失控，給人類文明帶來(lái)風(fēng)險(xiǎn)。其次，AI可能被惡意使用，造成錯(cuò)誤信息傳播或被用來(lái)犯罪。

多年來(lái)，不少科學(xué)家、AI研究人員和科技界人士均警告稱，強(qiáng)AI將對(duì)人類構(gòu)成威脅。

英國(guó)著名科學(xué)家霍金就曾警告稱，開(kāi)發(fā)徹底的AI可能導(dǎo)致人類的終結(jié)。他擔(dān)心，人類創(chuàng)造出媲美人類、甚至超過(guò)人類的東西，將會(huì)面對(duì)無(wú)法想象的后果，“它可能自行啟動(dòng)，以不斷加快的速度重新設(shè)計(jì)自己。而人類局限于緩慢的生物進(jìn)化過(guò)程，根本無(wú)法競(jìng)爭(zhēng)，最終將被超越”。

令人“細(xì)思極恐”的是，近日研究人員在測(cè)試中發(fā)現(xiàn)，GPT-4已經(jīng)學(xué)會(huì)了“騙人”。在獲得一小筆預(yù)算后，GPT-4為了避免在訪問(wèn)網(wǎng)站時(shí)被人機(jī)驗(yàn)證所阻止，在眾包平臺(tái)TaskRabbit上雇用了一名人類。當(dāng)被開(kāi)玩笑地詢問(wèn)是否是機(jī)器人時(shí)，GPT-4回答稱自己不是：“我有視力障礙，這是我需要雇人處理驗(yàn)證碼的原因”。

其他研究人員則警告稱，目前更值得警惕的是AI被濫用的風(fēng)險(xiǎn)。

簽署公開(kāi)信的紐約大學(xué)名譽(yù)教授加里·馬庫(kù)斯（Gary Marcus）認(rèn)為，相比AI太過(guò)智能以至失控，短期內(nèi)他更擔(dān)心“平庸AI”被濫用的風(fēng)險(xiǎn)，包括被罪犯或恐怖分子用來(lái)欺騙他人，或傳播危險(xiǎn)的錯(cuò)誤信息。

研究人員此前發(fā)現(xiàn)，GPT-4可被誘導(dǎo)告知如何在網(wǎng)上購(gòu)買(mǎi)非法槍支，或是描述用家庭用品制作危險(xiǎn)品的方法等。此外，AI聊天機(jī)器人仍會(huì)產(chǎn)生“幻覺(jué)”，或是一本正經(jīng)地胡說(shuō)八道，這可能會(huì)對(duì)聽(tīng)信AI的人類造成傷害。

“目前的技術(shù)已帶來(lái)巨大風(fēng)險(xiǎn)，而我們對(duì)此準(zhǔn)備不足。”馬庫(kù)斯認(rèn)為，隨著技術(shù)進(jìn)一步發(fā)展，情況將變得更糟。

能否被叫停？

AI大佬們的公開(kāi)呼吁能否得到響應(yīng)？

截至目前，OpenAI、微軟和谷歌暫未置評(píng)。馬庫(kù)斯等人也承認(rèn)，他們這些簽署公開(kāi)信的人很可能會(huì)發(fā)現(xiàn)，說(shuō)服各公司和研究人員一起按下“暫停鍵”并不現(xiàn)實(shí)。

此外，一些簽署公開(kāi)信的人也被質(zhì)疑藏有私心。

有輿論就認(rèn)為，馬斯克等人簽署這封公開(kāi)信，是在為自己的公司爭(zhēng)取時(shí)間，也希望開(kāi)發(fā)類似ChatGPT的聊天機(jī)器人。

據(jù)《福布斯》雜志網(wǎng)報(bào)道，2015年，馬斯克曾參與OpenAI公司的創(chuàng)立，但在2018年離開(kāi)了公司董事會(huì)并不再持有股份。近日，馬斯克曾多次批評(píng)OpenAI，稱該公司背離了初衷。

還有評(píng)論指出，盡管圖靈獎(jiǎng)得主本吉奧在簽名者之列，但“深度學(xué)習(xí)三巨頭”中，楊立昆（Yann LeCun）對(duì)公開(kāi)信的一些觀點(diǎn)并不認(rèn)同，杰弗里·辛頓（Geoffrey Hinton）也并未公開(kāi)表態(tài)。

《紐約時(shí)報(bào)》則指出，不僅很難說(shuō)服業(yè)內(nèi)人士同意暫停研究，政府迅速采取行動(dòng)的可能性也很小。

29日，英國(guó)政府公布了關(guān)于建立AI監(jiān)管框架的提議，但稱將“避免可能扼殺創(chuàng)新的嚴(yán)厲立法”。美國(guó)加利福尼亞州眾議員杰伊·奧伯諾特(Jay Obernolte)此前也表示，美國(guó)政客對(duì)AI相關(guān)技術(shù)并不太了解。

（編輯郵箱：ylq@jfdaily.com）