ChatGPT或GPT4并沒(méi)有什么令人驚訝或者秘不可宣的地方，除了它們可以公之于眾這一事實(shí)之外。

請(qǐng)大家平靜一下。對(duì)生成式人工智能技術(shù)進(jìn)步的興奮已經(jīng)達(dá)到了狂熱的程度，隨之而來(lái)的是一系列極端的擔(dān)憂。散布恐懼者分為了兩大陣營(yíng)：要么認(rèn)為人工智能很快就能創(chuàng)造一個(gè)巨大的反烏托邦未來(lái)，要么認(rèn)為它即將對(duì)人類(lèi)的生存構(gòu)成威脅。

上個(gè)月，包括埃隆·馬斯克(Elon Musk)和一些人工智能大師在內(nèi)的一群科技業(yè)高管，呼吁暫停開(kāi)發(fā)先進(jìn)的人工智能系統(tǒng)6個(gè)月，以便該行業(yè)能夠建立針對(duì)有害結(jié)果的保障措施，這讓這場(chǎng)危機(jī)火上澆油。這些科技業(yè)高管呼吁暫停創(chuàng)新既是前所未有的，也是毫無(wú)必要的。

《巴倫周刊》科技欄目最近就人工智能的現(xiàn)狀、ChatGPT 的興起以及為什么要求暫停人工智能研究是錯(cuò)誤的觀點(diǎn)，與Meta Platforms(META)首席人工智能科學(xué)家楊立昆(Yann LeCun)進(jìn)行了交流。

楊立昆是人工智能行業(yè)最杰出的科學(xué)家之一，他一直直言不諱地批評(píng)那些夸大 ChatGPT 等人工智能聊天機(jī)器人所使用的基礎(chǔ)技術(shù)能力的人。

他是紐約大學(xué)(New York University)的教授，2013年加入了 Facebook (現(xiàn)在改名為Meta)。與杰弗里 · 辛頓(Geoffrey Hinton)和約書(shū)亞 · 本吉奧(Yoshua Bengio)一起，楊立昆因圍繞深度學(xué)習(xí)技術(shù)的研究而獲得了2018年 ACM 圖靈獎(jiǎng)——計(jì)算機(jī)領(lǐng)域的諾貝爾獎(jiǎng)，這些技術(shù)已經(jīng)成為現(xiàn)代人工智能技術(shù)的基礎(chǔ)。這三位科學(xué)家因其在人工智能領(lǐng)域中的工作而經(jīng)常被稱(chēng)為“人工智能教父”。以下是我們與楊立昆經(jīng)過(guò)編輯后的談話摘錄。

《巴倫周刊》：請(qǐng)解釋一下 ChatGPT 和大型語(yǔ)言模型(LLM)背后的技術(shù)是如何工作的？

楊立昆：你可以把它想象成一個(gè)超級(jí)強(qiáng)大的預(yù)測(cè)鍵盤(pán)。大型語(yǔ)言模型首先要對(duì)大量的單詞進(jìn)行訓(xùn)練，我們向模型展示一個(gè)單詞窗口，并詢(xún)問(wèn)它下一個(gè)單詞是什么，它將預(yù)測(cè)下一個(gè)單詞，填入這個(gè)單詞，然后問(wèn)自己下一個(gè)單詞是什么。

《巴倫周刊》：這些模型擅長(zhǎng)什么，又不擅長(zhǎng)什么？

楊立昆：它們適用擔(dān)任寫(xiě)作助手，可以幫助你用正確的語(yǔ)法風(fēng)格來(lái)表述事情。但是對(duì)于回答事實(shí)類(lèi)問(wèn)題，它們干得并不是很好，因?yàn)檫@種模型要么是反芻存儲(chǔ)在其記憶中的內(nèi)容，要么是反芻一些類(lèi)似于它在訓(xùn)練數(shù)據(jù)中讀取的各種內(nèi)容的組合或者插值，這意味著它可能會(huì)發(fā)生事實(shí)上的錯(cuò)誤，或者它只是在編造一些聽(tīng)起來(lái)不錯(cuò)的東西。

《巴倫周刊》：為什么人工智能聊天機(jī)器人有時(shí)在準(zhǔn)確性方面存在這么大的問(wèn)題？

楊立昆：當(dāng)你擁有一個(gè)基本上是這樣一個(gè)字一個(gè)字地預(yù)測(cè)的系統(tǒng)，你就很難進(jìn)行控制或者操縱，因?yàn)樗鼈儠?huì)產(chǎn)生什么，完全取決于它們訓(xùn)練的統(tǒng)計(jì)數(shù)據(jù)和給定的提示。

在數(shù)學(xué)上來(lái)說(shuō)，它很有可能與正確答案的路徑呈現(xiàn)出指數(shù)性的偏離，它生成的答案越長(zhǎng)，最終答案是徹頭徹尾的垃圾的可能性就越大。

《巴倫周刊》：你為什么如此反對(duì)要求人工智能開(kāi)發(fā)中止六個(gè)月的信？

楊立昆：我同意人工智能是一項(xiàng)強(qiáng)大的技術(shù)，必須負(fù)責(zé)任和安全地部署和開(kāi)發(fā)。但我不認(rèn)為停止研究和開(kāi)發(fā)六個(gè)月是正確的答案。這根本無(wú)濟(jì)于事，而且也非常天真，因?yàn)闆](méi)有人會(huì)這么做。

讓我們來(lái)看看在這封信上簽名的人的類(lèi)別。第一類(lèi)是最令人震驚的: 真正的末日預(yù)言家。他們說(shuō)我們正在制造的機(jī)器最終會(huì)像人類(lèi)一樣聰明。而一旦發(fā)生這種情況，人類(lèi)就完了。

我覺(jué)得這太愚蠢了。而且他們肯定搞錯(cuò)了。這是基于人工智能系統(tǒng)不易控制、很難提出符合人類(lèi)價(jià)值觀的目標(biāo)的想法。但我們可以設(shè)計(jì)目標(biāo)，以便它們能夠正確行事。

第二類(lèi)是擔(dān)心直接傷害的人。有了大型語(yǔ)言模型，你可以產(chǎn)生無(wú)意義和錯(cuò)誤的信息。一些人擔(dān)心互聯(lián)網(wǎng)將被機(jī)器生成的內(nèi)容所淹沒(méi)，這些內(nèi)容具有誤導(dǎo)性，用戶可能會(huì)被洗腦。我也不相信這種情況，因?yàn)樗呀?jīng)存在了。人們的適應(yīng)能力很強(qiáng)，他們已經(jīng)學(xué)會(huì)了如何應(yīng)對(duì)新媒體。

第三類(lèi)是擔(dān)心少數(shù)科技公司生產(chǎn)的人工智能產(chǎn)生的系統(tǒng)性社會(huì)影響。我還是不同意這種觀點(diǎn)。部分原因是因?yàn)槲覟镸eta工作，我能從內(nèi)部看到科技公司的動(dòng)機(jī)是什么。

《巴倫周刊》：OpenAI 的技術(shù)與 Google、Meta和其他初創(chuàng)企業(yè)的 AI 技術(shù)相比如何？

楊立昆：OpenAI 似乎有點(diǎn)走在了游戲的前面，因?yàn)樗麄儽绕渌烁绲亻_(kāi)始訓(xùn)練那些大型系統(tǒng)，并根據(jù)用戶反饋進(jìn)行微調(diào)的過(guò)程。但是 ChatGPT 或 GPT4并沒(méi)有什么令人驚訝或者秘不可宣的地方，除了它們可以公之于眾這一事實(shí)之外。

自然語(yǔ)言理解并不是一項(xiàng)新技術(shù)。這是相同的技術(shù)，transformer（機(jī)器學(xué)習(xí)模型）的整個(gè)想法來(lái)自谷歌。Meta、谷歌和一些初創(chuàng)公司的很多人已經(jīng)開(kāi)始研究這項(xiàng)技術(shù)，有成百上千的科學(xué)家和工程師知道如何搭建這些東西。

你之所以沒(méi)有(更早)在谷歌和 Meta 上看到類(lèi)似的系統(tǒng)，是因?yàn)閷?duì)于一家大公司來(lái)說(shuō)，推出一個(gè)不完全可靠、可以發(fā)布無(wú)稽之談的系統(tǒng)，會(huì)對(duì)其聲譽(yù)造成更大的危險(xiǎn)。

《巴倫周刊》：當(dāng)機(jī)器能夠自己學(xué)習(xí)和思考時(shí)，我們是否已經(jīng)接近通用人工智能（AGI）？

楊立昆：有人聲稱(chēng)，通過(guò)擴(kuò)展這些大型語(yǔ)言模型系統(tǒng)，我們將達(dá)到人類(lèi)的智力水平。我的觀點(diǎn)是這是完全錯(cuò)誤的。有很多事情我們不明白，比如我們還不知道如何用機(jī)器進(jìn)行再生產(chǎn)——有些人稱(chēng)之為 AGI的東西。

我們不能使用像 ChatGPT 或 GPT4這樣的技術(shù)來(lái)訓(xùn)練機(jī)器人清理桌子或者填滿洗碗機(jī)，即使這對(duì)一個(gè)孩子來(lái)說(shuō)是一件微不足道的任務(wù)，我們還是做不到。我們?nèi)匀粵](méi)有實(shí)現(xiàn)L5級(jí)（完全)自動(dòng)駕駛。這需要一套完全不同的技能，你無(wú)法通過(guò)閱讀文本來(lái)進(jìn)行學(xué)習(xí)。

《巴倫周刊》：什么時(shí)候有可能？

楊立昆：未來(lái)五年，我們將取得重大進(jìn)展。但我不認(rèn)為我們能達(dá)到人類(lèi)的智力水平，這還需要很長(zhǎng)時(shí)間。每次出現(xiàn)這種預(yù)測(cè)時(shí)，我們都低估了人類(lèi)智力的復(fù)雜性。

《巴倫周刊》：謝謝你的時(shí)間，楊。

文|金泰

編輯|喻舟