作者｜ 沐風

來源｜ 創(chuàng)頭條

在最近的一次斯坦福大學對談中，前谷歌CEO 埃里克·施密特（Eric Schmidt）深入探討了他對人工智能的發(fā)展方向、全球科技競爭的未來，以及這些技術如何在短期內(nèi)對社會、經(jīng)濟和國家安全產(chǎn)生深遠影響的看法。

施密特還回顧了他在科技行業(yè)的多年經(jīng)歷，分享了對未來幾年人工智能技術突破的預見。

施密特也指出了AI發(fā)展面臨的挑戰(zhàn)，包括算力需求、技術壟斷、人才競爭、錯誤信息和對AI模型運作方式的理解。他強調(diào)了保持AI技術領先地位、應對錯誤信息以及理解AI模型運作方式的重要性。

但在談論中施密特有些太過于“放飛自我”，導致一些言論引發(fā)巨大爭議，除了稱谷歌員工認為“在家工作比獲勝更重要”引發(fā)爭議外，他在談及人工智能未來發(fā)展時，竟公然表示，AI 創(chuàng)業(yè)公司可以先通過 AI 工具盜取知識產(chǎn)權（IP），然后再雇傭律師處理法律糾紛。

施密特以短視頻平臺TikTok為例，聲稱如果TikTok被禁，任何人都可以用AI生成一個類似的應用，直接竊取所有用戶、所有音樂等內(nèi)容（Make me a copy of TikTok, steal all the users, steal all the music），迅速上線。如果產(chǎn)品成功爆紅，創(chuàng)業(yè)者只需雇傭律師解決法律問題；如果產(chǎn)品失敗，盜竊行為也就無足輕重。他甚至表示，硅谷就是這么運作的。

目前斯坦福大學已經(jīng)刪除了相關視頻

以下為演講實錄

注：作為長期為美國國防部服務的施密特，他的言論立場需要鑒別，相信讀者一定能自行理解。

AI的短期突破與深遠影響

主持人：今天的客人確實需要介紹一下。我想我第一次見到埃里克是在大約 25 年前，當時他來到斯坦福商學院擔任Novell的領導。從那時起，他從2001年開始在谷歌做了一些事情，從2017年開始在施密特期貨公司做了一些事情，并且做了很多你可以做的事情閱讀其他的事情，但他只能在這里直到5月15日，所以我想我們應該深入研究一些問題，我知道你們也發(fā)了一些。我在這里寫了很多，但我們剛才在樓上討論的內(nèi)容很有趣，所以我要從這個開始，埃里克，如果可以的話，這就是你認為人工智能在短期內(nèi)會更走向何方，我認為你將其定義為未來一兩年？

施密特：事情變化得如此之快，我覺得每六個月我都需要發(fā)生一次發(fā)表新的演講。 任何人都可以聽到計算機的聲音，預算計算機科學工程師，任何人都可以向班上的其他人解釋百萬令牌上下文窗口是什么嗎？你在這里。說出你的名字，告訴我們它的作用。

學生：基本上它允許你用一百萬個令牌或一百萬個單詞或其他什么來提示。

施密特：所以你可以問一個百萬字的問題。

學生：是的，我知道這是一個非常大的方向。

施密特：不，不，他們他們正在邁向1000萬。是的，其中幾個。Anthropic已經(jīng)達到了200,000，他們的目標是達到百萬等等。你可以想象 OpenAI 也有類似的目標。

這里有人可以給出人工智能代理的技術定義嗎？是的，先生。所以代理是執(zhí)行某種任務的東西。另一個定義是它是一個LLM內(nèi)存中的狀態(tài)。計算機科學家們，你們中的任何人都可以定義文本到動作嗎？

學生：獲取文本并將其轉化為行動？

施密特：不是獲取文本并將其變成更多文本，而是獲取文本并讓人工智能觸發(fā)操作。

所以另一個定義是 Python 語言，我從來不想看到這種編程語言生存下來，人工智能中的一切都是用 Python 完成的。

有一種名為 Mojo 的新語言剛剛問世，看起來他們終于解決了人工智能編程問題，但我們將看看它是否真的能超越 Python 的統(tǒng)治地位。還有一個技術問題。為什么英偉達市值2萬億美元而其他公司卻苦苦掙扎？技術解答。

我的意思是，我認為歸根結底，大多數(shù)代碼都需要使用目前只有 NVIDIA GPU 支持的 CUDA 優(yōu)化來運行。

其他公司可以生產(chǎn)他們想要的任何產(chǎn)品，但除非他們擁有 10 年的軟件，否則你就沒有機器學習優(yōu)化。

我喜歡將 CUDA 視為 GPU 的 C 編程語言。這就是我喜歡的思考方式。它成立于 2008 年。我一直認為它是一種糟糕的語言，但它卻成為了主流。

還有另一種見解。有一組針對 CUDA 高度優(yōu)化的開源庫，而不是其他任何東西，以及構建所有這些堆棧的每個人，在任何討論中都完全忽略了這一點。從技術上講，它被稱為 VLM 和一大堆類似的庫。高度優(yōu)化的 CUDA，如果您是競爭對手，則很難復制。那么這一切意味著什么呢？

明年，您將看到非常大的上下文窗口、代理和文本操作。當它們大規(guī)模交付時，將對世界產(chǎn)生尚無人了解的影響。在我看來，這比社交媒體給我們帶來的可怕影響要大得多。這就是原因。在上下文窗口中，您基本上可以將其用作短期記憶，我對上下文窗口變得這么長感到震驚。

技術原因與以下事實有關：難以服務、難以計算等等。關于短期記憶的有趣地點，當你吃飯時，你問一個問題，讀了20本書，你把書中的文本作為查詢，然后你說，告訴他們我說話。它忘記了中間部分，而這就是人類大腦的工作方式。這就是我們的不穩(wěn)定的位置。關于智能體，有些人現(xiàn)在基本上正在構建LLM智能體，他們這樣做的方式是他們閱讀化學之類的東西，他們發(fā)現(xiàn)化學原理，然后他們測試它，然后他們將其重新添加到他們的理解中。

這非常有力。然后第三件事，正如我提到的，是文本到行動。所以我給你舉了個例子。政府正在嘗試禁止 TikTok。我們將看看這是否真的發(fā)生。

如果TikTok被禁止，我建議你們每個人都這樣做。對你的法學碩士說以下幾句話。給我復制TikTok，偷走所有用戶，偷走所有音樂，把我的偏好調(diào)整去，在接下來30秒內(nèi)制作這個程序，發(fā)布它，然后在一小時內(nèi)，如果不是病毒式傳播的，按照同樣的思路做一些不同的事情。這就是命令。

你明白這是多么強大。如果你可以從不同的語言轉向不同的數(shù)字，這基本上就是Python命令中的這個場景，想象一下，地球上的每個人都有自己的程序員，他們實際上做他們想做的事，是不是為我工作的程序員，他們不做我要求的事情，對吧？這里的程序員知道我在說什么。所以想象一下，一個不傲慢的程序員實際上做了你想做的事，你不必支付所有的錢，而且這些程序的供應是無限的。

主持人：這一切都在未來一兩年內(nèi)完成。

施密特：很快。這三件事，我非常相信這三件事的結合將在波浪潮中。所以你問還會什么。每周五我發(fā)生一次振蕩。所以我們有一個，這是一個偶數(shù)奇數(shù)的振蕩。

因此，目前，前沿模型之間的差距，他們現(xiàn)在只有三個，我將反駁他們的身份，以及其他所有者，在我看來，差距越來越大。六個月前，我相信差距正在越來越小。所以我在小公司里投入了很多錢?，F(xiàn)在我不確定。我正在和大公司交談，大公司告訴我他們需要100億、200億、500億、1000億。

星際之門是1000億，對吧？這非常非常困難。我和山姆·奧特曼是密友。他認為這大約需要3000億美元，甚至更多。我向他指出，我已經(jīng)在計算了有了所需的能量。

然后，我本著充分披露的精神，周五去了白宮，告訴他們我們需要與加拿大成為最好的朋友，因為加拿大有很多非常好的人，幫助發(fā)明了人工智能，還有水電。因為我們作為一個國家沒有足夠的力量選擇來實現(xiàn)這一點。另一種是讓阿拉伯人資助它。我個人喜歡阿拉伯人。我在那里花了很多時間，對吧？

但他們不會遵守我們的國家安全規(guī)則。而加拿大和美國是我們都同意的三部分的一部分。

主持人：因此，這些價值1000億美元、3000億美元的數(shù)據(jù)中心，電力數(shù)據(jù)中心成為稀缺資源。

AI芯片領先地位很難被超越

施密特：順便說一句，如果你按照這個推理思路，我為什么要討論 CUDA 和 Nvidia？

如果3000億美元全部流向英偉達，你就知道在股市上該做什么了。好。這不是股票推薦。我沒有發(fā)言。嗯，這是一部分。

主持人：所以我們需要更多的芯片，但英特爾從美國政府獲得了很多錢。 AMD他們正在嘗試 在建設半導體制造廠。如果您的計算機中有英特爾計算機，則請舉手，您的任何計算設備中都有英特爾芯片。好。壟斷就這么多。嗯，這就是重點。

他們曾經(jīng)確實擁有壟斷地位。絕對。英偉達現(xiàn)在擁有壟斷地位?，F(xiàn)在，像CUDA這樣的進入壁壘，不是有其他的東西，所以我和Percy聊天，前幾天Percy Landy，他在TPU和Nvidia芯片之間切換，這取決于他能夠獲得什么來訓練模型。

施密特：那是因為他別無選擇。如果他有無限的錢，他會，今天他會選擇 Nvidia 的 B200 架構，因為它會更快。我不是說，我是說，有比較是件好事。我與 AMD 和 Lisa Sue 進行了很長時間的交談。他們已經(jīng)構建了一個東西，將從您描述的這個 CUDA 架構轉化為他們自己的架構，稱為 Rockum。另外沒有完全的作業(yè)。他們正在努力。

谷歌輸給OpenAI

只因員工不夠卷

主持人：你在 Google 工作了很長時間，他們發(fā)明了變壓器架構。彼得，彼得。這都是彼得的錯。感謝另外的聰明人，比如彼得和杰夫·迪恩以及所有者。

但現(xiàn)在看起來不是，他們已經(jīng)失去了開放人工智能的主動權，甚至最后一個排行榜，我看到了Anthropix?？藙诘挛痪影袷?。我問了Sundar這個問題，他并沒有給我一個非常尖銳的答案。也許，也許你對那里發(fā)生的事情有一個更清晰的記錄的解釋。本著全面披露的精神，

施密特：我不再是谷歌的員工。谷歌認為，工作與生活的平衡、早點回家和在家工作比取得勝利更重要。而創(chuàng)業(yè)公司，創(chuàng)業(yè)公司之所以能成功，是因為人們工作得像地獄一樣。我很遺憾這么直言不諱，但事實是的，如果你們都離開大學，去找一家公司，你們不會讓人們在家工作，每周只來一天。如果你想與谷歌早期的其他創(chuàng)業(yè)公司競爭。

主持人：微軟就是這樣。完全。

施密特：但現(xiàn)在看來，在我的行業(yè)中，我猜，我們的行業(yè)有著悠久的歷史，公司以真正創(chuàng)新的方式觸發(fā)，真正主導了一個領域，而不是僅僅將其作為下一個過渡。所以我們很好我認為創(chuàng)始人這一事實是特別的。創(chuàng)始人需要負責。創(chuàng)始人很難合作。

他們努力推動人們。盡管我們不喜歡埃隆的個人行為，但他從那里的人們得到了什么。我和他一起吃晚飯，他正在飛翔。我當時在蒙大拿州。他當晚10點乘車飛機，在午夜與 x.ai 會面準備。

我在臺灣，他們說這是臺積電，我對他們印象深刻。他們有一條規(guī)則，從優(yōu)秀的物理學家中出來的初生博士必須在工廠的地下室工作。現(xiàn)在，你能想象一下讓美國物理學家這樣做嗎？博士，極不可能。

不同的職業(yè)道德。這里的問題是，這些系統(tǒng)具有網(wǎng)絡效應。所以時間很重要。在大多數(shù)企業(yè)中，時間并不那么重要。你有很多時間。

可口可樂和百事可樂仍然存在，可口可樂和百事可樂之間的戰(zhàn)斗將繼續(xù)進行，一切都是冰河。當我與電信公司打交道時，典型的電信協(xié)議需要18個月才能簽署。沒有理由花18個月的時間做任何事情。完成它。我們正處于一個增長最大、收益最大的時期。

而且它也需要瘋狂的想法。就像微軟做 OpenAI 交易時一樣，我認為這是我聽過的最愚蠢的想法?；旧蠈⒛愕?AI 領導權外包給 OpenAI 和 Sam 和他的團隊。我的意思是，這太瘋狂了。在微軟或其他任何地方，沒有人會這樣做。

然而，今天，他們正在成為最有價值的公司。他們肯定是蘋果的正面交鋒。蘋果沒有一個國家好的人工智能解決方案，看起來他們安排了作業(yè)。是的，先生。在安全或地緣上政治利益方面，您認為人工智能將如何發(fā)揮作用或與中國競爭？

所以我是一個人工智能委員會的主席，我非常仔細地研究了這一點，你可以閱讀它。大約有752頁，我總結了一些，我們的例子了，我們需要保留例子，我們需要很多錢來實現(xiàn)這件事一點。我們的客戶是初始化和初始化。不斷收到的是《芯片協(xié)議》和許多其他類似的東西。一個粗略的情況是，如果你假設前沿模型向前發(fā)展，并且有一些開源模型，那么很可能只有極少數(shù)公司可以玩這個游戲。

各國，一致。那些國家是什么，他們是誰？擁有大量資金和大量人才、強大的教育體系和愿望的國家。美國就是其中之一。中國是另一個。 還有其他的？

主持人：還有其他的嗎？

全球科技競爭中的中美博弈

施密特：我不知道。或者。但可以肯定的是，在你們有生之年，美國和中國之間爭奪知識霸權的戰(zhàn)斗將成為一場戰(zhàn)爭。

因此，美國政府基本上禁止了英偉達芯片，盡管他們不被允許說這是他們正在做的事情，但他們實際上這樣做了。我們有大約 10 年的芯片優(yōu)勢。我們在細分市場上大約領先10年，就我們而言，我們有大約 10 年的芯片優(yōu)勢。因此，舉個例子，今天我們比中國領先幾年的技術。我的猜測是，我們進一步拉開與中國的距離，而中國對此非常憤怒。 所以這是一個大問題。這是特朗普政府做出的決定，并由拜登政府推動。

主持人：你是否發(fā)現(xiàn)今天的國會政府在聽取你的建議嗎？你認為是這樣會帶來如此規(guī)模的投資嗎？ 顯然，芯片任務已經(jīng)完成，但除此之外，還必須建立一個龐大的人工智能系統(tǒng)嗎？

施密特：所以，正如你所知道的，我領導著一個非正式的、臨時的、非法律的團體。這與非法行為不同。沒錯。只是為了搞清楚。

其中包括所有的嫌疑人。而過去一年來，通常的嫌疑人提出了成為拜登政府人工智能法案的推理基礎，這是歷史上最后的總統(tǒng)指令。

主持人：你說的是競爭性的特別研究項目嗎？

施密特：不，這是行政辦公室的實際行為。他們正忙于實施細節(jié)。

其中，他們做了對的。因此，舉個例子，我們?nèi)ツ甑囊粋€辯論是，你如何發(fā)現(xiàn)一個已經(jīng)學會了它，但你不知道該問什么系統(tǒng)中的危險？一個核心問題。它學到了一些不好的東西，但它不能告訴你它學到了什么，你不知道該問它什么。而且威脅如此之多。

就像它學會了如何以某種你不知道如何問它的新方式化學混合反應一樣。因此，正在努力解決這個問題。但人們最終在給他們的格式中寫入，有一個閾值，我們簡單命名為 10 到 26 次翻牌，從技術上講，這是一個計算的時髦標準，超過這個閾值，你必須向政府報告你正在這樣做。這是規(guī)則的一部分。歐盟只是為了確保他們與眾不同，做到了10到25個。

但這一切都已經(jīng)足夠接近了。我認為所有這些區(qū)別都消失了，因為技術現(xiàn)在會，這個技術術語被稱為聯(lián)合，基本上你可以把各個部分合并訓練放在一起。因此，我們可能無法保護人們承載這些新事物的行為。

主持人：嗯，有傳言說，這就是 OpenAI 的訓練方式，部分原因是功耗。他們沒有一個這樣做的地方。

好吧，讓我們談談一場舉行的真正的戰(zhàn)爭。我知道你非常參與的事情是烏克蘭戰(zhàn)爭，特別是，我不知道你是否可以談論白鸛，而你的目標是賺 500,000 美元、500 美元的無人機摧毀了500萬美元的坦克。

施密特：這如何改變戰(zhàn)爭？我為國防部工作了七年，試圖改變我們管理軍隊的方式。我不是特別喜歡軍隊，但它非常昂貴，我想看看我是否可以提供幫助。

我認為在我看來，我非常失敗。他們給了我一枚獎牌，所以他們必須給失敗者或其他什么獎牌獲得者。但我的自我批評是，什么都沒有真正改變，美國的制度不會帶來真正的創(chuàng)新。因此，看著俄羅斯人用炸彈摧毀了小老太太和孩子們的公寓樓，我簡直發(fā)瘋了。所以我決定和你的朋友塞巴斯蒂安·特倫（Sebastian Thrun）一起在一家公司工作，他是這里的前教員，還有一大群斯坦福大學的人。

這個想法基本上是做兩件事。在這些本質(zhì)上是機器人的戰(zhàn)爭中，以復雜而強大的方式使用人工智能，第二個是降低機器人的成本?，F(xiàn)在你坐在那里，你走了，為什么像我這樣的好自由主義者會這樣做嗎？答案是，軍隊的整個都是坦克、大炮和直擊炮，我們可以消滅所有這些，我們至少可以通過陸路入侵一個國家的懲罰基本上是不可能的。它應該消除那種陸戰(zhàn)。

主持人：嗯，這是一個問題是，是否給防守而不是進攻帶來了更多的優(yōu)勢？你甚至可以做出這種區(qū)分嗎？

施密特：因為我去年一直在做這件事，所以我學到了很多關于關于戰(zhàn)爭，需要了解的一件事是，進攻戰(zhàn)爭總是有優(yōu)勢，因為你總是可以壓倒防御系統(tǒng)。因此，作為防御戰(zhàn)略，你最好有一個非常強大的進攻，如果你需要的話，你可以使用它。

我和其他人正在構建的系統(tǒng)將實現(xiàn)這一點。由于該系統(tǒng)的運行方式，我現(xiàn)在是一名有監(jiān)測的軍火商、計算機科學家、改裝和軍火商。這是一個進步嗎？我不知道。我不會在你們的小組中這樣做。

我堅持使用人工智能。由于法律的運作方式，我們是私下進行的，然后在政府的支持下，這一切都是合法的。它直接進入烏克蘭，然后他們打仗。如果不深入到所有細節(jié)，事情就我認為，如果在5月或6月，如果俄羅斯人像他們預期的那樣建立起來，烏克蘭將失去一整塊領土，并開始失去整個國家的過程。

所以情況相當可怕。如果有人認識瑪喬麗·泰勒·格林（Marjorie Taylor Greene），我鼓勵你把她從你的股票列表中刪除，因為她就是那個，一個人正在阻止提供近億美元的資金資金來拯救一個重要的民主國家。

對抗性人工智能與安全挑戰(zhàn)

主持人：我想換個話題來回答一點哲學問題。所以你、亨利·基辛格和丹·赫滕萊克去年寫了一篇關于知識的本質(zhì)以及它是如何演變的。前幾天晚上我對這個問題進行了討論。

因此，在歷史的大部分時間里，人類對宇宙都有一種神秘的理解，然后出現(xiàn)了科學革命和啟蒙運動。在您的文章中，您認為現(xiàn)在這些模型變得如此復雜且難以理解，以至于我們并不真正知道其中發(fā)生了什么。我引用理查德·費曼的話。他說：“我無法創(chuàng)造的東西，我就不理解?！鼻皫滋煳铱吹搅诉@句話。但現(xiàn)在人們正在創(chuàng)造他們可以創(chuàng)造的東西，但他們并沒有真正理解其中的內(nèi)容。

知識的本質(zhì)是否發(fā)生了某種變化？我們是否必須開始只接受這些模型的說法，而他們卻無法向我們解釋？

施密特：我想用青少年來比喻。如果你有一個青少年，你知道他們是人類，但你無法完全弄清楚他們在想什么。但不知何故，我們在社會中設法適應了青少年的存在，而他們最終會長大而擺脫這種狀態(tài)。

我只是認真的。因此，我們可能會擁有無法完全表征的知識系統(tǒng)，但我們了解它們的邊界。我們了解他們能做的事情的局限性。這可能是我們能得到的最好結果。

主持人：你認為我們會理解這些限制嗎？

施密特：我們會做得很好。我的小組每周開會的共識是，最終你將采用這種所謂的對抗性人工智能的方式，實際上將會有一些公司你會雇傭并付費來破壞你的人工智能系統(tǒng)。比如紅隊。因此，與他們今天所做的人類紅隊不同，你將擁有整個公司和整個人工智能系統(tǒng)行業(yè)，他們的工作是打破現(xiàn)有的人工智能系統(tǒng)并找到它們的漏洞，特別是他們擁有的知識，我們可以想不通。這對我來說很有意義。

對于斯坦福大學的你們來說，這也是一個很棒的項目，因為如果你們有一名研究生必須弄清楚如何攻擊這些大型模型并了解它的作用，那么這是構建下一代的一項偉大技能。所以對我來說，兩人一起旅行是有道理的。

提問環(huán)節(jié)

主持人：好吧，我們來回答這位同學的一些問題。后面有一個。只要說出你的名字。

學生：你之前提到過，這與現(xiàn)在的評論有關，讓人工智能真正做你想做的事。您剛才提到了對抗性人工智能，我想知道您是否可以詳細說明一下。因此，除了明顯的計算機語言原因之外，似乎還需要獲得更高性能的模型，但在我看來，讓它們做你想做的事情似乎部分沒有得到解答。

施密特：好吧，你必須假設，隨著技術的進步等等，當前的幻覺問題會變得越來越少。我并不是建議它消失。

然后你還必須假設有功效測試。所以必須有一種方法來知道事情是否超出了。因此，在我舉的 TikTok 競爭對手的例子中，順便說一句，我并不是說你應該非法竊取每個人的音樂。如果你是一名硅谷企業(yè)家（希望你們所有人都會如此），你會做的是，如果它起飛了，那么你會聘請一大群律師來收拾殘局，對吧？但如果沒有人使用你的產(chǎn)品，那么你竊取了所有內(nèi)容也沒關系。

并且不要引用我的話。

主持人：你在鏡頭前。

施密特：是的，沒錯。

但你明白我的意思。換句話說，硅谷將進行這些測試并清理混亂。這些事情通常就是這樣完成的。所以我自己的觀點是，你會看到越來越多的高性能系統(tǒng)，具有更好的測試和最終的對抗性測試，這將把它限制在一個盒子里。專業(yè)術語稱為思維鏈推理。

人們相信，在接下來的幾年里，你將能夠產(chǎn)生一千個步驟的思維推理鏈，對嗎？做這個，做這個。這就像制作食譜，對吧？對于配方，您可以運行該配方，并且可以實際測試它是否產(chǎn)生了正確的結果。這就是系統(tǒng)的運作方式。

學生：是嗎，先生？總的來說，您似乎對人工智能問題的潛力非常樂觀。我很好奇，你認為是什么推動了這一點？只是更多的計算嗎？是更多的數(shù)據(jù)嗎？ 這是根本性的還是實際的轉變？

施密特：是的。你同意？被扔掉的錢財數(shù)量令人難以置信。我選擇了，我基本上投資了一切，因為我無法弄清楚誰會贏。

而且跟蹤我的資金數(shù)額如此之大。我認為部分原因是因為早期的錢已經(jīng)賺到了，而那些不知道自己在做什么的大錢人必須擁有人工智能組件。現(xiàn)在一切都是人工智能投資，所以他們無法區(qū)分。我將人工智能定義為學習系統(tǒng)，真正學習的系統(tǒng)。所以我認為這就是其中之一。

第二個是有非常復雜的新算法，有點像后變壓器。我的朋友，我的合作者，長期以來發(fā)明了一種新的非變壓器架構。我在巴黎資助的一個團體聲稱也做了同樣的事情。那里有巨大的發(fā)明，斯坦福大學有很多東西。最后一點是，市場有一種信念，即智能的發(fā)明具有無限的回報。

假設你向一家公司投入了 500 億美元的資金，你必須從情報中賺到大量的錢才能償還。因此，我們可能會經(jīng)歷一些巨大的投資泡沫，然后它會自行解決。這在過去一直是正確的，現(xiàn)在也可能是正確的。你之前所說的是，你認為領導人正在遠離其他人?，F(xiàn)在。

問題大致如下。法國有一家公司叫Mistral。他們做得非常好。我顯然是一個投資者。他們已經(jīng)制作了第二個版本。

他們的第三個模型很可能會被關閉，因為它太貴了，他們需要收入，而且他們不能放棄他們的模型。因此，我們行業(yè)中開源與閉源的爭論非常激烈。我的整個職業(yè)生涯都建立在人們愿意分享開源軟件 的基礎上。關于我的一切都是開源的。谷歌的大部分基礎都是開源的。

我所做的一切都是技術性的。然而，巨大的資本成本可能會從根本上改變軟件的構建方式。你和我正在說話。我自己對軟件程序員的看法是，軟件程序員的生產(chǎn)力至少會翻倍。有三四家軟件公司正在嘗試這樣做。

我全都投入了精神。他們都在努力提高軟件程序員的工作效率。我剛剛遇到的最有趣的一個叫做“增強”。我總是想到個體程序員。他們說，那不是我們的目標。

我們的目標是由 100 人組成的軟件編程團隊，編寫數(shù)百萬行代碼，但沒人知道發(fā)生了什么。嗯，這確實是一個很好的人工智能技術。他們會賺錢嗎？我希望如此。所以這里有很多問題。

學生：你好。所以一開始你就提到了上下文窗口擴展的結合。代理人和行動文本將產(chǎn)生難以想象的影響。首先，為什么組合很重要？其次，我知道你不像水晶球，你不一定能預測未來。 但為什么你認為這超出了我們的想象呢？

施密特：我認為很大程度上是因為上下文窗口可以讓你解決新近度問題。目前的模型需要一年的時間來訓練大約18個月，六個月的準備，六個月的訓練，六個月的微調(diào)。所以它們總是過時的。上下文窗口，您可以提供發(fā)生的情況。

您可以在上下文中詢問有關哈馬斯以色列戰(zhàn)爭的問題。那是非常強大的。它像谷歌一樣變得流行。就代理而言，我舉個例子。我成立了一個基金會，為非營利組織提供資金。

我不知道房間里是否有藥劑師。我實在不懂化學。有一個工具叫ChemCrow，CROW，它是一個LLM基于學習化學的系統(tǒng)。他們所做的就是運行它來生成有關蛋白質(zhì)的化學假設，他們有一個實驗室可以連夜運行測試，然后進行學習。這是化學、材料科學等領域的巨大加速和促進劑。

這就是代理模式。我認為只要有很多廉價的程序員就可以理解從文本到行動，對嗎？我認為我們不明白會發(fā)生什么，這又是你的專業(yè)領域，當每個人都有自己的程序員時會發(fā)生什么。我不是在談論打開和關閉燈。我想，另一個例子，由于某種原因你不喜歡谷歌。

所以你說，“讓我成為谷歌的競爭對手?！笔堑?，就你個人而言，你并沒有把我打造為谷歌的競爭對手?！八阉骶W(wǎng)絡。構建 UI。制作一個好的副本。以有趣的方式添加生成人工智能。

在 30 秒內(nèi)完成，看看它是否有效?！睂幔克院芏嗳苏J為，包括 Google 在內(nèi)的現(xiàn)有企業(yè)很容易受到這種攻擊。現(xiàn)在，我們拭目以待。

主持人：有很多問題是誰提出的？是由 Slatter 發(fā)送過來的，我想讓其中一些得到贊成。 所以這是一個。去年我們談過一些這個問題。我們?nèi)绾尾拍茏柚谷斯ぶ悄苡绊懝娸浾?、錯誤信息，特別是在即將到來的選舉期間？他們的短期和長期解決方案是什么？

施密特：即將到來的選舉和全球范圍內(nèi)的大多數(shù)錯誤信息都將出現(xiàn)在社交媒體上。

而且社交媒體公司的組織不夠完善，無法對其進行監(jiān)管。例如，如果你看看 TikTok，就會發(fā)現(xiàn)很多人指責 TikTok 偏愛一種錯誤信息而不是另一種錯誤信息。據(jù)我所知，有很多人在沒有證據(jù)的情況下聲稱中國人強迫他們這樣做。我認為我們這里一團糟。這個國家必須學習批判性思維。

這對美國來說可能是一個不可能的挑戰(zhàn)，但有人告訴你一些事情并不意味著它是真的。

主持人：反之亦然會不會走得太遠？有些事情確實是真的，但沒有人再相信了。有些人稱之為“瘟疫危機”，現(xiàn)在，你知道，埃隆說，“不，我從來沒有這樣做過。 證明一下。”

施密特：哦，讓我們用唐納德·特朗普來證明。聽著，我認為我們的社會存在信任問題。民主可能會失敗。我認為對民主的最大威脅是錯誤信息，因為我們將非常擅長于此。當我管理 YouTube 時，我們在 YouTube 上遇到的最大問題是人們會上傳虛假視頻，從而導致人們死亡。

我們有禁止死亡政策。令人震驚。試圖解決這個問題真是太可怕了。在生成人工智能之前我沒有一個好的答案。

主持人：一項技術并不能解決問題，但有一件事似乎可以減輕我理解為什么它被更廣泛使用的原因是公鑰身份驗證。當喬·拜登講話時，為什么不像 SSL 那樣進行數(shù)字簽名？或者名人或公眾人物或其他人，他們不能有公鑰嗎？

施密特：是的，這是一種公鑰形式，然后是某種形式的確定性，可以了解系統(tǒng)如何當我將信用卡發(fā)送到亞馬遜時，我知道它是亞馬遜。我寫了一篇論文并與喬納森·海特（Jonathan Haidt）一起發(fā)表，他是研究焦慮產(chǎn)生問題的人。

它的影響完全為零。他是一個非常好的溝通者。我可能不是。所以我的結論是，這個系統(tǒng)并沒有按照你所說的那樣組織起來。

主持人：你有一篇論文提倡我們所做的事情嗎？

施密特：提倡你的建議。好吧，我的建議。不，你說的。是的，對。我的結論是，首席執(zhí)行官們總體上正在實現(xiàn)收入最大化。

為了最大化收入，您需要最大化參與度。為了最大限度地提高參與度，你就最大限度地提高了憤怒。算法選擇憤怒是因為這會產(chǎn)生更多收入。因此，人們偏愛瘋狂的東西。從各方面來看，我并不是在這里發(fā)表黨派聲明。

這是一個問題。這個問題必須在民主國家得到解決。我對 TikTok 的解決方案，我們之前私下討論過，當我還是個男孩的時候，有一個叫做平等時間規(guī)則的東西，因為 TikTok 真的不是社交媒體。這真的是電視劇，對吧？順便說一句，有個程序員給你算了個數(shù)字：美國每個 TikTok 用戶每天播放 90 分鐘，每個 TikTok 視頻有 200 個。

很多，對吧？因此，政府不會實行平等時間規(guī)則，但這是正確的做法。需要某種形式的平衡。

人工智能對社會和勞動力市場的沖擊

主持人：好吧，讓我們再問一些問題。

施密特：兩個簡單的問題。

一、LM 的經(jīng)濟影響。市場影響較慢。慢點。您原本預計會有 CHEG 和幾個服務人員。第二個問題，您認為學術界值得或應該獲得人工智能補貼嗎？

或者您認為他們應該與那里的大公司合作？我非常非常努力地推動為大學建立數(shù)據(jù)中心。如果我是這里計算機科學系的一名教員，我會非常沮喪，因為我無法與我的研究生一起構建將進行博士研究的算法。我被迫與這些一起工作。在我看來，這些公司在這方面還不夠慷慨。

與我交談過的教職員工（其中許多是您認識的人）花費大量時間等待 Google Cloud 提供的學分。太可怕了。這是我們希望美國贏得勝利的一次爆炸。我們想要美國大學。有很多理由認為正確的做法是將其交給他們。

所以我正在為此努力。你的第一個問題是勞動力市場的影響。我會在這里聽取真正的專家的意見。正如埃里克（Eric）教授的業(yè)余經(jīng)濟學家一樣，我從根本上相信大學教育高技能任務會很好，因為人們會使用這些系統(tǒng)。我認為這些系統(tǒng)與任何其他技術浪潮沒有什么不同。

危險的工作和幾乎不需要人類判斷的工作將被取代。

主持人：我們還有大約五分鐘的時間。所以讓我們快點來吧。Eric你來選問題吧。

學生：你好。我真的很好奇文本到行動及其對計算機科學教育等的影響。我想知道您對于CS教育應該如何轉型以適應時代的想法有何想法？

施密特：好吧，我假設本科生中的計算機科學家作為一個群體總會有一個程序員伙伴。因此，當您學習第一個 for 循環(huán)等時，您將擁有一個成為您天然伙伴的工具。

這就是教學的方式。教授，他或她會談論這些概念，但你會以這種方式參與其中。這就是我的猜測。

學生：您更多地談論了您感興趣的非變壓器架構。我認為已經(jīng)討論過的一個類似于狀態(tài)模型，但現(xiàn)在是一個更長的上下文類。我更好奇你在這個案例中看到了什么。

施密特：我對數(shù)學的理解不夠好。我真的很高興我們?yōu)閿?shù)學家創(chuàng)造了就業(yè)機會，因為這里的數(shù)學非常復雜，但基本上它們是進行梯度下降、矩陣乘法的不同方法，更快更好。

正如你所知，變形金剛是一種同時繁殖的系統(tǒng)方式。我就是這么想的。它與此類似，但數(shù)學不同。

學生：您在關于自然安全的論文中提到，今天有中國和美國以及現(xiàn)代建筑的幫助。接下來的 10 個和下一個集群都是美國的其他盟友，或者通過美國很好地做好了準備。

我很好奇你對那些不是正式盟友的十個國家和中間國家有何看法。他們參與確保我們的安全期限的可能性有多大？什么會阻止他們參與？

施密特：最有趣的國家是印度，因為頂尖的人工智能人才從印度來到美國，我們應該讓印度保留一些頂尖人才。

不是全部，而是其中一些。他們沒有我們這里豐富的培訓設施和項目。對我來說，印度是這方面的重要搖擺國家。

歐洲因為布魯塞爾而搞砸了。這并不是什么新事實。我花了10年時間與他們戰(zhàn)斗。我非常努力地讓他們修改歐盟法案，但他們?nèi)匀皇艿剿邢拗疲刮覀冊跉W洲進行此類研究變得非常困難。我的法國朋友們一直在與布魯塞爾作斗爭，而作為我的私人朋友的馬克龍正在為此努力奮斗。

所以我認為法國有機會。我不認為德國會到來，而且其他國家也不夠大。

學生：所以我了解到你是一名經(jīng)過培訓的工程師，就像你所說的編譯器一樣。 考慮到您設想的這些模型具有的功能，我們是否還應該花時間學習編碼？

施密特：因為歸根結底，這是老生常談的問題：如果你會說英語，為什么還要學英語？你會變得更好。你確實需要了解這些系統(tǒng)是如何工作的，我的感覺非常強烈。

學生：是的，先生。 我很好奇您是否探索過分布式設置，我之所以這么問是因為，當然，創(chuàng)建一個大型集群很困難，但 MacBook 很強大。世界各地有很多小型機器。那么你認為在家折疊或者類似的想法適用于訓練嗎？事實并非如此。

施密特：是的，我們已經(jīng)非常努力地研究過這一點。所以算法的工作方式是你有一個非常大的矩陣，并且本質(zhì)上有一個乘法函數(shù)。因此，可以將其視為來回、來回。而且這些系統(tǒng)完全受到內(nèi)存到CPU或GPU的速度的限制。事實上，下一代 Nvidia 芯片已將所有這些功能合并到一個芯片中。

現(xiàn)在芯片太大了，它們都粘在一起了。事實上，封裝非常敏感，以至于封裝和芯片本身都在潔凈室中組裝在一起。所以答案看起來是超級計算機和光速，尤其是內(nèi)存互連，真正占據(jù)主導地位。所以我認為暫時不太可能。

主持人：有沒有辦法分段LLM？ 所以杰夫·迪恩（Jeff Dean）去年在這里演講時談到了將其中的這些不同部分分開訓練，然后進行聯(lián)合訓練。

施密特：為了做到這一點，你必須擁有 1000 萬個這樣的東西，然后你提出問題的方式就會太慢。他說的是 8 臺、10 臺或 12 臺超級計算機。是啊是啊。所以還達不到 MacBook 的水平。

還沒有達到他的水平。是的。讓我們看看，在后面。是的，很早以前。所以我知道《紐約時報》發(fā)布GQQ并開放使用他們的作品進行訓練之后，您認為這將走向何方？這對數(shù)據(jù)處理意味著什么？

我曾經(jīng)在音樂許可方面做了很多工作。我了解到，在 60 年代，發(fā)生了一系列訴訟，最終達成了一項協(xié)議，只要播放你的歌曲，你就可以獲得規(guī)定的版稅。就連他們也不知道你是誰。剛剛存入銀行。我的猜測是，這將會是同樣的事情。

將會有很多訴訟，并且會有某種規(guī)定的協(xié)議，它只會說你必須支付你所擁有的任何收入的 X% 才能使用 ASCAP BMI。ASCAP 體重指數(shù)。查找它們。就這樣一起來了對你來說，它會顯得很老，但我認為這就是它的交替方式。

學生：似乎有幾個玩家在主導AI，對吧？他們將繼續(xù)占據(jù)主導地位。它們似乎與所有反壟斷監(jiān)管所關注的大 公司有重疊。您如何看待這兩種趨勢...... 是的，您是否看到監(jiān)管機構拆分這些公司？這將如何影響……

施密特：是的。所以在我的職業(yè)生涯中，我?guī)椭④浄植鹆?，但它并沒有分拆。我為谷歌不被分拆而奮斗，它也沒有被分拆。所以在我看來，這種趨勢確實不會被打破。

只要公司避免成為老約翰·D·洛克菲勒。我研究了這個。查一下。反壟斷法就是這樣誕生的。

我不認為政府會采取行動……你看到這些大公司占據(jù)主導地位的原因是誰有資本建造這些數(shù)據(jù)中心，對嗎？所以我的朋友里德和我的朋友穆斯塔法...他下周來，兩周后。請里德與您談談他們做出的改變并從本質(zhì)上將其一部分并入微軟的決定。 基本上，他們決定無法籌集數(shù)百億美元。

主持人：您之前提到的那個號碼是公開的嗎？

施密特：不，讓里德給你號碼?；蛟S里德可以這么說。

主持人：我知道你得走了。我不想阻止你。

施密特：我想離開，我們還要繼續(xù)這個話題嗎。

主持人：我也有一個問題想問你。繼續(xù)吧。太感謝了。例如，我想知道所有這一切將把那些未參與前沿模型開發(fā)和計算獲取的國家?guī)蚝畏健?/p>

施密特：富人愈富，窮人則盡其所能。他們必須...事實是這是一個富裕國家的游戲，對嗎？資金雄厚，技術力量雄厚，政府大力支持，對嗎？有兩個例子。

還有很多其他國家也存在各種各樣的問題。他們沒有這些資源。他們必須找到一個合作伙伴。他們必須與其他人一起加入，諸如此類。我想留下它...

主持人：因為我想我們上次見到你時，你正在 AGI House 參加一場黑客馬拉松，我知道你花了很多時間幫助年輕人創(chuàng)造大量財富，而且你非常熱情地談到想要這樣做。 當這里的人們正在構建他們的……他們正在為這門課程編寫商業(yè)計劃或在職業(yè)發(fā)展的這個階段的政策提案或研究提案時，您對他們有什么建議嗎？

施密特：嗯，我在商學院教過這方面的課程，所以你應該來聽我的課。我對你展示新想法的速度感到震驚。

因此，在我參加的一場黑客馬拉松中，獲勝團隊的命令是“在兩座塔之間飛行無人機”，并為其提供了一個虛擬的無人機空間。它弄清楚了如何駕駛無人機，以及之間的單詞的含義，用 Python 生成代碼，并讓模擬器中的無人機飛過塔樓。優(yōu)秀的專業(yè)程序員可能需要一兩周的時間才能做到這一點。我告訴你，快速制作原型的能力……作為一名企業(yè)家的部分問題是一切都發(fā)生得更快。

好吧，現(xiàn)在，如果您無法使用這些不同的工具在一天內(nèi)構建出原型，那么您需要考慮一下，對嗎？因為這就是你的競爭對手正在做的事情。所以，我想我最大的建議是，當你開始考慮一家公司時，寫一份商業(yè)計劃就可以了。事實上，你應該讓計算機為你寫出你的商業(yè)計劃，只要它是合法的。

主持人：事實上，我應該在你離開之后再談這個。

施密特：但我認為盡快使用這些工具來原型化你的想法非常重要，因為你可以確定另一個人在另一家公司、另一所大學、在你從未去過的地方做著完全相同的事情。

主持人：好的。嗯，非常感謝，亞倫。謝謝大家。

施密特：我要趕緊走了。謝謝。

圖片來源｜網(wǎng)絡