人工智能十問｜《財經(jīng)》特稿

lwdalian 2024-04-13 發(fā)布于遼寧

展開全文

國產(chǎn)大模型能彎道超車嗎？AI的發(fā)展趨勢是什么？人工智能“+”什么？大模型如何賦能企業(yè)？未來不再需要程序員了？如何保證AI是安全的？

文｜楊柳

編輯｜郭麗琴

伴隨著ChatGPT、Sora、Figure01不斷引發(fā)全球關(guān)注，人工智能（AI）的驚人迭代速度不斷擴展著人們的想象空間。

中國發(fā)出擁抱新一輪科技和產(chǎn)業(yè)浪潮的新信號。

2024年3月，“人工智能+”首次被寫入政府工作報告。報告提出，深化大數(shù)據(jù)、人工智能等研發(fā)應(yīng)用，開展“人工智能+”行動，打造具有國際競爭力的數(shù)字產(chǎn)業(yè)集群，以加快發(fā)展新質(zhì)生產(chǎn)力。

問題隨之而來，國產(chǎn)大模型能彎道超車嗎？人工智能“+”什么？大模型如何改造傳統(tǒng)硬件？如何賦能企業(yè)？如何保證AI是安全的？

近期，中央廣播電視總臺財經(jīng)節(jié)目中心《對話》欄目錄制了一期節(jié)目《AI+大猜想》。四位企業(yè)家——360董事長周鴻祎、國產(chǎn)大模型獨角獸智譜AI CEO（首席執(zhí)行官）張鵬、人形機器人初創(chuàng)公司九光智能創(chuàng)始人徐志根、廣藥集團董事長李楚源，以及三位財經(jīng)媒體代表——《財經(jīng)》雜志副主編朱弢、《華夏時報》執(zhí)行總編輯張志偉、《中國企業(yè)家》雜志副總編輯何伊凡，共同探討人工智能的技術(shù)發(fā)展、商業(yè)化路徑以及安全等話題。

本期節(jié)目將于4月13日在央視財經(jīng)頻道《對話》欄目播出，本文擷取了節(jié)目要點。

各行業(yè)使用AI有哪些成果？

靳強（《對話》欄目主持人）：現(xiàn)場的幾位嘉賓，在各自領(lǐng)域有涉及人工智能的新成果嗎？

周鴻祎：2023年大家都在集中精力搞大模型，在大模型上希望能達到一定的效果。但是2024年所有人都在問，大模型究竟為我的企業(yè)、為我個人解決什么問題，所以我覺得2024年應(yīng)該是場景之年。

所以我的理解，“人工智能+”不是孤立地去搞大模型，而是把大模型現(xiàn)在的成果和各個行業(yè)——特別是傳統(tǒng)行業(yè)、傳統(tǒng)企業(yè)的各個業(yè)務(wù)場景能夠相結(jié)合，使得大模型能夠真正對產(chǎn)業(yè)數(shù)字化起到一個推動作用。

我自己也身體力行地把360所有的產(chǎn)品重塑一遍。因為看美國的同行微軟也好、Salesforce也好、adobe也好，大家并沒有用大模型去做一個新產(chǎn)品，而是把已有的業(yè)務(wù)、流程，看看在哪些環(huán)節(jié)能進行賦能。

我最近做了兩件事，一是把傳統(tǒng)的搜索用大模型給徹底改造了；二是把原來360的瀏覽器整個重塑了一遍。

張鵬：智譜AI就是做大模型的，專注于大模型底層和通用技術(shù)。我們最近也把產(chǎn)品經(jīng)過很多次迭代?，F(xiàn)在，我們跟國際頂尖的，像GPT4這樣的水平已經(jīng)非常接近了。同樣也可以幫助大家去解決工作、學習、日常生活當中的一些問題。

李楚源：“人工智能+”在我們生產(chǎn)的各個環(huán)節(jié)有很多應(yīng)用。中藥從種植開始，要跟人工智能結(jié)合，要跟數(shù)字經(jīng)濟結(jié)合。藥材可追溯性的要求必須用這些人工智能和大數(shù)據(jù)的手段，才能知道這藥材的地道性和質(zhì)量，才可以溯源。

另外，藥材的生產(chǎn)加工過程也需要用到智能化的設(shè)備，這使得生產(chǎn)效率大大提高了。比如，我們一個藥材品種使用智能化設(shè)備后，產(chǎn)能提高了149%，效率提高了289%。

在經(jīng)營和市場環(huán)節(jié)，可以使用人工智能參與決策和推進業(yè)務(wù)。

徐志根：九光智能是做人形機器人的。我非常認同一個觀點，就是AI技術(shù)和大模型把機器人，特別是具身智能機器人的產(chǎn)業(yè)向上提了很高的一個高度，使得智能機器人未來走進千家萬戶成為可能。

我們現(xiàn)在是在研發(fā)階段，今年5月我們的機器本體就可以做出來了。接下來我們還會繼續(xù)在智能化上往前走。未來人形機器人一定會接入各種大模型，成為各種智能交互的平臺。

國產(chǎn)大模型能彎道超車嗎？

靳強：OpenAI發(fā)布Sora，掀起新一輪對人工智能的討論熱潮，國產(chǎn)大模型能達到Sora的水平嗎？

張鵬：Sora確實令人驚艷，但我們仔細研究了它的技術(shù)報告之后，發(fā)現(xiàn)它并沒有從外界看起來的那么新奇。Sora運用到的仍是已有的技術(shù)，只不過OpenAI把這些技術(shù)綜合起來，從工程上進行了優(yōu)化，做到了之前其他人沒有做到的程度。

其實2021年底、2022年初的時候，我們也做過類似的視頻生成工作。這種視頻生成的原理非常簡單，就是把視頻拆解成一個一個的關(guān)鍵幀，繼而分層，即遞歸式地生成關(guān)鍵幀，然后把這些關(guān)鍵幀連續(xù)起來，于是生成了視頻。當時我們大概能做10秒鐘以內(nèi)的連續(xù)視頻，并且視頻能夠很好地保持畫面一致性，不出現(xiàn)非常違反常識或者物理定律的場景?，F(xiàn)在和Sora比起來，雖然顯得比較原始，但本質(zhì)上很多原理是相通的。

國產(chǎn)大模型能否做到Sora這種水平，是一個資源和時間的問題。我不敢去預測具體需要多長時間，但應(yīng)該不需要太久。

周鴻祎：ChatGPT出來的時候，我就說它的原理雖然很簡單，但是從0到1的創(chuàng)新是最難的。OpenAI了不起的地方在于，它找到了一個方向并工程化，給大家證明了這條路是走得通的。

Sora出來之后，我也聽到很多專家說這沒啥了不起的。但是，不要說中國公司，就連美國公司，短期內(nèi)我也沒有看到誰有能力預言，在多長時間能拿出一個類似的東西。

通過外在的表現(xiàn)，國內(nèi)大模型和Sora的差距至少有一年左右。

很多人光看到Sora出來后，做短視頻的效率提高。這僅僅是它的一個小功能。我們還應(yīng)看到兩件事：

第一，Sora對于具身智能、自動駕駛技術(shù)會帶來質(zhì)變。自動駕駛現(xiàn)在之所以不能實現(xiàn)真正的全自動，是因為自動駕駛在感知層面，無論用激光雷達還是用攝像頭，僅僅停留于看到了什么。但是真人駕駛汽車的時候，當你看到東西，腦子會閃過很多念頭，這能撞嗎？撞上去會怎么樣？我繞過去會怎么樣？所以，只有當機器對物理世界的觀察具有Sora這種能力，并能實時反應(yīng)，自動駕駛才能獲得突破。

第二，不到一年的時間，從ChatGPT進化到Sora，意味著通用人工智能（AGI）的進步速度加快了。原來我們覺得AGI可能還需要10年到20年，但如果按照過去一年的發(fā)展速度，實現(xiàn)AGI大概還有3年至5年。

張志偉：周鴻祎先生在接受我們采訪時曾表示，中國的大模型的水平，相當于美國的GPT3.5，如何作出這個判斷？

周鴻祎：我認為有差距是必然的，知道差距是多大，剩下就是追趕的問題。

我現(xiàn)在說話比較謹慎，你說差距大了，別人說你自卑；你說差距小了，別人說你自大。按照刷榜的成績，國內(nèi)大模型早就超過GPT4了，但是真正用一用，我覺得國內(nèi)的大部分都達到，或者超過了GPT3.5的能力，全世界也只有中國有這個能力。

如果GPT4是100分的話，GPT3.5差不多應(yīng)該有75分到80分，我認為這個速度很快了。

美國真正在人工智能領(lǐng)域領(lǐng)先的公司，我認為就兩家，軟件是OpenAI，硬件就是英偉達。大模型的差距比光刻機、芯片的難度要低很多，因為畢竟是軟件。但是未來要奔著AGI，也就是通用人工智能去的，這塊的挑戰(zhàn)就是算力。

但如果把大模型越做越小，走垂直化、產(chǎn)業(yè)化、企業(yè)化、場景化的道路，可能不需要萬億、千億的參數(shù)，只需要百億的參數(shù)，再加一些私有的核心數(shù)據(jù)加持，在一個垂直單元上是可以超過GPT4的。

這對算力的要求就降到很低，可能有十張消費級顯卡在一個場景就能用起來，這非常適合我們國家，這也是我們彎道超車的一個場景。我們有這么多的工業(yè)門類，國家這么重視制造業(yè)的數(shù)字化轉(zhuǎn)型，如果中國企業(yè)都用上了這種小規(guī)模的大模型，在自己的場景上讓大模型跟業(yè)務(wù)相結(jié)合，意義不亞于我們在超級AGI上追上國外。

AI的發(fā)展趨勢是什么？

靳強：從時間的維度看，人工智能未來的發(fā)展會是什么樣的狀態(tài)？

張鵬：人工智能學科誕生到現(xiàn)在，已經(jīng)過去了將近70年，發(fā)展速度逐漸加快。早期相對慢一些，到了最近十幾年急劇地加快，尤其近幾年突飛猛進。未來的發(fā)展速度會呈指數(shù)級抬升。很多人預測人工智能后面會緩下來，就像技術(shù)成熟曲線一樣，到達一個頂峰。其實，目前技術(shù)雖然已經(jīng)非常快速成長，但AGI仍有很多問題值得我們?nèi)ヌ剿鳎恳粋€問題的突破都有可能帶來一個飛躍式的發(fā)展。我認為我們現(xiàn)在還沒有摸到這個天花板在哪兒。

周鴻祎：2023年是人工智能發(fā)展的拐點，過了大模型這個拐點，進入到指數(shù)級的發(fā)展。最理想的發(fā)展曲線是持續(xù)往上走，實現(xiàn)通用人工智能。但有兩種因素可能會導致發(fā)展意外墜落：一個是“安全”，如果人工智能發(fā)展過程中不能解決安全問題，會給人類社會造成大量的問題，比如虛假視頻欺詐；另一個是“能源”，如果人類在相當長的時間不解決大模型帶來的能源大量消耗的問題，大模型的發(fā)展走不下去。

李楚源：人工智能發(fā)展會呈現(xiàn)波浪上升的狀態(tài)，有積累的過程，也有停滯的過程?？赡芗夹g(shù)上升到一定程度，遇到了一些制約因素，假如這些因素不解決，技術(shù)發(fā)展就變得比較平緩了。一旦這些因素解決，又將繼續(xù)往上升。當前人工智能發(fā)展要解決法規(guī)配套問題，政府也要積極推動，出臺扶持政策。

徐志根：在過去70年，我們還是在山腳下一直爬，我相信我們已經(jīng)在爬非常陡的坡了，而且前景應(yīng)該是非常好的，這個時候就可以看到很多熱情度都上來了，包括投資和參與研究的公司也非常多，我相信會沖得很高。

接下來會進入平靜期，甚至通過優(yōu)勝劣汰，淘汰一批，后面參與者就會比較穩(wěn)定。

同時在應(yīng)用規(guī)模上，我相信人工智能會賦能給各行各業(yè)，比如說賦能給機器人，接下來會進入一個比較高的增長期。

目前處于哪個發(fā)展階段？

靳強：現(xiàn)在的人工智能究竟發(fā)展到了哪個階段？

張鵬：大模型本身的原理大家已經(jīng)基本上都接受了，達成一致，這是我們通向AGI的一個有效路徑。但中間還有很多可改良和可改進的地方，每一次的改進都可以導致技術(shù)本身再往前推進。

周鴻祎：我在硅谷跟人談，有些VC認為大模型有點像1982年的電腦，或者說像1995年的互聯(lián)網(wǎng)。我感覺這種估計保守了，現(xiàn)在一天的進步都等于過去大概一年的成果。我覺得大模型能不能發(fā)展，取決于能不能找到好的應(yīng)用。所以，我覺得大模型應(yīng)該大概在早期階段。

李楚源：現(xiàn)在處在第一個階段，大家都重視了，大家都想用，但是現(xiàn)在處于一個不太平衡，還有一些法規(guī)制度不太完善的階段。之后的階段，要解決法規(guī)跟人工智能的一些配套問題，這有利于發(fā)展。

人工智能“+”什么？

靳強：很多人都預測說今年有可能是“人工智能+硬件”元年，未來最有可能“+”什么？

張鵬：大模型運行消耗大量功率和能源，太小的設(shè)備承載不了，而且太小的設(shè)備功能受限，能做的事情有限。汽車現(xiàn)在已發(fā)展到一定程度，尤其是新能源汽車，電氣化的程度、普及率等，都已經(jīng)發(fā)展到較高的水平。因此，把大模型的能力賦能到汽車上去，是水到渠成的一件事。

周鴻祎：大模型與終端結(jié)合，得看終端有多大的需求，是不是剛需，有沒有痛點。比如，沒有大模型，機器人根本就玩不轉(zhuǎn)；汽車智能座艙的交互功能，以及自動駕駛，也都需要智能升級。汽車只不過是四個輪子的機器人，是最迫切需要大模型上端側(cè)的終端。

另一個看好的“人工智能+硬件”是手機。手機已經(jīng)變成人體的一部分，像人的一個新器官，如果再去創(chuàng)造其他硬件我覺得都違背人性。因為人就不喜歡多帶東西，帶個手機，連車鑰匙都不想拿；有手機支付了，連錢包都不想拿。蘋果頭顯最大的問題不是功能問題，而是能戴多長時間的問題。所以，AI和手機的結(jié)合，我認為是最能產(chǎn)生化學反應(yīng)的。

李楚源：看好機器人。機器人不但能夠代替人，還可以做很多人做不了的事。比如在醫(yī)療領(lǐng)域，醫(yī)生做手術(shù)可能還不夠精準，而操縱機器人來做手術(shù)，可以更精準、更高效。

徐志根：人形機器人有人工智能加持之后，一定會加速進入千家萬戶和各行各業(yè)。智能機器人可能像我們的助手一樣，把日常事務(wù)照顧起來。

何伊凡：汽車和人工智能結(jié)合富有前景。首先在場景的復雜性上，汽車每天都在路上跑，場景足夠復雜；其次在數(shù)據(jù)的豐富性上，汽車能夠獲得的數(shù)據(jù)量非常龐大；最后從硬件的算力基礎(chǔ)來說，汽車場景能夠作為理想的載體，克服終端算力不足問題。

朱弢：汽車應(yīng)該是最早能適配大模型的終端，它的場景足夠豐富，實實在在已經(jīng)有那么多用戶，也有現(xiàn)實有需求。機器人也是一個值得期待的場景，大模型加持之后，相當于機器人有了“大腦”，可以自主決策判斷。

張志偉：智能家電與大模型的結(jié)合需求可能沒那么大，但智能音箱和大模型結(jié)合可以提升語音對話交互能力，應(yīng)該比較容易實現(xiàn)，越容易實現(xiàn)的功能越容易商業(yè)化。

AI+手機，會是什么樣？

朱弢：未來真正的AI手機到底是什么樣子，跟現(xiàn)在的手機有什么區(qū)別？

周鴻祎：今天的智能手機，跟大模型一比，只是智能手機1.0。如果大模型通過“云+端”兩種方式加持手機，就能變成智能手機2.0。真正的智能手機出來了，Siri就不再是“人工智障”，有可能變成一個友好的助手。

“AI+手機”未來會發(fā)展成什么樣，今天很難去回答。但我認為，要找到合適的場景，不斷嘗試。比如，最能想到的一種是手機真正變成個人助理，有了規(guī)劃執(zhí)行能力，只要用戶把目的告訴它，手機自動調(diào)用App，把活都給干了，最后只告訴你一個結(jié)果。如果手機智能程度真走到這一步，App就變成了手機的插件，可能以后App的概念也會隨之變化。

張鵬：手機離人最近，也最容易把AI的能力附上去?，F(xiàn)在手機的設(shè)計，包括軟件生態(tài)，仍然基于過去很多年積累下來的模式，AI能力的突增能否帶來新的范式，也是我們一直在考慮的問題。

AI能力突增所帶來的新范式存不存在，到底在哪兒？它不一定是用現(xiàn)在的四方四正板磚形態(tài)，可能會有些變化。

眾多的科幻電影里其實都出現(xiàn)過各種各樣的形象，有的把手機直接變成類似于手表這樣的設(shè)備，有的戴在耳朵上的，也有直接植入皮膚下面的。其實這個硬件的形態(tài)不是最關(guān)鍵的，最關(guān)鍵的還在于它能完成什么樣的工作，最方便地讓你享受到人工智能所帶來的便利，這才是本質(zhì)。

AI+機器人有何前景？

靳強：人形機器人怎么跟人工智能結(jié)合？

徐志根：人形機器人被AI深度賦能體現(xiàn)在：一是運動智能。以前看到的人形機器人走得很笨拙，有了深度強化學習加持，在未來兩三年，人形機器人的運動智能會有長足進步，它可以走快、走穩(wěn)、走優(yōu)雅。二是自主導航。機器人自主導航過去三四年一直深度地用Transformer架構(gòu)去訓練。三是交互智能。大模型提升機器人“大腦”的認知、推理、決策能力。四是操作智能。以前的機器人雖然可以演示踢個球，但要讓它去完成一件復雜的任務(wù)，比如炒菜，當個家庭管家，其實是做不到的，未來的機器人在操作智能層面有望不斷突破。

靳強：既然這么復雜、這么困難，為什么一定要把機器人做成人形呢？

徐志根：在一些具體任務(wù)上，人形機器人不是最高效率的，比如，炒菜機器人，它肯定能夠快速炒好。但是要讓它既能疊衣服，又能炒菜，又能洗碗，這樣一個綜合性的管家和助理，現(xiàn)在來看人形可能是比較合適的，或者至少有雙臂、雙手能夠動的，會是合理的。

第二個方面在應(yīng)用層面的賦能，在處理一些應(yīng)用場景，比如安全監(jiān)控這一個場景，人形機器人可以像保安進入這樣的多任務(wù)復雜場景，其中可能用AI的技術(shù)，比如神經(jīng)網(wǎng)絡(luò)、最新的視覺技術(shù)，還有一些大模型技術(shù)。

靳強：在2015年、2016年的時候有一波人形機器人熱潮，但活到現(xiàn)在的公司沒幾家了，這次還會重演嗎？

徐志根：未來人形機器人肯定是各種機器人形態(tài)中非常有價值的形態(tài)。人形機器人首先會在to B的一些場景能夠解決各種問題。如果是to C的場景，可能還要時間比較長。很多人對人形機器人的擔心，安全性、隱私、法律法規(guī)等這些問題，我相信都是可以解決的。

大模型如何賦能企業(yè)？

張志偉：如何用大模型賦能企業(yè)的業(yè)務(wù)？

周鴻祎：我們?nèi)ツ陱膖o B模式中找到一些方法論：比如要給醫(yī)療機構(gòu)做一個醫(yī)療大模型，必須把醫(yī)療進行場景細分，在里邊找出50到100個場景，并對每個場景進行分析，看看文章生成、情感判斷、內(nèi)容翻譯等大模型最常見的功能，能不能在場景中發(fā)揮作用。能不能做取決于兩個因素：一是該場景下有沒有數(shù)據(jù)知識，光有場景沒有知識，訓練不出大模型；另一個是對大模型的容錯度，大模型最致命的就是幻覺，如果某個場景中我們不能承受幻覺風險，那么就不能用到大模型。

所以我主張，現(xiàn)在企業(yè)用大模型不要追求宏大敘事，而應(yīng)在內(nèi)部業(yè)務(wù)鏈條，或者在外部產(chǎn)品功能，選取兩到三個場景，用大模型賦能。如果能取得成績，我認為就是很大的進步了。我提倡小切口切入，剛開始寧可保守一點，積小勝于大勝。

大模型像發(fā)動機，現(xiàn)在大模型廠商在造世界上最牛最快的發(fā)動機，但是B端企業(yè)要的不是發(fā)動機，而是一輛車。所以，我們要找到底盤，把發(fā)動機裝上，再給它裝上外殼、座椅，最后交付一輛車，企業(yè)才能用。

2023年，中國有上百家公司在做大模型，魚龍混雜，泥沙俱下。今年消停很多了，據(jù)我了解，現(xiàn)在的大模型廠商紛紛轉(zhuǎn)型，往產(chǎn)業(yè)垂直方向走。

張鵬：通用大模型的能力提升所衍生的能力，能讓我們?nèi)ふ业健按竽Ｐ驮膽?yīng)用”或者“大模型原生場景”。但是在這個過程當中，技術(shù)需要發(fā)展，產(chǎn)業(yè)也需要落地。打個比方，現(xiàn)在我們造出內(nèi)燃機了，不能說我想造飛機，內(nèi)燃機不能用，我不管了，我要造噴氣發(fā)動機去。既然內(nèi)燃機可以造出汽車，那就先把汽車造出來，我覺得這是不矛盾的一件事情。

靳強：“人工智能+”會讓哪些行業(yè)最先受益？

周鴻祎：所有從業(yè)者都要解決場景化的問題，辦公場景看起來簡單，其實跟每家公司、每個單位都有關(guān)系，所以圍繞著辦公、電腦的使用，包括智能家電、整個物聯(lián)網(wǎng)硬件，這些場景都可以拿大模型來或多或少覆蓋。

企業(yè)的場景應(yīng)該在金融、醫(yī)療、教育領(lǐng)域，這些領(lǐng)域今年如果能找到一些場景，能落地，那就可以回答這個問題。

未來不再需要程序員了？

靳強：百度董事長李彥宏近期接受《對話》節(jié)目采訪時發(fā)表了一個觀點，認為程序員以后可能不會存在了，你們同意嗎？

周鴻祎：我當然不同意了。

現(xiàn)在大模型可以完成一些簡單編程任務(wù)。但如果想寫一個新一代的人工智能系統(tǒng)，這種復雜的目標涉及整個程序流程、邏輯結(jié)構(gòu)、數(shù)據(jù)分布和算法創(chuàng)新，大模型現(xiàn)在肯定是干不了的。未來我覺得也干不了，有一些創(chuàng)意的工作，目前還是人類所獨有的。所以大模型會提高程序員的效率，但取代不了程序員。

我一直認為，人在人工智能面前要保持人所獨有的創(chuàng)造力、情感、想象力。人不會被人工智能淘汰，但不用人工智能的人，會被用人工智能的人淘汰。人工智能是一個工具，如果你掌握了工具，卻沒有想象力、創(chuàng)造力，即便給你再好的工具，也創(chuàng)造不出好的成果。

張鵬：未來對程序員的定義會有變化。李彥宏講的程序員，指的是傳統(tǒng)意義上寫機器編程語言的這類程序員。未來他們的數(shù)量肯定會越來越少，因為工作效率已經(jīng)在不斷提升，用大模型輔助編程，現(xiàn)在一個程序員相當于原來的1.3到1.5個程序員，所以傳統(tǒng)程序員不需要那么多了。

但是建立在機器和人之間新的溝通方式上的新類型程序員可能需要更多，他們的工作就是和人工智能進行溝通，讓機器完成人的需求。如果把這件事情也定義成編程，那么這種程序員一定會極大增加。

朱弢：不光是程序員，還有觀點認為以后記者、編輯都可能被人工智能搶走飯碗。我們邀請過清華大學新聞與傳播學院杭敏教授交流，她和學生比照我們發(fā)表過的報道，讓ChatGPT嘗試同題寫作，發(fā)現(xiàn)完全無法相提并論。不但文本表達質(zhì)量不夠，就連其中引用的很多數(shù)據(jù)和資料都是錯的，或是編造的。

所以我認為，人工智能使得有些職業(yè)的重要性可能會降低，有些職業(yè)的重要性可能會增加，或者說某一個職業(yè)的某一個工作環(huán)節(jié)可能會被替代。

張鵬：我想可能大家討論這個問題的時候很容易忽略另外一個因素，叫時間。我們經(jīng)常會說一句話，“我們?nèi)菀赘吖兰夹g(shù)的短期價值，低估技術(shù)的長期價值”。

朱弢：時間是個很重要的維度，我覺得包括程序員在內(nèi)，認為某個職業(yè)會在短期內(nèi)因為AI的出現(xiàn)、大模型的出現(xiàn)消失，是既不科學也不嚴謹?shù)摹?/span>

如何保證AI是安全的？

靳強：一些社會精英創(chuàng)造了大模型，未來會不會出現(xiàn)一小撮人統(tǒng)治大部分人的情況？

周鴻祎：科幻片里總是有一幫科學怪人夢想統(tǒng)治世界，我覺得要對抗他們的力量，就是要充分的市場競爭。為什么一定要堅持開源？老有人覺得開源就意味著我們在抄襲別人，這是對開源最大的誤解。當年Linux通過開源，成為對抗微軟壟斷的力量；現(xiàn)在Meta和特斯拉也將手中的大模型開源。開源的力量是什么？是集中力量辦大事。開源可以形成明顯的制約，避免壟斷。

另外，為什么我到處鼓吹要把大模型垂直化、企業(yè)化、私有化和小型化呢？就是如果全世界只有一套大模型，只有一套人工智能，大家都用它，都被它控制了。但是企業(yè)內(nèi)部有多個大模型，每家都有自己的大模型，每個人手機電腦上都有自己的大模型，它是一個分布式的世界，那它想控制就很難。

張鵬：如果一家做得最好，但不開源，只掌握在少數(shù)人手里，這個擔心永遠都會在。在人工智能時代，技術(shù)的領(lǐng)先性可能比過去任何一個時代所帶來的碾壓式效果更明顯。如果開源模型能力沒有閉源模型強，更強的閉源模型可以解釋和預測開源模型，足以形成碾壓式的效果。這是最可怕的地方。

靳強：如果人工智能控制的設(shè)備太多了，可能對我們的生活造成一定程度的危險，這種擔心是不是有道理？

周鴻祎：人工智能的安全問題，是人類有史以來遇見的最大挑戰(zhàn)。但我們不要坐而論道，還是得把這個問題分解，可以分成三方面的問題：一個是軟件系統(tǒng)有漏洞可能被人攻擊，比如被黑客控制，數(shù)據(jù)可能丟失，或者訓練數(shù)據(jù)被污染或偷竊，這些傳統(tǒng)技術(shù)安全問題，是能解決的；二是眼前迫在眉睫的內(nèi)容可信、可用和可控的問題，比如大模型會產(chǎn)生幻覺，有時候會突發(fā)奇想；三是內(nèi)容欺詐問題，比如深度偽造，輕則用于詐騙，重則影響一國大選。

張鵬：安全問題永遠會貫穿整個技術(shù)發(fā)展過程。凱文·凱利在《5000天后的世界》一書中提到，科技給人類社會所帶來的正向收益和負向收益差別沒有那么大，正向收益是51%，負向影響是49%。但正是這2%的差異，累積了人類科技發(fā)展史的200多年，造就了現(xiàn)在這樣一個科技非常發(fā)達的世界。所以，與其去擔心AI給人類社會的威脅，不如冷靜下來面對問題，討論如何應(yīng)對。

技術(shù)進步所帶來的收益和危害到底哪個更大，這是我們要冷靜觀察的問題。為了獲取某個好處，付出一定代價，大家是會接受的。而且，人類也是在不斷進化，人工智能越來越強，人類也并非止步不前。

責編 | 張雨菲