【天安時間BCA】「玉河夜話」第13期——人工智能：“美麗新世界”

LUXBsn54p0rwsu 2017-05-02

展開全文

代表天安時間當(dāng)代藝術(shù)中心和Georg Jensen Hus，歡迎大家來參加第13期「玉河夜話」，這期夜話《人工智能 —— “美麗新世界”》是第三次直面科技與藝術(shù)的夜話。身處變革前夜，人類面臨前所未有的機遇和危機?？萍紟Ыo人們對未知的無限探索和遐想，同藝術(shù)一樣，它不是一個行業(yè)，而更多是一種信念。我們對科技與藝術(shù)話題的深入討論，也是由于個體的靈魂在面對劇烈的外界變化時，愈加需要敏感與自省。生而為人，我們的思維創(chuàng)造到底可以帶來怎樣的影響和改變？我們懷著既好奇又恐懼的心情，不斷發(fā)問.....

——翁菱

2017年3月28日，初春的涼風(fēng)輕撫玉河，天安時間當(dāng)代藝術(shù)中心與Georg Jensen聯(lián)合舉辦的「玉河夜話」也迎來了第三次關(guān)于科技與人文的思辨討論：《人工智能 —— “美麗新世界”》。這一次請到了中國移動研究院首席科學(xué)家馮俊蘭、北京大學(xué)前沿交叉學(xué)科研究院執(zhí)行院長湯超、創(chuàng)新工廠董事長李開復(fù)，在三位先鋒的帶領(lǐng)下，探索“人工智能”現(xiàn)階段的發(fā)展與未來的預(yù)期……

如若仰望星空……

馮俊蘭：首先能來到「玉河夜話」特別榮幸，自從認識了翁菱她就一直夸我，讓我覺得特別開心，所以我代表“有感情的”科學(xué)家來到「玉河夜話」?，F(xiàn)在人工智能太火了，我都不好意思跟別人說我是做這個的，感覺都在湊熱鬧一樣。跟李老師一樣，我從開始做語音識別到現(xiàn)在有20多年了，很開心人工智能變得這么火，可越火越覺得還是很迷茫。很多很有名的人也好，身邊人也好，都在表達自己的的觀點，每天低頭看你要完成的艱難、同事的工作、朋友的工作，都很艱難。別人擔(dān)憂人工智能會取代人類，我都不知道在哪里，每一步都很艱難。如果抬頭仰望星空，還是感嘆這300多年科學(xué)改變生活，生活方式這么大的幅度，這么快的速度，自己可能感知到很慢?；仡^看看，再想想我們從人有文明開始想哲學(xué)、開始思考，到現(xiàn)在變化是非常巨大的。

馮俊蘭

AI帶給大家這些挑戰(zhàn)。如果AI沿著某一條路徑走，我們要重新思考很多現(xiàn)在認可了的了解世界的方式。我們了解世界的方式，可以用哲學(xué)方式看世界，可以用科學(xué)方式看世界，可以用藝術(shù)方式看世界。我們領(lǐng)域內(nèi)的人每一天都在想如何讓科技再往前走一步，但是在技術(shù)圈外面，整個社會對這個東西接受到底是什么樣的程度？我自己相信它可以真正帶給我們美好的。

真正帶來美好的同時，其實有很多更短期的東西值得擔(dān)憂的。比如說運用人工智能技術(shù)的很多身邊的設(shè)備會涉及到我們隱私、安全。如果人工智能替代了很多社會工作，那短期內(nèi)會造成社會的一個變化，是格局性的顛覆。我去年參加一個國際會議，當(dāng)時有一個英國的記者發(fā)言。他說你們坐在一屋子里的幾千人是世界上很前沿的AI領(lǐng)域?qū)＜?，大家都在做深度學(xué)習(xí)或與人工智能相關(guān)的領(lǐng)域研究，可一旦離開你們的世界，外面世界是很不一樣的。如果你們這圈人研究出的東西不能被外面的世界所理解，甚至可能會造成社會的割裂，那大家能否互相理解和溝通？所以短期來講，對我們這些從業(yè)者而言，挑戰(zhàn)遠遠大于大家想象的未來。

我自己大概對人工智能的看法就是這樣，今天一個版本，明天又是另外一個版本，而此時此刻，這就是我對于人工智能的看法。這20年過來，有那么多聰明的人、卓著的人，在研究這個技術(shù)，我也很感慨這個技術(shù)取得了如此大的進步，至少現(xiàn)在我覺得它帶給我們的都是非常正向的影響。

人工智能無處不在

李開復(fù)：我第一次接觸到“人工智能”概念是在80年代讀大二的時候，然后基本上做了一輩子和人工智能相關(guān)的事情。這個過程當(dāng)中有一段時間，人工智能不太“火”，所以不太敢承認，實際上在微軟研究院的時候，微軟和谷歌里的很多技術(shù)就都是人工智能了。首先，我想解釋幾個常見的誤解，即人工智能實際上已經(jīng)無所不在了，當(dāng)淘寶推薦商品給你時候、百度給你搜索結(jié)果的時候、當(dāng)今日頭條根據(jù)你點擊推送你想讀什么的時候、當(dāng)?shù)蔚螏椭惆才拍膫€司機接的時候……背后都是人工智能。AI簡單來講就是一個非常大的算法，算法的細節(jié)解釋起來很困難，就不贅述了。簡單說，就是把數(shù)據(jù)丟進去，然后一個按鈕結(jié)果就出來了。算法決定了AI可以預(yù)測結(jié)果、可以分類、可以告訴你某個特定問題的答案。

李開復(fù)

人工智能的當(dāng)下

李開復(fù)：人工智能確實非常厲害，非常有價值的，但它目前的應(yīng)用也非常有限，所以我們從科幻小說和電影里得到的關(guān)于人工智能的認知可以暫時拋棄，那些顧慮很多都沒有事實依據(jù)，全憑想象。未來還是不可預(yù)知的，可直到那一天到來，誰也不會知道現(xiàn)在科幻構(gòu)想出來的AI認知對不對，至少我們眼下的人工智能技術(shù)是絕無可能發(fā)展到值得被那樣憂慮的地步。

科幻作品的世界里，人類總充滿了自以為是。我們覺得人死了靈魂要留下，或者機器來了就會產(chǎn)生感情，從而要么愛上我們，要么就要統(tǒng)治我們、殺死我們。這真的是人類太自以為是了！機器就是機器，人就是人。當(dāng)下的人工智能是絕對沒有感情的、沒有自我存在感、沒有自我意識、更絕對沒有藝術(shù)的，甚至沒有“理解”。這個“理解”是人們學(xué)習(xí)與機器的學(xué)習(xí)最大的區(qū)別。Alpha Go下圍棋很厲害，但它對“下棋”這件事并沒有感情，贏了也沒有勝利感，輸了也不會難受，更不能在下棋中得到博弈的樂趣。我們?nèi)祟惖膶W(xué)習(xí)和理解，不僅僅是要知道一件事情，而且要能夠解釋出來，“知其然亦知其所以然”，而對機器的學(xué)習(xí)來說，它所學(xué)習(xí)的東西，絕大部分是解釋不出來的。這些我們認為很基礎(chǔ)的智能，機器是沒有的。

科幻作品幻想的高度科技化的未來可不可能發(fā)生？當(dāng)然可能，但還很遙遠?；氐絼偛胖v的，人工智能的算法在什么情況下可以產(chǎn)生價值？基本上四個條件。第一，要有非常大量的數(shù)據(jù)。AI沒有人類聰明，不能舉一反三，你要給它千萬上億的數(shù)據(jù)供其學(xué)習(xí)。第二，這個數(shù)據(jù)要有標(biāo)注，不是隨意下載的數(shù)據(jù)，比如你需要明確給Alpha Go標(biāo)注某盤棋這么下最后輸了、股票這么炒最后賠了……這些是需要人為標(biāo)注的。大數(shù)據(jù)是有標(biāo)注的，這點非常重要。第三，算法只能作用在單一領(lǐng)域內(nèi)。我們?nèi)擞谐ＷR用以交叉判斷信息，但是AI一次只能處理一件事情、作用在一個領(lǐng)域內(nèi)，比如滴滴打車的運算程序無法幫你處理外賣訂單的追蹤，就是這樣的道理。第四，要有非常強力的計算機、非常好的算法、當(dāng)然還有非常優(yōu)秀的科學(xué)家。只有在這幾個前提成立以后，AI才可以產(chǎn)生魔術(shù)了。

10年里AI將取替50%人的工作

李開復(fù)：我剛才一下子把人工智能講得完全沒有任何意義了似的，像是說什么用處都沒有，限制又非常非常大，要大數(shù)據(jù)量，科學(xué)家什么的，那AI到底有什么用呢？ AI還是非常有用的，我認為今天已知的技術(shù)就能夠在未來的10年內(nèi)取替社會50%的工作。

我們每天做的事情到底有多少不是單一領(lǐng)域內(nèi)的重復(fù)性工作？不是數(shù)字化的、不是做簡單判斷的，而是需要經(jīng)過漫長縝密的思考、需要研究、需要發(fā)明的？實際上，這種工作真的不多。藍領(lǐng)的工作最快受到波及，然后是白領(lǐng)的事務(wù)性工作，大部分的會計、記者、股票交易員……乃至醫(yī)生和護士的工作都會被AI取替。很多人認為醫(yī)生是體面有未來的工作，可是在人工智能時代，醫(yī)生很容易被取代，尤其是影像放射科這種，因為這些領(lǐng)域依靠的是大數(shù)據(jù)測算，而機器在這方面比人處理得更好，所以很快會被取代。保姆愛孩子、關(guān)懷孩子的能力機器無法做到，但是在照顧孩子安危上，機器的能力超過了人類，比如在第一時間報警、比如人臉識別能力上機器就強過人類。人工智能取代人類工作，這對社會有很大沖擊，它帶給人類對于未來的思考也是非常嚴峻的。人工智能在今天的技術(shù)依然非常有限的，但是即便是非常有限的技術(shù)，也能夠取代一大部分人類的工作。

創(chuàng)造性思維如何應(yīng)對AI語境？

湯超：李開復(fù)老師說現(xiàn)在人類50%工作可以被人工智能所取代，而這些工作都是基于數(shù)據(jù)的判斷性工作，都是邏輯性很強的工作。那么藝術(shù)家就比較高興，因為藝術(shù)家的思維誰也跟不上?？茖W(xué)家可能先被取代，因為科學(xué)還是要用邏輯。藝術(shù)是不是不太用邏輯？藝術(shù)與科學(xué)最明顯的碰撞就是建筑領(lǐng)域，那么建筑師是如何思維的？建筑師思維有沒有一系列固定邏輯或者標(biāo)準(zhǔn)？建筑有沒有被機器模仿的可能？

湯超

朱小地：我還沒有想過這個問題。若作為一個一般性企業(yè)會計，我會把所有的相關(guān)數(shù)據(jù)分解整理進電腦里，然后根據(jù)客戶需要，我馬上會形成很多方案可以供其挑選?？墒亲鳛樵O(shè)計師，可能我們設(shè)計領(lǐng)域內(nèi)的技術(shù)也在進步，通過人工智能設(shè)計方案可以更快更好地提交給客戶，但是我覺得作為一個真正想做自己事情的建筑師，雖然要給客戶的項目提出最稱心如意的答案，可我覺得那還是需要經(jīng)過我自己的思考而形成的作品。當(dāng)然學(xué)習(xí)別人的東西肯定是一個積累的過程，但歸根結(jié)底，過程還是靠自己的思考。我覺得可能作為一個有創(chuàng)意的建筑師，我還不會那么快被代替吧！

朱小地

人工智能可以進行創(chuàng)造嗎？

湯超：這是“人工智能”能不能進行創(chuàng)造的問題。

馮俊蘭：我們做人工智能的基礎(chǔ)就是解鎖人類智能。人類智能有哪些類別？我比較同意去年美國的《國家人工智能報告》里分出的6大類：學(xué)習(xí)能力，認知能力，語言能力，規(guī)劃能力，進化能力，和推理能力?，F(xiàn)在的技術(shù)去解鎖這六個類別的人類智能有很多不同的方法。第一種就是類比，即機器看過了很多某事的例子，然后嘗試去做類似的事情，這就是一種解鎖。去年Alpha Go很熱，它所采用的是另一種解鎖方式——強化學(xué)習(xí)。舉例來說就是小孩子最初不知道怎么走到房間里，走一下碰一下再走一下再碰一下，然后也就走到了。我去走，去嘗試，碰到什么錯誤就更新什么計算模型，一直不斷地走，所以是自己和自己玩，自己和這個環(huán)境去玩，玩的過程中能力就自然而然強化了。

另一種是今年流行起來的學(xué)習(xí)方式，就是你剛才問的“能不能具備創(chuàng)造力？”，其實就是博弈論的方式。比如我們玩剪刀石頭布，最開始我不知道怎么玩，但只要參與就會產(chǎn)生一個對抗方式。也許我不知道什么是正確的結(jié)果，但我可以和你對抗，因為對抗能產(chǎn)生一個東西。比如機器可以生成一個東西，同時有一個藝術(shù)家創(chuàng)作的產(chǎn)物作為真實數(shù)據(jù)進行比較，再介入一個判別器去判別真實藝術(shù)家的產(chǎn)物和機器生成的產(chǎn)物。機器不斷生成，試圖讓判別器不能再判別哪個是人創(chuàng)造哪個是機器生成的，這是一種對抗性的方式。我們試圖解析語言能力的過程中，很多采取的都是這種方式。

然而這種生成是創(chuàng)新意義的生成，還只是重組狀的生成呢？這其中有很大的區(qū)別。機器發(fā)展到現(xiàn)在，依然不知道創(chuàng)作的意義什么。人的創(chuàng)新有一個意識上的驅(qū)動，想要創(chuàng)造某種東西。我覺得機器本身沒有這樣智能上的意識驅(qū)動，它只是單純在完成人下達的指令。所以回到建筑師、設(shè)計師、藝術(shù)家，會不會被取代的問題上，我自己不知道，也不如開復(fù)老師那么肯定，但是我相信人們工作當(dāng)中的一些環(huán)節(jié)注定會被AI所取代。我想懂得使用AI的設(shè)計們一定會取代現(xiàn)在的設(shè)計師們。

AI會有感情嗎？

湯超：于淥老師是物理學(xué)家，從物理學(xué)來看，所有思維包括意識都有物質(zhì)基礎(chǔ)，實際上就是神經(jīng)原放電。神經(jīng)原放電，機器也可以放電。你覺得以后機器會不會能達到比較高境界的思維階段？

于淥：我真的想過這個問題。在認知的幾個階段當(dāng)中，“推理”大概是現(xiàn)階段技術(shù)可以揣摩的，但是“感情”應(yīng)該是比較難。這就是說科學(xué)家了解感情以及情感如何生成。我自己感覺至少在現(xiàn)在這個階段里，情感這一步好像還不是人工可以代替的東西。

于淥

我們?nèi)ツ暧X得Alpha Go是最好的，現(xiàn)在知道它只是很優(yōu)秀，能夠被超越。我感覺將來有一種可能性，就是人機結(jié)合起來發(fā)展——這件事情能走多遠，我覺得現(xiàn)在不太能夠想象。如果人機能夠結(jié)合，直接對話，人工智能的發(fā)展會上一個臺階。這里面感情的因素，有沒有可能攙雜進去？那這件事情就會變得比較復(fù)雜，而且比較有趣。我自己感覺現(xiàn)在說的人工智能應(yīng)用，還不是真正意義上的人工智能的應(yīng)用，而是因為技術(shù)水平不高而受到了限制的產(chǎn)物，而感情這件事情現(xiàn)在還不能夠被真正機器化。不知道這一點業(yè)內(nèi)是否有所考慮？

李開復(fù)：我非常同意于老師看法。感情這個事情是與生俱來的。人與人彼此的信任，彼此的愛，然后人與人之間的緣分，這些事情沒有道理，不是邏輯，這些感情其實是機器很難學(xué)習(xí)的，但是也不是說完全不能學(xué)習(xí)。除了Alpha Go這個下圍棋的AI外，還有一個專門玩德州撲克的。打牌和下圍棋不同，里面有騙人的詐術(shù)，還有那種恐懼的感覺，也有自信，還有通過對方的表達和流露的神態(tài)去揣測對方心情從而判斷對手還有什么牌……似乎機器應(yīng)該打不過人，但是AI打敗了世界冠軍。這是為什么？機器并沒有了解人的感情，它只是把游戲模型化了，通過計算得出下一步的結(jié)果，原理也是“強化學(xué)習(xí)”。人在玩德州撲克的時候也通過計算，但我們算不了那么快，玩牌中產(chǎn)生的那些情感都是在彌補我們計算的不足，但要以此來證明機器也可以凌駕感情或者分析感情，是很極端和荒謬的。我個人是科學(xué)出身，但是我相信人是有靈魂的，我相信機器沒有辦法模仿到部分靈魂或者靈性和感性在里面。沒有科學(xué)根據(jù)說這句話，這是我個人感覺！

馮俊蘭：我覺得情感分很多級別。面對一個事情發(fā)展的好壞，人們的情緒由平靜到激動，這是一個標(biāo)準(zhǔn)劃分情感的方法。我所在的研究所觀測情感，我們每天給客服中心打電話，同時檢測通話過程中客服人員的情感與你的情感，如果監(jiān)測到你的情感有變化，是會做一些特別處理的。

我不覺得簡單的情感跟其他的東西有太大區(qū)別。我通過一張臉就可以識別簡單的情感，也可以通過文字、你講話的內(nèi)容、面部表情、甚至你說話的方式——因為人的情感會通過你的聲音表達，現(xiàn)在學(xué)術(shù)界有很多做這種情感的歸類處理，這是一個機器來識別情感的途徑。機器來產(chǎn)生情感，這種是不是能真的替代人情感的作用呢？我的女兒問，人為什么會有情感？情感是人沒有充分進化的一個東西，還是說我們?nèi)诉M化是必須需要情感才去主動進化的？這個我真的是不知道。但是我覺得讓AI來處理情感，我不覺得和處理別的東西有太多的不同?？赡懿荒芴娲麄€過程，但是很多級別或類型的情感應(yīng)該是可以被識別和生成的。

AI會超越人類嗎？

朱欽祺David：剛剛開復(fù)說很多事情是不可能的，如果回到兩百年前，你說我在倫敦給一個上海人打電話，人們一定覺得你是瘋子，如果站在未來往回看今天人工智能的走向，也多半如此，因為我們?nèi)祟愐恢痹谶M步?？赡芙裉斓腁I打撲克牌只是比照數(shù)據(jù)，如果將來有了視覺概念，可以分析人的表情數(shù)據(jù)，在這個方向繼續(xù)走下去，是不是AI終有一天會超越人類？

朱欽祺David Chu

李開復(fù)：邏輯判斷推理上人類已經(jīng)被超越了?？苹眯≌f想象的未來，難道任何人可以肯定回答它不會發(fā)生嗎？過去發(fā)生了很多奇跡，為什么以后不會再發(fā)生呢？這些奇跡當(dāng)然會再發(fā)生，但不負責(zé)任的說法是在沒有理論依據(jù)的前提下盲目預(yù)測。

對我來講一個打撲克的AI能夠通過視覺分析把牌打得越來越好、甚至模擬表象情感……這都是可以預(yù)測將來會發(fā)生的。可是說一臺機器真的懂得人的感情，甚至?xí)凶晕掖嬖诘囊庾R，想要要統(tǒng)治人類、傷害人類，這個我覺得現(xiàn)在還沒有足夠的科學(xué)根據(jù)。當(dāng)我們?nèi)祟愐呀?jīng)面臨挑戰(zhàn)的時候，事務(wù)性工作從業(yè)者要失業(yè)了，那孩子們的未來怎么辦？每個人都做藝術(shù)家？還是從事服務(wù)業(yè)？人工智能對教育系統(tǒng)的打擊可能是災(zāi)難性的。因為現(xiàn)在系統(tǒng)訓(xùn)練出來的孩子大多數(shù)會被AI取代。人類有這么多迫在眉睫的問題需要思考，我們是不是應(yīng)該把時間花在這些真實確切的問題上？而不要花太多時間想象縹緲的可能和不確切的問題……

AI讓人類變成高級生物？

田薇：人工智能的發(fā)生和不斷的演變在多大程度上會讓我們加深對自己的了解？人工智能帶來的社會變化，是不是將重新定義人類在做什么？以及到底在多大程度上，人工智能可以幫助人類在我們從來沒有想象過的能力前提下進行學(xué)習(xí)，從而讓我們轉(zhuǎn)化為一種徹底不同水平的生物？

田薇

馮俊蘭：深度學(xué)習(xí)有很多層次。物理世界需要處理很多不確定事件其本身所存在著的層次關(guān)系，因此人類才做多層次思考，反過來想想，人類每天就很少有時間做單一領(lǐng)域的深度學(xué)習(xí)。機器每天做深度學(xué)習(xí)，我們每天卻做淺層學(xué)習(xí)，這樣想也許真的不知道未來會怎樣發(fā)展……可是人腦是很強大的，人腦中的智能沒有被充分激活，所以我相信人的潛力。一個技術(shù)進步的時候，一定會在很大程度上拓展智能，同時也會讓人類重新改變自我思考的方式。當(dāng)我們有了這樣一個技術(shù)之后，可能對人是一種真正意義上的警醒——人也許會變得更聰明、更智慧、更有愛。當(dāng)有另外一種智能跟你匹敵的時候，也許可以激發(fā)人類全新模式的發(fā)展。

湯超：我簡單在技術(shù)上回答一下田薇的問題。“通過人工智能能不能實現(xiàn)對自己大腦的了解？”，這個問題現(xiàn)在已經(jīng)在進行了。我們對大腦的理解非常少，技術(shù)手段雖然在進步但也很有限，但從另外一方面來講，我們對人工智能的研究也越來越深入。現(xiàn)在有相當(dāng)一部分科學(xué)家想看看人工智能怎么處理的某些問題、怎么思維，以此作為啟發(fā)，看看人腦怎么處理這些問題的，比如說語言、影像識別、邏輯判斷……就是看一下我們大腦是怎么思維的。

人類的未來

翁菱：作為做藝術(shù)的人其實我不太熟悉科技的話題。人工智能也好，生物工程也好，實際上還是對我們?nèi)祟惖淖晕腋镄拢蛘哒f自我認知的革命。上一次湯超老師帶來了兩位生物科技領(lǐng)域的專家，分別是干細胞技術(shù)與基因編輯方面，而今天的人工智能也是在改變?nèi)祟?，這些技術(shù)都是對我們?nèi)祟惖淖晕腋镄碌囊环N未來選擇。那么在生物科技與人工智能之間，是不是有很多交互？同樣作為前沿科技，哪一個可能把人類帶到一個更遠的境界？

大衛(wèi)：我們一直講人類進化，人如果一直往前走，是不是有“超人”會代替現(xiàn)在的人類？畢竟是不同種類的人類不斷地進化，才有了我們今天的人類。那么再往前走的話，真正意義上的人工智能加上特別發(fā)達的生物科學(xué)，會不會造成一個“超人”而代替人類？這也是我的疑問。

湯超：就像李開復(fù)剛剛說的，任何事情都有可能，但預(yù)測它什么時候發(fā)生則非常困難。現(xiàn)在生物技術(shù)進步非?？欤洗挝液蛢擅贝蟮目茖W(xué)家來這里講基因編輯和干細胞技術(shù)，把很多藝術(shù)家都嚇壞了，因為科學(xué)家們說未來人可以不老不死。大家覺得不死的話，怎么還有藝術(shù)誕生呢！生物存在的意義似乎都被科技改變了一樣。捫心自問，科學(xué)家那時所言在未來并非不可能，只是不知道是多久之后的未來。我們能夠改變基因從而活的健康長久，不知道藝術(shù)的存在是否也可以順應(yīng)著生成另外的形式而存在？

馮俊蘭：現(xiàn)在生物可以改變?nèi)说闹巧痰氖前桑?/span>

湯超：現(xiàn)在我們對人腦了解太少，不知道哪些基因是決定智商的。如果我們知道的話，改變智商應(yīng)該是很容易的事。

馮俊蘭：當(dāng)我們不能改變自己智商的時候，智商也就跟自己無關(guān)了，但是如果智商可以改變的話，我想如果世界上的人都將會變成更聰慧的人。屆時若再加上高級的外界設(shè)施，外界設(shè)備就成了人思維控制的延伸，會有非凡的結(jié)果出現(xiàn)。

于淥：我最后補充一點。關(guān)于人工智能和生物技術(shù)在倫理層面上的憂慮大部分來自科幻作品造成的恐怖心理，是一個很負面的東西。這也是因為科普的不充分所造成的結(jié)果。李開復(fù)也從最開始就說了那些想法都是無稽之談。大家不用過度憂慮，但是它不能從根本解決問題。為什么不能根本解決問題？因為每一個技術(shù)的進步都會帶來風(fēng)險！而這個風(fēng)險必須要可控。核裂變這個技術(shù)能生出原子彈和氫彈，后果是十分可怕的，甚至能夠毀滅人類，但是只要你知道這個東西的危險性在哪里、知道如何控制它，不濫用它，那么科技就是好的事情。我們要控制自己的欲望，而不是一概的反對科學(xué)技術(shù)進步。

人工智能和生物技術(shù)面對這個問題，答案就是不能失控。如果失控了勢必造成災(zāi)難，所以我覺得研究這些前沿科技的人，同時要有一個社會責(zé)任——要和社會講清楚這個東西有怎樣的危險以及如何控制它。把這個問題妥善解決以后，就可以解除大家的一些擔(dān)憂。

翁菱：今晚的《人工智能 | “美麗新世界”》是第三次直面科技與藝術(shù)的「玉河夜話」。去年的《人工智能 | 不朽還是終結(jié)？》，我們在夜話中初次碰觸未來科技的話題，即拋出了哲學(xué)意義上的宿命追問；《生物科技 | 革命之路》則是關(guān)乎自我革新與自身探索的深入探討；這一次的「人工智能」討論在前兩次的基礎(chǔ)上，展開了對“美麗新世界”的想象。

科技發(fā)展的太快了，所以我們頻頻邀請不同領(lǐng)域、不同學(xué)科背景的大家來這里，一起圍爐夜話，希望可以跟你們了解或者學(xué)習(xí)到深一點的東西。對于我來說，組織參與這樣的討論都是出于好奇，然后更多的是出于恐懼。其實每次聽完科學(xué)家的討論之后，我也不知道這種對于未知的恐懼感是減弱還是增強！可能還得請大家經(jīng)常來到玉河，指點我們的思想迷津，讓我們自以為很浪漫的藝術(shù)思維方式，可以多一些的層次，到達另外一種境界！謝謝三位！

END