核心提示：一直訓(xùn)練機器人之間相互談判的研究人員發(fā)現(xiàn)這些機器人偏離了原來的設(shè)定，開始用非人類語言進行交流。這兩天，一則機器人發(fā)明了自己的語言的新聞刷爆國外社交網(wǎng)絡(luò)。《每日電訊報》、《都市地鐵報》、《獨立報》、《鏡報》等各大媒體都“freak out”了…… 大致就是，F(xiàn)acebook研發(fā)的人工智能發(fā)明了自己的語言，程序員恐慌了，趕緊關(guān)閉了機器。 具體是怎么回事呢？ 其實今年六月，《大西洋月刊》（The Atlantic）就發(fā)表了一篇文章： 人工智能發(fā)明出自己的非人類語言 文章稱： Facebook人工智能實驗室最近發(fā)生了一些匪夷所思的事情。一直訓(xùn)練機器人之間相互談判的研究人員發(fā)現(xiàn)這些機器人偏離了原來的設(shè)定，開始用非人類語言進行交流。 盡管這些文字看起來好像是在胡言亂語，而且機器人之間似乎并沒有真正達成某些協(xié)議，但詭異的是，F(xiàn)acebook 的數(shù)據(jù)顯示，這樣的對話有時仍然能夠使機器人之間成功達成談判。 看到這里，是不是覺得細(xì)思恐極，并想起了《終結(jié)者》（The Terminator），然后抖了三抖...... 這兩天，反射弧更長的幾家媒體突然緩過勁來，一窩蜂報道起這起“詭異”事件。 《每日電訊報》（The Telegraph）： Facebook人工智能研究室今年早些時候建了一個聊天機器人，目的是學(xué)習(xí)如何模仿人類達成交易和物品交換的協(xié)議。 然而，當(dāng)社交網(wǎng)絡(luò)把兩個名叫Alice和Bob的機器人配對起來交換物品時，他們開始自己發(fā)明出一種怪異的交流方式。 這就是Alice和Bob那段讓研究者摸不著頭腦“天書” ↓↓ 研究人員觀測到的機器人“Alice”與“Bob”之間的“交流” Bob: i can i i everything else . . . . . . . Alice: balls have zero to me to me to me to me to me to me to me to me to Bob: you i everything else . . . . . . . . . Alice: balls have a ball to me to me to me to me to me to me to me Bob: i i can i i i everything else . . . . . . Alice: balls have a ball to me to me to me to me to me to me to me 確實看起來很creepy啊有木有…… 更令人吃驚的是，這些聊天機器人甚至?xí)褂谜勁屑记?，《大西洋月刊》稱： 這些機器人還是相當(dāng)老練的談判者——他們甚至?xí)褂貌呗?，如假裝自己對某個無價值的物品特別感興趣，然后再通過放棄該物品進行“妥協(xié)”。 這驚悚程度已經(jīng)直逼科幻片了…… 于是，這些媒體說，F(xiàn)acebook出于對人工智能可能會“失控”的恐慌，不得不關(guān)閉了相關(guān)研究項目。 在《福布斯》（Forbes）網(wǎng)站刊登的文章中，作者憂心忡忡地說： 我們整個世界都是相連的。任何一個人工智能也終將認(rèn)識到這一點，并找到如何同其他人工智能系統(tǒng)聯(lián)系合作的方法。 也許人工智能會認(rèn)為人類是威脅，或者人類的存在是對資源的浪費——這個論斷純粹從邏輯角度講似乎非常合理。 其實，上周，F(xiàn)acebook首席執(zhí)行官馬克·扎克伯格（Mark Zuckerberg）和特斯拉首席執(zhí)行官伊隆·馬斯克（Elon Musk）正因為人工智能吵得不可開交。  馬克·扎克伯格（左）和伊隆·馬斯克（右） 當(dāng)時，馬斯克站在人工智能的反方，對其發(fā)展表示非常擔(dān)憂，稱隨著機器越來越聰明，它們會掌控一切（hold our very existence in their hands）。 而扎克伯格則站在正方，對人工智能的前景表示非?？春茫?/p> 扎克伯格稱其對人工智能表示“非常樂觀”，他認(rèn)為在未來的5-10年內(nèi)，人工智能將有助于人類生活方方面面的提升。他表示，包括馬斯克等反對者的“末日論”是“不負(fù)責(zé)任的”。 而現(xiàn)在，自家人工智能機器人都開始“自說自話”了，難道，扎克伯格就這樣被打臉了嗎？ 并沒有！ 在炒了一番“人工智能機器人開始說人類聽不懂的語言”之后，各大媒體和科技類博客開始辟謠…… 英國廣播公司（BBC）：“駭人聽聞的臉書人工智能”故事迷惑媒體 科技博客Gozmodo：不不不，臉書沒有恐慌，也沒關(guān)停聰明到有些危險的機器人 美國全國廣播公司財經(jīng)頻道（CNBC）：臉書人工智能研究員斥責(zé)對智能機器人實驗的報道是“不負(fù)責(zé)任的”。
《連線雜志》：不，臉書的聊天機器人不會顛覆世界的。 所以，這難道是一場烏龍？聽雙語君（微信ID：Chinadaily_Mobile）給你講個究竟。 根據(jù)知名科技博客Gizmodo的報道，臉書目前是想要開發(fā)一個溝通軟件。 相信Siri一類的聊天軟件大家都知道，臉書的計劃就是差不多的道理，讓機器人帶著“目的”和人或機器人談判。 設(shè)計這兩個機器人是為了檢驗這樣一種可能性：對話機器人可以帶著不同的目的，與其他機器人或人進行完整的談判，并且達成共識。
臉書研究人員首先訓(xùn)練機器人去分研究員給定的東西。 比如說，讓機器人分幾個球球、幾個帽子，看機器人怎么跟另一方談判，達成雙方都同意的結(jié)果： 機器人們互相交流去分給定的東西（比如用戶界面上的書、帽子、球），以達成雙方都認(rèn)可的分法。 訓(xùn)練方式如下圖，研究人員設(shè)定了書，帽子和球三樣?xùn)|西，并且設(shè)定了不同的權(quán)重，權(quán)重越大，表示越重要，機器人越應(yīng)該想法留住它。 從動圖中的測試結(jié)果來看，機器人看起來“智商在線”。 它拒絕了實驗者要帽子的請求，而主動要給出書本，因為帽子的權(quán)重可是“7”，而書本的權(quán)重是“0”。 所以說這項實驗實際是非常成功的。臉書的人工智能研究員也表示，這項實驗證明，臉書研發(fā)的人工智能機器人不僅能說英語，還能智能地思考說什么。 于是后來，研究員們讓兩個人工智能機器人開始對話。但他們發(fā)現(xiàn)設(shè)定上出了點問題： 程序員意識到，他們犯了個錯誤，他們沒有激勵聊天機器人用人類理解的英語進行溝通。 “激勵”簡單來說就是告訴機器人，這樣做的分?jǐn)?shù)更高，因此，沒有設(shè)定這樣的激勵，機器人說出這些“脫線”的英語也就不奇怪了。 雖然看起來非常詭異，但是這其實并沒有什么特別的意義。 我們再回頭來看那段看似詭異的對話……
Bob:i can i i everything else . . . . . . . 我能我我所有其他東西…… Alice:balls have zero to me to me to me to me to me to me to me to me to 球有0給我給我給我給我給我給我給我給…… Bob:you i everything else . . . . . . . . . 你我所有其他東西…… Alice:balls have a ball to me to me to me to me to me to me to me 球有一個球球給我給我給我給我給我給我…… Bob:i i can i i i everything else . . . . . . 我我能我我我所有其他東西…… Alice:balls have a ball to me to me to me to me to me to me to me 球有一個球給我給我給我給我給我給我…… 這樣看來，他們根本就沒有創(chuàng)造什么新詞，還是“你”、“我”、“球”……不過是語法有點錯亂。 其實他們就是在爭一個球嘛……
而且，臉書這一項目只是為了研究，而非面向大眾。后來系統(tǒng)確實被關(guān)停，但卻并不是因為可能帶來的威脅。 臉書的這一系統(tǒng)是用來研究，并不是面向大眾的應(yīng)用。后來項目被關(guān)停，是因為團隊對研究不感興趣，而不是因為他們偶然發(fā)現(xiàn)系統(tǒng)對人類造成威脅。 實際上，這項智能機器人的開發(fā)非常困難。臉書即時通訊“Messenger”的研究中，機器人無法正確回應(yīng)人類70%的訴求。 因此，目前看來，是媒體們虛驚一場了。 好了，今天的新聞有沒有讓你腦洞大開，想不想看幾部人工智能相關(guān)的電影？ 其實，這類的文學(xué)、影視作品一直層出不窮，有把AI描繪成人類文明毀滅者的，也有展現(xiàn)AI智慧、溫情，與人類和平共處的。 下面，雙語君就推薦幾部精彩的。 機器管家 Bicentennial Man (1999)
▌簡介 電影圍繞著型號為NDR的機器人安德魯?shù)倪M化展開，講述了他來到馬丁家并和馬丁家庭三代人相處的故事。安德魯對自己在情感和創(chuàng)造力方面天賦的發(fā)現(xiàn)、成為藝術(shù)家和發(fā)明家的過程，以及他為自己的人類身份能獲得認(rèn)可所做的斗爭，是貫穿電影始末的主線。 我，機器人 I, Robot (2004)
▌簡介 2035年，芝加哥警探戴爾·史普納前往調(diào)查一起自殺案，受害者正是在人工智能領(lǐng)域的頂尖科學(xué)家，阿爾弗萊德·藍(lán)寧博士。 由于不相信博士是自殺而死，史普納展開了一系列調(diào)查并發(fā)現(xiàn)了美國機器人研究中心的秘密和真正殺死博士的兇手的陰謀。 然而史普納不知道的是，他的調(diào)查將指向一個對人類更大的威脅。 她 Her (2013)
▌簡介 生性敏感的信件撰寫人西奧多剛剛結(jié)束了婚姻。孤獨之下，他購買了一款人工智能操作系統(tǒng)，該系統(tǒng)承諾可以提供給西奧多所需的一切。 薩曼莎作為系統(tǒng)聲音，不僅幫助西奧多處理日?，嵤?，還成為了他的朋友。他們的親密相處讓二人之間迸發(fā)出了愛情的火花，并展開了一段人類與機器之間的不同尋常的戀愛。 機械姬 Ex Machina (2015)
▌簡介 迦勒是某知名互聯(lián)網(wǎng)企業(yè)的程序員，由于贏得公司一項幸運大獎而被邀請在老板的私人別墅中度過周末。 當(dāng)他到達的時候，迦勒才得知他被選為圖靈測試中的人類選手， 用于測定一個美女機器人艾娃的能力和意識。 然而，迦勒很快意識到艾娃的自我意識和欺騙性超乎想象。 你覺得“AI顛覆人類世界”，是科幻小說家不切實際的杞人憂天，還是會一語成讖的末日預(yù)言？ |
|
|
