從ANI到AGI的道路為什么這么難？

沒有什么比學習創(chuàng)造一臺像人類一樣聰明的電腦這種難以置信的創(chuàng)造更能讓人欣賞人類的智慧了。建造摩天大樓，將人類置于太空中，弄清楚大爆炸如何發(fā)生的細節(jié) - 這些都比了解我們自己的大腦或如何制造像它一樣酷的東西要容易得多。截至目前，人類大腦是已知宇宙中最復雜的物體。

有趣的是，嘗試構建AGI（一種與一般人類一樣智能的計算機，而不是只局限于某一個特定領域）的困難部分并不直觀，你認為它們是什么。構建一臺可以瞬間將兩個十位數(shù)字相乘的計算機 - 非常容易。建立一個可以看著狗并回答它是狗還是貓的機器人 - 非常困難。制作可以在國際象棋中擊敗任何人的人工智能？我們已經(jīng)完成了。制作一個可以從一本六歲孩子的圖畫書中讀出一段不僅僅是識別這些詞而是理解它們的含義的段落？谷歌目前正在花費數(shù)十億美元美元試圖做到這一點。對于計算機而言，諸如微積分，金融市場策略和語言翻譯等人類難以理解的東西對于計算機來說是非常容易理解的，而像視覺，動作，運動和感知這樣的簡單事物對它來說是非常困難的?；蛘?，正如計算機科學家Donald Knuth所說的那樣，“人工智能已經(jīng)成功地完成了所有需要思考的事情，但未能在沒有思考的情況下完成人和動物的大部分工作?！?/p>

當你想到這一點時你很快就會意識到，那些對我們來說似乎很容易的東西實際上是難以置信的復雜，而且它們看起來很簡單，是因為這些技能在我們（和大多數(shù)動物）中經(jīng)過了數(shù)億年的動物進化中得到了優(yōu)化。當您將手伸向一個物體時，肩膀，肘部和腕部的肌肉，肌腱和骨骼與您的眼睛一起會立即執(zhí)行一系列物理操作，讓您直接移動您的手通過三個維度。對你來說似乎毫不費力，因為你的腦中有完美的軟件可以做到這一點。同樣的道理也適用于為什么當你在一個網(wǎng)站上注冊一個新賬號時，軟件不會因為你無法識別出帶有偏見的單詞通過識別測試而顯得非常愚蠢，而是因為你的大腦能夠識別出這些單詞而讓你印象深刻。

另一方面，對于生物來說，乘以大數(shù)或下棋是一種新的活動，我們沒有時間進化出對他們的熟練程度，因此計算機不需要太努力就能擊敗我們?？紤]一下 - 你寧愿做什么，是建立一個程序，可以用大數(shù)字相乘或者一個能夠理解單詞B的本質(zhì)的程序:可以顯示一個可能有成千上萬的字體和筆跡的單詞B后可以立即明白這是單詞B?

一個有趣的例子 - 當你看到這個時，你和電腦都可以發(fā)現(xiàn)它是一個有兩個不同色調(diào)的矩形，交替出現(xiàn)：

但是，如果你拿起黑色部分并露出整個圖像，你可以完整地描述各種不透明和半透明的圓柱，板條和三維角，但計算機會出問題。它會描述它所看到的 - 各種不同色調(diào)的各種二維形狀 - 其實這就是實際存在的東西。但是你的大腦正在做很多花哨的工作，以解釋圖片試圖描繪的隱含深度，陰影混合和房間的燈光?？聪旅娴膱D片，計算機可以看到一個二維的白色，黑色和灰色拼貼畫：

而你很容易看到它的真實含義 - 一張完全黑色的三維巖石照片：

我們剛提到的所有內(nèi)容仍然只是處理停滯不前的信息并對其進行處理。為了成為人工智能，計算機必須要理解微妙的面部表情之間的區(qū)別，高興，放心，笑容，滿足和高興之間的區(qū)別，以及為什么勇敢的心很棒，但愛國者卻是糟糕的。

這真的是令人望而生畏

那么我們?nèi)绾巫龅竭@一點呢?

創(chuàng)建AGI的第一要點:提高計算能力

要使AGI成為可能，那么一件事是必須做到的，那就是增加計算機硬件的能力。如果人工智能系統(tǒng)要像大腦一樣聰明，它就需要等于大腦的原始計算能力。

表達這種能力的一種方法是用大腦可以管理的每秒總計算量（cps），你可以通過計算出大腦中每個結構的最大cps然后將它們?nèi)考釉谝黄饋淼贸鲞@個數(shù)字。

Ray Kurzweil提出了一個捷徑，通過對一個結構的cps進行專業(yè)估計，并將該結構的重量與整個大腦的重量進行比較，然后按比例相乘以得到總數(shù)的估計值。聽起來有些不確定，但是他對不同地區(qū)的各種專業(yè)估計做了很多次，并且總數(shù)達到了10萬億分CPS。

目前，世界上最快的超級計算機，是中國的天河2號，實際上已經(jīng)擊敗了這個數(shù)字，時鐘頻率約為34千萬億CPS。但是天河二號也是一個龐大的家伙，它占地720平方米，使用24兆瓦的電力（大腦只需20瓦），耗資3.9億美元建造。不是特別適合于廣泛使用，甚至在大多數(shù)商業(yè)或工業(yè)用途也不實用。

Kurzweil建議，通過查看可以以1，000美元購買多少cps來考慮計算機的狀態(tài)。當這個數(shù)字達到人類級別的10千萬億CPS時，那就意味著AGI可能成為生活中真實的一部分。

摩爾定律是歷史上一種可靠的規(guī)則，世界上最大的計算能力大約每兩年翻一番，這意味著計算機硬件的進步，如歷史上人類的進步一樣，是呈指數(shù)增長?？纯催@與Kurzweil的cps / 1，000美元指標有什么關系，目前我們目前約為10萬億cps / 1，000美元，與此圖表的預測軌跡同步：

因此，世界上1000美元的計算機現(xiàn)在正在擊敗老鼠的大腦，它們的水平大約是人類的千分之一。這聽起來并不是很多，但是你記得在1985年能夠達到人類水平的萬億分之一，1995年能夠達到十億分之一，2005年達到百萬分之一。2015年達到千分之一的水平，這意味著我們有望在2025年前擁有一臺價格適中、可與人腦相媲美的電腦。

因此，在硬件方面，AGI所需的原始功率現(xiàn)在在中國已經(jīng)可以獲得，我們將在10年內(nèi)為經(jīng)濟實惠，并且要廣泛使用的AGI級硬件做好準備。但僅憑原始計算能力并不能使計算機具有智能性 - 下一個問題是，我們?nèi)绾螌⑷祟惖闹悄軒脒@些能力？

創(chuàng)建AGI的第二個關鍵:讓它變得聰明

這是令人討厭的部分。事實是，沒有人真正知道如何讓它變得聰明 - 我們?nèi)匀辉跔幷撊绾问褂嬎銠C具有人類的智能水平，并且能夠知道什么是狗和怪異的手寫單詞B和什么是平庸的電影。但是有很多牽強附會的策略，在某些時候，其中一個會起作用。以下是我遇到的三種最常見的策略：

1)剽竊大腦

這就像科學家們一樣，在課堂上坐在他們旁邊的那個孩子如此聰明并且在測試中的成績也很好，即使那個孩子繼續(xù)努力學習，他也不能做得像科學家那么好，然后他最終決定“他媽的，我要復制那個人的答案?！边@其實很有意義 - 我們在試圖構建一臺超級復雜的計算時遇到了困難，而我們每個人的大腦都恰好都有一臺完美的原型機，為什么不復制呢。

科學界正在努力的對大腦進行逆向工程，以弄清楚進化是如何產(chǎn)生如此驚人的結果的-樂觀的估計認為我們可以在2030年做到這一點。一旦我們做到了這一點，我們就會知道大腦是如何如此有力和高效的運作的秘密，我們就可以從中汲取靈感并竊取其創(chuàng)新。模仿大腦的計算機體系結構的一個例子是人工神經(jīng)網(wǎng)絡。它起初是一個晶體管“神經(jīng)元”組成的網(wǎng)絡，通過輸入和輸出相互連接，它就像嬰兒大腦一樣。它“學習”的方式是它試圖完成一項任務，比如手寫識別，并且首先，它的神經(jīng)啟動和隨后解讀每個字母的猜測將是完全隨機的。但當它告知它做對了正確的事情時，恰好產(chǎn)生這個答案的觸發(fā)通路中的晶體管連接就會被加強; 當它被告知這是錯誤的時候，這些途徑的聯(lián)系被削弱了。經(jīng)過大量的試驗和反饋，網(wǎng)絡本身已經(jīng)形成了智能神經(jīng)通路，并且機器已經(jīng)針對該任務進行了優(yōu)化。大腦學習有點像這樣學習的，但是是以更復雜的方式，當我們繼續(xù)研究大腦時，我們會發(fā)現(xiàn)利用神經(jīng)回路的巧妙的新方法。

更極端的剽竊涉及一種稱為“全腦模擬”的策略，其目標是將真實的大腦切成薄薄的一層，掃描每一層腦，使用軟件組裝一個精確重建的三維模型，然后在功能強大的計算機上實現(xiàn)該模型。然后我們有一臺可以處理大腦所能處理的所有事情的計算機 - 它只需要學習和收集信息。如果工程師做到非常好，他們就能夠以準確的精確度模擬一個真實的大腦，一旦大腦架構上傳到計算機，大腦的完整人格和記憶就會完好無損。如果這個大腦在吉姆去世前屬于吉姆，那么計算機將會以吉姆的名字醒來（？），這將是一個強大的人類級AGI，我們現(xiàn)在可以努力將吉姆變成一個難以想象的智能ASI，這可能會讓他非常興奮。

我們距離實現(xiàn)全腦模擬還有多遠？到目前為止，我們最近還沒有能夠模擬1毫米長的扁蟲大腦，它其中只有302個神經(jīng)元。而人腦含有1000億。如果這看起來像是一個無望的項目，請記住指數(shù)進展的力量 - 現(xiàn)在我們已經(jīng)征服了微小的蠕蟲大腦，那么征服螞蟻的大腦可能在不久之后發(fā)生，接著是老鼠，這似乎變得合理起來。

2)盡量讓進化做它以前做過的事情，但這次是相對我們來講

所以，如果我們認為聰明孩子的測試很難模仿，我們可以嘗試模仿他為考試而學習的方式。

這是我們知道的。建立像大腦一樣強大的計算機是可能的 - 我們自己大腦的進化就是證據(jù)。如果大腦過于復雜，我們無法模仿，我們可以嘗試模仿進化。事實是，即使我們可以模仿大腦，但這可能就像試圖通過模仿鳥的翅膀的運作來建造飛機 - 通常，機器的最佳設計是使用一種全新的、面向機器的方法，而不是完全的模仿生物學。

那么我們?nèi)绾文M進化以構建AGI？這種被稱為“遺傳算法”的方法會起到作用：會有一次又一次發(fā)生的表現(xiàn)和評估過程（生物“按照生活方式”表現(xiàn)的方式相同，并通過“評估”來判斷他們復制與否。一組計算機將嘗試執(zhí)行任務，并且最成功的計算機將通過將每個編程的一半合并到一臺新計算機中而彼此進行繁殖。不太成功的將被淘汰。經(jīng)過多次迭代，這種自然選擇過程將產(chǎn)生更好的計算機。挑戰(zhàn)在于創(chuàng)建一個自動評估和繁殖周期，以便這個演變過程可以自行運行。

復制進化的缺點是進化用了十億年的時間做成了這件事，而我們想在幾十年內(nèi)做到這一點。

但是我們在進化方面有很多優(yōu)勢。首先，進化沒有先見之明并隨機工作 - 它產(chǎn)生的無效突變比有用突變更多，而我們會控制這個過程，因此它只會受益于有益的故障和有針對性的調(diào)整。其次，發(fā)展不瞄準任何東西，包括智能，有時一個環(huán)境甚至可能會反對選擇更高的智力（因為它消耗了大量的能量）。另一方面，我們可以專門指導這種進化過程增加智能。第三，為了選擇智能，進化必須通過一系列其他方式進行創(chuàng)新，以促進智能的發(fā)展 - 如改變細胞產(chǎn)生能量的方式 - 當我們可以消除這些額外的負擔并使用電力之類的東西。毫無疑問的，我們會比進化的速度更快，但我們能否可以在進化的基礎上做出足夠的改進，使之成為一種可行的策略，目前還不清楚。

3)把這件事當成電腦的問題，而不是我們的問題

這是科學家們最絕望的時候，他們試圖為測試編寫程序。但這可能是我們擁有的最有前途的方法。

我們的想法是，我們將構建一臺計算機，其兩項主要技能是對人工智能進行研究，并將編碼變更為它本身 - 使其不僅可以學習，還可以改進自己的架構。我們將電腦變成計算機科學家，這樣他們就可以自己進行發(fā)展。這將會是他們的主要工作 - 弄清楚如何讓自己變得更聰明。稍后我們會對此進行詳細介紹。

所有的這一切都會很快將要發(fā)生

硬件的快速發(fā)展和軟件的創(chuàng)新實驗正在同時發(fā)生，AGI可能會迅速出乎意料地趕上我們，主要有兩個原因：

1)指數(shù)增長非常激烈，看起來像蝸牛的進步速度可以迅速向上競爭 - 這個GIF很好地說明了這個概念：

2)當談到軟件時，進展看起來似乎很慢，但是一個頓悟可以立即改變進步的速度（有點像科學，在人類認為宇宙的中心是地心說的時候，很難計算宇宙是如何工作的，但隨后發(fā)現(xiàn)它是日心說的時候突然使一切都變得很容易）?；蛘?，當涉及到像計算機這樣能夠改善自身的東西時，我們可能看起來很遙遠，但實際上只需要對系統(tǒng)的一個微調(diào)，他就有可能變得比原來高效1000倍，并迅速提升到人類的智能水平。