導(dǎo)語(yǔ)

從感知機(jī)模型，到深度神經(jīng)網(wǎng)絡(luò)的發(fā)明，都受到了生物神經(jīng)系統(tǒng)的啟發(fā)。在本周Science的一篇評(píng)論文章中，研究者認(rèn)為，將深度學(xué)習(xí)與類似人腦的先天結(jié)構(gòu)相結(jié)合，能夠讓神經(jīng)網(wǎng)絡(luò)模型更接近人類學(xué)習(xí)模型。

編譯：集智俱樂(lè)部翻譯組

來(lái)源：Science

原題：

Using neuroscience to develop artificial intelligence

1950年，數(shù)學(xué)家艾倫圖靈在他的論文開頭提出了一個(gè)重要的問(wèn)題：機(jī)器能思考嗎？就此，人類展開了對(duì)人工智能的探索。

而目前唯一已知的、能進(jìn)行復(fù)雜計(jì)算的系統(tǒng)就是生物神經(jīng)系統(tǒng)，這也就不奇怪——為什么人工智能領(lǐng)域的科學(xué)家們會(huì)將大腦神經(jīng)回路視作靈感的來(lái)源。

在人工智能領(lǐng)域發(fā)展的早期，科學(xué)家就研究過(guò)使用類似大腦結(jié)構(gòu)的電路進(jìn)行智能計(jì)算。近些年，這一研究方法誕生的最偉大成果就是一個(gè)高度精簡(jiǎn)的大腦皮層回路模型：神經(jīng)網(wǎng)絡(luò)。

這個(gè)模型受到了大腦神經(jīng)網(wǎng)絡(luò)模型的啟發(fā)。神經(jīng)網(wǎng)絡(luò)模型由多層神經(jīng)元構(gòu)成，可以通過(guò)調(diào)節(jié)參數(shù)權(quán)重的大小來(lái)調(diào)節(jié)這些神經(jīng)元之間連接的強(qiáng)弱，這種結(jié)構(gòu)與神經(jīng)科學(xué)中的突觸相對(duì)應(yīng)。

深度神經(jīng)網(wǎng)絡(luò)以及相關(guān)的方法在人工智能系統(tǒng)的應(yīng)用中已經(jīng)帶來(lái)了深遠(yuǎn)的變革。在計(jì)算機(jī)視覺、語(yǔ)音識(shí)別以及游戲博弈等人工智能的核心領(lǐng)域，神經(jīng)網(wǎng)絡(luò)都有著舉足輕重的影響力，相較其它模型更甚。在應(yīng)用領(lǐng)域，語(yǔ)音文本翻譯以及計(jì)算機(jī)視覺這些問(wèn)題中都廣泛應(yīng)用神經(jīng)網(wǎng)絡(luò)方法。

本文我們將會(huì)討論，大腦神經(jīng)元回路如何為神經(jīng)網(wǎng)絡(luò)方法提供新的指引和洞見，使得神經(jīng)網(wǎng)絡(luò)能夠成為一種強(qiáng)人工智能方法。

從深度學(xué)習(xí)到強(qiáng)化學(xué)習(xí)

深度神經(jīng)網(wǎng)絡(luò)

深度神經(jīng)網(wǎng)絡(luò)的關(guān)鍵問(wèn)題就是學(xué)習(xí)問(wèn)題：如何通過(guò)調(diào)整神經(jīng)元之間連接的權(quán)重，使得輸入的數(shù)據(jù)能夠得到期望的輸出，方法是通過(guò)對(duì)樣本的訓(xùn)練自動(dòng)調(diào)整權(quán)重。訓(xùn)練樣本提供了一套輸入數(shù)據(jù)以及與之所對(duì)應(yīng)的輸出數(shù)據(jù)。深度神經(jīng)網(wǎng)絡(luò)通過(guò)調(diào)整神經(jīng)元之間的權(quán)重，使得輸入數(shù)據(jù)能夠產(chǎn)生與期望相對(duì)應(yīng)的輸出。

一個(gè)好的學(xué)習(xí)過(guò)程，不僅僅是記住了輸入樣本，同時(shí)能夠泛化模型，使得模型在遇到?jīng)]有學(xué)習(xí)過(guò)的樣本數(shù)據(jù)時(shí)，也能夠得到正確的輸出結(jié)果。

我們將深度神經(jīng)網(wǎng)絡(luò)模型與核磁共振成像以及生物行為數(shù)據(jù)等實(shí)證生理學(xué)方法提供的結(jié)果相比較，會(huì)發(fā)現(xiàn)大腦與深度神經(jīng)網(wǎng)絡(luò)模型的異同之處。與靈長(zhǎng)類生物的視覺系統(tǒng)相比，這兩種神經(jīng)模型的早期神經(jīng)反應(yīng)階段比后期階段更為接近。這表明我們?nèi)嗽斓纳疃壬窠?jīng)網(wǎng)絡(luò)，能夠更好的處理早期神經(jīng)反應(yīng)階段，后期認(rèn)知過(guò)程的處理能力還比較差。

強(qiáng)化學(xué)習(xí)

除了深度神經(jīng)網(wǎng)絡(luò)以外，人工智能模型近期還增添了一員“大將”：強(qiáng)化學(xué)習(xí)——大腦收到了獎(jiǎng)勵(lì)信號(hào)就能夠改變行為的機(jī)制。強(qiáng)化學(xué)習(xí)能夠表征人或者動(dòng)物在全世界范圍內(nèi)的行為，并且接收獎(jiǎng)勵(lì)信號(hào)。研究者們已經(jīng)廣泛地研究了這種學(xué)習(xí)模型的大腦反應(yīng)機(jī)制，并且應(yīng)用到人工智能領(lǐng)域，特別是機(jī)器人領(lǐng)域。

強(qiáng)化學(xué)習(xí)的目標(biāo)是學(xué)習(xí)一個(gè)最優(yōu)策略，構(gòu)建一種從狀態(tài)到行動(dòng)的映射，以此來(lái)優(yōu)化所有時(shí)間內(nèi)能獲得的收益。近期的人工智能研究中已經(jīng)將強(qiáng)化學(xué)習(xí)與深度學(xué)習(xí)相結(jié)合，特別是在諸如視頻游戲、棋類游戲（國(guó)際象棋、圍棋和日本將棋）等復(fù)雜的游戲活動(dòng)中。

深度神經(jīng)網(wǎng)絡(luò)和強(qiáng)化學(xué)習(xí)相結(jié)合的模型產(chǎn)生了應(yīng)為驚訝的結(jié)果：人工智能已經(jīng)擊敗了國(guó)際圍棋大師，并且僅需要4小時(shí)的訓(xùn)練就能夠達(dá)到大師級(jí)的水平，而且并沒有依賴于人類的棋譜，而是通過(guò)自我博弈達(dá)到這樣的結(jié)果。

大腦神經(jīng)回路（左）與深度神經(jīng)網(wǎng)絡(luò)（右）

神經(jīng)網(wǎng)絡(luò)：人工 VS. 生物

一個(gè)懸而未決的問(wèn)題是：與大腦神經(jīng)回路相比，當(dāng)前我們所使用的深度神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)極其簡(jiǎn)單，這樣的簡(jiǎn)化是否能夠捕捉到人類學(xué)習(xí)與認(rèn)知的全部能力？

從神經(jīng)科學(xué)引領(lǐng)人工智能的視角來(lái)看，我們必須承認(rèn)目前取得的結(jié)果令人驚訝。與大腦皮層的神經(jīng)回路相比，神經(jīng)網(wǎng)絡(luò)模型做了許多簡(jiǎn)化，同時(shí)也加入了另外一些受到腦神經(jīng)科學(xué)啟發(fā)的結(jié)構(gòu)，比如歸一化處理以及注意力模型。但是一般來(lái)說(shuō)，我們所熟知的關(guān)于神經(jīng)元的所有東西（結(jié)構(gòu)、類型以及關(guān)聯(lián)性等等特征）都被排除在了神經(jīng)網(wǎng)絡(luò)模型之外。

目前科學(xué)家們并不清楚，對(duì)于神經(jīng)網(wǎng)絡(luò)這個(gè)人工智能模型而言，哪些生物神經(jīng)結(jié)構(gòu)是必不可少且能發(fā)揮作用的。但是生物神經(jīng)結(jié)構(gòu)和深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的差異已經(jīng)非常明顯了，比如說(shuō)生物神經(jīng)元在形態(tài)結(jié)構(gòu)、生理特征以及神經(jīng)化學(xué)方面千差萬(wàn)別且結(jié)構(gòu)復(fù)雜。典型的例子有，興奮性椎體神經(jīng)元的輸入分布在復(fù)雜樹突的頂部和底部；抑制性皮質(zhì)神經(jīng)元具有多種不同的形態(tài)，且能執(zhí)行不同的功能。

神經(jīng)網(wǎng)絡(luò)模型不僅沒有包含這種異質(zhì)性以及其它復(fù)雜的特征，相反，人工神經(jīng)網(wǎng)絡(luò)使用了高度精簡(jiǎn)且一致統(tǒng)一的數(shù)學(xué)函數(shù)作為神經(jīng)元。就神經(jīng)元之間的連接方式而言，生物神經(jīng)元也比神經(jīng)網(wǎng)絡(luò)要復(fù)雜許多，同層神經(jīng)元之間的連接，局部連接與遠(yuǎn)程連接，以及皮層區(qū)不同層級(jí)之間自上而下的連接，以及可能存在局部的“規(guī)范電路”。

深度神經(jīng)網(wǎng)絡(luò)主要的成績(jī)還是在處理現(xiàn)實(shí)世界中諸如語(yǔ)音信息和視覺信息等感知數(shù)據(jù)上。在圖像視覺領(lǐng)域，神經(jīng)網(wǎng)絡(luò)模型最初是用來(lái)處理感知問(wèn)題，例如對(duì)圖像進(jìn)行分割以及分類。

在這些工作的基礎(chǔ)上加上一些擴(kuò)展，我們就能夠讓神經(jīng)網(wǎng)絡(luò)模型處理更加復(fù)雜的問(wèn)題。

例如為圖像提供說(shuō)明文字，利用一段簡(jiǎn)短的語(yǔ)言描述圖片的內(nèi)容，或者識(shí)別圖片的內(nèi)容并回答人類的提問(wèn)。

非視覺問(wèn)題，比如理解圖片的潛在含義：幽默還是諷刺？或者通過(guò)圖片理解其中的物理結(jié)構(gòu)以及社會(huì)現(xiàn)象等。不僅如此，科學(xué)家們也在努力讓這樣的神經(jīng)網(wǎng)絡(luò)應(yīng)用在自動(dòng)翻譯、個(gè)人輔助、醫(yī)療診斷、高級(jí)機(jī)器人以及自動(dòng)駕駛等其它領(lǐng)域。

人們?cè)谌斯ぶ悄茴I(lǐng)域的研發(fā)投入以及資金投入都與日俱增，但這同時(shí)也帶來(lái)了一些的疑難問(wèn)題——人工智能到底能否帶來(lái)真實(shí)？能否產(chǎn)生和人類類似的理解能力？甚至人工智能是否會(huì)和人類智能走向完全不同的方向？這些問(wèn)題都是未知的，并且人類在該領(lǐng)域的科學(xué)研究以及商業(yè)實(shí)踐上都下了重注。

倘若當(dāng)前的神經(jīng)網(wǎng)絡(luò)模型在認(rèn)知能力方面被證明是有限的，那么自然研究者還需要到神經(jīng)科學(xué)中去尋找啟示。目前被人們所忽略的大腦神經(jīng)中的種種細(xì)節(jié)是否能為構(gòu)建強(qiáng)人工智能提供一把鑰匙？我們?nèi)祟惔竽X中哪些結(jié)構(gòu)是特別重要的，這一點(diǎn)并沒有定論。

認(rèn)知能力取決于

先天結(jié)構(gòu)還是后天學(xué)習(xí)？

雖然我們?nèi)祟悓?duì)自己大腦神經(jīng)回路的理解還很有限，但我們?nèi)匀豢梢哉曇粋€(gè)常見的問(wèn)題——人腦神經(jīng)和深度神經(jīng)網(wǎng)絡(luò)模型有著根本的不同，這種不同可能在尋找類似人類的強(qiáng)人工智能的道路上起到至關(guān)重要的作用。

這涉及到了一個(gè)古老的認(rèn)知問(wèn)題，是經(jīng)驗(yàn)主義還是先天主義？換句話說(shuō)就是：先天的認(rèn)知結(jié)構(gòu)和一般的學(xué)習(xí)機(jī)制二者的相互作用問(wèn)題。

嬰兒期視覺學(xué)習(xí)帶來(lái)的啟示

目前的智能模型傾向于經(jīng)驗(yàn)主義，使用相對(duì)簡(jiǎn)單統(tǒng)一的網(wǎng)絡(luò)結(jié)構(gòu)，主要依靠學(xué)習(xí)過(guò)程以及大量的訓(xùn)練數(shù)據(jù)來(lái)提高認(rèn)知能力。相比而言，生物體往往是在經(jīng)過(guò)很有限的訓(xùn)練就能夠完成復(fù)雜的任務(wù)，許多的學(xué)習(xí)任務(wù)是由先天的神經(jīng)結(jié)構(gòu)來(lái)完成的。換句話說(shuō)，生物的學(xué)習(xí)是舉一反三，而神經(jīng)網(wǎng)絡(luò)是舉三反一。

比如說(shuō)許多物種，諸如昆蟲、魚類、鳥類都有著一套復(fù)雜且獨(dú)特的機(jī)制來(lái)執(zhí)行導(dǎo)航任務(wù)。就人類而言，人類的嬰兒出生幾個(gè)月就能夠進(jìn)行復(fù)雜的認(rèn)知工作，而這時(shí)的人類并不能接受具體的訓(xùn)練，相反嬰兒能夠本能的去識(shí)別物體，抓握物體。在視覺上，嬰兒能夠識(shí)別一個(gè)動(dòng)畫角色是否友善，這些任務(wù)顯示出了一個(gè)嬰兒對(duì)這個(gè)物理世界以及人類社會(huì)的初步理解。

大量的研究表明，快速的非監(jiān)督學(xué)習(xí)是可行的，因?yàn)槿祟惖恼J(rèn)知系統(tǒng)中已經(jīng)先天地具備了基本結(jié)構(gòu)，這些結(jié)構(gòu)有助于人類獲得有意義的概念，并且增進(jìn)認(rèn)知技能。

與現(xiàn)有的深度神經(jīng)網(wǎng)絡(luò)模型相比，人類認(rèn)知學(xué)習(xí)和理解能力所具有的優(yōu)越性很可能是因?yàn)槿祟愓J(rèn)知系統(tǒng)中包含著大量的先天結(jié)構(gòu)。通過(guò)對(duì)嬰兒期視覺學(xué)習(xí)過(guò)程的建模，體現(xiàn)出了先天的結(jié)構(gòu)以及后天學(xué)習(xí)過(guò)程的有效結(jié)合，并且人們發(fā)現(xiàn)那些含義復(fù)雜的概念，既不是先天存在的也不是后天學(xué)會(huì)的。

在這個(gè)“中間路線”中，先天概念并不是被開發(fā)出來(lái)的，而是通過(guò)一些簡(jiǎn)單的原型概念隨著人類的學(xué)習(xí)過(guò)程一步一步演化成復(fù)雜概念的，這個(gè)模式很難說(shuō)存在明確的學(xué)習(xí)訓(xùn)練過(guò)程。

比如說(shuō)嬰兒能夠注意到人的視線以及人的動(dòng)作之間的關(guān)聯(lián)，當(dāng)人的視線以及動(dòng)作朝向相反方向的時(shí)候，能夠察覺到其中的錯(cuò)誤。大腦皮層先天的特定結(jié)構(gòu)能夠?qū)崿F(xiàn)這一功能，并且能對(duì)輸入的信息輸出報(bào)錯(cuò)反饋。

“中間路線”助力人工智能

我們也可以把這種先天的結(jié)構(gòu)構(gòu)建于人工神經(jīng)網(wǎng)絡(luò)中，使得人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程更加類似于人類。人們可以通過(guò)理解并模仿大腦的相關(guān)機(jī)制來(lái)完成這樣的一個(gè)研究任務(wù)，或者從零開始開發(fā)一個(gè)全新的高效的計(jì)算學(xué)習(xí)方法。

科學(xué)家已經(jīng)在這個(gè)方向上做了一些嘗試。但總的來(lái)說(shuō)，學(xué)習(xí)一個(gè)先天的結(jié)構(gòu)與當(dāng)前的學(xué)習(xí)任務(wù)并不相同，在這個(gè)問(wèn)題上人類還是知之甚少。把先天結(jié)構(gòu)與后天學(xué)習(xí)結(jié)合在一起，可能給神經(jīng)科學(xué)和通用人工智能這兩個(gè)學(xué)科都帶來(lái)好處，并且能將二者結(jié)合為智能處理理論。

翻譯：Leo

審校：王佳純

編輯：王怡藺