海歸學者發(fā)起的公益學術平臺 分享信息,整合資源 交流學術,偶爾風月 上周發(fā)表的一項新研究展示了一種新型芯片,該芯片結合了以神經科學為基礎的類腦計算和基于計算機科學的機器學習算法,而這種融合技術有望進一步促進通用人工智能的發(fā)展。目前,該芯片已被運用于一個無人自行車系統(tǒng)進行能力試驗。試驗中,無人自行車不僅可以識別語音指令、實現(xiàn)自平衡控制,還能對前方行人進行探測和跟蹤,并自動避障。本研究由清華大學施路平教授、裴京副研究員及其團隊協(xié)作完成,相關論文發(fā)表在《自然》雜志上。 通用人工智能(Artificial General Intelligence, AGI)是指一種智力水平與人類不分伯仲的人工智能。原則上,通用人工智能平臺可以執(zhí)行人類能夠完成的所有任務。目前,通用人工智能有兩種研究路徑:計算機科學導向和神經科學導向。 神經科學導向的AGI方法追求無限度地模仿人的大腦。這種方法研究觀察了記憶和計算之間的緊密相互作用,運用脈沖進行編碼、制定學習規(guī)則。其代表為第三代神經網絡——脈沖神經網絡(Spiking Neural Networks, SNN)。相比之下,面向計算機科學的方法主要表現(xiàn)為在計算機上執(zhí)行的顯式算法。其代表是非脈沖式的人工神經網絡(ANNs),屬于第二代神經網絡。ANNs在處理特定任務方面取得了實質性進展,如圖像分類、語音識別、語言處理和游戲AI等領域。 雖然這兩種方法都可以解決數(shù)據(jù)豐富的專門任務,但是要解決與多系統(tǒng)相關的、信息不完整的復雜動態(tài)問題,現(xiàn)有的技術仍然是無能為力。因此,為了進一步發(fā)展出智力可與人類比肩的AGI,目前的大趨勢是將更多由生物學啟發(fā)而來的模型或算法納入主流人工神經網絡,從而在SNN與ANNs構建起橋梁。但由于兩套系統(tǒng)使用的平臺各不相同且互不兼容,因此極大地限制了人工通用智能的發(fā)展。 在本次研究中,研究人員開發(fā)了一種混合式計算芯片,它可以適應同時面向計算機科學和神經科學的神經網絡。設計出與各種神經模型和算法兼容的通用平臺是一項基本挑戰(zhàn),而這挑戰(zhàn)性在某些方面又尤其突出——比如ANN和SNN之間天然隔離。 ANN和SNN在信息表示、計算原理和記憶組織方面都具有不同的建模范例。而其中最根本的差異是,ANN以精確的多位值進行信息處理,而SNN卻使用二進制脈沖序列。所以,為了在一個平臺上實現(xiàn)兩種模型,脈沖需要表示為數(shù)字序列,以便它們與數(shù)字編號的ANN編碼格式兼容。 ANN計算模型與生物神經元計算模型 除此之外,還有幾點差異也十分重要:首先,SNN在時空域中運行,這需要在一定時間內記憶歷史膜電位和脈沖樣式,而ANN在過程中累積加權并周期性地刷新信息。其次,SNN的計算包括膜電位積分、閾值交叉和電位復位,其由脈沖驅動。相比之下,ANN主要與密集的乘積累加運算(Multiply Accumulate, MAC)操作和激活變換相關。最后,SNN中的脈沖信息的處理需要可編程的存儲器及額外的高精度存儲器,而ANN僅需要用于激活存儲和變換的存儲器即可。當然,ANN和SNN之間也存在一些相似之處,這為模型實現(xiàn)融合留下了空間。 ANN和SNN實現(xiàn)路徑之間的比較 在對不同系統(tǒng)進行詳細比對之后,研究人員抽象統(tǒng)一了軸突、突觸、樹突、胞體和感知器等模塊,設計了一種交叉范式的神經元方案。如下圖所示: 在該方案的支持下創(chuàng)建的功能核心,是一種具有“ANN輸入和SNN輸出”或“SNN輸入和ANN輸出”能力的混合網絡基元。換言之,一種可以充當ANN / SNN系統(tǒng)轉換器的功能核心誕生了。本次研究發(fā)布的Tianjic芯片即由這種功能核心構成。Tianjic芯片由156個功能核心組成,包含大約40,000個神經元和1000萬個突觸。芯片采用28-nm處理技術制造,膜片區(qū)面積為3.8×3.8 平方毫米。Tianjic芯片憑借其分布式片上存儲器和分散式多核架構,提供的內存帶寬超過了610GB(每秒)。 Tianjic芯片和測試板及其布局視圖 為了證明這種類腦跨范式系統(tǒng)的實用性,研究人員用芯片設計了一輛無人自行車。通過在一個Tianjic芯片內并行部署多個專用網絡,自行車得以配備多種算法和模型。該無人自行車已能夠執(zhí)行實時物體檢測、跟蹤、語音命令識別、超速減速、避障、平衡控制等任務。 研究人員認為,本次研究將能夠促進AGI的實現(xiàn)進程。施路平教授介紹說:“本次研究事實上包含了多重信息,它是‘腦和電腦’的融合;是計算和存儲的融合,既有分離又有一體化;是時空復雜性和空間復雜性的融合;是空間編碼和時間編碼的融合。”在談及本次研究與類腦的關系時,他表示:“類腦在本次研究中具有風向標的地位,自然界中唯一的AGI系統(tǒng)就是人腦,所以朝著這一方向進發(fā),是研究中十分寶貴的方向感。” 但研究人員也表示,該工作還是十分初步的,還有很大的上升空間,而迭代更新的工作已經在著手進行中。據(jù)悉,現(xiàn)在該芯片技術已經在與部分公司進行產業(yè)合作。 學者介紹 施路平 清華大學特聘教授。清華大學類腦計算研究中心主任,清華大學光盤國家工程研究中心主任。為了克服馮諾依曼體系架構的瓶頸和人工通用智能的最終實現(xiàn),施教授和他的團隊研究類腦計算模型和算法、類腦芯片和類腦計算機,發(fā)展人工通用智能的基礎理論和核心技術。 裴 京 清華大學儀器科學與技術研究所副研究員。主要從事光、機、電、計算機一體化技術設備研究工作,特別是在光存儲技術、設備及其應用開發(fā)領域有獨到的專長。在光電信號讀??;高密度存儲多元信號識別;精密數(shù)字伺服控制;數(shù)碼調制解調;計算機接口;機電一體化等技術及應用領域取得顯著成果。 |
|