來源：《中國計(jì)算機(jī)學(xué)會(huì)通訊》2016年第4期《專欄》

作者：劉　鋒

2015年以來，“人工智能”成為科技界和產(chǎn)業(yè)界最熱門的詞語。智能冰箱、智能空調(diào)、智能手表和智能機(jī)器人，還有谷歌、百度各自的人工智能大腦等新產(chǎn)品不斷涌現(xiàn)。但與此同時(shí)，人工智能威脅論也甚囂塵上。我們能否通過研究人工智能產(chǎn)品和系統(tǒng)的智商發(fā)展水平并與人類智商進(jìn)行對(duì)比，從而為解決人工智能威脅論問題尋找定量的分析方法呢？

人工智能定量評(píng)測(cè)目前面臨兩個(gè)重要挑戰(zhàn)：第一，人工智能系統(tǒng)目前沒有形成統(tǒng)一的模型；第二，人工智能系統(tǒng)與以人類為代表的生命體之間目前沒有形成統(tǒng)一的模型。

這兩個(gè)挑戰(zhàn)都指向了同一個(gè)問題，即對(duì)于所有的人工智能系統(tǒng)和所有生命體（特別是以人類為代表的生命體）需要有一個(gè)統(tǒng)一的模型進(jìn)行描述，只有這樣才能在這個(gè)模型上建立智力測(cè)量方法并進(jìn)行測(cè)試，從而形成統(tǒng)一的、可進(jìn)行相互比較的智力發(fā)展水平評(píng)價(jià)結(jié)果。

標(biāo)準(zhǔn)智能模型和人工智能智商測(cè)試

從2014年開始，我和中國科學(xué)院虛擬經(jīng)濟(jì)與數(shù)據(jù)科學(xué)研究中心教授石勇針對(duì)如何定量分析人工智能與人類智慧的關(guān)系進(jìn)行了研究，研究參考了馮·諾伊曼結(jié)構(gòu)、戴維·韋克斯勒人類智力模型、知識(shí)管理領(lǐng)域DIKW（Data, Information, Knowledge, Wisdom，數(shù)據(jù)、信息、知識(shí)、智慧）模型體系等。我們分別在2014年和2015年發(fā)表論文提出建立“標(biāo)準(zhǔn)智能模型”，統(tǒng)一描述人工智能系統(tǒng)和人類的特征和屬性。

其中，馮·諾伊曼結(jié)構(gòu)給我們的啟發(fā)是：標(biāo)準(zhǔn)智能系統(tǒng)模型應(yīng)包含輸入/輸出系統(tǒng)，能夠從外界獲取信息，能夠?qū)?nèi)部產(chǎn)生的結(jié)果反饋給外部世界。只有這樣，標(biāo)準(zhǔn)智能系統(tǒng)才能成為“活”的系統(tǒng)。

戴維·韋克斯勒關(guān)于人類智能的定義給我們的啟發(fā)是：智力能力由多個(gè)要素組成，而非圖靈測(cè)試或視覺圖靈測(cè)試那樣只關(guān)注智力能力的一個(gè)方面。

DIKW模型體系給我們的啟發(fā)是：智慧是一種解決問題、積累知識(shí)的能力；而知識(shí)是人類不斷與外界交互后沉淀下來結(jié)構(gòu)化的數(shù)據(jù)和信息。一個(gè)智能系統(tǒng)不僅僅要掌握知識(shí)，更重要的是還要有解決問題的創(chuàng)新能力。這種對(duì)知識(shí)的掌握能力、解決問題的創(chuàng)新能力與戴維·韋克斯勒理論、馮·諾伊曼架構(gòu)相結(jié)合，就可以形成智能系統(tǒng)智力能力的多層次結(jié)構(gòu)“標(biāo)準(zhǔn)智能模型”，如圖1所示。

根據(jù)上述研究，可提出標(biāo)準(zhǔn)智能系統(tǒng)的判定標(biāo)準(zhǔn)：任何系統(tǒng)（包括人工智能系統(tǒng)、人類等生命系統(tǒng)），如果符合如下特征，就可以認(rèn)為這個(gè)系統(tǒng)屬于標(biāo)準(zhǔn)智能系統(tǒng)。

● 特征1：能通過聲音、圖像、文字等方式（包括但不限于這三種方式）從外界獲取數(shù)據(jù)、信息和知識(shí)的能力。

● 特征2：能夠?qū)耐饨绔@取的數(shù)據(jù)、信息和知識(shí)轉(zhuǎn)化為系統(tǒng)掌握的知識(shí)。

● 特征3：能根據(jù)外界數(shù)據(jù)、信息和知識(shí)所產(chǎn)生的需求，通過運(yùn)用所掌握的知識(shí)進(jìn)行創(chuàng)新的能力。這些能力包括但不限于聯(lián)想、創(chuàng)作、猜測(cè)、發(fā)現(xiàn)規(guī)律等，這種能力運(yùn)用的結(jié)果可以形成自身掌握的新知識(shí)。

● 特征4：能夠通過聲音、圖像、文字等方式（包括但不僅限于這三種方式）將系統(tǒng)產(chǎn)生的數(shù)據(jù)、信息和知識(shí)反饋給外界或?qū)ν饨邕M(jìn)行改造。

2014年，我們?cè)跇?biāo)準(zhǔn)智能模型的基礎(chǔ)上構(gòu)建了人工智能智商評(píng)測(cè)量表。從信息或知識(shí)的輸入、輸出、掌握和創(chuàng)新等四大方面建立人工智能智商評(píng)價(jià)體系，并在此基礎(chǔ)上建立圖像、文字、聲音識(shí)別、常識(shí)、計(jì)算、翻譯、創(chuàng)作、挑選、猜測(cè)、發(fā)現(xiàn)等十五個(gè)小類，形成人工智能智商評(píng)測(cè)量表。我們對(duì)世界50個(gè)搜索引擎和3類不同年齡段人群進(jìn)行了“人工智能智商測(cè)試”，測(cè)試結(jié)果發(fā)現(xiàn)目前人工智能系統(tǒng)的智商遠(yuǎn)遠(yuǎn)低于人類智商，評(píng)測(cè)最高的谷歌系統(tǒng)尚不及6歲兒童智商的一半，見表1。

2016年2月，我們和中國科學(xué)院大學(xué)劉穎團(tuán)隊(duì)開展“2016年人工智能智商測(cè)試”，目前已對(duì)谷歌、百度、搜狗等人工智能系統(tǒng)以及蘋果Siri、微軟小冰等進(jìn)行了測(cè)試，工作還在進(jìn)行中。不過從已完成的工作看，谷歌、百度等人工智能系統(tǒng)的性能比兩年前已有大幅提高，但仍與6歲兒童有較大差距。

擴(kuò)展的馮·諾伊曼架構(gòu)

標(biāo)準(zhǔn)智能模型的建立參考了馮·諾伊曼架構(gòu)。馮·諾伊曼架構(gòu)由計(jì)算器、邏輯控制裝置、存儲(chǔ)器、輸入系統(tǒng)和輸出系統(tǒng)五個(gè)部分構(gòu)成。通過對(duì)比圖1和圖2的差別能夠發(fā)現(xiàn)，馮·諾伊曼架構(gòu)可以補(bǔ)充兩個(gè)部分。通過這種補(bǔ)充，我們得以將人、機(jī)器以及人工智能系統(tǒng)用一個(gè)更為明晰的方式表示出來。

第一個(gè)補(bǔ)充是創(chuàng)新創(chuàng)造功能，即能夠根據(jù)已有的知識(shí)，發(fā)現(xiàn)新的知識(shí)元素和新的規(guī)律，使之進(jìn)入到存儲(chǔ)器，供計(jì)算機(jī)和控制器使用，并通過輸入/輸出系統(tǒng)與外部進(jìn)行知識(shí)交互。第二個(gè)補(bǔ)充是能夠進(jìn)行知識(shí)共享的外部知識(shí)庫或云存儲(chǔ)器，而馮·諾伊曼架構(gòu)的外部存儲(chǔ)只為單一系統(tǒng)服務(wù)。因此，對(duì)馮·諾伊曼架構(gòu)進(jìn)行擴(kuò)展，可形成新的架構(gòu)（見圖3）。

人工智能系統(tǒng)智能等級(jí)分級(jí)標(biāo)準(zhǔn)

在研究的過程中還發(fā)現(xiàn)，無論在自然界還是人類社會(huì)，即使是智商相同的人工智能系統(tǒng)，因其所在關(guān)鍵領(lǐng)域仍然存在巨大差異，也都存在智能和知識(shí)的分級(jí)現(xiàn)象。譬如，螞蟻、魚、猴子和人類，雖然都屬于生命系統(tǒng)，但其種群個(gè)體都存在智能的差異。人類的教育體系也存在分級(jí)，例如本科、碩士、博士的分級(jí)。等級(jí)內(nèi)部進(jìn)行考核區(qū)分優(yōu)劣，但在不同等級(jí)間，需要在知識(shí)、能力、資歷上有明顯提升和考核才能升級(jí)。

回到人工智能系統(tǒng)的智商測(cè)試上，應(yīng)如何區(qū)分智能系統(tǒng)因在關(guān)鍵領(lǐng)域功能不同而產(chǎn)生的巨大差異呢？上述研究中提到的“標(biāo)準(zhǔn)智能模型”（擴(kuò)展的馮·諾伊曼架構(gòu)）給了我們啟發(fā)，判斷標(biāo)準(zhǔn)如下：

● 能不能和測(cè)試者（人類）進(jìn)行信息交互，也就是有沒有輸入/輸出系統(tǒng)；

● 系統(tǒng)內(nèi)部有沒有能夠存儲(chǔ)信息和知識(shí)的知識(shí)庫；

● 這個(gè)系統(tǒng)的知識(shí)庫能不能不斷更新和增長(zhǎng)；

● 這個(gè)系統(tǒng)的知識(shí)庫能不能與其他人工智能系統(tǒng)進(jìn)行知識(shí)共享；

● 這個(gè)系統(tǒng)除了從外部學(xué)習(xí)并更新自己的知識(shí)庫之外，能不能主動(dòng)產(chǎn)生出新的知識(shí)并分享給其他人工智能系統(tǒng)。

人工智能系統(tǒng)的6個(gè)智能等級(jí)分級(jí)

對(duì)于人工智能系統(tǒng)的第0級(jí)系統(tǒng)，其基本特征在理論上存在，但現(xiàn)實(shí)中并不存在這樣的人工智能系統(tǒng)。在擴(kuò)展的馮·諾伊曼架構(gòu)延伸出來的分級(jí)規(guī)則中，可以做一些組合，例如可以信息輸入，但不能信息輸出；或者可以信息輸出，但不能信息輸入；或者可以創(chuàng)新創(chuàng)造，但知識(shí)庫不能增長(zhǎng)。對(duì)于這些在現(xiàn)實(shí)中不能或無法找到對(duì)應(yīng)系統(tǒng)范例的案例，我們將其統(tǒng)一劃歸到“人工智能系統(tǒng)的第0級(jí)系統(tǒng)”，也可以叫“人工智能系統(tǒng)的特異類系統(tǒng)”。

對(duì)于人工智能系統(tǒng)的第1級(jí)系統(tǒng)，其基本特征是無法與人類測(cè)試者進(jìn)行信息交互。例如有一種被稱為泛靈論的思想認(rèn)為天下萬物皆有靈魂或自然精神，一棵樹和一塊石頭都和人類一樣，具有同樣的價(jià)值與權(quán)利。當(dāng)然，這種觀點(diǎn)從科學(xué)的角度看，只能算作猜想或哲學(xué)思考。從“能不能和測(cè)試者（人類）進(jìn)行信息交互”的分級(jí)規(guī)則看，因?yàn)槭^等物體不能與人類進(jìn)行信息交互，也許它內(nèi)部有知識(shí)庫，能夠創(chuàng)新知識(shí)，或者能夠與其他石頭進(jìn)行信息交互，但對(duì)人類測(cè)試者來說則是黑箱，不能讓人了解。因此不能與測(cè)試者（人類）進(jìn)行信息交互的物體和系統(tǒng)可以定義為“人工智能系統(tǒng)的第1級(jí)系統(tǒng)”，符合第1級(jí)分類的范例有石頭、木棍、鐵塊以及水滴等等不能與人類進(jìn)行信息交互的物體或系統(tǒng)。

對(duì)于人工智能系統(tǒng)的第2級(jí)系統(tǒng)，其基本特征是能夠與人類測(cè)試者進(jìn)行交互，存在控制器和存儲(chǔ)器，即馮·諾伊曼架構(gòu)描述的系統(tǒng)，因此很多家用電器被稱作智能家電，如智能冰箱、智能電視、智能微波爐和智能掃地機(jī)。這些系統(tǒng)大多有一個(gè)特點(diǎn)，即雖然它們內(nèi)部或多或少有控制程序信息，但一旦出廠，就無法再更新它們的控制程序，不能進(jìn)行升級(jí)，更不會(huì)自動(dòng)地學(xué)習(xí)或產(chǎn)生新的知識(shí)。譬如智能洗衣機(jī)，人們按什么鍵，洗衣機(jī)就啟動(dòng)什么功能。從購買到損壞，其功能都不會(huì)發(fā)生變化（故障除外）。這種系統(tǒng)能夠與人類測(cè)試者和使用者進(jìn)行信息交互，符合馮·諾伊曼架構(gòu)描述的特征，而且它的控制程序或知識(shí)庫從誕生時(shí)起就不再發(fā)生變化，這種系統(tǒng)可以定義為“人工智能系統(tǒng)的第2級(jí)系統(tǒng)”，范例包括日常見到的掃地機(jī)器人、老式的家用電冰箱、空調(diào)、洗衣機(jī)等等。

對(duì)于人工智能系統(tǒng)的第3級(jí)系統(tǒng)，其基本特征是除具備2級(jí)系統(tǒng)的特征外，其控制器、存儲(chǔ)器中包含的程序或數(shù)據(jù)可不聯(lián)網(wǎng)進(jìn)行升級(jí)或增加。例如家用電腦和手機(jī)是我們常用的智能設(shè)備，它們的操作系統(tǒng)往往可以定期升級(jí)。例如，電腦的操作系統(tǒng)可從Windows1.0升級(jí)到Windows10.0，手機(jī)的操作系統(tǒng)可從Android1.0升級(jí)到Android5.0，這些設(shè)備的內(nèi)部應(yīng)用程序也可以根據(jù)不同的需要不斷更新升級(jí)。這樣，家用電腦、手機(jī)等設(shè)備的功能會(huì)變得越來越強(qiáng)大，可以應(yīng)對(duì)的場(chǎng)景也越來越多。除了家用電腦，很多家用電器、機(jī)器人也都開始留有接口，可以通過外接設(shè)備進(jìn)行系統(tǒng)升級(jí)。這一類系統(tǒng)明顯比第2級(jí)智能系統(tǒng)適應(yīng)性更強(qiáng)。這種系統(tǒng)能夠與人類測(cè)試者、使用者進(jìn)行信息交互，但不能與其他系統(tǒng)通過“云端”進(jìn)行信息交互，其控制程序或知識(shí)庫只能接受USB、光盤等外接設(shè)備進(jìn)行程序或信息升級(jí)的系統(tǒng)，可以定義為“人工智能系統(tǒng)的第3級(jí)系統(tǒng)”，范例包括智能手機(jī)、家用電腦、單機(jī)版的辦公軟件等。

對(duì)于人工智能系統(tǒng)的第4級(jí)系統(tǒng)，其基本特征除了包含3級(jí)系統(tǒng)的特征外，最重要的是可以通過網(wǎng)絡(luò)與其他智能系統(tǒng)共享信息和知識(shí)。2011年歐盟資助了一個(gè)叫作RoboEarth的項(xiàng)目，該項(xiàng)目旨在讓機(jī)器人可以通過互聯(lián)網(wǎng)分享知識(shí)。幫助機(jī)器人相互學(xué)習(xí)、共享知識(shí)，不僅能夠降低成本，還會(huì)幫助機(jī)器人提高自學(xué)能力、適應(yīng)能力，推動(dòng)其更快、更大規(guī)模地普及。云機(jī)器人的這些能力提高了其對(duì)復(fù)雜環(huán)境的適應(yīng)性。這類系統(tǒng)除了具備3級(jí)系統(tǒng)的功能，還多了一個(gè)重要的功能，即信息可以通過云端進(jìn)行共享，因此這種系統(tǒng)能夠與人類測(cè)試者、使用者進(jìn)行信息交互，可以通過“云端”進(jìn)行信息交互，進(jìn)行程序或信息升級(jí)。但這類系統(tǒng)所有的信息都是直接從外部獲得，其內(nèi)部無法自主地、創(chuàng)新創(chuàng)造性地產(chǎn)生新的知識(shí)。這種系統(tǒng)可以定義為“人工智能系統(tǒng)的第4級(jí)系統(tǒng)”，范例包括谷歌大腦、百度大腦、RoboEarth云機(jī)器人、B/S（Browser/Server，瀏覽器/服務(wù)器）架構(gòu)的網(wǎng)站等。

對(duì)于人工智能系統(tǒng)的第5級(jí)系統(tǒng)，最基本的特征就是能夠創(chuàng)新創(chuàng)造，識(shí)別和鑒定創(chuàng)新創(chuàng)造對(duì)人類的價(jià)值，以及將創(chuàng)新創(chuàng)造產(chǎn)生的成果應(yīng)用在人類的發(fā)展過程中。我們?cè)跀U(kuò)展的馮·諾伊曼架構(gòu)時(shí)，對(duì)原來的馮·諾伊曼架構(gòu)增加了創(chuàng)新知識(shí)模塊，就是試圖把人納入到擴(kuò)展的人工智能系統(tǒng)概念中，人類可以看作是大自然構(gòu)建的特殊“人工智能系統(tǒng)”。與前四個(gè)等級(jí)不同，人類等生命體最大的特征就是可以不斷地創(chuàng)新創(chuàng)造，如發(fā)現(xiàn)萬有引力、元素周期表，撰寫出新小說，創(chuàng)造新的音樂、畫作等等，然后通過文章、信件、電報(bào)，甚至互聯(lián)網(wǎng)進(jìn)行傳播和分享。不斷地進(jìn)行創(chuàng)新創(chuàng)造，并能夠識(shí)別創(chuàng)新創(chuàng)造對(duì)自身的用處，這讓人類占據(jù)了地球生態(tài)環(huán)境下的智力制高點(diǎn)。因此，這種系統(tǒng)能夠與人類測(cè)試者使用者進(jìn)行信息交互，可以創(chuàng)新創(chuàng)造出新的知識(shí)，并可以通過文章、信件、電報(bào)甚至互聯(lián)網(wǎng)這樣的“云端”進(jìn)行信息交互，這種系統(tǒng)可以定義為“人工智能系統(tǒng)的第5級(jí)系統(tǒng)”。人類是第5級(jí)人工智能系統(tǒng)最突出的范例。

谷歌AlphaGo屬于智能的第幾等級(jí)

2016年3月，谷歌AlphaGo（阿爾法狗）與韓國圍棋世界冠軍李世石進(jìn)行了舉世矚目的圍棋比賽，并以大比分獲得勝利。那么AlphaGo屬于人工智能系統(tǒng)的第幾級(jí)？我們可以根據(jù)上述規(guī)則進(jìn)行評(píng)定。

因?yàn)锳lphaGo可以與棋手進(jìn)行比賽，具有龐大的運(yùn)算系統(tǒng)和數(shù)據(jù)存儲(chǔ)系統(tǒng)，因此具備第2級(jí)系統(tǒng)的條件。在谷歌的研發(fā)過程中，AlphaGo的策略訓(xùn)練模型版本通過不斷進(jìn)行大量數(shù)據(jù)訓(xùn)練而不斷升級(jí)，從2016年1月與歐洲冠軍對(duì)戰(zhàn)，到2016年3月與韓國圍棋世界冠軍李世石比賽，AlphaGo的軟硬件系統(tǒng)也獲得很大提升，因此AlphaGo具備了第3級(jí)系統(tǒng)的條件。

從公開的資料看，AlphaGo雖然可以通過網(wǎng)絡(luò)實(shí)現(xiàn)大量CPU和GPU協(xié)同工作，但由于保密性或階段性問題，谷歌目前還沒有在互聯(lián)網(wǎng)上開放AlphaGo程序接受用戶的在線挑戰(zhàn)，因此AlphaGo不具備第4級(jí)智能系統(tǒng)條件。

關(guān)于AlphaGo是否具備創(chuàng)新創(chuàng)造性問題，我們認(rèn)為它依然是依托人工支持的大數(shù)據(jù)訓(xùn)練形成的策略模型，同時(shí)在比賽中結(jié)合比賽對(duì)手的落點(diǎn)數(shù)據(jù)，根據(jù)其內(nèi)部的運(yùn)算規(guī)則，來不斷形成自己的落點(diǎn)數(shù)據(jù)，這些落點(diǎn)數(shù)據(jù)最終形成比賽數(shù)據(jù)集合。AlphaGo根據(jù)圍棋規(guī)則與對(duì)手的比賽數(shù)據(jù)集合進(jìn)行計(jì)算和比較，判斷輸贏，整個(gè)過程完全在人類設(shè)定的規(guī)則下運(yùn)行，無法體現(xiàn)其自身的創(chuàng)造性，如圖4所示。

即使AlphaGo形成的落點(diǎn)數(shù)據(jù)集合很可能是人類歷史上沒有出現(xiàn)過的，也不能說明AlphaGo具備了獨(dú)立的創(chuàng)新創(chuàng)造功能。例如，我們用計(jì)算機(jī)程序?qū)崿F(xiàn)下述過程：從1萬到100萬的自然數(shù)中隨機(jī)選取兩個(gè)數(shù)進(jìn)行相乘，記錄相乘結(jié)果，重復(fù)此過程361次，即使得出的自然數(shù)集合很大，并且可能是人類歷史上沒有出現(xiàn)過的，我們也不能認(rèn)定該計(jì)算機(jī)程序具有創(chuàng)新創(chuàng)造性。

如果AlphaGo在沒有人類提供數(shù)據(jù)的情況下，能夠主動(dòng)獲取棋譜，自動(dòng)設(shè)計(jì)程序進(jìn)行模擬對(duì)戰(zhàn)，學(xué)習(xí)經(jīng)驗(yàn)，并用于改變自己的訓(xùn)練模型，用于實(shí)戰(zhàn)比賽，戰(zhàn)勝對(duì)手，那么在這種情況下，我們才可能認(rèn)為AlphaGo具備創(chuàng)新性。但從人工智能的發(fā)展過程看，AlphaGo還完全無法實(shí)現(xiàn)這一點(diǎn)。因此，綜合來看，AlphaGo的智能等級(jí)被評(píng)定為3級(jí)，與人類相差兩個(gè)級(jí)別。

工作意義和后續(xù)工作

對(duì)人工智能系統(tǒng)進(jìn)行智力分級(jí)，有助于我們更好地對(duì)這些智能系統(tǒng)進(jìn)行分類和評(píng)判，同時(shí)為低等級(jí)智能系統(tǒng)的發(fā)展方向提供支持。對(duì)于人工智能系統(tǒng)的分級(jí)問題，我們與石勇教授等人正在建立數(shù)學(xué)模型，希望用定量的方式判斷人工智能系統(tǒng)所屬的分類等級(jí)。這項(xiàng)工作在公布之后，我們也將撰文向大家匯報(bào)。

作者：

劉鋒

中科圖靈世紀(jì)CEO，人工智能學(xué)家主編，北京交通大學(xué)計(jì)算機(jī)博士。主要研究方向?yàn)槿斯ぶ悄苤悄艿燃?jí)和智商研究、互聯(lián)網(wǎng)與腦科學(xué)交叉對(duì)比研究等。