導(dǎo)言

算上剛拿到的這次，AI已經(jīng)七獲圖靈獎，是計(jì)算機(jī)科學(xué)各個領(lǐng)域中獲圖靈獎最多的方向之一，足見這一領(lǐng)域在整個CS中的地位。首先我們列舉一下自1966年以來的歷次圖靈獎

這里面有很多大家耳熟能詳?shù)某晒腿宋?。學(xué)數(shù)據(jù)結(jié)構(gòu)時都知道的Dijkstra；計(jì)算機(jī)課科班的同學(xué)都知道的UNIX與c語言之父（不是譚浩強(qiáng)），發(fā)明關(guān)系型數(shù)據(jù)庫的Edgar F. Codd。其他的不一一列舉了，他們是計(jì)算機(jī)科學(xué)和工業(yè)史的縮影，真的改變了我們的生活和世界。

有些領(lǐng)域多次獲獎，如程序設(shè)計(jì)語言/算法設(shè)計(jì)/編譯器累計(jì)獲獎20+次之多。數(shù)據(jù)庫獲獎4次。人工智能在所有方向中，算是獲獎非常多的了。這些多次得獎的方向，都誕生過巨頭公司，如計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)的intel，amd；數(shù)據(jù)庫的ORACLE；操作系統(tǒng)的微軟，SUN，IBM等。

令人遺憾的是，自1956年誕生到今天為止，盡管AI已經(jīng)走完了63年的歷程，但AI領(lǐng)域還沒有誕生能比肩Microsoft這樣的產(chǎn)業(yè)巨頭。對于很多亟待解決的工業(yè)界問題，目前的AI技術(shù)水平還未達(dá)到能夠?qū)嵱玫臉?biāo)準(zhǔn)。這條道路之艱辛，可見一斑。

接下來列舉一下AI方向所獲得的圖靈獎

自1969到1975年3次頻繁獲獎，下一次獲獎是在時隔19年之后的1994年，它們是對AI早期成果的肯定，包括邏輯推理，知識工程，專家系統(tǒng)等。不幸的是這些方法并沒法解決人工智能的一些核心問題，如圖像識別，語音識別，這些在人類看來再簡單不過的問題，卻困擾了AI學(xué)者幾十年。

最近3次獲獎都是因?yàn)闄C(jī)器學(xué)習(xí)，這代表了AI方法的轉(zhuǎn)變，從歸納和總結(jié)人的知識和能力然后編碼實(shí)現(xiàn)，演變?yōu)槟M人的學(xué)習(xí)能力。這一現(xiàn)在看來非常簡單的轉(zhuǎn)變，卻經(jīng)歷了整整數(shù)十年。機(jī)器學(xué)習(xí)從1980年興起開始到第一次拿圖靈獎，也間隔了30年。中間的幾次浪潮幾次寒冬，恐怕只有當(dāng)年經(jīng)歷過那個時代的學(xué)者們才有最深刻的體會。

這三位是深度學(xué)習(xí)的領(lǐng)軍人物，對本輪AI興起起到了關(guān)鍵作用。深度學(xué)習(xí)在計(jì)算機(jī)視覺，語音識別，自然語言處理，數(shù)據(jù)生成，決策和控制問題上取得了當(dāng)前最好的效果。自2012年以來，深度學(xué)習(xí)以迅猛的速度發(fā)展，帶動了此次AI的復(fù)興，使得這一領(lǐng)域第一次出現(xiàn)了真正的大規(guī)模產(chǎn)業(yè)化。從計(jì)算機(jī)視覺的圖像分類，目標(biāo)檢測，圖像分割，3D，目標(biāo)跟蹤，到語音識別，自然語言處理中的機(jī)器翻譯，以及圖像、聲音數(shù)據(jù)的生成，AlphaGo的成功，深度學(xué)習(xí)取得的成就讓我們備受鼓舞。這一方法不是萬能的，但它卻在很大程度上解決了感知，數(shù)據(jù)生成，決策和控制問題，這在AI的歷史上是前無古人的。

Geoffrey Hinton被稱為深度學(xué)習(xí)之父，他的主要貢獻(xiàn)有

反向傳播算法（BP）

1986年，Hinton與David Rumelhart等共同撰寫了“Learning Internal Representations by Error Propagation”，提出了反向傳播算法的完整表述。至今，這還是神經(jīng)網(wǎng)絡(luò)訓(xùn)練時采用的算法。

受限玻爾茲曼機(jī)（RBM）

1983年，Hinton與Terrence Sejnowski一起提出了受限玻爾茲曼機(jī)，這是一種隨機(jī)、生成式神經(jīng)網(wǎng)絡(luò)，也是深度學(xué)習(xí)早期的模型之一。

逐層預(yù)訓(xùn)練策略訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)

2006年，提出了用逐層預(yù)訓(xùn)練的策略訓(xùn)練多層神經(jīng)網(wǎng)絡(luò)（自動編碼器），拉開了深度學(xué)習(xí)的序幕。

AlexNet

2012年，Hinton與他的學(xué)生Alex Krizhevsky和Ilya Sutskever設(shè)計(jì)了使用ReLU激活函數(shù)和Dropout機(jī)制的卷積神經(jīng)網(wǎng)絡(luò)，大幅度提升了圖像分類的準(zhǔn)確率，成為深度學(xué)習(xí)真正的開端。

Yann LeCun被稱為卷積神經(jīng)網(wǎng)絡(luò)之父，其主要貢獻(xiàn)是卷積神經(jīng)網(wǎng)絡(luò)。早在1989年，LeCun就發(fā)明了卷積神經(jīng)網(wǎng)絡(luò)，是深度卷積神經(jīng)網(wǎng)絡(luò)的雛形，這一思想被沿用至今。1998年，他又提出了LeNet網(wǎng)絡(luò)，后來的卷積神經(jīng)網(wǎng)絡(luò)都參考了這一網(wǎng)絡(luò)的結(jié)構(gòu)。

個人認(rèn)為，Yoshua Bengio對深度學(xué)習(xí)的貢獻(xiàn)比不上前面了兩位，公平的來說，Schmidhuber的LSTM江湖地位要超過Bengio的成果。他的主要貢獻(xiàn)是深度學(xué)習(xí)序列建模，注意力機(jī)制，以及RNN在NLP中的應(yīng)用，此外他和學(xué)生Ian Goodfellow共同提出了生成對抗網(wǎng)絡(luò)（GAN），是目前研究最熱的數(shù)據(jù)生成模型，解決了很多特定領(lǐng)域的數(shù)據(jù)生成問題。Bengio一直以來在致力于解決深層神經(jīng)網(wǎng)絡(luò)難以訓(xùn)練的問題，下面的論文是最好的證明

繼2010年獲獎之后，2011年機(jī)器學(xué)習(xí)再次獲獎，這次是由概率圖模型的領(lǐng)軍人物Judea Pearl獲得。概率圖模型是機(jī)器學(xué)習(xí)算法中的大家族，用圖來對變量的概率關(guān)系進(jìn)行建模，實(shí)現(xiàn)推理，具有較好的可解釋性，也符合人的思維習(xí)慣。將概率論引入機(jī)器學(xué)習(xí)模型，這無疑是一個偉大的成就。

他的主要貢獻(xiàn)是提出了概率圖模型和因果推理算法，將概率引入機(jī)器學(xué)習(xí)，典型代表作是貝葉斯網(wǎng)絡(luò)。HMM（隱馬爾可夫模型），條件隨機(jī)場（CRF）也是概率圖模型家族中的成員，讓很多機(jī)器學(xué)習(xí)的初學(xué)者感到困難。Judea Pearl在NIPS 2017上的演講無人問津，不禁令世人感慨，大家都一窩蜂去做深度學(xué)習(xí)了。

這是機(jī)器學(xué)習(xí)第一次拿獎，發(fā)給了機(jī)器學(xué)習(xí)基礎(chǔ)理論的探索者Leslie G Valiant。機(jī)器學(xué)習(xí)在1980年代就誕生了一些非常重要的方法，包括決策樹，神經(jīng)網(wǎng)絡(luò)，卷積神經(jīng)網(wǎng)絡(luò)等。而圖靈獎對機(jī)器學(xué)習(xí)的第一肯定則選擇了基礎(chǔ)領(lǐng)域。包括PAC在內(nèi)的一些基礎(chǔ)結(jié)論，對設(shè)計(jì)，分析機(jī)器學(xué)習(xí)算法具有非常重要的意義。

Leslie G Valiant主要貢獻(xiàn)是PAC學(xué)習(xí)（概率近似正確）理論，它從理論上回答了什么樣的問題是可學(xué)習(xí)的，并給出了滿足泛化性能約束的條件?？深悇e為金庸小說中的內(nèi)功，不現(xiàn)于外表，但對習(xí)武之人來說卻至關(guān)重要。Leslie G Valiant的成果對后面的機(jī)器學(xué)習(xí)算法設(shè)計(jì)有深遠(yuǎn)的影響，只是使用各種具體算法的同學(xué)可能對他并不熟悉。

這次圖靈獎頒發(fā)給了專家系統(tǒng)的核心人物，Edward A Feigenbaum與Raj Reddy。是人工智能時隔19年后再一次獲獎，有昨日黃花的味道。

Edward Feigenbaum被稱為專家系統(tǒng)之父。這是人工智能早期階段的核心成果之一，因?yàn)槿狈蓴U(kuò)展性和通用性，以及其他局限性，現(xiàn)在被機(jī)器學(xué)習(xí)所取代。

Raj Reddy是識別連續(xù)性語音系統(tǒng)的先驅(qū)。他發(fā)明了第一代連續(xù)語音識別系統(tǒng)Hearsay I。在這個系統(tǒng)以及之后的Hearsay II, Harpy, and Dragon等系統(tǒng)中，他和他的學(xué)生發(fā)展了一套現(xiàn)代商業(yè)化語音識別技術(shù)的理論。

這是AI第3次獲獎。這次的獎發(fā)給了符號主義學(xué)派的創(chuàng)始人-Allen Newell和Herbert A.Simon。這是當(dāng)年參加達(dá)特茅茨會議的人，參加這次會議，可真是拿獎的好機(jī)會，堪比參加8.1南昌起義的我軍將領(lǐng)們最后紛紛獲得元帥和大將的頭銜。

主要的貢獻(xiàn)是信息處理，Information Processing Language(IPL)，Logic Theory Machine，General Problem Solver，以及認(rèn)知科學(xué)。

Simon是符號主義學(xué)派的創(chuàng)始人，其研究工作始終都以人的思想為中心，認(rèn)為計(jì)算機(jī)是模擬人類來解決問題。研發(fā)了 “ 邏輯理論家”和“通用問題求解器”項(xiàng)目，在語音識別和人機(jī)交互上取得了重要進(jìn)展。其目標(biāo)是讓計(jì)算機(jī)成為人類解決問題的高效工具。

這一次的圖靈獎頒發(fā)給了John McCarthy，被尊稱為AI之父。

John McCarthy的主要貢獻(xiàn)是他是達(dá)特茅斯會議的發(fā)起者之一，首次提出了人工智能的概念。在α-β搜索法，機(jī)器人，計(jì)算理論，常識推理，人機(jī)交互等領(lǐng)域，他也做出了開創(chuàng)性的工作。此外，他發(fā)明了AI領(lǐng)域早期的一種重要工具-LISP語言。同時，對代數(shù)語言ALGOL 58和60也作出了至關(guān)重要的貢獻(xiàn)。

這是AI第一次獲得圖靈獎，發(fā)給了Marvin Minsky，AI的發(fā)起人之一。

Marvin Minsky是達(dá)特茅斯會議的發(fā)起者之一。1951年他提出了關(guān)于思維如何萌發(fā)并形成的一些基本理論，并建造了一臺學(xué)習(xí)機(jī)，名為Snarc。他研發(fā)了第一個神經(jīng)網(wǎng)絡(luò)模擬器、設(shè)計(jì)了最早的模擬人類機(jī)器人：Snarc，其目的是學(xué)習(xí)如何穿過迷宮，其組成中包括40個'代理'（agent ，國內(nèi)資料也有把它譯為'主體'、'智能體'的）和一個對成功給予獎勵的系統(tǒng)，基于agent的計(jì)算和分布式智能是當(dāng)前人工智能研究中的一個熱點(diǎn)，明斯基也許是最早提出agent概念的學(xué)者之一。

除了已經(jīng)獲得的7次圖靈獎之外，至少在機(jī)器學(xué)習(xí)領(lǐng)域還有不少重量級的成果與學(xué)者至今還沒有獲獎，他們以及他們的成就同樣值得我們尊敬與銘記。

SVM和VC維的提出者，前者是機(jī)器學(xué)習(xí)歷史上曾經(jīng)出現(xiàn)的重量級方法，在機(jī)器學(xué)習(xí)江湖上的地位有目共睹。后者與PAC同屬于機(jī)器學(xué)習(xí)的基礎(chǔ)理論基石，是衡量分類器能力的基礎(chǔ)指標(biāo)。Vapnik與SVM在機(jī)器學(xué)習(xí)中的地位少有學(xué)者能超越，尤其是后者，從1990年代后期到深度學(xué)習(xí)出現(xiàn)之前，在機(jī)器學(xué)習(xí)的江湖中顯赫數(shù)十載。

共同提出了AdaBoost算法，是boosting的一個可實(shí)現(xiàn)版本，影響力同樣巨大。但他們兩位之前已經(jīng)獲得了歌德爾獎，這是理論計(jì)算機(jī)科學(xué)的最高獎，雖不及圖靈獎，但也是非常高的榮譽(yù)。AdaBoost算法當(dāng)年的成功足以與SVM比肩，2001年它被用于人臉檢測問題，是這一領(lǐng)域第一個有里程碑意義的突破。后面各種灌水的文章，都仰仗于AdaBoost的各類變種。

CART（分類與回歸樹），隨機(jī)森林，梯度提升算法的提出者，哪一個都是機(jī)器學(xué)習(xí)領(lǐng)域響當(dāng)當(dāng)?shù)某晒?。CART是機(jī)器學(xué)習(xí)領(lǐng)域在1980年代的重要成果之一，目前還被用于一些數(shù)據(jù)分析問題。隨機(jī)森林就不用多說，學(xué)過機(jī)器學(xué)習(xí)的人都知道。梯度提升算法是繼AdaBoost之后第二種廣為使用的boosting框架，現(xiàn)在炙手可熱的xgboost是對它的改進(jìn)。遺憾的是Breiman老爺子已經(jīng)去世，圖靈獎之前貌似從來沒頒發(fā)給不在世的人，所以是沒有機(jī)會拿獎了，清明節(jié)快到了，我們祭奠他老人家一下。

LSTM的提出者，對深度學(xué)習(xí)的發(fā)展同樣做出了不可磨滅的貢獻(xiàn)。Schmidhuber這次沒拿獎是有很大的爭議的，論對深度學(xué)習(xí)的貢獻(xiàn)，筆者認(rèn)為他不比Bengio小。LSTM直接促成了RNN在序列預(yù)測問題上的大規(guī)模應(yīng)用，包括語音識別，自然語言處理等。他還提出了high way network，何凱明提出的目前廣為應(yīng)用的殘差網(wǎng)絡(luò)，被認(rèn)為受到了這一結(jié)構(gòu)的啟發(fā)。另外，他提出的PM（Predictability Minimization）與GAN之間的原創(chuàng)性爭議，讓我們也很感慨，GAN已經(jīng)有6902次的引用，而PM的引用次數(shù)卻少得可憐。沒有與深度學(xué)習(xí)另外3巨頭一起獲得這次的圖靈獎，是一大遺憾。 

展望未來，盡管深度學(xué)習(xí)在很多特定應(yīng)用實(shí)踐中取得了成功，但它仍然存在很多局限性，比如依賴大量標(biāo)注的訓(xùn)練樣本，不具備邏輯推理能力，仍然不能像人類智能那樣具有適應(yīng)性和通用性，對抽象數(shù)據(jù)的處理（如NLP，結(jié)構(gòu)化數(shù)據(jù)）欠佳（不過現(xiàn)在GNN又出現(xiàn)了）等。如何解決余下的這些挑戰(zhàn)，Bengio提到，“我們不應(yīng)該隨波逐流，現(xiàn)在深度學(xué)習(xí)就是這股洪流?！盙eoffrey Hinton曾經(jīng)說，AI不會再有寒冬，我們希望他的預(yù)言成真！老爺子的幾十年如一日的堅(jiān)持，值得我們所有從業(yè)者感激，敬佩與學(xué)習(xí)。