01 什么是學(xué)習(xí)

我們首先來(lái)看幾個(gè)存在于大自然的動(dòng)物學(xué)習(xí)的例子。從這些熟悉的例子中可以看出，機(jī)器學(xué)習(xí)的一些基本問(wèn)題也存在于自然界。

1. 怯餌效應(yīng)——老鼠學(xué)習(xí)躲避毒餌

當(dāng)老鼠遇到有新穎外觀或氣味的食物時(shí)，它們首先會(huì)少量進(jìn)食，隨后的進(jìn)食量將取決于事物本身的風(fēng)味及其生理作用。如果產(chǎn)生不良反應(yīng)，那么新的食物往往會(huì)與這種不良后果相關(guān)聯(lián)，隨之，老鼠不再進(jìn)食這種食物。很顯然，這里有一個(gè)學(xué)習(xí)機(jī)制在起作用——?jiǎng)游锿ㄟ^(guò)經(jīng)驗(yàn)來(lái)獲取判斷食物安全性的技能。如果對(duì)一種食物過(guò)去的經(jīng)驗(yàn)是負(fù)標(biāo)記的，那么動(dòng)物會(huì)預(yù)測(cè)在未來(lái)遇到它時(shí)也會(huì)產(chǎn)生負(fù)面影響。

前文的示例解釋了什么是學(xué)習(xí)成功，下面我們?cè)倥e例說(shuō)明什么是典型的機(jī)器學(xué)習(xí)任務(wù)。假設(shè)我們想對(duì)一臺(tái)機(jī)器進(jìn)行編程，使其學(xué)會(huì)如何過(guò)濾垃圾郵件。一個(gè)最簡(jiǎn)單的解決方案是仿照老鼠學(xué)習(xí)躲避毒餌的過(guò)程。機(jī)器只須記住所有以前被用戶標(biāo)記為垃圾的郵件。當(dāng)一封新郵件到達(dá)時(shí)，機(jī)器將在先前垃圾郵件庫(kù)中進(jìn)行搜索。如果匹配其中之一，它會(huì)被丟棄。否則，它將被移動(dòng)到用戶的收件箱文件夾。

雖然上述“通過(guò)記憶進(jìn)行學(xué)習(xí)”的方法時(shí)常是有用的，但是它缺乏一個(gè)學(xué)習(xí)系統(tǒng)的重要特性——標(biāo)記未見(jiàn)郵件的能力。一個(gè)成功的學(xué)習(xí)器應(yīng)該能夠從個(gè)別例子進(jìn)行泛化，這也稱(chēng)為歸納推理。在“怯餌效應(yīng)”例子中，老鼠遇到一種特定類(lèi)型的食物后，它們會(huì)對(duì)新的、沒(méi)見(jiàn)過(guò)的、有相似氣味和口味的食物采取同樣的態(tài)度。

為了實(shí)現(xiàn)垃圾郵件過(guò)濾任務(wù)的泛化，學(xué)習(xí)器可以掃描以前見(jiàn)過(guò)的電子郵件，并提取那些垃圾郵件的指示性的詞集；然后，當(dāng)新電子郵件到達(dá)時(shí)，這臺(tái)機(jī)器可以檢查它是否含有可疑的單詞，并相應(yīng)地預(yù)測(cè)它的標(biāo)簽。這種系統(tǒng)應(yīng)該有能力正確預(yù)測(cè)未見(jiàn)電子郵件的標(biāo)簽。

但是，歸納推理有可能推導(dǎo)出錯(cuò)誤的結(jié)論。為了說(shuō)明這一點(diǎn)，我們?cè)賮?lái)思考一個(gè)動(dòng)物學(xué)習(xí)的例子。

2. 鴿子迷信

心理學(xué)家B. F. Skinner進(jìn)行過(guò)一項(xiàng)實(shí)驗(yàn)，他在籠子里放了一群饑餓的鴿子?；\子上附加了一個(gè)自動(dòng)裝置，不管鴿子當(dāng)時(shí)處于什么行為狀態(tài)，都會(huì)以固定的時(shí)間間隔為它們提供食物。饑餓的鴿子在籠子里走來(lái)走去，當(dāng)食物第一次送達(dá)時(shí)，每只鴿子都在進(jìn)行某項(xiàng)活動(dòng)（啄食、轉(zhuǎn)動(dòng)頭部等）。食物的到來(lái)強(qiáng)化了它們各自特定的行為，此后，每只鳥(niǎo)都傾向于花費(fèi)更多的時(shí)間重復(fù)這種行為。

接下來(lái)，隨機(jī)的食物送達(dá)又增加了每只鳥(niǎo)做出這種行為的機(jī)會(huì)。結(jié)果是，不管第一次食物送達(dá)時(shí)，每只鳥(niǎo)處于什么行為狀態(tài)，這一連串的事件都增強(qiáng)了食物送達(dá)和這種行為之間的關(guān)聯(lián)。進(jìn)而，鴿子們也更勤奮地做出這種行為。

了解更多：

http://psychclassics./Skinner/Pigeon

有用的學(xué)習(xí)機(jī)制與形成迷信的學(xué)習(xí)機(jī)制有何差別？這個(gè)問(wèn)題對(duì)自動(dòng)學(xué)習(xí)器的發(fā)展至關(guān)重要。盡管人類(lèi)可以依靠常識(shí)來(lái)濾除隨機(jī)無(wú)意義的學(xué)習(xí)結(jié)論，但是一旦我們將學(xué)習(xí)任務(wù)付之于一臺(tái)機(jī)器，就必須提供定義明確、清晰的規(guī)則，來(lái)防止程序得出無(wú)意義或無(wú)用的結(jié)論。發(fā)展這些規(guī)則是機(jī)器學(xué)習(xí)理論的一個(gè)核心目標(biāo)。

是什么使老鼠的學(xué)習(xí)比鴿子更成功？作為回答這個(gè)問(wèn)題的第一步，我們仔細(xì)看一下老鼠在“怯餌效應(yīng)”實(shí)驗(yàn)中的心理現(xiàn)象。

3. 重新審視“怯餌效應(yīng)”——老鼠未能獲得食物與電擊或聲音與反胃之間的關(guān)聯(lián)

老鼠的怯餌效應(yīng)機(jī)制可能比你想象中的更復(fù)雜。Garcia進(jìn)行的實(shí)驗(yàn)(Garcia & Koelling 1996)表明，當(dāng)進(jìn)食后伴隨的是不愉快的刺激時(shí)，比如說(shuō)電擊（不是反胃反應(yīng)），那么關(guān)聯(lián)沒(méi)有出現(xiàn)。即使將進(jìn)食后電擊的機(jī)制重復(fù)多次，老鼠仍然傾向于進(jìn)食。

同樣，食物引起的反胃（口味或氣味）與聲音之間的關(guān)聯(lián)實(shí)驗(yàn)也失敗了。老鼠似乎有一些“內(nèi)置的”先驗(yàn)知識(shí)，告訴它們，雖然食物和反胃存在因果相關(guān)，但是食物與電擊或聲音與反胃之間不太可能存在因果關(guān)系。

由此我們得出結(jié)論，怯餌效應(yīng)和鴿子迷信的一個(gè)關(guān)鍵區(qū)別點(diǎn)是先驗(yàn)知識(shí)的引入使學(xué)習(xí)機(jī)制產(chǎn)生偏差，也稱(chēng)為“歸納偏置”。在實(shí)驗(yàn)中，鴿子愿意采取任何食物送達(dá)時(shí)發(fā)生的行為。然而，老鼠“知道”食物不能導(dǎo)致電擊，也知道與食物同現(xiàn)的噪音不可能影響這種食物的營(yíng)養(yǎng)價(jià)值。老鼠的學(xué)習(xí)過(guò)程偏向于發(fā)現(xiàn)某種模式，而忽略其他的關(guān)聯(lián)。

事實(shí)證明，引入先驗(yàn)知識(shí)導(dǎo)致學(xué)習(xí)過(guò)程產(chǎn)生偏差，這對(duì)于學(xué)習(xí)算法的成功必不可少（正式陳述與證明參見(jiàn)“沒(méi)有免費(fèi)的午餐”定理）。這種方法的發(fā)展，即能夠表示領(lǐng)域知識(shí)，將其轉(zhuǎn)化為一個(gè)學(xué)習(xí)偏置，并量化偏置對(duì)學(xué)習(xí)成功的影響，是機(jī)器學(xué)習(xí)理論的一個(gè)核心主題。粗略地講，具有的先驗(yàn)知識(shí)（先驗(yàn)假設(shè)）越強(qiáng)，越容易從樣本實(shí)例中進(jìn)行學(xué)習(xí)。但是，先驗(yàn)假設(shè)越強(qiáng)，學(xué)習(xí)越不靈活——受先驗(yàn)假設(shè)限制。

02 什么時(shí)候需要機(jī)器學(xué)習(xí)

什么時(shí)候需要機(jī)器學(xué)習(xí)，而不是直接動(dòng)手編程完成任務(wù)？在指定問(wèn)題中，程序能否在“經(jīng)驗(yàn)”的基礎(chǔ)上自我學(xué)習(xí)和提高，有兩方面的考量：?jiǎn)栴}本身的復(fù)雜性和對(duì)自適應(yīng)性的需要。

1. 過(guò)于復(fù)雜的編程任務(wù)

• 動(dòng)物/人可執(zhí)行的任務(wù)：雖然人類(lèi)可以習(xí)慣性地執(zhí)行很多任務(wù)，但是反思我們?nèi)绾瓮瓿扇蝿?wù)的內(nèi)省機(jī)制還不夠精細(xì)，無(wú)法從中提取一個(gè)定義良好的程序。汽車(chē)駕駛、語(yǔ)音識(shí)別和圖像識(shí)別都屬于此類(lèi)任務(wù)。面對(duì)此類(lèi)任務(wù)，只要接觸到足夠多的訓(xùn)練樣本，目前最先進(jìn)的機(jī)器學(xué)習(xí)程序，即能“從經(jīng)驗(yàn)中學(xué)習(xí)”的程序，就可以達(dá)到比較滿意的效果。

• 超出人類(lèi)能力的任務(wù)：受益于機(jī)器學(xué)習(xí)技術(shù)，另一大系列任務(wù)都涉及對(duì)龐大且復(fù)雜的數(shù)據(jù)集進(jìn)行分析：天文數(shù)據(jù)，醫(yī)療檔案轉(zhuǎn)化為醫(yī)學(xué)知識(shí)，氣象預(yù)報(bào)，基因組數(shù)據(jù)分析，網(wǎng)絡(luò)搜索引擎和電子商務(wù)。隨著越來(lái)越多的數(shù)字?jǐn)?shù)據(jù)的出現(xiàn)，顯而易見(jiàn)的是，隱含在數(shù)據(jù)里的有意義、有價(jià)值的信息過(guò)于龐大復(fù)雜，超出了人類(lèi)的理解能力。學(xué)習(xí)在大量復(fù)雜數(shù)據(jù)中發(fā)現(xiàn)有意義的模式是一個(gè)有前途的領(lǐng)域，無(wú)限內(nèi)存容量加上不斷提高的處理速度，更為這一領(lǐng)域開(kāi)辟了新的視野。

2. 自適應(yīng)性

編程的局限之一是其刻板性——一旦程序的編寫(xiě)與安裝完成，它將保持不變。但是，任務(wù)會(huì)隨著時(shí)間的推移而改變，用戶也會(huì)出現(xiàn)變更。機(jī)器學(xué)習(xí)方法——其行為自適應(yīng)輸入數(shù)據(jù)的程序——為這個(gè)難題提供了一個(gè)解決方案。機(jī)器學(xué)習(xí)方法天生具備自適應(yīng)于互動(dòng)環(huán)境變化的性質(zhì)。

機(jī)器學(xué)習(xí)典型的成功應(yīng)用有：能夠適應(yīng)不同用戶的手寫(xiě)體識(shí)別，自動(dòng)適應(yīng)變化的垃圾郵件檢測(cè)，以及語(yǔ)音識(shí)別。

03 學(xué)習(xí)的種類(lèi)

學(xué)習(xí)是一個(gè)非常廣泛的領(lǐng)域。因此，機(jī)器學(xué)習(xí)根據(jù)學(xué)習(xí)任務(wù)的不同分為不同的子類(lèi)。這里給出一個(gè)粗略的分類(lèi)，下面給出四種分類(lèi)方式。

1. 監(jiān)督與無(wú)監(jiān)督

學(xué)習(xí)涉及學(xué)習(xí)器與環(huán)境之間的互動(dòng)，那么可以根據(jù)這種互動(dòng)的性質(zhì)劃分學(xué)習(xí)任務(wù)。首先需要關(guān)注的是監(jiān)督學(xué)習(xí)與無(wú)監(jiān)督學(xué)習(xí)之間的區(qū)別。

下面以垃圾郵件檢測(cè)和異常檢測(cè)為例說(shuō)明。對(duì)于垃圾郵件檢測(cè)任務(wù)，學(xué)習(xí)器的訓(xùn)練數(shù)據(jù)是帶標(biāo)簽的郵件（是/否垃圾郵件）。在這種訓(xùn)練的基礎(chǔ)上，學(xué)習(xí)器應(yīng)該找出標(biāo)記新電子郵件的規(guī)則。相反，對(duì)于異常檢測(cè)任務(wù)，學(xué)習(xí)器的訓(xùn)練數(shù)據(jù)是大量沒(méi)有標(biāo)簽的電子郵件，學(xué)習(xí)器的任務(wù)是檢測(cè)出“不尋?！钡南?。

抽象一點(diǎn)來(lái)講，如果我們把學(xué)習(xí)看做一個(gè)“利用經(jīng)驗(yàn)獲取技能”的過(guò)程，那么監(jiān)督學(xué)習(xí)正是這樣的一種場(chǎng)景：經(jīng)驗(yàn)是包含顯著信息（是/否垃圾郵件）的訓(xùn)練數(shù)據(jù)，“測(cè)試數(shù)據(jù)”缺少這些顯著信息，但可從學(xué)到的“技能”中獲取。

此種情況下，獲得的“技能”旨在預(yù)測(cè)測(cè)試數(shù)據(jù)的丟失信息，我們可以將環(huán)境看做通過(guò)提供額外信息（標(biāo)簽）來(lái)“監(jiān)督”學(xué)習(xí)器的老師。然而，無(wú)監(jiān)督學(xué)習(xí)的訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)之間沒(méi)有區(qū)別。學(xué)習(xí)器處理輸入數(shù)據(jù)的目標(biāo)是提取概括信息（濃縮數(shù)據(jù)）。聚類(lèi)（相似數(shù)據(jù)歸為一類(lèi)）是執(zhí)行這樣任務(wù)的一個(gè)典型例子。

還有一種中間情況，訓(xùn)練數(shù)據(jù)比測(cè)試數(shù)據(jù)包含更多的信息，也要求學(xué)習(xí)器預(yù)測(cè)更多信息。舉個(gè)例子，當(dāng)學(xué)習(xí)數(shù)值函數(shù)判斷國(guó)際象棋游戲中白棋和黑棋誰(shuí)更有利時(shí)，訓(xùn)練過(guò)程中提供給學(xué)習(xí)器的唯一信息是，誰(shuí)在整個(gè)實(shí)際的棋牌類(lèi)游戲中最終贏得那場(chǎng)比賽的標(biāo)簽。這種學(xué)習(xí)被稱(chēng)作“強(qiáng)化學(xué)習(xí)”。

2. 主動(dòng)學(xué)習(xí)器與被動(dòng)學(xué)習(xí)器

學(xué)習(xí)可依據(jù)學(xué)習(xí)器扮演的角色不同分類(lèi)為“主動(dòng)”和“被動(dòng)”學(xué)習(xí)器。主動(dòng)學(xué)習(xí)器在訓(xùn)練時(shí)通過(guò)提問(wèn)或?qū)嶒?yàn)的方式與環(huán)境交互，而被動(dòng)學(xué)習(xí)器只觀察環(huán)境（老師）所提供的信息而不影響或引導(dǎo)它。請(qǐng)注意，垃圾郵件過(guò)濾任務(wù)通常是被動(dòng)學(xué)習(xí)——等待用戶標(biāo)記電子郵件。我們可以設(shè)想，在主動(dòng)學(xué)習(xí)中，要求用戶來(lái)標(biāo)記學(xué)習(xí)器挑選的電子郵件，以提高學(xué)習(xí)器對(duì)“垃圾郵件是什么”的理解。

3. 老師的幫助

人類(lèi)的學(xué)習(xí)過(guò)程中（在家的幼兒或在校的學(xué)生）往往會(huì)有一個(gè)良師，他向?qū)W習(xí)者傳輸最有用的信息以實(shí)現(xiàn)學(xué)習(xí)目標(biāo)。相比之下，科學(xué)家研究自然時(shí)，環(huán)境起到了老師的作用。環(huán)境的作用是消極的——蘋(píng)果墜落、星星閃爍、雨點(diǎn)下落從不考慮學(xué)習(xí)者的需求。

在對(duì)這種學(xué)習(xí)情境建模時(shí)，我們假定訓(xùn)練數(shù)據(jù)（學(xué)習(xí)者的經(jīng)驗(yàn)）是由隨機(jī)過(guò)程產(chǎn)生的，這是統(tǒng)計(jì)機(jī)器學(xué)習(xí)的一個(gè)基本構(gòu)成單元。此外，學(xué)習(xí)也發(fā)生在學(xué)習(xí)者的輸入是由對(duì)立“老師”提供的。

垃圾郵件過(guò)濾任務(wù)（如果垃圾郵件制作者盡力誤導(dǎo)垃圾郵件過(guò)濾器設(shè)計(jì)者）和檢測(cè)欺詐學(xué)習(xí)任務(wù)就是這種情況。當(dāng)不存在更好的假設(shè)時(shí)，我們也會(huì)使用對(duì)立老師這一最壞方案。如果學(xué)習(xí)器能夠從對(duì)立老師中學(xué)習(xí)，那么遇到任何老師都可以成功。

4. 在線與批量

在線響應(yīng)還是處理大量數(shù)據(jù)后才獲得技能，是對(duì)學(xué)習(xí)器的另一種分類(lèi)方式。舉個(gè)例子，股票經(jīng)紀(jì)人必須基于當(dāng)時(shí)的經(jīng)驗(yàn)信息做出日常決策。隨著時(shí)間推移，他或許會(huì)成為專(zhuān)家，但是也會(huì)犯錯(cuò)并付出高昂的代價(jià)。相比之下，在大量的數(shù)據(jù)挖掘任務(wù)中，學(xué)習(xí)器，也就是數(shù)據(jù)挖掘器，往往是在處理大量訓(xùn)練數(shù)據(jù)之后才輸出結(jié)論。

04 與其他領(lǐng)域的關(guān)系

作為一門(mén)交叉學(xué)科，機(jī)器學(xué)習(xí)與統(tǒng)計(jì)學(xué)、信息論、博弈論、最優(yōu)化等眾多數(shù)學(xué)分支有著共同點(diǎn)。我們的最終目標(biāo)是在計(jì)算機(jī)上編寫(xiě)程序，所以機(jī)器學(xué)習(xí)自然也是計(jì)算機(jī)科學(xué)的一個(gè)分支。在某種意義上，機(jī)器學(xué)習(xí)可以視為人工智能的一個(gè)分支，畢竟，要將經(jīng)驗(yàn)轉(zhuǎn)變成專(zhuān)業(yè)知識(shí)或從復(fù)雜感知數(shù)據(jù)中發(fā)現(xiàn)有意義的模式的能力是人類(lèi)和動(dòng)物智能的基石。

但是，應(yīng)該注意的是，與傳統(tǒng)人工智能不同，機(jī)器學(xué)習(xí)并不是試圖自動(dòng)模仿智能行為，而是利用計(jì)算機(jī)的優(yōu)勢(shì)和特長(zhǎng)與人類(lèi)的智慧相得益彰。機(jī)器學(xué)習(xí)常用于執(zhí)行遠(yuǎn)遠(yuǎn)超出人類(lèi)能力的任務(wù)。例如，機(jī)器學(xué)習(xí)程序通過(guò)瀏覽和處理大型數(shù)據(jù)，能夠檢測(cè)到超出人類(lèi)感知范圍的模式。

機(jī)器學(xué)習(xí)（的經(jīng)驗(yàn)）訓(xùn)練涉及的數(shù)據(jù)往往是隨機(jī)生成的。機(jī)器學(xué)習(xí)的任務(wù)就是處理這些背景下的隨機(jī)生成樣本，得出與背景相符的結(jié)論。這樣的描述強(qiáng)調(diào)了機(jī)器學(xué)習(xí)與統(tǒng)計(jì)學(xué)的密切關(guān)系。兩個(gè)學(xué)科之間確實(shí)有很多共同點(diǎn)，尤其表現(xiàn)在目標(biāo)和技術(shù)方面。

但是，兩者之間仍然存在顯著的差別：如果一個(gè)醫(yī)生提出吸煙與心臟病之間存在關(guān)聯(lián)這一假設(shè)，這時(shí)應(yīng)該由統(tǒng)計(jì)學(xué)家去查看病人樣本并檢驗(yàn)假設(shè)的正確性（這是常見(jiàn)的統(tǒng)計(jì)任務(wù)——假設(shè)檢驗(yàn)）。相比之下，機(jī)器學(xué)習(xí)的任務(wù)是利用患者樣本數(shù)據(jù)找出心臟病的原因。我們希望自動(dòng)化技術(shù)能夠發(fā)現(xiàn)被人類(lèi)忽略的、有意義的模式（或假設(shè)）。

與傳統(tǒng)統(tǒng)計(jì)學(xué)不同，算法在機(jī)器學(xué)習(xí)中扮演了重要的角色。機(jī)器學(xué)習(xí)算法要靠計(jì)算機(jī)來(lái)執(zhí)行，因此算法問(wèn)題是關(guān)鍵。我們開(kāi)發(fā)算法完成學(xué)習(xí)任務(wù)，同時(shí)關(guān)心算法的計(jì)算效率。兩者的另外一個(gè)區(qū)別是，統(tǒng)計(jì)關(guān)心算法的漸近性（如隨著樣本量增長(zhǎng)至無(wú)窮大，統(tǒng)計(jì)估計(jì)的收斂問(wèn)題），機(jī)器學(xué)習(xí)理論側(cè)重于有限樣本。也就是說(shuō)，給定有限可用樣本，機(jī)器學(xué)習(xí)理論旨在分析學(xué)習(xí)器可達(dá)到的準(zhǔn)確度。

機(jī)器學(xué)習(xí)與統(tǒng)計(jì)學(xué)之間還有很多差異，我們?cè)诖藘H提到了少數(shù)。比如，在統(tǒng)計(jì)學(xué)中，常首先提出數(shù)據(jù)模型假設(shè)（生成數(shù)據(jù)呈正態(tài)分布或依賴函數(shù)為線性）；在機(jī)器學(xué)習(xí)中常考慮“非參數(shù)”背景，對(duì)數(shù)據(jù)分布的性質(zhì)假設(shè)盡可能地少，學(xué)習(xí)算法自己找出最接近數(shù)據(jù)生成過(guò)程的模型。