2020年6月21日，在第二屆北京智源大會開幕式及全體會議上，圖靈獎得主、貝葉斯網(wǎng)絡(luò)奠基人Judea Pearl 做了名為《The New Science of Cause and Effect with reflections on data science and artificial intelligence》的主題演講。在演講中，Judea Pearl 站在整個數(shù)據(jù)科學(xué)的視角，簡單回顧了過去的“大數(shù)據(jù)革命”，指出數(shù)據(jù)科學(xué)正在從當(dāng)前以數(shù)據(jù)為中心的范式向以科學(xué)為中心的范式偏移，現(xiàn)在正在發(fā)生一場席卷各個研究領(lǐng)域的“因果革命”。Pearl 解釋了什么是因果科學(xué)以及相關(guān)新邏輯和推理引擎的思想脈絡(luò)，包括介紹了被稱之為“Double-Helix”的兩個因果推理的基本定理，并以其作為出發(fā)點推演出因果圖模型框架，最后概述了該框架下因果推理的七大工具。另外，為了幫助讀者們更加透徹地理解Pearl 的因果推理思想，我們結(jié)合 Judea Pearl 近年來的論文、訪談和報告，以及其學(xué)生 Elias Bareinbion、馬普智能所 Bernhard Scholkopf 團(tuán)隊等的相關(guān)研究工作，對本報告進(jìn)行了一定的補(bǔ)充說明。朱迪亞·珀爾（Judea Pearl）是加州大學(xué)洛杉磯分校（UCLA）教授，圖靈獎（Turing Award）得主。他在 20 世紀(jì) 80 年代開發(fā)并倡導(dǎo)了AI 的概率方法，被稱為貝葉斯網(wǎng)絡(luò)之父。然而為了強(qiáng)人工智能的愿景，Pearl 脫離主流 AI 研究社區(qū)，提出了一套因果的數(shù)學(xué)語言和理論，引領(lǐng)了正在席卷各個學(xué)科的”因果革命“。他自己最引以為傲的工作是 “The fundamental law of counterfactuals?！盵4] To Build Truly Intelligent Machines, Teach Them Cause and Effect。 因果革命：改變數(shù)據(jù)科學(xué)的新革命在報告中 ，Pearl 首先介紹了一場正在改變數(shù)據(jù)科學(xué)的新革命 --- ”因果革命“。因果革命和以數(shù)據(jù)為中心的第一次數(shù)據(jù)科學(xué)革命，也就是大數(shù)據(jù)革命（涉及機(jī)器學(xué)習(xí)，深度學(xué)習(xí)機(jī)器應(yīng)用，例如Alpha-Go、語音識別、機(jī)器翻譯、自動駕駛等等 ）的不同之處在于，它以科學(xué)為中心，涉及從數(shù)據(jù)到政策、可解釋性、機(jī)制的泛化，再到一些社會科學(xué)中的基礎(chǔ)概念信用、責(zé)備和公平性， 甚至哲學(xué)中的創(chuàng)造性和自由意志 。可以說， 因果革命徹底改變了科學(xué)家處理因果問題的方式。圖1：Pearl 關(guān)于數(shù)據(jù)科學(xué)本質(zhì)的洞見，見文獻(xiàn)[3]因果革命中，數(shù)據(jù)科學(xué)的任務(wù)被重新分成了三類：預(yù)測, 描述和反事實預(yù)測[6]。關(guān)于它具體如何席卷各個學(xué)科，詳情可參見：- Bernhard Scholkopf 最引以為傲的論文之一《Causality for Machine Learning》，它概述了信息革命時代下因果和機(jī)器學(xué)習(xí)的融合的基本原理和深刻思考[5]；
- 《Causal Inference and Data-Fusion in Econometrics》是 Elias Eareinboim(Pearl 學(xué)生) 關(guān)于因果結(jié)合經(jīng)濟(jì)學(xué)領(lǐng)域的最新綜述[7]；
- 因果也影響了社會科學(xué), 醫(yī)療健康科學(xué), 計算機(jī)和統(tǒng)計學(xué)等，見資料[1, 8]。
哈佛大學(xué)教授 Gary King(2014) 盛贊了這場因果革命，它指出“過去三十年關(guān)于因果理論的進(jìn)展超過了人類前面積累的總和?！?Pearl 繼續(xù)解釋說，成百上千過去認(rèn)為不可能解決的問題，現(xiàn)在可以通過簡單的數(shù)學(xué)和可計算的算法解決。在介紹完“因果革命”之后，Pearl接著介紹了本次報告的大綱：- 什么是因果科學(xué)，為什么它需要新的邏輯和推斷引擎
- 如何讓機(jī)器獲得因果推理的能力(因果推理引擎的結(jié)構(gòu))
當(dāng)前曲線擬合的機(jī)器學(xué)習(xí)和深度學(xué)習(xí)取得了巨大的成功，為什么需要研究因果[8]？Pearl 在去年接受 Lex Fridman 訪談[4]時提到 “Everything starts with the question: What is the research question? ”。而Pearl 在這次報告中，則用了幾個統(tǒng)計學(xué)中的經(jīng)典例子。第一個問題是：“鍛煉身體是否能夠有利于健康？”見下圖，x軸表示運動時間，y軸表示膽固醇水平。
一方面，在圖2（左）中，可以看大每個年齡組中都出現(xiàn)了向下的趨勢，表明運動可能的確有降低人體膽固醇水平的效果；另一方面，在圖2（右）中，同樣的散點圖并不依據(jù)年齡對數(shù)據(jù)進(jìn)行分層，那么我們就會看到一個明顯向上的趨勢，這表明運動得越多，人體膽固醇水平就越高，這種矛盾在統(tǒng)計學(xué)中被成為辛普森悖論。Pearl 介紹的另外兩個例子，一個是關(guān)于“藥物”、“性別”、“死亡率”的研究問題：“藥物有效果嗎？” 另外一個是關(guān)于“疫苗”、“天花”、“死亡率”的研究問題：“疫苗有效果嗎？”這幾個例子共同說明了數(shù)據(jù)可能對你講出兩個不同的故事。如果信息發(fā)生了一些變化，得到的結(jié)論就可能是不一樣的。更加準(zhǔn)確地來說，這幾個例子本質(zhì)上是要回答因果問題，僅有數(shù)據(jù)信息而沒有先驗因果關(guān)系信息的時候，就可能得出與關(guān)注研究的問題相互矛盾的答案?；卮鹨蚬麊栴}需要因果信息。Pearl 在這次報告中指出，因果科學(xué)始于因果問題，因果科學(xué)研究如何回答因果問題。1. 給定的治療方法在預(yù)防疾病方面效果如何？2. 是新的減稅政策導(dǎo)致銷售額上升嗎？還是我們的營銷活動？他解釋到，上面這五個因果問題，因為這些問題都包含著不對稱信息，所以無法用現(xiàn)在標(biāo)準(zhǔn)的科學(xué)語言，也就是具備對稱性的數(shù)學(xué)公式來描述。相對于“=”表示對稱信息，他用箭頭 → 表示非對稱信息，見下圖：在過去的30年中，Pearl 和他的同事找到了非對稱性的表達(dá)工具。他認(rèn)為因果科學(xué)是回答因果問題的邏輯和工具，也就是推理引擎。通俗來說它有三個輸入，包括我們想知道什么、我們已經(jīng)知道什么和可用數(shù)據(jù)，以及作為輸出的兩類關(guān)注問題的答案：a) 現(xiàn)在某個行動會有什么結(jié)果？b) 過去換個選擇會有什么不同的結(jié)果？因果推理是人類思想中不可或缺的組成部分，應(yīng)該對其進(jìn)行形式化和算法化處理，以實現(xiàn)人類水平的機(jī)器智能[3]。Pearl 描述了一個因果推理的三級結(jié)構(gòu)，把因果信息按其能夠回答的類型進(jìn)行分類。該分類形成了一個三層的層級結(jié)構(gòu)，某層的問題，只有在獲取不低于該層信息時，才能夠被回答。  圖4：三個因果層級，參見書籍[2]第一層是關(guān)聯(lián)（Association），它涉及由數(shù)據(jù)定義的統(tǒng)計相關(guān)性。大多數(shù)機(jī)器學(xué)習(xí)系統(tǒng)圍繞這一層運行。第二層是干預(yù)（Intervention），不僅涉及到能看到什么，還涉及一個干預(yù)或行動將會導(dǎo)致什么結(jié)果。作為例子，Pearl 提了一個問題：“如果我們把價格翻倍，將會發(fā)生什么？”第三層是反事實（Counterfactual），是對以前發(fā)生的事情的反思和溯因，解決的是“如果過去作出不一樣的行為，現(xiàn)在的結(jié)果會有何不同？”的問題。頂層也就是反事實層是功能最強(qiáng)大的層次，如果我們有一個可以回答反事實問題的模型，那么我們也可以回答有關(guān)干預(yù)和觀察的問題。例如，干預(yù)問題：What will happen if we double the price? 可以通過反事實問題來回答：What would happen had the price been twice its current value? 同樣，一旦我們回答了干預(yù)問題，就可以回答關(guān)聯(lián)問題。我們只是忽略了干預(yù)動作部分，而是讓觀測取代了。但是在相反的方向上，干預(yù)問題不能僅憑觀測信息（也就是統(tǒng)計相關(guān)性）回答，涉及反思和溯因的反事實問題也不能僅用從隨機(jī)對照實驗中獲得的干預(yù)信息來回答。反事實是科學(xué)思維以及法律和道德推理的基礎(chǔ)。舉個例子，在法庭判定被告是否應(yīng)該負(fù)法律責(zé)任的時候，判定有罪的一個依據(jù)是 ——“若非”被告的行為，損失就很可能不會發(fā)生(For example, in civil court, a defendant is considered responsible for an injury if, but for the defendant's action, it is more likely than not the injury would not have occurred)。'若非' 的計算含義要求將現(xiàn)實世界與被告未發(fā)生某行為反事實世界進(jìn)行比較。用個更通俗的例子來講，已知的事實是'一個人吃了藥死了'，對應(yīng)的一個反事實問題是“如果此人沒有吃藥，不死的概率是多少？”Pearl 在報告中指出，理解因果推理需要抓住一個竅門，那就是區(qū)分 seeing 和 doing 的不同，一個簡單例子就是某個便利店中”觀測到某商品的價格翻倍“和“店主強(qiáng)制讓某商品價格翻倍”存在區(qū)別。Pearl 發(fā)明了 do 算子來數(shù)學(xué)化表示干預(yù)或行為，有了它我們能用數(shù)學(xué)公式區(qū)分 seeing 和 doing：??(??|??)≠??(??|????(??))這里我們借用文獻(xiàn)[5]中一個表格補(bǔ)充說明，表格的行是不同類型的問題，而列是不同類型模型：  表1：從統(tǒng)計模型到因果模型，再到物理模型[5]可以看到統(tǒng)計模型只有關(guān)聯(lián)層的信息，所以只能回答相關(guān)性問題，而不能回答干預(yù)問題和反事實問題?；趫D的因果貝葉斯網(wǎng)絡(luò)因果只有干預(yù)層的信息，所以只能回答干預(yù)和關(guān)聯(lián)層的問題，而不能回答反事實問題。最后基于結(jié)構(gòu)的因果模型，它的能力最接近物理模型，三個層級的問題都能夠回答。事實上，朱松純教授[10]在報告的最后向 Pearl 提出了因果建模的定位問題， 他說他喜歡因果建模的思想 “From data to science”，從上面的表格中可以看到因果模型是從統(tǒng)計模型走向物理模型的過渡。Pearl 提出了一套基于結(jié)構(gòu)的關(guān)于因果的數(shù)學(xué)語言和理論，作為因果科學(xué)是回答因果問題的推理引擎，該引擎的特點是 “Knowledge in, Knowledge out, Data in between”， 而基本出點是因果推理的兩大基本定律： 他指出第一個定律是關(guān)于反事實的信息，可以推演出需要使用函數(shù)來刻畫變量之間的因果關(guān)系，而第二個定律刻畫了因果圖結(jié)構(gòu)，因果圖上每個每條缺失的邊都意味著在給定某些變量下的條件獨立性，可用它做模型檢驗，結(jié)構(gòu)學(xué)習(xí)和因果問題的符號演算。他以這兩大基本定律為出發(fā)點，發(fā)展出了被稱為結(jié)構(gòu)因果模型(SCM)的數(shù)學(xué)框架，該框架能夠回答三個層級的因果問題。在如下的例子中，模型用函數(shù)關(guān)系表示，而因果圖上的缺失的邊 CW 和 SR 都意味著給定某些變量之下的條件獨立性。  圖6：一個簡單結(jié)構(gòu)因果模型現(xiàn)代因果建模工具的發(fā)展已對所有數(shù)據(jù)密集型科學(xué)（尤其是社會科學(xué)和流行病學(xué)）產(chǎn)生了變革性的影響，其中因果圖已成為它們的第二語言。在這些學(xué)科中，因果圖模型幫助科學(xué)家從觀測數(shù)據(jù)中提取因果關(guān)系，并解構(gòu)了困擾研究人員數(shù)十年的悖論。我們根據(jù) Pearl 的論文[3]補(bǔ)充說明因果科學(xué)的推理引擎，它由三個部分組成：圖模型，結(jié)構(gòu)方程以及反事實和干預(yù)邏輯。圖模型是一種語言，用于表示 Agent 對世界的了解。反事實幫助他們闡明他們想知道的事情。結(jié)構(gòu)方程將兩者以扎實的語義聯(lián)系在一起。該推理引擎將假設(shè)（以圖模型的形式）、數(shù)據(jù)和 Query 作為輸入。圖7：SCM推理引擎如何結(jié)合數(shù)據(jù)和因果模型回答因果問題，見文獻(xiàn)[3]- 估計式(Estimand) 是關(guān)注的查詢(Query)的某個概率表達(dá)式，表示在已有模型假定下計算 Query 的一種方法；
- Estimate 是用某種統(tǒng)計方法和已有數(shù)據(jù)對 Estimand 概率表達(dá)式的估計；
- 一組擬合指標(biāo)（Fit Indices）用于衡量數(shù)據(jù)與假設(shè)的兼容程度。
第一個輸出是較難理解的，如果已有模型假定下某 Query 無法回答，也就是沒有對應(yīng)的 Estimand，則稱該 Query 為“不可識別”，Pearl 的 do-calculus 就是判斷 Query 是否可識別的一個完備的演算工具。Pearl 僅用抽象的方式描述了這個推理引擎，關(guān)于該引擎如何回答因果問題，如何解決數(shù)據(jù)科學(xué)中的混雜偏差，選擇偏差和遷移學(xué)習(xí)問題的細(xì)節(jié)可以參考 Elia Bareinboim 的論文[7]。接著 Pearl 概述了通過因果科學(xué)的推理引擎完成七個任務(wù)以及每個任務(wù)中使用的工具，并討論了每個工具對自動推理技術(shù)的獨特貢獻(xiàn)。下面是因果智慧的七大工具：Tool 1. Encoding causal assumptions in transparent and testable way. Tool 2. Predicting the effects of actions and policies. Tool 3. Computing counterfactuals and finding causes of effects (attribution, explanation, susceptibility). Tool 4. Computing direct and indirect effects (Mediation) (discrimination, inequities, fairness)Tool 5. Integrating data from diverse sources (external validity and selection bias). Tool 6. Recovering from missing data. Tool 7. Discovering causal relations from data第一個工具就是使用因果圖透明的編碼了因果知識，使用 d-分離圖準(zhǔn)則下的條件獨立性來檢驗因果結(jié)構(gòu)先驗假設(shè)。Pearl 給出了 Shrier 和 Platt 于 2008 年提出的運動醫(yī)學(xué)領(lǐng)域的簡單例子（熱身對于運動損傷的影響），在這個例子中變量之間相互如何相互影響被透明的表示了出來，變量之間因果關(guān)系的確定可以基于合理的事實，它能用 d-分離圖準(zhǔn)則下的條件獨立性來檢驗。第二個工具就是使用 Do-Calculus 定義和回答干預(yù)層的因果問題，這些問題包括計算某個行為，干預(yù)或策略產(chǎn)生的因果效應(yīng)。繼續(xù)看熱身對于運動損傷的因果效應(yīng)例子，我們需要選擇哪些變量作為控制變量呢？是不是控制變量越多越好呢？Pearl的回答是，一定不要控制變量 Z3(也就是Previous Injury), 否則下圖的因果路徑（加粗）會被聯(lián)通，造成混雜偏差，不能正確估計回答該因果效應(yīng)的問題，正確的做法是控制變量 Z1, Z2 。具體 Do-Calculus 解決混雜偏差建議參考文獻(xiàn)[7]。  圖9：Do-Calculus 確定控制變量第三個工具是計算反事實，找出某個結(jié)果的原因。我們要去找到事件結(jié)果的原因，我們要進(jìn)行歸因，進(jìn)行解釋。反事實是科學(xué)思維以及法律和道德推理的基礎(chǔ)，例如，反事實問題 “一個人吃了藥死了，如果此人沒有吃藥，不死的概率是多少？”的答案是法律責(zé)任判定中的重要依據(jù)。第四個工具是中介分析。直接（間接）因果效應(yīng)是指一個變量對另一變量的既定影響在多大程度上是直接的（間接的），這是許多不同學(xué)科都關(guān)注的一類重要因果問題，它們可用 Pearl 的推理引擎解決。這一工具現(xiàn)在也被用于判斷「歧視」、「不公正的做法」、「不公平現(xiàn)象」，我們要討論人工智能和機(jī)器學(xué)習(xí)領(lǐng)域中的公平性問題時，我們必須考慮中介效應(yīng)，Pearl 給出了一個雇主是否有性別歧視的例子，也就是回答如何用數(shù)據(jù)判斷雇主是否用性別決定錄用員工與否的問題。第五個工具是泛化和數(shù)據(jù)融合。它的基本問題關(guān)于如何融合分布不同的實驗性研究或觀測性研究，Pearl 及其學(xué)生 Elias Bareinboim 提出一個解決此任務(wù)的框架，這是 Pearl 在文獻(xiàn)[1]中稱因果建模工具能夠幫助解決 AI 應(yīng)用中魯棒性或適應(yīng)性的原因。Pearl 在報告中用一個例子簡單的講解了一下基本思路，首先把數(shù)據(jù)源的數(shù)據(jù)類型(觀測/RCT)和其他特點用圖表(上)列出來，然后轉(zhuǎn)化稱對應(yīng)的因果圖(下)，其中圖中 S 節(jié)點標(biāo)記了數(shù)據(jù)源的 S 指向變量有差異。這樣就可以用因果建模工具綜合不同數(shù)據(jù)源，回答關(guān)注總體的感興趣因果問題，其詳情見文獻(xiàn)[7] 圖12：因果推理解決多源數(shù)據(jù)集融合問題實例第六個工具是從缺失數(shù)據(jù)恢復(fù)。由于缺少數(shù)據(jù)而導(dǎo)致的問題困擾著實驗科學(xué)的每個分支，所有的數(shù)據(jù)都會有一個缺失值的問題，它本質(zhì)是一個因果問題。實際上建立一個缺失數(shù)據(jù)因果模型之后，可以用因果推理引擎判斷和實現(xiàn)從缺失數(shù)據(jù)下的所關(guān)注問題的推斷。圖13：缺失數(shù)據(jù)問題本質(zhì)是因果問題第七個工具是因果發(fā)現(xiàn)。因果發(fā)現(xiàn)就是要去尋找一系列的模式或者圖結(jié)構(gòu)，能夠與數(shù)據(jù)相兼容的，同時能夠進(jìn)行簡潔的表示。當(dāng)前從數(shù)據(jù)中得到因果結(jié)構(gòu)的因果結(jié)構(gòu)學(xué)習(xí)，不僅要學(xué)習(xí)因果結(jié)構(gòu)，還要學(xué)習(xí)從數(shù)據(jù)中直接得出哪些變量是因果變量的因果表示學(xué)習(xí)，這已經(jīng)成為了當(dāng)前一個熱點研究課題，Pearl 在文獻(xiàn)[2]中提出了為 AI 提出小圖靈測試作：How can machines represent causal knowledge in a way that would enable them to access the necessary information swiftly, answer questions correctly, and do it with ease, as a human can?因此因果表示學(xué)習(xí)是一個十分重要課題，向更多了解相關(guān)內(nèi)容建議參考資料[1, 2, 5, 9]。最后，Pearl 指出，因果革命不僅僅席卷了各個研究領(lǐng)域，也開始影響教育和實際應(yīng)用，將數(shù)據(jù)科學(xué)從當(dāng)前以數(shù)據(jù)為中心的范式往科學(xué)為中心的范式偏移。這個革命的高潮還沒有到來，但我們將會看到一個非常聲勢浩大的革命，尤其是從社會智能的角度來觀察。我們將能夠與機(jī)器智能進(jìn)行緊密的交流和互動，無論用戶是誰，其可能是另外一個機(jī)器或者電力服務(wù)系統(tǒng)，這在社會智能領(lǐng)域未來的十年中就會發(fā)生。另外一個，是與倫理學(xué)相關(guān)的，即同理心，最終機(jī)器甚至?xí)幸庾R和自由意志、同情心以及倫理道德。所以，我們每一個人都應(yīng)更多地關(guān)注因果科學(xué)。For me, consciousness is having a blueprint of your software. 如果您有適當(dāng)?shù)臄?shù)學(xué)基礎(chǔ)和人工智能研究經(jīng)驗，既有科學(xué)家的好奇心也有工程師思維，希望參與到”因果革命“中，教會機(jī)器因果思維，為因果科學(xué)作出貢獻(xiàn)，請加入我們微信群?? 特別注意，我們在文章中引用論文的方式并不嚴(yán)格，應(yīng)該把當(dāng)成一個參考資料來理解。事實上，這一部分給出了筆者認(rèn)為對參與這場“因果革命”至關(guān)重要，精心挑選之后的資料。希望在教會讀者機(jī)器因果思維，構(gòu)建能夠通過小圖靈測試的 Causal AI 之路上，這些資料可以幫助讀者快速理解和把握因果科學(xué)全局。[1] “Foundations and new horizons for causal inference” 研討會, 2019，https://opc./show_workshop?id=3271因果推斷始于經(jīng)濟(jì)和生物統(tǒng)計等學(xué)科，它剛剛才開始成為人工智能的一個重要工具，數(shù)學(xué)基礎(chǔ)依舊很零碎，該研討會聚集了來自人工智能，生物統(tǒng)計學(xué)，計算機(jī)科學(xué)，經(jīng)濟(jì)學(xué)，流行病學(xué)，機(jī)器學(xué)習(xí)，數(shù)學(xué)和統(tǒng)計學(xué)的頂尖研究人員，研討會上的報告和討論將有助于在未來幾年內(nèi)塑造和改變這一領(lǐng)域的發(fā)展。[2] 'The Book of Why: the new science of cause and effect,' Judea Pearl and Dana MacKenzie, (Basic Books, 2018). http://bayes.cs./WHY/[3] J. Pearl, “The Seven Tools of Causal Inference with Reflections on Machine Learning,” Communications of ACM, 62(3): 54-60, March 2019[4] Judea Pearl: Causal Reasoning, Counterfactuals, Bayesian Networks, and the Path to AGI | AI Podcast https:///pEBI0vF45ic這三個材料是 Pearl 的因果理論的最新綜述，較為通俗易懂介紹了因果關(guān)系的新科學(xué)，描繪了一條教會機(jī)器因果思維的強(qiáng)人工智能之路。[5] Causality for Machine Learning, Bernhard Sch?lkopf, 2019這是一篇剛剛掛 arxiv 就被 Pearl 親自 twitter 點贊的論文，是馬普智能所所長 Bernhard Scholkopf 最引以為傲的論文之一，他將被 Pearl 點贊這事情寫在其個人主頁自我介紹的第一段中。Scholkopf 及其團(tuán)隊在因果結(jié)合機(jī)器學(xué)習(xí)方面做了最多的工作，此文總結(jié)和升華了提出了信息革命時代下因果結(jié)合機(jī)器學(xué)習(xí)的一般理論和深刻思考。[6] A Second Chance to Get Causal Inference Right: A Classification of Data Science Tasks, Miguel A. Hernán, John Hsu &Brian Healy, 2019來自哈佛教授 Migual A. Hernan 對當(dāng)前數(shù)據(jù)科學(xué)的深刻反思，澄清了數(shù)據(jù)科學(xué)任務(wù)如何分類的基本問題：prediction, description and counterfactual prediction.[7] Causal Inference and Data-Fusion in Econometrics, P. Hünermund, E. Bareinboim.Dec, 2019. 該論文是因果革命，Pearl 的因果圖模型框架如何影響某一個特定領(lǐng)域--計量經(jīng)濟(jì)學(xué)的范例。 [8] Beyond Curve Fitting: Causation, Counterfactuals, and Imagination-based AI, AAAI Spring Symposium, March 25-27, 2019 https://why19./ 這是 Judea Pearl 和其學(xué)生 Elias Eareinboim 組織的一次研討會，探索了 Causality + X: X 代表了某個學(xué)科。[9] NeurIPS’2019, From System 1 Deep Learning to System 2 Deep Learning, Yoshua Bengio. Video with synchoronized slides https:///38921750/from-system-1-deep-learning-to-system-2-deep-learning.Bengio 描繪了一個具備因果推理能力和 AI 系統(tǒng) [10] 加州大學(xué)洛杉磯分校UCLA朱松純教授，淺談人工智能：現(xiàn)狀、任務(wù)、構(gòu)架與統(tǒng)一 | 正本清源 
|
