在過去十年，AI以大數(shù)據為驅動，給人類帶來了前所未有的便利。但是，數(shù)據泄露、隱私丟失等問題也日益嚴重。

提升模型精度是否一定意味著犧牲隱私保護？美國多地禁止人臉識別，重視隱私保護是否阻礙人工智能發(fā)展？對AI應用的用戶隱私與數(shù)據安全的擔憂是杞人憂天還是未雨綢繆？如何處理好發(fā)展AI技術（比如提升模型精度，實現(xiàn)認知智能）與人的關系？

隱私的定義是什么？隱私的范疇在哪里？AI與隱私的關系是什么？張鈸院士從隱私的定義出發(fā)，從AI制度和AI技術手段兩方面入手，指出了保護隱私應該堅持的發(fā)展方向、具體措施。

隱私是一個相對的概念，隱私保護是一個社會學范疇內的問題，高文院士指出在目前的階段，相關法律制度還不健全，因此，完善相關的法律法規(guī)、政策制度，出臺侵犯隱私的懲罰措施等都是非常重要的內容。

隱私一直以來是AI的短板，因為深度學習離不開大數(shù)據，但數(shù)據量的增加會導致侵犯隱私的威脅也在增加。在此背景下，楊強教授分享了瑞典政府對GDPR的看法和思路：嚴格的隱私保護法規(guī)是動力，會激勵保護隱私的技術及早出現(xiàn)，并幫助歐洲在技術領域領先。

針對用戶訴求、國家監(jiān)管需要，以聯(lián)邦學習為代表的AI新技術能否解決大數(shù)據AI協(xié)作與數(shù)據隱私保護之間的矛盾？這些技術的優(yōu)勢與局限性有哪些？如何讓更多人參與到這些技術創(chuàng)新中來，開源？激勵機制？

技術流派應該百花齊放，整個社會應該重視誠信。高文院士認為：第一，各家應該努力去尋找最好的技術，讓隱私得到最好的保護。第二，根據我國技術和社會發(fā)展現(xiàn)狀，如果想讓技術和社會和諧快速發(fā)展，隱私得到很好地保護，誠信是非常重要的內容。此外，開源在技術發(fā)展中具有重大價值，需要特別關注。

為什么要保護隱私？張鈸院士先提出了這個關鍵問題，之后開始詳細闡釋了隱私保護的目的，并就東、西方價值觀的差異引申出了我國隱私保護的核心問題——不濫用個人信息。避免濫用有兩個方面，一方面是制定法律、規(guī)則，限制濫用行為；另一方面是發(fā)展安全、可靠、可信賴、可擴展的AI技術。

聯(lián)邦學習的基本思想是：數(shù)據不出本地，模型得到更新。基于此，楊強教授詳細剖析了傳統(tǒng)的數(shù)據處理、模型訓練方式和聯(lián)邦學習中數(shù)據處理、模型訓練方式的異同，指出了聯(lián)邦學習的優(yōu)勢、對抗機制，及其在企業(yè)之間應用的實例。

面對現(xiàn)有的困境與桎梏，下一代AI技術應該具備哪些特點？我們如何搶占制高點？人與AI如何更好地協(xié)作，創(chuàng)造更大的價值？

下一代AI首先要考慮人，要考慮人與機器的協(xié)作，要考慮人的利益，基于此認識，楊強教授指出下一代AI中可解釋性是非常重要的，同時，要了解如何將人類的智慧賦予機器，讓機器站在人類的肩膀上學習。針對相關問題，楊強教授號召研究者選問題時要從很新、很難、容易解釋的角度切入。

對于可解釋性是第一位的觀點，高文院士表示認可，并補充指出AI的高效能也是非常重要的一點。對比人腦，現(xiàn)有AI系統(tǒng)的效能還不夠高，根據鵬城實驗室的實際工作來看，AI精度超過人類的代價很大。對此，研究者應該去做其他人沒有做過的東西，嘗試讓機器對知識有繼承。

AI的最終目標是什么？我們現(xiàn)在做了哪些事？張鈸院士以此為出發(fā)點，指出了目前我們沿著符號主義、連接主義已經取得的成就，并一針見血地指出現(xiàn)有AI的發(fā)展還處于序幕階段，沒有解決符號基礎問題，沒有涉及智能的根本問題，現(xiàn)有AI系統(tǒng)不安全、不可靠、不可解釋、不容易擴展。對此，我們只有加強AI相關基礎研究，具體到我們國家，我們其實已經有條件去做這件事了，但是路程還很漫長。

對于基礎研究，張鈸院士認為落腳點還是發(fā)表論文。目前，我國的基礎研究已經取得長足進步，基礎研究的平均水平達到了世界一流水平，但是最高水平與世界一流水平還存在差距，我們要在制度、體制上創(chuàng)新，鼓勵、支持研究者探索新領域，勇于面對失敗，能夠經得起失敗。

近期，國家新一代人工智能治理專業(yè)委員會發(fā)布了《新一代人工智能治理原則——發(fā)展負責任的人工智能》，針對AI的下一個十年，三位專家也給出了自己的總結與展望。

AI的治理問題非常重要，張鈸院士認為只有把AI智力問題想清楚了，才能看清技術的發(fā)展方向，清楚自己該做什么工作。

發(fā)展AI是為了造福人類社會，高文院士提出要綜合考慮技術發(fā)展、社會影響與成本。

AI的發(fā)展引起了全社會的關注，進而引出來了越來越多的限制和要求，如隱私保護等。楊強教授認為這些要求孕育了新的機會，引出了新的研究課題，有志向的研究者要勇于踏進新的技術領域，開創(chuàng)新的局面。