王超

近年來，人工智能越來越成為引領未來的戰(zhàn)略性技術，世界主要發(fā)達國家紛紛把發(fā)展人工智能技術、推進人工智能在網(wǎng)絡安全領域的深度應用作為提升國家網(wǎng)絡空間核心競爭力、維護國家網(wǎng)絡空間安全的重大戰(zhàn)略。然而，人工智能技術是把“雙刃劍”，在大力發(fā)展人工智能網(wǎng)絡安全技術的同時，必須高度重視可能帶來的網(wǎng)絡安全風險，加強前瞻預防與約束引導，最大限度地降低風險，確保人工智能在網(wǎng)絡安全領域安全、可靠、可控發(fā)展。

AI在網(wǎng)絡安全的深度應用

（一）人工智能技術成為國家網(wǎng)絡空間競爭的新高地。當前，發(fā)達國家紛紛加強網(wǎng)絡安全領域的人工智能戰(zhàn)略布局。美國把人工智能技術提升到能給網(wǎng)絡安全，甚至國家安全帶來顛覆性變革的戰(zhàn)略的高度。2016年10月，美國前總統(tǒng)奧巴馬發(fā)布的《國家人工智能研究和發(fā)展戰(zhàn)略計劃》提出，“確保人工智能系統(tǒng)安全可靠”的發(fā)展戰(zhàn)略，要將“對抗機器學習”作為人工智能發(fā)展的關鍵領域。同年 12 月20日，美國白宮發(fā)布的《人工智能、自動化與經(jīng)濟報告》提出，“出于網(wǎng)絡防御和欺詐偵查目的發(fā)展人工智能”，意在打造能精準預測網(wǎng)絡攻擊、有效偵測欺詐交易和欺詐信息的人工智能系統(tǒng)。在我國，國務院于 2017年7月印發(fā)《新一代人工智能發(fā)展規(guī)劃》，提出要加強人工智能網(wǎng)絡安全技術研發(fā)，強化人工智能產(chǎn)品和系統(tǒng)網(wǎng)絡安全防護。工業(yè)和信息化部于2017年12月發(fā)布《促進新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃（2018—2020年）》，明確倡導人工智能先進技術在網(wǎng)絡安全領域的深度應用，提出到2020年要實現(xiàn)的目標，即“完善人工智能網(wǎng)絡安全產(chǎn)業(yè)布局，形成人工智能安全防控體系框架，初步建成具備人工智能安全態(tài)勢感知、測試評估、威脅信息共享、應急處置等基本能力的安全保障平臺”。

（二）人工智能技術成為IT企業(yè)布局網(wǎng)絡安全技術產(chǎn)業(yè)的新抓手。人工智能技術正在引發(fā)網(wǎng)絡安全產(chǎn)業(yè)變革熱潮。根據(jù)CB Insights的統(tǒng)計結果，在應用人工智能領域，網(wǎng)絡安全是活躍度排名第四的行業(yè)。一方面，新興IT企業(yè)著力研發(fā)基于人工智能的網(wǎng)絡安全技術，并強勢崛起成為領域獨角獸企業(yè)。美國Cylance是世界上最早提供基于機器學習和人工智能反病毒的公司之一，其研發(fā)的反病毒軟件Cylance PROTECT利用人工智能預測網(wǎng)絡攻擊的發(fā)生，在沒有網(wǎng)絡連接的情況下，僅需60MB 內(nèi)存和 1%的CPU就能保護計算機免受攻擊。目前，該公司的估值已超過10億美元。美國帕洛阿爾托網(wǎng)絡公司（Palo Alto Networks）推出的名為Magnifier 的行為分析解決方案，使用結構化和非結構化的機器學習來模擬網(wǎng)絡行為，改善網(wǎng)絡危險檢測。另一方面，大型互聯(lián)網(wǎng)和網(wǎng)絡安全企業(yè)紛紛加碼網(wǎng)絡安全領域人工智能技術的創(chuàng)新和應用。2017年，亞馬遜先后收購人工智能網(wǎng)絡安全公司——Harvest.ai 和 Sqrrl，通過機器學習和人工智能算法，加強對數(shù)據(jù)竊取行為的識別和阻止，以保護云中的敏感數(shù)據(jù)。2018年5月，360發(fā)布了“安全大腦”，利用人工智能技術對采集的安全數(shù)據(jù)進行分析計算，可實時感知網(wǎng)絡安全運行狀況和態(tài)勢，預測網(wǎng)絡攻擊并自動響應。

（三）人工智能技術成為應對網(wǎng)絡安全風險的新方案。網(wǎng)絡安全專業(yè)人員不足和網(wǎng)絡攻擊發(fā)現(xiàn)能力薄弱，日益成為抵御網(wǎng)絡安全風險的短板。人工智能技術以其強大的運算能力逐步成為應對網(wǎng)絡安全挑戰(zhàn)的新方案。一方面，人工智能技術能夠大幅提高分析效率。一個信息安全分析師一天的日志數(shù)據(jù)分析量，人工智能只需幾分鐘就能完成。另一方面，人工智能有助于提升威脅檢測效果?；跈C器學習、深度學習等算法，人工智能技術能夠主動識別網(wǎng)絡中的異常行為，現(xiàn)已充分應用于物聯(lián)網(wǎng)設備防御、惡意軟件預防、安全運營中心效率提升、風險量化，以及網(wǎng)絡流量異常和惡意移動應用檢測等領域。ESG 的調(diào)查顯示，12%的企業(yè)組織已普遍應用了基于人工智能的安全分析產(chǎn)品，27%的企業(yè)間接使用了基于人工智能的安全分析服務，20%以上的網(wǎng)絡安全工程師希望使用基于人工智能的網(wǎng)絡安全技術加速事件檢測和響應、識別和處置網(wǎng)絡安全風險，掌握網(wǎng)絡安全態(tài)勢。

AI引發(fā)新的網(wǎng)絡安全風險

（一）易遭受“投毒攻擊”。當前，機器學習、深度學習等人工智能算法嚴重依賴于數(shù)據(jù)的分布，如果黑客改變數(shù)據(jù)分布生成惡意的對抗樣本，向人工智能系統(tǒng)發(fā)起“投毒攻擊”，就可能造成人工智能系統(tǒng)的識別錯誤。OpenAI 在最新研究報告中指出，攻擊者將對抗樣本輸入圖像識別的機器學習模型，就能夠使人工智能系統(tǒng)在視覺上產(chǎn)生幻覺，從而出現(xiàn)錯誤的圖片識別結果。一旦人工智能技術在無人駕駛等領域推廣普及，“投毒攻擊”很可能對人們的生命、財產(chǎn)安全產(chǎn)生巨大威脅。

（二）底層開源框架是薄弱環(huán)節(jié)。當前，Google、FaceBook、IBM、百度等國際 IT 巨頭紛紛開源其人工智能系統(tǒng)，幫助應用開發(fā)人員屏蔽底層實現(xiàn)細節(jié)，構建起以自身技術框架為基礎的應用生態(tài)。然而，不時曝出的安全漏洞推高了人工智能系統(tǒng)的安全風險。2017年12月，奇虎360、美國佐治亞大學和美國弗吉尼亞大學的安全研究人員一致認為，Google開源的TensorFlow、FaceBook開源的Caffe 和Torch等深度學習框架對第三方開源基礎庫過度依賴，這會導致其存在大量的安全威脅。安全人員在上述三個框架中發(fā)現(xiàn)了15個安全漏洞，極易導致人工智能系統(tǒng)遭到拒絕服務攻擊、逃逸攻擊、系統(tǒng)損害攻擊的影響。考慮到基于深度學習的應用往往需要復雜的訓練過程，針對深度學習框架的惡意攻擊很難在短時間內(nèi)被識別，這就可能導致攻擊持續(xù)的時間更長，造成的危害更加嚴重。

（三）基于人工智能技術的網(wǎng)絡攻擊多樣化。一方面，人工智能技術降低了網(wǎng)絡攻擊門檻。隨著大量人工智能模型開源，黑客入侵的工具愈發(fā)多樣化，他們可以利用開源工具欺騙識別系統(tǒng)。另一方面，基于人工智能技術的網(wǎng)絡攻擊危害嚴重。人工智能技術會進一步豐富攻擊模式，以自動化方式提升復雜攻擊的速度與效率，加大魚叉式網(wǎng)絡釣魚等勞動密集型網(wǎng)絡攻擊的危害;追蹤、分析信息系統(tǒng)進化趨勢和安全軟件更新特點，設計出新的、更強大的惡意程序來發(fā)動網(wǎng)絡攻擊。利用人工智能技術操作無人機或其他智能設備發(fā)起定向攻擊，可能導致物理設備損害，威脅關鍵信息基礎設施安全，危及個人生命、財產(chǎn)安全。

幾點建議

（一）重點突破人工智能網(wǎng)絡安全技術。一是重視和加強前瞻性基礎研究，加大對感知技術、深度學習、機器學習等人工智能算法的研發(fā)支持力度，提升算法的可解釋性、透明性、運行效率等。二是加強基于人工智能的漏洞挖掘、安全測試、威脅預警、攻擊檢測、應急處置等網(wǎng)絡安全技術攻關，強化人工智能安全態(tài)勢感知、測試評估、威脅信息共享和應急處置等能力。三是支持應用技術研究，重點加強對抗性機器學習研究，分析機器學習對抗性攻擊對人工智能系統(tǒng)的危害程度，提出應對的技術方案，提升算法的魯棒性。

（二）加快優(yōu)化人工智能開發(fā)框架。一方面，研發(fā)推廣應用國內(nèi)人工智能技術開發(fā)框架，重點支持自動駕駛、城市大腦等國家新一代人工智能開放創(chuàng)新平臺發(fā)展，帶動和引領國內(nèi)人工智能企業(yè)構建涵蓋機器學習、語義分析、控制決策等眾多技術在內(nèi)的體系化開源平臺，推進人工智能開源代碼、開源軟件的信息匯聚和技術交流，推動國內(nèi)企業(yè)逐步擺脫對TensorFlow等國外開源開發(fā)框架的依賴。另一方面，提高開發(fā)人員的安全技能和意識，將安全理念貫穿到需求、設計、實施、測試和發(fā)布響應等各個階段，堅持在開發(fā)階段發(fā)現(xiàn)漏洞，強化安全測試，提高人工智能開發(fā)框架的安全性。

（三）積極應對人工智能型網(wǎng)絡攻擊。一方面，加強關鍵信息基礎設施等重要信息系統(tǒng)的安全防護能力。結合關鍵基礎設施控制系統(tǒng)的體系架構特征，有針對性地開展漏洞挖掘、安全測試，排查關鍵信息基礎設施的安全風險隱患，提升關鍵信息基礎設施的抗偵聽、抗攻擊和恢復能力。另一方面，以人工智能技術對抗人工智能技術，推動人工智能先進技術在網(wǎng)絡防御領域的深度應用。通過人工智能技術，加強對網(wǎng)絡攻擊的特點和規(guī)律的分析，發(fā)現(xiàn)過去網(wǎng)絡攻擊的共性和特殊性，分析惡意程序和攻擊手段的演化方向，提升網(wǎng)絡攻擊防御的效率和精準度。