指導(dǎo)人工智能治理：全面看待國(guó)家戰(zhàn)略

人工智能（AI）是國(guó)際關(guān)系中爭(zhēng)論不休的新領(lǐng)域，籠罩在失去技術(shù)控制和人為監(jiān)督的不確定性中。俄羅斯總統(tǒng)弗拉基米爾·普京在2017年曾說(shuō)過(guò)一句名言：“誰(shuí)成為這一領(lǐng)域的領(lǐng)導(dǎo)者，誰(shuí)就是世界的統(tǒng)治者。”自此大量的公共與私人參與者發(fā)表了關(guān)于人工智能將如何讓社會(huì)變得更好或更壞的聲明，強(qiáng)調(diào)了基礎(chǔ)設(shè)施發(fā)展、軍事應(yīng)用以及對(duì)就業(yè)和人際關(guān)系的影響。公眾越來(lái)越認(rèn)識(shí)到基于算法處理和機(jī)器學(xué)習(xí)的工具所帶來(lái)的承諾與騷動(dòng)一樣多，政府所承受的壓力與日俱增，要求它們?yōu)楣窀ｌ砗虯I存在的理由做出回應(yīng)。截至2020年，全球已有30多個(gè)國(guó)家開(kāi)始討論設(shè)計(jì)國(guó)家的人工智能戰(zhàn)略，其中17個(gè)國(guó)家已經(jīng)在實(shí)施這些戰(zhàn)略。

隨著關(guān)注從技術(shù)視角轉(zhuǎn)向社會(huì)轉(zhuǎn)型的趨勢(shì)開(kāi)始鞏固，治理方法開(kāi)始受到密切關(guān)注。迄今為止，在學(xué)術(shù)和政策著作中，對(duì)倫理的關(guān)注蓋過(guò)了對(duì)實(shí)施監(jiān)管的興趣。本文通過(guò)探索以下問(wèn)題解決這一差距：國(guó)家是如何選擇設(shè)計(jì)人工智能治理戰(zhàn)略的？通過(guò)混合的視角，本文基于對(duì)12個(gè)國(guó)家戰(zhàn)略的定性比較分析，提供了關(guān)于人工智能治理的連續(xù)性和變革的論述，它們嵌入并揭示了扶持新市場(chǎng)、規(guī)范新興技術(shù)以及與非國(guó)家行為者合作的主流方法。本文認(rèn)為國(guó)家戰(zhàn)略中概述的優(yōu)先事項(xiàng)構(gòu)成了監(jiān)管配置以及決策中角色和責(zé)任的職能分配的基礎(chǔ)，起草過(guò)程和確定的國(guó)家優(yōu)先事項(xiàng)，反映了多種制度邏輯在多大程度上對(duì)人工智能的混合治理方法產(chǎn)生影響。

在1956年的達(dá)特茅斯學(xué)院研討會(huì)上，人工智能被首次確立為一個(gè)研究領(lǐng)域，這之后對(duì)機(jī)器智能和機(jī)器人的非定向研究獲得了美日英政府的資助；然而自70年代初由于缺乏具體成果和應(yīng)用，公共資金被撤回后，私營(yíng)部門(mén)開(kāi)始在從工業(yè)機(jī)器人到數(shù)據(jù)挖掘等廣泛領(lǐng)域的人工智能研究和應(yīng)用中發(fā)揮主導(dǎo)作用。國(guó)家的撤退從資助相關(guān)研究到定義市場(chǎng)限制，但這并不意味著公眾支持的完全撤出，大學(xué)和政府資助的項(xiàng)目繼續(xù)就這一主題進(jìn)行相關(guān)研究。隨著人工智能的應(yīng)用越來(lái)越廣泛，它獲得了更多的支持，各國(guó)對(duì)人工智能發(fā)展日益增長(zhǎng)的興趣集中在控制新技術(shù)的負(fù)面影響和意外后果的需要上，特別是它們對(duì)加劇不平等的影響，而公眾擔(dān)憂其可能被設(shè)計(jì)成為若干權(quán)力中心的意識(shí)形態(tài)和利益服務(wù)，導(dǎo)致地緣政治緊張局勢(shì)和新的“強(qiáng)國(guó)之間的逐底競(jìng)爭(zhēng)”。

雖然自我監(jiān)管一直是全球?qū)用鎸?duì)人工智能轉(zhuǎn)型的主要回應(yīng)，但自2016年以來(lái)區(qū)域和國(guó)家層面的監(jiān)管討論和戰(zhàn)略方法已獲得重視。與這些努力相輔相成的是監(jiān)管人工智能驅(qū)動(dòng)的具體方法，并根據(jù)隱私和數(shù)據(jù)保護(hù)條款塑造該領(lǐng)域的發(fā)展。通過(guò)拼湊的立法，該領(lǐng)域的“國(guó)家的回歸”趨勢(shì)變得更加明顯，但只是以碎片化的方式，需要更廣泛的治理框架來(lái)重構(gòu)公共與私營(yíng)部門(mén)之間的基本關(guān)系。在這方面國(guó)家戰(zhàn)略更清晰地揭示了在公共領(lǐng)域管理人工智能方法的創(chuàng)新和局限性。

擁有科技行業(yè)巨頭的國(guó)家已經(jīng)率先行動(dòng)起來(lái)，雄心勃勃地希望在未來(lái)十年內(nèi)主導(dǎo)全球人工智能發(fā)展，而許多其他國(guó)家特別是發(fā)展中國(guó)家，仍在討論其國(guó)家優(yōu)先事項(xiàng)和未來(lái)框架。2017年3月，加拿大率先發(fā)布了全面的國(guó)家人工智能戰(zhàn)略，但韓國(guó)作為第一個(gè)發(fā)布針對(duì)特定行業(yè)戰(zhàn)略的國(guó)家，比它早了一年。各國(guó)目前還沒(méi)有對(duì)該領(lǐng)域的相關(guān)創(chuàng)新施加嚴(yán)格限制，但不意味著它們一直是被動(dòng)參與者，通常情況下它們資助的基礎(chǔ)研究推動(dòng)企業(yè)使用的進(jìn)步，近年來(lái)各國(guó)政府也開(kāi)始采用這一技術(shù)改革政府，這些舉措反映了新興技術(shù)治理中更為復(fù)雜和深刻的變化，而無(wú)論是“國(guó)家的撤退”還是“國(guó)家的回歸”論點(diǎn)都不能充分捕捉到這些變化。

本文將治理理解為不同機(jī)構(gòu)和行為者之間有模式和有序互動(dòng)的過(guò)程，可以審查體制安排，并將治理范圍內(nèi)的責(zé)任分開(kāi)。在公共和私人行為者高度互動(dòng)的情況下，混合性理論對(duì)于揭示不確定情況下的相互依賴關(guān)系特別有用，它為治理參與者之間的互動(dòng)和重疊提供了更細(xì)致入微的概念化，揭示了獲得新制度形式的利益、角色和共同理解?；旌闲允恰胺翘乩?，但不一定是普遍發(fā)生的事件”，使用制度邏輯方法可以更好地解釋這一點(diǎn)，該方法將規(guī)范框架和組織實(shí)施方式聯(lián)系起來(lái)。每個(gè)社會(huì)的組織原則、物質(zhì)實(shí)踐和意識(shí)形態(tài)建構(gòu)構(gòu)成了制度邏輯的基礎(chǔ)，有影響力的等級(jí)、市場(chǎng)和網(wǎng)絡(luò)三部曲常被用來(lái)區(qū)分新的治理模式，在理想形式中，后者對(duì)應(yīng)于公共利益、營(yíng)利性驅(qū)動(dòng)和目標(biāo)的混合三種操作邏輯。混合治理所依據(jù)的多元邏輯在兩方面改變公共行為者與私人行為者的關(guān)系：首先，談判空間及其身份變得相互依賴；其次，機(jī)構(gòu)本身在面臨眾多制度邏輯時(shí)會(huì)發(fā)生變化，影響關(guān)鍵參與者和相關(guān)問(wèn)責(zé)框架的定位。

將這一理論應(yīng)用于人工智能治理需要檢查混合性的兩個(gè)維度。第一個(gè)維度需要確定混合在什么階段出現(xiàn)，以及它是否代表了人工智能治理系統(tǒng)的一種新屬性，影響未來(lái)的政策方向。第二個(gè)維度是重新定義混合治理中參與者的角色和身份，以回應(yīng)對(duì)混合理論的批評(píng)之一，這一批評(píng)指出該理論需要更好的規(guī)范。公共和私人之間模糊的邊界可能會(huì)導(dǎo)致新的機(jī)構(gòu)和重新定義的職能。

隨著越來(lái)越多的國(guó)家定義其應(yīng)對(duì)人工智能挑戰(zhàn)的方法，它們開(kāi)始在國(guó)家各個(gè)層面發(fā)布了戰(zhàn)略文件，囊括了關(guān)鍵參與者的愿景。這種對(duì)國(guó)家戰(zhàn)略的探索性分析評(píng)估了混合治理的實(shí)例，重點(diǎn)關(guān)注制度動(dòng)態(tài)以及對(duì)參與者角色和身份的重新定義。本文的分析僅限于政府戰(zhàn)略或最終形式的國(guó)家計(jì)劃，無(wú)論其有無(wú)承諾的資源，因?yàn)檫@些文件往往措辭謹(jǐn)慎，適合定性內(nèi)容分析。在迄今為止發(fā)布的國(guó)家戰(zhàn)略中，一般分為一般性指導(dǎo)文件和具有明確優(yōu)先事項(xiàng)和附加資金的指令性計(jì)劃。本文采用兩步法來(lái)選擇后者的案例及具體的分析維度，僅保留專門(mén)針對(duì)這一領(lǐng)域的戰(zhàn)略，而非將人工智能與其他數(shù)字技術(shù)并列。

在選擇進(jìn)行分析的國(guó)家組中，首先區(qū)分將戰(zhàn)略作為產(chǎn)業(yè)政策指導(dǎo)的國(guó)家和采用綜合社會(huì)政治和經(jīng)濟(jì)激勵(lì)措施的國(guó)家，最后保留了12份國(guó)家文件進(jìn)行分析。第二步，將所選策略納入對(duì)感興趣維度的定性內(nèi)容分析，通過(guò)關(guān)鍵字進(jìn)行的初始搜索指向所分析文件中的相關(guān)章節(jié)，包括“公共”、“當(dāng)局”、“國(guó)家”、“機(jī)構(gòu)”、“政府”、“公共利益”、“私營(yíng)部門(mén)”、“企業(yè)”、“行業(yè)”、“角色”、“責(zé)任”、“政策”等。然而僅有關(guān)鍵字是不夠的，對(duì)被調(diào)查維度的引用通常分布在文件的序言和行動(dòng)要點(diǎn)之間，需要對(duì)上下文進(jìn)行深入分析以理解特定的表述和細(xì)微差別。

表1 分析中包含的國(guó)家戰(zhàn)略

本文分析的國(guó)家人工智能戰(zhàn)略反映了政府在相對(duì)較短的時(shí)間內(nèi)完成的權(quán)威優(yōu)先事項(xiàng)、方向和資源分配，然而從人工智能發(fā)展的部門(mén)愿景到成熟的產(chǎn)業(yè)戰(zhàn)略和全面的政府方法，它們的范圍和長(zhǎng)度各不相同。在起草過(guò)程中，人工智能戰(zhàn)略早期采用者與國(guó)家在設(shè)計(jì)過(guò)程中的第一個(gè)差距在于，第一批往往是人工智能領(lǐng)導(dǎo)者和發(fā)達(dá)國(guó)家，而不是發(fā)展中國(guó)家。雖然本文分析的大多數(shù)國(guó)家都認(rèn)識(shí)到國(guó)際合作的必要性，但通常情況下都是與技術(shù)更先進(jìn)的國(guó)家進(jìn)行交流，很少提及與發(fā)展中國(guó)家的關(guān)系。德國(guó)是一個(gè)例外，其國(guó)家戰(zhàn)略的行動(dòng)重點(diǎn)是“在經(jīng)濟(jì)合作的背景下，在發(fā)展中國(guó)家建立關(guān)于人工智能的能力和知識(shí)，以便利用當(dāng)?shù)氐慕?jīng)濟(jì)和社會(huì)機(jī)會(huì)?！?strong style="box-sizing: border-box;">第二個(gè)局限性體現(xiàn)在盡管編寫(xiě)國(guó)家戰(zhàn)略所采用的的方法多種多樣，在許多情況下并未獲得廣泛共識(shí)：一些國(guó)家主持長(zhǎng)期的部門(mén)磋商，另一些國(guó)家則將制定戰(zhàn)略委托給個(gè)人（如法國(guó)）或?qū)＜医M（如芬蘭）。

在起草過(guò)程中為企業(yè)分配主導(dǎo)地位的一個(gè)重要后果是從一開(kāi)始就嵌入了混合性，沒(méi)有明確假設(shè)公共部門(mén)和私營(yíng)部門(mén)之間的權(quán)力平衡。隨后，作為公共治理舉措的一部分，在監(jiān)督發(fā)展過(guò)程中行業(yè)代表繼續(xù)發(fā)揮重要作用，通常至少占機(jī)構(gòu)成員的三分之一。新興技術(shù)專業(yè)知識(shí)持續(xù)集中在私人手中，這是對(duì)推動(dòng)人工智能創(chuàng)新的公司更先進(jìn)的商業(yè)戰(zhàn)略的補(bǔ)充，總體上鞏固了它們圍繞（數(shù)字）力量?jī)蓸O的地位。在國(guó)際專利申請(qǐng)方面，中國(guó)在2018年僅次于美國(guó)，這兩個(gè)國(guó)家的少數(shù)幾家科技公司也擁有最大的人工智能研究投資，并在開(kāi)發(fā)標(biāo)準(zhǔn)的行業(yè)機(jī)構(gòu)中占有一席之地。

分析中的大部分國(guó)家都采用了一種以人工智能發(fā)展為中心的協(xié)調(diào)方法，總是有多種制度邏輯在起作用，并且很多時(shí)候都是有意設(shè)計(jì)的。行業(yè)代表在專家討論和人工智能工作組中的大力參與揭露了長(zhǎng)期存在的功能不確定性，不同行為體通過(guò)正式和非正式規(guī)則對(duì)彼此決策的相互影響，也體現(xiàn)了混合結(jié)構(gòu)中存在的多元和非等級(jí)治理概念的特點(diǎn)。

查看這些戰(zhàn)略中缺少的內(nèi)容同樣重要：從起草過(guò)程如何進(jìn)行的具體細(xì)節(jié)到人工智能的軍事和監(jiān)視用途。盡管新興技術(shù)與國(guó)家安全相關(guān)，但只有少數(shù)國(guó)家（中國(guó)、法國(guó)和美國(guó)）提及該領(lǐng)域的軍事利益。雖然許多戰(zhàn)略都對(duì)國(guó)家角色的變化進(jìn)行了詳盡但有選擇性的討論，但僅有少數(shù)戰(zhàn)略對(duì)公共利益和私人利益之間的區(qū)別提出了質(zhì)疑（芬蘭、日本和韓國(guó)）。在本文分析的案例中，政府為自己設(shè)想了多樣的角色，例如引領(lǐng)全球人工智能發(fā)展（中國(guó)、英國(guó)、美國(guó)），確保技術(shù)主權(quán)（德國(guó)），監(jiān)督人工智能應(yīng)用的過(guò)程（芬蘭、法國(guó)），糾正最弱勢(shì)群體的市場(chǎng)失靈（韓國(guó)），或成為先進(jìn)技術(shù)的第一買(mǎi)家（阿聯(lián)酋）。然而，所有戰(zhàn)略對(duì)于使他們能夠發(fā)揮這些作用的具體措施仍然含糊不清。

對(duì)這里提出的混合論點(diǎn)至關(guān)重要的是，公共和營(yíng)利性部門(mén)的立場(chǎng)和利益在所分析的國(guó)家文件中似乎沒(méi)有明確界定，顯示出高度的功能不確定性。大多數(shù)政府似乎沒(méi)有采取監(jiān)管或提出一致的國(guó)家干預(yù)方向，而是通過(guò)反思方向來(lái)思考所需的改變。12項(xiàng)國(guó)家戰(zhàn)略沒(méi)有建立以規(guī)則為基礎(chǔ)的制度，而是采用并優(yōu)先考慮了道德導(dǎo)向，分析的所有文件（除了中國(guó)和美國(guó)的戰(zhàn)略）都強(qiáng)調(diào)設(shè)計(jì)倫理原則和指導(dǎo)規(guī)范方向的發(fā)展。雖然規(guī)則和道德方向并不矛盾且可能會(huì)共存，但它們代表了建立在不同價(jià)值觀和信任體系基礎(chǔ)上的監(jiān)管制度。

大多數(shù)國(guó)家都設(shè)想建立專門(mén)的人工智能委員會(huì)或數(shù)據(jù)委員會(huì)來(lái)監(jiān)控人工智能的采用和實(shí)施過(guò)程，推動(dòng)人工智能政策任務(wù)的監(jiān)督機(jī)構(gòu)或人工智能委員會(huì)通常由學(xué)術(shù)界和私營(yíng)部門(mén)的代表主導(dǎo)?？傮w而言，非政府組織和權(quán)利團(tuán)體的代表性并不相同，人工智能戰(zhàn)略很少將這些技術(shù)的最終用戶作為政策對(duì)話的特定群體。在設(shè)計(jì)它們時(shí)，混合性導(dǎo)致了一種共同的視野方法，因?yàn)橄嗷バ院拖嗷ヒ蕾嚥粩嘣黾?，市?chǎng)和國(guó)家的行動(dòng)不再能被解綁，這可能更接近私營(yíng)部門(mén)的邏輯。

在國(guó)家戰(zhàn)略中可以確定關(guān)于人工智能治理制度化的多種方法。在少數(shù)情況下（中國(guó)、日本、法國(guó)、美國(guó)），現(xiàn)有部委被要求推動(dòng)和協(xié)調(diào)跨部門(mén)工作，職責(zé)范圍通常是它們所涵蓋的領(lǐng)域。更注重卓越研究的各國(guó)政府將注意力轉(zhuǎn)向即將建立的新機(jī)構(gòu)和研究方案。除這些結(jié)構(gòu)外，許多國(guó)家戰(zhàn)略以定義松散的專家組（稱為“獨(dú)立的”或“多方利益攸關(guān)方”）的形式引入正式的政策投入，其最終組成一般在文件發(fā)表時(shí)尚未確定。他們參與設(shè)計(jì)使用人工智能數(shù)據(jù)的倫理原則，并在人工智能相關(guān)優(yōu)先事項(xiàng)上向政府提供更廣泛的指導(dǎo)。

這些新設(shè)立的機(jī)構(gòu)是對(duì)新技術(shù)所蘊(yùn)含的不確定性的制度性回應(yīng)，因?yàn)樗鼈兊穆殭?quán)沒(méi)有明確規(guī)定，且仍然取決于選定的成員。因此公共和私營(yíng)部門(mén)角色的重新定義出現(xiàn)了新的轉(zhuǎn)變，在將人工智能治理納入現(xiàn)有部委的職權(quán)范圍、設(shè)立新的職能和提出職責(zé)模糊的新機(jī)構(gòu)之間搖擺不定。大多數(shù)情況下這些解決方案被組合在一起，形成了人工智能領(lǐng)域日益復(fù)雜的配置。目前國(guó)家戰(zhàn)略中缺少的是明確說(shuō)明由誰(shuí)制定規(guī)則以及規(guī)則的持續(xù)時(shí)間，在這種背景下問(wèn)責(zé)制框架仍然難以建立。

作為部署在日常服務(wù)中的通用技術(shù)，人工智能需要國(guó)家和國(guó)際治理體系。在本文分析的國(guó)家戰(zhàn)略中，將政治意愿、公共資源與行業(yè)利益結(jié)合起來(lái)似乎是人工智能政策制定的首選配方，公共利益政策與市場(chǎng)主導(dǎo)利益分開(kāi)變得越來(lái)越困難，這是混合治理體系中多元邏輯的一大特征。新的咨詢機(jī)構(gòu)的出現(xiàn)，可能會(huì)導(dǎo)致人們更多地接受功能不確定性作為人工智能治理的主流做法。值得注意的是，各國(guó)政府和行業(yè)的利益在國(guó)家層面是緊密結(jié)合的。強(qiáng)烈的市場(chǎng)創(chuàng)造導(dǎo)向、公共和私營(yíng)部門(mén)角色的模糊定義以及道德準(zhǔn)則的優(yōu)先次序表明，混合治理體系既是政府的意圖，也是人工智能快速發(fā)展的結(jié)果。未來(lái)的研究需要擴(kuò)展新興人工智能秩序的影響，捕捉其早期設(shè)計(jì)如何在（數(shù)字）權(quán)力分配中發(fā)揮作用，特別在私人標(biāo)準(zhǔn)和國(guó)際議程層面。在創(chuàng)新方面，技術(shù)先進(jìn)的國(guó)家正在設(shè)定標(biāo)準(zhǔn)，在這種背景下，需要在不久的將來(lái)對(duì)發(fā)展中國(guó)家的人工智能戰(zhàn)略進(jìn)行分析。

審校 | 肖龍 趙怡雯

排版 | 任航奇 趙梓煦