生成式人工智能是一種能夠生成新的數(shù)據(jù)或內(nèi)容的人工智能（AI）技術(shù)，通過深度學(xué)習(xí)模型生成文本、圖像、視頻等內(nèi)容，顯著提升人機(jī)交互的效率，極大擴(kuò)展人工智能的應(yīng)用場景，已成為科技進(jìn)步的新高地、產(chǎn)業(yè)升級的新賽道、經(jīng)濟(jì)發(fā)展的新引擎，是加快發(fā)展新質(zhì)生產(chǎn)力的關(guān)鍵要素。

一、生成式人工智能的應(yīng)用場景

在數(shù)字化時(shí)代，人工智能（AI）正迅速成為創(chuàng)新和生產(chǎn)力提升的關(guān)鍵驅(qū)動(dòng)力。特別是生成式AI，它通過模仿學(xué)習(xí)現(xiàn)有數(shù)據(jù)模式，創(chuàng)造出全新的內(nèi)容，從而拓展了人類創(chuàng)造力的邊界，目前已被廣泛應(yīng)用于智能辦公、生產(chǎn)制造、數(shù)字教育、政務(wù)服務(wù)等多領(lǐng)域場景。

（一）辦公場景

隨著人工智能技術(shù)的飛速發(fā)展，生成式人工智能正逐漸成為辦公室和會議室中的得力助手，通過文字、語音和圖像處理能力的躍遷革新傳統(tǒng)的工作流程，使得辦公和會議活動(dòng)更加智能化和高效。

智能辦公方面，基于大模型的解決方案能夠覆蓋日常辦公中的多樣化需求。無論是文案撰寫、演示文稿美化，還是復(fù)雜數(shù)據(jù)分析，均可以通過簡單的自然語言交由智能系統(tǒng)處理。

智能會議方面，從會議的策劃階段開始，大模型就能夠根據(jù)會議的主題和其他提示詞，自動(dòng)生成包括會議環(huán)節(jié)、分論壇設(shè)置、時(shí)間安排到預(yù)算編制在內(nèi)的完整策劃方案。會議進(jìn)行時(shí)，大模型支持準(zhǔn)確及時(shí)的同聲傳譯。

此外，通過AI處理后的會議記錄結(jié)構(gòu)清晰、要點(diǎn)明確，極大地提升了會后信息回顧和決策的效率。

（二）教育場景

生成式人工智能正以其強(qiáng)大的數(shù)據(jù)處理和學(xué)習(xí)能力，在教育領(lǐng)域引發(fā)革命性的變化。通過將大模型融入教學(xué)和科研過程之中，既提高了教學(xué)科研的效率，也極大地?cái)U(kuò)展了教育視野。

在科研領(lǐng)域，大模型能夠快速分析大量實(shí)驗(yàn)數(shù)據(jù)，預(yù)測實(shí)驗(yàn)結(jié)果。在某些情況下，能夠在短時(shí)間內(nèi)提出比傳統(tǒng)實(shí)驗(yàn)方法更為簡潔且成本效益高的解決方案。通過自動(dòng)化的設(shè)計(jì)和模擬過程，縮短科研項(xiàng)目從構(gòu)思到實(shí)驗(yàn)的周期，降低研發(fā)成本，從而加速科研成果的產(chǎn)出和轉(zhuǎn)化。在教學(xué)方面，生成式人工智能作用同樣不容小覷。不僅可用于生成定制化的學(xué)習(xí)材料，幫助學(xué)生理解復(fù)雜概念，還能夠輔助教師制定教學(xué)大綱、生成講義、設(shè)計(jì)課堂活動(dòng)。

（三）政務(wù)場景

生成式人工智能已成為改善公共服務(wù)的重要工具，能有效提升政府服務(wù)的效率和質(zhì)量，優(yōu)化公共治理體系、提升政務(wù)服務(wù)能力。

以大模型為代表的生成式人工智能技術(shù)可作為政民互動(dòng)虛擬助手替代部分政務(wù)服務(wù)人員的工作，能夠根據(jù)具體場景更加精準(zhǔn)高效地提供個(gè)性化的回復(fù)和服務(wù)，大大降低人工成本。

在行政執(zhí)法的過程中，借助生成式人工智能通用大語言模型的基本特質(zhì)及其大數(shù)據(jù)分析能力，有利于對不同情境中的同類行為進(jìn)行比對和辨識，進(jìn)而根據(jù)法律規(guī)定做出相應(yīng)的行政行為。

二、生成式人工智能的發(fā)展堵點(diǎn)與風(fēng)險(xiǎn)挑戰(zhàn)

（一）算力需求與算力成本增加引發(fā)的算力瓶頸

算力是AI大模型的關(guān)鍵基礎(chǔ)設(shè)施，算力決定了模型的“智商”。大模型通常包含數(shù)億，甚至數(shù)千億的參數(shù)，需要大量的算力來訓(xùn)練和運(yùn)行。這些模型的訓(xùn)練過程涉及大量的數(shù)據(jù)和復(fù)雜的計(jì)算，導(dǎo)致對高性能計(jì)算資源的需求不斷攀升。例如，華為預(yù)計(jì)到2030年，全球數(shù)據(jù)年新增1YB；通用算力增長10倍到3.3ZFLOPS，AI算力增長500倍超過100ZFLOPS。

據(jù)人民網(wǎng)財(cái)經(jīng)研究院發(fā)布的報(bào)告，以ChatGPT為例，微軟Azure云服務(wù)為其提供了1萬顆英偉達(dá)A100GPU，這個(gè)算力也正是國內(nèi)云計(jì)算技術(shù)人士共識的AI大模型門檻。同時(shí)，訓(xùn)練和運(yùn)行AI大模型需要巨大的經(jīng)濟(jì)投入。例如，訓(xùn)練一個(gè)大型模型可能需要使用上萬顆GPU，單次模型訓(xùn)練成本可能超過千萬美元。這其中不僅涉及昂貴的硬件成本，同時(shí)需要大量的電力和散熱系統(tǒng)支持，初期投資巨大。為了解決算力瓶頸問題，行業(yè)仍需探索包括改進(jìn)模型結(jié)構(gòu)、訓(xùn)練方法的優(yōu)化、使用新型計(jì)算架構(gòu)如DPU、大數(shù)據(jù)技術(shù)的應(yīng)用等多種技術(shù)創(chuàng)新和優(yōu)化途徑。

（二）工具不當(dāng)使用帶來的虛假信息誤導(dǎo)和欺詐問題

AI大模型的火爆使其被廣泛應(yīng)用于生產(chǎn)生活之中，在帶來便利的同時(shí)也使得部分虛假信息“以假亂真”，由于大模型尚不能完美辨別用戶請求的合法性與正當(dāng)性，當(dāng)其被不當(dāng)使用或惡意利用時(shí)，可能會帶來一系列安全風(fēng)險(xiǎn)，擾亂公共服務(wù)秩序。例如，AI換臉和擬聲技術(shù)的發(fā)展使得視頻內(nèi)容真假難辨，增加了欺詐行為的隱蔽性，同時(shí)也使得詐騙行為“批量化”，通過生成虛假的電子郵件或短信等形式，偽裝成信譽(yù)良好的機(jī)構(gòu)或個(gè)人進(jìn)行詐騙。

此外，生成式AI技術(shù)的濫用還可能對社會秩序和國家安全構(gòu)成威脅。一些不法分子利用AI技術(shù)編造虛假事件，制造社會恐慌，或者借社會熱點(diǎn)造謠炒作，干擾公眾視聽。例如，中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺對2023年10月網(wǎng)絡(luò)謠言的梳理分析，當(dāng)月網(wǎng)上數(shù)據(jù)監(jiān)測和網(wǎng)民舉報(bào)顯示，臆測編造民生政策、利用AI虛構(gòu)案事件、借社會熱點(diǎn)造謠炒作等傳謠現(xiàn)象較為突出，自媒體利用網(wǎng)民對社保、醫(yī)療等民生話題的關(guān)切，編造涉公共政策、社會民生領(lǐng)域不實(shí)信息，這類迷惑性強(qiáng)的信息在“三人成虎”的傳播效應(yīng)下，嚴(yán)重干擾了社會認(rèn)知和預(yù)期。這就要求我們在技術(shù)創(chuàng)新的同時(shí)，認(rèn)識到其所帶來的內(nèi)外部風(fēng)險(xiǎn)挑戰(zhàn)，最大化地發(fā)揮AI技術(shù)的正面作用，防范和減少其潛在的負(fù)面影響。

（三）現(xiàn)有法律體系下對內(nèi)容所有權(quán)和責(zé)任歸屬的重新審視

現(xiàn)有的法律體系可能難以適應(yīng)AI生成內(nèi)容的所有權(quán)和責(zé)任歸屬問題。傳統(tǒng)的版權(quán)法是為了保護(hù)人類創(chuàng)作者的智力成果而設(shè)計(jì)的。AI作為一個(gè)非人類主體，其生成的內(nèi)容是否應(yīng)該享有版權(quán)，以及誰應(yīng)該擁有這些權(quán)利（AI開發(fā)者、用戶、還是AI本身），目前尚無明確的法律規(guī)定。

在創(chuàng)作性質(zhì)方面，許多法律體系要求作品必須是人類智力勞動(dòng)的結(jié)果才能獲得版權(quán)保護(hù)。AI生成的內(nèi)容雖然可能具有創(chuàng)造性，但其“創(chuàng)作”過程是由算法和數(shù)據(jù)驅(qū)動(dòng)的，這是否符合法律對“創(chuàng)作”的定義存在疑問。

在責(zé)任歸屬方面，當(dāng)AI生成的內(nèi)容涉及誹謗、侵犯隱私或其他違法行為時(shí)，確定責(zé)任歸屬變得復(fù)雜，是由AI開發(fā)者負(fù)責(zé)，還是由使用AI工具的使用者負(fù)責(zé)，抑或是AI本身是否能成為責(zé)任主體，這些問題在現(xiàn)有法律框架下難以解答。

此外，現(xiàn)行合同法尚未能適應(yīng)AI生成內(nèi)容在商業(yè)交易中應(yīng)用的新情況，即當(dāng)AI生成的內(nèi)容被用于廣告或產(chǎn)品描述，而內(nèi)容不準(zhǔn)確或具有誤導(dǎo)性時(shí)，合同中的責(zé)任和義務(wù)的分配問題。應(yīng)對這些挑戰(zhàn)，尚需要法律專家、技術(shù)開發(fā)者、政策制定者和社會各界人士的共同努力，推動(dòng)法律與時(shí)俱進(jìn)，確保AI技術(shù)的健康發(fā)展，保護(hù)個(gè)人和公共利益。

（四）學(xué)術(shù)工作原創(chuàng)性、真實(shí)性、安全性的新挑戰(zhàn)

生成式人工智能的快速發(fā)展和應(yīng)用，雖為學(xué)術(shù)研究和知識生產(chǎn)帶來了便利，但同時(shí)也對學(xué)術(shù)誠信提出了前所未有的挑戰(zhàn)。學(xué)生和研究人員可以通過AI工具生成論文或文章，這不僅導(dǎo)致學(xué)術(shù)成果的原創(chuàng)性受到質(zhì)疑，而且可能引起廣泛的剽竊和抄襲問題。

AI工具能快速生成大量文本，這使得傳統(tǒng)的學(xué)術(shù)不端行為檢測方法變得不再有效，學(xué)術(shù)機(jī)構(gòu)必須重新考慮如何確保學(xué)術(shù)工作的誠信和質(zhì)量。面對這一挑戰(zhàn)，全球范圍內(nèi)的學(xué)術(shù)機(jī)構(gòu)對AI工具的使用持謹(jǐn)慎態(tài)度。例如，加利福尼亞大學(xué)伯克利分校明確表示ChatGPT等AI工具并非學(xué)校支持的工具，并強(qiáng)調(diào)教師在使用這些工具時(shí)需要自行審查其可訪問性、隱私性和安全性。

為了應(yīng)對AI工具可能帶來的風(fēng)險(xiǎn)，一些學(xué)校已經(jīng)采取了具體的行動(dòng)。他們明確禁止將學(xué)生作業(yè)上傳至AI工具進(jìn)行分析，避免學(xué)生的作業(yè)成為訓(xùn)練數(shù)據(jù)，防止?jié)撛诘牟橹匦姑茱L(fēng)險(xiǎn)。然而，僅禁止使用AI工具并不能從根本上解決問題，學(xué)術(shù)機(jī)構(gòu)需要與技術(shù)開發(fā)者、法律專家等共同探討研究如何在保護(hù)學(xué)術(shù)誠信的同時(shí)，合理利用AI技術(shù)促進(jìn)學(xué)術(shù)研究的發(fā)展。

三、生成式人工智能的治理體系

治理體系和治理能力是制度和制度執(zhí)行能力的集中體現(xiàn)。面對人工智能的技術(shù)涌現(xiàn)超越目前制度體系約束范圍的新情境，需要強(qiáng)化大模型的場景牽引作用，通過構(gòu)建完善的治理體系，疏通發(fā)展堵點(diǎn)、防范潛在風(fēng)險(xiǎn)，使生成式人工智能有效支撐我國經(jīng)濟(jì)社會高質(zhì)量發(fā)展，創(chuàng)造新價(jià)值、適應(yīng)新產(chǎn)業(yè)、重塑新動(dòng)能。

（一）構(gòu)建協(xié)同治理體系，促進(jìn)多方治理參與

面對生成式AI這一應(yīng)用場景廣泛、深入生產(chǎn)生活的技術(shù)工具，對技術(shù)的規(guī)范運(yùn)用要求多方治理主體協(xié)同并進(jìn)。政府機(jī)構(gòu)應(yīng)制定涵蓋數(shù)據(jù)隱私、知識產(chǎn)權(quán)、內(nèi)容監(jiān)管和倫理標(biāo)準(zhǔn)等方面的明確政策和法規(guī)，為AI技術(shù)的健康發(fā)展提供指導(dǎo)和規(guī)范。技術(shù)開發(fā)者和企業(yè)應(yīng)建立行業(yè)自律機(jī)制，制定并遵守行業(yè)標(biāo)準(zhǔn)和最佳實(shí)踐，確保AI技術(shù)的負(fù)責(zé)任使用。學(xué)術(shù)研究機(jī)構(gòu)應(yīng)開展AI倫理、法律和社會影響的研究，提供科學(xué)的決策支持，加強(qiáng)AI治理相關(guān)的課程和培訓(xùn)。鼓勵(lì)公眾參與AI治理的討論和決策過程，提高公眾對AI技術(shù)的認(rèn)識和理解，增強(qiáng)社會對AI治理的監(jiān)督和反饋。

（二）完善制度約束體系，有序加強(qiáng)技術(shù)監(jiān)管

建立有效的AI大模型監(jiān)管體系，首先需要法律與政策的支持?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》作為我國首個(gè)針對AI生成內(nèi)容的管理規(guī)定，為監(jiān)管提供了法律框架，要求服務(wù)提供者進(jìn)行備案、安全評估，并明確了內(nèi)容標(biāo)識、監(jiān)督檢查與法律責(zé)任。同時(shí)，監(jiān)管體系應(yīng)包括技術(shù)規(guī)范和標(biāo)準(zhǔn)，確保AI技術(shù)的透明性和可解釋性。政府應(yīng)采取漸進(jìn)式監(jiān)管策略，平衡技術(shù)創(chuàng)新與風(fēng)險(xiǎn)控制，制定前瞻性措施以應(yīng)對技術(shù)可能帶來的不良后果。

此外，需要強(qiáng)化網(wǎng)絡(luò)謠言的打擊力度，通過中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺指導(dǎo)網(wǎng)站平臺強(qiáng)化監(jiān)測查證、開展排查整治，提升公眾的信息識別能力，增強(qiáng)防范意識。增強(qiáng)AI技術(shù)的透明度，讓外部監(jiān)管者和用戶能夠理解AI的決策過程，使增進(jìn)公眾信任成為監(jiān)管機(jī)構(gòu)有效監(jiān)管的基礎(chǔ)。

（三）優(yōu)化數(shù)據(jù)標(biāo)準(zhǔn)體系，推動(dòng)數(shù)據(jù)流通共享

生成式AI的技術(shù)發(fā)展離不開高質(zhì)量的數(shù)據(jù)集，數(shù)據(jù)標(biāo)準(zhǔn)與共享是構(gòu)建有效治理體系的關(guān)鍵組成部分。為了確保生成式AI的廣泛應(yīng)用和跨平臺操作，需要制定統(tǒng)一的數(shù)據(jù)標(biāo)準(zhǔn)，包括數(shù)據(jù)的收集、存儲、處理和交換格式，確保不同來源和類型的數(shù)據(jù)能夠被AI系統(tǒng)有效利用。同時(shí)，需要建立數(shù)據(jù)共享平臺和機(jī)制，促進(jìn)公共部門、私營企業(yè)和研究機(jī)構(gòu)之間的數(shù)據(jù)流通，在確保數(shù)據(jù)共享過程中的隱私保護(hù)和安全的同時(shí)，打破信息孤島，提升數(shù)據(jù)的利用效率。