【法寶引證碼】CLI.A.4124618
【學(xué)科類別】人工智能
【出處】《法律科學(xué)》2023年第3期
【寫(xiě)作時(shí)間】2023年
【中文摘要】以Deepfake、ChatGPT、元宇宙等為代表的深度合成技術(shù)與應(yīng)用場(chǎng)景，極大地改變了信息獲取、人機(jī)交互的方式，并成為未來(lái)數(shù)字空間的基礎(chǔ)性技術(shù)。我國(guó)的深度合成治理已經(jīng)走在世界前列，但仍主要停留在算法治理衍生出的信息安全層面，偏重服務(wù)應(yīng)用監(jiān)管而底層技術(shù)治理不足，偏重監(jiān)管服務(wù)提供者但監(jiān)管技術(shù)提供者尚不充分，數(shù)據(jù)與場(chǎng)景分級(jí)分類標(biāo)準(zhǔn)繁雜但并未形成有機(jī)體系。深度合成治理應(yīng)在算法治理基礎(chǔ)上延伸迭代，將深度合成作為人工智能治理的專門(mén)領(lǐng)域，同時(shí)通過(guò)頂層設(shè)計(jì)推進(jìn)基礎(chǔ)性人工智能立法，既保障急用先行，又可探索并形成通用人工智能立法的經(jīng)驗(yàn)。既應(yīng)發(fā)揮中國(guó)既有的深度合成治理優(yōu)勢(shì)，根據(jù)生成型人工智能技術(shù)特點(diǎn)更新監(jiān)管邏輯，基于生成型人工智能技術(shù)的通用性實(shí)施全鏈條治理；同時(shí)還需立足現(xiàn)行法規(guī)中分級(jí)分類治理架構(gòu)，結(jié)合技術(shù)、產(chǎn)業(yè)和應(yīng)用建立有機(jī)體系和設(shè)置具體規(guī)則，以形成在全球更具影響力的深度合成治理法律制度體系。
【中文關(guān)鍵字】深度合成；生成型人工智能；ChatGPT；分級(jí)分類標(biāo)準(zhǔn)；技術(shù)治理
【全文】
一、引言
深度合成技術(shù)和應(yīng)用的迅猛發(fā)展似乎更加證明了“未來(lái)已來(lái)”。從可以做出換臉視頻的Deepfake開(kāi)源軟件，到2021年美國(guó)Meta公司將“元宇宙”描繪為數(shù)字技術(shù)構(gòu)建、數(shù)字身份參與的虛擬空間，再到美國(guó)Open AI公司開(kāi)發(fā)的ChatGPT兩個(gè)月內(nèi)積累一億用戶創(chuàng)造歷史記錄，深度合成技術(shù)支持下的AIGC（AI Generated Content,指利用人工智能技術(shù)來(lái)生成內(nèi)容）商業(yè)開(kāi)發(fā)在很多領(lǐng)域落地，一幅由人工智能深度合成技術(shù)構(gòu)建的虛實(shí)結(jié)合的生存圖景正徐徐展開(kāi)。一切仿佛科幻，但卻已經(jīng)逐漸成為現(xiàn)實(shí)。
深度合成技術(shù)，是指利用以深度學(xué)習(xí)、虛擬現(xiàn)實(shí)為代表的生成合成制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等信息的技術(shù)。深度合成技術(shù)的代表性研究成果，如2014年提出的生成對(duì)抗網(wǎng)絡(luò)（GANs）、2020年提出的生成式預(yù)訓(xùn)練模型（GPT-3），大幅提升了多媒體數(shù)據(jù)合成的逼真程度，推動(dòng)了“人工智能生成內(nèi)容”和“元宇宙”等一系列新型智能應(yīng)用形態(tài)。正如比爾·蓋茨所說(shuō)，“這種AI技術(shù)出現(xiàn)的重大歷史意義，不亞于互聯(lián)網(wǎng)和個(gè)人電腦的誕生”。
深度合成展現(xiàn)了其強(qiáng)大的能量和可能性，但其帶來(lái)效率和便利的同時(shí)，也帶來(lái)了伴生風(fēng)險(xiǎn)，一旦被濫用可能會(huì)給個(gè)人肖像、企業(yè)名譽(yù)等人格和財(cái)產(chǎn)權(quán)益損害，甚至對(duì)社會(huì)秩序、國(guó)家政治穩(wěn)定和安全造成巨大威脅。如在俄烏沖突中，深度合成偽造的烏克蘭總統(tǒng)宣布投降的虛假視頻在推特上傳播，獲得了大量瀏覽，推特不得不緊急辟謠；企業(yè)高管被深度合成捏造視頻篡改發(fā)言內(nèi)容，造成市場(chǎng)恐慌，引發(fā)金融市場(chǎng)動(dòng)蕩。個(gè)人也可能被偽造虛假視頻并被用來(lái)向其親友詐騙，或者被偽造不雅視頻，侵害其名譽(yù)權(quán)。在上述現(xiàn)實(shí)危害之外，深度合成還引發(fā)了社會(huì)對(duì)人類未來(lái)的擔(dān)憂。在深度合成技術(shù)應(yīng)用發(fā)展歷程中，2021年Meta公司推出的元宇宙概念和2022年底Open AI推出的ChatGPT激起了公眾對(duì)于人類本質(zhì)、認(rèn)知模式、生存方式和AI主體性的哲學(xué)思考，法學(xué)界則開(kāi)始討論深度合成技術(shù)構(gòu)建的元宇宙空間的數(shù)字貨幣、數(shù)字身份、社會(huì)生產(chǎn)與刑法治理等問(wèn)題。
在世界各國(guó)對(duì)深度合成的技術(shù)治理中，我國(guó)立法與監(jiān)管走在了前列。早在我國(guó)2022年3月開(kāi)始實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《算法推薦管理規(guī)定》）中，就有對(duì)生成合成類算法監(jiān)管的規(guī)定（其他四類被納入管理的算法為排序精選類、檢索過(guò)濾類、個(gè)性化推送類、調(diào)度決策類）；2023年1月1日開(kāi)始實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱《深度合成管理規(guī)定》），標(biāo)志著深度合成因其重要性和高風(fēng)險(xiǎn)程度成為我國(guó)算法治理中率先專門(mén)立法的算法服務(wù)類型。目前，美國(guó)只有少數(shù)幾個(gè)州發(fā)布了關(guān)于深度合成技術(shù)的法規(guī)，而且這些法規(guī)旨在規(guī)制影響選舉的深度合成以及色情作品或虛假信息的深度合成。歐盟通過(guò)對(duì)《數(shù)字服務(wù)法》的修訂，要求平臺(tái)進(jìn)行深度合成標(biāo)注。由此可見(jiàn)，世界范圍內(nèi)深度合成的治理聚焦的是虛假信息內(nèi)容；即使是針對(duì)人工智能深度合成的專門(mén)治理，也以傳統(tǒng)人工智能為主，而非以大型生成性人工智能模型（LGAIMs）為主要治理對(duì)象。
深度合成技術(shù)有其特有的技術(shù)特征，因而針對(duì)其的治理也應(yīng)當(dāng)遵循其自身邏輯。本文論述圍繞我國(guó)深度合成治理的監(jiān)管理念和未來(lái)走向展開(kāi)，討論其治理迭代路徑，監(jiān)管工具、責(zé)任鏈條，以及分級(jí)分類和技術(shù)、產(chǎn)業(yè)、應(yīng)用分層的多維治理制度構(gòu)建。
二、深度合成的概念與治理挑戰(zhàn)
深度合成在我國(guó)法律法規(guī)中已經(jīng)采用，具體代指生成合成類人工智能的技術(shù)概念。如《深度合成管理規(guī)定》第23條專門(mén)界定了“深度合成”概念。目前深度合成概念能夠較好地囊括生成合成類人工智能的諸多新興技術(shù)，準(zhǔn)確描述其技術(shù)本質(zhì)和功能，且比寬泛的人工智能概念更具針對(duì)性。本部分結(jié)合深度合成技術(shù)的發(fā)展，梳理深度合成概念與人工智能、生成型人工智能、ChatGPT、元宇宙等概念的關(guān)系，并討論其作為學(xué)術(shù)研究通用概念的優(yōu)勢(shì)。深度合成的迅猛發(fā)展，不僅推進(jìn)了大數(shù)據(jù)、算法等技術(shù)的迭代發(fā)展，而且可能會(huì)影響未來(lái)人類的認(rèn)知和生存方式。深度合成也給圍繞數(shù)據(jù)、個(gè)人信息和算法規(guī)制的制度設(shè)計(jì)和技術(shù)治理帶來(lái)了前所未有的挑戰(zhàn)。
�。ㄒ唬� 深度合成的概念
實(shí)踐中，龐雜的技術(shù)概念已經(jīng)成為制約社會(huì)科學(xué)研究者理解、研究相關(guān)技術(shù)法律問(wèn)題的瓶頸。如人工智能、算法、大數(shù)據(jù)、深度合成、大規(guī)模預(yù)訓(xùn)練模型、生成型人工智能等概念，令人眼花繚亂。而元宇宙、ChatGPT、生成型人工智能等概念，也與“深度合成”等概念存在著近似和混淆。精準(zhǔn)選定和界定概念是科學(xué)研究展開(kāi)的前提。本文選擇“深度合成”作為研究的關(guān)鍵概念。
第一， 深度合成是技術(shù)概念，而非商業(yè)應(yīng)用概念。本文的討論區(qū)分應(yīng)用概念與技術(shù)概念。一般來(lái)說(shuō)，應(yīng)用概念更容易被媒體更廣泛傳播并為社會(huì)熟知，但技術(shù)概念的傳播一般限于學(xué)術(shù)界。如感康、泰諾和康泰克這些感冒藥的藥品名被大眾熟知，但藥品中的乙酰氨基酚等拗口的藥品成分概念，則難以被公眾記憶。同樣，淘寶、抖音、元宇宙、ChatGPT等應(yīng)用概念因其商業(yè)應(yīng)用可直接與人互動(dòng)而廣為人知，但淘寶背后的排序算法、抖音背后的個(gè)性化推薦算法、支持元宇宙的生成合成技術(shù)、支持ChatGPT的大規(guī)模預(yù)訓(xùn)練模型等概念則不易為一般公眾所知。學(xué)術(shù)討論應(yīng)盡量使用技術(shù)概念而非應(yīng)用概念，否則某些概念可能會(huì)因商業(yè)應(yīng)用的衰落而淪落為短暫的社會(huì)討論現(xiàn)象。
第二， 深度合成并非人工智能概念那樣抽象模糊，而是有明確功能的概念。自1956年“人工智能”的概念被首次提出以來(lái)，人工智能的技術(shù)研發(fā)經(jīng)歷了兩次起伏。斯坦福的研究報(bào)告顯示，“人工智能”的技術(shù)概念本身就是跟隨技術(shù)進(jìn)步而不斷革新的，每當(dāng)一種新的模擬與延展人類智能的人工智能技術(shù)融入社會(huì)生活之中，它便會(huì)脫離“人工智能”的含義范圍；然后，會(huì)有全新的、尚未有明確道德規(guī)范的技術(shù)出現(xiàn)，并融入“人工智能”的含義范圍內(nèi)；這樣，除舊納新的變動(dòng)過(guò)程隨著技術(shù)創(chuàng)新而持續(xù)發(fā)生，這種現(xiàn)象被稱為“人工智能效益”（AI Effect）或“奇怪悖論”（Odd Paradox）。簡(jiǎn)而言之，人們傾向于把尚未形成產(chǎn)業(yè)應(yīng)用的新興技術(shù)稱為人工智能，而對(duì)已經(jīng)存在于生產(chǎn)、生活中的諸如自動(dòng)駕駛、智能醫(yī)療、智能投顧等人工智能技術(shù)，則稱呼其具體名稱。深度合成是人工智能的具體領(lǐng)域，它以人工智能深度學(xué)習(xí)為方法，合成逼真內(nèi)容為目標(biāo)。因此本文不采用人工智能概念作為討論對(duì)象，而采用可明確具體功能的深度合成概念。
第三， 深度合成有較強(qiáng)的功能概括性，并非某種具體的新興技術(shù)手段。人工智能發(fā)展到2010年，基于深度學(xué)習(xí)技術(shù)獲得了顯著成效，同時(shí)社會(huì)的數(shù)字化轉(zhuǎn)型也使得社會(huì)數(shù)據(jù)資源顯著增長(zhǎng)，人工智能的發(fā)展才開(kāi)始進(jìn)入全面爆發(fā)期。深度合成的特點(diǎn)可從兩個(gè)角度理解，第一為有關(guān)技術(shù)的“深度”，第二為有關(guān)結(jié)果的“合成”。“深度”即是指深度學(xué)習(xí)，無(wú)論是卷積神經(jīng)網(wǎng)絡(luò)、自然語(yǔ)言處理，還是預(yù)訓(xùn)練大模型、大型生成性人工智能模型（LGAIMs），目前都處在深度學(xué)習(xí)階段，即用算法從海量數(shù)據(jù)中學(xué)習(xí)，以提高算法的智能性和準(zhǔn)確性。算法已經(jīng)越來(lái)越復(fù)雜，如果說(shuō)常用算法在技術(shù)層面只是一個(gè)基礎(chǔ)模型，那么以ChatGPT為代表的“大型語(yǔ)言模型”（LLMs）或“大型生成人工智能模型”（LGAIMs），則代表著深度合成領(lǐng)域的重大技術(shù)進(jìn)步；后兩者與前者的區(qū)別在于大型語(yǔ)言模型和大型生成人工智能模型通常用幾十億甚至幾千億的參數(shù)進(jìn)行訓(xùn)練，需要海量的訓(xùn)練數(shù)據(jù)和計(jì)算能力�！昂铣伞奔椿诤Ａ繑�(shù)據(jù)生成合并結(jié)果，可達(dá)到從無(wú)到有、以假亂真的效果。逼真的合成效果打亂了人類認(rèn)知的兩個(gè)底層邏輯：其一是認(rèn)為人和機(jī)器有著本質(zhì)區(qū)別；其二是俗語(yǔ)所說(shuō)“耳聽(tīng)為虛，眼見(jiàn)為實(shí)”“有圖有真相”。深度合成以“真”為技術(shù)目標(biāo)，如可比擬專家回答問(wèn)題的ChatGPT就在一定程度上模糊了人和機(jī)器智能的界限。深度合成技術(shù)完成的繪畫(huà)、作曲和作詩(shī)水準(zhǔn)與一般人完成的作品的水準(zhǔn)不相上下；深度合成生成的照片、視頻，使得未發(fā)生的事情有了逼真的具體場(chǎng)景�？梢�(jiàn)，深度合成概念，能夠較為準(zhǔn)確地描述“深度”“合成”技術(shù)的功能。
第四， 最后也是最重要的是，深度合成已經(jīng)成為法律概念，具有了在法學(xué)界成為學(xué)術(shù)概念進(jìn)行討論的制度基礎(chǔ)。如2023年1月1日生效的《深度合成管理規(guī)定》由國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部以及公安部共同發(fā)布，規(guī)定明確界定“深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)”；規(guī)定采取了開(kāi)放的列舉方法，大致囊括了深度合成的前沿應(yīng)用情形，如：生成或者編輯文本，生成或者編輯語(yǔ)音和音樂(lè)，圖像和視頻的生成編輯（生物特征和非生物特征），甚至包括了三維重建、數(shù)字仿生等生成或者編輯數(shù)字任務(wù)、虛擬場(chǎng)景的技術(shù)。按照《深度合成管理規(guī)定》的定義，AI語(yǔ)音、NFT生成藝術(shù)、虛擬演唱會(huì)、全息人像投影、虛擬人數(shù)字人、AR購(gòu)物等元宇宙的重要組成部分都屬于深度合成技術(shù)的具體應(yīng)用。這種功能式的列舉可容納未來(lái)的技術(shù)發(fā)展，包括目前的生成合成類算法、生成型人工智能、AIGC（人工智能技術(shù)生成內(nèi)容）應(yīng)用等。雖然目前法規(guī)中列舉的深度合成應(yīng)用未必能夠當(dāng)然涵蓋預(yù)訓(xùn)練大模型技術(shù)，但由于預(yù)訓(xùn)練大模型技術(shù)同深度合成技術(shù)的功能和原理大致相通，因而我們可以通過(guò)法解釋，將預(yù)訓(xùn)練大模型技術(shù)納入《深度合成管理規(guī)定》的調(diào)整范圍。
（二） 深度合成的應(yīng)用場(chǎng)景
深度合成的應(yīng)用場(chǎng)景多樣，囊括了生成合成文本、圖片、音頻、視頻等技術(shù)，也可以被用來(lái)營(yíng)建數(shù)字環(huán)境虛擬場(chǎng)景（如元宇宙），打造與物理世界、人類生物特征類似的數(shù)字孿生世界，生成數(shù)字人。深度合成技術(shù)基于海量數(shù)據(jù)和深度學(xué)習(xí)“生成合成”內(nèi)容，其內(nèi)容的形態(tài)可以是圖像、音頻、視頻、文本，因此深度合成技術(shù)可以被用來(lái)進(jìn)行人臉與場(chǎng)景的圖像改變、聲音和音樂(lè)的創(chuàng)制生成、動(dòng)作與表情的操控，以及通過(guò)與人對(duì)答的方式生成文本，或直接自行創(chuàng)作文本，可以被用在教育、影視、傳媒等領(lǐng)域。根據(jù)生成的內(nèi)容不同，深度合成一般被用于包括但不限于以下場(chǎng)景：
第一， 文本與圖像生成。早在2014年，就有從事機(jī)器新聞寫(xiě)作的人工智能，如美聯(lián)社采用的自動(dòng)寫(xiě)作平臺(tái)Wordsmith,其本質(zhì)上是一種自然語(yǔ)言生成引擎，涉及數(shù)據(jù)庫(kù)知識(shí)發(fā)現(xiàn)（KDD）以及自然語(yǔ)言處理（NLG）兩個(gè)領(lǐng)域，其寫(xiě)作流程包括獲取數(shù)據(jù)，分析數(shù)據(jù)，提煉觀點(diǎn)、結(jié)構(gòu)和格式，出版。這種文本生成可包括知識(shí)生成后以文本的形式輸出。當(dāng)下引起人們廣泛關(guān)注的ChatGPT也是自然語(yǔ)言處理（NLP）系統(tǒng)，但ChatGPT與之前技術(shù)的不同之處在于其采用了海量數(shù)據(jù)訓(xùn)練的大規(guī)模人工智能模型。這些模型采用的數(shù)據(jù)量大得驚人，如其前身GPT——3是在45兆字節(jié)的文本數(shù)據(jù)上訓(xùn)練的，這使得其生成的文本更加具有創(chuàng)造性。更重要的是這些模型通常設(shè)置了隨機(jī)元素，意味著它們可以以不同的輸出應(yīng)對(duì)同一個(gè)輸入請(qǐng)求，使得ChatGPT看起來(lái)更加栩栩如生。
第二， 視頻與音頻生成。深度合成的語(yǔ)音合成項(xiàng)目可以使失去聲音的人重新說(shuō)話，英特爾與戴爾科技、勞斯萊斯和運(yùn)動(dòng)神經(jīng)元疾�。∕ND）協(xié)會(huì)合作的“我永遠(yuǎn)是我”數(shù)字故事書(shū)項(xiàng)目，允許任何被診斷患有預(yù)計(jì)會(huì)影響其說(shuō)話能力的疾病的人錄制他們的聲音，以便未來(lái)在輔助性語(yǔ)音設(shè)備上使用。這一功能還被用來(lái)偽造視頻音頻進(jìn)行違法犯罪活動(dòng)。2021年10月，安徽合肥警方曾查獲一起非法利用深度合成技術(shù)偽造手機(jī)用戶人臉動(dòng)態(tài)視頻破解身份核驗(yàn)并為黑灰產(chǎn)業(yè)提供注冊(cè)虛擬手機(jī)卡等技術(shù)支撐的案件。近年來(lái)，類似事件開(kāi)始更多地進(jìn)入公眾視野。深度合成中的生成型人工智能必將深入影響所有的社會(huì)部門(mén)，從商業(yè)、醫(yī)學(xué)到教育研究，從編碼到娛樂(lè)和藝術(shù)。今天，數(shù)以百萬(wàn)計(jì)的用戶依靠它們來(lái)生成可達(dá)到人類水平的文本（如ChatGPT、Luminous）、圖像（如Stable Diffusion、DALLE2）、視頻（如Synthesia）或音頻（如MusicLM），而更多的替代品已經(jīng)在開(kāi)發(fā)中。由于預(yù)訓(xùn)練人工智能大模型的規(guī)模效應(yīng)，ChatGPT和類似軟件能夠預(yù)測(cè)一切句子中的下一個(gè)詞，從而展現(xiàn)出令人難以置信的連接詞語(yǔ)的能力。ChatGPT等生成型人工智能引起廣泛關(guān)注的原因還在于其更改了知識(shí)傳遞的方式，極大地降低了專業(yè)知識(shí)的獲取門(mén)檻，使得專業(yè)知識(shí)生成不再需要人類數(shù)十年的專業(yè)訓(xùn)練就可以得到。如創(chuàng)建自定義銷(xiāo)售序列的Regie.ai使用生成式AI和最佳實(shí)踐在幾分鐘內(nèi)就可以編寫(xiě)原始序列，并且序列編寫(xiě)能大幅度節(jié)約時(shí)間且高效；該技術(shù)可直接與領(lǐng)先的銷(xiāo)售參與平臺(tái)集成，減少了將消息傳遞到市場(chǎng)并初顯成效所需的時(shí)間。
第三， 數(shù)字空間的建構(gòu)。一是虛實(shí)融合的數(shù)字空間。數(shù)字孿生就是基于人工智能深度合成現(xiàn)實(shí)世界實(shí)體的虛擬復(fù)制品，這項(xiàng)技術(shù)已經(jīng)在制造業(yè)和工業(yè)部門(mén)被廣泛采用。未來(lái)深度合成有可能與物聯(lián)網(wǎng)共同設(shè)計(jì)改善智能城市的應(yīng)用能力，即創(chuàng)制與現(xiàn)實(shí)城市完全相同的數(shù)字空間，用于智能醫(yī)療、交通和環(huán)境管理。二是完全虛擬的數(shù)字空間。2021年臉書(shū)宣布更名為“Meta”（元宇宙），緊接著Meta在2021年9月宣布旗下元宇宙平臺(tái)Horizon Worlds正式面向美國(guó)與加拿大地區(qū)18歲以上的成年人開(kāi)放，該平臺(tái)允許用戶構(gòu)建自己的虛擬世界，并提供了系列的模板和工具。
第四， 數(shù)字人的生成與操控。虛擬數(shù)字人的合成須集成多項(xiàng)深度合成技術(shù)，以實(shí)現(xiàn)人物形象生成，語(yǔ)音生成，動(dòng)畫(huà)生成，音視頻合成顯示和交互。這一技術(shù)是深度合成的擬人化應(yīng)用，其商業(yè)落地路徑較清晰。國(guó)內(nèi)頭部數(shù)字人企業(yè)已經(jīng)推出了冬奧手語(yǔ)數(shù)字人、央視數(shù)字主持人等應(yīng)用。未來(lái)智能管家、伴侶、偶像、專家、教師的生成和運(yùn)維均需要多個(gè)領(lǐng)域深度合成的技術(shù)支持。
綜上所述，深度合成的應(yīng)用場(chǎng)景廣泛并且可能會(huì)改變未來(lái)人類社會(huì)的生存方式：一方面生成型人工智能模糊了信息真實(shí)和虛假的邊界，深刻地改變了人類獲取信息與知識(shí)的方式，另一方面深度合成技術(shù)將成為網(wǎng)絡(luò)虛擬空間與現(xiàn)實(shí)物理世界虛實(shí)結(jié)合、融為一體的關(guān)鍵應(yīng)用技術(shù)，甚至改變?nèi)祟愇磥?lái)的生產(chǎn)方式和生活方式。
（三） 深度合成的治理挑戰(zhàn)
深度合成的技術(shù)與應(yīng)用，不僅不能化解算法治理一直致力解決的算法黑箱、算法歧視等傳統(tǒng)問(wèn)題，而且由于其技術(shù)特點(diǎn)，會(huì)給人類社會(huì)帶來(lái)更多的治理挑戰(zhàn)。
第一， 深度合成改變了信息生成方式，模糊了虛實(shí)界限，極大地降低了專業(yè)知識(shí)與特定技能的獲取門(mén)檻，使既往網(wǎng)絡(luò)安全治理的行政與技術(shù)資源難以為繼，其濫用可能造成的風(fēng)險(xiǎn)范圍更廣泛、風(fēng)險(xiǎn)級(jí)別更高。與任何先進(jìn)的機(jī)器學(xué)習(xí)系統(tǒng)一樣，深度合成技術(shù)會(huì)帶來(lái)潛在的安全問(wèn)題。（1）深度合成信息內(nèi)容安全問(wèn)題相較過(guò)去更為嚴(yán)峻。網(wǎng)絡(luò)信息內(nèi)容的生產(chǎn)經(jīng)歷了此前Web1.0、Web2.0時(shí)代的PGC（專業(yè)生產(chǎn)內(nèi)容）和UGC（用戶生產(chǎn)內(nèi)容），代表人工智能生成內(nèi)容的AIGC是新一輪內(nèi)容生產(chǎn)方式變革，AIGC內(nèi)容在Web3.0時(shí)代也將出現(xiàn)指數(shù)級(jí)增長(zhǎng)。在此之前，虛假信息生產(chǎn)有限，國(guó)家通過(guò)源頭管理、賬戶賬號(hào)管理、傳播平臺(tái)治理即可以控制有害信息傳播。在深度合成技術(shù)應(yīng)用于內(nèi)容生產(chǎn)后，內(nèi)容生產(chǎn)成本進(jìn)一步降低，生產(chǎn)主體難以追蹤，信息內(nèi)容真假難辨，生成類似人類文本的技術(shù)能力提高了冒充和盜竊身份案件的發(fā)生概率。傳統(tǒng)的新聞信息服務(wù)許可、用戶賬號(hào)管理和平臺(tái)算法過(guò)濾、人工審核標(biāo)注等手段，可能都會(huì)面臨嚴(yán)重的治理挑戰(zhàn)。（2）深度合成會(huì)極大地降低專業(yè)知識(shí)與特定技能的獲取門(mén)檻，顯著擴(kuò)大網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的范圍，提高安全風(fēng)險(xiǎn)的等級(jí)。例如，代碼的編寫(xiě)和網(wǎng)絡(luò)攻擊本身具有專業(yè)門(mén)檻，網(wǎng)絡(luò)安全攻擊在大眾眼中仍是專業(yè)技術(shù)。ChatGPT類的生成型人工智能具備了無(wú)代碼編程能力，降低了攻擊代碼編寫(xiě)的技術(shù)門(mén)檻，可能會(huì)導(dǎo)致更多的網(wǎng)絡(luò)安全攻擊發(fā)生。未來(lái)，黑客發(fā)動(dòng)網(wǎng)絡(luò)安全攻擊將如同頑童投擲石子一樣容易，這也意味著重要數(shù)據(jù)、關(guān)鍵信息基礎(chǔ)設(shè)施等可能面臨著網(wǎng)絡(luò)安全防范資源的嚴(yán)重不足的重大挑戰(zhàn)。
第二， 深度合成的發(fā)展對(duì)現(xiàn)有數(shù)據(jù)、算法、算力分而治之的治理體系提出了嚴(yán)峻挑戰(zhàn)，網(wǎng)絡(luò)安全、個(gè)人信息、數(shù)據(jù)保護(hù)、數(shù)據(jù)跨境流動(dòng)的制度都需要做出相應(yīng)調(diào)整，而目前各國(guó)均缺乏針對(duì)人工智能的數(shù)據(jù)、算法、算力的綜合治理體系。（1）數(shù)據(jù)安全方面，深度合成的預(yù)訓(xùn)練大模型促進(jìn)了合成數(shù)據(jù)產(chǎn)業(yè)的發(fā)展，深度合成技術(shù)可以模擬真實(shí)用戶數(shù)據(jù)并規(guī)避高昂的隱私合規(guī)成本。深度合成技術(shù)也有可能通過(guò)預(yù)訓(xùn)練大模型的強(qiáng)大推理能力學(xué)習(xí)找到真實(shí)數(shù)據(jù)。而針對(duì)合成數(shù)據(jù)的治理各國(guó)目前尚無(wú)具體的規(guī)制性制度。（2）個(gè)人信息保護(hù)方面，深度合成的訓(xùn)練數(shù)據(jù)主要來(lái)源于互聯(lián)網(wǎng)，其中可能包括個(gè)人隱私數(shù)據(jù)，而此前GPT——2就發(fā)生過(guò)隱私泄露的問(wèn)題。用戶生成合成內(nèi)容需要上傳照片、視頻或與直接明文的對(duì)話。生成合成類算法應(yīng)用既往就產(chǎn)生過(guò)換臉換聲的欺詐、人格權(quán)侵權(quán)、隱私泄露等案件。在新一代以ChatGPT為代表的生成合成類應(yīng)用中，用戶對(duì)話的過(guò)程就是被收集信息的過(guò)程，尤其是用戶在與機(jī)器對(duì)話的過(guò)程中更可能袒露隱私。這些個(gè)人信息可被用于用戶畫(huà)像和訓(xùn)練模型，個(gè)人信息的收集、使用和傳輸都面臨著安全挑戰(zhàn)。（3）數(shù)據(jù)跨境安全方面，用戶與生成型人工智能模型的海量交互數(shù)據(jù)如果是跨境產(chǎn)生的，則會(huì)引發(fā)數(shù)據(jù)跨境安全問(wèn)題。生成型人工智能需要海量算力，而面向一國(guó)提供生成型人工智能的服務(wù)器可能位于世界各地，這與現(xiàn)有的數(shù)據(jù)本地化存儲(chǔ)、保障本土數(shù)據(jù)安全的數(shù)據(jù)處理方案存在沖突。
第三， 深度合成會(huì)強(qiáng)化技術(shù)壟斷和技術(shù)競(jìng)爭(zhēng)，不僅使得數(shù)據(jù)共享共用愈加難以實(shí)現(xiàn)，而且會(huì)加深國(guó)家、地區(qū)、人群間的數(shù)字鴻溝。（1）高企的算力與資源需求可能造成技術(shù)壟斷。深度合成的發(fā)展對(duì)為其提供基礎(chǔ)計(jì)算工具和環(huán)境的數(shù)據(jù)中心算力以及服務(wù)器硬件設(shè)備提出了新的要求。生成型人工智能需要的算力投入過(guò)于巨大，以致小型開(kāi)發(fā)者根本無(wú)法承受，這將進(jìn)一步造成技術(shù)的壟斷和算力的集中。（2）數(shù)據(jù)資源的不公平分配使用進(jìn)一步加深數(shù)字鴻溝。預(yù)訓(xùn)練大模型需要海量的數(shù)據(jù)，ChatGPT類的生成型大模型需要幾乎整個(gè)互聯(lián)網(wǎng)的數(shù)據(jù)進(jìn)行訓(xùn)練。這一方面意味著大量的數(shù)據(jù)資源被免費(fèi)攫取，如主流媒體的文本數(shù)據(jù)，數(shù)十億張受版權(quán)保護(hù)的圖像被生成型人工智能公司下載用于訓(xùn)練模型；另一方面，數(shù)據(jù)資源的分布并不均衡，如英語(yǔ)語(yǔ)言產(chǎn)生的數(shù)據(jù)遠(yuǎn)多于其他語(yǔ)種產(chǎn)生的數(shù)據(jù)，而這些數(shù)據(jù)無(wú)法給預(yù)訓(xùn)練大模型提供機(jī)器學(xué)習(xí)的足夠養(yǎng)料，因而小語(yǔ)種的生成型人工智能輸出質(zhì)量相對(duì)較低。（3）生成類人工智能將成為新的流量入口，基礎(chǔ)模型依賴互聯(lián)網(wǎng)上公開(kāi)的訓(xùn)練數(shù)據(jù)，持續(xù)訓(xùn)練需要不斷與用戶互動(dòng)輸入數(shù)據(jù)，國(guó)家、地區(qū)、語(yǔ)言的既有優(yōu)勢(shì)將被持續(xù)強(qiáng)化，地區(qū)間數(shù)字鴻溝將進(jìn)一步加大。
三、深度合成的治理邏輯與更新趨勢(shì)
�。ㄒ唬� 調(diào)整對(duì)象：從算法服務(wù)到人工智能
盡管我國(guó)在深度合成的治理方面走在了世界前列，但目前的治理邏輯是將深度合成技術(shù)納入生成合成類算法予以規(guī)制，治理對(duì)象聚焦于深度合成服務(wù)。但在深度合成成為人工智能的重要領(lǐng)域，甚至逐漸走向通用人工智能的趨勢(shì)下，僅將其以算法信息服務(wù)之一作為調(diào)整對(duì)象難以適應(yīng)該領(lǐng)域技術(shù)的應(yīng)用發(fā)展。在當(dāng)前我國(guó)的治理邏輯中深度合成主要被定位為算法，聚焦信息安全。在我國(guó)制度語(yǔ)境中，深度合成服務(wù)是指利用生成合成類算法提供信息服務(wù)，屬于我國(guó)《算法推薦管理規(guī)定》中規(guī)定的生成合成類、排序精選類、檢索過(guò)濾類、個(gè)性化推送類、調(diào)度決策類算法五類推薦服務(wù)中的一種。通過(guò)對(duì)近年來(lái)我國(guó)頒布的法律法規(guī)的脈絡(luò)進(jìn)行梳理可知，深度合成的監(jiān)管對(duì)象聚焦的是信息內(nèi)容。如2020年的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》明確提出對(duì)基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等技術(shù)，具有媒體屬性或社會(huì)動(dòng)員能力的音視頻信息服務(wù)展開(kāi)安全評(píng)估，對(duì)非真實(shí)音視頻信息進(jìn)行標(biāo)識(shí)；2020年《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》要求不得利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用從事法律、行政法規(guī)禁止的活動(dòng)；2021年開(kāi)始實(shí)施的《民法典》人格權(quán)編明確規(guī)定，不論是否出于營(yíng)利目的，均不得利用信息技術(shù)手段偽造他人肖像、聲音；2022年《算法推薦管理規(guī)定》明確要求不得生成合成虛假新聞信息�？梢�(jiàn)，從算法服務(wù)治理生長(zhǎng)出的深度合成治理法律，其主要聚焦于信息安全監(jiān)管。
相比歐美國(guó)家，這一治理架構(gòu)雖然已經(jīng)在治理對(duì)象、治理鏈條和治理工具上有明顯的制度引領(lǐng)和先發(fā)優(yōu)勢(shì)，但實(shí)踐中也難以充分應(yīng)對(duì)生成型人工智能的迅猛發(fā)展產(chǎn)生的問(wèn)題。因?yàn)樯疃群铣傻募夹g(shù)迭代已經(jīng)使得其日漸超出了前述立法時(shí)所設(shè)計(jì)的生成合成類算法框架所能調(diào)控的范圍。一是我國(guó)算法治理的調(diào)整對(duì)象本身就有一定的局限性。如《算法推薦管理規(guī)定》明確其調(diào)整的“應(yīng)用算法推薦技術(shù)，是指利用生成合成類、個(gè)性化推送類、排序精選類、檢索過(guò)濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息”。盡管規(guī)定使用了“算法推薦技術(shù)”一詞，但實(shí)際上五種功能分類是從服務(wù)角度進(jìn)行的劃分。而檢索類與個(gè)性化推送類算法原理相同，但被歸為不同的服務(wù)分類。可見(jiàn)，“算法推薦”一詞的選用也和牽頭起草部門(mén)國(guó)家網(wǎng)信辦以信息內(nèi)容管理為主要職能有關(guān)。二是算法監(jiān)管對(duì)象局限于提供互聯(lián)網(wǎng)信息服務(wù)的算法，并不包括諸如公共部門(mén)使用的決策類算法。目前的相關(guān)規(guī)章在空白領(lǐng)域搭建起了算法制度框架，但主要針對(duì)私主體的算法服務(wù)，其他涉及公民權(quán)益的公共部門(mén)的算法自動(dòng)化決策的相關(guān)治理任務(wù)，則是由《個(gè)人信息保護(hù)法》等法律法規(guī)承擔(dān)，但規(guī)定較為原則。三是從立法本意上來(lái)看，算法監(jiān)管未必能夠涵蓋深度合成治理。我國(guó)近兩年的立法中是如何設(shè)定深度合成與算法的關(guān)系的呢？一說(shuō)認(rèn)為我國(guó)出臺(tái)《深度合成管理規(guī)定》，是將深度合成作為算法服務(wù)種類中高風(fēng)險(xiǎn)、高敏感度的算法進(jìn)行監(jiān)管，因此率先單獨(dú)立法；另一說(shuō)則認(rèn)為，算法推薦與深度合成是并列關(guān)系。在算法監(jiān)管本身調(diào)整對(duì)象就有較大局限的情況下，深度合成作為未來(lái)技術(shù)發(fā)展重要領(lǐng)域的人工智能技術(shù)和應(yīng)用，難以被算法規(guī)范有效涵蓋。
在深度合成迅速發(fā)展的背景下，僅以算法服務(wù)為對(duì)象、以信息安全為目的顯然無(wú)法應(yīng)對(duì)深度合成技術(shù)、產(chǎn)業(yè)、應(yīng)用的發(fā)展。與此同時(shí)，人工智能本身就被集成在眾多的產(chǎn)品和服務(wù)之中，在法律規(guī)范中使用過(guò)于寬泛的人工智能定義必將給人工智能開(kāi)發(fā)者、部署者、產(chǎn)品生產(chǎn)者（集成者）等設(shè)計(jì)自動(dòng)化功能的產(chǎn)品和服務(wù)帶來(lái)巨大的合規(guī)成本，而使用清晰明確的有關(guān)深度合成的定義則有利于增強(qiáng)監(jiān)管的確定性。
�。ǘ� 維度拓展：從平臺(tái)問(wèn)責(zé)到產(chǎn)業(yè)治理
我國(guó)《深度合成管理規(guī)定》已經(jīng)將治理的觸角向技術(shù)支持者和用戶延伸，但平臺(tái)問(wèn)責(zé)仍然是深度合成治理的主要抓手�！渡疃群铣晒芾硪�(guī)定》第2條規(guī)定：“在中華人民共和國(guó)境內(nèi)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)（以下簡(jiǎn)稱深度合成服務(wù)），以及為深度合成服務(wù)提供技術(shù)支持的活動(dòng)，適用本規(guī)定�！笨梢�(jiàn)，《深度合成管理規(guī)定》的調(diào)整對(duì)象“深度合成”既指深度合成服務(wù)，也指深度合成技術(shù)。在現(xiàn)有的深度合成治理框架中，我國(guó)將深度合成服務(wù)提供者作為治理的樞紐。一方面，深度合成服務(wù)提供者應(yīng)盡到自身的安全管理義務(wù)，如進(jìn)行深度合成內(nèi)容標(biāo)識(shí)，建立鑒偽與辟謠機(jī)制，完成算法備案等；另一方面，深度合成服務(wù)提供者要履行對(duì)上游技術(shù)支持者和下游服務(wù)使用者的管理責(zé)任，提示技術(shù)支持者和使用者承擔(dān)信息安全義務(wù)，對(duì)使用者輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核，并提示使用者應(yīng)對(duì)深度合成做顯著標(biāo)識(shí)。如規(guī)章要求深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示使用者（用戶）并取得其單獨(dú)同意。
深度合成的治理框架已經(jīng)對(duì)上游的技術(shù)支持者提出了相關(guān)要求，雖具有一定創(chuàng)新性，但囿于部門(mén)職能，規(guī)定存在一定局限。相對(duì)于牽頭起草部門(mén)網(wǎng)信部門(mén)的信息內(nèi)容監(jiān)管職能，既有規(guī)定對(duì)技術(shù)支持者提出要求是新舉措，因?yàn)樯疃群铣傻募夹g(shù)支持者如何使用訓(xùn)練數(shù)據(jù)、如何設(shè)計(jì)算法機(jī)制機(jī)理、如何開(kāi)發(fā)應(yīng)用可搭載的模型模板工具，都會(huì)直接對(duì)深度合成服務(wù)的功能應(yīng)用結(jié)果產(chǎn)生影響。但如果站在數(shù)字社會(huì)生產(chǎn)的角度考量深度合成治理，則可發(fā)現(xiàn)，既有治理過(guò)于關(guān)注深度合成的內(nèi)容輸出治理而相對(duì)忽略了其他角度的治理，因而影響了治理全局的功能。如深度合成中的預(yù)訓(xùn)練大模型以大量的參數(shù)、訓(xùn)練數(shù)據(jù)和計(jì)算進(jìn)行操作，目前雖然沒(méi)有達(dá)到接近通用人工智能的水平，但仍然比傳統(tǒng)的深度學(xué)習(xí)更具通用性。通用人工智能類似于類腦智慧，其強(qiáng)大的學(xué)習(xí)能力和完備性可以通用于現(xiàn)今人工智能許多關(guān)聯(lián)松散的子領(lǐng)域（如視覺(jué)、聽(tīng)覺(jué)、文本等），其主導(dǎo)的人工智能第三次浪潮，可能進(jìn)一步形成人工智能子領(lǐng)域之間共同的基礎(chǔ)或框架。換句話說(shuō)，深度合成中的預(yù)訓(xùn)練大模型，可能被部署用來(lái)解決它們并未被專門(mén)訓(xùn)練過(guò)的任務(wù)，輸出的多樣性和任務(wù)廣度也會(huì)遠(yuǎn)超一般模型。因此，從縱向角度考慮，深度合成的治理應(yīng)當(dāng)在數(shù)字產(chǎn)業(yè)化和產(chǎn)業(yè)數(shù)字化的進(jìn)程中進(jìn)一步深入產(chǎn)業(yè)治理。
（三） 體系構(gòu)建：從多元分級(jí)到多維統(tǒng)籌
依據(jù)風(fēng)險(xiǎn)進(jìn)行分類分級(jí)管理是技術(shù)治理中普遍采用的原則，有助于具體制度根據(jù)不同場(chǎng)景設(shè)置精細(xì)規(guī)則。目前我國(guó)的技術(shù)治理體系中，就設(shè)立了數(shù)據(jù)、算法、主體、場(chǎng)景四大類分級(jí)分類的標(biāo)準(zhǔn)。但目前深度合成總體應(yīng)如何做分級(jí)分類的定位尚不明晰。一是算法分級(jí)分類中，尚無(wú)明確的具有可操作性的標(biāo)準(zhǔn)；二是我國(guó)四大類分級(jí)分類標(biāo)準(zhǔn)由不同部門(mén)依據(jù)職能主導(dǎo)，職責(zé)互相交叉，邊界不盡清晰；三是深度合成本身具有一定通用性，應(yīng)用范圍廣，難以被簡(jiǎn)單歸入某一具體分級(jí)分類。
第一， 目前我國(guó)存在多種分級(jí)分類制度。（1）在數(shù)據(jù)維度，《數(shù)據(jù)安全法》將數(shù)據(jù)分為核心數(shù)據(jù)、重要數(shù)據(jù)、一般數(shù)據(jù)，確立了由國(guó)家建立數(shù)據(jù)分類分級(jí)制度、由主管部門(mén)制定重要數(shù)據(jù)目錄并加強(qiáng)保護(hù)的制度框架，并注重網(wǎng)絡(luò)安全制度與數(shù)據(jù)安全保護(hù)制度的銜接；《民法典》區(qū)分了一般個(gè)人信息和私密個(gè)人信息；《個(gè)人信息保護(hù)法》建立了信息分級(jí)制度，將個(gè)人信息分為一般信息和敏感信息；在算法維度，《算法推薦管理規(guī)定》第23條提出：“網(wǎng)信部門(mén)會(huì)同電信、公安、市場(chǎng)監(jiān)管等有關(guān)部門(mén)建立算法分級(jí)分類安全管理制度，根據(jù)算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對(duì)用戶行為的干預(yù)程度等對(duì)算法推薦服務(wù)提供者實(shí)施分級(jí)分類管理”。但目前為止，一般認(rèn)為深度合成可能被用于“無(wú)中生有”或篡改信息內(nèi)容因而具有較高的輿論屬性或者社會(huì)動(dòng)員能力，屬于高敏感高風(fēng)險(xiǎn)的算法服務(wù)技術(shù)。（2）在主體維度，我國(guó)《個(gè)人信息保護(hù)法》借鑒歐盟立法，第58條對(duì)提供重要互聯(lián)網(wǎng)平臺(tái)服務(wù)、用戶數(shù)量巨大、業(yè)務(wù)類型復(fù)雜的“守門(mén)人”進(jìn)行了規(guī)范，要求其建立健全個(gè)人信息保護(hù)合規(guī)制度體系。在規(guī)范性文件層面，我國(guó)市場(chǎng)監(jiān)管總局起草的《互聯(lián)網(wǎng)平臺(tái)分類分級(jí)指南（征求意見(jiàn)稿）》將平臺(tái)分為網(wǎng)絡(luò)銷(xiāo)售、生活服務(wù)等六大類，分級(jí)上又分為中小平臺(tái)、大型平臺(tái)和超大型平臺(tái)三級(jí)，考慮了用戶規(guī)模、業(yè)務(wù)種類以及限制能力。（3）在場(chǎng)景維度，當(dāng)數(shù)據(jù)、平臺(tái)和算法相同的情況下，僅僅由于技術(shù)的可能使用場(chǎng)景的不同，而產(chǎn)生不同級(jí)別的風(fēng)險(xiǎn)，需要配置不同的監(jiān)管制度。如未成年人使用平臺(tái)的相關(guān)功能，相應(yīng)配備的個(gè)人信息保護(hù)規(guī)則和算法相關(guān)合規(guī)要求不盡相同；《重要數(shù)據(jù)識(shí)別指南》將支撐關(guān)鍵基礎(chǔ)設(shè)施所在行業(yè)的數(shù)據(jù)，反映關(guān)鍵信息基礎(chǔ)設(shè)施網(wǎng)絡(luò)安全保護(hù)情況的數(shù)據(jù)，反映重點(diǎn)目標(biāo)、重點(diǎn)場(chǎng)所物理安全情況的數(shù)據(jù)等視為重要數(shù)據(jù)，重要數(shù)據(jù)一般應(yīng)有更嚴(yán)格的法律保護(hù)制度。除此之外，在一些行業(yè)場(chǎng)景下，數(shù)據(jù)產(chǎn)生與處理的規(guī)則也應(yīng)相應(yīng)區(qū)分。如人工智能醫(yī)療領(lǐng)域、金融業(yè)務(wù)領(lǐng)域都可能涉及諸多敏感個(gè)人信息需要圍繞場(chǎng)景進(jìn)行整體性制度設(shè)計(jì)；《個(gè)人金融信息保護(hù)技術(shù)規(guī)范》《證券期貨業(yè)數(shù)據(jù)分類分級(jí)指引》等對(duì)金融領(lǐng)域的數(shù)據(jù)分級(jí)給出了具體指導(dǎo)。我國(guó)各部委也相繼頒布了基于行業(yè)應(yīng)用、業(yè)務(wù)場(chǎng)景的數(shù)據(jù)安全分級(jí)分類方法。
第二， 四類分級(jí)分類標(biāo)準(zhǔn)，職責(zé)互相交叉，邊界不盡清晰。以算法分級(jí)分類為例，一是我國(guó)以部門(mén)職能作為分類標(biāo)準(zhǔn)，“具有輿論屬性或者社會(huì)動(dòng)員能力”的算法均需履行事前安全評(píng)估、備案等程序，算法種類繁多，基本涵蓋了現(xiàn)有的算法服務(wù)；二是《算法推薦管理規(guī)定》中的算法分級(jí)分類安全管理制度，結(jié)合數(shù)據(jù)維度（如數(shù)據(jù)重要程度）和主體維度（如用戶規(guī)模）進(jìn)行制度設(shè)計(jì)，但不同分級(jí)分類標(biāo)準(zhǔn)如何厘清各自職能和邊界，以及各標(biāo)準(zhǔn)之間如何銜接，需要進(jìn)一步出臺(tái)規(guī)范予以調(diào)整。
第三， 由于對(duì)深度合成的技術(shù)和應(yīng)用尚無(wú)法充分認(rèn)識(shí)，相關(guān)立法難以在現(xiàn)有分級(jí)分類框架中被精準(zhǔn)定位。調(diào)整深度合成的規(guī)范不僅在我國(guó)目前初步構(gòu)建的多系統(tǒng)分級(jí)分類法律體系中難以找到確切的位置，而且歐盟立法對(duì)深度合成技術(shù)的風(fēng)險(xiǎn)判斷也并不清晰，目前有學(xué)者提出了將深度合成全部歸為高風(fēng)險(xiǎn)系統(tǒng)予以規(guī)范的主張。但這一主張顯然并不利于相關(guān)技術(shù)與產(chǎn)業(yè)的發(fā)展。
因此，深度合成的治理框架需進(jìn)行迭代升級(jí)，包括將治理對(duì)象從算法服務(wù)擴(kuò)展為人工智能，治理維度從平臺(tái)問(wèn)責(zé)擴(kuò)展至產(chǎn)業(yè)治理，建立由有力牽頭部門(mén)統(tǒng)籌協(xié)調(diào)的體系化監(jiān)管體制機(jī)制，并對(duì)我國(guó)目前多個(gè)分級(jí)分類制度進(jìn)行系統(tǒng)整合。
四、深度合成治理的體系迭代與未來(lái)發(fā)展
我國(guó)的深度合成治理應(yīng)在現(xiàn)有算法治理基礎(chǔ)上做出制度延伸，將其作為人工智能專門(mén)領(lǐng)域予以治理，形成“算法治理—深度合成治理—人工智能治理”的迭代路徑，為我國(guó)未來(lái)通用人工智能立法做準(zhǔn)備。面對(duì)深度合成中的生成型人工智能等具有一定通用性質(zhì)的新型人工智能技術(shù)，應(yīng)及時(shí)調(diào)整治理方案，搶抓規(guī)則制定權(quán)，防范國(guó)際規(guī)則博弈中歐盟等有意識(shí)的制度輸出，推動(dòng)我國(guó)在該領(lǐng)域的本土化制度建設(shè)和制度引領(lǐng)。
（一） 深度合成治理的體系迭代
深度合成治理應(yīng)在現(xiàn)有算法治理的基礎(chǔ)上做出制度延伸與體系迭代。ChatGPT等生成型人工智能的爆發(fā)，是推動(dòng)深度合成成為人工智能治理專門(mén)領(lǐng)域的有利契機(jī)。將深度合成納入專門(mén)化的人工智能治理領(lǐng)域予以治理，既可以為我國(guó)人工智能基礎(chǔ)性立法做出有益探索，又可避免歐盟、美國(guó)現(xiàn)有立法中人工智能范圍定義過(guò)寬的弊端，發(fā)揮我國(guó)人工智能立法的制度引領(lǐng)作用。
第一， 深度合成治理需要在算法治理基礎(chǔ)上做出延伸和迭代。盡管我國(guó)深度合成的治理已經(jīng)在算法治理基礎(chǔ)上進(jìn)行了創(chuàng)新，但治理體系仍需進(jìn)一步優(yōu)化。我國(guó)的算法治理體系將算法定位為“互聯(lián)網(wǎng)信息服務(wù)算法”和“算法推薦服務(wù)”，盡管在算法監(jiān)管制度中已經(jīng)創(chuàng)新性地提出了針對(duì)特征庫(kù)、用戶標(biāo)簽、算法機(jī)制機(jī)理等技術(shù)規(guī)范措施，但其重點(diǎn)聚焦于算法安全價(jià)值導(dǎo)向下的信息服務(wù)規(guī)范和用戶權(quán)益保護(hù)�！渡疃群铣晒芾硪�(guī)定》在征求意見(jiàn)的討論后將服務(wù)和技術(shù)列為并重的調(diào)整對(duì)象，將“數(shù)據(jù)和技術(shù)管理規(guī)范”專章單列，并將監(jiān)管對(duì)象延伸至深度合成技術(shù)支持者，都是對(duì)技術(shù)發(fā)展的因應(yīng)性制度調(diào)整。我國(guó)深度合成治理超越了算法治理制度，相較歐盟、美國(guó)等制度更具有引領(lǐng)性。國(guó)外研究也認(rèn)為《深度合成管理規(guī)定》調(diào)整的范圍全面，將大大改變14億人的人工智能生成內(nèi)容的制作方式；在具體制度的評(píng)價(jià)中，研究者也認(rèn)同我國(guó)現(xiàn)有監(jiān)管為深度合成的每個(gè)階段制定了規(guī)則，從創(chuàng)作到標(biāo)注再到傳播，為未來(lái)控制有機(jī)生成內(nèi)容也留下了空間，在2023年可能影響到其他國(guó)家深度合成法規(guī)的發(fā)展。但是，算法監(jiān)管的一些具體措施顯然很難適用于深度合成項(xiàng)下的生成型人工智能等技術(shù)。如算法機(jī)制機(jī)理的備案說(shuō)明、特征庫(kù)和標(biāo)簽制度等，應(yīng)結(jié)合深度合成的新技術(shù)發(fā)展與應(yīng)用場(chǎng)景做出相應(yīng)調(diào)整和改進(jìn)。
第二， 深度合成治理應(yīng)成為人工智能治理的專門(mén)領(lǐng)域，并在此基礎(chǔ)上推進(jìn)我國(guó)人工智能基礎(chǔ)性立法。我國(guó)現(xiàn)有的算法規(guī)制體系在實(shí)踐中承擔(dān)起了人工智能治理的任務(wù)。從2017年國(guó)務(wù)院《新一代人工智能發(fā)展規(guī)劃》到2022年的《最高人民法院關(guān)于規(guī)范和加強(qiáng)人工智能司法應(yīng)用的意見(jiàn)》，我國(guó)人工智能治理各級(jí)文件中均提出了“安全可控”的治理目標(biāo)，具體制度均提到了建立公開(kāi)透明的制度體系、建立相應(yīng)問(wèn)責(zé)機(jī)制、技術(shù)和應(yīng)用全流程監(jiān)管等。而這些具體制度的落地則是由算法透明度，算法問(wèn)責(zé)，算法設(shè)計(jì)、輸出與結(jié)果監(jiān)管，以及算法推薦服務(wù)結(jié)果公平等規(guī)定保障實(shí)現(xiàn)的。國(guó)外的研究一般也認(rèn)為中國(guó)針對(duì)算法設(shè)計(jì)的系統(tǒng)法規(guī)，包括對(duì)算法系統(tǒng)的設(shè)計(jì)、使用和數(shù)據(jù)種類的要求和標(biāo)準(zhǔn)，是中國(guó)人工智能的治理制度。
應(yīng)以ChatGPT為代表的生成型人工智能發(fā)展為契機(jī)，推動(dòng)深度合成治理成為人工智能治理的專門(mén)領(lǐng)域。（1）保障急用先行一向是我國(guó)立法的一條重要經(jīng)驗(yàn)。短期內(nèi)，繼續(xù)采用垂直和領(lǐng)域性人工智能監(jiān)管能夠有效將可能的風(fēng)險(xiǎn)控制在最小范圍，延伸深度合成現(xiàn)有制度是治理效率最高的方式。不過(guò)從長(zhǎng)遠(yuǎn)來(lái)看，加強(qiáng)深度合成治理專門(mén)立法是必然趨勢(shì)。在擬出臺(tái)全盤(pán)人工智能治理方案的歐洲，也在討論對(duì)人工智能立法的部分定義和監(jiān)管類型進(jìn)行修訂，以增強(qiáng)對(duì)“大型生成式AI模型”部署者和用戶進(jìn)行直接監(jiān)管。（2）深度合成的治理等待全盤(pán)人工智能治理的立法出臺(tái)，會(huì)面臨針對(duì)性、可用性不強(qiáng)的制度困境。生成型人工智能具有一定通用性，是否延續(xù)傳統(tǒng)對(duì)人工智能的分級(jí)分類方式進(jìn)行治理？目前歐盟就面臨著這個(gè)問(wèn)題。2022年5月《人工智能法案》第4a——4c的修正案成了監(jiān)管生成型人工智能的核心條款。任何可用于任何高風(fēng)險(xiǎn)應(yīng)用的“通用人工智能系統(tǒng)”，如就業(yè)、醫(yī)療、信用評(píng)分、行政、執(zhí)法都必須初步遵守《人工智能法》對(duì)高風(fēng)險(xiǎn)系統(tǒng)規(guī)定的全部義務(wù)。一個(gè)全盤(pán)的人工智能治理方案極可能受到技術(shù)發(fā)展的沖擊。因此也有歐洲學(xué)者建議歐盟應(yīng)將其所設(shè)想的全盤(pán)人工智能法案監(jiān)管轉(zhuǎn)向具體的監(jiān)管職責(zé)和內(nèi)容治理。（3）在對(duì)深度合成治理做出專門(mén)性制度探索的基礎(chǔ)上，推進(jìn)人工智能基礎(chǔ)性立法，解決人工智能領(lǐng)域的通用問(wèn)題。一是算法、算力與數(shù)據(jù)的規(guī)制制度必須在人工智能治理的框架下統(tǒng)籌協(xié)調(diào)。如歐盟立法面臨著《人工智能法》《通用數(shù)據(jù)保護(hù)條例》《數(shù)字服務(wù)法》等法規(guī)協(xié)調(diào)的問(wèn)題。預(yù)訓(xùn)練大模型需要海量的算力，如何統(tǒng)籌全國(guó)范圍內(nèi)的算力使用，也是法律層面立法才能解決的問(wèn)題。二是法律層面上統(tǒng)籌，方可保證較高的效力位階將我國(guó)現(xiàn)行的有關(guān)數(shù)據(jù)、算法和人工智能問(wèn)題的探索，統(tǒng)一納入未來(lái)人工智能基礎(chǔ)性立法。
2023年被認(rèn)為是全世界的人工智能監(jiān)管新格局的開(kāi)創(chuàng)之年。雖然不同的法律轄區(qū)正在采取不同的監(jiān)管路徑，但歐盟《人工智能法案》的加快推進(jìn)，意味著全盤(pán)管理人工智能未來(lái)將可能成為全球立法模式。按照“算法治理—深度合成治理—人工智能基礎(chǔ)性立法”的思路，深度合成治理立法一方面承接算法治理，另一方面也可以為未來(lái)通用人工智能的立法做出有益嘗試。
�。ǘ� 內(nèi)容監(jiān)管與全鏈條治理
深度合成的治理，一是需要保障生成內(nèi)容安全的基礎(chǔ)法益，二是應(yīng)依據(jù)生成型人工智能改進(jìn)監(jiān)管框架實(shí)施全鏈條治理，三是需要適應(yīng)技術(shù)的進(jìn)一步發(fā)展，完成深度合成監(jiān)管工具的升級(jí)。
第一， 深度合成的生成內(nèi)容監(jiān)管。深度合成的前期治理聚焦生成合成的虛假信息是全球共識(shí)，歐盟、美國(guó)均有相關(guān)立法嘗試與監(jiān)管舉措。我國(guó)的深度合成治理中有關(guān)信息內(nèi)容安全的監(jiān)管措施應(yīng)嚴(yán)格執(zhí)行，繼續(xù)要求AIGC技術(shù)與服務(wù)提供者在相關(guān)的人工智能自動(dòng)生成內(nèi)容中履行添加可識(shí)別水印或有效警示信息的義務(wù)，在源頭上實(shí)現(xiàn)人工智能自動(dòng)生成內(nèi)容的可識(shí)別性。不過(guò)，AIGC（人工智能生成內(nèi)容）的標(biāo)識(shí)要求需要進(jìn)一步提高。如對(duì)ChatGPT或類似軟件生成“以某人風(fēng)格”生成文本或圖像視頻等內(nèi)容時(shí)，應(yīng)當(dāng)在生成內(nèi)容的合理位置做出顯著標(biāo)識(shí)，以避免公眾產(chǎn)生混淆或誤認(rèn)。生成內(nèi)容型的人工智能必然會(huì)發(fā)生內(nèi)容安全問(wèn)題，盡管目前ChatGPT對(duì)基于惡意目的的使用提出了一些限制，但是有技巧的使用者仍然可以采取調(diào)整措施的請(qǐng)求來(lái)繞開(kāi)這些限制。因此AIGC（人工智能生成內(nèi)容）不僅仍需配備人工過(guò)濾審核機(jī)制，而且需要在下游督促網(wǎng)絡(luò)平臺(tái)采取措施減少違法信息的產(chǎn)出。深度合成監(jiān)管中的辟謠機(jī)制和舉報(bào)機(jī)制同樣適用于ChatGPT等生成型人工智能。對(duì)于已經(jīng)或者準(zhǔn)備在網(wǎng)絡(luò)中傳播不實(shí)信息和可能危害公共秩序的內(nèi)容，平臺(tái)有義務(wù)停止傳輸，并且對(duì)于頻繁發(fā)布此類信息的用戶主體通過(guò)黑名單或其他機(jī)制加以限制和處罰。尤其是在AIGC（人工智能生成內(nèi)容）與機(jī)器人賬號(hào)結(jié)合可能帶來(lái)更大信息內(nèi)容安全風(fēng)險(xiǎn)時(shí)，應(yīng)在我國(guó)現(xiàn)有賬號(hào)管理機(jī)制中強(qiáng)化對(duì)機(jī)器人賬號(hào)的身份識(shí)別監(jiān)管和對(duì)權(quán)威賬號(hào)的特殊認(rèn)定，減少機(jī)器人批量推送AIGC（人工智能生成內(nèi)容）。中國(guó)已經(jīng)在內(nèi)容監(jiān)管領(lǐng)域積累了較多經(jīng)驗(yàn)并取得先機(jī)，監(jiān)管人工智能生成內(nèi)容也成為制定全球規(guī)范和標(biāo)準(zhǔn)的一種重要方式。
第二，深度合成的法律擔(dān)責(zé)鏈條。深度合成中生成型人工智能技術(shù)鏈條的參與者包括：開(kāi)發(fā)者建模并預(yù)訓(xùn)練大模型；部署者根據(jù)應(yīng)用需求，或單獨(dú)或與開(kāi)發(fā)者合作進(jìn)行參數(shù)微調(diào)；用戶最終與生成型人工智能互動(dòng)，并決定生成型人工智能的具體用途。在生成型人工智能的技術(shù)產(chǎn)出鏈條上，技術(shù)開(kāi)發(fā)者是關(guān)鍵，因而深度合成合規(guī)責(zé)任在技術(shù)鏈上進(jìn)行可行性的責(zé)任分配顯得尤為重要。鑒此，我國(guó)的深度合成監(jiān)管應(yīng)圍繞服務(wù)提供者設(shè)計(jì)制度：一是在生成型人工智能的治理中，應(yīng)對(duì)技術(shù)開(kāi)發(fā)者提出更嚴(yán)格的要求，如訓(xùn)練數(shù)據(jù)的標(biāo)注、文件記錄和保存、保障技術(shù)透明度等。面對(duì)Open AI、Stability這樣的大型技術(shù)開(kāi)發(fā)者，在開(kāi)發(fā)階段僅有倫理要求是無(wú)法滿足監(jiān)管目標(biāo)的�？梢钥紤]通過(guò)對(duì)技術(shù)的獲利者征收庇古稅平衡技術(shù)獲利與風(fēng)險(xiǎn)行為。監(jiān)管者對(duì)深度合成的審計(jì)，可通過(guò)定期隨機(jī)抽取方式進(jìn)行，并依據(jù)審計(jì)結(jié)果對(duì)深度合成技術(shù)的獲利者征稅。二是對(duì)生成型人工智能的部署者應(yīng)結(jié)合其應(yīng)用場(chǎng)景設(shè)置義務(wù)，該義務(wù)的結(jié)構(gòu)安排制度必須使部署者和使用者能夠有合理預(yù)期，包括必要的技術(shù)調(diào)整和合規(guī)成本。否則，過(guò)于強(qiáng)調(diào)絕對(duì)的信息內(nèi)容安全，會(huì)阻礙深度合成產(chǎn)業(yè)的發(fā)展。三是在用戶層面進(jìn)一步細(xì)化管理。對(duì)于使用AIGC（人工智能生成內(nèi)容）為他人提供服務(wù)的專業(yè)用戶，如使用ChatGPT撰寫(xiě)法律文書(shū)，用AI繪畫(huà)提供設(shè)計(jì)裝飾服務(wù)，使用生成型人工智能編碼或提供教育服務(wù)等經(jīng)營(yíng)活動(dòng)，應(yīng)承擔(dān)人工智能生成內(nèi)容的標(biāo)識(shí)義務(wù)。對(duì)于普通的深度合成用戶，應(yīng)進(jìn)一步通過(guò)技術(shù)手段等強(qiáng)化其義務(wù)。如我國(guó)現(xiàn)有的深度合成監(jiān)管中，要求上傳照片生成換臉視頻的用戶必須取得當(dāng)事人的同意，但實(shí)踐中尚缺少有效的落地機(jī)制和制約手段。在用戶與生成型人工智能明文互動(dòng)的情況下，如何通過(guò)技術(shù)加強(qiáng)對(duì)用戶行為的合法性約束，是下一步技術(shù)開(kāi)發(fā)和制度設(shè)計(jì)應(yīng)認(rèn)真對(duì)待的問(wèn)題。
第三， 深度合成的監(jiān)管工具升級(jí)。（1）算法歧視的傳統(tǒng)監(jiān)管工具，在面對(duì)生成型人工智能時(shí)會(huì)遇到挑戰(zhàn)。既往人工智能公平性治理中采取的通用性應(yīng)對(duì)措施，如過(guò)濾器和模型調(diào)整，定量偏差評(píng)估和基準(zhǔn)測(cè)試等，在ChatGPT這類預(yù)訓(xùn)練模型系統(tǒng)治理中會(huì)遇到挑戰(zhàn)。不過(guò)技術(shù)界仍在不斷嘗試，如斯坦福大學(xué)以人為本人工智能研究院基礎(chǔ)模型研究中心推出大型語(yǔ)言模型（LLM）的整體評(píng)估，評(píng)估包括準(zhǔn)確性、校準(zhǔn)、魯棒性、公平性、偏差、毒性和效率等模型完備的各個(gè)關(guān)鍵要素，旨在提高語(yǔ)言模型透明度，幫助公眾理解大型語(yǔ)言模型。（2）深度合成的數(shù)據(jù)和隱私安全同樣需要新的技術(shù)支撐和保障。在深度合成營(yíng)造的數(shù)字虛擬生存場(chǎng)景中，用戶需要頭盔和手持器等VR設(shè)備實(shí)現(xiàn)沉浸式互動(dòng)。VR中數(shù)據(jù)收集的范圍和規(guī)模超出了目前網(wǎng)絡(luò)平臺(tái)的能力，攻擊者可通過(guò)幾分鐘的數(shù)據(jù)流輕松識(shí)別VR用戶，或通過(guò)在虛擬環(huán)境中植入制品誘導(dǎo)用戶透漏個(gè)人信息。這都需要網(wǎng)絡(luò)安全技術(shù)、監(jiān)管技術(shù)的全面升級(jí)以更好地加強(qiáng)監(jiān)管。
�。ㄈ� 分級(jí)分類標(biāo)準(zhǔn)的有機(jī)體系化
深度合成對(duì)多元的分級(jí)分類標(biāo)準(zhǔn)提出了巨大挑戰(zhàn)。一是深度合成應(yīng)用覆蓋范圍廣泛，既包括信息內(nèi)容安全，也包括數(shù)字人、數(shù)字虛擬場(chǎng)景、數(shù)字孿生等應(yīng)用模式，繼續(xù)適用“具有輿論屬性或者社會(huì)動(dòng)員能力”的算法分類標(biāo)準(zhǔn)，已難以適應(yīng)生成合成類算法的分級(jí)治理。二是深度合成中的生成型人工智能具有一定通用性。按照全盤(pán)人工智能的治理模式，如歐盟《人工智能法案》，要求識(shí)別和分析所有最可能對(duì)健康、安全和基本權(quán)利產(chǎn)生的已知和可預(yù)見(jiàn)的風(fēng)險(xiǎn)，按此模式進(jìn)行監(jiān)管，則一旦生成型人工智能被用于一個(gè)高風(fēng)險(xiǎn)用途，整個(gè)預(yù)訓(xùn)練大模型都會(huì)落入高風(fēng)險(xiǎn)的規(guī)制范圍，需要進(jìn)行性能、穩(wěn)健性和網(wǎng)絡(luò)安全測(cè)試。而生成型人工智能需要巨額投資，高企的合規(guī)成本顯然不利于企業(yè)投資和研發(fā)。三是深度合成的生成型人工智能需要海量數(shù)據(jù)進(jìn)行訓(xùn)練，而數(shù)據(jù)的匯聚和量級(jí)本身就被認(rèn)定為具有較高風(fēng)險(xiǎn)。如達(dá)到一定量級(jí)的個(gè)人信息處理如果發(fā)生重大網(wǎng)絡(luò)安全事件，在我國(guó)法律體系中被列為與重要數(shù)據(jù)安全事件同等級(jí)別的事件，《關(guān)鍵信息基礎(chǔ)設(shè)施條例》明確將二者并列。與此類似，《網(wǎng)絡(luò)安全審查辦法》也將重要數(shù)據(jù)、關(guān)鍵信息基礎(chǔ)設(shè)施與大量個(gè)人信息的風(fēng)險(xiǎn)并列。由此可見(jiàn)，深度合成監(jiān)管的分級(jí)分類標(biāo)準(zhǔn)設(shè)計(jì)，既需要統(tǒng)籌技術(shù)、產(chǎn)業(yè)和應(yīng)用的不同分層，也需要消解數(shù)據(jù)分級(jí)分類中的量級(jí)考量因素，有機(jī)協(xié)調(diào)做出針對(duì)性制度安排。從產(chǎn)業(yè)鏈角度看，技術(shù)底層的大模型與數(shù)據(jù)集成為真正意義上的“信息基礎(chǔ)設(shè)施”。AIGC（人工智能生成內(nèi)容）產(chǎn)業(yè)需要生成型人工智能支持，提供垂直化、場(chǎng)景化的工具和模型——作為幕后產(chǎn)業(yè)鏈的上游，需要后端基建如渲染公司、底層架構(gòu)如引擎公司等支撐；應(yīng)用層面的內(nèi)容生成應(yīng)用屬于產(chǎn)業(yè)鏈下游，需要面向各行業(yè)的內(nèi)容與場(chǎng)景等技術(shù)支撐。在數(shù)據(jù)、算法、主體等分級(jí)分類方法難以適用于生成型人工智能的背景下，應(yīng)在產(chǎn)業(yè)鏈條層面首先縱向劃分深度合成的技術(shù)、產(chǎn)業(yè)和應(yīng)用層，再對(duì)技術(shù)研發(fā)、產(chǎn)業(yè)落地和技術(shù)應(yīng)用分級(jí)分類設(shè)計(jì)管理制度。
第一， 不宜將深度合成尤其是生成型人工智能一概納入高風(fēng)險(xiǎn)治理框架，而應(yīng)根據(jù)生成型人工智能的預(yù)訓(xùn)練大模型、海量數(shù)據(jù)等特征單獨(dú)設(shè)計(jì)監(jiān)管制度。在深度合成領(lǐng)域，應(yīng)回避歐盟有意識(shí)的法律輸出，堅(jiān)持符合中國(guó)本土的治理路徑。歐盟《人工智能法》《數(shù)字市場(chǎng)法》《數(shù)字服務(wù)法》三部協(xié)同立法影響巨大，其目的是為了確保公司不會(huì)濫用人工智能并承擔(dān)相應(yīng)責(zé)任，避免可能的傷害；但每項(xiàng)立法都要求對(duì)符合特定標(biāo)準(zhǔn)的公司進(jìn)行獨(dú)立審計(jì)、安全評(píng)估或者第三方審計(jì)，給產(chǎn)業(yè)發(fā)展造成了沉重負(fù)擔(dān)，可謂“數(shù)字經(jīng)濟(jì)的幼兒，數(shù)據(jù)監(jiān)管的巨匠”。我國(guó)在信息內(nèi)容安全領(lǐng)域已經(jīng)具備相較于其他國(guó)家更多的實(shí)踐經(jīng)驗(yàn)，堅(jiān)持分層治理，尤其是加強(qiáng)生成內(nèi)容的專門(mén)化治理，可避免合規(guī)成本過(guò)高阻礙深度合成產(chǎn)業(yè)的發(fā)展。
第二， 區(qū)分技術(shù)、產(chǎn)業(yè)和應(yīng)用層面分級(jí)分類設(shè)計(jì)制度，在技術(shù)與產(chǎn)業(yè)層面加大扶持力度，在應(yīng)用層面參考現(xiàn)有分級(jí)分類標(biāo)準(zhǔn)完善監(jiān)管制度。鑒于深度合成發(fā)展需要大量資源、開(kāi)展技術(shù)競(jìng)賽，集中力量發(fā)展技術(shù)、產(chǎn)業(yè)將成為我國(guó)的必然選擇，因此需針對(duì)某些特定企業(yè)和信息基礎(chǔ)設(shè)施加強(qiáng)人工智能倫理監(jiān)管、網(wǎng)絡(luò)安全和數(shù)據(jù)安全保障。如我國(guó)《新型數(shù)據(jù)中心發(fā)展三年行動(dòng)計(jì)劃（2021——2023年）》提出新型數(shù)據(jù)中心應(yīng)具備高技術(shù)、高算力、高能效、高安全等特征。在深度合成應(yīng)用層面，可參考現(xiàn)有的分級(jí)分類標(biāo)準(zhǔn)，依據(jù)其輿論屬性或者社會(huì)動(dòng)員能力、內(nèi)容類別、用戶規(guī)模、對(duì)用戶行為的干預(yù)程度等實(shí)施分級(jí)分類管理。因?yàn)樵诂F(xiàn)階段通過(guò)一部法律來(lái)協(xié)調(diào)對(duì)所有人工智能系統(tǒng)的監(jiān)管，顯然很難保證立法的高度適用性。
第三， 應(yīng)建立敏捷治理體系，并留足前瞻性制度發(fā)展空間，以保障技術(shù)的長(zhǎng)遠(yuǎn)發(fā)展。對(duì)于一個(gè)調(diào)整范圍廣泛、潛在的變革性立法框架來(lái)說(shuō)，過(guò)于寬泛和固定的人工智能立法并不適當(dāng)。人工智能專家和非專業(yè)公民之間的認(rèn)識(shí)不對(duì)稱可能促使風(fēng)險(xiǎn)監(jiān)管?chē)?yán)重依賴專家的判斷。深度合成的發(fā)展正在迅速催生多個(gè)產(chǎn)業(yè)和價(jià)值生產(chǎn)模式，合成數(shù)據(jù)、數(shù)字孿生、數(shù)字人、元宇宙等未來(lái)的制度發(fā)展都需要治理的敏捷應(yīng)對(duì)。正如專家調(diào)查了歐盟現(xiàn)有的治理方案之后得出的結(jié)論：“人工智能將重新需要一個(gè)靈活和反應(yīng)迅速的治理框架，以最大限度地提高其重新應(yīng)對(duì)不斷變化的風(fēng)險(xiǎn)和問(wèn)題的能力。”
五、結(jié)語(yǔ)
深度合成已經(jīng)成為世界人工智能領(lǐng)域競(jìng)爭(zhēng)的新賽道，以ChatGPT、元宇宙為代表的一批風(fēng)靡全球的應(yīng)用技術(shù)為人類譜寫(xiě)數(shù)字化生存的新篇章提供了無(wú)限可能。掌握人工智能治理的話語(yǔ)權(quán)、規(guī)則制定權(quán)，搶先形成新的國(guó)家競(jìng)爭(zhēng)優(yōu)勢(shì)，已經(jīng)成為世界不同法域的努力目標(biāo)。我國(guó)在個(gè)人信息保護(hù)和數(shù)據(jù)立法領(lǐng)域，可以說(shuō)與歐盟、美國(guó)并行，在算法治理和深度合成治理領(lǐng)域則成為一定意義上的領(lǐng)跑者。然而，領(lǐng)跑不代表嚴(yán)苛，過(guò)強(qiáng)的監(jiān)管并不一定形成制度競(jìng)爭(zhēng)優(yōu)勢(shì)；符合我國(guó)本土經(jīng)濟(jì)、社會(huì)、政治、價(jià)值觀，能夠促進(jìn)我國(guó)深度合成產(chǎn)業(yè)長(zhǎng)遠(yuǎn)健康合法發(fā)展的治理制度，才是我國(guó)真正的制度競(jìng)爭(zhēng)優(yōu)勢(shì)。歐盟正在不遺余力地努力成為人工智能治理的全球領(lǐng)導(dǎo)者，加強(qiáng)繼續(xù)引領(lǐng)圍繞人工智能監(jiān)管的全球標(biāo)準(zhǔn)的討論。在這一背景下，既保障急用先行，避免新興技術(shù)帶來(lái)的問(wèn)題，又不急于推行過(guò)于嚴(yán)格的人工智能方案以提高制度的可用性，是我國(guó)深度合成人工智能立法的努力方向。一方面在算法監(jiān)管的經(jīng)驗(yàn)與框架中，繼續(xù)推進(jìn)深度合成的治理；另一方面在深度合成治理的探索中，逐步形成通用人工智能立法的經(jīng)驗(yàn)，為未來(lái)統(tǒng)籌算法、算力、數(shù)據(jù)的人工智能治理作出更多有益嘗試，是目前深度合成治理路徑的最佳選擇。深度合成的治理，生長(zhǎng)于算法治理，既需借助算法治理的既有制度資源與框架，又需要?jiǎng)?chuàng)新性地發(fā)展其作為人工智能專門(mén)領(lǐng)域的監(jiān)管工具、分類分級(jí)制度、責(zé)任鏈條分配體系。我國(guó)深度合成的治理應(yīng)適應(yīng)中國(guó)本土亟需發(fā)展生成型人工智能產(chǎn)業(yè)的需求，同時(shí)發(fā)揮中國(guó)既有的信息內(nèi)容治理優(yōu)勢(shì)，以形成在全球更具影響力的深度合成治理法律制度體系。
【作者簡(jiǎn)介】
張凌寒，中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授。