AI善治論壇在京召開發(fā)布《人工智能法（學(xué)者建議稿）》
2024年3月16日上午，“AI善治論壇 人工智能法律治理前瞻”專題研討會在北京友誼賓館順利舉辦，會議發(fā)布了《中華人民共和國人工智能法（學(xué)者建議稿）》，起草專家組由中國政法大學(xué)數(shù)據(jù)法治研究院、西北政法大學(xué)法治學(xué)院、中國信息通信研究院、北京航空航天大學(xué)法學(xué)院、華東政法大學(xué)數(shù)字法治研究院、西南政法大學(xué)科技法學(xué)研究院、中南政法大學(xué)知識產(chǎn)權(quán)研究中心七家單位的專家組成。來自北京大學(xué)、清華大學(xué)、中國人民大學(xué)、中國人民公安大學(xué)、中國社會科學(xué)院、對外經(jīng)濟貿(mào)易大學(xué)、北京電子科技學(xué)院等二十余所全國高校的專家學(xué)者出席了此次會議。
會議探討了如何更好地引導(dǎo)和規(guī)范未來人工智能產(chǎn)業(yè)的健康發(fā)展。起草專家組經(jīng)過一年的緊張工作，特邀國內(nèi)人工智能治理領(lǐng)域的技術(shù)專家、法律專家、實務(wù)專家提出建議，為完善《人工智能法（學(xué)者建議稿）》提出具體意見，共同回應(yīng)現(xiàn)實需求，為立法建言獻策。會議分為兩個單元，分別就《人工智能法（學(xué)者建議稿）》和人工智能法律治理問題進行了深入的交流和討論。
中國政法大學(xué)副校長、數(shù)據(jù)法治研究院院長時建中教授對各位專家學(xué)者的到來表示歡迎并致辭。時建中指出，人工智能立法，需要明確《人工智能法（學(xué)者建議稿）》的定位和目標，確定調(diào)整范圍和對象，提煉需要立法解決的問題，特別是重點問題，進而提出相應(yīng)的法律對策，并為技術(shù)進步和制度完善預(yù)留接口。同時，時建中教授認為，研究人工智能立法，對于人工智能相關(guān)學(xué)科的發(fā)展有著特別的助推作用。
第一單元 《人工智能法（學(xué)者建議稿）》交流
《法律科學(xué)》主編、西北政法大學(xué)法治學(xué)院教授楊建軍介紹了起草專家組成員，并就《人工智能法（學(xué)者建議稿）》起草背景進行了說明。起草專家組牽頭專家為聯(lián)合國高級別人工智能咨詢組的中方專家、中國政法大學(xué)數(shù)據(jù)法治研究院張凌寒教授，專家組成員包括《法律科學(xué)》主編、西北政法大學(xué)法治學(xué)院楊建軍教授；中國信通院政策與經(jīng)濟研究所程瑩高級工程師；北京航空航天大學(xué)法學(xué)院院長助理趙精武副教授；華東政法大學(xué)數(shù)字法治研究院副院長韓旭至副教授；西南政法大學(xué)科技法學(xué)院副院長鄭志峰教授；中南財經(jīng)政法大學(xué)知識產(chǎn)權(quán)研究中心徐小奔副教授。楊建軍教授指出推出《人工智能法（學(xué)者建議稿）》有如下三點動因：一是彰顯主張。本建議稿明確主張“高擎發(fā)展旗幟，彰顯人本主義”�，F(xiàn)階段的中國的人工智能立法需明確發(fā)展目標，推動建立人工智能技術(shù)產(chǎn)業(yè)健康發(fā)展的良好生態(tài)。在制度設(shè)計中應(yīng)彰顯人本主義，貫徹我國《全球人工智能治理倡議》中“以人為本”的人工智能治理主張。二是聚焦問題。學(xué)者建議稿意在拋磚引玉，通過對制度設(shè)計的重點和焦點問題的討論，為我國人工智能立法提供參考。三是凝練共識。未來由會議主辦單位成立的AI善治研究共同體，將組織系列論壇。匯聚各界主張與觀點，在多輪討論中深化產(chǎn)學(xué)研共識，營造監(jiān)管、學(xué)界和業(yè)界充分交流的良好生態(tài)。
主持人中國政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒對《人工智能法（學(xué)者建議稿）》的總體情況進行了介紹。建議稿共九章九十六條，主要內(nèi)容包括一般原則、發(fā)展與促進、權(quán)益保護、安全義務(wù)、監(jiān)督管理、特殊應(yīng)用場景、國際合作、法律責(zé)任等，涵蓋未來人工智能治理的主要問題。張凌寒教授指出《人工智能法（學(xué)者建議稿）》以促進產(chǎn)業(yè)發(fā)展為主要特色。她指出，在目前全球激烈競爭的格局下，“不發(fā)展是最大的不安全”。我國人工智能產(chǎn)業(yè)“領(lǐng)先的追趕者”的獨特國際生態(tài)位要求我們在技術(shù)和產(chǎn)業(yè)的國際競爭中必須以發(fā)展為制度設(shè)計的主要目標，安全問題也需要通過技術(shù)發(fā)展來回應(yīng)和解決。因此《人工智能法（學(xué)者建議稿）》中設(shè)立“促進與發(fā)展”專章，也在監(jiān)督管理、責(zé)任設(shè)置等方面對此予以充分考慮，減輕人工智能產(chǎn)品和服務(wù)提供者的義務(wù)。
專家組成員趙精武副教授、韓旭至副教授、徐小奔副教授、程瑩高級工程師、鄭志峰教授分章節(jié)對《人工智能法（學(xué)者建議稿）》進行了介紹。
關(guān)于第一章“總則”，北京航空航天大學(xué)法學(xué)院院長助理、副教授趙精武指出“總則”部分的立法亮點主要有四個方面。第一，法治與德治結(jié)合，強調(diào)科技倫理審查的重要性�！度斯ぶ悄芊ǎ▽W(xué)者建議稿）》將科技倫理審查原則置于所有基本原則首位，強調(diào)人工智能產(chǎn)業(yè)發(fā)展過程中科技倫理的重要調(diào)控作用。任何技術(shù)的創(chuàng)新發(fā)展都不應(yīng)當(dāng)以犧牲個人權(quán)益為代表，人工智能的技術(shù)應(yīng)用同樣需要符合科技倫理的基本要求。并且，科技倫理審查的內(nèi)容會隨著技術(shù)創(chuàng)新而一同變化，能夠靈活地根據(jù)人工智能技術(shù)發(fā)展前沿有所變化。第二，將人工智能安全拆解為數(shù)項基本原則�！度斯ぶ悄芊ǎ▽W(xué)者建議稿）》在基本原則層面將人工智能安全這一立法目標予以細化拆解為公平公正原則、透明可解釋原則、安全可問責(zé)原則、正當(dāng)使用原則。第三，算力資源發(fā)展成為基本原則的重要內(nèi)容�！度斯ぶ悄芊ǎ▽W(xué)者建議稿）》提出了發(fā)展基礎(chǔ)設(shè)施和綠色發(fā)展原則，這兩項基本原則與算力資源統(tǒng)籌規(guī)劃、算力互聯(lián)互通等基礎(chǔ)制度密切相關(guān)。第四，明確人工介入原則，最大限度控制技術(shù)風(fēng)險�！度斯ぶ悄芊ǎ▽W(xué)者建議稿）》創(chuàng)新性地提出人工介入基本原則，避免完全自動化決策對個人權(quán)益可能產(chǎn)生的負面影響。并且，在兼顧技術(shù)創(chuàng)新與技術(shù)安全的雙重立法目標下，通過人工介入的方式最大限度地預(yù)防用戶終端可能產(chǎn)生的各類技術(shù)安全風(fēng)險，避免對技術(shù)研發(fā)環(huán)節(jié)作出過多的限制。
關(guān)于第二章“發(fā)展與促進”，華東政法大學(xué)數(shù)字法治研究院副院長韓旭至副教授認為，《人工智能法（學(xué)者建議稿）》重點考慮以下內(nèi)容：一是立足人工智能三要素設(shè)置促進措施。在算力層面，提出加強算力基礎(chǔ)設(shè)施建設(shè)，推動算力標準體系建設(shè)，建立算力基礎(chǔ)設(shè)施資源調(diào)度機制，推動公共算力資源平臺建設(shè)與利用；在算法層面，提出要支持算法與關(guān)鍵技術(shù)創(chuàng)新，加強算法模型保護，推進開源生態(tài)建設(shè)；在數(shù)據(jù)層面，提出要提升高質(zhì)量數(shù)據(jù)要素供給能力，建立人工智能產(chǎn)業(yè)數(shù)據(jù)資源統(tǒng)籌機制，建立人工智能數(shù)據(jù)資源共享機制等措施。二是設(shè)置人工智能保險制度，鼓勵保險公司探索和開發(fā)適于人工智能產(chǎn)品和服務(wù)的網(wǎng)絡(luò)安全保險、第三方責(zé)任險等，鼓勵構(gòu)建人工智能保險責(zé)任機制。三是強化提升數(shù)字素養(yǎng)，政府應(yīng)當(dāng)提升數(shù)字公共服務(wù)，推進無障礙環(huán)境建設(shè)，組織開展經(jīng)常性的人工智能科普及相關(guān)法律宣傳教育工作。
關(guān)于第三章“使用者權(quán)益保護”，北京航空航天大學(xué)法學(xué)院院長助理、副教授趙精武重點強調(diào)了以下內(nèi)容。一是將平等權(quán)作為使用者權(quán)益保護的首項權(quán)利，能夠預(yù)防“唯數(shù)據(jù)主義”導(dǎo)致的人工智能產(chǎn)品、服務(wù)被應(yīng)用于不合理、不科學(xué)的社會群體分類目的。二是將知情權(quán)作為使用者權(quán)益保護的重要內(nèi)容之一，因為該項權(quán)利是使用者行使其他權(quán)利的前提條件，只有充分知曉人工智能產(chǎn)品、服務(wù)的基本情況，使用者才能合理地評估和判斷是否要采取相應(yīng)的措施。三是正面回應(yīng)了生成內(nèi)容知識產(chǎn)權(quán)問題，《人工智能法（學(xué)者建議稿）》采用“按照貢獻程度”的動態(tài)認定模式明確相關(guān)的權(quán)利主體，并且明確按照現(xiàn)行的著作權(quán)法或?qū)＠▽ι蓛?nèi)容是否構(gòu)成“作品”或者“發(fā)明創(chuàng)造”予以判斷；同時，《人工智能法（學(xué)者建議稿）》明確否定了人工智能作為權(quán)利主體的可能性，僅允許個人、法人等法律主體作為著作權(quán)或?qū)＠麢?quán)的權(quán)利主體。四是關(guān)注勞動者和數(shù)字弱勢群體權(quán)益保護，《人工智能法（學(xué)者建議稿）》針對人工智能技術(shù)被用于人力資源管理活動這一情形，明確規(guī)定禁止用人單位侵害勞動者的合法權(quán)益，尤其是利用人工智能技術(shù)對勞動者的工作情況開展不合理、不合法的監(jiān)控活動，禁止完全依據(jù)人工智能決策結(jié)果作出懲罰、解雇等決定。此外，《人工智能法（學(xué)者建議稿）》還特別關(guān)注到數(shù)字弱勢群體可能面臨的數(shù)字鴻溝問題，明確人工智能開發(fā)者、提供者應(yīng)當(dāng)專門增設(shè)面向數(shù)字弱勢群體權(quán)益保護的特殊功能模塊。
關(guān)于第四章“義務(wù)規(guī)范”，中南財經(jīng)政法大學(xué)知識產(chǎn)權(quán)研究中心徐小奔副教授介紹了人工智能開發(fā)者與提供者的義務(wù)與規(guī)范�！度斯ぶ悄芊ǎ▽W(xué)者建議稿）》重點區(qū)分了一般人工智能和關(guān)鍵人工智能，強調(diào)關(guān)鍵人工智能需要在組織機構(gòu)、風(fēng)險評估、風(fēng)險披露、安全應(yīng)急處理等方面所應(yīng)該承擔(dān)的關(guān)鍵義務(wù)，同時應(yīng)該在不同行業(yè)領(lǐng)域?qū)﹃P(guān)鍵人工智能作出特別規(guī)范。徐小奔教授在發(fā)言中提到根據(jù)流程階段設(shè)計義務(wù)規(guī)范的重要性，即在開發(fā)階段、提供階段對于人工智能的正確使用提出不同的義務(wù)要求。最后，徐小奔教授強調(diào)了知識產(chǎn)權(quán)利益平衡規(guī)范的重要性，《人工智能法（學(xué)者建議稿）》對于人工智能產(chǎn)品或服務(wù)的開發(fā)、提供、使用等環(huán)節(jié)中涉及的知識產(chǎn)權(quán)問題進行了回應(yīng)，力求在現(xiàn)有法律框架內(nèi)探索有益于促進人工智能健康發(fā)展的制度安排，使人工智能立法與知識產(chǎn)權(quán)強國戰(zhàn)略綱要等國家知識產(chǎn)權(quán)戰(zhàn)略相一致。
關(guān)于第五章“監(jiān)督管理”，中國信通院政策與經(jīng)濟研究所高級工程師程瑩從監(jiān)管統(tǒng)籌協(xié)調(diào)機制、分級分類監(jiān)管模式、完善人工智能監(jiān)管舉措三方面介紹了《人工智能法（學(xué)者建議稿）》亮點。其一，建立人工智能監(jiān)管統(tǒng)籌協(xié)調(diào)機制，發(fā)揮其在戰(zhàn)略規(guī)劃、風(fēng)險管控、規(guī)則制定、社會服務(wù)體系建立等方面的總體協(xié)調(diào)作用；相關(guān)人工智能主管部門則在各自職責(zé)范圍內(nèi)負責(zé)規(guī)范制定和宣傳指導(dǎo)等工作。其二，建立分級分類監(jiān)管制度，根據(jù)技術(shù)發(fā)展、行業(yè)領(lǐng)域、應(yīng)用場景等因素動態(tài)調(diào)整人工智能分級分類標準，對關(guān)鍵人工智能實施特殊監(jiān)管，確保關(guān)鍵人工智能風(fēng)險可控。其三，完善監(jiān)管沙箱試點制度，一方面在準入條件、風(fēng)險評估、審計、法律責(zé)任等方面給予主體相應(yīng)便利、激勵或者責(zé)任減免，為人工智能技術(shù)產(chǎn)業(yè)發(fā)展提供寬松環(huán)境；另一方面加強風(fēng)險管控和評估評測，統(tǒng)籌建立國家人工智能評估評測平臺，發(fā)揮多元協(xié)同力量，優(yōu)化評估認證社會化服務(wù)及評測結(jié)果互認。
關(guān)于第六章“特殊領(lǐng)域義務(wù)”，中南財經(jīng)政法大學(xué)知識產(chǎn)權(quán)研究中心徐小奔副教授介紹了《人工智能法（學(xué)者建議稿）》對通用人工智能研發(fā)、基礎(chǔ)模型應(yīng)用活動提出的特殊義務(wù)。就國家機關(guān)使用人工智能的活動，以及通用人工智能、司法、新聞、醫(yī)療、生物識別、自動駕駛等重要領(lǐng)域人工智能，《人工智能法（學(xué)者建議稿）》重點明確了相關(guān)利用規(guī)則。徐小奔教授介紹，對于超越人類智能、具有顯著不可控風(fēng)險的通用人工智能研發(fā)者，應(yīng)當(dāng)在研發(fā)活動中，采用價值對齊等技術(shù)手段確保風(fēng)險可控，根據(jù)風(fēng)險、系統(tǒng)能力進行階段性風(fēng)險評估，向人工智能主管部門報送紅隊測試結(jié)果、嚴重安全事件等信息�；A(chǔ)模型應(yīng)用于千行百業(yè)，建議稿對基礎(chǔ)模型衍生開發(fā)、開源模型使用限制作出要求。
關(guān)于第七章“國際合作”，中國政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒就國際治理、反制措施、打擊犯罪進行重點介紹。一是明確人工智能國際治理規(guī)則�！度斯ぶ悄芊ǎ▽W(xué)者建議稿）》提出共同、綜合、合作、可持續(xù)的全球安全觀，堅持發(fā)展和安全并重的原則。人工智能安全風(fēng)險全球化背景下，應(yīng)當(dāng)重視人工智能治理的國際合作與交流，積極參與制定人工智能有關(guān)國際規(guī)則、標準，促進形成具有廣泛共識的人工智能治理框架和標準規(guī)范，防范人工智能安全風(fēng)險，推動構(gòu)建開放、公正、有效的全球人工智能治理機制。同時，作為聯(lián)合國安全理事會常任理事國之一，中國履行聯(lián)合國安全理事會常任理事國的應(yīng)盡責(zé)任，積極參與全球人工智能治理，維護聯(lián)合國安全理事會權(quán)威與地位。二是制定反制條款。面對美國等發(fā)達國家試圖通過制裁手段遏制中國的人工智能發(fā)展的國際競爭局勢，《人工智能法（學(xué)者建議稿）》對此專門制定反制條款以維護國家利益。三是強調(diào)打擊人工智能犯罪的國際合作。全球化背景下，人工智能犯罪具有跨國性，打擊人工智能犯罪需要加強國際間的執(zhí)法、司法合作。
關(guān)于第八章“法律責(zé)任”，西南政法大學(xué)科技法學(xué)研究院教授鄭志峰從行政責(zé)任、民事責(zé)任和免責(zé)事由三方面進行了介紹。首先，《人工智能法（學(xué)者建議稿）》對行政責(zé)任進行了規(guī)定，設(shè)置了行政處罰的一般條款，包括暫停新使用者注冊、下架應(yīng)用、停止更新等措施，以及針對嚴重違法行為的罰款和從業(yè)禁止措施。其二，《人工智能法（學(xué)者建議稿）》規(guī)定了民事責(zé)任。提供者的民事責(zé)任根據(jù)一般人工智能與關(guān)鍵人工智能進行區(qū)分，前者采取過錯歸責(zé)，后者適用過錯推定責(zé)任；使用者的民事責(zé)任則明確適用過錯責(zé)任�！度斯ぶ悄芊ǎ▽W(xué)者建議稿）》規(guī)定提供者與使用者共同承擔(dān)責(zé)任的情形，以與產(chǎn)品責(zé)任相協(xié)調(diào)。針對人工智能服務(wù)提供者規(guī)定了新的避風(fēng)港規(guī)則，明確其與使用者的責(zé)任承擔(dān)。此外，《人工智能法（學(xué)者建議稿）》還規(guī)定了懲罰性賠償、保險責(zé)任與公益訴訟。其三，關(guān)于免責(zé)事由，《人工智能法（學(xué)者建議稿）》一方面明確了利用基礎(chǔ)模型以及開源基礎(chǔ)模型從事人工智能研發(fā)、提供、使用活動的，由衍生利用一方承擔(dān)法律責(zé)任，同時基礎(chǔ)模型提供者需要負擔(dān)適當(dāng)?shù)淖⒁饬x務(wù)；另一方面規(guī)定了合規(guī)免責(zé)條款，明確開發(fā)者、提供者、使用者在合規(guī)基礎(chǔ)可以相應(yīng)豁免行政和刑事責(zé)任。
第二單元 人工智能法律治理問題研討
該單元由中國信通院政策與經(jīng)濟研究所高級工程師程瑩擔(dān)任主持人，她談到Chat GPT的廣泛應(yīng)用變革人類社會的生產(chǎn)生活方式，需要我們從更深層次了解大模型和人工智能。我國目前正處于邊發(fā)展邊治理的過程，無論是對學(xué)術(shù)研究還是監(jiān)管層面都提出了更高的要求。人工智能立法要結(jié)合實際探索的過程，而非照搬國外。在此背景下，希望以《人工智能法（學(xué)者建議稿）》為靶點推動政產(chǎn)學(xué)研各方面討論交流。
清華大學(xué)計算機系教授、國家高端計劃人才張敏提出：第一，目前我國在人工智能硬件上面臨較大的卡脖子風(fēng)險，未來人工智能會實現(xiàn)軟硬件結(jié)合的技術(shù)突破，《人工智能法（學(xué)者建議稿）》可以增加有關(guān)人工智能硬件方面的促進性規(guī)定。第二，術(shù)語定義有待進一步明確。關(guān)于人工智能的定義，即人工智能是探討用計算機來模擬人類智能行為的科學(xué)。關(guān)于人工智能研發(fā)者的定義，目前的定義僅覆蓋到了特別小的部分，實際上產(chǎn)品和服務(wù)只是其中的一點，人工智能研發(fā)者還涉及從事機理、模型、算法，軟件和硬件的研究和開發(fā)活動的個人和組織。關(guān)于通用人工智能的定義，建議將效果和定義區(qū)分開，暫且不論其是否達到人類的智力水平，只要其模擬人類智能行為即可。比較準確的描述是，通用人工智能具有比較廣泛的認知能力，在不同任務(wù)里理解和學(xué)習(xí)完成特定任務(wù)。立法既要看到通用人工智能，也不要忽略領(lǐng)域和專業(yè)人工智能。第三，人工智能是一門科學(xué)，應(yīng)當(dāng)把人工智能的方法、技術(shù)、系統(tǒng)、產(chǎn)品和服務(wù)區(qū)分開來。第四，關(guān)于人工智能研發(fā)者、提供者“不得收集非必要個人信息”的要求，什么是“必要的”不太容易界定，是否考慮強調(diào)用戶知情和授權(quán)更為合適。第五，關(guān)于特殊領(lǐng)域、關(guān)鍵人工智能的范圍無法實現(xiàn)完全列舉，可以進行概括性描述。此外，社交機器人的提法可以再進一步完善。
北京大學(xué)法學(xué)院副院長、副教授戴昕指出：第一，需要建設(shè)比較客觀的認知環(huán)境，使用戶或者公眾理解如何規(guī)范應(yīng)用人工智能。如果有風(fēng)險，應(yīng)當(dāng)明確風(fēng)險的具體指向。第二，需要優(yōu)化數(shù)據(jù)供給環(huán)境。數(shù)據(jù)要素供給是一個一般性的討論，相關(guān)部門如果希望將公共數(shù)據(jù)向人工智能產(chǎn)業(yè)開放和授權(quán)利用，需要有明確的指引。第三，可以結(jié)合保險機制設(shè)計責(zé)任救濟制度。在結(jié)合保險與合規(guī)免責(zé)的基礎(chǔ)上，可以考慮運行成本更低的嚴格責(zé)任，避免人工智能領(lǐng)域過錯責(zé)任認定帶來的復(fù)雜問題。
中國社會科學(xué)院法學(xué)研究所研究員支振鋒提出：第一，我國《人工智能法》應(yīng)基于自身實踐和國情，同時廣泛吸納借鑒歐盟，美國等人工智能相關(guān)立法。第二，法律必須服從規(guī)律，法律不能挑戰(zhàn)規(guī)律，人工智能立法不能突破人工智能技術(shù)創(chuàng)新規(guī)律、人工智能產(chǎn)業(yè)發(fā)展以及立法內(nèi)在規(guī)律。第三，立法的關(guān)鍵在于解決問題。要找準當(dāng)前中國人工智能開發(fā)利用中存在的具體實踐問題，在立法中給出綜合性、框架性解決方案。第四，人工智能立法中涉及的數(shù)據(jù)要素供給、防止個體生物識別信息濫用等問題，有賴于相關(guān)立法的協(xié)同推進。第五，應(yīng)當(dāng)成立人工智能發(fā)展與監(jiān)管的主管部門，避免九龍治水。第六， 人工智能立法涉及的相關(guān)主體，如人工智能研發(fā)者、提供者和使用者等，要與我國既有立法體例相協(xié)調(diào)。
中國人民大學(xué)未來法治研究院執(zhí)行院長、法學(xué)院副教授張吉豫認為，人工智能法在把控風(fēng)險的同時，也要促進人工智能發(fā)展。事前的科技倫理審查確有必要，但可以考慮刪除一些不必要的事前義務(wù)。對于所有大型基礎(chǔ)模型未來是否都進行較嚴的監(jiān)管是需要考慮的，并非所有人工智能均需要備案，備案是進入市場的前置要求還是僅為一項待完成的任務(wù)有待思考。從促發(fā)展的角度而言，監(jiān)管行為本身的規(guī)范也是比較重要的方面。責(zé)任方面，絕大多數(shù)情況下適用過錯責(zé)任原則是比較合適的，法律責(zé)任條款之間的銜接性有待明確。服務(wù)提供者的定義需要進一步明確，因為這涉及責(zé)任界定問題。條款主要針對生成式人工智能，對于其他類型人工智能的服務(wù)提供者也應(yīng)納入討論范疇。
中國人民公安大學(xué)數(shù)據(jù)法學(xué)研究院院長、法學(xué)院教授蘇宇提到，第一，關(guān)于統(tǒng)籌規(guī)劃的問題。統(tǒng)籌規(guī)劃條款不一定適用人工智能，建議克服思維定式。第二，不能把人工智能法的調(diào)整對象默認為大模型或者生成式人工智能。諸多條款主要針對生成式人工智能，會對大部分人工智能產(chǎn)生限制效果。例如大部分人工智能產(chǎn)品并不會涉及隱私保護問題，也不需要訓(xùn)練數(shù)據(jù)，應(yīng)當(dāng)充分考慮人工智能的多樣性。第三，研發(fā)者例外問題。針對投放市場和科研專用這兩種情形的例外制度是必要的。研發(fā)者不能默認為大企業(yè)，還可能是個人從事人工智能研發(fā)，例如個人研發(fā)者進行人工智能研發(fā)沒有能力建立科技倫理審查委員會。第四，定義問題。一是機器學(xué)習(xí)和強化學(xué)習(xí)是不能并列的；二是訓(xùn)練數(shù)據(jù)的定義與歐盟人工智能法的差異較大，歐盟的定義更為合理。此外，人工智能研發(fā)者、通用人工智能的定義也有待進一步討論。第五，大模型技術(shù)治理的細節(jié)問題。例如，在大部分情況下在輸出時標注數(shù)據(jù)來源是不現(xiàn)實的，建議加入“盡可能”。第六，部門法細節(jié)問題。具體行政行為一詞已經(jīng)用得比較少了，行政罰款也是一個比較怪的用法。國家機關(guān)作出行政行為只符合法律和行政法規(guī)的規(guī)定是不夠的。
對外經(jīng)貿(mào)大學(xué)法學(xué)院數(shù)字經(jīng)濟與法律創(chuàng)新研究中心主任、副教授許可指出，人工智能法是一部非常難立的法。為此，在立法之前，應(yīng)當(dāng)有非常審慎的準備。首先，有必要先確立一個可行、漸進和包容的“立法議程”，即引入企業(yè)、學(xué)界、技術(shù)專家、社會公眾和政府部門等多利益相關(guān)方，遵循商談邏輯和議題形成程序，就人工智能法的步驟、議題和解決方案凝聚社會共識，推動市場、科技、監(jiān)管和全球治理的同頻共振。其次，應(yīng)明確人工智能法的定位問題，是采取體系導(dǎo)向型立法還是問題導(dǎo)向型立法。再次，應(yīng)明確人工智能法的性質(zhì)問題，是管理法、促進法、權(quán)利法、交易法，還是保護法。第四，應(yīng)明確人工智能法的立法宗旨，是基于風(fēng)險的規(guī)制還是基于權(quán)利的保障。第五，應(yīng)明確人工智能法的聚焦問題，梳理發(fā)展中的具體瓶頸，以及可能面臨的具體風(fēng)險點。第六，應(yīng)明確人工智能法的限度。人工智能法存在內(nèi)在與外在的限制，就內(nèi)在限制而言，要協(xié)調(diào)好倫理、技術(shù)、法律之間的關(guān)系，就外在限制而言，要考慮其與個保法、數(shù)安法、網(wǎng)安法等法律的銜接問題，對此可以使用模塊化立法方案。
中國社會科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春談到，《人工智能法（學(xué)者建議稿）》針對復(fù)雜而動態(tài)的人工智能行業(yè)發(fā)展，秉持促進發(fā)展和行業(yè)規(guī)范并重的思路，勾勒了基本原則體系，建構(gòu)了基本的立法框架，確立了“研發(fā)者、提供者、使用者”的主體類型并分別設(shè)置權(quán)利義務(wù)和法律責(zé)任，對我國人工智能立法進程具有實質(zhì)性的貢獻。她接著從完善角度提出以下三方面建議。第一，人工智能領(lǐng)域主體類型化和權(quán)利義務(wù)、法律責(zé)任匹配的問題。使用者的主體范圍要充分考慮作為消費者的用戶之外的商業(yè)使用主體來設(shè)置相關(guān)規(guī)則；提供者和研發(fā)者的義務(wù)體系，應(yīng)當(dāng)考慮兩者之間義務(wù)匹配的區(qū)分和銜接，避免研發(fā)者義務(wù)過重，且根據(jù)提供者的可能業(yè)態(tài)來配置義務(wù)和責(zé)任，特別是充分考慮應(yīng)用層功能的提供者，和開源生態(tài)的情況。第二，建議在立法上構(gòu)建支撐人工智能發(fā)展的促進型基礎(chǔ)設(shè)施，例如建立促進高質(zhì)量數(shù)據(jù)集合的生產(chǎn)和獲取、促進算力資源優(yōu)化分配的基礎(chǔ)機制等。第三，在承擔(dān)加重義務(wù)的特定類型人工智能部分，例如關(guān)鍵人工智能、通用人工智能、特殊類型人工智能等，建議明確科學(xué)、清晰、風(fēng)險導(dǎo)向的基礎(chǔ)概念和類型，為人工智能產(chǎn)業(yè)快速健康發(fā)展樹立具有較強確定性的規(guī)則和責(zé)任機制。
北京電子科技學(xué)院副教授王玎認為，第一，將“立法依據(jù)”改為“立法目的”，立法目的決定人工智能立法定位和內(nèi)容范疇，是人工智能法基本原則的原則。人工智能法應(yīng)有三個直接目的和一個根本目的。三個直接目的是“支持、規(guī)范、防范”，即推動人工智能技術(shù)、產(chǎn)業(yè)創(chuàng)新發(fā)展，規(guī)范人工智能研發(fā)、提供、使用活動，防范人工智能技術(shù)應(yīng)用損害國家安全和個人、組織的合法權(quán)益。一個根本目的是“推動人工智能技術(shù)支撐和引領(lǐng)經(jīng)濟社會發(fā)展，增進人民群眾福祉，全面建設(shè)社會主義現(xiàn)代化國家”。第二，將“政務(wù)人工智能”改為“國家機關(guān)使用人工智能”，建議對行政機關(guān)使用人工智能的范圍、條件、程序作出明確規(guī)定。
最后，中國政法大學(xué)副校長、數(shù)據(jù)法治研究院院長時建中為會議做了總結(jié)發(fā)言，他指出立法是一件非常不容易的事情，各位專家對《人工智能法（學(xué)者建議稿）》提出了非常具有建設(shè)性的意見。并指出，基本概念的界定十分重要，如何將技術(shù)術(shù)語轉(zhuǎn)換為法律語言值得思考。通過法律和技術(shù)良性互動，促進人工智能向善發(fā)展。
結(jié)束語
本次“AI善治論壇”研討會的成功召開，為未來我國人工智能立法和實踐提供了寶貴的參考經(jīng)驗，更為我國人工智能法律的未來發(fā)展提供了寶貴的思路和方向。
未來“AI善治論壇”也將不斷探索與實踐，力爭成為推動我國人工智能領(lǐng)域治理進步的重要平臺。論壇將密切關(guān)注人工智能發(fā)展動態(tài)和治理重點，定期舉辦會議，匯聚各方智慧，總結(jié)人工智能治理的最佳實踐和最新進展，推動建立健全我國人工智能治理體系，確保技術(shù)發(fā)展與社會價值觀的和諧統(tǒng)一，以“善治”促“善智”，使AI善治論壇成為促進我國人工智能健康發(fā)展的重要力量，助力中國人工智能立法發(fā)展。
本次會議得到了《法律科學(xué)》《法商研究》《現(xiàn)代法學(xué)》《華東政法大學(xué)學(xué)報》《北京航空航天大學(xué)學(xué)報(社會科學(xué)版)》《北方法學(xué)》《數(shù)字法學(xué)評論》《北航法律評論》的大力支持。
附《中華人民共和國人工智能法（學(xué)者建議稿）》
