2024年6月8日,北京大學(xué)數(shù)字法治年度論壇(2024)在北京大學(xué)法學(xué)院凱原樓報(bào)告廳隆重舉行。本次論壇由北京大學(xué)法學(xué)院、北京大學(xué)數(shù)字法治研究中心主辦,針對(duì)數(shù)字法治、人工智能立法等前沿議題開展跨學(xué)科研討,邀請(qǐng)學(xué)術(shù)界及實(shí)務(wù)界相關(guān)領(lǐng)域?qū)<邑暙I(xiàn)真知灼見,共同回應(yīng)時(shí)代之問。中國法學(xué)會(huì)副會(huì)長、網(wǎng)絡(luò)與信息法學(xué)研究會(huì)會(huì)長姜偉,中國法學(xué)會(huì)副會(huì)長甘藏春,全國人大常委會(huì)法制工作委員會(huì)經(jīng)濟(jì)法室主任楊合慶,國家互聯(lián)網(wǎng)信息辦公室網(wǎng)絡(luò)法治局局長李長喜,西南政法大學(xué)校長林維,中國人民大學(xué)副校長王軼,中國政法大學(xué)副校長時(shí)建中等專家學(xué)者和實(shí)務(wù)人士應(yīng)邀出席了本次會(huì)議。
北京大學(xué)數(shù)字法治研究中心成立儀式
本次論壇標(biāo)志著北京大學(xué)數(shù)字法治研究中心的成立,成立儀式由北京大學(xué)法學(xué)院戴昕副院長主持。北京大學(xué)法學(xué)院院長郭靂教授代表學(xué)院熱烈歡迎學(xué)術(shù)界、實(shí)務(wù)界嘉賓們的到來。他表示,面對(duì)新一輪技術(shù)革命,數(shù)字治理法治化和法治建設(shè)數(shù)字化已成為21世紀(jì)國家治理的核心特征。在120周年院慶之際,北京大學(xué)法學(xué)院正式成立“北京大學(xué)數(shù)字法治研究中心”,旨在更好地支持和整合校內(nèi)外研究力量,提高數(shù)字法治研究整體水平,促進(jìn)相關(guān)領(lǐng)域的學(xué)術(shù)交流和合作,并為國內(nèi)外規(guī)則制定和實(shí)踐提供理論支持和人才儲(chǔ)備。本次論壇的召開,也將為各位專家學(xué)者提供優(yōu)質(zhì)的交流平臺(tái),推動(dòng)我國數(shù)字法治事業(yè)不斷向前。


中國法學(xué)會(huì)副會(huì)長、網(wǎng)絡(luò)與信息法學(xué)研究會(huì)會(huì)長姜偉教授在致辭中指出,北京大學(xué)法學(xué)院成立數(shù)字法治研究中心并舉辦首屆數(shù)字法治年度論壇,是對(duì)北京大學(xué)法學(xué)教育特色的傳承,也是承前啟后、繼往開來的事業(yè),希望北京大學(xué)數(shù)字法治研究中心成為國內(nèi)領(lǐng)先、世界一流的學(xué)術(shù)機(jī)構(gòu),為中國數(shù)字法學(xué)教育和法律實(shí)務(wù)提供支持。姜偉會(huì)長圍繞法律規(guī)制人工智能技術(shù)的時(shí)機(jī)、法律規(guī)制人工智能技術(shù)的程度、法治保障人工智能發(fā)展的成效等問題,深入闡釋了人工智能規(guī)制的目標(biāo)、原則與方法。

會(huì)議支持單位、長春吉大正元信息技術(shù)股份有限公司董事長于逢良對(duì)北京大學(xué)法學(xué)院120周年院慶表示衷心祝賀,對(duì)吉大正元公司的發(fā)展歷程及與北大法學(xué)院的合作歷程進(jìn)行了回顧,對(duì)吉大正元公司與北京大學(xué)數(shù)字法治研究中心的合作表示了期待。

北京大學(xué)數(shù)字法治研究中心主任王錫鋅教授對(duì)各位嘉賓的參與和支持誠致謝意。他表示,數(shù)字法治研究中心的正式成立是承前啟后的重要節(jié)點(diǎn),中心將圍繞招生教學(xué)、學(xué)術(shù)交流、制度研究、國際合作四個(gè)方面的內(nèi)容展開工作,努力實(shí)現(xiàn)創(chuàng)先爭優(yōu)的目標(biāo)。

在各位嘉賓的見證下,姜偉會(huì)長、郭靂院長和王錫鋅教授共同為北京大學(xué)數(shù)字法治研究中心揭牌。


主旨演講論壇:數(shù)字法治建設(shè)的前沿議題
主旨演講論壇由北京大學(xué)數(shù)字法治研究中心主任王錫鋅教授主持。
中國法學(xué)會(huì)副會(huì)長甘藏春教授在演講中表示,數(shù)字時(shí)代正在重新定義人類的生產(chǎn)和生活方式,需要法學(xué)、經(jīng)濟(jì)學(xué)、倫理學(xué)、社會(huì)學(xué)等學(xué)科展開共同研討與應(yīng)對(duì)。數(shù)字時(shí)代所帶來的是一場根本性的法律變革,具有多維結(jié)構(gòu)、多元關(guān)系。法律如何應(yīng)對(duì)數(shù)字時(shí)代的挑戰(zhàn)至關(guān)重要,必須支持智能向善的價(jià)值導(dǎo)向,統(tǒng)籌發(fā)展與安全,構(gòu)建人權(quán)、技術(shù)權(quán)力和公權(quán)力之間的新型法律關(guān)系,運(yùn)用多種法律機(jī)制來應(yīng)對(duì)變化,加強(qiáng)國際數(shù)字法治的合作,為全球數(shù)字治理貢獻(xiàn)中國智慧。

國家互聯(lián)網(wǎng)信息辦公室網(wǎng)絡(luò)法治局李長喜局長回顧了我國全功能接入互聯(lián)網(wǎng)的三十年歷程。通過構(gòu)建完備的法律規(guī)范體系、高效的實(shí)施體系、嚴(yán)密的監(jiān)督體系以及有力的保障體系,我國網(wǎng)絡(luò)法治建設(shè)取得了顯著成就。他總結(jié)了堅(jiān)持黨的領(lǐng)導(dǎo)、以人民為中心的發(fā)展思想、服務(wù)經(jīng)濟(jì)社會(huì)發(fā)展的理念、系統(tǒng)謀劃與體系推進(jìn)以及傳承創(chuàng)新和開放合作等五大經(jīng)驗(yàn),提出要進(jìn)一步深化依法治網(wǎng)理念,構(gòu)建完備的法律規(guī)范體系、實(shí)施體系和監(jiān)督保障體系,為未來發(fā)展提供堅(jiān)實(shí)的制度保障。

全國人大常委會(huì)法制工作委員會(huì)經(jīng)濟(jì)法室楊合慶主任以“以信任與合作為出發(fā)點(diǎn)來構(gòu)建數(shù)字法治”為題進(jìn)行了主旨發(fā)言。他總結(jié)了數(shù)字時(shí)代信息傳遞去中心化、數(shù)據(jù)產(chǎn)生去中心化等特征,回顧了數(shù)字社會(huì)推進(jìn)法治建設(shè)的主線。他強(qiáng)調(diào),政府在管理數(shù)字經(jīng)濟(jì)時(shí),往往需要依賴互聯(lián)網(wǎng)平臺(tái)的技術(shù)和數(shù)據(jù)能力,政府與平臺(tái)間應(yīng)建立緊密的合作關(guān)系,以應(yīng)對(duì)信息技術(shù)帶來的挑戰(zhàn)。平臺(tái)需保證中立性和透明度,與政府協(xié)作更好地進(jìn)行網(wǎng)絡(luò)治理,保護(hù)用戶權(quán)益。

西南政法大學(xué)校長林維教授分享了對(duì)數(shù)字時(shí)代犯罪變化及刑法治理的見解。隨著數(shù)字技術(shù)飛速發(fā)展,犯罪形態(tài)和手段都發(fā)生了巨大變化,對(duì)社會(huì)治理和刑法適用提出了前所未有的挑戰(zhàn)。傳統(tǒng)犯罪在網(wǎng)絡(luò)時(shí)代也表現(xiàn)出層層轉(zhuǎn)包的特征,而新型犯罪如網(wǎng)絡(luò)詐騙、數(shù)據(jù)泄露等在數(shù)字時(shí)代迅速崛起,犯罪手段更加高科技和匿名化,形成復(fù)雜的網(wǎng)絡(luò)犯罪生態(tài)。林維教授提出,數(shù)字時(shí)代的刑法治理需要適應(yīng)新的現(xiàn)實(shí),推動(dòng)數(shù)字生態(tài)的綜合治理,通過國際合作應(yīng)對(duì)跨國界的網(wǎng)絡(luò)犯罪風(fēng)險(xiǎn)。

中國人民大學(xué)副校長王軼教授深入探討了民法對(duì)數(shù)字法治的重要意義。王軼教授從“怎么看”和“怎么辦”兩個(gè)角度展開論述。他認(rèn)為,民法的發(fā)展背景經(jīng)歷了從農(nóng)業(yè)文明、工業(yè)文明到信息文明的演變!睹穹ǖ洹分械臄(shù)據(jù)、網(wǎng)絡(luò)虛擬財(cái)產(chǎn)保護(hù)及個(gè)人信息保護(hù)等規(guī)定,標(biāo)志著民法在數(shù)字時(shí)代的轉(zhuǎn)型和發(fā)展。解決數(shù)據(jù)財(cái)產(chǎn)利益的初次分配是數(shù)字法治的關(guān)鍵,需要結(jié)合民法與憲法中的相關(guān)規(guī)定,探討數(shù)據(jù)財(cái)產(chǎn)利益的歸屬問題,確保利益均衡與分配正義。

中國政法大學(xué)副校長時(shí)建中教授圍繞“數(shù)據(jù)二十條”表達(dá)了有關(guān)數(shù)據(jù)權(quán)利的思考。他指出,數(shù)據(jù)、數(shù)據(jù)資源和數(shù)據(jù)產(chǎn)品之間關(guān)系復(fù)雜,分割權(quán)利可能會(huì)限制數(shù)據(jù)流通,妨礙數(shù)據(jù)價(jià)值的最大化。因此,他主張應(yīng)打破這些界限,重新塑造數(shù)據(jù)持有權(quán)、加工使用權(quán)和經(jīng)營權(quán)的相互流通和交易關(guān)系,以更好地滿足數(shù)據(jù)流通交易需求。

北京大學(xué)博雅特聘教授張守文對(duì)六位嘉賓的主旨發(fā)言進(jìn)行總結(jié),肯定了相關(guān)發(fā)言的學(xué)術(shù)和實(shí)踐意義,并指出未來可持續(xù)推進(jìn)的研究方向。

【數(shù)字法治專題研討會(huì):人工智能立法的理論議題及制度架構(gòu)】
【主題報(bào)告:人工智能治理的多學(xué)科視角】
下午數(shù)字法治專題研討會(huì)的主題為“人工智能治理的多學(xué)科視角”,由北京大學(xué)法學(xué)院黨委副書記、北京大學(xué)人工智能研究院副院長楊曉雷主持。他強(qiáng)調(diào)人工智能治理需要從技術(shù)、法律、倫理和政策等多個(gè)維度進(jìn)行綜合考量,建立完善的治理體系。

北京大學(xué)法學(xué)院張平教授在以“人工智能治理的中國實(shí)踐及國際協(xié)同”為題的報(bào)告中詳細(xì)闡述了中國在人工智能治理方面的理念與實(shí)踐,介紹了AI治理的國際共識(shí)與重要國際文件。各國在人工智能治理中的立場和實(shí)施路徑存在差異。人工智能治理中涉及知識(shí)產(chǎn)權(quán)、算法治理和多元治理的挑戰(zhàn),可以考慮建立國家級(jí)AI安全研究機(jī)構(gòu),并在聯(lián)合國框架下加強(qiáng)國際協(xié)同,關(guān)注中國面臨的訓(xùn)練數(shù)據(jù)、算力和算法受限的問題。當(dāng)前的法律框架無法完全解決人工智能訓(xùn)練數(shù)據(jù)的合法性問題,行業(yè)自律和技術(shù)措施將是未來的重要方向。

北京大學(xué)智能學(xué)院馬修軍教授的演講聚焦“人工智能技術(shù)視角下的治理問題”。人工智能技術(shù)的發(fā)展日新月異,進(jìn)入人工智能時(shí)代后,云計(jì)算不僅管理數(shù)據(jù)庫和軟件,還要管理人工智能算法,開啟了“智算時(shí)代”。在人工智能影響下,互聯(lián)網(wǎng)業(yè)態(tài)可能面臨重構(gòu),商業(yè)模式和技術(shù)后臺(tái)都會(huì)發(fā)生架構(gòu)變化。尤其大模型具有泛化能力,能夠同時(shí)處理多元任務(wù)。人工智能的規(guī)制不僅限于大模型,還包括未來可能超過人類數(shù)量的人工智能體之間的交互。為了確保這些技術(shù)合乎人類倫理,他建議從通信角度提前布局人工智能應(yīng)用體系的規(guī)制。可以考慮打造一個(gè)結(jié)合法律規(guī)則和技術(shù)實(shí)驗(yàn)的人工智能治理模式。

北京大學(xué)光華管理學(xué)院孟涓涓教授分析了人工智能技術(shù)使用對(duì)人類社會(huì)行為和公平的影響。她指出,人工智能在勞動(dòng)市場上既可能完全替代也可能協(xié)助人類工作,這兩種情況對(duì)社會(huì)公平的影響不同。替代往往會(huì)加劇不公平,而協(xié)助則可能促進(jìn)社會(huì)公平。同時(shí),跨文化研究發(fā)現(xiàn)不同國家和文化對(duì)隱私的重視程度和原因不同。此外,她還討論了人工智能引發(fā)的行為問題,如思想極化、數(shù)字成癮和認(rèn)知退化。

北京航空航天大學(xué)法學(xué)院余成峰副教授的發(fā)言主題是“生成式法律大模型的倫理風(fēng)險(xiǎn)與法理反思”。他首先介紹了當(dāng)前人工智能應(yīng)用模型,特別是法律大模型的工作原理,分析了應(yīng)用中的四大問題:模型的統(tǒng)計(jì)學(xué)本質(zhì)導(dǎo)致其缺乏深度法律解釋能力;黑箱性和可解釋性問題;題海戰(zhàn)術(shù);算法偏見。他認(rèn)為人工智能應(yīng)被視為一種新型溝通方式,而不是單純的智能體。最后,他從社會(huì)、時(shí)間和事實(shí)三個(gè)維度探討了人工智能對(duì)法律溝通的影響。

【圓桌研討:人工智能立法的理論與實(shí)踐問題】
第一場圓桌研討
第一場圓桌研討由對(duì)外經(jīng)貿(mào)大學(xué)法學(xué)院張欣教授主持,圍繞立法的必要性、立法時(shí)機(jī)的選擇、立法體系的協(xié)調(diào)銜接、域外立法的比較、核心議題研討以及人工智能立法影響前瞻等重點(diǎn)議題,由淺入深開展交流。

針對(duì)人工智能立法的必要性問題,中國政法大學(xué)張凌寒教授從產(chǎn)業(yè)利益、技術(shù)發(fā)展和國際競爭三個(gè)角度闡述了立法的必要性。她呼吁盡快出臺(tái)相關(guān)立法,為人工智能治理提供全面的參考和討論框架。中國社會(huì)科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室副主任、副研究員周輝指出,當(dāng)前人工智能技術(shù)的發(fā)展需要一個(gè)確定的法律環(huán)境,F(xiàn)有法律框架如知識(shí)產(chǎn)權(quán)法、數(shù)據(jù)安全法和個(gè)人信息保護(hù)法需要調(diào)整,以適應(yīng)人工智能技術(shù)的發(fā)展。當(dāng)前的雙軌制監(jiān)管模式存在沖突和不協(xié)調(diào)現(xiàn)象。制定一部基礎(chǔ)性法律可以幫助形成監(jiān)管合力,提高監(jiān)管效率。此外,有必要從央地關(guān)系視角分析如何構(gòu)建合理法監(jiān)管機(jī)制問題。北京大學(xué)法學(xué)院戴昕教授指出,人工智能作為一個(gè)廣泛的概念,涵蓋了各種自動(dòng)化處理過程,難以有明確的邊界界定。人工智能的功能類似于互聯(lián)網(wǎng),作為具體的生產(chǎn)工具集成后形成新的基礎(chǔ)設(shè)施。因此,進(jìn)行實(shí)質(zhì)規(guī)制意義上的人工智能立法難度非常大。不過,制定框架性法律具有重要的表達(dá)價(jià)值。立法應(yīng)側(cè)重問題導(dǎo)向,涵蓋關(guān)鍵法律關(guān)系和糾紛解決路徑,滿足實(shí)際需求,即使體系性不強(qiáng),也能夠有效應(yīng)對(duì)重要風(fēng)險(xiǎn)。
針對(duì)立法體系的協(xié)調(diào)與銜接問題。張凌寒教授指出,《人工智能法》可能定位為要素法、產(chǎn)業(yè)促進(jìn)法、服務(wù)應(yīng)用法、監(jiān)管法或基本法,需要分析其與現(xiàn)有法律的關(guān)系。她強(qiáng)調(diào),《人工智能法》需解決現(xiàn)有法律無法覆蓋的算力、算法模型、人工智能產(chǎn)業(yè)應(yīng)用以及人機(jī)關(guān)系等問題。上海師范大學(xué)法政學(xué)院網(wǎng)絡(luò)與數(shù)據(jù)法學(xué)研究所執(zhí)行所長吳玄副教授提出,首先,《人工智能法》應(yīng)在現(xiàn)有網(wǎng)絡(luò)信息法律框架的基礎(chǔ)上進(jìn)行繼承和發(fā)展,細(xì)化平臺(tái)責(zé)任,涵蓋開發(fā)者、提供者和使用者等角色。其次,該法應(yīng)在應(yīng)用層面整合傳統(tǒng)法律規(guī)則,解決人工智能帶來的新問題。最后,《人工智能法》應(yīng)將倫理指南轉(zhuǎn)化為具體法律規(guī)范,提供明確的指引方向。



針對(duì)《人工智能法》的獨(dú)到之處與立法邏輯。周輝副研究員指出,《人工智能法》需實(shí)現(xiàn)發(fā)展和監(jiān)管的深度融合,分級(jí)應(yīng)對(duì)不同風(fēng)險(xiǎn),包括已識(shí)別的風(fēng)險(xiǎn)、預(yù)期風(fēng)險(xiǎn)和無法預(yù)期的風(fēng)險(xiǎn)。此外,法律應(yīng)設(shè)計(jì)促進(jìn)發(fā)展的制度,如知識(shí)產(chǎn)權(quán)制度革新、開源激勵(lì)和安全投入的財(cái)稅豁免機(jī)制。
針對(duì)域外概覽和比較問題。中國人民大學(xué)未來法治研究院副院長丁曉東教授指出,歐盟《人工智能法》是目前全球最全面的人工智能立法,采用風(fēng)險(xiǎn)規(guī)制的思路。然而,他認(rèn)為歐盟將人工智能系統(tǒng)單獨(dú)進(jìn)行風(fēng)險(xiǎn)評(píng)估的方法存在問題。他強(qiáng)調(diào),中國應(yīng)借鑒歐盟的分類方法,同時(shí)避免機(jī)械地將人工智能物化,應(yīng)綜合考慮其作為服務(wù)和產(chǎn)品的雙重屬性。北京大學(xué)法學(xué)院彭錞教授指出,人工智能法和人工智能立法是兩個(gè)不同的概念,立法需要明確目標(biāo)和價(jià)值,設(shè)計(jì)合適的制度并落實(shí)監(jiān)管與救濟(jì)機(jī)制,并呼吁在立法過程中超越傳統(tǒng)法學(xué),結(jié)合社會(huì)科學(xué)進(jìn)行跨學(xué)科研究。張凌寒教授指出,中國不應(yīng)全盤照抄歐盟的立法思路,應(yīng)當(dāng)考慮人工智能風(fēng)險(xiǎn)的文化差異和預(yù)測難度。她提到,歐盟將風(fēng)險(xiǎn)評(píng)估方法應(yīng)用于人工智能治理存在局限,未能提供有效的通用人工智能規(guī)制方案。她呼吁中國結(jié)合自身情況和智慧,謹(jǐn)慎制定《人工智能法》,以避免過度依賴他國經(jīng)驗(yàn)。周輝副研究員指出,美國的人工智能立法主要集中在兩個(gè)方面:規(guī)范政府的人工智能應(yīng)用活動(dòng),以及鼓勵(lì)政府機(jī)關(guān)示范應(yīng)用人工智能。美國通過政府采購支持市場發(fā)展,同時(shí)在司法和獨(dú)立監(jiān)管方面提供操作性指引。中國應(yīng)借鑒美國經(jīng)驗(yàn),加強(qiáng)中美雙方在治理一線企業(yè)和實(shí)務(wù)專家之間的對(duì)話。



針對(duì)基礎(chǔ)模型規(guī)制問題。阿里研究院數(shù)據(jù)經(jīng)濟(jì)研究中心王崢副主任指出,模型界定不應(yīng)僅依據(jù)技術(shù)標(biāo)準(zhǔn),還需考慮風(fēng)險(xiǎn)特征和性價(jià)比。基礎(chǔ)模型應(yīng)有更高的安全標(biāo)準(zhǔn),但也需減輕其責(zé)任壓力。王崢副主任建議將事前嚴(yán)格限制轉(zhuǎn)變?yōu)槭潞缶葷?jì)和賠償,通過輸出端管控模型產(chǎn)出,確保內(nèi)容合規(guī)和安全。
第二場圓桌研討
第二場圓桌研討由全國人大常委會(huì)法制工作委員會(huì)經(jīng)濟(jì)法室高飛處長主持。他表示,人工智能立法需要綜合考慮技術(shù)發(fā)展的不確定性以及多樣性帶來的挑戰(zhàn)。

北京大學(xué)法學(xué)院胡凌副教授指出,基礎(chǔ)模型不宜單獨(dú)規(guī)范,應(yīng)結(jié)合實(shí)際社會(huì)和經(jīng)濟(jì)變化動(dòng)態(tài)調(diào)整。建議將技術(shù)標(biāo)準(zhǔn)交由行業(yè)自下而上形成。對(duì)于開源責(zé)任豁免,他強(qiáng)調(diào)實(shí)際效果比過程更重要,需根據(jù)領(lǐng)域具體情況制定責(zé)任制度。關(guān)于倫理問題,他建議從社會(huì)關(guān)系角度具體判斷,不宜在法律中全面覆蓋所有倫理問題。

京東集團(tuán)法律研究院李麗執(zhí)行院長圍繞生成式人工智能的必要性、訓(xùn)練數(shù)據(jù)管理、開源體系建設(shè)及全球治理影響發(fā)表了見解。她強(qiáng)調(diào),盡管技術(shù)突破面臨挑戰(zhàn),但發(fā)展生成式人工智能是必需的。她呼吁對(duì)訓(xùn)練數(shù)據(jù)管理保持寬容,建議在現(xiàn)有法律框架下探索合理使用。她還指出開源體系的重要性,呼吁建立可信的豁免制度。關(guān)于全球治理,她建議中國應(yīng)制定框架性和宣示性的人工智能法,以參與國際規(guī)則的制定。

騰訊研究院首席數(shù)據(jù)法律專家王融提出,目前制定《人工智能法》時(shí)機(jī)并不成熟,因?yàn)榧夹g(shù)和商業(yè)模式尚未成熟,而現(xiàn)有監(jiān)管制度已涵蓋大部分風(fēng)險(xiǎn)。她認(rèn)為,歐盟的《人工智能法》可能面臨尷尬局面,應(yīng)對(duì)其抱有批判態(tài)度,立法應(yīng)在技術(shù)和商業(yè)模式成熟后進(jìn)行,以更好應(yīng)對(duì)實(shí)際問題。

會(huì)議總結(jié)
在論壇總結(jié)環(huán)節(jié),北京大學(xué)法學(xué)院戴昕副院長表示,在數(shù)字法治研究中心成立后,北大法學(xué)院希望通過實(shí)質(zhì)性的活動(dòng)和成果,與校內(nèi)外各相關(guān)專家和機(jī)構(gòu)合作,為數(shù)字法治發(fā)展貢獻(xiàn)智識(shí)。在會(huì)議最后,北京大學(xué)數(shù)字法治研究中心主任王錫鋅教授歸納了本次論壇形成的理論共識(shí)與建設(shè)性成果,并代表北京大學(xué)數(shù)字法治研究中心對(duì)參會(huì)學(xué)者專家表示感謝,對(duì)未來的合作交流進(jìn)行展望。

