2023年7月7日上午，以“數(shù)字治理：生成式人工智能之法律回應”為主題的2023世界人工智能大會法治論壇在上海世博中心藍廳成功舉辦，9位法學法律界及人工智能相關(guān)領域的大咖，圍繞生成式人工智能的法律規(guī)制、政策框架、制度完善、技術(shù)標準體系建構(gòu)、倫理與治理、合規(guī)挑戰(zhàn)與應對、在司法領域的應用觀察等相關(guān)話題發(fā)表了精彩演講。
上海市法學會會長崔亞東代表論壇主承辦方作題為《生成式人工智能與數(shù)字治理》的主旨演講。他指出，生成式人工智能的發(fā)展引發(fā)了數(shù)字治理的現(xiàn)實難題，包括數(shù)據(jù)安全、倫理道德、知識產(chǎn)權(quán)保護、應用規(guī)范及相關(guān)法律、文明傳承等問題。應當加強生成式人工智能發(fā)展的法治引領，健全完善倫理道德規(guī)范體系、生成式人工智能法律法規(guī)體系、技術(shù)標準、數(shù)字治理機制，對生成式人工智能予以結(jié)構(gòu)化調(diào)整規(guī)制，打造生成式人工智能法學研究高地，以引領科技向善、趨利避害，保障人工智能等新技術(shù)安全、可控、可靠、可信、可持續(xù)發(fā)展。針對生成式人工智能的飛速發(fā)展和數(shù)字治理赤字凸顯的態(tài)勢，各國學術(shù)界和產(chǎn)業(yè)界應當努力形成更多全球共識，合力推動數(shù)字治理的全球共治。他還宣布，上海市法學會旗下核心期刊《東方法學》在小宇宙播客平臺正式上線了“東方法學學術(shù)播客”，分享《東方法學》對前沿社會問題的法學態(tài)度，推動學術(shù)活躍與繁榮。
中國人民大學教授王利明以《對生成式人工智能法律規(guī)制的幾點思考》為題發(fā)表主題演講。他提出，人工智能是未來新一輪科技革命和產(chǎn)業(yè)變革的核心力量，生成式AI具有更出色的生成能力和廣泛的應用價值，但其產(chǎn)生的最大挑戰(zhàn)是潛在的侵權(quán)糾紛。人工智能侵權(quán)在侵權(quán)客體、侵權(quán)主體、構(gòu)成侵權(quán)的認定、侵權(quán)的責任承擔方式等方面具有自身的特殊性。生成式人工智能對傳統(tǒng)民法尤其是侵權(quán)法提出了新的挑戰(zhàn)，但是生成式人工智能引發(fā)的侵權(quán)糾紛，沒有完全超出民法典和個人信息保護法的相關(guān)規(guī)定，現(xiàn)行法的規(guī)定仍然可以作為處理和解決糾紛的依據(jù)。未來條件成熟時，還可以通過特別立法預防和處理生成式人工智能引發(fā)的各種風險，有效保障民事主體合法權(quán)益，促進人工智能產(chǎn)業(yè)的健康發(fā)展。
聯(lián)合國犯罪司法所人工智能與機器人中心高級執(zhí)法專家Michael O’Connell圍繞《生成式人工智能安全使用的倫理基礎》分享了研究成果。他認為，如何確保生成式人工智能的安全使用存在著許多挑戰(zhàn)，包括人工智能的定義一致性問題、監(jiān)管機構(gòu)的建立以及公眾信任的獲取等。需要建立一個全球性的、聯(lián)合國式的人工智能監(jiān)管機構(gòu)，并制定相關(guān)規(guī)則，建立能夠與之相匹配的道德規(guī)范，以確保人工智能的安全使用。當前犯罪迅速演變、高度復雜，不法分子和恐怖分子也越來越廣泛地使用人工智能，這給警方帶來了巨大的挑戰(zhàn)。但警方若采用技術(shù)至上的方法會導致AI普遍應用的基礎不確定，也導致公眾和監(jiān)管機構(gòu)對其缺乏信任。應當考慮以責任為核心的方法，尊重人權(quán)和道德需求，維護法治原則，促進公眾信任，以良好政策和有效程序為指導來影響技術(shù)選擇，并增強公眾信任和用戶信心。
浙江清華長三角研究院院長黃開勝就《生成式人工智能技術(shù)司法領域應用觀察》作報告。他介紹了長三角研究院的創(chuàng)立和發(fā)展情況。他認為，人工智能可以為司法發(fā)揮替代性和輔助性作用。司法系統(tǒng)用戶多是不同專業(yè)的高知識水平人群，且司法數(shù)據(jù)結(jié)構(gòu)化程度和邏輯性高，這些優(yōu)勢有助于構(gòu)建專業(yè)化和通用化的機器學習模型，為公正司法增添科技動能。長三角研究院在人工智能領域已展開了布局與嘗試，培育一批“人工智能+司法”的領軍企業(yè)，設立人工智能創(chuàng)新研究中心，積極配合清華大學開展國家重點研發(fā)項目“智能司法公開關(guān)鍵技術(shù)研究”等智能法治相關(guān)研究。
中建八局董事長周可璋結(jié)合中建八局在智能建造與智能管理方面進行的大量探索與實踐，發(fā)表題為《人工智能背景下建筑領域面臨的法律問題和思考》的報告。表示，中建八局通過人工智能中心實現(xiàn)全生命周期的AI建設與管理，構(gòu)建了智能建造創(chuàng)新體系。隨著大模型時代的到來，人工智能的發(fā)展已經(jīng)由判別式AI向生成式AI過渡，生成式AI將在更高維度上賦能企業(yè)發(fā)展，帶來企業(yè)管理模式的重塑，也讓人們對伴隨未來Al應用場景而來的法律問題有更多思考和疑惑，如人工智能與建筑領域知識產(chǎn)權(quán)保護、人工智能與建筑專業(yè)責任的界定、人工智能與數(shù)據(jù)安全等問題。
中國建筑第八工程局有限公司合約法務部副總經(jīng)理葉東 代為演講
科大訊飛副總裁、司法業(yè)務部總經(jīng)理雍文淵的演講題目為《認知大模型技術(shù)進展及應用實踐》。他表示，大模型在一定意義上實現(xiàn)了像人類一樣觸類旁通的能力，在未來兩三年內(nèi)將顛覆傳統(tǒng)的堆時長、堆人力的商業(yè)模式�？拼笥嶏w利用大模型技術(shù)在司法領域?qū)崿F(xiàn)了更好的知識問答、法律文書生成、庭審筆錄自動化等能力。但大模型技術(shù)也存在風險和挑戰(zhàn)，需要保證數(shù)據(jù)訓練和輸出結(jié)果的安全可信。作為技術(shù)開發(fā)者，需要遵從人工智能法治體系和倫理道德，通過法治來規(guī)范、引領、保障和促進人工智能技術(shù)在司法領域安全、可靠、可控、健康發(fā)展，推動“可持續(xù)、負責任、有價值”的人工智能生態(tài)建設，進一步提高司法效率與公正性。
螞蟻集團副總裁、首席合規(guī)官李臣發(fā)表題為《生成式人工智能的合規(guī)挑戰(zhàn)與應對》的報告。提出，生成式人工智能目前仍在發(fā)展中，存在著隱私和數(shù)據(jù)安全、內(nèi)容安全、競爭公平、知識產(chǎn)權(quán)保護等風險，技術(shù)和應用的安全性與真實性等問題尚待解決，這些新風險和挑戰(zhàn)成為各國監(jiān)管關(guān)注的新課題。雖然生成式人工智能的發(fā)展面臨著風險與挑戰(zhàn)，但其中很多并不是由于該技術(shù)而產(chǎn)生的新風險，也并非無法防控的難題，可以通過建立全生命周期的合規(guī)管理與監(jiān)測機制，引入合規(guī)科技等技術(shù)手段，為生成式人工智能的技術(shù)發(fā)展與應用創(chuàng)新提供安全保障。人工智能領域的國際治理規(guī)制競爭與科技創(chuàng)新競爭一樣日益激烈，建議我國積極參與國際相關(guān)標準、規(guī)則的制定，最大化凝聚人工智能治理的全球共識，不斷提升在該領域的影響力。
上海仲裁委員會副主任兼秘書長陸春瑋演講了《人工智能背景下仲裁的俱進與挑戰(zhàn)》。他指出，仲裁作為國際通行的商事爭端解決機制，需要應對人工智能發(fā)展所帶來的下一輪變革和挑戰(zhàn)。利用人工智能，可以優(yōu)化仲裁程序、提升仲裁效率，包括：使用人工智能技術(shù)深度學習仲裁法、仲裁規(guī)則，制定更為嚴謹?shù)南到y(tǒng)操作指引，規(guī)范辦案人員的操作流程和口徑；依靠海量的大數(shù)據(jù)，通過對案件材料進行智能檢索分析，協(xié)助案件繁簡分流，促進糾紛多元化解；探索全流程無紙化審理模式、人工智能輔助外國法查明、大數(shù)據(jù)輔助仲裁員人選等新型審理模式和管理方法，提高辦案質(zhì)效；對于各領域?qū)I(yè)程度高、審理難度大的案件，以大數(shù)據(jù)為支撐，將人工智能引入專家評審等。當前，盡管信息智能技術(shù)的發(fā)展能夠給案件的審理帶來支持和提效，人的價值和因素依然在體現(xiàn)法律公平正義上發(fā)揮著決定性作用。
美國耶魯大學法學院蔡中曾中國研究中心研究員Karman Lucero分享了《人工智能管理制度的中美比較研究》。他認為，美國的人工智能治理可以分為聯(lián)邦層面、各州層面、社會與行業(yè)自律層面、自愿性規(guī)制層面，聯(lián)邦層面包括白宮政策、聯(lián)邦政府部門監(jiān)管、聯(lián)邦立法、聯(lián)邦法院判例等治理機制，各州立法呈現(xiàn)多元化特征，而由大型科技公司及社會組織主導的倫理價值觀、透明度、可問責性等行業(yè)自律和自愿性規(guī)制正在發(fā)揮顯著的影響作用。中國的人工智能治理制度體系主要由相關(guān)政策法規(guī)、地方性立法、標準、行業(yè)自律規(guī)定等構(gòu)成。中美在人工智能治理上“和而不同”，未來的世界將是一個由人工智能連接的“小世界”。
論壇發(fā)布《世界人工智能法治藍皮書（2023）》《人工智能法治發(fā)展指數(shù)4.0》《中國人工智能法治發(fā)展評估報告（2022）》。
中國政法大學教授張凌寒、華東政法大學教授王遷擔任論壇研討環(huán)節(jié)主持人。各界代表500余名嘉賓現(xiàn)場參會，線上直播參與人數(shù)超35萬名。