2023年7月7日上午，以“數(shù)字治理：生成式人工智能之法律回應(yīng)”為主題的2023世界人工智能大會(huì)法治論壇在上海世博中心藍(lán)廳成功舉辦，9位法學(xué)法律界及人工智能相關(guān)領(lǐng)域的大咖，圍繞生成式人工智能的法律規(guī)制、政策框架、制度完善、技術(shù)標(biāo)準(zhǔn)體系建構(gòu)、倫理與治理、合規(guī)挑戰(zhàn)與應(yīng)對(duì)、在司法領(lǐng)域的應(yīng)用觀察等相關(guān)話題發(fā)表了精彩演講。
上海市法學(xué)會(huì)會(huì)長崔亞東代表論壇主承辦方作題為《生成式人工智能與數(shù)字治理》的主旨演講。他指出，生成式人工智能的發(fā)展引發(fā)了數(shù)字治理的現(xiàn)實(shí)難題，包括數(shù)據(jù)安全、倫理道德、知識(shí)產(chǎn)權(quán)保護(hù)、應(yīng)用規(guī)范及相關(guān)法律、文明傳承等問題。應(yīng)當(dāng)加強(qiáng)生成式人工智能發(fā)展的法治引領(lǐng)，健全完善倫理道德規(guī)范體系、生成式人工智能法律法規(guī)體系、技術(shù)標(biāo)準(zhǔn)、數(shù)字治理機(jī)制，對(duì)生成式人工智能予以結(jié)構(gòu)化調(diào)整規(guī)制，打造生成式人工智能法學(xué)研究高地，以引領(lǐng)科技向善、趨利避害，保障人工智能等新技術(shù)安全、可控、可靠、可信、可持續(xù)發(fā)展。針對(duì)生成式人工智能的飛速發(fā)展和數(shù)字治理赤字凸顯的態(tài)勢(shì)，各國學(xué)術(shù)界和產(chǎn)業(yè)界應(yīng)當(dāng)努力形成更多全球共識(shí)，合力推動(dòng)數(shù)字治理的全球共治。他還宣布，上海市法學(xué)會(huì)旗下核心期刊《東方法學(xué)》在小宇宙播客平臺(tái)正式上線了“東方法學(xué)學(xué)術(shù)播客”，分享《東方法學(xué)》對(duì)前沿社會(huì)問題的法學(xué)態(tài)度，推動(dòng)學(xué)術(shù)活躍與繁榮。
中國人民大學(xué)教授王利明以《對(duì)生成式人工智能法律規(guī)制的幾點(diǎn)思考》為題發(fā)表主題演講。他提出，人工智能是未來新一輪科技革命和產(chǎn)業(yè)變革的核心力量，生成式AI具有更出色的生成能力和廣泛的應(yīng)用價(jià)值，但其產(chǎn)生的最大挑戰(zhàn)是潛在的侵權(quán)糾紛。人工智能侵權(quán)在侵權(quán)客體、侵權(quán)主體、構(gòu)成侵權(quán)的認(rèn)定、侵權(quán)的責(zé)任承擔(dān)方式等方面具有自身的特殊性。生成式人工智能對(duì)傳統(tǒng)民法尤其是侵權(quán)法提出了新的挑戰(zhàn)，但是生成式人工智能引發(fā)的侵權(quán)糾紛，沒有完全超出民法典和個(gè)人信息保護(hù)法的相關(guān)規(guī)定，現(xiàn)行法的規(guī)定仍然可以作為處理和解決糾紛的依據(jù)。未來?xiàng)l件成熟時(shí)，還可以通過特別立法預(yù)防和處理生成式人工智能引發(fā)的各種風(fēng)險(xiǎn)，有效保障民事主體合法權(quán)益，促進(jìn)人工智能產(chǎn)業(yè)的健康發(fā)展。
聯(lián)合國犯罪司法所人工智能與機(jī)器人中心高級(jí)執(zhí)法專家Michael O’Connell圍繞《生成式人工智能安全使用的倫理基礎(chǔ)》分享了研究成果。他認(rèn)為，如何確保生成式人工智能的安全使用存在著許多挑戰(zhàn)，包括人工智能的定義一致性問題、監(jiān)管機(jī)構(gòu)的建立以及公眾信任的獲取等。需要建立一個(gè)全球性的、聯(lián)合國式的人工智能監(jiān)管機(jī)構(gòu)，并制定相關(guān)規(guī)則，建立能夠與之相匹配的道德規(guī)范，以確保人工智能的安全使用。當(dāng)前犯罪迅速演變、高度復(fù)雜，不法分子和恐怖分子也越來越廣泛地使用人工智能，這給警方帶來了巨大的挑戰(zhàn)。但警方若采用技術(shù)至上的方法會(huì)導(dǎo)致AI普遍應(yīng)用的基礎(chǔ)不確定，也導(dǎo)致公眾和監(jiān)管機(jī)構(gòu)對(duì)其缺乏信任。應(yīng)當(dāng)考慮以責(zé)任為核心的方法，尊重人權(quán)和道德需求，維護(hù)法治原則，促進(jìn)公眾信任，以良好政策和有效程序?yàn)橹笇?dǎo)來影響技術(shù)選擇，并增強(qiáng)公眾信任和用戶信心。
浙江清華長三角研究院院長黃開勝就《生成式人工智能技術(shù)司法領(lǐng)域應(yīng)用觀察》作報(bào)告。他介紹了長三角研究院的創(chuàng)立和發(fā)展情況。他認(rèn)為，人工智能可以為司法發(fā)揮替代性和輔助性作用。司法系統(tǒng)用戶多是不同專業(yè)的高知識(shí)水平人群，且司法數(shù)據(jù)結(jié)構(gòu)化程度和邏輯性高，這些優(yōu)勢(shì)有助于構(gòu)建專業(yè)化和通用化的機(jī)器學(xué)習(xí)模型，為公正司法增添科技動(dòng)能。長三角研究院在人工智能領(lǐng)域已展開了布局與嘗試，培育一批“人工智能+司法”的領(lǐng)軍企業(yè)，設(shè)立人工智能創(chuàng)新研究中心，積極配合清華大學(xué)開展國家重點(diǎn)研發(fā)項(xiàng)目“智能司法公開關(guān)鍵技術(shù)研究”等智能法治相關(guān)研究。
中建八局董事長周可璋結(jié)合中建八局在智能建造與智能管理方面進(jìn)行的大量探索與實(shí)踐，發(fā)表題為《人工智能背景下建筑領(lǐng)域面臨的法律問題和思考》的報(bào)告。表示，中建八局通過人工智能中心實(shí)現(xiàn)全生命周期的AI建設(shè)與管理，構(gòu)建了智能建造創(chuàng)新體系。隨著大模型時(shí)代的到來，人工智能的發(fā)展已經(jīng)由判別式AI向生成式AI過渡，生成式AI將在更高維度上賦能企業(yè)發(fā)展，帶來企業(yè)管理模式的重塑，也讓人們對(duì)伴隨未來Al應(yīng)用場(chǎng)景而來的法律問題有更多思考和疑惑，如人工智能與建筑領(lǐng)域知識(shí)產(chǎn)權(quán)保護(hù)、人工智能與建筑專業(yè)責(zé)任的界定、人工智能與數(shù)據(jù)安全等問題。
中國建筑第八工程局有限公司合約法務(wù)部副總經(jīng)理葉東 代為演講
科大訊飛副總裁、司法業(yè)務(wù)部總經(jīng)理雍文淵的演講題目為《認(rèn)知大模型技術(shù)進(jìn)展及應(yīng)用實(shí)踐》。他表示，大模型在一定意義上實(shí)現(xiàn)了像人類一樣觸類旁通的能力，在未來兩三年內(nèi)將顛覆傳統(tǒng)的堆時(shí)長、堆人力的商業(yè)模式�？拼笥嶏w利用大模型技術(shù)在司法領(lǐng)域?qū)崿F(xiàn)了更好的知識(shí)問答、法律文書生成、庭審筆錄自動(dòng)化等能力。但大模型技術(shù)也存在風(fēng)險(xiǎn)和挑戰(zhàn)，需要保證數(shù)據(jù)訓(xùn)練和輸出結(jié)果的安全可信。作為技術(shù)開發(fā)者，需要遵從人工智能法治體系和倫理道德，通過法治來規(guī)范、引領(lǐng)、保障和促進(jìn)人工智能技術(shù)在司法領(lǐng)域安全、可靠、可控、健康發(fā)展，推動(dòng)“可持續(xù)、負(fù)責(zé)任、有價(jià)值”的人工智能生態(tài)建設(shè)，進(jìn)一步提高司法效率與公正性。
螞蟻集團(tuán)副總裁、首席合規(guī)官李臣發(fā)表題為《生成式人工智能的合規(guī)挑戰(zhàn)與應(yīng)對(duì)》的報(bào)告。提出，生成式人工智能目前仍在發(fā)展中，存在著隱私和數(shù)據(jù)安全、內(nèi)容安全、競(jìng)爭公平、知識(shí)產(chǎn)權(quán)保護(hù)等風(fēng)險(xiǎn)，技術(shù)和應(yīng)用的安全性與真實(shí)性等問題尚待解決，這些新風(fēng)險(xiǎn)和挑戰(zhàn)成為各國監(jiān)管關(guān)注的新課題。雖然生成式人工智能的發(fā)展面臨著風(fēng)險(xiǎn)與挑戰(zhàn)，但其中很多并不是由于該技術(shù)而產(chǎn)生的新風(fēng)險(xiǎn)，也并非無法防控的難題，可以通過建立全生命周期的合規(guī)管理與監(jiān)測(cè)機(jī)制，引入合規(guī)科技等技術(shù)手段，為生成式人工智能的技術(shù)發(fā)展與應(yīng)用創(chuàng)新提供安全保障。人工智能領(lǐng)域的國際治理規(guī)制競(jìng)爭與科技創(chuàng)新競(jìng)爭一樣日益激烈，建議我國積極參與國際相關(guān)標(biāo)準(zhǔn)、規(guī)則的制定，最大化凝聚人工智能治理的全球共識(shí)，不斷提升在該領(lǐng)域的影響力。
上海仲裁委員會(huì)副主任兼秘書長陸春瑋演講了《人工智能背景下仲裁的俱進(jìn)與挑戰(zhàn)》。他指出，仲裁作為國際通行的商事爭端解決機(jī)制，需要應(yīng)對(duì)人工智能發(fā)展所帶來的下一輪變革和挑戰(zhàn)。利用人工智能，可以優(yōu)化仲裁程序、提升仲裁效率，包括：使用人工智能技術(shù)深度學(xué)習(xí)仲裁法、仲裁規(guī)則，制定更為嚴(yán)謹(jǐn)?shù)南到y(tǒng)操作指引，規(guī)范辦案人員的操作流程和口徑；依靠海量的大數(shù)據(jù)，通過對(duì)案件材料進(jìn)行智能檢索分析，協(xié)助案件繁簡分流，促進(jìn)糾紛多元化解；探索全流程無紙化審理模式、人工智能輔助外國法查明、大數(shù)據(jù)輔助仲裁員人選等新型審理模式和管理方法，提高辦案質(zhì)效；對(duì)于各領(lǐng)域?qū)I(yè)程度高、審理難度大的案件，以大數(shù)據(jù)為支撐，將人工智能引入專家評(píng)審等。當(dāng)前，盡管信息智能技術(shù)的發(fā)展能夠給案件的審理帶來支持和提效，人的價(jià)值和因素依然在體現(xiàn)法律公平正義上發(fā)揮著決定性作用。
美國耶魯大學(xué)法學(xué)院蔡中曾中國研究中心研究員Karman Lucero分享了《人工智能管理制度的中美比較研究》。他認(rèn)為，美國的人工智能治理可以分為聯(lián)邦層面、各州層面、社會(huì)與行業(yè)自律層面、自愿性規(guī)制層面，聯(lián)邦層面包括白宮政策、聯(lián)邦政府部門監(jiān)管、聯(lián)邦立法、聯(lián)邦法院判例等治理機(jī)制，各州立法呈現(xiàn)多元化特征，而由大型科技公司及社會(huì)組織主導(dǎo)的倫理價(jià)值觀、透明度、可問責(zé)性等行業(yè)自律和自愿性規(guī)制正在發(fā)揮顯著的影響作用。中國的人工智能治理制度體系主要由相關(guān)政策法規(guī)、地方性立法、標(biāo)準(zhǔn)、行業(yè)自律規(guī)定等構(gòu)成。中美在人工智能治理上“和而不同”，未來的世界將是一個(gè)由人工智能連接的“小世界”。
論壇發(fā)布《世界人工智能法治藍(lán)皮書（2023）》《人工智能法治發(fā)展指數(shù)4.0》《中國人工智能法治發(fā)展評(píng)估報(bào)告（2022）》。
中國政法大學(xué)教授張凌寒、華東政法大學(xué)教授王遷擔(dān)任論壇研討環(huán)節(jié)主持人。各界代表500余名嘉賓現(xiàn)場(chǎng)參會(huì)，線上直播參與人數(shù)超35萬名。