作者：季衛(wèi)東，上海交通大學(xué)凱原法學(xué)院教授。
內(nèi)容摘要：本文以大數(shù)據(jù)與人工智能的正比例關(guān)系為線索，分析了信息技術(shù)普及和數(shù)字經(jīng)濟(jì)發(fā)展背景下公民基本權(quán)利面臨的危機(jī)以及憲法體制進(jìn)行創(chuàng)新的契機(jī)。過度強(qiáng)調(diào)隱私會(huì)限制個(gè)人數(shù)據(jù)的收集和應(yīng)用，使人工智能難以迅速進(jìn)化；反之，則會(huì)造成機(jī)器官僚主義的獨(dú)裁、問責(zé)機(jī)制的瓦解——這是當(dāng)今憲法學(xué)的一個(gè)悖論。筆者認(rèn)為，隨著機(jī)器學(xué)習(xí)能力不斷加強(qiáng)，算法黑箱化問題日益嚴(yán)重，以技術(shù)制衡技術(shù)將成為自然人對(duì)機(jī)器人進(jìn)行間接管制的重要方式。疫情防控中智慧網(wǎng)絡(luò)用于社會(huì)基層治理的實(shí)例和外國電子政府的經(jīng)驗(yàn)也證明：把集權(quán)式的人工智能算法與分權(quán)式的區(qū)塊鏈協(xié)議結(jié)合起來進(jìn)行合理的機(jī)制設(shè)計(jì)，有可能成為新時(shí)代憲法秩序變遷的方向。
關(guān)鍵詞：監(jiān)視社會(huì)；算法歧視；算法黑箱與問責(zé)；機(jī)器人權(quán)；區(qū)塊鏈協(xié)議；憲法體制創(chuàng)新
目次
一、 序言：算法獨(dú)裁與數(shù)字人權(quán)的對(duì)峙
二、 人工智能對(duì)現(xiàn)代憲法體制的挑戰(zhàn)
三、 第四次產(chǎn)業(yè)革命與憲法體制創(chuàng)新
四、 結(jié)語：在智慧網(wǎng)絡(luò)中尋找新的平衡點(diǎn)和組合方式
一、 序言：算法獨(dú)裁與數(shù)字人權(quán)的對(duì)峙
在當(dāng)今社會(huì)，人工智能的應(yīng)用范圍已經(jīng)越來越廣泛，顯著提高了生產(chǎn)的效率和生活的品質(zhì)。當(dāng)然這種便利性也是有代價(jià)的。從現(xiàn)代憲法學(xué)的角度來看，這種代價(jià)主要是犧牲隱私。把海量數(shù)據(jù)、圖像等個(gè)體信息提供給計(jì)算機(jī)學(xué)習(xí)和處理，以便對(duì)行為進(jìn)行預(yù)測和模仿，因而人工智能系統(tǒng)勢必大量吞吐和咀嚼隱私。但隱私正是個(gè)人自由的基礎(chǔ)。也就是說，高度進(jìn)化的電子計(jì)算機(jī)有可能在相當(dāng)程度上以算法獨(dú)裁（Algocracy, John Danaher的表述）的方式限制甚至剝奪個(gè)人的自由，會(huì)以效率、便利、娛樂等不同誘因促使人們不斷放棄既有的基本權(quán)利。這種代價(jià)也包括會(huì)思考的機(jī)器將大幅度取代人類的行為、冒犯人格的尊嚴(yán)，人機(jī)混合實(shí)際上正在招致人的動(dòng)物化、機(jī)械化，并在根本規(guī)范層面引起了關(guān)于人道、正義以及倫理的一系列兩難問題。另外，這種代價(jià)還包括算法黑箱化導(dǎo)致問責(zé)機(jī)制的削弱、蛻變以及瓦解，使限制權(quán)力的現(xiàn)代法治精神難以落實(shí)。
據(jù)報(bào)道，到2017年年底為止我國城市設(shè)置的攝像頭達(dá)到1億7000萬個(gè)，其后還將大幅度增加。由于不像歐美那樣對(duì)人臉識(shí)別技術(shù)進(jìn)行嚴(yán)格限制，也沒有使用圖像數(shù)據(jù)必須經(jīng)過本人許可的程序，中國根據(jù)海量圖像數(shù)據(jù)進(jìn)行人工智能研究的績效的確非常突出，已經(jīng)達(dá)到世界頂級(jí)水平。這種獨(dú)特的條件使人工智能系統(tǒng)的深度學(xué)習(xí)能力超強(qiáng)，并能把有關(guān)成果迅速應(yīng)用于經(jīng)濟(jì)和社會(huì)治理的各個(gè)方面，然而也加劇了算法黑箱化的程度。如果我們希望避免粗暴的數(shù)據(jù)攫取和算法獨(dú)裁，希望按照“以人為本”的原則發(fā)展一種可信賴、可說明的人工智能，希望防止公權(quán)力以智能化決定的名義轉(zhuǎn)嫁或推卸責(zé)任的流弊，那就必須注重與人工智能以及物聯(lián)網(wǎng)、大數(shù)據(jù)相關(guān)的憲法學(xué)研究，認(rèn)真探索在高科技時(shí)代切實(shí)保障公民基本權(quán)利，特別是個(gè)人信息安全和隱私權(quán)的方式和舉措。
2019年6月，陌陌網(wǎng)絡(luò)科技公司推出的智能軟件“ZAO——逢臉造戲”，通過一張正面照就可以制作各種熱門表情包和經(jīng)典電影片段，曾經(jīng)轟動(dòng)一時(shí)。但在用戶協(xié)議中有一個(gè)格式條款要求消費(fèi)者把肖像權(quán)完全免費(fèi)、不可撤銷、永久地授予該公司，并允許該公司及關(guān)聯(lián)公司在全球范圍內(nèi)進(jìn)行網(wǎng)絡(luò)信息傳播、轉(zhuǎn)授權(quán)以及再許可，引起媒體一片批評(píng)并導(dǎo)致工信部在同年9月采取監(jiān)管行動(dòng)。同年10月，浙江理工大學(xué)一位副教授對(duì)杭州野生動(dòng)物世界強(qiáng)行采用人臉識(shí)別技術(shù)進(jìn)行檢票提起訴訟，以維護(hù)個(gè)人信息安全以及年卡合約的效力。上述現(xiàn)象說明，中國社會(huì)對(duì)任意收集和使用個(gè)人圖像數(shù)據(jù)的風(fēng)險(xiǎn)意識(shí)提高了，人工智能時(shí)代的憲法權(quán)利正在成為非常突出的社會(huì)問題，因而我們有理由把2019年視為中國“數(shù)字人權(quán)元年”。
二、 人工智能對(duì)現(xiàn)代憲法體制的挑戰(zhàn)
（一） 大數(shù)據(jù)與人工智能的正比例關(guān)系
馬云曾經(jīng)把數(shù)據(jù)比喻為21世紀(jì)的“石油”，即具有最重要經(jīng)濟(jì)和社會(huì)價(jià)值的生產(chǎn)資料。要想從海量數(shù)據(jù)中搜尋出有用的信息、甄別和防控風(fēng)險(xiǎn)、實(shí)現(xiàn)數(shù)據(jù)內(nèi)在的價(jià)值，就必須改進(jìn)網(wǎng)絡(luò)架構(gòu)、提高數(shù)據(jù)處理能力，這就需要強(qiáng)大的計(jì)算機(jī)信息處理系統(tǒng)。因此，第四次產(chǎn)業(yè)革命勢必以人工智能為基本特征，造就一個(gè)萬物互聯(lián)互通、靠數(shù)據(jù)驅(qū)動(dòng)、智慧網(wǎng)絡(luò)化的社會(huì)。一般而言，人工智能是以數(shù)據(jù)為養(yǎng)料而成長的技術(shù)。離開海量數(shù)據(jù)，人工智能就無法發(fā)展和提高預(yù)測能力。所以大數(shù)據(jù)與人工智能的發(fā)展之間存在顯著的正比例關(guān)系：數(shù)據(jù)的規(guī)模越大、質(zhì)量越好，往往人工智能的功能就越強(qiáng)、預(yù)測的精確度也就越高。這種關(guān)系在預(yù)測犯罪或者開發(fā)有效的疫苗和藥品等應(yīng)用場景中表現(xiàn)得尤其清楚。
現(xiàn)階段的中國，人口規(guī)模（約14億）、網(wǎng)民人數(shù)（約8億）以及每天產(chǎn)生的數(shù)據(jù)量（約900兆字節(jié)）均為世界第一。由于國情和社會(huì)基礎(chǔ)設(shè)施方面的某些特征，中國的互聯(lián)網(wǎng)金融、網(wǎng)上購物、外賣快遞、移動(dòng)支付、“一卡通”系統(tǒng)非常普及，為數(shù)據(jù)的收集和應(yīng)用提供了各種各樣必要的場景和充分的條件。根據(jù)2018年的統(tǒng)計(jì)，中國大數(shù)據(jù)產(chǎn)業(yè)相關(guān)人才的規(guī)模全球第一，占比59．5%，比居第二位的美國高出37．1個(gè)百分點(diǎn)。更值得留意的是，中國數(shù)據(jù)的公有化程度極高，大約70%以上的優(yōu)質(zhì)數(shù)據(jù)資源由國家掌控。這種狀況有利于打破各種局部疆界，充分調(diào)動(dòng)數(shù)據(jù)資源來發(fā)展產(chǎn)業(yè)經(jīng)濟(jì)，也勢必促進(jìn)人工智能在國家治理和法律制度運(yùn)作方面的廣泛應(yīng)用，但也把個(gè)人數(shù)據(jù)安全和隱私保護(hù)問題以更加尖銳的形式呈現(xiàn)出來。
（二） 基于評(píng)分系統(tǒng)的身份原理與警察國家
例如作為第三方征信機(jī)構(gòu)的芝麻信用，利用海量的各種數(shù)據(jù)（特別是阿里巴巴的電商交易數(shù)據(jù)和螞蟻金服的互聯(lián)網(wǎng)金融數(shù)據(jù)，也包括政府?dāng)?shù)據(jù)）構(gòu)成個(gè)人數(shù)字化行為履歷，分別從身份特質(zhì)、行為偏好、履約能力、信用歷史、交友關(guān)系等不同維度進(jìn)行信用評(píng)分。在這里，950分為滿分，750分以上為信用優(yōu)良，550分以下（底限是350分）為缺乏信用。信用優(yōu)良的用戶可以享受很多優(yōu)惠，如租車、住酒店不必交押金，網(wǎng)購可以先試后買，辦理某些國家的旅游簽證不必辦理存款證明，租房可以零押金、先入住后付款，看病可以先診療后付費(fèi)，還有信用婚戀，等等。據(jù)報(bào)道，這個(gè)征信系統(tǒng)的登記人數(shù)已經(jīng)達(dá)到兩億，到2020年還將落實(shí)全民義務(wù)登記社會(huì)信用系統(tǒng)的計(jì)劃，形成空前規(guī)模的“評(píng)分社會(huì)”或者說等級(jí)化的“排序社會(huì)”。最高人民法院已經(jīng)與芝麻信用簽署合作協(xié)議，形成了一種聯(lián)合懲戒失信行為的機(jī)制——把判決不執(zhí)行等違法行為納入信用評(píng)價(jià)范圍，通過各種應(yīng)用平臺(tái)限制失信被執(zhí)行人的各種經(jīng)濟(jì)活動(dòng)和生活方式，借助大數(shù)據(jù)強(qiáng)化債務(wù)履行和判決執(zhí)行。
眾所周知，隨著改革開放的進(jìn)展，中國人的財(cái)產(chǎn)關(guān)系日益復(fù)雜化。由于社會(huì)信用體系不太完備，從20世紀(jì)90年代開始，債權(quán)回收和判決執(zhí)行難的問題就變得越來越突出。在這樣的背景下，最高人民法院借助大數(shù)據(jù)、人工智能以及芝麻信用的征信資料來追查和懲戒被執(zhí)行人的失信行為當(dāng)然是必要的。但不可忽視的是，在官民一體化的聯(lián)合懲戒機(jī)制形成和加強(qiáng)之后，如果沒有適當(dāng)?shù)囊?guī)范制約和數(shù)據(jù)安全保障，中國有可能會(huì)以評(píng)分系統(tǒng)為媒介迅速轉(zhuǎn)變成史無前例的“監(jiān)視社會(huì)”，個(gè)人的權(quán)利很容易受到這樣或者那樣的侵犯。例如，芝麻信用的評(píng)分和失信記錄會(huì)作為數(shù)字化檔案保存五年，對(duì)家庭生活的各方面，包括就學(xué)、就業(yè)、晉升、入保等，產(chǎn)生深遠(yuǎn)的、復(fù)雜的負(fù)面影響。其結(jié)果，可能會(huì)使得每個(gè)公民都有一個(gè)由大數(shù)據(jù)和人工智能構(gòu)成的數(shù)字人格如影隨形，在不知不覺中影響其命運(yùn)；可能會(huì)使在現(xiàn)代化過程中被否定的身份原理在數(shù)字人格的基礎(chǔ)上重新復(fù)活，事實(shí)上把每個(gè)公民作為“網(wǎng)絡(luò)人”分為三六九等；可能會(huì)在事實(shí)上使公民失去悔過自新的機(jī)會(huì)（為此，《歐盟通用數(shù)據(jù)保護(hù)條例》規(guī)定了個(gè)人信息刪除權(quán)、被遺忘權(quán)作為救濟(jì)手段），導(dǎo)致社會(huì)的階層之間更加缺乏流動(dòng)性，特別是造成底層固化、形成“虛擬貧民窟”；可能會(huì)按照某種分類法或群體特征給公民個(gè)人貼上某種特定的標(biāo)簽，造成在所謂“新集體主義” 框架內(nèi)的身份原理和算法歧視。例如美國有的人工智能系統(tǒng)把黑人圖片錯(cuò)誤地識(shí)別為大猩猩，對(duì)亞裔族群在教育方面實(shí)行價(jià)格歧視，等等。
物聯(lián)網(wǎng)、大數(shù)據(jù)以及人工智能的“鐵三角”，在某些場合還可能剝奪公民對(duì)個(gè)人信息的自我處分權(quán)（隱私權(quán)）、人格尊嚴(yán)以及法律面前平等的權(quán)利。例如常見的電商和網(wǎng)絡(luò)平臺(tái)把個(gè)人消費(fèi)信息作為學(xué)習(xí)數(shù)據(jù)使用，分析行為樣式并發(fā)布對(duì)標(biāo)廣告，這是否已經(jīng)構(gòu)成對(duì)隱私權(quán)的侵犯是需要認(rèn)真考慮的。特別是遺傳信息包含那些與生俱來的特性，一旦由人工智能進(jìn)行解讀和外泄就很容易影響個(gè)人入學(xué)、就業(yè)以及加入商業(yè)保險(xiǎn)，大幅度減少某些公民的人生機(jī)遇和選擇空間。尤其是保險(xiǎn)制度本來就是基于不利結(jié)果發(fā)生的偶然性而形成的互助機(jī)制，如果人工智能通過各種數(shù)據(jù)能夠準(zhǔn)確計(jì)算和預(yù)測特定個(gè)人未來的風(fēng)險(xiǎn)，就勢必要把入保申請者分成不同類型進(jìn)行差異化處理，導(dǎo)致人與人之間的不平等待遇，有些公民可能遭受歧視、被排除在外，這就勢必從根本上動(dòng)搖保險(xiǎn)制度通過偶然性分散風(fēng)險(xiǎn)的邏輯基礎(chǔ)。在一定意義上也可以說，如果在制度層面容許那些基于來自父母遺傳信息的差別，其實(shí)就是在向封建時(shí)代的血統(tǒng)觀、身份原理倒退。實(shí)際上，現(xiàn)代憲法的根本原則是維護(hù)公民的自由和平等，絕不允許把個(gè)人自己無法選擇、無法糾正的事作為不平等待遇的依據(jù)。
（三） 現(xiàn)代憲法體制的應(yīng)對(duì)舉措及其困境
鑒于上述問題在各國發(fā)展的趨勢，歐盟《通用數(shù)據(jù)保護(hù)條例》（2018年5月25日實(shí)施，General Data Protection Regulation，簡稱GDPR）從維護(hù)現(xiàn)代憲法體制的立場出發(fā)，特別強(qiáng)調(diào)了對(duì)個(gè)人尊嚴(yán)和公民基本權(quán)利的保障，被譽(yù)為人工智能時(shí)代的新人權(quán)宣言。這個(gè)條例能直接約束各加盟國的立法，具有根本規(guī)范的屬性，同時(shí)對(duì)歐盟各國向其他國家轉(zhuǎn)移數(shù)據(jù)的業(yè)務(wù)也能發(fā)揮約束效力。為了防止上述侵犯個(gè)人數(shù)據(jù)和隱私、個(gè)體尊嚴(yán)以及機(jī)會(huì)平等性的流弊，歐盟GDPR第21條承認(rèn)個(gè)人享有對(duì)基于大數(shù)據(jù)的人工智能檔案或者數(shù)字行為履歷提出異議的權(quán)利（反對(duì)權(quán)），如果數(shù)據(jù)管理者不能出示充分的正當(dāng)性根據(jù)，必須中止電腦化處理。第22條還承認(rèn)數(shù)據(jù)主體享有不服從那種僅根據(jù)人工智能而自動(dòng)化作出的決定的權(quán)利，即公民享有對(duì)人工智能純自動(dòng)化決定的抵抗權(quán)，要求必須有人介入和監(jiān)控計(jì)算機(jī)的信息處理。為了防止這種公民抵抗權(quán)被化解，GDPR明確指出數(shù)據(jù)管理者不得通過假裝有人介入的方式來規(guī)避第22條的約束，確保人工智能不能單獨(dú)地、自動(dòng)化地作出決定。該條例第13條第2款還特別強(qiáng)調(diào)了透明性原則，要求數(shù)據(jù)管理者必須對(duì)數(shù)據(jù)主體履行信息公開的義務(wù)，并且所提供的信息、程序、規(guī)格、算法都必須能為主體所理解，是可以清楚說明的。
但是，不得不承認(rèn)，歐盟《通用數(shù)據(jù)保護(hù)條例》第13條第2款和第22條在實(shí)施中會(huì)碰到一些前所未有的難題。規(guī)定必須由人介入和監(jiān)控計(jì)算機(jī)的運(yùn)作，其宗旨顯然是要確保人工智能的可控性。然而信息處理系統(tǒng)越復(fù)雜就越容易出現(xiàn)操作的失誤，當(dāng)系統(tǒng)運(yùn)作速度極快時(shí)，人也很難對(duì)情況進(jìn)行認(rèn)識(shí)、預(yù)測以及掌握。何況系統(tǒng)與系統(tǒng)之間會(huì)產(chǎn)生目的沖突和互動(dòng)，在存在機(jī)器學(xué)習(xí)甚至深度學(xué)習(xí)的情況下，不同人工智能系統(tǒng)之間的互動(dòng)關(guān)系勢必極其復(fù)雜而變幻莫測。而且機(jī)器學(xué)習(xí)的效果越精準(zhǔn)、深度學(xué)習(xí)的功能越強(qiáng)大，算法的含義就會(huì)變得越來越難以理解和說明。例如，2017年5月中國最高段位的圍棋選手柯潔與AlphaGo對(duì)弈以零比三失利，后者留有的五十份自我對(duì)戰(zhàn)棋譜讓所有專業(yè)棋手都覺得不可思議，從專業(yè)知識(shí)和經(jīng)驗(yàn)的角度他們無法參透人工智能在機(jī)器學(xué)習(xí)之后根據(jù)概率進(jìn)行這種貌似“臭棋”走法的緣由。但正是這些出其不意、攻其無備的走法使得AlphaGo大獲全勝。這正是人工智能算法可能變得無法理解和無法說明的一個(gè)典型例證。在這種情況下，人對(duì)人工智能系統(tǒng)運(yùn)作的介入和監(jiān)控究竟有多少意義呢？因此，在自然人無能為力的地方，只好以人工智能來監(jiān)控人工智能，通過不同的技術(shù)進(jìn)行互相制衡也許是解決上述難題的一條思路。
在無法理解和無法說明的場合，算法是黑箱化的。這樣的算法黑箱化，實(shí)際上也使人工智能具有了不受約束的權(quán)力性，使在現(xiàn)代民主法治國家具有關(guān)鍵意義的問責(zé)機(jī)制名存實(shí)亡。立法機(jī)構(gòu)的決定、司法機(jī)構(gòu)的判斷、行政機(jī)構(gòu)的具體處分行為都需要給出明確的理由，以便據(jù)此防止主觀任意性，給相對(duì)人以申訴和復(fù)議的機(jī)會(huì)。如果人工智能進(jìn)行的預(yù)測、提供的結(jié)論無法說明其理由，就無異于用“莫須有”的名義來作出決定或者進(jìn)行案件審理和制裁，且無從追究決定者是對(duì)還是錯(cuò)的法律責(zé)任�？上攵瑲W盟《通用數(shù)據(jù)保護(hù)條例》明確規(guī)定不能讓人工智能獨(dú)自進(jìn)行自動(dòng)化決定的主要原因就在這里。但是，隨著人工智能在國家治理和法律制度運(yùn)行中廣泛滲透以及算法難以理解和說明，在很多應(yīng)用場景下人們其實(shí)很難有效監(jiān)控人工智能；相反，人工智能倒很容易成為人們轉(zhuǎn)嫁決策風(fēng)險(xiǎn)、逃避問責(zé)的一種重要手段。毋庸諱言，在中國的“智慧法院”建設(shè)過程中已經(jīng)或多或少出現(xiàn)了這樣的偏頗。另一方面，應(yīng)用人工智能對(duì)大數(shù)據(jù)進(jìn)行分析和學(xué)習(xí)，可以充分掌握社會(huì)心理和輿情的變化，對(duì)不同群體以及個(gè)人的行為進(jìn)行精準(zhǔn)的預(yù)測，這就會(huì)使國家對(duì)社會(huì)的監(jiān)控能力和支配能力大幅度提高。在這種狀況下，如果不能相應(yīng)地提高民主問責(zé)的水準(zhǔn)，權(quán)力濫用的危險(xiǎn)也將漸次增加。然而對(duì)人工智能輔助的決定進(jìn)行民主問責(zé)，勢必要求對(duì)算法的說明和人們對(duì)算法的理解，可如前所述往往具有困難。于是，在這里出現(xiàn)了一個(gè)算法與問責(zé)互相糾纏的悖論。
三、 第四次產(chǎn)業(yè)革命與憲法體制創(chuàng)新
（一） 現(xiàn)代憲法精神與人工智能發(fā)展的現(xiàn)實(shí)需求
歐盟《通用數(shù)據(jù)保護(hù)條例》面臨的更大挑戰(zhàn)還來自第四次產(chǎn)業(yè)革命本身，來自對(duì)人工智能發(fā)展的強(qiáng)勁需求。按照現(xiàn)代憲法精神強(qiáng)調(diào)隱私權(quán)和個(gè)人信息保護(hù)，或多或少會(huì)引起虛擬空間的割據(jù)和碎片化，妨礙數(shù)據(jù)的大規(guī)模收集和應(yīng)用，從而妨礙以數(shù)據(jù)為養(yǎng)料的人工智能系統(tǒng)以及智慧網(wǎng)絡(luò)化社會(huì)的快速成長。站在公共利益或者社會(huì)福利的立場上來看，收集更多的數(shù)據(jù)、進(jìn)一步加強(qiáng)人工智能的預(yù)測力顯然是合乎理性的選項(xiàng)，有助于大幅度提高經(jīng)濟(jì)增長的效率，因此有必要通過讓個(gè)人分類發(fā)展的“新集體主義”方式來實(shí)現(xiàn)整體的最優(yōu)化。但是，如果接受這樣的觀點(diǎn)，那就意味著現(xiàn)代憲法體制的退讓，有可能損害個(gè)人自由。
實(shí)際上，現(xiàn)代憲法體制也是產(chǎn)業(yè)革命的結(jié)果。如果從這個(gè)角度來看，第四次產(chǎn)業(yè)革命應(yīng)該也有可能在相當(dāng)程度上引發(fā)憲法體制的創(chuàng)新。如果試圖在現(xiàn)代憲法體制下的人權(quán)保障原理與數(shù)字經(jīng)濟(jì)的迅猛發(fā)展這兩者之間尋找適當(dāng)?shù)钠胶恻c(diǎn)，那就需要深入探討某種更適應(yīng)人工智能時(shí)代需要的憲法體制，進(jìn)行法治的范式創(chuàng)新，而不是簡單地按照個(gè)人自由主義的標(biāo)準(zhǔn)來限定智慧網(wǎng)絡(luò)化社會(huì)的變遷。但是，前面已經(jīng)提到的各種問題又表明，如果不能切實(shí)保障個(gè)人信息安全和隱私權(quán)，人工智能的發(fā)展就很有可能誤入歧途，破壞“以人為本”的原則，侵犯個(gè)體的自由和安全，造成機(jī)器官僚主義的冷酷統(tǒng)治和無所不在的恐怖。因此，當(dāng)今憲法秩序演化的基本方向應(yīng)該是把中國憲法第33條第3款“國家尊重和保障人權(quán)”的原理嵌入智慧網(wǎng)絡(luò)之中，達(dá)成效率與公正、理性與溫情之間的適當(dāng)平衡。
（二） 人工智能時(shí)代的社會(huì)治理方式創(chuàng)新
怎樣才能達(dá)成這樣一種理想的平衡狀態(tài)？在這個(gè)方面，所謂以人工智能來監(jiān)控人工智能、通過不同的技術(shù)進(jìn)行互相制衡是否具有現(xiàn)實(shí)可行性？在對(duì)新冠病毒疫情進(jìn)行防控期間，中國廣泛應(yīng)用互聯(lián)網(wǎng)和信息溝通技術(shù)（ICT）進(jìn)行社會(huì)治理，提供了頗有啟迪意義的試行經(jīng)驗(yàn)和教訓(xùn)。2020年，猛烈沖擊全國各地的新冠病毒肺炎疫情，使得隔離突然成為一段時(shí)期內(nèi)社會(huì)日常生活的特征，智慧網(wǎng)絡(luò)化的技術(shù)和平臺(tái)在匯集和分配信息、資源以及物資等方面發(fā)揮極其重要的功能。對(duì)疫區(qū)旅行者和疑似患者的排查、對(duì)隔離人員的監(jiān)控、對(duì)救治病例的分析、對(duì)疫情發(fā)展的預(yù)測，都需要借助大數(shù)據(jù)和人工智能等科技手段，促進(jìn)以電子政府和網(wǎng)絡(luò)型政府為特征的國家治理方式創(chuàng)新全面提速。在這里特別值得重視的是區(qū)塊鏈技術(shù)的廣泛應(yīng)用。例如上海市靜安區(qū)臨汾街道根據(jù)電子政府方案，在2020年1月啟動(dòng)了基于區(qū)塊鏈協(xié)議的社區(qū)治理平臺(tái)，推動(dòng)十五分鐘生活圈內(nèi)的自治，試圖在數(shù)字真實(shí)可信的基礎(chǔ)上實(shí)現(xiàn)行政活動(dòng)全程留痕和監(jiān)控以及多方協(xié)同。在新冠病毒疫情防控中，這個(gè)平臺(tái)又嵌入了預(yù)約登記和購買口罩等功能，顯示了區(qū)塊鏈技術(shù)在分散化、平面化社區(qū)治理方面的優(yōu)勢，體現(xiàn)了“一網(wǎng)通辦”的制度設(shè)計(jì)思路。還有北京市的博云視覺科技有限公司開發(fā)的“智慧社區(qū)疫情防控網(wǎng)格化管理平臺(tái)”，可以進(jìn)行人體測溫快速篩查、未戴口罩預(yù)警、陌生人員預(yù)警、進(jìn)出記錄管控、異常人員聚集預(yù)警、疫情信息采集統(tǒng)計(jì)和分析等，以適應(yīng)春節(jié)后返工中社區(qū)的精細(xì)治理和可視化服務(wù)。
因?yàn)橐咔榉揽氐木o急狀態(tài)，幾乎所有城市和鄉(xiāng)村都按下了中止鍵，施行了“空城計(jì)”，人人都進(jìn)入“閉門自省”的狀態(tài)。這樣的體驗(yàn)以及由此產(chǎn)生的需求也許會(huì)為中國從零開始進(jìn)行制度的理性設(shè)計(jì)提供一個(gè)重要的歷史契機(jī)。如果說在西歐國家現(xiàn)代化進(jìn)程中，“待從頭收拾舊山河”的理性設(shè)計(jì)方案表現(xiàn)為關(guān)于人權(quán)保障、法治國家的社會(huì)契約論，那么不妨認(rèn)為在當(dāng)今中國，這種理性設(shè)計(jì)方案主要表現(xiàn)為關(guān)于信息公開、電子政府的互聯(lián)網(wǎng)協(xié)議，可以包括人工智能技術(shù)和區(qū)塊鏈技術(shù)這兩個(gè)階段或者層次。如果上述命題真的能夠成立，那么全國停頓就不是多此一舉，李文亮的犧牲也就不會(huì)化作無謂的泡沫。首先來看基于人工智能技術(shù)運(yùn)作的電子政府。電子政府的基本目標(biāo)或者特征是平面分散、互聯(lián)互通、公開透明、數(shù)據(jù)安全，在價(jià)值體系上體現(xiàn)為平等、共享、協(xié)同、過程等偏好或者思想取向。不言而喻，通過把互聯(lián)網(wǎng)的各種功能應(yīng)用于行政和政治，政府的定位和作用勢必有所變化，向群眾提供公共服務(wù)的數(shù)量、質(zhì)量、效率以及群眾滿意程度都會(huì)顯著提高。
例如愛沙尼亞的電子政府計(jì)劃是以數(shù)字身份證為核心擬訂和實(shí)施的，嵌入的芯片里除了有持證人的基本信息外，還有兩種證明資料：一種用于認(rèn)證，另一種用于簽名，憑各自設(shè)定的暗號(hào)登錄使用。該證在公民中的普及率達(dá)到90%以上，所以大量的行政服務(wù)項(xiàng)目通過數(shù)字身份證來執(zhí)行。公民通過數(shù)字身份證進(jìn)行在線投票、繳納稅金、享受社保、進(jìn)行體檢和接受醫(yī)療——所有就診記錄和診斷檔案都可以一證調(diào)閱，并自我決定是否向親屬或醫(yī)生公開。交通和旅行也是一卡通，數(shù)字身份證可以作為乘車券或支付卡使用。數(shù)字身份證還可以用于網(wǎng)上銀行的開通和利用、水電煤氣費(fèi)用的支付、學(xué)校教育（選課、提交作業(yè)、管理成績單、與教師聯(lián)系等）以及不動(dòng)產(chǎn)登記、垃圾處理、環(huán)保等各種公共事業(yè)的服務(wù)項(xiàng)目，這就使行政與物聯(lián)網(wǎng)密切聯(lián)系起來。通過數(shù)字身份證，愛沙尼亞公民可以從全球不同居住地參加選舉投票。通過電子居住制，非公民也可以取得數(shù)字身份證從全球不同國家向愛沙尼亞投資并申請?jiān)O(shè)立公司。
在中國的新冠病毒疫情防控中，杭州市從2020年2月11日起利用大數(shù)據(jù)和互聯(lián)網(wǎng)技術(shù)推出的“健康碼”，通過不同維度答問打分的方式把居民分成三種類型進(jìn)行區(qū)別化安排。持綠碼者可以在市內(nèi)自由通行；持黃碼者要進(jìn)行7天以內(nèi)的集中或居家隔離，在連續(xù)申報(bào)打卡7天都正常后轉(zhuǎn)為綠碼；持紅碼者要進(jìn)行14天以內(nèi)的集中或居家隔離，連續(xù)申報(bào)打卡14天都正常后轉(zhuǎn)為綠碼。對(duì)于填報(bào)不實(shí)的，可以通過大數(shù)據(jù)進(jìn)行鑒別，查實(shí)后一律定為紅碼，情節(jié)嚴(yán)重的還要采取懲處措施。這也是一種具有特定目的和時(shí)效性的數(shù)字化身份證。要使上述機(jī)制順利運(yùn)轉(zhuǎn)，必須確保虛擬空間的安全。為此，愛沙尼亞的經(jīng)驗(yàn)是建構(gòu)了無鑰簽名的基礎(chǔ)設(shè)施（KSI），使信息的記錄和檢索都可視化，確保政府記錄的正確性以及合規(guī)性。這是借助區(qū)塊鏈協(xié)議保證數(shù)據(jù)真實(shí)性的框架，不需要管理者，不需要對(duì)密鑰進(jìn)行管理和更新的手續(xù)，有利于提高行政效率，降低社會(huì)管理的成本。所以，接下來我們再來考察基于區(qū)塊鏈技術(shù)運(yùn)作的電子政府。
（三） 基于區(qū)塊鏈協(xié)議的電子政府與人權(quán)保障
眾所周知，沒有信賴協(xié)議是信息互聯(lián)網(wǎng)的主要缺點(diǎn)。以比特幣和P2P方式為基礎(chǔ)的電子通貨系統(tǒng)，實(shí)際上構(gòu)建了一種分散式信賴網(wǎng)絡(luò)，人們無須第三者或者權(quán)力的介入，通過直接的認(rèn)證合作就可以達(dá)成信賴協(xié)議，也就是說使網(wǎng)絡(luò)本身能保證相互信賴。在這個(gè)意義上可以說，區(qū)塊鏈技術(shù)對(duì)于社會(huì)治理方式具有革命性意義。借助智能技術(shù)運(yùn)作的電子政府，的確可以運(yùn)用互聯(lián)網(wǎng)和大數(shù)據(jù)為公民提供大量的方便，但與之相伴的代價(jià)是個(gè)人隱私的喪失，而隱私正是自由和自治的堡壘。區(qū)塊鏈的本質(zhì)是把個(gè)人隱私黑箱化，從而可以抗衡借助智能技術(shù)的外部操作。也就是以區(qū)塊鏈技術(shù)實(shí)現(xiàn)隱私的黑箱化，從而制約人工智能技術(shù)，并力爭改變黑箱化的算法。換個(gè)角度來看，如果說智能技術(shù)可以讓信息處理系統(tǒng)的終端工作自動(dòng)化，那么不妨認(rèn)為區(qū)塊鏈技術(shù)能使系統(tǒng)中樞工作也自動(dòng)化。因而人工智能技術(shù)與區(qū)塊鏈技術(shù)之間存在著相反相成的關(guān)系。為了確保個(gè)人參與同意的計(jì)算和共識(shí)的達(dá)成，區(qū)塊鏈還以挖礦方式提供了充分的誘因，用以解決交易成本問題。在這里，利己的行動(dòng)本身就可以構(gòu)成公共利益的一部分，具體的智能合約就可以明確各自的權(quán)利義務(wù)。
電商、物聯(lián)網(wǎng)以及移動(dòng)通信系統(tǒng)在疫情防控的隔離狀態(tài)下發(fā)揮了積極作用。由此也可以證明，通過大數(shù)據(jù)、人工智能以及信息合作提高業(yè)務(wù)效率、在公共服務(wù)中充分利用物聯(lián)網(wǎng)、借助信賴網(wǎng)絡(luò)突破地域和行業(yè)的樊籬等做法是必要的，也是可能的。結(jié)論就是疫情防控的經(jīng)驗(yàn)已經(jīng)顯示行政和政治的區(qū)塊鏈化勢在必行。
區(qū)塊鏈技術(shù)有可能形成社會(huì)治理的“路路通”格局。例如愛沙尼亞的電子政府計(jì)劃利用區(qū)塊鏈構(gòu)建了所謂“X-road”的數(shù)據(jù)共享系統(tǒng)，把各種數(shù)據(jù)庫和智慧城市項(xiàng)目融通無礙地聯(lián)結(jié)在一起，使行政服務(wù)和民間服務(wù)能夠互相銜接兼容，極大地提高了公共活動(dòng)的效率，極大地方便了居民的日常生活和行動(dòng)。前面提到的數(shù)字身份證系統(tǒng)并不是由國家集中管理，而是分散式的。包括出生證明、戶籍、護(hù)照、駕駛證、投票資格等各種公共證書都用加密化的哈希值（聯(lián)想配列）來表示，在區(qū)塊鏈上進(jìn)行分散管理和使用。在這里，可靠的數(shù)據(jù)安全技術(shù)保障了信息的正確性和私密性；數(shù)據(jù)查閱和更新的履歷是可以確認(rèn)的，公民可以及時(shí)獲悉是誰接觸了自己的個(gè)人信息；大量的作業(yè)是自我完成的，所以可以顯著減少行政成本，同時(shí)還可以保證公共證書的正當(dāng)性。區(qū)塊鏈技術(shù)還可以用于基層選舉。提供參與誘因的挖礦方式，意味著區(qū)塊鏈可以通過制度設(shè)計(jì)吸引人們對(duì)社會(huì)問題產(chǎn)生興趣、發(fā)表意見、根據(jù)共識(shí)制定更有說服力和執(zhí)行力的政策。由于電子貨幣的密碼確保不能重復(fù)使用，能夠有效地防止重復(fù)投票行為，所以區(qū)塊鏈技術(shù)可以建構(gòu)透明化的、可靠的選舉系統(tǒng)。通過在線會(huì)議、意見廣場等方式，區(qū)塊鏈技術(shù)也可以應(yīng)用于協(xié)商民主，而不限于分散化投票。通過數(shù)據(jù)的可視化、可追蹤性，區(qū)塊鏈技術(shù)還有利于落實(shí)問責(zé)原則。
總之，人工智能技術(shù)的核心是程序算法，強(qiáng)調(diào)數(shù)據(jù)匯聚和預(yù)測精確性，側(cè)重于法制的統(tǒng)一化和行政效率；與此相映成趣，區(qū)塊鏈技術(shù)的核心是網(wǎng)絡(luò)協(xié)議，強(qiáng)調(diào)的是管理分散和隱私權(quán)保障，側(cè)重于法制的透明化和網(wǎng)絡(luò)共識(shí)。這兩者互相制衡的同時(shí)又互相補(bǔ)充，有利于電子政府的健全發(fā)展。前面曾經(jīng)指出，以人工智能監(jiān)控人工智能，通過不同技術(shù)進(jìn)行制衡也許是解決算法黑箱化難題、根據(jù)人工智能時(shí)代的現(xiàn)實(shí)重構(gòu)憲法體制的一條思路。在這里我們看到，人工智能技術(shù)與區(qū)塊鏈技術(shù)之間相反相成的關(guān)系，為這條思路提供了現(xiàn)實(shí)可行的例證。
（四） 機(jī)器人權(quán)與人工智能的責(zé)任主體資格
在探討人工智能時(shí)代的憲法秩序創(chuàng)新之際，究竟應(yīng)該怎樣定位機(jī)器人也是一個(gè)很重要的問題。一般而言，生產(chǎn)率提高、經(jīng)濟(jì)景氣上揚(yáng)勢必導(dǎo)致就業(yè)率的攀升。但是，從2000年開始，美國的經(jīng)濟(jì)效益越好，雇傭人數(shù)反倒減少，兩者之間的差距不斷擴(kuò)大。不言而喻，其原因在于機(jī)器人取代自然人從事生產(chǎn)活動(dòng)。根據(jù)麻省理工和波士頓大學(xué)的研究報(bào)告，每千名工人擁有的機(jī)器人數(shù)量增加1個(gè)，就業(yè)率就會(huì)下降18—35個(gè)百分點(diǎn)、工人薪酬也會(huì)下降25—50個(gè)百分點(diǎn)。鑒于這種情況，2017年2月17日，比爾·蓋茨在接受數(shù)字媒體Quartz采訪時(shí)曾經(jīng)提出向機(jī)器人課稅的建議，試圖通過再分配的方式解決失業(yè)和社會(huì)福利問題。從法理學(xué)的角度來看，既然機(jī)器人可以成為責(zé)任主體，那么當(dāng)然也應(yīng)享有相應(yīng)的權(quán)利——這正是機(jī)器人權(quán)論的主張。賦予智能化機(jī)器以法律人格乃至人權(quán)貌似一種迂闊之見，但其實(shí)是持之有據(jù)、言之成理的；特別是最近出現(xiàn)了用青蛙細(xì)胞生成的“活體機(jī)器人（Xenobots）”，作為一種可編程的有機(jī)體，使得機(jī)器與動(dòng)物生命之間的界限已經(jīng)非常相對(duì)化。隨著醫(yī)療科技的飛速進(jìn)步，實(shí)際上人的身體或臟器的相當(dāng)部分都可以由人工產(chǎn)品構(gòu)成，人機(jī)混合狀態(tài)日益普及，這就使得機(jī)器人權(quán)的討論具有越來越強(qiáng)的現(xiàn)實(shí)意義。2019年8月，在Youtube網(wǎng)站上發(fā)表視頻的不少人發(fā)現(xiàn)，算法會(huì)自動(dòng)刪除機(jī)器人對(duì)戰(zhàn)的視頻。這是否構(gòu)成機(jī)器人自我認(rèn)知的征兆？在出現(xiàn)諸如此類的“機(jī)器覺醒”現(xiàn)象，特別是出現(xiàn)自律型人工智能之后，機(jī)器人的權(quán)利問題其實(shí)與動(dòng)物、胎兒、植物人的權(quán)利問題具有類似性；在機(jī)器人的能力超過自然人的情況下，賦權(quán)的理由實(shí)際上也就變得更加充分。
一旦承認(rèn)機(jī)器人權(quán)，隨之而來的問題就是如果人工智能具有與人同樣的能力、資格以及精神權(quán)益，中國憲法第33條第2款規(guī)定的法律面前的平等性是否也包括人工智能？鑒于猴子拿起傻瓜相機(jī)自拍和人機(jī)對(duì)話系統(tǒng)的歧視性笑話等實(shí)例，人工智能是否也可以享有憲法第35條規(guī)定的言論和表達(dá)的自由？現(xiàn)在已經(jīng)有很多自動(dòng)作曲、自動(dòng)寫詩、自動(dòng)繪畫的智能軟件，由此產(chǎn)生的作品能否享有著作權(quán)？權(quán)利主體是誰？能否承認(rèn)對(duì)這類作品的壟斷性保護(hù)？如果承認(rèn)的話，保護(hù)期間設(shè)定多久為宜？在中國，人工智能在司法和法律服務(wù)方面的應(yīng)用已經(jīng)非常廣泛，并且得到政府的鼎力支持。在現(xiàn)行法律框架下，人工智能代行相當(dāng)部分的法律業(yè)務(wù)是否違反了法官法、檢察官法以及律師法？如果人工智能可以被賦予法律人格，那么可否也被賦予法官、檢察官以及律師的任職和執(zhí)業(yè)資格呢？如果回答是肯定的，就必須考慮設(shè)定什么樣的準(zhǔn)入門檻。關(guān)于人工智能系統(tǒng)的法律人格以及自然人和機(jī)器人在人格上的平等性，是數(shù)字化時(shí)代憲法學(xué)有必要認(rèn)真討論的一個(gè)重要問題。
四、 結(jié)語：在智慧網(wǎng)絡(luò)中尋找新的平衡點(diǎn)和組合方式
在上海召開的2019年世界人工智能大會(huì)法治論壇，通過了《人工智能安全與法治導(dǎo)則》，從算法安全、數(shù)據(jù)安全、知識(shí)產(chǎn)權(quán)、社會(huì)就業(yè)和產(chǎn)品法律責(zé)任這五個(gè)方面明確了相關(guān)的原則、政策和法律制度安排，體現(xiàn)了硬法與軟法相結(jié)合的特征。關(guān)于算法的可理解性和可說明性，該導(dǎo)則強(qiáng)調(diào)對(duì)算法進(jìn)行技術(shù)評(píng)估以及算法的技術(shù)倫理，要求構(gòu)建軟件質(zhì)量和算法安全的檢測體系。導(dǎo)則鼓勵(lì)人工智能數(shù)據(jù)開放性保護(hù)，還對(duì)數(shù)據(jù)隱私問題給予特別關(guān)注，強(qiáng)調(diào)對(duì)采集和使用敏感個(gè)人數(shù)據(jù)的人工智能企業(yè)或行業(yè)加強(qiáng)法律的和行政的監(jiān)管。在這里，不是像歐盟《通用數(shù)據(jù)保護(hù)條例》那樣賦予數(shù)據(jù)主體提出異議、進(jìn)行抵制的自由權(quán)，而是進(jìn)一步加強(qiáng)法律和行政的監(jiān)管，體現(xiàn)了中國傳統(tǒng)治理方式的特征以及憲法觀的差異。導(dǎo)則也注意到關(guān)于機(jī)器人納稅之議，提出了面向人工智能開展收入調(diào)節(jié)，提高社會(huì)二次分配的合理性和精準(zhǔn)性的命題，但沒有把機(jī)器人作為責(zé)任主體。中國倡議的做法是科學(xué)分配人工智能侵權(quán)的法律責(zé)任，要求人工智能設(shè)計(jì)者、生產(chǎn)者、運(yùn)營者、使用者承擔(dān)法律主體責(zé)任，并按照過錯(cuò)程度進(jìn)行分擔(dān)。在這里可以發(fā)現(xiàn)，導(dǎo)則還沒有明確地提示處理各種規(guī)范沖突的元規(guī)則以及對(duì)價(jià)值進(jìn)行排序的標(biāo)準(zhǔn)，這是一個(gè)缺憾。
人工智能在本質(zhì)上是規(guī)則嵌入的系統(tǒng)，可以形成硬法的支配、創(chuàng)造全程留痕的條件，因而有利于加強(qiáng)對(duì)公權(quán)的制約。在這個(gè)意義上，人工智能可以貫徹現(xiàn)代憲法的精神。但是，人工智能的能力提升有賴于盡量增大數(shù)據(jù)的規(guī)模，勢必會(huì)突破圍繞私權(quán)的屏障壁壘，在相當(dāng)程度上侵蝕隱私和個(gè)人尊嚴(yán)，甚至動(dòng)搖自由的根基。另外，以對(duì)大數(shù)據(jù)的機(jī)器學(xué)習(xí)為背景，尤其是在智慧網(wǎng)絡(luò)化的社會(huì)條件下，對(duì)算法的理解和說明將變得很困難，并自然導(dǎo)向算法黑箱化以及算法獨(dú)裁。算法黑箱化實(shí)際上會(huì)在不同程度上妨礙對(duì)權(quán)力問責(zé)，同時(shí)也會(huì)助長回避責(zé)任和轉(zhuǎn)嫁責(zé)任的不良傾向。數(shù)據(jù)偏誤和算法歧視還會(huì)招致對(duì)現(xiàn)代憲法原則的抵制，削弱對(duì)公民基本權(quán)利的保障。
如果希望發(fā)展人工智能、提高其預(yù)測能力，同時(shí)又尊重和保障人權(quán)，就需要在算法與憲法之間達(dá)成適當(dāng)?shù)钠胶�，從而推�?dòng)憲法理論和法治范式的創(chuàng)新。新型憲法觀樹立的一個(gè)關(guān)鍵是形成人工智能技術(shù)與區(qū)塊鏈技術(shù)之間制衡的機(jī)制，并不斷尋求科學(xué)理性、經(jīng)濟(jì)效率與人格尊嚴(yán)、社會(huì)公平之間的更優(yōu)乃至最優(yōu)的組合方式。