摘 要:在信息文明時代,大數(shù)據(jù)等新型通用技術(shù)深刻推動了犯罪治理的變革,犯罪的技術(shù)治理模式興起。技術(shù)治理具有技術(shù)賦能與技術(shù)賦權(quán)的兩面性,技術(shù)賦能與技術(shù)賦權(quán)“一顯一隱”的非均衡發(fā)展致使算法歧視、隱私弱化、數(shù)字鴻溝等問題趨重,加劇了社會安全防衛(wèi)與個人權(quán)利保護的價值沖突。在數(shù)據(jù)主義重塑社會結(jié)構(gòu)的當下,對犯罪技術(shù)治理的正當性進行反思尤為迫切。對此,有必要引入數(shù)據(jù)正義的分析視角,邁向數(shù)據(jù)控制且超越數(shù)據(jù)控制,以有限擴張、關(guān)系均衡、法律控制、技術(shù)賦權(quán)等正當性要求錨定犯罪技術(shù)治理的價值導向。這要求我們以數(shù)據(jù)權(quán)利厘定數(shù)據(jù)監(jiān)控的法律邊界,以算法治理打開預測性執(zhí)法的技術(shù)黑箱,對權(quán)力外溢至平臺企業(yè)開展均衡治理,以數(shù)據(jù)開放打通公眾參與的數(shù)據(jù)接口。
關(guān)鍵詞:技術(shù)治理;數(shù)據(jù)監(jiān)控;正當性;數(shù)據(jù)正義;數(shù)據(jù)權(quán)利
在信息文明時代,大數(shù)據(jù)、人工智能等新型通用技術(shù)深刻推動了犯罪治理變革,基于信息技術(shù)的治理創(chuàng)新層見疊出,人臉識別、算法決策、預測性執(zhí)法、平臺治理、人工智能司法等技術(shù)的應用極大地提升了政法機關(guān)的社會能見度、風險感知度和反應靈敏度,“運用技術(shù)平臺監(jiān)管社會成為現(xiàn)代社會的普遍做法”。犯罪治理呈現(xiàn)出整體性的技術(shù)轉(zhuǎn)向,犯罪的技術(shù)治理模式蔚然成型。但技術(shù)治理在取得令人矚目的成就的同時,“政府對個人信息巨細靡遺的收集,將引發(fā)民眾對‘隱私已死’的擔憂,有可能滑入‘全方位監(jiān)控型社會’”。算法歧視、黑箱社會、隱私弱化、數(shù)字鴻溝等因數(shù)據(jù)使用而產(chǎn)生的不公平對待引發(fā)了廣泛的社會焦慮,加劇了社會安全防衛(wèi)與個人權(quán)利保障之間的價值沖突。
一、隱匿于技術(shù)治理中的“看不見的非正義”
(一)技術(shù)治理的兩面性
大數(shù)據(jù)是國家治理的顯微鏡、透視鏡和望遠鏡,信息技術(shù)在與國家機器的高度適配過程中極大提升了犯罪治理能力,美國的PredPol、德國的Precobs、意大利的Keycrime、韓國的U-Governance、我國的“城市大腦”等智能防控系統(tǒng)在實踐中大放異彩,大規(guī)模數(shù)據(jù)監(jiān)控、預測性執(zhí)法、平臺治理等技術(shù)手段的應用給社會生活和犯罪治理帶來了深刻影響。對此,犯罪學亟需恰當?shù)母拍钕、充足的知識儲備和科學的分析框架,以便作出恰切回應,技術(shù)哲學和技術(shù)社會學中的“技術(shù)治理”范疇由此進入犯罪學視野。
技術(shù)治理源自二十世紀初興起的技術(shù)治理主義。技術(shù)治理主義強調(diào)科學技術(shù)在社會發(fā)展中的決定性作用,主張實施工具層面的漸進式的社會工程,以科學技術(shù)提升公共治理效率,因而成為國家治理的全球性現(xiàn)象。在模式上,可用“犯罪的技術(shù)治理”描摹犯罪治理的技術(shù)轉(zhuǎn)向。犯罪的技術(shù)治理,是指防控主體依托“云計算、多平臺、百系統(tǒng)”等架構(gòu),遵循“數(shù)據(jù)集成、風險預警、決策支持、指揮調(diào)度、共治服務(wù)”的平臺治理流程,集成運用幾十種甚至上百種具體的智能系統(tǒng)進行數(shù)據(jù)分析,以實現(xiàn)犯罪預警、預測、預防的整體性治理模式。技術(shù)治理有技術(shù)賦能與技術(shù)賦權(quán)兩個方面。信息技術(shù)不僅強化了社會控制,其還作為一種解放性力量,以賦權(quán)形式釋放出大數(shù)據(jù)社會福祉。
1. 基于數(shù)據(jù)監(jiān)控的技術(shù)賦能
信息技術(shù)對犯罪治理的賦能主要通過數(shù)據(jù)監(jiān)控體現(xiàn)出來,數(shù)據(jù)監(jiān)控是各類智能防控系統(tǒng)的底層邏輯。在流程上,數(shù)據(jù)監(jiān)控包括數(shù)據(jù)采集和整合環(huán)節(jié),依托“代碼、算法、軟件、系統(tǒng)”的分析環(huán)節(jié),指向精準干預的結(jié)果輸出環(huán)節(jié)。在成本上,在物信融合的基礎(chǔ)設(shè)施建成后,數(shù)據(jù)監(jiān)控被轉(zhuǎn)化為廉價監(jiān)控和自動監(jiān)控,人財物投入遠少于傳統(tǒng)的“人盯人”監(jiān)控,算法決策使監(jiān)控自動化運行。在規(guī)模上,隨著數(shù)據(jù)化程度日益加深,數(shù)據(jù)監(jiān)控成為根植于“數(shù)據(jù)宇宙”的泛在監(jiān)控,只要有數(shù)據(jù)印記和網(wǎng)絡(luò)連接存在,更多的人和事就被會傳感器記錄下來,被源源不斷地輸送至智能系統(tǒng)中,實現(xiàn)自動挖掘、整合與甄別,從而形成全景敞視的監(jiān)控架構(gòu)。在權(quán)力運行上,人臉識別、算法決策等方法緊密融入社會生活,使人無從分辨,而監(jiān)控方法越具侵略性,技術(shù)背后的數(shù)據(jù)權(quán)力運行就愈發(fā)不易被外界察覺,以至于技術(shù)治理成為一種“消失”的治理術(shù)。
隨著數(shù)據(jù)監(jiān)控的全面鋪展,信息技術(shù)與犯罪治理組織體系產(chǎn)生了強烈的化學反應,圍繞數(shù)據(jù)權(quán)力形成了雙向互嵌、高度融合的治理態(tài),催生出復雜精密的“數(shù)據(jù)巨機器”!熬迿C器”源自技術(shù)哲學家劉易斯·芒福德的《技術(shù)與文明》一書。芒福德認為,現(xiàn)代技術(shù)造就出高度權(quán)力化的復雜大型機器———“巨機器”。在“巨機器”中,人無異于一顆顆螺絲釘,服從機械的鐵律!皵(shù)據(jù)巨機器”是對大數(shù)據(jù)時代技術(shù)治理所孕育的治理生態(tài)的形象描摹!皵(shù)據(jù)巨機器”由“云計算、多平臺、百系統(tǒng)”組合而成,通過數(shù)以億計的物聯(lián)網(wǎng)傳感器,將數(shù)據(jù)匯聚于由巨型服務(wù)器集群所支撐的中央信息源,借助各種復雜精妙的算法分析數(shù)據(jù),為犯罪治理輸出各類結(jié)果。數(shù)據(jù)監(jiān)控及“數(shù)據(jù)巨機器”提高了國家對社會的控制、整合及動員能力,優(yōu)化了犯罪治理的體制和機制,強化了綜治組織體系的結(jié)構(gòu)韌性,極大提升了犯罪治理能力,但在客觀上也導致治理權(quán)力趨于集中。
2. 回歸人本導向的技術(shù)賦權(quán)
技術(shù)作為工具本是中立的,但技術(shù)的使用必定受價值導向的影響。信息技術(shù)不僅強化了社會控制,更是一種解放性力量。信息技術(shù)在重塑社會的過程中,給技術(shù)使用者帶來了意想不到的發(fā)展機遇,有效改善了公共治理的方式,通過保障國民對犯罪治理的知情權(quán)、參與權(quán)和監(jiān)督權(quán)來提供大數(shù)據(jù)社會福祉?梢,技術(shù)治理不僅有賦能面相,更能夠技術(shù)賦權(quán)。在域外,數(shù)據(jù)開放浪潮推動英美等國對社會公開犯罪地圖,民眾在線查詢各類犯罪地點等信息,以此促進警民互動,指導被害預防和社區(qū)防衛(wèi)。在國內(nèi),在目前的八個“城市大腦”項目中,浙江嘉興的“社會治理云平臺”不僅支持技術(shù)賦能,還在“微嘉園”模塊以微信將125萬市民(全市常住人口470萬)納入線上網(wǎng)格化治理,使市民能夠通過各自所屬網(wǎng)格的微信群對社會治理所涉問題實現(xiàn)線索上報、意見分享、集體協(xié)商、調(diào)解及共治,由此,政府各部門在線上對接和解決問題的過程中形成了基于“用戶視角”的“線上政府”,形塑出了基于技術(shù)賦權(quán)的源頭治理、回應型治理和整體治理策略。
賦權(quán)既是一種主觀感知,強調(diào)個體對生活資源和發(fā)展擁有控制力,對特定事件擁有影響力,也是一種行動過程,強調(diào)個體或群體依靠信息開展社會實踐。技術(shù)賦權(quán)往往與信息的獲取、社會的認同和互信、公眾的參與等主題緊密聯(lián)系在一起。因此,犯罪的技術(shù)治理不同于技術(shù)統(tǒng)治,技術(shù)賦權(quán)呼喚技術(shù)治理回歸人本導向的治理本質(zhì)。盡管技術(shù)賦能使治理權(quán)力隨著數(shù)據(jù)監(jiān)控的使用而趨于集中,但技術(shù)賦權(quán)通過改變治理結(jié)構(gòu)、助力公眾參與的方式,促使治理權(quán)力外溢至社會和個人。
3. 技術(shù)賦能與技術(shù)賦權(quán)的非均衡發(fā)展
在實踐中,技術(shù)賦能和技術(shù)賦權(quán)的兩面呈現(xiàn)出“一顯一隱”及“一強一弱”的非均衡性困境,技術(shù)賦能愈發(fā)彰顯,技術(shù)賦權(quán)尤甚薄弱。這種失衡的表現(xiàn)有很多,比如,監(jiān)控技術(shù)的迭代演化對隱私和自由的威脅愈發(fā)嚴重,監(jiān)控數(shù)據(jù)運行的透明度不高,算法和模型愈發(fā)復雜且難以被解釋和監(jiān)督,政府、科技企業(yè)與個人之間的“數(shù)字鴻溝”日趨拉大,等等。技術(shù)賦能與技術(shù)賦權(quán)的失衡在相當程度上受犯罪治理極強的目標導向影響,無論是及時鎖定嫌疑人,還是精準研判犯罪風險,這種極強的指向性自然會引導防控實踐向技術(shù)賦能傾斜。技術(shù)賦能在催生全景式監(jiān)控的同時,也引發(fā)了人們對信息技術(shù)福音走向反面的擔憂。技術(shù)治理與個人數(shù)據(jù)的使用密不可分,數(shù)據(jù)監(jiān)控與每個人的關(guān)系深入且具體,以至于“人越來越適應監(jiān)測環(huán)境,監(jiān)控技術(shù)與人的身體逐步融合,并構(gòu)建了人的生活世界”。技術(shù)治理以飛天遁地的科技力量追求秩序唯美主義,形塑出前所未有的“數(shù)據(jù)巨機器”,但個人的自由和權(quán)利有可能免于被反噬嗎?處于加速進化中的技術(shù)賦能效應極大擠壓了技術(shù)賦權(quán)的空間,數(shù)據(jù)主義的治理架構(gòu)相對忽視了數(shù)據(jù)使用的正當性與合法性。伴隨著數(shù)據(jù)監(jiān)控的全面擴張,這種非均衡發(fā)展引發(fā)了一系列因數(shù)據(jù)使用而產(chǎn)生的不公平對待問題。
(二)非均衡發(fā)展引發(fā)的不公平對待
技術(shù)治理雖蘊含著邁向數(shù)據(jù)控制的賦能過程,但我們對技術(shù)的理解不能止步于工具的運用,而是應關(guān)注技術(shù)對社會福祉和個人自由有無増進。因此,技術(shù)治理不等于絕對的數(shù)據(jù)控制和唯數(shù)據(jù)主義。但遺憾的是,大數(shù)據(jù)分析推動著刑事政策的制定者和執(zhí)行者從被數(shù)據(jù)影響逐漸轉(zhuǎn)變?yōu)楸粩?shù)據(jù)決定。在數(shù)據(jù)主義的決定下,“重賦能輕賦權(quán)”的非均衡發(fā)展所導致的因數(shù)據(jù)使用而產(chǎn)生的不公平對待愈發(fā)凸顯。這種不公平對待源自數(shù)據(jù)控制者的不正當?shù)臄?shù)據(jù)使用行為,與數(shù)據(jù)使用的理念、方式直接相關(guān)。不公平對待不僅包括對特定群體或個體的歧視性執(zhí)法和不正當?shù)牟顒e對待,還包括對全體國民在整體意義上的技術(shù)賦權(quán)不足。具體來說,不公平對待的表現(xiàn)如下:
第一,盲目追求全景式監(jiān)控,忽視了大數(shù)據(jù)的有限性,易使犯罪治理陷入“技術(shù)烏托邦”誤區(qū)。盡管大數(shù)據(jù)分析具有重要作用,但大數(shù)據(jù)分析的結(jié)果是解釋性和預測性的,而非控制性和絕對性的。由于大數(shù)據(jù)分析僅能實現(xiàn)有限理性,在人工限定的具體任務(wù)中發(fā)揮作用,所以,大數(shù)據(jù)分析仍須與具體的刑事政策、決策者和執(zhí)行者的經(jīng)驗、特定的治理策略等相結(jié)合!叭f物皆可計量”“算法設(shè)計未來”等大數(shù)據(jù)崇拜之聲實際上過度拔高了大數(shù)據(jù)技術(shù)的作用,“技術(shù)烏托邦”誤區(qū)為數(shù)據(jù)權(quán)力的不當擴張?zhí)峁┝嗣菜坪侠淼慕杩,故而應警惕?shù)據(jù)控制者以技術(shù)之名過度侵蝕個人權(quán)利。
第二,從人和技術(shù)的關(guān)系上看,“讓渡決策”侵蝕了人的主體性,其暗藏的算法中心主義忽視了人的行為在犯罪治理中的作用。作為一根會思想的“葦草”,人的主體性是社會進化的內(nèi)在動力。當下,基于智能機器的“讓渡決策”正在日趨增多,比如PredPol軟件對預測性執(zhí)法的自動規(guī)劃、“上海刑事案件智能輔助辦案系統(tǒng)”的算法量刑等。“技術(shù)治理誘惑人類把判斷交給數(shù)據(jù)”,使讓渡決策依靠算法進行決策,但算法僅僅是對人類活動的數(shù)學模擬,基于算法的自動化決策也并非完全準確無誤。隨著“讓渡決策”的邊界面向人類的這一側(cè)不斷后移,算法中心主義日益凸顯,科技與人文協(xié)作的困境愈發(fā)趨重,對個人的技術(shù)賦權(quán)亦被算法中心主義所虛置。
第三,從決策依據(jù)上看,算法決策存在著算法歧視、算法誤差等技術(shù)風險。算法是智能系統(tǒng)進行計算、分析的規(guī)則,是機器學習的內(nèi)在機制。由于算法具有高度的復雜性和不透明性,故而機器學習和深度神經(jīng)網(wǎng)絡(luò)的運行往往是只見結(jié)果不見過程!八惴ê谙淇赡苁茈[藏的偏見影響,即因訓練數(shù)據(jù)的不足而得出違背設(shè)計者本意的結(jié)果;可能存在較大模糊性,即算法規(guī)則很難精確表述出來,而是嵌入在數(shù)千甚至數(shù)萬變動的因素中,很難證明某算法在任何情況下均正常工作!蹦撤菭I利組織發(fā)現(xiàn),Northpointe公司所開發(fā)的犯罪風險評估軟件Compas在再犯風險評估中系統(tǒng)性地歧視黑人,而白人則更多地被錯誤評估為具有低犯罪風險。算法黑箱以技術(shù)掩蓋偏見和歧視,認為算法決策就等于公平公正,這是一個天大的誤解,由此,算法歧視又被稱為“最安靜的恐怖主義”。
第四,從公眾參與上看,數(shù)據(jù)控制者與個人之間的“數(shù)字鴻溝”催生出了新的社會鴻溝,限制了國民對技術(shù)治理的參與。技術(shù)平臺對社會具有長期固化效應,囿于數(shù)據(jù)權(quán)力的隱蔽性,表面看,互聯(lián)網(wǎng)與大數(shù)據(jù)擴大了平等與自由,事實上卻進一步強化了社會分層。目前,個人與大數(shù)據(jù)掌控者之間的力量懸殊愈發(fā)明顯,個人越來越無法掌握自己的命運,透明的個人與幽暗的數(shù)據(jù)掌控者之間的社會分層也就在所難免。大規(guī)模數(shù)據(jù)監(jiān)控將億萬個體視為監(jiān)控對象,“算法黑箱”架空了個人對技術(shù)治理的知情權(quán),“說服計算”動搖了“行為系自由意志的產(chǎn)物”的世界觀!皵(shù)字鴻溝”在事實上將個人對數(shù)據(jù)監(jiān)控的知情、參與、監(jiān)督的權(quán)利排除到了犯罪治理體系之外。
第五,從權(quán)利保障上看,全景敞視的數(shù)據(jù)監(jiān)控給自由和隱私帶來了重大威脅。數(shù)據(jù)監(jiān)控依賴于對個人信息的整合利用,客觀上增加了個體的透明度,使個人越來越易被識別,導致無匿名、高清晰的個體超級檔案逐漸生成。技術(shù)治理以社會安全防衛(wèi)之名急劇放大了隱私弱化的法律風險,政府對個人數(shù)據(jù)的訪問權(quán)與個人隱私權(quán)存在現(xiàn)實抵牾。面對“數(shù)據(jù)巨機器”的崛起,對于個人怎樣保有必要自由的問題,亟待深思。
二、不公平對待引致價值沖突加劇
犯罪治理活動一般兼具復合目標,追求自由、公正、安全、秩序、權(quán)利、效率等多元價值,但特定背景、場景、內(nèi)容下的防控策略在實現(xiàn)主要治理目標的同時,往往與其他價值在一定程度上存在抵牾之處。例如,人臉識別技術(shù)在高效監(jiān)測高危人員的同時,也在一定程度上對國民的自由和隱私構(gòu)成威脅。隨著算法偏見、自動化決策、數(shù)字鴻溝等不公平對待的趨重,人臉識別等技術(shù)的社會風險、法律風險、倫理風險被驟然放大,極大加劇了社會安全防衛(wèi)與個人權(quán)利保護的總體價值沖突,進一步激化了技術(shù)治理的正當性危機。
(一)價值沖突加劇的表現(xiàn)
1. 安全至上、秩序為重與隱私保護、自由保障的價值沖突
大規(guī)模數(shù)據(jù)監(jiān)控強化了政府對個人的控制,凸顯了安全至上和秩序為重的理念。監(jiān)控的指數(shù)級增長和全方位覆蓋不可避免地對個人隱私、自由構(gòu)成威脅。以人臉識別技術(shù)為例,東南某省會城市較早在地鐵安檢口安裝了人臉識別攝像頭,與“全國在逃人員信息系統(tǒng)”進行實時比對,可迅速識別在逃人員出入地鐵的線索。在此后八個月內(nèi),公安機關(guān)憑借該技術(shù)抓獲在逃人員500余人。如今,在重點空間使用人臉識別已成為高密度城市安全防衛(wèi)的慣常策略。但值得深思的是,人臉識別技術(shù)的敏感性在于其融合了信息和生物技術(shù),有關(guān)部門在獲得人臉信息的超級訪問權(quán)后,雖然監(jiān)控能見度得到大幅提升,但使個人變得愈發(fā)透明,導致隱私邊界不斷潰縮。為此,反思人臉識別技術(shù)、加強隱私保護的社會思潮風起云涌。2019年,美國舊金山市、薩默維爾市相繼出臺了禁止政府部門使用人臉識別技術(shù)的禁令,反對使用人臉識別技術(shù)的理由包括該技術(shù)過度侵犯個人隱私,人臉識別存在誤差,助推歧視性執(zhí)法并加劇種族不平等,等等。2020年初,歐盟關(guān)于在公共場所禁用人臉識別技術(shù)的政策也在醞釀之中。
上述反對理由確有一定道理,但斷然拒絕人臉識別技術(shù)似不可取,因為該技術(shù)在政務(wù)服務(wù)、商業(yè)活動中已獲得廣泛應用,在犯罪治理中收獲了奇效,我們根本無力抗拒“刷臉時代”的到來。任何一項技術(shù)在防衛(wèi)社會的同時都會影響到個人自由和隱私保護,只不過信息技術(shù)因具有廣泛的社會覆蓋面、強大的數(shù)據(jù)處理能力、超強的迭代更新速度、開放的社會整合機制,從而使這種沖突驟然加劇,以至于人們一時間無所適從,難以取舍。而且,即便要對人臉識別進行限制,也應以規(guī)制個人信息使用的數(shù)據(jù)法為依據(jù)。鑒于信息時代普遍存在“制度滯差”,在數(shù)據(jù)法尚不完備的情況下,人臉識別的正當性危機可能會愈發(fā)嚴重。
2. 效率優(yōu)先與權(quán)利保護的價值沖突
基于“數(shù)據(jù)+算力+算法”的合力驅(qū)動,技術(shù)治理取得了前所未有的高效率和大成就,并使全國公安機關(guān)刑事案件立案數(shù)迎來了大幅持續(xù)下降的“歷史性拐點”。這種高效率不僅有賴于警力的高強度投入,還得益于由算法決策所驅(qū)動的自動監(jiān)控的全面推行。某地政法委運用AI深度分析各類巨型數(shù)據(jù)庫及實時信息,通過總結(jié)嚴重暴力犯罪行為人的罪前特征及危險人格特征(如是否失業(yè),有無纏訪鬧訪越級訪及精神疾病經(jīng)歷,有無家暴行為等)設(shè)計威脅評分模型,通過預測性執(zhí)法,在茫茫人海中識別和干預高危人員。
客觀地說,預測性執(zhí)法具有一定的合理性和可操作性,但這種過于主動、前置的執(zhí)法方式易導致數(shù)據(jù)監(jiān)控的系統(tǒng)性濫用和體制性防衛(wèi)過當,使個人權(quán)利時刻處于“數(shù)字利維坦”的威脅之下。“用算法識別對社會安全具有潛在威脅的個體,這種基于群體層面長期可疑行為的預測,將不可避免地以回答‘是或否’的問題來實現(xiàn);但對個體而言則直接關(guān)涉自由和權(quán)利,被遠程監(jiān)控的人不知道自己被數(shù)據(jù)分類的基礎(chǔ)!鳖A測性執(zhí)法一旦被濫用,將會對社會產(chǎn)生巨大的寒蟬效應。技術(shù)治理在追求高效率的同時,離不開制度化約束對個人權(quán)利的保護。權(quán)利保護理念要求算法決策必須保持透明度,在法律上明確威脅評分規(guī)則的具體內(nèi)容、被監(jiān)控對象的傾向性、監(jiān)控的正當程序等。如果制度化約束缺位,那么,效率與權(quán)利的抵牾將日益趨重。
3. 概率公正與個案公正的價值沖突
算法決策被應用于技術(shù)治理的底層邏輯是概率分析。以威脅評分為例,算法決策在全面采集數(shù)據(jù)的基礎(chǔ)上,對個體進行人群分類及用戶畫像,其基于訓練數(shù)據(jù)設(shè)計評估模型,計算個體實施違法行為的概率。在計算哪類人群的威脅評分更高以及是否可被列入“大數(shù)據(jù)黑名單”時,算法決策在概率上確實具有無可比擬的準確性,但當具體到特定個體時,則可能存在算法歧視、計算誤差、識別錯誤等問題。例如,Compas、PSA、LSI-R等軟件在美國被應用于輔助法官量刑和評估罪犯再犯風險等領(lǐng)域,它們在預估某一群體的累犯風險時相對可靠,但囿于對有色人種存在較為嚴重的算法歧視、算法量刑與量刑個別化原則相抵牾等緣由,這些軟件針對特定個體所作出的累犯風險預測、量刑結(jié)果計算等可能失準,尤其是在預測暴力犯罪時準確率不佳?梢,算法決策雖能實現(xiàn)概率層面的公正,但未必能夠直達個案個體的公正。
概率公正源自算法中心主義,是技術(shù)方法和組織體系互嵌而生成的“數(shù)據(jù)巨機器”的輸出結(jié)果。概率公正不等于社會整體公正,社會整體公正源自個體所獲得的個案公正。算法中心主義以讓渡決策和自動控制的形式造成了事實上的數(shù)字鴻溝,其所引發(fā)的歧視性執(zhí)法導致算法社會中的人與人之間新的不平等。於興中認為:“算法社會一定是科技精英社會,我們可能正在期望一個比現(xiàn)有社會更不平等的社會,這種不平等是從起點到結(jié)果的全方位的不平等!边@種數(shù)據(jù)導向、算法中心、技術(shù)驅(qū)動的治理策略無可避免地輸出概率公正,以概率公正置換個案公正。如果枉顧這兩種公正觀念之間的沖突,將可能動搖整個刑事司法大廈的根基。
(二)價值沖突的本質(zhì)
從哲學上看,社會安全防衛(wèi)與個人權(quán)利保護的總體價值沖突之所以在信息社會驟然加劇,可被歸因于數(shù)據(jù)主義的崛起及其對人文主義的沖擊。信息技術(shù)的泛在應用催生出數(shù)據(jù)主義的哲學新主張!皵(shù)據(jù)主義認為,宇宙由數(shù)據(jù)流組成,任何現(xiàn)象或?qū)嶓w的價值在于對數(shù)據(jù)處理的貢獻。數(shù)據(jù)主義要求連接越來越多的媒介,產(chǎn)生和使用越來越多的信息,讓數(shù)據(jù)流最大化;要求把一切連接到系統(tǒng),連那些不想連入的異端也不例外。數(shù)據(jù)主義一開始也是中立的科學理論,但正逐漸成為要判別是非的宗教!睌(shù)據(jù)主義推崇視一切為數(shù)據(jù)、以數(shù)據(jù)為中心的世界觀,遵循計算機邏輯和算法中心主義,依賴產(chǎn)生于數(shù)據(jù)的洞見,希望通過數(shù)據(jù)技術(shù)來解決犯罪問題。受數(shù)據(jù)主義影響,犯罪治理被簡單化約為數(shù)據(jù)監(jiān)控與預測性執(zhí)法的組合,被置換為信息技術(shù)的應用。數(shù)據(jù)主義表達了一種信息技術(shù)比其他治理手段更具優(yōu)越性的意識形態(tài),它過于迷信技術(shù)而忽視了人的主體性,給人文主義帶來了嚴峻挑戰(zhàn)。
“以人為中心的人文主義是人類近代以來確立的基本文明價值觀,正是以人為中心的人文精神使人道、自由、民主、平等、法治等成為社會主流價值。”人文主義重視人的生存和發(fā)展,維護人的尊嚴、價值和自主性,以社會正義準則制約技術(shù)的社會功能,以人的權(quán)利實現(xiàn)為中心,標定犯罪治理的價值導向。數(shù)據(jù)主義沖擊人文主義的表現(xiàn)有四:其一,“數(shù)據(jù)洞察一切”“算法設(shè)計未來”等數(shù)據(jù)主義主張的前提在于,人類世界可被數(shù)據(jù)完全鏡像,這種不現(xiàn)實的想法不僅極具迷惑性,而且隱含著一種認為個人可被視為“數(shù)字人”或“微粒人”的意識。其二,數(shù)據(jù)主義以數(shù)據(jù)和算法為中心,忽視了人的自主性,忽視了人的價值觀和經(jīng)驗對犯罪治理的重大影響。其三,數(shù)據(jù)主義倡導的大規(guī)模數(shù)據(jù)監(jiān)控固化了個體作為被監(jiān)控對象的原子化形態(tài),對人的權(quán)利和自由構(gòu)成巨大威脅。其四,數(shù)據(jù)主義助推家長主義治理思維的持續(xù)蔓延!凹议L主義的核心特征是為保護行為人的利益而限制行為人的自由!钡珕栴}在于,家長主義在犯罪治理中不能過限,不能動輒以防衛(wèi)社會為由,恣意限制個人自由,不能犧牲過多的個人權(quán)利以換取社會整體利益。數(shù)據(jù)主義與家長主義的“完美”融合將導致全景敞視的絕對社會控制。因此,以數(shù)據(jù)為中心的數(shù)據(jù)主義是一種技術(shù)神話,嚴重偏離了以人為本的價值觀。正如尤瓦爾·赫拉利所說,數(shù)據(jù)技術(shù)的全面擴張可能導致人文主義的崩塌,數(shù)據(jù)主義將取代人文主義成為一種新的世界觀或宗教,故而應警惕與批判數(shù)據(jù)主義。
實際上,技術(shù)與人文精神無法被截然分割,信息技術(shù)由人發(fā)明并為人服務(wù),所以,數(shù)據(jù)的使用不能違背社會正義準則,技術(shù)治理必須從工具理性回歸價值理性。技術(shù)治理對秩序、安全、效率、概率的追求受數(shù)據(jù)主義世界觀的影響頗深。對技術(shù)治理擴張的警惕和限制,對數(shù)據(jù)使用正義觀念的求索,是人文主義世界觀的體現(xiàn)。以數(shù)據(jù)為中心的數(shù)據(jù)主義與以人為中心的人文主義在價值懸設(shè)上的抵牾,與科學主義與人文主義的沖突一脈相承。數(shù)據(jù)主義是科學主義在大數(shù)據(jù)時代的新形態(tài),人文主義則要求,一般性的社會正義觀念應向數(shù)據(jù)正義轉(zhuǎn)型發(fā)展。
總之,面對總體價值沖突的加劇及其背后的世界觀分立,必須引入一種評價數(shù)據(jù)或技術(shù)使用正當與否的理論分析框架,以標定技術(shù)治理的價值導向,回應技術(shù)治理的正當性危機。
三、數(shù)據(jù)正義的分析視角
關(guān)于數(shù)據(jù)使用的正義觀念、正義準則,可用“數(shù)據(jù)正義”(data justice)這一范疇來表述。近年來,數(shù)據(jù)使用與社會正義這兩個主題的交叉地帶頗受熱議,歐洲興起的數(shù)據(jù)正義理論為技術(shù)治理的正當性思考提供了分析視角,可將技術(shù)治理置于數(shù)據(jù)正義的正當性分析框架下進行價值權(quán)衡。那么,數(shù)據(jù)正義理論究竟是一種什么樣的分析框架?這有賴于對數(shù)據(jù)正義的思想淵源與核心觀點的深入把握。
(一)數(shù)據(jù)正義的思想淵源
正義理念對犯罪的技術(shù)治理至關(guān)重要。人們?yōu)榉婪稊?shù)據(jù)使用中的不公平對待,必須考慮“數(shù)據(jù)”和“正義”這兩個主題的交叉地帶———“數(shù)據(jù)正義”,而不能局限于數(shù)據(jù)在單一領(lǐng)域的應用,應立足于“社會和政治正義準則”的高度,探索數(shù)據(jù)正義的理論框架。作為衡量社會發(fā)展的理念,正義觀念和正義理論隨時代變遷而不斷發(fā)展。在大數(shù)據(jù)浪潮下,促進發(fā)展的數(shù)據(jù)正義成為亟待被研討的理論焦點,因為在大數(shù)據(jù)社會,沒有數(shù)據(jù)便不能作出決策,不能采取行動,沒有數(shù)據(jù)正義就無法實現(xiàn)社會的公正發(fā)展。目前,理論界對數(shù)據(jù)正義的探討尚處于初級階段,但亦有一些研究不乏真知灼見。荷蘭阿姆斯特丹大學的“瑪麗·居里”博士后Taylor從法治視角對數(shù)據(jù)正義作出了闡述,提出了數(shù)據(jù)正義的三個核心觀點———數(shù)據(jù)使用的“可見性、事先約定、防范不公平對待”。這一研究初步揭示了數(shù)據(jù)正義的理論內(nèi)涵,觸及到了數(shù)據(jù)正義的實現(xiàn)方式,與著名經(jīng)濟學家阿馬蒂亞·森對正義理論的發(fā)展存在著頗多契合之處。
數(shù)據(jù)正義并非是先驗固定的,而是從一般性社會正義觀念中延伸和發(fā)展出來的。在正義理論的知識譜系中,阿馬蒂亞·森是繼羅爾斯之后的標志性學者。羅爾斯提出了“作為公平的正義”,探究理想狀態(tài)的正義模型;而阿馬蒂亞·森則基于開放性、比較性的思路,關(guān)注社會現(xiàn)實中的不公平對待,將自由作為發(fā)展的目標和促進發(fā)展的重要手段。相對于羅爾斯,阿馬蒂亞·森更關(guān)注正義在現(xiàn)實社會條件下如何實現(xiàn),他著眼于以現(xiàn)實的方法推動正義理論的研究范式從先驗制度主義向現(xiàn)實主義轉(zhuǎn)換。在他看來,思考正義問題的方式必須契合社會實踐的最緊迫需要,這意味著,應摒棄以羅爾斯的理論為代表的那種旨在建構(gòu)某種“完美正義”理想的“先驗制度主義”理論進路,轉(zhuǎn)向一種以識別和剪除現(xiàn)實世界中的各種“明顯不正義”為目標的理論進路。阿馬蒂亞·森強調(diào),“正義論的起點不是‘什么是完美的正義社會’,而是‘什么是不正義社會’;正義論的終點不是實現(xiàn)理想中的正義社會,而是使具體、現(xiàn)實中的社會不斷趨向正義”。
阿馬蒂亞·森的正義理論構(gòu)成了數(shù)據(jù)正義理論的思想淵源。其一,阿馬蒂亞·森關(guān)注現(xiàn)實社會中具體的不公正現(xiàn)象,以反對非正義為標簽。這種現(xiàn)實主義的分析思路為關(guān)于數(shù)據(jù)正義的理論思考所承襲,數(shù)據(jù)正義正是萌發(fā)于對數(shù)據(jù)使用中諸種不公平對待的反思。其二,阿馬蒂亞·森認為,由于存在著多個不同的正義緣由,因此應以比較的方法對各種正義緣由進行判斷、權(quán)衡、排序及選擇。當然,數(shù)據(jù)正義理論并非徹底倒向了社會安全或個人自由等一元正義緣由,而是承認各種正義緣由均有其正當性,應以正當性標準作為理論探討的基點。其三,阿馬蒂亞·森強調(diào),自由在諸種正義緣由中具有優(yōu)先地位,“自由絕對不能被降格為其他事物的補充,自由在個人生活中占有非常特殊的地位”。他以自由來看待發(fā)展和公正,認為個人自由是社會發(fā)展的目標,保障自由是促進公正的方式。數(shù)據(jù)正義理論繼承了阿馬蒂亞·森關(guān)于自由和發(fā)展、公正關(guān)系的闡述,重視個人權(quán)利及個人有資格從事某種活動的能力,以保障自由和權(quán)利的方式推動社會治理走向良政善治。如果說之前處于上半場的互聯(lián)網(wǎng)變革是在倡導創(chuàng)新和效率,那么,進入下半場的互聯(lián)網(wǎng)革命則更注重公平和權(quán)利?梢哉f,數(shù)據(jù)正義理論承襲了阿馬蒂亞·森所提出的促進正義的視角、方法和分析框架,它根植于信息社會的時代背景和現(xiàn)實需求,發(fā)展了現(xiàn)實主義的正義觀。
(二)數(shù)據(jù)正義的核心觀點
數(shù)據(jù)正義是一種關(guān)于如何使用數(shù)據(jù)才能實現(xiàn)個人自由和増進社會福祉的價值觀。Taylor所提出的關(guān)于數(shù)據(jù)使用的“可見性、事先約定、防范不公平對待”這三個核心觀點構(gòu)成了理解數(shù)據(jù)正義的理論基礎(chǔ)。
1. 數(shù)據(jù)使用的可見性
“數(shù)據(jù)使用的可見性”有兩層涵義:一是政府、企業(yè)對個人數(shù)據(jù)的采集、使用及相應的監(jiān)管流程對公眾是可見的,以此防范數(shù)據(jù)使用中的不平等。也就是說,數(shù)據(jù)監(jiān)控的方式、內(nèi)容、流程等均應對社會公開。二是政府、企業(yè)在使用個人數(shù)據(jù)時應注重保護隱私,使隱私信息處于對第三方“不可見”的狀態(tài),以防范因數(shù)據(jù)濫用而導致個人隱私被侵犯。數(shù)據(jù)使用的可見性包括對社會公眾可見和對第三方不可見的雙重實體要求,指向國家在大規(guī)模數(shù)據(jù)監(jiān)控中的道義和責任,旨在通過為數(shù)據(jù)控制者設(shè)定義務(wù)的方式,明確消除不公平對待的法律依據(jù),以此圈定個人在技術(shù)治理中所享有的自由邊界。
所謂“對社會公眾可見”,是指政府和企業(yè)的數(shù)據(jù)使用范圍、方式、目的、機制、流程等應對社會公開,保障民眾對數(shù)據(jù)監(jiān)控的知情權(quán)、參與權(quán)、監(jiān)督權(quán),這涉及監(jiān)控權(quán)力運行的透明度和社會信任問題。具體來說,技術(shù)治理中的可見性意味著數(shù)據(jù)監(jiān)控所涉的具體數(shù)據(jù)項有哪些,實施特定監(jiān)控的治理主體是誰,使用何種手段或技術(shù),擬為達到何種目的而監(jiān)控,監(jiān)控對象的傾向性如何,預測性執(zhí)法所依托的算法的可解釋性如何,“威脅評分”或“大數(shù)據(jù)黑名單”的內(nèi)在規(guī)則是什么,監(jiān)控的成本由誰負擔及收益由誰享有等事項應被法律明確,從而實現(xiàn)對社會公開的目標。
所謂“對第三方不可見”,是指盡管個人數(shù)據(jù)以維護公共安全之名被“國家之眼”所凝視,但對治理主體以外的第三方應絕對保密,應防范個人信息被濫用,應確立泄露及不當使用數(shù)據(jù)行為的法律責任及問責機制,促進對個人自由的保障!氨O(jiān)控就是監(jiān)控,不管是通過人還是通過計算機,多少都要侵犯個人的隱私和自由。數(shù)據(jù)庫一旦建立就應該嚴格保護,否則很容易被濫用。”對第三方不可見強調(diào)治理主體的數(shù)據(jù)保管義務(wù)和數(shù)據(jù)安全責任,是判斷數(shù)據(jù)使用有無不公平對待的重要標準。隨著平臺企業(yè)作為參與主體在一定程度上獲得了對違規(guī)違法行為的治理權(quán)力,監(jiān)控職能開始從政府向企業(yè)延伸,政府和企業(yè)在信息收集、監(jiān)控、調(diào)查、隱私保護等活動中的界線開始出現(xiàn)一定的交叉甚至模糊之處。由于參與治理的主體范圍不可避免地擴大,對政府的數(shù)據(jù)安全義務(wù)要求同樣適用于平臺企業(yè),所以,數(shù)據(jù)使用的可見與不可見要求也是平臺企業(yè)履行平臺責任的重要內(nèi)容之一。
2. 技術(shù)使用的事先約定
“技術(shù)使用的事先約定”(以下簡稱事先約定)是指,政府及企業(yè)對大數(shù)據(jù)技術(shù)的應用內(nèi)容必須與相關(guān)群體、潛在用戶進行事先約定。技術(shù)既是治理的工具,也是治理的對象!笆孪燃s定”以技術(shù)為治理對象,要求技術(shù)的使用以社會公眾看得見的方式實現(xiàn)。它類似于安裝APP之前的用戶同意程序,事先約定好技術(shù)的使用將對個體或群體產(chǎn)生怎樣的影響,告知將采集哪些個人數(shù)據(jù)及如何使用數(shù)據(jù),告知用戶對被采集的個人數(shù)據(jù)享有哪些權(quán)利及怎樣共享數(shù)據(jù)的利益等事項。“事先約定”是賦予個人對數(shù)據(jù)使用的同意權(quán)及知情權(quán)的關(guān)鍵程序,也是歐盟《一般數(shù)據(jù)保護條例》(GDPR)中的重要原則。該原則體現(xiàn)了阿馬蒂亞·森“以自由看待權(quán)利”的理念,要求將技術(shù)選擇的自主權(quán)賦予個人,提高了個人對自身數(shù)據(jù)的掌控能力,強化了對隱私權(quán)的保護。在“Google隱私案”中,歐盟法院對“個人數(shù)據(jù)”的概念和“數(shù)據(jù)訪問權(quán)利”作出了法律闡述,也確認了“事先約定”的原則。正義的實質(zhì)在于詢問人們需要什么,而不是人們主張什么權(quán)利,“事先約定”為個體享有信息自決的選擇自由提供了程序性保障。
“事先約定”以往多見于民商事活動,其在犯罪治理領(lǐng)域能否被一體適用?實際上,犯罪治理中的數(shù)據(jù)使用仍需遵循事先約定,只是有別于民商事活動中場景化的用戶同意。犯罪治理中的事先約定和用戶同意需通過制度層面、整體意義的法律授權(quán)來實現(xiàn),通過《網(wǎng)絡(luò)安全法》和即將出臺的《個人信息保護法》《數(shù)據(jù)安全法》等法律法規(guī)將個人同意的權(quán)利和約定的事項以立法形式讓渡給有關(guān)部門,賦予其進行數(shù)據(jù)采集、使用、保管等方面的法定職責!爸贫纫蛩卦趯で蠊矫婢哂兄匾饔。經(jīng)恰當選擇的制度,將與個體及社會行為的決定因素一道,對推動公正具有重大意義!弊鳛檎x的實現(xiàn)方式,事先約定以法律的精確性彌合了權(quán)利和道德主張的模糊性,為減少不公平對待和實現(xiàn)個人自由提供了法治保障。
3. 反對不公平對待
阿馬蒂亞·森認為:“著眼于現(xiàn)實的視角更容易使人明白,消除赤裸裸的不公正比尋找完美的公正更重要!钡侥壳盀橹梗瑪(shù)字革命依然停留在技術(shù)層面,因數(shù)據(jù)使用而產(chǎn)生的不公平對待伴隨著技術(shù)的進步與日俱增,對不公平的認識和應對停滯不前,數(shù)據(jù)監(jiān)控和社會公正的關(guān)系亟待被探討。有學者對不公平對待的國外現(xiàn)狀進行了系統(tǒng)觀察,進而指出:數(shù)據(jù)監(jiān)視中最大的負擔一直由窮人承擔,所以政府應確保不濫用國家福利基金和其他公共基金;數(shù)據(jù)執(zhí)法通常不平等地關(guān)注貧民區(qū),因為這里集中了特定類型的犯罪;監(jiān)控者對高收入人群和非法移民采用了更具侵略性的跟蹤手段。在算法社會,一個貌似好用的系統(tǒng)往往已便利到只見結(jié)果而不見過程的程度。隨著算法決策的泛在應用,算法偏見及歧視性執(zhí)法等不公平對待將愈演愈烈,一旦算法決策等技術(shù)應用成為個人生活中根深蒂固的一部分,成為被設(shè)定好的前置條件,人們就很難再認清它的本來面目,更難以對其作出實質(zhì)性的批評。
技術(shù)治理所面臨的最大的“灰犀!蹦^于數(shù)據(jù)使用的不公平對待,這種不公平對待將威脅個人自由。必須反對不公平對待,反對因種族、身份、遺傳、健康狀況、經(jīng)濟地位、職業(yè)等原因而產(chǎn)生的歧視性執(zhí)法,警惕公權(quán)力以算法之名侵蝕個人權(quán)利,防范個體因陷入“數(shù)字鴻溝”而無法參與治理。算法不能替代律法,技術(shù)治理不能唯數(shù)據(jù)主義,反對不公平對待已成為數(shù)據(jù)正義對技術(shù)治理的底線性要求。
綜上,“可見性、事先約定、反對不公平對待”這三個核心觀點是對初創(chuàng)中的數(shù)據(jù)正義觀念與理論的凝練,并搭建出了數(shù)據(jù)正義的分析框架。伴隨著人文主義的復興,信息社會的正義觀念處于快速發(fā)展狀態(tài),數(shù)據(jù)正義的理論內(nèi)涵將不斷得到豐富,數(shù)據(jù)正義的分析框架亦將愈發(fā)具有理論說服力。
四、數(shù)據(jù)正義的正當性要求
基于數(shù)據(jù)正義的價值權(quán)衡是一種探尋數(shù)據(jù)使用的正義緣由的過程,Taylor提出的上述三個核心觀點為數(shù)據(jù)使用的正當性提供了理論依據(jù)!翱梢娦浴标P(guān)注數(shù)據(jù)開放和隱私保護問題,對治理主體提出可見與不可見的實體性要求;“事先約定”強調(diào)技術(shù)選擇的自主權(quán),以立法授權(quán)作為技術(shù)治理的事先約定途徑,從權(quán)力制衡角度對治理主體提出程序性規(guī)制;“反對不公平對待”根據(jù)實體和程序要求對數(shù)據(jù)使用的不公平現(xiàn)象進行反思。由此,以數(shù)據(jù)正義錨定技術(shù)治理的價值導向,可獲得如下價值判斷:
其一,數(shù)據(jù)正義反對一元的價值模式和絕對的數(shù)據(jù)控制,強調(diào)技術(shù)治理不能以維護安全為名肆意擴張,技術(shù)治理的發(fā)展是一種邁向數(shù)據(jù)控制且超越數(shù)據(jù)控制、技術(shù)賦能與技術(shù)賦權(quán)兼顧的有限擴張。
其二,數(shù)據(jù)正義注重對數(shù)據(jù)權(quán)力的制衡,關(guān)注技術(shù)治理的社會參與,通過促進個人數(shù)據(jù)權(quán)利與政府企業(yè)數(shù)據(jù)權(quán)力均衡運行的方式,實現(xiàn)“政府、企業(yè)、個人”三元主體關(guān)系的結(jié)構(gòu)優(yōu)化。
其三,數(shù)據(jù)正義對技術(shù)治理的實體性要求與程序性規(guī)制離不開數(shù)據(jù)法的制度建構(gòu),故應以數(shù)據(jù)正義為數(shù)據(jù)法的立法理念,為數(shù)據(jù)監(jiān)控的運行劃定法治邊界,以法律來控制技術(shù)治理的有限擴張。
其四,數(shù)據(jù)正義呼喚技術(shù)治理回歸人本導向和權(quán)利本位,以技術(shù)賦權(quán)超越數(shù)據(jù)控制,基于被害預防立場提升公眾參與的廣度與深度,推動技術(shù)治理從封閉式管理走向開放式治理。
上述價值判斷蘊含著數(shù)據(jù)正義對犯罪技術(shù)治理的正當性要求,可將之分別凝練為犯罪技術(shù)治理的有限擴張、關(guān)系均衡、法律控制、技術(shù)賦權(quán)。這四個要求分別指向犯罪技術(shù)治理價值導向的不同棱面,共同構(gòu)成評價數(shù)據(jù)使用行為正當與否的標準。之所以說是共同構(gòu)成,是因為這四個要求是整體性、綜合性的正當性要求,對任一要求的違反都將在很大程度上對犯罪技術(shù)治理的正當性構(gòu)成損害。在此,本文結(jié)合“冒煙指數(shù)”、平臺治理等應用實踐,闡述四個正當性要求的理論內(nèi)涵。
(一)超越數(shù)據(jù)控制的有限擴張
“有限擴張”要求警惕基于家長主義的過度監(jiān)控和對數(shù)據(jù)控制的過度依賴,防范陷入“技術(shù)烏托邦”誤區(qū)。技術(shù)治理在范圍和方式上有其作用邊界,盡管其適合于具體情境中和特定條件下的微觀戰(zhàn)術(shù)執(zhí)行,但不擅長宏觀的犯罪治理戰(zhàn)略設(shè)計;其精于數(shù)據(jù)分析,但無法替代人與人面對面打交道時的那些工作。僅憑大數(shù)據(jù)和AI,無法建構(gòu)高度透明、完美可控的社會秩序,因為數(shù)據(jù)控制僅是犯罪治理的一個基礎(chǔ)環(huán)節(jié)。面對“智慧治理”熱潮,必須正視數(shù)據(jù)控制的有限性,不能陷入體制性防衛(wèi)過當?shù)恼`區(qū),不能試圖通過某種關(guān)于智慧建設(shè)的社會工程來實現(xiàn)犯罪預防的“畢其功于一役”。畢竟,犯罪的減少主要依賴于社會發(fā)展和城市更新、教育進步、充分就業(yè)等諸多因素的共同作用,有限擴張亦是對犯罪治理規(guī)律的一種適應。
技術(shù)治理的有限擴張要求治理主體有義務(wù)證明數(shù)據(jù)監(jiān)控是為實現(xiàn)特定的正當目的而不得不采取的必要行動,本文以“冒煙指數(shù)”為例,闡述有限擴張的正當性根據(jù)。
其一,技術(shù)治理的有限擴張應具備合理的正當目的、充分的必要性和有效性。近年來,以網(wǎng)絡(luò)非法集資為代表的涉眾型經(jīng)濟犯罪的發(fā)案數(shù)量居高不下,不僅給廣大投資人造成重大經(jīng)濟損失,還嚴重威脅到金融監(jiān)管秩序和社會穩(wěn)定。傳統(tǒng)金融監(jiān)管對這類犯罪應對乏力,已是不爭的事實。引入“冒煙指數(shù)”軟件以預警非法金融活動,契合大數(shù)據(jù)時代犯罪治理的新趨勢,體現(xiàn)了預防優(yōu)先的理念,且已取得了較好的監(jiān)管效果。該方案被北京市金融工作局等150多個監(jiān)管部門使用,對上百萬家金融機構(gòu)進行風險摸排,成功預警了6000多家從事非法金融活動的公司。這一治理創(chuàng)新不僅具有明確且具體的正當目的,還具有較強的科學性、經(jīng)濟性、針對性和可操作性,故而構(gòu)成了一種必要且有效的治理擴張策略。
其二,從數(shù)據(jù)使用的外部關(guān)系看,有限擴張要求在整個犯罪治理流程中對數(shù)據(jù)監(jiān)控的應用具有明確限定,應將監(jiān)控限定于線索識別等適合數(shù)據(jù)分析發(fā)揮作用的領(lǐng)域。“冒煙指數(shù)”專注于違法線索識別,致力于金融企業(yè)風險評估這一微觀任務(wù),僅系犯罪治理流程上的初始環(huán)節(jié)。根據(jù)數(shù)據(jù)分析結(jié)果,后續(xù)還將開展其他的治理策略。這種創(chuàng)新并不屬于過度的數(shù)據(jù)監(jiān)控,包含這種創(chuàng)新的整體犯罪治理策略必將超越單純的數(shù)據(jù)控制。
其三,從數(shù)據(jù)使用的內(nèi)在要求看,有限擴張要求數(shù)據(jù)使用行為必須符合可見性和事先約定原則!懊盁熤笖(shù)”軟件在方案中向社會公開其所需要的數(shù)據(jù)項及技術(shù)路線,相關(guān)數(shù)據(jù)由監(jiān)管部門合法掌握或依法獲取,故符合數(shù)據(jù)使用的可見性。鑒于信息社會嚴重的“制度滯差”,金融監(jiān)管部門和公安機關(guān)對技術(shù)使用的事先約定或?qū)Υ祟惪萍急O(jiān)管的法律程序性要求(如授權(quán)、告知、征求意見、聽證、評估、監(jiān)督等流程)亟待在《個人信息保護法》等法律法規(guī)中被明確。但值得注意的是,《網(wǎng)絡(luò)安全法》第54條規(guī)定了針對網(wǎng)絡(luò)安全事件的數(shù)據(jù)收集和監(jiān)測、風險評估、風險預警等內(nèi)容,第55條規(guī)定了網(wǎng)絡(luò)運營者應采取技術(shù)措施消除安全隱患等內(nèi)容,這些規(guī)定已初步體現(xiàn)了針對網(wǎng)絡(luò)安全事件進行數(shù)據(jù)監(jiān)控時的可見性和事先約定原則。
(二)基于結(jié)構(gòu)視角的關(guān)系均衡
數(shù)據(jù)正義要求實現(xiàn)國家權(quán)力與社會權(quán)力、數(shù)據(jù)控制者的數(shù)據(jù)權(quán)力與個人數(shù)據(jù)權(quán)利的關(guān)系均衡,這種關(guān)系均衡是技術(shù)治理的體系結(jié)構(gòu)實現(xiàn)優(yōu)化的底層邏輯。
傳統(tǒng)的犯罪治理模式依靠黨和政府的組織化調(diào)控,自上而下地開展,這種治理結(jié)構(gòu)的組織度高,整體性強,一元化特征顯著,但社會參與較為有限。如何引入社會力量參與治理,是一個長期困擾犯罪治理結(jié)構(gòu)優(yōu)化的頑疾。隨著信息技術(shù)對社會結(jié)構(gòu)的重塑,治理權(quán)力逐漸從政府外溢至企業(yè)和個人,“政府、企業(yè)、個人”三元主體的合作與制衡獲得改善契機。信息社會在組織特征上表現(xiàn)為在線平臺社會,基于在線平臺的犯罪治理策略顯示出了極強的發(fā)展?jié)摿Γ热,各類涉網(wǎng)犯罪的不法分子一般具有平臺用戶的數(shù)字身份且依附于特定平臺而活動,故根據(jù)相關(guān)平臺責任要求,平臺企業(yè)對平臺用戶所實施的詐騙、賭博、洗錢、侵犯知識產(chǎn)權(quán)等違規(guī)違法行為往往具有日常管控、先行處置及線索移送等治理權(quán)力。這種平臺治理具有引入市場機制、依靠平臺企業(yè)、挖掘平臺潛力、依循互聯(lián)網(wǎng)思維等特征,催生出一種政府監(jiān)管平臺企業(yè)、平臺控制者管理用戶的雙層治理結(jié)構(gòu)。科技企業(yè)憑借技術(shù)、平臺、數(shù)據(jù)等方面的優(yōu)勢,在技術(shù)治理中的作用愈發(fā)彰顯,獲得了更多的準公共權(quán)力。
相對于政府和平臺企業(yè)的深度合作,分散的個人被在線平臺吸納為用戶,個人借助平臺發(fā)聲,用戶與政府部門的在線交互形塑出了全新的線上回應型治理策略。例如,在“昆山反殺案”等熱點案件中,公眾在社交平臺上發(fā)表意見并引發(fā)社會大討論,而政法機關(guān)則及時反饋、引導和回應民意,這有助于實現(xiàn)熱點案件的正面社會效果。正如在線平臺使企業(yè)獲得參與技術(shù)治理的數(shù)據(jù)權(quán)力,普通個體也能從平臺治理中獲得更多的參與權(quán)利。浙江嘉興的“社會治理云平臺”就是以平臺對個體賦權(quán)的典范,該平臺的“微嘉園”模塊探索出一條依靠和發(fā)動群眾的線上網(wǎng)格化治理的新模式!吧鐣卫碓破脚_”通過微信群將每個網(wǎng)格范圍內(nèi)的居民聯(lián)系在一起,是典型的綜治平臺而非社交商業(yè)平臺。平臺治理不單實現(xiàn)了平臺企業(yè)的參與,還促進了普通個體對犯罪治理的共治共建。平臺治理成為推動三元主體關(guān)系走向均衡的關(guān)鍵策略。
(三)源自社會共識的法律控制
大數(shù)據(jù)雖然能夠搭建愈發(fā)嚴密的全景式監(jiān)控,但無力回答“人類需要什么樣的智能社會”及“如何制衡數(shù)據(jù)權(quán)力”等問題。數(shù)據(jù)正義理念致力于探求關(guān)于數(shù)據(jù)監(jiān)控的社會共識的最大公約數(shù),呼喚將其貫徹至《個人信息保護法》等法律當中。這要求將“冒煙指數(shù)”等基于算法自動化決策的預測性執(zhí)法置于法治軌道。
一方面,立法授權(quán)即為事先約定,這是凝聚社會共識、實現(xiàn)權(quán)利讓渡的程序性要求。個體在相當程度上被數(shù)據(jù)分析和智能機器所支配,但自由不能靠智能機器來賜予。只有在法律授權(quán)和事先約定下被監(jiān)控、被編碼、被計算、被秩序化,個人自由才能獲得保障,才能防范數(shù)據(jù)控制者的超級權(quán)限與絕對控制!懊盁熤笖(shù)”等自動化決策應用牽涉上百萬家金融企業(yè)及相關(guān)人員,故應在《政府信息公開條例》及未來的數(shù)據(jù)法立法中明確監(jiān)管部門使用各類數(shù)據(jù)的程序性要求,賦予監(jiān)控和自動化決策所涉及的個體或企業(yè)獲得人為干預、復核的權(quán)利與對自動化決策決定提出質(zhì)疑、申辯的權(quán)利。算法的自動化決策和識別必須被輔之以人工復核程序,以保障算法決策的公平性,而當算法決策不當,給社會及個人造成現(xiàn)實危害時,金融監(jiān)管部門應承擔不利的法律后果。目前,我國尚未制定《算法問責法》,但這并非意味著不能對算法決策結(jié)果進行必要的評估和問責,算法的使用者或數(shù)據(jù)控制者有義務(wù)減少算法決策可能造成的現(xiàn)實危害。
另一方面,數(shù)據(jù)監(jiān)控和算法決策的實體性要求應對社會公眾可見,即數(shù)據(jù)監(jiān)控的實施部門、范圍、對象、方式、期限、地點等事項應向社會公示,尤其應將數(shù)據(jù)監(jiān)控的技術(shù)路線和實施機制予以公開,聽取公眾意見,接受人大監(jiān)督。由于牽涉商業(yè)秘密、市場競爭等原因,“冒煙指數(shù)”的研發(fā)公司及金融監(jiān)管部門不可能對社會完全公開其技術(shù)方案中的每一個變量和算法的全部細節(jié),但公布自動化決策的詳細規(guī)則、應用指引、軟件所涉數(shù)據(jù)類型及技術(shù)路線則是保障數(shù)據(jù)使用可見性的應有之義,旨在以可見性減少技術(shù)治理所遭遇的社會抗拒。
(四)回歸價值理性的技術(shù)賦權(quán)
正義意味著承認和尊重權(quán)利,數(shù)據(jù)正義呼喚信息技術(shù)的賦能與賦權(quán)的有機統(tǒng)一。技術(shù)賦能指向社會安全防衛(wèi),技術(shù)賦權(quán)則關(guān)涉保障個人自由免受數(shù)據(jù)監(jiān)控的威脅。在信息社會,“社會的主體結(jié)構(gòu)從分層轉(zhuǎn)向結(jié)網(wǎng),集中在政府的權(quán)力開始分散,權(quán)力的最終流向是社會、是大眾,是一個個獨立的公民個體”。網(wǎng)絡(luò)賦予了個人前所未有的知情、表達、參與、監(jiān)督公共事務(wù)的途徑,技術(shù)賦權(quán)則意味著個人以擁有數(shù)據(jù)權(quán)利的方式分享大數(shù)據(jù)社會福祉。數(shù)據(jù)權(quán)利相對于政府企業(yè)的數(shù)據(jù)權(quán)力而言,既是個人對自身數(shù)據(jù)所享有的利益,也是數(shù)據(jù)正義在個體層面的實現(xiàn)方式。
“冒煙指數(shù)”在技術(shù)賦權(quán)上的最佳應用莫過于向社會提供查詢金融企業(yè)信用風險評分的數(shù)據(jù)接口,以指導廣大投資人趨利避害,防范風險。這一正當性要求并非針對以商業(yè)利益為導向的金融大數(shù)據(jù)公司,而是對公共服務(wù)導向的金融監(jiān)管部門提出的。對于金融監(jiān)管部門來說,防范個人投資風險不僅是其本職工作,更是為維護社會穩(wěn)定大局而必須承擔的使命。近年來,頻繁爆雷的P2P平臺的被害人人數(shù)動輒上萬,有的案件的被害人人數(shù)甚至多達上百萬。從源頭治理的視角來看,為投資人提供金融企業(yè)信用風險評分可謂最好的投資依據(jù)與最優(yōu)的被害預防策略。當然,金融監(jiān)管部門為社會提供信息的方式(有償抑或無償)、提供信息的具體內(nèi)容和形式尚待被進一步思考,但將大數(shù)據(jù)分析所獲取的有用信息分享給社會公眾,是技術(shù)治理回歸權(quán)利本位、人本導向與政府為社會提供大數(shù)據(jù)社會福祉的必然選擇。
五、犯罪技術(shù)治理趨向數(shù)據(jù)正義的實現(xiàn)路徑
有限擴張、關(guān)系均衡、法律控制、技術(shù)賦權(quán)的正當性要求為犯罪技術(shù)治理的轉(zhuǎn)型發(fā)展提出了“超越數(shù)據(jù)控制”的新方向。重視技術(shù)賦能、邁向數(shù)據(jù)控制處于犯罪技術(shù)治理的1.0階段,走向賦能與賦權(quán)均衡發(fā)展、超越數(shù)據(jù)控制則系犯罪技術(shù)治理的2.0階段的主要標志。因此,犯罪技術(shù)治理的價值訴求絕非簡單倒向安全與自由二者中的某一邊,而是在犯罪技術(shù)治理從1.0到2.0的迭代發(fā)展中以賦能與賦權(quán)的均衡發(fā)展促進數(shù)據(jù)正義。具體來說,趨向數(shù)據(jù)正義的實現(xiàn)路徑包括四方面內(nèi)容:
(一)以數(shù)據(jù)權(quán)利厘定數(shù)據(jù)監(jiān)控的法律邊界
數(shù)據(jù)正義要求犯罪技術(shù)治理堅持人本導向和回歸權(quán)利本位,以技術(shù)賦權(quán)超越數(shù)據(jù)控制,根據(jù)數(shù)據(jù)權(quán)利為數(shù)據(jù)控制者標定義務(wù),以數(shù)據(jù)權(quán)利與數(shù)據(jù)控制者義務(wù)共同厘定數(shù)據(jù)監(jiān)控的邊界!皞人數(shù)據(jù)權(quán)利是保護自然人對其個人數(shù)據(jù)被他人收集、存儲、轉(zhuǎn)讓和使用過程中自主決定的利益。”作為監(jiān)控的法律制衡因素,數(shù)據(jù)權(quán)利不是單純的私法問題,而是還具有濃郁的公法屬性,其指向數(shù)據(jù)主體因自身數(shù)據(jù)被數(shù)據(jù)控制者在社會治理中采集和使用而應享有的權(quán)益。面對個人數(shù)據(jù)匯聚于“數(shù)據(jù)巨機器”的社會景觀,數(shù)據(jù)權(quán)利面臨著數(shù)據(jù)監(jiān)控的嚴重威脅。在法律上界定與明晰個人對自身數(shù)據(jù)的所有權(quán)、知情權(quán)、同意權(quán)、訪問權(quán)、更正權(quán)、可攜帶權(quán)、被遺忘權(quán)及隱私權(quán)等權(quán)利,構(gòu)成了制衡數(shù)據(jù)監(jiān)控的法治選項。
有別于民法從人格權(quán)、財產(chǎn)權(quán)角度對數(shù)據(jù)權(quán)利展開的研討,犯罪學更關(guān)注數(shù)據(jù)監(jiān)控與數(shù)據(jù)權(quán)利之間的關(guān)系,以數(shù)據(jù)權(quán)利厘定數(shù)據(jù)監(jiān)控的法律邊界。但遺憾的是,數(shù)據(jù)權(quán)利保護在我國尚缺乏系統(tǒng)的法律依據(jù),《民法典》等法律的規(guī)定尚不足以完全承擔起系統(tǒng)規(guī)范數(shù)據(jù)使用行為的重擔。數(shù)據(jù)監(jiān)控在實踐中往往先于規(guī)制數(shù)據(jù)使用的法律而存在,監(jiān)控的決策和實施時常處于秘而不宣、只做不說的不透明狀態(tài)。在《個人信息保護法》和《數(shù)據(jù)安全法》尚未出臺的背景下,鑒于權(quán)利保護與義務(wù)履行的相互依存關(guān)系,數(shù)據(jù)權(quán)利的實現(xiàn)離不開數(shù)據(jù)控制者的義務(wù)的履行,故若以數(shù)據(jù)控制者義務(wù)的履行來探究數(shù)據(jù)權(quán)利保障和法律邊界設(shè)定,不失為一條可行路徑。
在消極數(shù)據(jù)權(quán)利層面,消極數(shù)據(jù)權(quán)利以保護自由為核心,強調(diào)免于數(shù)據(jù)控制者的不當干涉,指向數(shù)據(jù)控制者在數(shù)據(jù)使用中的各種強制性義務(wù)和禁止性義務(wù)的履行。這些義務(wù)要求數(shù)據(jù)使用行為應避免出現(xiàn)算法偏見、歧視性執(zhí)法、隱私泄露等不公平對待。隱私是信息文明的基石,“也許最重大的侵害還不是觀察和攝像本身,而是對于觀察到的信息的不當利用如披露、公開和用于商業(yè)目的等”。因此,數(shù)據(jù)控制者對數(shù)據(jù)負有謹慎使用、安全保管等義務(wù),對于因數(shù)據(jù)使用和保管不當而引致的不公平對待,應建立起投訴、糾錯乃至問責等機制。
在積極數(shù)據(jù)權(quán)利層面,積極數(shù)據(jù)權(quán)利以促進平等為核心,既指向數(shù)據(jù)控制者積極義務(wù)的履行,包括政府的數(shù)據(jù)安全義務(wù)與企業(yè)的平臺管理、告知、更正、刪除、保持透明度、限制處理等義務(wù),也強調(diào)數(shù)據(jù)使用行為應遵循數(shù)據(jù)正義的可見性和事先約定原則,要求明確數(shù)據(jù)控制者所負有的監(jiān)控職責、監(jiān)控的類型與目標、監(jiān)控所需的具體數(shù)據(jù)項、監(jiān)控在不同群體中的傾向性及其理由、監(jiān)控結(jié)果的應用方式、監(jiān)控的合法性依據(jù)與正當程序等內(nèi)容,做到在實體規(guī)定上清晰可見,在程序規(guī)則中事先約定,以此引領(lǐng)數(shù)據(jù)監(jiān)控走上法治軌道。
值得注意的是,數(shù)據(jù)監(jiān)控的法律邊界可能并不是極為清晰和明確的。由于權(quán)利讓渡以社會安全防衛(wèi)的必要為限,所以,鑒于技術(shù)進化和安全防衛(wèi)需求的變化,監(jiān)控所需的個人數(shù)據(jù)的范圍亦處于持續(xù)變動狀態(tài),這預示著,數(shù)據(jù)權(quán)利的相對性可能是一種常態(tài)。盡管數(shù)據(jù)監(jiān)控的最小化原則已逐漸成為社會共識,但最小化的標準往往是模糊的。同時,數(shù)據(jù)權(quán)利和數(shù)據(jù)控制者的義務(wù)均依賴于特定語境和場景的設(shè)定,GDPR在賦予數(shù)據(jù)主體權(quán)利的同時,也將權(quán)利還原到具體語境與社群當中,在具體語境與社群中判斷人們的預期與權(quán)利的邊界。在不同的城市空間、公共場所與非公共場所、現(xiàn)實空間與賽博空間等監(jiān)控場景下,法律邊界存在較大差異亦是常有之事。上述數(shù)據(jù)權(quán)利的相對性、模糊性、場景性共同導致了數(shù)據(jù)監(jiān)控的法律邊界存在著大量的模糊地帶和可被靈活調(diào)整的空間?梢,數(shù)據(jù)監(jiān)控的法律規(guī)制必然是一個長期漸進、反復博弈的過程。
(二)以算法治理打開預測性執(zhí)法的技術(shù)黑箱
基于算法決策的預測性執(zhí)法在犯罪治理中發(fā)揮愈發(fā)重要的作用。數(shù)據(jù)監(jiān)控是“數(shù)據(jù)巨機器”的輸入端,算法決策屬于中間環(huán)節(jié),預測性執(zhí)法則是“數(shù)據(jù)巨機器”的輸出端。鑒于算法決策在識別高危人員、再犯風險評估等領(lǐng)域被廣泛應用,算法被視為一種社會權(quán)力。算法權(quán)力的運行存在如下問題:其一,算法決策的透明度有限,預測性執(zhí)法時常從算法黑箱中輸出結(jié)果,對于某些多層神經(jīng)網(wǎng)絡(luò)系統(tǒng)的復雜性,甚至連它的設(shè)計者也無從理解。其二,算法決策的準確性屢遭質(zhì)疑,訓練數(shù)據(jù)因隨機性不足、歧視偏見等原因而存在誤差,導致算法偏見長久存在。其三,預測性執(zhí)法將法律問題簡化為基于評分規(guī)則的數(shù)學問題,會引發(fā)系統(tǒng)性歧視、隱私弱化及違反正當程序等負效應。概率分析扭曲了人們對何謂公正懲罰的認知,刑法的規(guī)范價值因此被忽視。其四,算法決策具有有限性,算法僅能對硬數(shù)據(jù)進行冷識別,而無法對軟數(shù)據(jù)進行熱識別。“盡管數(shù)據(jù)是對‘事實’的記錄,但‘事實’中蘊含的社會實在不可能簡單地被還原為數(shù)據(jù)!睘榉婪端惴(quán)力被濫用,算法治理成為了數(shù)據(jù)正義的內(nèi)在要求。對預測性執(zhí)法的算法治理,應遵循法律之道,以律法監(jiān)督算法,圍繞自動化決策的可見性和事先約定的法律實現(xiàn),關(guān)注算法決策的可解釋性,増強算法的透明度,明確算法設(shè)計者、使用者的法律責任,發(fā)現(xiàn)和消除算法中所隱含的結(jié)構(gòu)性偏見,警惕歧視性執(zhí)法對個人權(quán)利的威脅。
第一,從制度設(shè)計上看,算法決策和預測性執(zhí)法的開展離不開充分的法律依據(jù)。在大數(shù)據(jù)時代,應避免社會治理和犯罪治理陷入計算機模擬的風險、陷阱之中。在運用技術(shù)預測重大社會活動、執(zhí)法活動時必須慎重,應在法律中明確預測性執(zhí)法所涉各類算法的類型、功能、運算規(guī)則及其對社會的具體影響等。在算法應用之前,應設(shè)計必要的倫理審核程序,以《數(shù)據(jù)安全法》《個人信息保護法》等數(shù)據(jù)法為合法性與正當性依據(jù),通過正當程序向社會公開預測性執(zhí)法的啟動、評估和實施過程。
第二,從運行效果上看,支撐預測性執(zhí)法的代碼和算法并非一成不變,算法運行應在循證思維下被監(jiān)督、能糾錯、可追責,根據(jù)預測效果檢驗及優(yōu)化算法。算法設(shè)計者和使用者在預測性執(zhí)法中的法律責任是反對不公平對待的法律保障。“算法是由人類開發(fā)的,反映的是開發(fā)者的利益、偏見和缺陷,我們有義務(wù)仔細審查并在適當時機管理監(jiān)管這些算法。”算法一旦出錯,就將給特定個體帶來實質(zhì)性侵犯,所以,預測性執(zhí)法必須被配套算法決策的糾錯和救濟機制,算法的設(shè)計者、使用者的法律責任也必須被數(shù)據(jù)法所明確。
第三,從透明度上看,技術(shù)治理不能被“算法黑箱”統(tǒng)治,而應遵循可見性原則増進算法運行的可解釋性。在思路上,以了解算法作為監(jiān)督算法的前提,針對不同的治理目標和應用場景,厘清各類算法的運行規(guī)則,摸索算法決策與經(jīng)驗決策的融合策略;在技術(shù)上,嘗試以算法打開“算法黑箱”,研發(fā)解釋和監(jiān)測算法運行的算法;在機制上,將自動化決策處理數(shù)據(jù)的有關(guān)信息和流程向社會公開,使公眾了解預測算法是如何作出判斷和決策的,理解何種行為可能增加被識別、被監(jiān)控、被干預的概率,祛除以算法預測犯罪的神秘性。
第四,從代碼屬性上看,預測性執(zhí)法的智能系統(tǒng)必須被植入道德代碼,將數(shù)據(jù)正義的正當性要求、數(shù)據(jù)倫理的道德規(guī)范、數(shù)據(jù)權(quán)利的法律規(guī)范轉(zhuǎn)化為代碼,嵌入算法決策的運行流程。技術(shù)治理所依賴的智能機器必須是道德機器,以數(shù)據(jù)正義作為社會控制系統(tǒng)的源代碼。由于嵌入道德代碼可能引發(fā)預測性執(zhí)法系統(tǒng)的“道德過載”,即安全、自由、隱私、效率等多重價值的沖突,所以應按照數(shù)據(jù)正義的正當性要求,針對具體場景和情形預設(shè)各種價值的優(yōu)先等級,結(jié)合決策者的經(jīng)驗和其所處社會的價值立場,將算法對現(xiàn)實的干預置于可控狀態(tài)之下。
(三)對權(quán)力外溢至平臺企業(yè)的均衡治理
科技企業(yè)的技術(shù)、數(shù)據(jù)和商業(yè)監(jiān)控渠道是犯罪治理的重要資源,其所創(chuàng)設(shè)的在線平臺系統(tǒng)對犯罪治理的創(chuàng)新影響深遠。社交、網(wǎng)購、搜索、出行等各類平臺連接、整合、重塑了世界,社會結(jié)構(gòu)的網(wǎng)絡(luò)化與社會治理的平臺化催生出治理主體間的新型合作關(guān)系,犯罪治理的權(quán)力從國家外溢至社會,流向平臺企業(yè),使企業(yè)在履行平臺責任時獲得了裁定違規(guī)、監(jiān)測及上報違法、先行認定和處罰等準公共權(quán)力。引導平臺系統(tǒng)服務(wù)犯罪治理,促進國家權(quán)力與社會權(quán)力在平臺治理中均衡運行,已成為數(shù)據(jù)正義的內(nèi)在要求。
1. 以平臺治理重塑犯罪防控中的政企關(guān)系
平臺意味著服務(wù)導向和用戶本位,其所倡導的扁平化、交互式、開放性的平臺治理成為犯罪治理的新策略,平臺治理構(gòu)成了對科層制組織架構(gòu)和傳統(tǒng)綜合治理方式的有益補充。當前,網(wǎng)絡(luò)犯罪已成為第一大犯罪類型,網(wǎng)絡(luò)平臺所構(gòu)筑的賽博空間是違法犯罪及網(wǎng)絡(luò)黑產(chǎn)滋生的土壤。為此,政府以少數(shù)平臺企業(yè)作為網(wǎng)絡(luò)犯罪控制的關(guān)鍵節(jié)點,通過平臺企業(yè)管控平臺生態(tài)內(nèi)的網(wǎng)絡(luò)違法,而平臺企業(yè)一般都會積極響應政府的政策引導。這種通過在線平臺防控犯罪的新策略重塑了犯罪治理中的政企合作關(guān)系。
一方面,平臺治理加重了平臺控制者的義務(wù),賦予其更多的網(wǎng)絡(luò)社會管理責任,平臺企業(yè)也相應獲得了一部分監(jiān)管權(quán)力,而不再僅是治理對象。在2020年3月生效的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》中,有近1/4的條款直接指向了在線平臺的主體責任,另有近1/3的條款直接指向了網(wǎng)絡(luò)信息內(nèi)容的生產(chǎn)者和使用者,且為平臺企業(yè)監(jiān)管網(wǎng)絡(luò)信息內(nèi)容的生產(chǎn)者和使用者提供了明確的法律依據(jù)。另一方面,政府相關(guān)部門將治理重心轉(zhuǎn)移到了對平臺企業(yè)的政策引導、規(guī)則制定、支持、督促及行政處罰等法律監(jiān)管活動上!毒W(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第31條規(guī)定:“各級網(wǎng)信部門對網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺履行信息內(nèi)容管理主體責任情況開展監(jiān)督檢查,對存在問題的平臺開展專項督查!痹摋l款構(gòu)成了網(wǎng)信部門監(jiān)管平臺企業(yè)的法律依據(jù)?梢,在走向合作的平臺社會,平臺治理開拓出了政府與平臺企業(yè)間的兩個層面、分層管控、相互聯(lián)動的新型治理策略。例如,2019年,某地中級人民法院審理了一起利用視頻社交軟件侵害未成年人的案件。被告人以社交為名,收集兒童裸照和視頻,以裸照威脅被害人,實施強奸、猥褻等違法行為。視頻社交軟件在低幼群體中的不良影響引發(fā)了社會關(guān)注。事后,在企業(yè)層面,涉事企業(yè)履行平臺責任,開發(fā)了視頻社交軟件的青少年版本,并完善了關(guān)于數(shù)據(jù)使用、隱私保護的標準。在政府層面,國家網(wǎng)信辦適時出臺了《兒童個人信息網(wǎng)絡(luò)保護規(guī)定》,立法機關(guān)則在修訂《未成年人保護法》時增設(shè)了“未成年人網(wǎng)絡(luò)保護”一章,為網(wǎng)絡(luò)產(chǎn)品和網(wǎng)絡(luò)服務(wù)的提供者、制造者和銷售者設(shè)置了對未成年人的網(wǎng)絡(luò)保護義務(wù),建立了未成年人使用網(wǎng)絡(luò)產(chǎn)品和服務(wù)的家長監(jiān)護機制,從預防的角度實現(xiàn)了未成年人的利益最大化。如今,這種基于政企合作的平臺治理正在冉冉興起,在“網(wǎng)約車平臺”乘客被害預防、“互聯(lián)網(wǎng)金融平臺”非法集資風險防控等領(lǐng)域獲得了廣泛應用。
2. 政府和企業(yè)治理權(quán)力的均衡運行
作為網(wǎng)絡(luò)社會治理的入口,平臺是防控網(wǎng)絡(luò)違法犯罪的第一道防線。平臺兼具市場和社會雙重屬性,平臺企業(yè)兼有市場競爭主體和平臺網(wǎng)絡(luò)秩序維護者的雙重角色。從權(quán)力運行上看,平臺治理衍生出了兩個層面的犯罪治理:其一,是企業(yè)對平臺用戶違規(guī)違法行為的監(jiān)管;其二,是政府對平臺企業(yè)預防違法犯罪活動的引導、支持、保障和監(jiān)管。這兩個層面的犯罪治理分層管控,相互聯(lián)動。企業(yè)所履行的平臺責任有時可被單獨完成,比如,阿里集團、騰訊公司研發(fā)了阿里綠網(wǎng)和萬象優(yōu)圖系統(tǒng),可對直播平臺中的色情信息進行人工智能甄別,但更多時候,企業(yè)在履行平臺責任時,還是離不開政府部門的支持和保障。阿里集團每年向公安機關(guān)移送涉電商平臺的違法犯罪線索超過1萬條,但因取證難、異地協(xié)查難等原因,僅被刑事立案1500起左右。為此,阿里集團總部所在地的杭州市余杭區(qū)人民檢察院設(shè)立了“電商檢察聯(lián)絡(luò)室”,出臺了網(wǎng)絡(luò)案件證據(jù)指引,以便從司法適用層面保障企業(yè)平臺責任的履行。
平臺治理促進了政企二元權(quán)力關(guān)系的結(jié)構(gòu)優(yōu)化。對平臺企業(yè)來說,平臺治理實現(xiàn)了治理權(quán)力從國家到企業(yè)的分權(quán),改變了以往的治理主體單一、社會動員乏力和對策彈性不足等弊端,促進了政企互信互惠,推動了治理權(quán)力運行的機制創(chuàng)新。對政府來說,通過引入市場機制和借力在線平臺,實現(xiàn)了信息社會的犯罪治理權(quán)力重組和再分配。分權(quán)不是簡單地將網(wǎng)絡(luò)違法的治理責任推給企業(yè),相反,政府有責任完善平臺治理的法治保障,促進平臺企業(yè)治理權(quán)力和法律責任的對稱,加強對政企合作協(xié)同機制的過程管理,完善對企業(yè)履行平臺責任的法律監(jiān)督,防范企業(yè)經(jīng)營中的數(shù)據(jù)濫用和泄露、不正確履行或怠于履行平臺責任等問題。
3. 以平臺創(chuàng)新促進發(fā)展式預防
當前,基于平臺創(chuàng)新的發(fā)展式預防正在悄然興起。所謂“發(fā)展式預防”,是指一種通過科技創(chuàng)新、經(jīng)濟社會發(fā)展、城市更新等整體性治理戰(zhàn)略而附隨生成犯罪防控效益的治理策略。在線平臺的興起對發(fā)展式預防的推動極大,該策略的典型表現(xiàn)莫過于平臺應用大幅減少了傳統(tǒng)犯罪中的街面盜竊、搶劫的發(fā)生,比如,共享單車平臺的出現(xiàn)使盜竊自行車成為歷史,移動支付平臺的普及使盜竊案數(shù)量驟降。鑒于平臺系統(tǒng)已滲透至社會核心,起到了改造甚至生產(chǎn)社會結(jié)構(gòu)的作用,所以平臺創(chuàng)新已成為犯罪治理得到根本性改善的內(nèi)在驅(qū)動。例如,區(qū)塊鏈技術(shù)創(chuàng)設(shè)出了全新的社會互信平臺,基于區(qū)塊鏈的“身份鏈”項目呈現(xiàn)出了極強的社會治理價值。該項目原本是為向農(nóng)民發(fā)放小額扶貧貸款而創(chuàng)設(shè)信用數(shù)據(jù)服務(wù)平臺,但平臺通過分布式數(shù)字賬本創(chuàng)建和交換個人信息及身份記錄,使信息交換的邊際成本幾乎為零,其以分布式記錄和協(xié)作式激勵機制支持分布式信任,催生出了人與人之間的多維信任體系。在被區(qū)塊鏈技術(shù)所加持的自律型社會中,法治、技術(shù)和社群被分布式的信用數(shù)據(jù)協(xié)作緊密鏈接,這使經(jīng)濟領(lǐng)域的違規(guī)違法乃至犯罪的成本高到讓人無利可圖的程度,使非法集資等經(jīng)濟犯罪的實施變得愈發(fā)不經(jīng)濟,從而極大消除了涉眾型經(jīng)濟犯罪的生存土壤。由于發(fā)展式預防蘊含著更多的治本成分,所以應深入挖掘平臺創(chuàng)新的犯罪治理潛力,實現(xiàn)政府主導與平臺創(chuàng)新的融會貫通,以此促進技術(shù)治理賦能與賦權(quán)的均衡發(fā)展。
(四)以數(shù)據(jù)開放打通公眾參與的數(shù)據(jù)接口
在新的技術(shù)環(huán)境下,技術(shù)治理的正當性不單取決于治理績效,更應根植于民眾的有效參與和真心擁護。數(shù)據(jù)正義要求技術(shù)治理堅持用戶視角和人本導向,及時回應社會公眾的安全需求,將數(shù)據(jù)取之于民并用之于民,以實現(xiàn)大數(shù)據(jù)福祉的社會共享。民眾不是被監(jiān)控的對象,而是被保護的對象與治理的參與主體。在實踐中,囿于普通個體既不掌握數(shù)據(jù)也不了解技術(shù),公眾參與技術(shù)治理的門檻已變得越來越高。如此一來,個體還能對犯罪的技術(shù)治理進行有效參與、表達及監(jiān)督嗎?因此,基于數(shù)據(jù)正義的技術(shù)賦權(quán)要求,應重視互聯(lián)網(wǎng)對個人的賦權(quán)機能,以技術(shù)賦權(quán)消弭管理者與民眾之間的數(shù)字鴻溝,以數(shù)據(jù)開放為公眾提供參與治理的數(shù)據(jù)接口。
數(shù)據(jù)開放蘊含著公眾在利用數(shù)據(jù)后所獲取的知情權(quán)、表達權(quán)、參與權(quán)及監(jiān)督權(quán)等權(quán)利,犯罪地圖或公共安全地圖的公開是典型的技術(shù)賦權(quán)方案。一圖勝千言,一目了然。公共安全地圖能夠展示出各類犯罪、交通事故、火災、城市違建、公共衛(wèi)生危機等事件的時空分布狀況,構(gòu)成了國民安全生活的行動參考。地圖以可視化方式提升了國民對社會安全的能見度,為警民交互、回應型干預和被害預防提供了針對性較強的數(shù)據(jù)依據(jù),在相當大的程度上消除了民眾的被害恐懼。至于擔心地圖在被公開后可能被不法分子利用而回避防控干預的問題,筆者曾在《犯罪地圖的公開》一文中對其作過系統(tǒng)專論,目前來看,這種對于不法分子可能利用地圖的擔憂是沒有科學依據(jù)的。隨著數(shù)據(jù)紅利的日趨外溢,與犯罪地圖或公共安全地圖公開類似的數(shù)據(jù)接口還有很多。公眾參與技術(shù)治理的價值不在于追求治理效率,而在于生產(chǎn)數(shù)據(jù)正義,讓技術(shù)治理以看得見的方式得到實現(xiàn)。
數(shù)據(jù)開放對保障技術(shù)治理的正當性意義重大,只有向社會公開治安及犯罪數(shù)據(jù),公開數(shù)據(jù)監(jiān)控的基本架構(gòu)與運行機制,公開“威脅評分”的內(nèi)在規(guī)則,才能為公眾開展被害預防提供必要依據(jù),有助于依靠社會力量將各類風險控制在萌芽狀態(tài)。面對無所不在的數(shù)據(jù)監(jiān)控,數(shù)據(jù)開放打破了管理者和民眾之間的信息鴻溝、數(shù)據(jù)區(qū)隔,促進了社會互信和協(xié)作。數(shù)據(jù)接口的提供為民眾運用技術(shù)維護權(quán)利與制衡監(jiān)控提供了保障,使技術(shù)治理從封閉式管理走向了開放式治理。在算法社會,“數(shù)據(jù)巨機器”變得越來越聰明,但不能使其變得幽暗和冰冷,只有充分的公眾參與才是技術(shù)治理堅持科技向善之方向的關(guān)鍵所在。
結(jié) 語
在加速進化的智慧社會,使犯罪治理邁向數(shù)據(jù)控制,不僅極為必要,而且已逐漸升格為犯罪學的“思維定勢”。伴隨監(jiān)控技術(shù)與人的身體、生活日漸融合,全景式監(jiān)控使人焦慮和茫然無措,技術(shù)賦能與技術(shù)賦權(quán)的非均衡發(fā)展引發(fā)了一系列不公平對待,加劇了社會安全防衛(wèi)與個人權(quán)利保障的價值沖突。面對價值沖突,數(shù)據(jù)監(jiān)控和算法決策的邊界何在?個人怎樣才能保有必要的自由?如何跨越個體與數(shù)據(jù)控制者之間的“數(shù)字鴻溝”?技術(shù)治理何以避免陷入“數(shù)字利維坦”的陷阱?這些問題亟待得到思考。由此,犯罪技術(shù)治理的正當性問題成為理論焦點!皻v史的弧線雖然很長,但它總是向正義彎曲的!睌(shù)據(jù)正義視角的引入是一種可行的理論嘗試,源自現(xiàn)實主義正義觀的數(shù)據(jù)正義理論對犯罪技術(shù)治理提出有限擴張、關(guān)系均衡、法律控制、技術(shù)賦權(quán)等正當性要求,為犯罪技術(shù)治理從整體上趨向數(shù)據(jù)正義提供了實現(xiàn)路徑。源自數(shù)據(jù)正義的正當性標準不僅是反思犯罪技術(shù)治理實踐的分析框架,也是追問犯罪技術(shù)治理合法性的內(nèi)在依據(jù),更構(gòu)成了實現(xiàn)犯罪治理現(xiàn)代化的價值引領(lǐng)。
對犯罪技術(shù)治理進行價值權(quán)衡并非反對大數(shù)據(jù)應用,而是借助對于數(shù)據(jù)正義的價值思考來辨識智慧社會的發(fā)展方向,審視犯罪治理的人文主義本質(zhì),探索社會安全防衛(wèi)和個人權(quán)利保護的統(tǒng)籌兼顧之道。在大數(shù)據(jù)時代,人們總是說“未來已來”,但社會發(fā)展不怕慢,就怕循環(huán)往復。在犯罪治理的現(xiàn)代化思潮洶涌澎湃之際,我們需要更好的而非更快的技術(shù)治理。數(shù)據(jù)正義詮釋了何為“更好”的理論內(nèi)涵,呼喚將技術(shù)治理所蘊含的超常和超強的控制性權(quán)力納入法治軌道,回歸人本導向和權(quán)利本位,邁向數(shù)據(jù)控制且超越數(shù)據(jù)控制,以技術(shù)賦能與技術(shù)賦權(quán)的均衡發(fā)展“建設(shè)更高水平的平安中國”。
