作者簡介：張欣，法學(xué)博士，對外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院副教授。
目錄
一、技術(shù)賦權(quán)和技術(shù)賦能：算法行政的建構(gòu)原理
二、我國算法行政的核心特征和相關(guān)風(fēng)險(xiǎn)：以信用監(jiān)管為例
三、算法行政的法治化路徑——兼論《個(gè)人信息保護(hù)法（草案）》
四、結(jié)語
引言：從數(shù)字治理到數(shù)據(jù)驅(qū)動(dòng)型治理
在人類治理的歷史長河中，賦予治理客體以“可計(jì)算性”（calculability）已經(jīng)成為現(xiàn)代性的標(biāo)志特征之一。從治理效能來看，以數(shù)字和評估作為基石的量化治理方式具有可預(yù)測性、可協(xié)調(diào)性以及非人際化優(yōu)勢，有助于增加問責(zé)度、透明度和效率性。因此，自17世紀(jì)人類在教育領(lǐng)域首創(chuàng)量化和書面評估的方式開始，量化治理實(shí)踐開始向公共領(lǐng)域滲透和拓展，在審計(jì)、管理、審判以及立法領(lǐng)域被廣泛運(yùn)用。伴隨著數(shù)字革命的到來，社會(huì)治理方式突破了簡單地、線性地使用數(shù)字進(jìn)行預(yù)測、衡量和協(xié)調(diào)的低階模式，開始以大數(shù)據(jù)分析為基礎(chǔ)，以政府開發(fā)的多元應(yīng)用為平臺，全方位推動(dòng)治理方式在時(shí)間、空間和對象等多個(gè)層面的深度轉(zhuǎn)變。
首先，數(shù)據(jù)解析技術(shù)在公共行政領(lǐng)域的廣泛應(yīng)用使得執(zhí)法者可以突破時(shí)間的限制，將相對人的過去、現(xiàn)在和未來緊密聯(lián)結(jié)，并將其作為精準(zhǔn)決策的依據(jù)。例如，美國和英國刑事司法系統(tǒng)中已經(jīng)依據(jù)被告的過往歷史、當(dāng)下犯罪指控等信息對其再犯風(fēng)險(xiǎn)進(jìn)行評估，從而作為保釋和量刑決策的參考依據(jù)。其次，遠(yuǎn)程通訊技術(shù)和數(shù)據(jù)共享技術(shù)可以突破空間的限制，在行政機(jī)構(gòu)甚至市場主體之間實(shí)時(shí)共享限制措施，形成聯(lián)動(dòng)制約網(wǎng)絡(luò)。例如，利用大數(shù)據(jù)技術(shù)廣泛歸集失信信息，各政府部門和市場主體已經(jīng)廣泛共享失信黑名單，形成“一處失信、處處受限”的聯(lián)動(dòng)懲戒局面。最后，人臉識別等人工智能技術(shù)突破了個(gè)體信息收集的物理限制，治理基礎(chǔ)不斷細(xì)粒化，實(shí)現(xiàn)以個(gè)體為單位的精準(zhǔn)跨域治理。例如，在新冠肺炎疫情防控期間，疫情防控部門利用步態(tài)識別技術(shù)通過人臉、步態(tài)、行為、穿著等特征對疫區(qū)返程人員開展多重精準(zhǔn)識別，即使個(gè)體在佩戴口罩的情況下，仍然可以通過多特征精準(zhǔn)識別和研判，實(shí)現(xiàn)多端聯(lián)動(dòng)和警示信息實(shí)時(shí)推送。由此可見，與數(shù)字治理相比，數(shù)據(jù)驅(qū)動(dòng)型治理是一種綜合工具、架構(gòu)和生態(tài)層面的深層次治理變革。
與迅速迭代的數(shù)據(jù)驅(qū)動(dòng)型技術(shù)相比，無論是在數(shù)據(jù)治理領(lǐng)域，還是在算法規(guī)制領(lǐng)域，相關(guān)法律規(guī)范更新卻呈現(xiàn)緩慢滯后的局面。大規(guī)模、系統(tǒng)化的算法行政實(shí)踐雖然具有客觀高效的優(yōu)勢，但卻可能對個(gè)體產(chǎn)生歧視和不公，侵害公民的隱私并導(dǎo)致行政機(jī)關(guān)產(chǎn)生信息依賴。筆者聚焦算法行政領(lǐng)域，深入剖析其架構(gòu)原理和本質(zhì)特征，以我國信用治理和信用監(jiān)管中的算法實(shí)踐為分析視角，結(jié)合《中華人民共和國個(gè)人信息保護(hù)法（草案）》（下稱《個(gè)人信息保護(hù)法（草案）》）中的核心條文，探討我國算法行政的法治化路徑。
一、技術(shù)賦權(quán)和技術(shù)賦能：算法行政的建構(gòu)原理
伴隨著海量數(shù)據(jù)和高效算力，大數(shù)據(jù)技術(shù)重新界定了國家、社會(huì)的互動(dòng)關(guān)系和二元邊界，實(shí)現(xiàn)了全方位、系統(tǒng)化的國家賦權(quán)和社會(huì)賦權(quán)。在社會(huì)層面，大數(shù)據(jù)技術(shù)賦予和擴(kuò)展了公民的知情權(quán)、表達(dá)權(quán)、參與權(quán)和監(jiān)督權(quán)，網(wǎng)絡(luò)政治生態(tài)的權(quán)力結(jié)構(gòu)呈現(xiàn)出動(dòng)態(tài)演化、合作共生和多方博弈的新圖景。在國家層面，通過控制底層代碼和塑造其運(yùn)行的合法環(huán)境，大數(shù)據(jù)技術(shù)重新分配了信息權(quán)力，對國家和政府賦能。一方面，網(wǎng)絡(luò)化、平臺化的生態(tài)環(huán)境促使政府轉(zhuǎn)變其在整個(gè)網(wǎng)絡(luò)生態(tài)中的樣態(tài)和架構(gòu)，由中心化、單一化的治理支點(diǎn)演變?yōu)槠脚_化、分布式的多元治理網(wǎng)絡(luò)，實(shí)現(xiàn)了治理信息收集、加工和反饋的及時(shí)、精準(zhǔn)與高效；另一方面，算法技術(shù)的專業(yè)性、高效性消解了傳統(tǒng)行政決策中專家和政府官員的知識性和專業(yè)性地位，重構(gòu)了行政決策多元主體之間的知識化和專業(yè)化格局。二者相互作用，促使算法技術(shù)擴(kuò)展式嵌入行政實(shí)踐之中，軟件代碼和統(tǒng)計(jì)操作趨向于取代法律規(guī)則，形成了“自動(dòng)分析、自動(dòng)決策、自動(dòng)執(zhí)行”的算法行政系統(tǒng)。
（一）大數(shù)據(jù)時(shí)代政府通過平臺化改造實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型
作為行政和強(qiáng)制性政治組織，政府機(jī)關(guān)在傳統(tǒng)時(shí)代以正當(dāng)使用暴力和統(tǒng)治結(jié)構(gòu)下的命令與服從關(guān)系從社會(huì)獲取資源，獲取國家在治理結(jié)構(gòu)中的自主性。伴隨著科學(xué)技術(shù)的出現(xiàn)，對效率、理性的推崇推動(dòng)國家進(jìn)入“技術(shù)治理”時(shí)代。首先，通過行政決策過程吸納專家參與，實(shí)現(xiàn)科學(xué)知識對行政決策所需信息和知識的聚合、分析和預(yù)測功能，實(shí)現(xiàn)國家和社會(huì)治理的科學(xué)化、理性化。但網(wǎng)絡(luò)時(shí)代的社會(huì)交往方式發(fā)生了實(shí)質(zhì)性改變，并且社會(huì)中的個(gè)體由小范圍、封閉式、親熟化的交往演變?yōu)榻柚苿?dòng)互聯(lián)技術(shù)的大范圍、開放式、陌生化的交往。個(gè)體在社會(huì)交往中所能產(chǎn)生的輻射和影響達(dá)到了前所未有的范圍和程度。其次，信息科學(xué)技術(shù)重塑了社會(huì)表達(dá)與集體行動(dòng)。公民借助互聯(lián)網(wǎng)平臺在公共空間中的影響與日俱增。公共溝通領(lǐng)域的熱門話題或者焦點(diǎn)事件常成為公民集體在線表達(dá)和集聚的誘因，具有線上線下相互轉(zhuǎn)化、虛實(shí)結(jié)合的特性。在網(wǎng)絡(luò)社會(huì)的新型架構(gòu)下，以國家和政府為中心節(jié)點(diǎn)、單一化和分散化的傳統(tǒng)治理思路的局限性開始顯現(xiàn)。面對動(dòng)態(tài)性、復(fù)雜性、場景化的治理對象，頻繁出現(xiàn)監(jiān)管真空、監(jiān)管滯后和監(jiān)管失效的問題。因此，以大數(shù)據(jù)技術(shù)為代表的新型信息技術(shù)進(jìn)入國家技術(shù)治理的視野，促使政府治理思路逐步實(shí)現(xiàn)從“總體支配”到“技術(shù)治理”的重要轉(zhuǎn)變。黨的十八屆三中全會(huì)提出推進(jìn)國家治理體系和治理能力現(xiàn)代化的重要目標(biāo)。“十三五”規(guī)劃綱要也提出以社會(huì)治理精細(xì)化為重點(diǎn)，充分運(yùn)用現(xiàn)代信息技術(shù)和大數(shù)據(jù)技術(shù)的重要目標(biāo)。
由此可見，自黨的十八屆三中全會(huì)提出“國家治理現(xiàn)代化”這一重要方針，國家和政府在治理網(wǎng)絡(luò)中的組織架構(gòu)、制度依托、決策工具和治理背景實(shí)現(xiàn)了全方位演進(jìn)。以電子政務(wù)泛在化、感知化和智能化為發(fā)端，我國政府向著智慧化、現(xiàn)代化、智能化、服務(wù)化的運(yùn)行形態(tài)和模式快速發(fā)展。在智慧政府到智慧城市的建設(shè)中，各類型“一站式、一門式、一網(wǎng)式、一窗式”的智能化便民綜合服務(wù)信息平臺在整合信息資源的基礎(chǔ)上，為行政相對人提供了個(gè)性化、精準(zhǔn)化、扁平化的服務(wù)。例如，在強(qiáng)勢推進(jìn)的社會(huì)信用體系建設(shè)過程中，各省市均基本建成統(tǒng)一的社會(huì)信用信息共享平臺以解決信息壁壘問題。以廈門為例，其打造了極具特色的“兩網(wǎng)、兩庫、兩窗口、一支撐”格局，其中，“兩網(wǎng)”即開通政務(wù)內(nèi)網(wǎng)“信用工作平臺”和“信用廈門”網(wǎng)站，“兩庫”即建成法人信用信息庫和自然人信用信息庫，“兩窗口”即在自貿(mào)區(qū)和政務(wù)服務(wù)中心分別設(shè)立信用服務(wù)窗口，“一支撐”即依托市級共享協(xié)同平臺搭建信用信息共享協(xié)同平臺。從技術(shù)治理的架構(gòu)視角來看，算法行政過程中依托的信用信息共享協(xié)同平臺集中體現(xiàn)了大數(shù)據(jù)時(shí)代政府平臺化和數(shù)字化的核心思路。
面對復(fù)雜、動(dòng)態(tài)、分散的治理對象，傳統(tǒng)條塊式的行政組織架構(gòu)無法適應(yīng)治理對象的高度流動(dòng)性和專業(yè)復(fù)雜性，因此，需要在組織架構(gòu)上作出實(shí)質(zhì)性改變，以解決條塊式架構(gòu)中存在的信息流動(dòng)不暢、決策滯后和應(yīng)對乏力的問題。大數(shù)據(jù)技術(shù)具有高效、便利、互聯(lián)互通的特性。通過利用信息技術(shù)將自身架構(gòu)延展至平臺化和扁平化樣態(tài)，政府機(jī)構(gòu)可以在原有的行政組織架構(gòu)中以最小邊際成本實(shí)現(xiàn)治理過程信息聚合能力和治理決策流動(dòng)性的提升，以此降低行政行為和公共服務(wù)帶給社會(huì)主體的成本。這種在架構(gòu)層面的治理邏輯的改變，集中性地體現(xiàn)出現(xiàn)代技術(shù)治理語境下，國家已經(jīng)不再是傳統(tǒng)意義上政治秩序生成的頂端，也不再是大型權(quán)力聚合體的存儲(chǔ)者，轉(zhuǎn)而調(diào)適并開始充當(dāng)規(guī)制權(quán)力技術(shù)設(shè)施的連接點(diǎn)（nexus）。這種平臺式的架構(gòu)，一方面，有助于打通各行政機(jī)關(guān)之間信息的共享和流轉(zhuǎn)，一定程度上減輕了條塊式監(jiān)管架構(gòu)的僵化問題；另一方面，平臺式架構(gòu)可以為政府行政提供“擴(kuò)展槽”，通過與社會(huì)性、商業(yè)性平臺的擴(kuò)展對接，形成更大范圍的輻射性和嵌入性。
（二）智能時(shí)代專家意見的主導(dǎo)地位讓位于數(shù)據(jù)和算法
早在德國社會(huì)學(xué)家韋伯論述“法制性支配”類型的官僚制特點(diǎn)時(shí)就曾指出，專業(yè)知識在確立官僚系統(tǒng)的優(yōu)越性上發(fā)揮著重要作用。專業(yè)知識一方面保證官僚系統(tǒng)擁有權(quán)力，另一方面官僚組織在處理政治事務(wù)過程中又可依靠累積的經(jīng)驗(yàn)和知識增強(qiáng)其權(quán)力。公共政策制定活動(dòng)的現(xiàn)代化和理性化思潮使得現(xiàn)代行政過程日益推崇“專家理性理論”，專家因具備“技術(shù)理性”而獲得行政決策的正當(dāng)性。因此，現(xiàn)代公共政策制定領(lǐng)域不僅對行政部門的專業(yè)知識、技術(shù)理性賦予較大信任，還進(jìn)一步擴(kuò)展專家群體的范圍，將“行政精英”以外的學(xué)術(shù)專家引入決策過程，構(gòu)建知識專業(yè)化運(yùn)作的縝密體系。這種在行政過程中對專家意見的推崇和尊重構(gòu)成了現(xiàn)代公共行政活動(dòng)的一大特點(diǎn)。然而，伴隨著信息技術(shù)的發(fā)展和應(yīng)用，下列三項(xiàng)核心誘因致使智能社會(huì)中的專家意見逐步讓位于數(shù)據(jù)和算法，客觀上為算法自動(dòng)化行政的應(yīng)用和普及奠定基礎(chǔ)。
首先，專家技術(shù)理性模式不斷高度專業(yè)化和技術(shù)化，并開始融合數(shù)據(jù)化的方式對自身參與的公共政策進(jìn)行論證和評價(jià)。例如，集中體現(xiàn)現(xiàn)代公共政策領(lǐng)域?qū)π姓䦟＜以u價(jià)理念的“技術(shù)理性”績效評價(jià)模型在過程和形式層面追求客觀理性化，注重科學(xué)、邏輯性的數(shù)據(jù)論證，通過知識篩選和數(shù)據(jù)結(jié)果設(shè)定對公共政策的績效作出具體評價(jià)。伴隨著決策績效數(shù)據(jù)化和理性化趨勢的增強(qiáng)，行政決策本身也進(jìn)一步呈現(xiàn)出量化和技術(shù)化特質(zhì)。因此，以技術(shù)理性為表征的量化績效評價(jià)制度為數(shù)據(jù)和算法進(jìn)入行政決策過程提供了重要的激勵(lì)機(jī)制。
其次，由大數(shù)據(jù)技術(shù)和平臺生態(tài)作為驅(qū)動(dòng)，衍生出數(shù)字時(shí)代的“分布式信任”（distributed trust）機(jī)制，使得公眾的信任流動(dòng)方向從權(quán)威專家和行政官僚開始流向數(shù)據(jù)和算法。正如牛津大學(xué)研究員瑞秋·波茨曼在《信任革命》中提出的，智能社會(huì)中公眾的信任模式已經(jīng)發(fā)生實(shí)質(zhì)性改變。一方面，數(shù)字信譽(yù)機(jī)制為公眾提供了“信任躍遷”（trust leap）動(dòng)力，使得公眾愿意承擔(dān)風(fēng)險(xiǎn)去嘗試新的東西或者改變傳統(tǒng)的行事方式。例如，公眾已經(jīng)頻繁使用網(wǎng)約車平臺搭乘陌生人的車或者通過愛彼迎入住陌生人的房屋。另一方面，伴隨著公眾對傳統(tǒng)機(jī)構(gòu)和組織信任的瓦解，區(qū)塊鏈提供的分布式賬本技術(shù)、大數(shù)據(jù)技術(shù)提供的個(gè)人信譽(yù)足跡追蹤服務(wù)重構(gòu)了人際關(guān)系規(guī)則 ，使得公眾信任的流動(dòng)方向由立法者、司法者和執(zhí)法者以及各類權(quán)威專家的機(jī)構(gòu)式信任開始平行流向基于數(shù)據(jù)、機(jī)器人和算法的“分布式信任”。這種信任和支持為算法自動(dòng)化決策的普遍應(yīng)用奠定了正當(dāng)性和合理性基礎(chǔ)。例如，當(dāng)知名非營利組織ProPublica通過發(fā)布專門報(bào)告的方式揭露美國司法系統(tǒng)運(yùn)用COMPAS算法對被告進(jìn)行審前風(fēng)險(xiǎn)預(yù)測評估的程序可能存在種族歧視風(fēng)險(xiǎn)時(shí)，美國紐約州刑事司法部門仍然公開對該款軟件生成評估分?jǐn)?shù)的科學(xué)性和準(zhǔn)確性表示支持和信任。這種從一般公眾到行政官僚對數(shù)據(jù)、算法等技術(shù)的信任和支持為算法自動(dòng)化決策的普遍適用奠定了社會(huì)基礎(chǔ)。
最后，伴隨著規(guī)制對象的復(fù)雜化、動(dòng)態(tài)化、場景化特征的凸顯，信息權(quán)力在行政專家和大數(shù)據(jù)技術(shù)應(yīng)用之間進(jìn)行了重構(gòu)性分配，并對行政決策運(yùn)行模式和運(yùn)行生態(tài)朝向自動(dòng)化和智能化演進(jìn)起到了至關(guān)重要的作用。正如以色列歷史學(xué)家尤瓦爾·赫拉利曾提出的 “數(shù)據(jù)主義”潮流所根植的一種信念，即人類決策者并不具有將大量數(shù)據(jù)流提煉成信息、知識或者智慧的能力，因此數(shù)據(jù)處理工作應(yīng)當(dāng)委托給具有計(jì)算能力的算法，其能力遠(yuǎn)超過人腦。以被喻為經(jīng)濟(jì)發(fā)展新引擎的數(shù)字經(jīng)濟(jì)為例，其以數(shù)字技術(shù)創(chuàng)新應(yīng)用為牽引，以多元化、場景化、個(gè)性化為特征，實(shí)現(xiàn)了經(jīng)濟(jì)產(chǎn)業(yè)要素的全面重構(gòu)和深度融合。以大數(shù)據(jù)、云計(jì)算、人工智能為代表的數(shù)字技術(shù)深度嵌入，并不斷擴(kuò)展到新業(yè)態(tài)和新模式的迭代發(fā)展之中，引發(fā)了監(jiān)管模式、監(jiān)管理念、監(jiān)管生態(tài)的全面變革。由于新興業(yè)態(tài)多具有模式新、主體多、法律關(guān)系復(fù)雜等特點(diǎn)，僅依靠傳統(tǒng)專家治理模式開展信息收集和處理，其局限性日益凸顯。因此，順勢而為，積極利用大數(shù)據(jù)和算法技術(shù)，提升行政機(jī)構(gòu)數(shù)字治理能力成為題中應(yīng)有之義。
（三）軟件編碼和統(tǒng)計(jì)操作趨向于取代法律規(guī)則
在《通過數(shù)字的治理》一書中，法國學(xué)者阿蘭·蘇皮奧特（Alain Supiot）率先指出憲法和法律秩序已經(jīng)呈現(xiàn)數(shù)字化轉(zhuǎn)向，數(shù)學(xué)量化已經(jīng)成為新的規(guī)范性法律基礎(chǔ)。一些學(xué)者甚至提出，伴隨著數(shù)據(jù)和推理方法的不斷積累，最終會(huì)達(dá)到美國學(xué)者雷·庫茲韋爾提出的與“技術(shù)奇點(diǎn)”相匹配的“法律奇點(diǎn)”（legal singularity）時(shí)刻。無論是數(shù)字治理，還是法律奇點(diǎn)，核心意涵均體現(xiàn)為法律規(guī)范的可計(jì)算性。伴隨著數(shù)字技術(shù)和人工智能的發(fā)展，很多曾經(jīng)被認(rèn)為是隱形和傳統(tǒng)的知識開始變得可被編碼和計(jì)算。正是因?yàn)榉梢?guī)則所具有的可計(jì)算性特征使得算法行政決策從基礎(chǔ)原理上變得可能。就法律規(guī)則的構(gòu)成要素而言，其以條件假定、行為模式和后果模式為核心結(jié)構(gòu)對人們的權(quán)利、義務(wù)和法律后果進(jìn)行規(guī)定。法律規(guī)則所具有的微觀指導(dǎo)性、可操作性、確定性、邏輯性、體系性使其可以在很大程度上被代碼化。大數(shù)據(jù)技術(shù)具有識別出人類無法檢測到的模式和相關(guān)性的能力，并將海量數(shù)據(jù)轉(zhuǎn)換為特定的高度數(shù)據(jù)密集型的知識形式，從而創(chuàng)造出新的知識生產(chǎn)模式。在實(shí)踐中，很多法律規(guī)則已經(jīng)被簡化為一系列數(shù)字化的參數(shù)和指標(biāo)，甚至具有被軟件編碼和統(tǒng)計(jì)操作所取代的趨勢。例如，奧巴馬在2013年5月發(fā)布的行政命令中規(guī)定，所有政府發(fā)布的公共文件均應(yīng)當(dāng)以機(jī)器可讀格式發(fā)布。英國金融行為管理局已經(jīng)開發(fā)出“機(jī)器可執(zhí)行的監(jiān)管”（machine-executable regulation），其以代碼形式發(fā)布監(jiān)管，具有即時(shí)、自動(dòng)、成本低廉、精準(zhǔn)和自我實(shí)現(xiàn)的特點(diǎn)。此外，在荷蘭的萊布尼茨法律中心發(fā)起的“元法律”（MetaLex）項(xiàng)目中通過XML格式對法律規(guī)則進(jìn)行編碼轉(zhuǎn)換，使得行政部門能夠輕松訪問不同級別乃至不同國家和語言轉(zhuǎn)換后的以元數(shù)據(jù)格式為表現(xiàn)形式的法律規(guī)則，使其成為具備機(jī)器可讀性和可執(zhí)行性的法律代碼。因此，伴隨著大數(shù)據(jù)、云計(jì)算和云存儲(chǔ)技術(shù)的興起，以算法為核心架構(gòu)嵌入公共行政領(lǐng)域中的算法規(guī)制（algorithmic regulation）作為一種新的社會(huì)秩序系統(tǒng)漸次出現(xiàn)。這一規(guī)制形式通過收集規(guī)制環(huán)境中各類組件產(chǎn)生的實(shí)時(shí)數(shù)據(jù)，計(jì)算并分析相關(guān)行為以及可能產(chǎn)生的風(fēng)險(xiǎn)，為達(dá)到預(yù)定監(jiān)管目標(biāo)形成最優(yōu)管理策略并動(dòng)態(tài)優(yōu)化具體執(zhí)行方式。
綜上所述，算法自動(dòng)化行政的架構(gòu)原理基于三個(gè)層面依次發(fā)生。首先，國家和政府轉(zhuǎn)變自身的技術(shù)治理理念，將自身重置為具有平臺化、數(shù)字化特質(zhì)的“規(guī)制權(quán)力技術(shù)設(shè)施連接點(diǎn)”，為算法行政實(shí)踐提供組織基礎(chǔ)和發(fā)展契機(jī)。其次，專家技術(shù)理性績效評價(jià)、分布式信任和智能社會(huì)信息權(quán)力的再分配致使專家意見逐步讓位于數(shù)據(jù)和算法，客觀上為算法行政的應(yīng)用和普及奠定制度基礎(chǔ)。最后，法律規(guī)范的可計(jì)算性和大數(shù)據(jù)技術(shù)的興起使得海量數(shù)據(jù)被轉(zhuǎn)換為特定的數(shù)據(jù)密集型知識形式，算法規(guī)制作為一種新的社會(huì)秩序系統(tǒng)最終得以出現(xiàn)。在組織基礎(chǔ)、制度基礎(chǔ)和技術(shù)基礎(chǔ)的綜合作用下，算法行政一方面深刻地體現(xiàn)出計(jì)算理性對溝通理性和公共話語空間的轉(zhuǎn)換；另一方面，當(dāng)算法通過優(yōu)先級配置、分類、關(guān)聯(lián)以及過濾四項(xiàng)功能嵌入行政決策的各個(gè)領(lǐng)域之時(shí)，還勾畫出技術(shù)對國家和政府的動(dòng)態(tài)賦權(quán)和賦能過程。數(shù)據(jù)和算法不僅作為現(xiàn)代社會(huì)的信息要素和治理客體而存在，更從宏觀層面作為基礎(chǔ)治理環(huán)境和重要治理技術(shù)而存在。
二、我國算法行政的核心特征和相關(guān)風(fēng)險(xiǎn)：以信用監(jiān)管為例
目前已有大量英文文獻(xiàn)梳理和探討域外算法行政的實(shí)踐規(guī)律和本質(zhì)特征，但聚焦于我國自動(dòng)化行政實(shí)踐的研究仍然十分有限。在厘清算法行政架構(gòu)原理的基礎(chǔ)上，本部分以我國信用監(jiān)管實(shí)踐為例，深入探究我國算法行政的特征和可能存在的相關(guān)風(fēng)險(xiǎn)。
面對我國社會(huì)日益嚴(yán)峻的信任危機(jī)和原有信任治理資源的頻繁失效，以數(shù)據(jù)驅(qū)動(dòng)的新型信用治理應(yīng)運(yùn)而生�！渡鐣�(huì)信用體系建設(shè)規(guī)劃綱要（2014—2020年）》 中指出信用治理要“以健全覆蓋社會(huì)成員的信用記錄和信用基礎(chǔ)設(shè)施網(wǎng)絡(luò)為基礎(chǔ)，以信用信息合規(guī)應(yīng)用和信用服務(wù)體系為支撐”�！洞龠M(jìn)大數(shù)據(jù)發(fā)展行動(dòng)綱要》 中也指出要建立“用數(shù)據(jù)說話、用數(shù)據(jù)決策、用數(shù)據(jù)管理、用數(shù)據(jù)創(chuàng)新”的管理機(jī)制，在信用體系建設(shè)環(huán)節(jié)，推動(dòng)數(shù)據(jù)匯聚整合和關(guān)聯(lián)分析，提高信用治理的精準(zhǔn)性和有效性。因循這一治理思路，2019年發(fā)布的《關(guān)于加快推進(jìn)社會(huì)信用體系建設(shè)構(gòu)建以信用為基礎(chǔ)的新型監(jiān)管機(jī)制的指導(dǎo)意見》 中進(jìn)一步指出，以加強(qiáng)信用監(jiān)管為著力點(diǎn)，創(chuàng)新監(jiān)管理念、監(jiān)管制度和監(jiān)管方式，建立健全貫穿市場主體全生命周期，銜接事前、事中、事后全監(jiān)管環(huán)節(jié)的新型監(jiān)管機(jī)制。由此可見，從頂層架構(gòu)出發(fā)，我國的信用監(jiān)管和信用治理領(lǐng)域正在以數(shù)據(jù)驅(qū)動(dòng)型治理為思路，以算法自動(dòng)化決策為機(jī)制，積極籌建創(chuàng)新型、智能型、精準(zhǔn)型的算法行政機(jī)制。目前的實(shí)踐和探索中，我國算法行政集中展現(xiàn)出如下三項(xiàng)核心特征和相關(guān)風(fēng)險(xiǎn)。
（一）以統(tǒng)一社會(huì)信用代碼為基礎(chǔ)構(gòu)建多類信用信息平臺
如前文所述，算法自動(dòng)化行政的構(gòu)建機(jī)理之一在于政府通過平臺化改造實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型。實(shí)際上，無論是政治管控邏輯還是商業(yè)生產(chǎn)邏輯，都可以通過微觀層面的“賬戶—數(shù)據(jù)—評分”框架予以統(tǒng)一，通過平臺化改造實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型并獲得“規(guī)制能力”（regulability）。具體而言，一方面，需要政府作為平臺打造其縱向控制結(jié)構(gòu)，例如通過身份認(rèn)證、行為追蹤、記錄評分等形式構(gòu)建規(guī)制能力。另一方面，還需要在橫向維度將多類別的信用信息平臺聯(lián)通，通過信用信息互享互通、自動(dòng)對接等方式擴(kuò)展其規(guī)制能力的輻射邊界。以福州市為例，在推進(jìn)信用領(lǐng)域的算法行政實(shí)踐時(shí)按照“一庫、一平臺、一網(wǎng)、N應(yīng)用”的架構(gòu)原則具體搭建底層基礎(chǔ)設(shè)施。
為構(gòu)建智能化、數(shù)字化、精準(zhǔn)化的信用監(jiān)管和信用治理機(jī)制，我國首先通過公民個(gè)人身份證號碼和組織機(jī)構(gòu)代碼建立起統(tǒng)一的社會(huì)信用代碼，將個(gè)人和組織的身份數(shù)字化，為信用信息收集和記錄個(gè)體信譽(yù)足跡活動(dòng)提供縱向底層架構(gòu)。社會(huì)信用代碼對于個(gè)人和組織身份識別具有唯一性、真實(shí)性和準(zhǔn)確性，可以滿足信用記錄長期性、連續(xù)性、準(zhǔn)確性和全面性的要求。數(shù)字化的身份識別代碼還可以打通多個(gè)行政機(jī)構(gòu)之間的子系統(tǒng)，為信息高效收集、互通流轉(zhuǎn)和共享奠定重要基礎(chǔ)。在實(shí)施社會(huì)信用代碼的基礎(chǔ)上，我國各行政部門對業(yè)務(wù)系統(tǒng)加以改造，建立了一批社會(huì)信用信息共享平臺與智慧審批平臺、網(wǎng)上執(zhí)法平臺、公共資源交易平臺。這些平臺自動(dòng)對接，實(shí)現(xiàn)了橫向的互聯(lián)互通，通過實(shí)現(xiàn)自動(dòng)比對、自動(dòng)攔截、自動(dòng)監(jiān)督、自動(dòng)懲戒、自動(dòng)反饋等方式有效擴(kuò)展算法規(guī)制能力的橫向邊界。
這種橫縱兼具的數(shù)字化信用治理平臺極大地?cái)U(kuò)展了政府的規(guī)制能力，為構(gòu)建守信聯(lián)合激勵(lì)和失信聯(lián)合懲戒制度，推進(jìn)失信被執(zhí)行人跨部門協(xié)同監(jiān)管奠定了規(guī)制基礎(chǔ)。但與此同時(shí)，由于信用獎(jiǎng)懲機(jī)制通過信用畫像模型和各省市各部門建立的信用信息平臺系統(tǒng)化、高效化、泛在化地嵌入多元應(yīng)用場景之中，一旦發(fā)生信用信息記錄錯(cuò)誤或者基于某一信用特征要素設(shè)定存在偏誤，就可能導(dǎo)致某一個(gè)體或者某一群體在基于信用畫像的算法行政系統(tǒng)中被不當(dāng)鎖定，可能在多個(gè)場景中受到不利影響。以《廈門市守信聯(lián)合激勵(lì)與失信聯(lián)合懲戒行為清單》《廈門市守信聯(lián)合激勵(lì)與失信聯(lián)合懲戒措施清單》建立的聯(lián)合獎(jiǎng)懲機(jī)制為例，僅第一批清單就涉及23個(gè)領(lǐng)域、238項(xiàng)聯(lián)合獎(jiǎng)懲措施�！锻Ｊ屑壊樵兪褂眯庞糜涗浭马�(xiàng)清單》亦推動(dòng)在45個(gè)部門的263個(gè)行政管理事項(xiàng)中查詢使用信用記錄，涉及評先選優(yōu)、干部任用、行政審批、財(cái)政性資金安排、公共資源交易等領(lǐng)域，初步形成了“辦事先查信用”的工作機(jī)制。因此，平臺化、數(shù)字化的政府雖然通過橫縱架構(gòu)極大地增強(qiáng)了規(guī)制能力，但這種平臺化架構(gòu)還同時(shí)暗藏風(fēng)險(xiǎn)，一旦個(gè)體受到算法歧視，將會(huì)有極高的概率延續(xù)現(xiàn)有的分類和階層現(xiàn)狀，發(fā)生個(gè)體不公的結(jié)構(gòu)性鎖定效應(yīng)。
（二）以大數(shù)據(jù)模型進(jìn)行信用畫像建模推動(dòng)信用治理自主化和全周期化
信用畫像又稱為信用建模，是指通過收集、匯聚、分析等方法對個(gè)人和企業(yè)信用狀況利用相關(guān)數(shù)據(jù)進(jìn)行自動(dòng)化處理，并對其信用相關(guān)特征作出量化分析和預(yù)測，形成信用特征模型的過程。在我國信用監(jiān)管實(shí)踐中，已廣泛利用大數(shù)據(jù)模型展開信用畫像作為具體監(jiān)管決策的依據(jù)。例如，蘇州地稅依托江蘇地稅數(shù)據(jù)庫，開發(fā)了自然人納稅信用管理平臺，對自然人基本情況、涉稅行為及相關(guān)財(cái)產(chǎn)信息等定向采集，借助省、市政府信息交換平臺，與銀行、工商、司法、海關(guān)、房產(chǎn)管理、國土資源等部門進(jìn)行信息交換，獲取自然人失信違約、行政處罰及資產(chǎn)等信息，作為自然人納稅信用評定的重要補(bǔ)充。在平臺化和數(shù)字化基礎(chǔ)之上，蘇州地稅局還積極運(yùn)用網(wǎng)絡(luò)爬蟲等互聯(lián)網(wǎng)工具，對各類網(wǎng)站發(fā)布的征信內(nèi)容進(jìn)行收集，借助大數(shù)據(jù)技術(shù)對納稅人進(jìn)行信用畫像，據(jù)此實(shí)施分類服務(wù)和管理，作為自然人納稅信用評定的參考指標(biāo)。這一實(shí)施機(jī)理與英國稅務(wù)機(jī)關(guān)利用欺詐和逃稅行為模型識別可疑的納稅申報(bào)表的實(shí)踐具有異曲同工之處。英國稅務(wù)機(jī)關(guān)開發(fā)的大數(shù)據(jù)模型Connect（聯(lián)結(jié)）使用文本和數(shù)據(jù)挖掘技術(shù)，一方面提取包含在三十多個(gè)結(jié)構(gòu)化數(shù)據(jù)庫中的包括工資單或者土地登記事項(xiàng)的相關(guān)信息，另一方面提取來自社交網(wǎng)站或者政府網(wǎng)站的非結(jié)構(gòu)化數(shù)據(jù)構(gòu)建個(gè)人申報(bào)收入的欺詐性監(jiān)測指標(biāo)。一旦發(fā)現(xiàn)異常，該模型可以將相關(guān)數(shù)據(jù)自動(dòng)發(fā)送給行政機(jī)關(guān)，并依據(jù)代碼啟動(dòng)程序自動(dòng)執(zhí)行法律，通過直接將稅收規(guī)則應(yīng)用于所收集的事實(shí)數(shù)據(jù)來規(guī)定納稅人應(yīng)付金額。在確定金額的過程中，還會(huì)限制稅務(wù)人員對執(zhí)行規(guī)則和繳納金額的裁量空間。在蘇州地稅采用的信用畫像模型中，對稅收相關(guān)法律規(guī)則進(jìn)行解構(gòu)形成建模指引，通過對納稅人的行為特征及風(fēng)險(xiǎn)偏好、遵從傾向進(jìn)行歸納、分析和預(yù)測，設(shè)定關(guān)鍵性、客觀性指標(biāo)進(jìn)行評估并賦予分值，形成四項(xiàng)信用等級并生成個(gè)人納稅信用趨勢分析報(bào)告。這種算法行政實(shí)踐集中體現(xiàn)出了“自動(dòng)收集數(shù)據(jù)、自動(dòng)化分析、自動(dòng)化決策、自動(dòng)化執(zhí)行”的自主性和全周期性特點(diǎn)。
這一實(shí)施模式無疑具有高效、精準(zhǔn)的績效優(yōu)勢，極大地節(jié)省了稅務(wù)機(jī)關(guān)的人力和財(cái)力。但在算法日益具有自主性決策地位的行政實(shí)踐中，這可能引致以下兩種風(fēng)險(xiǎn)。首先，為提升精準(zhǔn)性和可預(yù)測性，信用畫像采用的數(shù)據(jù)既包括結(jié)構(gòu)化信用數(shù)據(jù)，又包括非結(jié)構(gòu)化數(shù)據(jù)。在未獲得當(dāng)事人知情和同意的前提下，對當(dāng)事人社交媒體平臺發(fā)布的非結(jié)構(gòu)化數(shù)據(jù)進(jìn)行抓取和分析，形成具有直觀利益影響的信用畫像，可能對個(gè)人信息的自主可控帶來不利影響。其次，信用畫像模型和大數(shù)據(jù)監(jiān)測技術(shù)的自主性逐步增強(qiáng)。一些信用監(jiān)管實(shí)踐中采用的自動(dòng)對接、自動(dòng)比對、自動(dòng)攔截、自動(dòng)監(jiān)督、自動(dòng)懲戒模式可能消解相對人的知情權(quán)、參與權(quán)、異議權(quán)甚至救濟(jì)權(quán)。
（三）以指數(shù)化和智能化打造動(dòng)態(tài)信用分級分類監(jiān)管工具
在頂層設(shè)計(jì)、平臺建設(shè)、信用智能模型建設(shè)之外，我國的信用監(jiān)管和信用治理還呈現(xiàn)指數(shù)化、指標(biāo)化、動(dòng)態(tài)化和智能化特征。在“信用+監(jiān)管”“互聯(lián)網(wǎng)+監(jiān)管”作為核心指導(dǎo)思想推動(dòng)監(jiān)管改革的政策背景下，我國各省市、各層級、各部門的監(jiān)管機(jī)構(gòu)開始廣泛利用大數(shù)據(jù)和云計(jì)算等信息技術(shù)著力推動(dòng)監(jiān)管有效性。這些監(jiān)管工具多以大數(shù)據(jù)和云計(jì)算技術(shù)為支撐，對接各類信用信息平臺，形成指數(shù)化、指標(biāo)化、動(dòng)態(tài)化、智能化的分類分級監(jiān)管。目前，我國信用監(jiān)管指數(shù)工具主要在全國層面、各省市層面和專業(yè)監(jiān)管層面予以適用。
首先，以國家信息中心為主體，通過全國城市信用狀況監(jiān)測平臺對收集和監(jiān)測的5 000多個(gè)網(wǎng)站公開信用信息、各省信用信息共享平臺、各城市黑名單統(tǒng)計(jì)數(shù)據(jù)形成綜合評價(jià)，定期發(fā)布對全國36個(gè)城市的綜合信用指數(shù)排名。國家發(fā)展改革委通過參考這一綜合指數(shù)，對相關(guān)行為主體與信用有關(guān)的活動(dòng)和行為進(jìn)行監(jiān)測，并生成對城市信用狀況的綜合評價(jià)。其次，以廣州公共資源交易中心為代表，一些省市自行創(chuàng)設(shè)信用指數(shù)并將其運(yùn)用到行政決策之中。例如，廣州公共資源交易中心通過大數(shù)據(jù)技術(shù)每日抓取各方交易主體信用信息，通過智能算法為企業(yè)進(jìn)行信用評分，每日動(dòng)態(tài)更新發(fā)布公共資源交易信用指數(shù)，并將信用評價(jià)結(jié)果廣泛應(yīng)用到建設(shè)工程招投標(biāo)、政府采購等領(lǐng)域，信用評價(jià)范圍覆蓋招標(biāo)人、投標(biāo)人、評價(jià)專家等各方主體。最后，監(jiān)管機(jī)構(gòu)還與第三方平臺企業(yè)合作，通過協(xié)同聯(lián)動(dòng)機(jī)制構(gòu)建細(xì)分監(jiān)管領(lǐng)域的信用指數(shù)監(jiān)管工具。例如，浦東新區(qū)市場監(jiān)管局率先運(yùn)用“大數(shù)據(jù)”理念，嘗試在網(wǎng)絡(luò)訂餐行業(yè)實(shí)施“互聯(lián)網(wǎng)+信用監(jiān)管”模式，在陸家嘴地區(qū)通過入網(wǎng)餐飲單位的市場主體信息基礎(chǔ)數(shù)據(jù)及動(dòng)態(tài)監(jiān)管數(shù)據(jù)，建立有關(guān)營業(yè)執(zhí)照、餐飲服務(wù)許可證、食品安全量化分級監(jiān)管信息。在該餐飲平臺中生成的信用評價(jià)、交易記錄、投訴舉報(bào)等數(shù)據(jù)也同步傳輸?shù)奖O(jiān)管機(jī)關(guān)，形成大數(shù)據(jù)技術(shù)與信用監(jiān)管實(shí)踐的深度融合。
智能化、動(dòng)態(tài)化的信用監(jiān)管指數(shù)基于綜合評價(jià)和統(tǒng)計(jì)指數(shù)理論，運(yùn)用大數(shù)據(jù)技術(shù)，對信用信息進(jìn)行采集、匯總、分析、加工和綜合處理，通過建構(gòu)指標(biāo)和權(quán)重賦分體系，借助指數(shù)模型和測算方法反映樣本主體的信用狀況 ，為行政決策提供重要參考。其不僅具有較強(qiáng)的客觀性、整體性，其動(dòng)態(tài)化采集還具有及時(shí)性、精細(xì)性和預(yù)測性特征，而且有助于監(jiān)管機(jī)關(guān)實(shí)現(xiàn)全周期視角的分級分類監(jiān)管。但與此同時(shí)，指數(shù)類監(jiān)管工具的開發(fā)和使用還可能伴隨諸多風(fēng)險(xiǎn)。
首先，指數(shù)類監(jiān)管工具需要一定的數(shù)據(jù)積累以對分析模型不斷優(yōu)化。若數(shù)據(jù)或者樣本不充分，可能對準(zhǔn)確性和有效性產(chǎn)生影響。其次，由于指數(shù)類監(jiān)管工具涉及利用大數(shù)據(jù)技術(shù)進(jìn)行復(fù)雜建模。很多行政機(jī)構(gòu)采用政府購買服務(wù)的方式委托平臺科技企業(yè)代為開發(fā)，開發(fā)后的監(jiān)管工具可能被直接應(yīng)用于平臺企業(yè)利益相關(guān)領(lǐng)域，因此可能存在“技術(shù)俘獲”的風(fēng)險(xiǎn)。再次，大數(shù)據(jù)分析技術(shù)聚焦事物相關(guān)性而非因果性，若無算法影響評估制度進(jìn)行定期評估，指數(shù)類信用監(jiān)管工具的完整性、科學(xué)性和準(zhǔn)確性可能存在有效性和準(zhǔn)確性風(fēng)險(xiǎn)。最后，伴隨信用指數(shù)工具呈現(xiàn)跨部門跨領(lǐng)域化，信用監(jiān)管工具不斷嵌入和拓展應(yīng)用到復(fù)雜場景之中，如何妥善處理人機(jī)協(xié)作以及如何對依據(jù)其作出的具體行政行為進(jìn)行有效解釋和說明也將產(chǎn)生技術(shù)和制度的雙重挑戰(zhàn)。綜上所述，信用監(jiān)管領(lǐng)域廣泛應(yīng)用的指數(shù)類指標(biāo)雖然高效、便捷，但可能在透明度、問責(zé)度以及公正性層面仍存在局限性。
三、算法行政的法治化路徑——兼論《個(gè)人信息保護(hù)法（草案）》
前文通過剖析算法行政構(gòu)建原理，以信用監(jiān)管領(lǐng)域?yàn)槔偨Y(jié)了我國算法行政實(shí)踐的核心特征以及與之伴隨的相關(guān)風(fēng)險(xiǎn)。以大數(shù)據(jù)技術(shù)為代表的各類信息科技既是算法行政的運(yùn)行背景，也是其得以有效實(shí)施的核心驅(qū)動(dòng)力。但在算法行政實(shí)踐激揚(yáng)時(shí)代之時(shí)，平臺化、自主化、全周期化和指數(shù)化為內(nèi)核的新型監(jiān)管實(shí)踐還需因循法治化發(fā)展路徑，對算法權(quán)力予以合理控制，對行政相對人的程序性權(quán)利予以保障，以確保算法行政實(shí)踐在包容審慎、科學(xué)公正的基礎(chǔ)上有序發(fā)展。綜覽我國相關(guān)立法，《中華人民共和國個(gè)人信息保護(hù)法》一旦通過，將是第一部系統(tǒng)性、綜合性、基礎(chǔ)性地對自動(dòng)化決策和自然人個(gè)人信息自動(dòng)化處理予以規(guī)定的法律。該部草案稿一共八章70條，對個(gè)人信息處理規(guī)則、個(gè)人信息處理活動(dòng)中各方的權(quán)利和義務(wù)以及履行個(gè)人信息保護(hù)職責(zé)的部門予以了系統(tǒng)規(guī)定。本部分聚焦于《個(gè)人信息保護(hù)法（草案）》中與算法影響評估、算法審計(jì)和公共事業(yè)領(lǐng)域自動(dòng)化決策活動(dòng)相關(guān)的核心條文，為探尋我國算法行政的法治化路徑提供規(guī)則層面的討論基礎(chǔ)。
（一）建議細(xì)化算法行政過程中個(gè)人信息處理應(yīng)遵循的合法性和必要性原則
《個(gè)人信息保護(hù)法（草案）》第二章第三節(jié)專門對國家機(jī)關(guān)處理個(gè)人信息進(jìn)行了規(guī)定，是本次立法的一大亮點(diǎn)，彌補(bǔ)了長時(shí)間以來我國網(wǎng)絡(luò)與信息化立法多聚焦商業(yè)場景中的自動(dòng)化決策而忽略公共事業(yè)場景中算法行政的薄弱之處。我國已有立法中，《中華人民共和國電子商務(wù)法》《網(wǎng)絡(luò)交易管理辦法》《數(shù)據(jù)安全管理辦法（征求意見稿）》均對商業(yè)場景下自動(dòng)化決策應(yīng)當(dāng)遵循的原則和合規(guī)框架進(jìn)行了規(guī)定。但面對實(shí)踐中公共事業(yè)場景中算法行政應(yīng)用已趨于泛在化和規(guī)�；募逼痊F(xiàn)實(shí)，相關(guān)立法卻十分滯后和薄弱。如本文前述，以數(shù)據(jù)驅(qū)動(dòng)型治理為內(nèi)核的信用監(jiān)管風(fēng)潮已經(jīng)形成，一系列信用信息共享平臺和大數(shù)據(jù)信用畫像已經(jīng)在各個(gè)層級和領(lǐng)域內(nèi)作為行政決策的基礎(chǔ)架構(gòu)和重要參考，但卻鮮有立法從根本上對算法行政過程中個(gè)人信息處理規(guī)則進(jìn)行規(guī)定。這導(dǎo)致算法行政的應(yīng)用邊界不斷擴(kuò)展之時(shí)，公眾可能無從知曉某一對其產(chǎn)生影響的決策是由算法作出的，對于決策形成過程亦無法有效參與。即使知曉相關(guān)決策的存在，個(gè)體亦難以理解算法決策的運(yùn)行邏輯和具體依據(jù)，因此持有異議并挑戰(zhàn)算法決策的行動(dòng)空間十分有限。因此，《個(gè)人信息保護(hù)法（草案）》第34條規(guī)定，“國家機(jī)關(guān)為履行法定職責(zé)處理個(gè)人信息，應(yīng)當(dāng)依照法律、行政法規(guī)規(guī)定的權(quán)限、程序進(jìn)行，不得超出履行法定職責(zé)所必需的范圍和限度”。這一規(guī)定在一定程度上確立了算法行政的合法性和必要性原則。例如，我國目前存在對于個(gè)人失信信息的界定和收集不當(dāng)夸大化，一些地方政府存在濫用信用監(jiān)管技術(shù)的問題。因此，第34條的規(guī)定有助于國家機(jī)關(guān)在處理個(gè)人信息時(shí)嚴(yán)格遵守法律、行政法規(guī)授予的權(quán)限和程序，防止不當(dāng)使用甚至濫用算法行政工具。
另外，《個(gè)人信息保護(hù)法（草案）》第35條規(guī)定，國家機(jī)關(guān)為履行法定職責(zé)處理個(gè)人信息，應(yīng)當(dāng)依照本法規(guī)定向個(gè)人告知并取得其同意。本條對于初步確立算法行政領(lǐng)域的“通知—公告”機(jī)制具有重要意義。以信用監(jiān)管和信用治理為例，哪些信息應(yīng)當(dāng)被納入信用信息，對于其邊界很多公民或者市場主體并不知曉。對于一些地方政府或者行政部門利用大數(shù)據(jù)技術(shù)生成公民或者企業(yè)信用畫像的行為和技術(shù)原理，更是鮮有制度化的通知程序，對于相對人的知情權(quán)、參與權(quán)乃至異議權(quán)的行使均帶來不利影響。例如在交通運(yùn)輸領(lǐng)域，若鐵路公安局或者國家發(fā)改委等國家機(jī)關(guān)通過全國信用信息共享平臺將相對人列入限制乘坐火車高級別席位名單或者限制乘坐火車人員名單，依據(jù)相關(guān)規(guī)定，僅需鐵路運(yùn)輸企業(yè)在中國鐵路客戶服務(wù)中心（12306）網(wǎng)站、“信用中國”網(wǎng)站發(fā)布限制購買車票人員名單的完整信息，并未要求其提供個(gè)性化的通知和公告程序。實(shí)踐中，很多相對人直到自己購買車票受到限制之時(shí)才意識到其已被列入限制名單，且常出現(xiàn)因不知情而錯(cuò)過公示期和異議期的窘境。由此可見，通過立法確認(rèn)并保障相對人在實(shí)質(zhì)層面的知情權(quán)和同意權(quán)具有重要意義。因此，建議立法機(jī)關(guān)在條文中對國家機(jī)關(guān)自動(dòng)化處理個(gè)人信息的告知形式和要求進(jìn)行適當(dāng)細(xì)化規(guī)定，以避免實(shí)踐中以統(tǒng)一公示代替告知從而使得知情同意流于形式。總體而言，《個(gè)人信息保護(hù)法（草案）》能夠以專節(jié)形式提出國家機(jī)關(guān)處理個(gè)人信息的原則和應(yīng)當(dāng)履行的法定職責(zé)，對于未來搭建公共事業(yè)場景中自動(dòng)化決策的法治化治理框架具有重要意義。
（二）建議引入算法影響評估制度以擴(kuò)展自動(dòng)化決策風(fēng)險(xiǎn)事前評估制度
《個(gè)人信息保護(hù)法（草案）》第54條第1款規(guī)定，“個(gè)人信息處理者應(yīng)當(dāng)對下列個(gè)人信息處理活動(dòng)在事前進(jìn)行風(fēng)險(xiǎn)評估，并對處理情況進(jìn)行記錄：……（二）利用個(gè)人信息進(jìn)行自動(dòng)化決策”；第2、3款規(guī)定，“風(fēng)險(xiǎn)評估的內(nèi)容應(yīng)當(dāng)包括：（一）個(gè)人信息的處理目的、處理方式等是否合法、正當(dāng)、必要；（二）對個(gè)人的影響及風(fēng)險(xiǎn)程度；（三）所采取的安全保護(hù)措施是否合法、有效并與風(fēng)險(xiǎn)程度相適應(yīng)。風(fēng)險(xiǎn)評估報(bào)告和處理情況記錄應(yīng)當(dāng)至少保存三年”。該條在我國立法中首次明確規(guī)定了自動(dòng)化決策風(fēng)險(xiǎn)評估制度。但此次立法中確立的是自動(dòng)化決策風(fēng)險(xiǎn)的事前評估制度，與國際上通行的算法影響評估實(shí)踐雖有類似亦有不同。實(shí)際上，美國、加拿大和英國均已通過明確立法要求公共事業(yè)場景中行政領(lǐng)域使用的算法技術(shù)開展算法影響評估。算法影響評估制度作為算法問責(zé)制的核心支柱已經(jīng)日益獲得廣泛關(guān)注。其要求算法設(shè)計(jì)者、開發(fā)者和使用者從事前、事中和事后等全數(shù)據(jù)周期階段對算法的技術(shù)架構(gòu)、防治不良影響的技術(shù)措施、權(quán)利救濟(jì)渠道、算法透明實(shí)現(xiàn)機(jī)制等方面進(jìn)行系統(tǒng)評估。從《個(gè)人信息保護(hù)法（草案）》第54條的規(guī)定來看，我國確立的自動(dòng)化決策風(fēng)險(xiǎn)事前評估制度與美國、加拿大等國確立的算法影響評估制度有四點(diǎn)核心差異。
第一，我國草案稿集中于風(fēng)險(xiǎn)評估，而非更為廣泛的影響性評估。但從操作層面來看，何謂風(fēng)險(xiǎn)其實(shí)是一個(gè)棘手而又難以解決的問題。只有明晰了風(fēng)險(xiǎn)的衡量標(biāo)準(zhǔn)和基準(zhǔn)，才可能在此之上搭建起更具可行性的平臺。第二，我國的風(fēng)險(xiǎn)評估主要集中于對個(gè)人的影響和風(fēng)險(xiǎn)程度。而目前國際中的通行做法不僅聚焦于對個(gè)人的影響，還對社會(huì)、經(jīng)濟(jì)、生態(tài)等多方面的影響予以關(guān)照。第三，我國的風(fēng)險(xiǎn)評估并不區(qū)分被評估系統(tǒng)的優(yōu)先級。實(shí)際上，歐盟、美國和加拿大的算法影響評估，更加注重對自動(dòng)化決策系統(tǒng)重要性、應(yīng)用場景的劃分，在重點(diǎn)領(lǐng)域中實(shí)施更為嚴(yán)格的評估方法。第四，我國的風(fēng)險(xiǎn)評估聚焦于事前階段，而國際通行的算法影響評估實(shí)際上是采取事前、事中和事后階段的全周期視角的評估。
算法影響評估制度實(shí)際上對于創(chuàng)建負(fù)責(zé)、公正、安全、透明的算法行政實(shí)踐具有至關(guān)重要的制度意義，其不僅有助于政府機(jī)關(guān)科學(xué)系統(tǒng)地評估行政領(lǐng)域采用智能化分析工具的風(fēng)險(xiǎn)以及對個(gè)體、社會(huì)、經(jīng)濟(jì)乃至生態(tài)帶來的影響，還能夠促使行政機(jī)關(guān)開發(fā)并創(chuàng)建更為人性和公正的算法行政系統(tǒng)。尤其在與個(gè)人基本權(quán)利密切相關(guān)的高風(fēng)險(xiǎn)行政領(lǐng)域之中，算法影響評估制度更加有助于科學(xué)、審慎地對算法技術(shù)分階段地合理利用。因此，建議我國立法機(jī)關(guān)可以適時(shí)擴(kuò)展自動(dòng)化決策風(fēng)險(xiǎn)事前評估制度的適用階段、啟動(dòng)條件和適用場景，將算法影響評估引入自動(dòng)化行政程序的視野之中。
（三）建議明確算法行政領(lǐng)域的算法審計(jì)制度并適當(dāng)擴(kuò)展審計(jì)依據(jù)
《個(gè)人信息保護(hù)法（草案）》第53條規(guī)定：“個(gè)人信息處理者應(yīng)當(dāng)定期對其個(gè)人信息處理活動(dòng)、采取的保護(hù)措施等是否符合法律、行政法規(guī)的規(guī)定進(jìn)行審計(jì)。履行個(gè)人信息保護(hù)職責(zé)的部門有權(quán)要求個(gè)人信息處理者委托專業(yè)機(jī)構(gòu)進(jìn)行審計(jì)�！痹摋l明確規(guī)定了個(gè)人信息處理的審計(jì)制度。就自動(dòng)化個(gè)人信息處理而言，僅通過賦予個(gè)人以新型系列權(quán)利的方式難以周全保證治理實(shí)效。個(gè)人在行使各項(xiàng)權(quán)利時(shí)，基于時(shí)間、精力、知識等限制，可能出現(xiàn)怠于行使或者行使不利等情形。因此，我國立法中要求個(gè)人信息處理者采取系統(tǒng)化的審計(jì)措施有助于與個(gè)人數(shù)據(jù)和算法權(quán)利形成協(xié)同效應(yīng)。
綜觀國際相關(guān)立法，歐盟和美國、加拿大等國家均在與算法問責(zé)制度相關(guān)的立法中明確規(guī)定了對自動(dòng)化決策處理進(jìn)行稽核的算法審計(jì)制度。例如，最早頒布算法問責(zé)制相關(guān)立法的紐約自動(dòng)化決策工作組就通過發(fā)布指南、會(huì)議召集等方式在公共事業(yè)領(lǐng)域中積極推動(dòng)算法審計(jì)實(shí)踐。就較為通行的算法審計(jì)實(shí)踐而言，不僅審計(jì)過程中需要對算法應(yīng)用的基礎(chǔ)數(shù)據(jù)是否存有偏差進(jìn)行定期檢查，以確保模型部署后的公平性，還需要對模型設(shè)計(jì)、如何使算法更具道德性和可解釋性等方面提出具體審計(jì)報(bào)告。算法審計(jì)的重要目的在于算法對公民和社會(huì)造成不良影響之前就采取預(yù)防和糾正措施。我國目前的算法行政實(shí)踐中，由行政機(jī)關(guān)主動(dòng)開展的算法審計(jì)鮮有報(bào)道。但由于第三方科技企業(yè)既常成為政府委托購買服務(wù)的承擔(dān)主體，又會(huì)成為日后相關(guān)領(lǐng)域的被監(jiān)管主體，因此對公共事業(yè)場景中的算法應(yīng)用實(shí)行審計(jì)具有十分重要的政策意涵。
從目前國際通行的治理實(shí)踐來看，我國此次立法規(guī)定了自動(dòng)化決策審計(jì)制度無疑具有重要意義。但現(xiàn)有規(guī)則設(shè)計(jì)集中性地存在兩點(diǎn)不足。首先，對于在何種情形下由個(gè)人信息處理者進(jìn)行內(nèi)部審計(jì)，何種情形下需要啟動(dòng)外部審計(jì)未能予以規(guī)定。一方面可能對于個(gè)人信息處理者的合規(guī)指引不清，另一方面可能使得審計(jì)制度流于形式而未能起到真正效果。建議立法者適當(dāng)考慮應(yīng)用場景和優(yōu)先等級，對公民基本權(quán)利可能產(chǎn)生實(shí)質(zhì)性影響的行政領(lǐng)域規(guī)定強(qiáng)制性的算法審計(jì)制度，具體的啟動(dòng)條件、認(rèn)定標(biāo)準(zhǔn)和審計(jì)主體可以通過次級立法予以詳細(xì)規(guī)定。其次，目前的條文中規(guī)定算法審計(jì)的依據(jù)限定為符合法律、法規(guī)，而未采取國際上較為通行的“法律法規(guī)+道德倫理”的審計(jì)模式。這可能使得我國規(guī)定的算法審計(jì)制度在審計(jì)內(nèi)容上存在局限。智能社會(huì)中法律、法規(guī)常常滯后于技術(shù)的發(fā)展和應(yīng)用實(shí)踐，若作為單一審計(jì)依據(jù)可能存在局限性。因此，建議立法機(jī)關(guān)適當(dāng)擴(kuò)展算法審計(jì)的依據(jù)，及時(shí)吸收具有共識性和已在國際算法審計(jì)實(shí)踐中被上升為正式規(guī)則的倫理規(guī)范，為算法審計(jì)制度落到實(shí)處奠定良好的規(guī)則基礎(chǔ)。
四、結(jié)語
自工業(yè)革命以來，每一次技術(shù)變革都引發(fā)了社會(huì)形態(tài)、社會(huì)結(jié)構(gòu)以及社會(huì)治理方式的改變。大數(shù)據(jù)、人工智能等當(dāng)代信息科技迅猛發(fā)展，孕育并推動(dòng)了數(shù)字社會(huì)的全面誕生，促進(jìn)了數(shù)據(jù)驅(qū)動(dòng)型治理實(shí)踐的出現(xiàn)。在大數(shù)據(jù)時(shí)代，政府因循社會(huì)架構(gòu)的變革規(guī)律，通過平臺化改造實(shí)現(xiàn)了數(shù)字化轉(zhuǎn)型，為算法行政奠定了底層基礎(chǔ)架構(gòu)。公共政策技術(shù)理性績效評價(jià)模式、分布式信任和智能社會(huì)信息權(quán)力的再分配致使專家意見逐步讓位于數(shù)據(jù)和算法，客觀上為算法自動(dòng)化行政的應(yīng)用和普及奠定了制度基礎(chǔ)。法律規(guī)范的可計(jì)算性和大數(shù)據(jù)技術(shù)的興起使得海量數(shù)據(jù)被轉(zhuǎn)換為特定的高度數(shù)據(jù)密集型知識形式，算法規(guī)制作為一種新的社會(huì)秩序系統(tǒng)得以出現(xiàn)。算法行政雖然高效、智能、動(dòng)態(tài)、精準(zhǔn)，但其可能對個(gè)體權(quán)利產(chǎn)生實(shí)質(zhì)性影響，在決策透明度、問責(zé)度以及公正性層面亦存在風(fēng)險(xiǎn)。因此，應(yīng)當(dāng)明確算法行政應(yīng)當(dāng)遵循的合法、透明、問責(zé)、公正等核心原則，實(shí)施算法影響評估制度和算法審計(jì)制度，將算法行政實(shí)踐切實(shí)納入法治化發(fā)展路徑。