目錄
一、《草案》確立的平臺(tái)自動(dòng)化決策治理框架
二、揭開(kāi)平臺(tái)技術(shù)面紗：平臺(tái)算法問(wèn)責(zé)制的初步確立
三、平臺(tái)算法問(wèn)責(zé)制的框架完善與制度細(xì)化
四、結(jié)語(yǔ)
2020年9月，為征求意見(jiàn)而公布的《中華人民共和國(guó)個(gè)人信息保護(hù)法（草案）》（下稱《草案》）確立了我國(guó)算法自動(dòng)化決策治理的基本框架，為自動(dòng)化決策嵌入平臺(tái)經(jīng)濟(jì)、數(shù)字政府運(yùn)行劃定了合法邊界。算法是數(shù)字平臺(tái)處理海量用戶數(shù)據(jù)、繪制用戶畫(huà)像、精準(zhǔn)定價(jià)與個(gè)性化推送的“生產(chǎn)工具”，已經(jīng)成為平臺(tái)運(yùn)行的核心動(dòng)力。聯(lián)合國(guó)教科文組織于2018年發(fā)布的《重塑文化政策報(bào)告》指出，算法既是平臺(tái)的支配力量，也是文化表達(dá)和獲取的變革力量。《草案》對(duì)算法自動(dòng)化決策的相關(guān)規(guī)定，即增加平臺(tái)義務(wù)、設(shè)置監(jiān)管框架、強(qiáng)化平臺(tái)責(zé)任等，勢(shì)必將深度影響數(shù)字經(jīng)濟(jì)產(chǎn)業(yè)發(fā)展。筆者從《草案》中有關(guān)平臺(tái)算法自動(dòng)化決策治理的基本框架展開(kāi)，探討《草案》給平臺(tái)責(zé)任帶來(lái)的變化。平臺(tái)算法治理已經(jīng)基本建立了算法問(wèn)責(zé)制框架，一定程度上擺脫了傳統(tǒng)平臺(tái)責(zé)任的認(rèn)定困境，走向了“技術(shù)之治”，但仍須對(duì)制度進(jìn)行一定細(xì)化，建立完善的平臺(tái)算法問(wèn)責(zé)體系。
一、《草案》確立的平臺(tái)自動(dòng)化決策治理框架
《草案》給出了算法自動(dòng)化決策治理的中國(guó)方案，從事前設(shè)計(jì)部署、事中運(yùn)行與事后結(jié)果輸出的自動(dòng)化決策全生命周期為平臺(tái)的算法自動(dòng)化決策設(shè)置了義務(wù)框架。
（一）算法影響評(píng)估：平臺(tái)自動(dòng)化決策治理時(shí)點(diǎn)前移
《草案》第54條確立了自動(dòng)化決策的事前評(píng)估制度，其第1款規(guī)定“個(gè)人信息處理者應(yīng)當(dāng)對(duì)下列個(gè)人信息處理活動(dòng)在事前進(jìn)行風(fēng)險(xiǎn)評(píng)估……（二）利用個(gè)人信息進(jìn)行自動(dòng)化決策……”。其第2、3款規(guī)定：風(fēng)險(xiǎn)評(píng)估的內(nèi)容應(yīng)當(dāng)包括：（一）個(gè)人信息的處理目的、處理方法等是否合法、正當(dāng)、必要；（二）對(duì)個(gè)人的影響及風(fēng)險(xiǎn)程度；（三）所采取的安全保護(hù)措施是否合法、有效并與風(fēng)險(xiǎn)程度相適應(yīng)。風(fēng)險(xiǎn)評(píng)估報(bào)告和處理情況記錄應(yīng)當(dāng)至少保存三年。”
根據(jù)《草案》第54條的規(guī)定，平臺(tái)須在算法自動(dòng)化決策上線前進(jìn)行事前評(píng)估。風(fēng)險(xiǎn)評(píng)估的內(nèi)容既包括算法自動(dòng)化決策的合法性與必要性，也包括其影響及風(fēng)險(xiǎn)。隨著十余年平臺(tái)經(jīng)濟(jì)的高速發(fā)展，算法自動(dòng)化決策的濫用與倫理缺失的累積危害已經(jīng)進(jìn)入了顯現(xiàn)期。為避免平臺(tái)部署缺陷性算法自動(dòng)化決策可能對(duì)公民財(cái)產(chǎn)和人身權(quán)利，以及對(duì)公共利益和國(guó)家安全帶來(lái)的危害，建立平臺(tái)算法事前評(píng)估制度已時(shí)機(jī)成熟。
要求平臺(tái)在事前對(duì)自動(dòng)化決策進(jìn)行評(píng)估，是將平臺(tái)治理時(shí)點(diǎn)前移的重要標(biāo)志。近年來(lái)，網(wǎng)絡(luò)平臺(tái)治理的逐漸前移由以下原因驅(qū)動(dòng)：其一，事后追責(zé)機(jī)制已經(jīng)不能滿足網(wǎng)絡(luò)平臺(tái)算法自動(dòng)化決策的治理需求。平臺(tái)算法的計(jì)算對(duì)象是數(shù)以萬(wàn)計(jì)的平臺(tái)用戶數(shù)據(jù)，其一旦發(fā)生價(jià)值觀偏差，對(duì)社會(huì)的不利影響會(huì)具有延展性與持續(xù)性。事后對(duì)平臺(tái)的追責(zé)機(jī)制不能有效應(yīng)對(duì)，各種補(bǔ)償制度難以從根本上解決問(wèn)題。其二，平臺(tái)責(zé)任事后如何確定和劃分成為新的挑戰(zhàn)，具體業(yè)務(wù)的平臺(tái)規(guī)范適用出現(xiàn)空白。2019年以來(lái)興起的平臺(tái)新業(yè)態(tài)，如直播帶貨、人臉識(shí)別等新型業(yè)務(wù)并無(wú)具體的法律對(duì)其規(guī)制，法律責(zé)任很難確定。算法自動(dòng)化決策的風(fēng)險(xiǎn)是平臺(tái)內(nèi)生的，伴隨著平臺(tái)作為設(shè)計(jì)者的決策與行為，依賴事后追責(zé)機(jī)制，可能會(huì)造成未來(lái)不斷出現(xiàn)平臺(tái)新的算法自動(dòng)化決策治理缺位。
《草案》首次在法律層面從個(gè)人信息保護(hù)的角度確立了算法自動(dòng)化決策風(fēng)險(xiǎn)評(píng)估制度。法律層面對(duì)于平臺(tái)算法自動(dòng)化決策的事前評(píng)估不再僅僅指向網(wǎng)絡(luò)安全與數(shù)據(jù)安全，此前“四部委”及行業(yè)協(xié)會(huì)組織的隱私與個(gè)人信息保護(hù)評(píng)估有了法律層面的依據(jù)。
（二）算法審計(jì)制度：平臺(tái)自動(dòng)化決策治理手段升級(jí)
《草案》第53條確立了事中的算法審計(jì)制度。其規(guī)定：“個(gè)人信息處理者應(yīng)當(dāng)定期對(duì)其個(gè)人信息處理活動(dòng)、采取的保護(hù)措施等是否符合法律、行政法規(guī)的規(guī)定進(jìn)行審計(jì)。履行個(gè)人信息保護(hù)職責(zé)的部門(mén)有權(quán)要求個(gè)人信息處理者委托專業(yè)機(jī)構(gòu)進(jìn)行審計(jì)。”根據(jù)第53條的規(guī)定，監(jiān)管部門(mén)的監(jiān)管對(duì)象從外部直接“穿透”至平臺(tái)內(nèi)部的算法運(yùn)行層面�！恫莅浮芬笃脚_(tái)應(yīng)對(duì)其算法自動(dòng)化決策等信息處理活動(dòng)定期進(jìn)行審計(jì)，必要時(shí)監(jiān)管部門(mén)有權(quán)啟動(dòng)對(duì)平臺(tái)的第三方外部算法審計(jì)。
算法審計(jì)制度的確立體現(xiàn)了平臺(tái)自動(dòng)化決策治理手段的升級(jí)：其一，監(jiān)管部門(mén)直接將算法作為監(jiān)管的對(duì)象。這一監(jiān)管手段在近年來(lái)成為各國(guó)平臺(tái)治理的常用手段，如2019年澳大利亞競(jìng)爭(zhēng)與消費(fèi)者委員會(huì)（ACCC）宣布計(jì)劃設(shè)立專門(mén)分支機(jī)構(gòu)“主動(dòng)監(jiān)視”平臺(tái)算法運(yùn)行，賦予其要求披露算法詳細(xì)信息的權(quán)限。其二，監(jiān)管部門(mén)的活動(dòng)直接指向平臺(tái)內(nèi)部日常運(yùn)營(yíng)活動(dòng)，穿透了平臺(tái)法人的外殼。我國(guó)算法審計(jì)制度規(guī)定監(jiān)管部門(mén)有權(quán)啟動(dòng)外部審計(jì)，體現(xiàn)了在事態(tài)嚴(yán)重時(shí)監(jiān)管部門(mén)可直接對(duì)企業(yè)組織內(nèi)部結(jié)構(gòu)與事務(wù)進(jìn)行干預(yù)監(jiān)管。無(wú)獨(dú)有偶，在“劍橋分析” 事件后，美國(guó)聯(lián)邦貿(mào)易委員會(huì)（Federal Trade Commission，F(xiàn)TC）在Facebook設(shè)立三個(gè)委員會(huì)，其工作人員不由企業(yè)任免并可向FTC直接匯報(bào)工作。其三，平臺(tái)的算法治理引入了多方主體參與。在算法審計(jì)制度中，企業(yè)自律與第三方機(jī)構(gòu)扮演了重要角色。一方面，平臺(tái)要定期進(jìn)行自我審計(jì)。這也成了世界各大平臺(tái)公司的日常實(shí)踐，如微軟設(shè)立人工智能倫理委員會(huì)，聯(lián)邦政府與亞馬遜合作并與企業(yè)合作開(kāi)發(fā)促進(jìn)算法公平性的項(xiàng)目。另一方面，第三方機(jī)構(gòu)在平臺(tái)多元治理中扮演越來(lái)越重要的作用。如為了人民組織（ProPublica）即通過(guò)算法審計(jì)發(fā)現(xiàn)量刑算法存在的種族歧視問(wèn)題，紐約大學(xué)的AI Now研究院則專門(mén)針對(duì)紐約市算法監(jiān)管行動(dòng)發(fā)布報(bào)告，評(píng)價(jià)政府監(jiān)管行動(dòng)的得失并提出建議。我國(guó)現(xiàn)有的第三方機(jī)構(gòu)發(fā)揮作用不足，預(yù)計(jì)在出臺(tái)后的《個(gè)人信息保護(hù)法》相關(guān)制度的推動(dòng)下將有所發(fā)展。
要求平臺(tái)進(jìn)行定期算法審計(jì)已經(jīng)成為世界各國(guó)的通行做法。以印度《個(gè)人數(shù)據(jù)保護(hù)法案》為例，其要求數(shù)據(jù)控制者聘請(qǐng)獨(dú)立的數(shù)據(jù)審計(jì)方對(duì)算法的數(shù)據(jù)處理行為進(jìn)行一年一度的審計(jì)，審計(jì)的內(nèi)容包括算法的透明度、企業(yè)的相關(guān)保障措施等，審計(jì)結(jié)果體現(xiàn)為對(duì)數(shù)據(jù)控制者的信用評(píng)級(jí)打分。此外，當(dāng)監(jiān)管部門(mén)認(rèn)為數(shù)據(jù)控制者有可能造成算法的損害結(jié)果時(shí)，也可啟動(dòng)算法審計(jì)。
平臺(tái)算法審計(jì)制度的確立，既體現(xiàn)了監(jiān)管部門(mén)直接穿透平臺(tái)法人的外殼干預(yù)平臺(tái)日常運(yùn)營(yíng)，又初步建立了企業(yè)自律與第三方共同參與的算法多元治理框架�！恫莅浮凡粌H建立了算法影響評(píng)估的事前監(jiān)管制度，也對(duì)事中算法運(yùn)營(yíng)進(jìn)行日常監(jiān)管。
（三）相關(guān)用戶權(quán)利：平臺(tái)自動(dòng)化決策義務(wù)增加
《草案》第25條確立了平臺(tái)對(duì)算法自動(dòng)化決策結(jié)果事后的相關(guān)義務(wù)。其規(guī)定：“利用個(gè)人信息進(jìn)行自動(dòng)化決策，應(yīng)當(dāng)保證決策的透明度和處理結(jié)果的公平合理。個(gè)人認(rèn)為自動(dòng)化決策對(duì)其權(quán)益造成重大影響的，有權(quán)要求個(gè)人信息處理者予以說(shuō)明，并有權(quán)拒絕個(gè)人信息處理者僅通過(guò)自動(dòng)化決策的方式作出決定。通過(guò)自動(dòng)化決策方式進(jìn)行商業(yè)營(yíng)銷、信息推送，應(yīng)當(dāng)同時(shí)提供不針對(duì)其個(gè)人特征的選項(xiàng)�！�
根據(jù)《草案》第25條的規(guī)定，平臺(tái)須對(duì)自動(dòng)化決策的結(jié)果承擔(dān)如下義務(wù)：第一，保證自動(dòng)化決策過(guò)程的透明和結(jié)果的公平合理。這一條款針對(duì)一直以來(lái)被詬病的對(duì)特定人群的算法歧視、大數(shù)據(jù)殺熟等問(wèn)題。根據(jù)平臺(tái)對(duì)算法應(yīng)用的場(chǎng)景，算法透明度的要求可能涉及代碼、邏輯、模型、目標(biāo)、決策等多個(gè)方面，而結(jié)果的公平合理可能涉及機(jī)會(huì)平等或結(jié)果平等，以避免平臺(tái)利用算法處理海量個(gè)人數(shù)據(jù)可能造成系統(tǒng)性地使某些社會(huì)群體處于不利地位。第二，對(duì)決策結(jié)果予以說(shuō)明。這一條款與歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）第22條類似，個(gè)人有權(quán)要求平臺(tái)對(duì)其造成“重大影響”的自動(dòng)化決策作出說(shuō)明，但“重大影響”尚未有明確規(guī)定。第三，平臺(tái)須對(duì)用戶提供不針對(duì)個(gè)人特征的自動(dòng)化決策選項(xiàng)。這一規(guī)定是對(duì)《中華人民共和國(guó)電子商務(wù)法》第18條第1款的再次強(qiáng)調(diào)，即“電子商務(wù)經(jīng)營(yíng)者根據(jù)消費(fèi)者的興趣愛(ài)好、消費(fèi)習(xí)慣等特征向其提供商品或者服務(wù)的搜索結(jié)果的，應(yīng)當(dāng)同時(shí)向該消費(fèi)者提供不針對(duì)其個(gè)人特征的選項(xiàng)，尊重和平等保護(hù)消費(fèi)者合法權(quán)益”。
《草案》第25條直接為平臺(tái)的自動(dòng)化決策結(jié)果設(shè)定了相關(guān)義務(wù)，并作出了如下突破：第一，突破平臺(tái)一直以來(lái)采用的“技術(shù)中立”抗辯，要求平臺(tái)為算法自動(dòng)化決策結(jié)果承擔(dān)責(zé)任，須保證算法自動(dòng)化決策結(jié)果的公平合理。第二，擴(kuò)張平臺(tái)用戶的知情權(quán)，確立了有限制的“算法解釋權(quán)”，用戶既可以要求自動(dòng)化決策結(jié)果的透明，也可以在涉及“重大影響”時(shí)獲得平臺(tái)說(shuō)明。這一制度致力于打破用戶與平臺(tái)之間的信息不對(duì)稱，為平臺(tái)施加了信息披露的義務(wù)。第三，要求平臺(tái)打破算法個(gè)性化推薦給用戶打造的“信息繭房”，要求平臺(tái)保障用戶的知情權(quán)。推薦算法的個(gè)性化推送、個(gè)性化定價(jià)，是當(dāng)前各大互聯(lián)網(wǎng)平臺(tái)普遍使用的增加利潤(rùn)的武器。研究顯示，算法根據(jù)用戶個(gè)人信息定制的結(jié)果排名總是高于其他任何因素。2015年優(yōu)步僅根據(jù)動(dòng)態(tài)定價(jià)算法就創(chuàng)造了68億美元的利潤(rùn)。此條要求網(wǎng)絡(luò)平臺(tái)不得以此損害消費(fèi)者利益，不得利用個(gè)性化推薦損害用戶的知情權(quán)以及對(duì)用戶進(jìn)行價(jià)格歧視。
總體而言，《草案》設(shè)定了平臺(tái)算法自動(dòng)化決策事前、事中與事后的全生命周期的監(jiān)管框架，既借鑒了近三年來(lái)世界各國(guó)立法的相關(guān)制度，也沿襲了我國(guó)既有的相關(guān)實(shí)踐。
二、揭開(kāi)平臺(tái)技術(shù)面紗：平臺(tái)算法問(wèn)責(zé)制的初步確立
《草案》將平臺(tái)監(jiān)管對(duì)象深入至平臺(tái)的底層技術(shù)邏輯——算法層面，為平臺(tái)的算法自動(dòng)化決策的設(shè)計(jì)部署、運(yùn)行與結(jié)果輸出等設(shè)置了注意義務(wù)，并以此作為平臺(tái)責(zé)任的承擔(dān)依據(jù)�！恫莅浮烦醪酱_立了我國(guó)的平臺(tái)算法問(wèn)責(zé)制和以平臺(tái)治理為核心的算法自動(dòng)化決策治理框架。
（一）平臺(tái)追責(zé)的直接指向：平臺(tái)的算法自動(dòng)化決策
《草案》確立的平臺(tái)自動(dòng)化決策治理框架，體現(xiàn)立法者將“主體—行為—責(zé)任”的傳統(tǒng)法律追責(zé)思路更新為技術(shù)治理思路。立法者充分認(rèn)識(shí)到算法在平臺(tái)日常運(yùn)行中的核心作用，因此對(duì)于平臺(tái)責(zé)任不再糾結(jié)于主觀過(guò)錯(cuò)與違法結(jié)果等傳統(tǒng)法律責(zé)任的認(rèn)知體系，而是直接將平臺(tái)算法作為法律監(jiān)管的對(duì)象。
監(jiān)管部門(mén)將平臺(tái)責(zé)任追究指向算法層面，解決了法律面臨的如何認(rèn)定平臺(tái)“行為”的理論問(wèn)題。平臺(tái)的運(yùn)作功能和盈利模式，或者學(xué)界提出的“架構(gòu)”等，均關(guān)系到平臺(tái)的法律定性以及功能描述。然而，“平臺(tái)”一詞至今尚無(wú)標(biāo)準(zhǔn)定義。根據(jù)現(xiàn)有研究，平臺(tái)的雙邊市場(chǎng)效應(yīng)特征十分突出。平臺(tái)的功能已經(jīng)超越市場(chǎng)主體，實(shí)際上已通過(guò)算法架構(gòu)建立了基于數(shù)據(jù)挖掘與分析的數(shù)據(jù)服務(wù)市場(chǎng)，并且在此市場(chǎng)中，糅合了多向度和多方面的法律關(guān)系。平臺(tái)算法的計(jì)算結(jié)果來(lái)源于用戶提供的原始數(shù)據(jù)，而數(shù)據(jù)提供者并非僅有用戶，還包括交易產(chǎn)生的數(shù)據(jù)，甚至包含政府提供的公共數(shù)據(jù)。因此，平臺(tái)盡管是“數(shù)據(jù)控制者”，但平臺(tái)通過(guò)算法收集、抓取和分析數(shù)據(jù)，并提供大數(shù)據(jù)產(chǎn)品（如用戶畫(huà)像），同時(shí)通過(guò)與其他市場(chǎng)主體簽訂服務(wù)協(xié)議，構(gòu)建平等主體間的民事法律關(guān)系。在這樣一個(gè)紛繁復(fù)雜的多邊市場(chǎng)中，可落入傳統(tǒng)法律規(guī)制對(duì)象的既包括平臺(tái)用戶協(xié)議的解釋規(guī)則、平臺(tái)對(duì)所呈現(xiàn)內(nèi)容的事前審查，也包括對(duì)所提供服務(wù)的質(zhì)量保障義務(wù)與相關(guān)事后義務(wù)，以及基于算法自動(dòng)化決策所產(chǎn)生的個(gè)性化推送等。
由于平臺(tái)作為多邊市場(chǎng)存在多重法律關(guān)系，因此長(zhǎng)期以來(lái)在平臺(tái)責(zé)任的追究問(wèn)題上一直存在著“平臺(tái)責(zé)任中行為人與責(zé)任人相分離”“平臺(tái)本應(yīng)技術(shù)中立所以承擔(dān)的是無(wú)過(guò)錯(cuò)責(zé)任”的理論困境，甚至在刑事責(zé)任的追究上也存在“幫助犯正犯化”的爭(zhēng)議�！恫莅浮分衅脚_(tái)作為個(gè)人信息的處理者，平臺(tái)要為算法加工個(gè)人數(shù)據(jù)產(chǎn)生的數(shù)據(jù)質(zhì)量承擔(dān)具體的法律義務(wù)。因此，算法自動(dòng)化決策乃至平臺(tái)架構(gòu)均被納入“行為”的范圍，平臺(tái)的算法自動(dòng)化決策無(wú)法逃脫過(guò)錯(cuò)責(zé)任的承擔(dān)，技術(shù)中立與無(wú)差別技術(shù)抗辯已經(jīng)無(wú)法產(chǎn)生責(zé)任規(guī)避的效果。
平臺(tái)責(zé)任中個(gè)人信息的使用原則和行為邊界，最終仍須著落于平臺(tái)處理個(gè)人信息的工具——算法的設(shè)計(jì)部署、運(yùn)行的控制上。根據(jù)平臺(tái)處理個(gè)人信息的正當(dāng)性與合理性原則，平臺(tái)還須對(duì)算法自動(dòng)化決策結(jié)果的輸出承擔(dān)一定的注意義務(wù)，保證“自動(dòng)化決策結(jié)果的公平合理”。至此，平臺(tái)責(zé)任追究的對(duì)象已穿透平臺(tái)的技術(shù)面紗，直抵平臺(tái)技術(shù)的底層邏輯——算法。
（二）平臺(tái)注意義務(wù)的擴(kuò)張：從算法設(shè)計(jì)到結(jié)果輸出
平臺(tái)責(zé)任的認(rèn)定機(jī)制中，平臺(tái)注意義務(wù)從簡(jiǎn)單的“明知應(yīng)知”被擴(kuò)張至算法設(shè)計(jì)、算法運(yùn)行直到結(jié)果輸出的全過(guò)程。平臺(tái)這一注意義務(wù)的擴(kuò)張趨勢(shì)有學(xué)者在理論上早有提及，并于2018年以來(lái)逐步被各國(guó)立法實(shí)踐所采納。
美國(guó)法學(xué)家萊斯格早在《代碼2.0》中即指出，代碼（算法）搭建了網(wǎng)絡(luò)空間架構(gòu)，建構(gòu)和引導(dǎo)了用戶行為。萊斯格首次將架構(gòu)納入法律社會(huì)學(xué)分析，提升到與法律、市場(chǎng)、社會(huì)規(guī)范平行的高度，并系統(tǒng)地說(shuō)明（甚至預(yù)言）架構(gòu)如何“規(guī)制”社會(huì)主體的在線行為，影響諸如版權(quán)、隱私、言論這樣的法律制度，進(jìn)而提出賽博空間的根本問(wèn)題：誰(shuí)最終控制架構(gòu)的生產(chǎn)和運(yùn)作。2011年，Cavoukian提出“設(shè)計(jì)隱私”的理念，主張平臺(tái)在算法設(shè)計(jì)時(shí)就有責(zé)任考慮用戶的隱私保護(hù)。學(xué)界主張基于平臺(tái)算法（架構(gòu)）對(duì)平臺(tái)運(yùn)行與用戶權(quán)利的影響，平臺(tái)算法設(shè)計(jì)階段即應(yīng)負(fù)起相應(yīng)注意義務(wù)。
平臺(tái)算法運(yùn)行中的注意義務(wù)也在各國(guó)司法實(shí)踐中獲得實(shí)質(zhì)性推進(jìn)。GDPR建立了算法數(shù)據(jù)處理評(píng)估制度、算法認(rèn)證制度，官方于2019年發(fā)布了“行為指引與認(rèn)證標(biāo)準(zhǔn)”。歐盟議會(huì)的《算法責(zé)任與透明治理框架》提出建立“算法影響評(píng)估”（AIA）機(jī)制，歐盟部長(zhǎng)委員會(huì)向成員國(guó)提出立法建議，應(yīng)對(duì)算法對(duì)內(nèi)容與用戶行為的“過(guò)程操縱”能力。GDPR的風(fēng)險(xiǎn)預(yù)防型立法逐漸獲得各國(guó)立法者的青睞，美國(guó)、加拿大和德國(guó)也逐漸重視算法系統(tǒng)的事前風(fēng)險(xiǎn)防范制度，要求企業(yè)承擔(dān)更多的信息披露義務(wù)，以減少監(jiān)管機(jī)構(gòu)的負(fù)擔(dān)。無(wú)論是GDPR的算法專條還是美國(guó)的《算法問(wèn)責(zé)法案》（Algorithmic Accountability Act of 2019），其中的算法透明度、可見(jiàn)性、評(píng)估、認(rèn)證等制度均充分體現(xiàn)了算法風(fēng)險(xiǎn)預(yù)防型流程監(jiān)管的加強(qiáng)趨勢(shì)。實(shí)踐中，“西班牙谷歌案” “武爾夫夫人訴谷歌案”等一系列司法判例，以及行政機(jī)關(guān)的一些行政處罰案都表明了對(duì)平臺(tái)算法有從設(shè)計(jì)階段問(wèn)責(zé)的傾向。
同時(shí)，各國(guó)也加強(qiáng)了算法造成危害結(jié)果后對(duì)平臺(tái)的問(wèn)責(zé)。平臺(tái)作為算法的使用者與控制者，有義務(wù)在不利后果發(fā)生后報(bào)告并證明算法系統(tǒng)設(shè)計(jì)和決策應(yīng)用的合理性，并有義務(wù)減輕算法可能帶來(lái)的任何負(fù)面影響或者潛在危害。
（三）平臺(tái)算法治理的目標(biāo)：平臺(tái)的算法問(wèn)責(zé)
平臺(tái)算法治理的核心目標(biāo)是厘清平臺(tái)責(zé)任的認(rèn)定與分配，具體而言是解決“誰(shuí)負(fù)責(zé)、怎么負(fù)責(zé)、負(fù)什么責(zé)”的問(wèn)題。平臺(tái)算法治理必須既符合技術(shù)邏輯，也符合法律責(zé)任主客觀相一致的法律原理，打造“負(fù)責(zé)任”的平臺(tái)算法責(zé)任體系。
技術(shù)一旦應(yīng)用，則需要對(duì)來(lái)自人類社會(huì)的各種倫理訴求作出負(fù)責(zé)任的回應(yīng)。算法問(wèn)責(zé)制有確保平臺(tái)負(fù)責(zé)任地開(kāi)發(fā)和使用算法系統(tǒng)，從而改善人類福利并造福社會(huì)的功能。在諸多算法治理手段中，算法透明度和算法問(wèn)責(zé)制之間既有區(qū)別又有聯(lián)系。其中一個(gè)重要區(qū)別是，問(wèn)責(zé)制主要是個(gè)人或組織的一項(xiàng)法律和道德義務(wù)，即對(duì)其活動(dòng)進(jìn)行說(shuō)明，承擔(dān)責(zé)任；而算法透明度可作為實(shí)現(xiàn)這一目標(biāo)的工具，要求平臺(tái)以透明的方式披露算法運(yùn)行過(guò)程與結(jié)果，算法的結(jié)果透明度、目標(biāo)透明度和影響透明度比算法本身的透明度對(duì)算法問(wèn)責(zé)更有意義。歸根結(jié)底，透明度、數(shù)據(jù)出處日志、代碼更改和其他記錄保存都是重要的技術(shù)治理工具，平臺(tái)責(zé)任制度設(shè)計(jì)的根本目標(biāo)是建立明確的法律責(zé)任鏈。
平臺(tái)算法治理以平臺(tái)算法問(wèn)責(zé)制作為目標(biāo)，相比其他治理目標(biāo)具有優(yōu)勢(shì)。個(gè)人數(shù)據(jù)保護(hù)進(jìn)路的算法治理存在重大局限，強(qiáng)調(diào)權(quán)利保護(hù)而不明確算法責(zé)任的歸責(zé)主體、歸責(zé)條件和規(guī)則事由，使得個(gè)人權(quán)利保護(hù)進(jìn)路的算法監(jiān)管無(wú)法落地。歐盟提倡的“設(shè)計(jì)隱私”理念過(guò)于狹隘，無(wú)法涵蓋算法治理的公平、安全等重要價(jià)值。美國(guó)的事后監(jiān)管模式事實(shí)上是“一事一理”，難以被他國(guó)學(xué)習(xí)、復(fù)制。FTC調(diào)查程序漫長(zhǎng)、反應(yīng)滯后，事后監(jiān)管也未形成令人信服的可供對(duì)標(biāo)的最佳實(shí)踐，盲目借鑒將會(huì)造成司法管轄的低效能，并使得行政監(jiān)管權(quán)限與邊界模糊化�，F(xiàn)有《草案》中應(yīng)以行政賦能作為主要手段，以平衡用戶與科技巨頭“算法權(quán)力”的不對(duì)等現(xiàn)狀，來(lái)滿足未來(lái)算法問(wèn)責(zé)制的需求。
平臺(tái)從提供“連接”服務(wù)走向智能化與自動(dòng)化后，網(wǎng)絡(luò)平臺(tái)應(yīng)當(dāng)基于“算法責(zé)任”的主觀過(guò)錯(cuò)，將“客觀損害結(jié)果”和之前已經(jīng)事先存在的“算法責(zé)任”相結(jié)合，建立權(quán)責(zé)一致、責(zé)罰相當(dāng)?shù)谋O(jiān)管框架與法律責(zé)任體系。
三、平臺(tái)算法問(wèn)責(zé)制的框架完善與制度細(xì)化
我國(guó)平臺(tái)責(zé)任存在監(jiān)管時(shí)點(diǎn)滯后、責(zé)任機(jī)理模糊、調(diào)整對(duì)象過(guò)淺的情況，因此常被詬病為“事故型問(wèn)責(zé)”或“按需求處罰”，導(dǎo)致問(wèn)責(zé)的必要性、合理性存疑�！恫莅浮反_立了算法問(wèn)責(zé)制的基本框架，但遺憾的是，對(duì)于平臺(tái)算法責(zé)任的機(jī)理與層次尚不明晰。因此，應(yīng)以符合法理和技術(shù)邏輯的科學(xué)問(wèn)責(zé)思路來(lái)校正監(jiān)管部門(mén)與生俱來(lái)的“越早越好”和“越嚴(yán)越好”的擴(kuò)張邏輯，使平臺(tái)責(zé)任設(shè)置和追究走向科學(xué)化、體系化，監(jiān)管力度與平臺(tái)過(guò)錯(cuò)相適應(yīng)。
（一）平臺(tái)算法注意義務(wù)的適度擴(kuò)張
為了避免事后僅根據(jù)損害結(jié)果客觀歸責(zé)，必須通過(guò)制度在事前進(jìn)行算法設(shè)計(jì)部署的相關(guān)信息披露以確定事后的問(wèn)責(zé)點(diǎn)。對(duì)平臺(tái)責(zé)任中平臺(tái)是否盡到注意義務(wù)的考察應(yīng)在事前進(jìn)行，并以某種形式將事后的問(wèn)責(zé)點(diǎn)固定下來(lái)。這樣既能夠避免事后平臺(tái)隱瞞與錯(cuò)誤披露的可能，也可以預(yù)防風(fēng)險(xiǎn)，避免錯(cuò)誤的算法計(jì)算反復(fù)被適用于海量主體，從而導(dǎo)致?lián)p害彌散化。
算法評(píng)估標(biāo)準(zhǔn)應(yīng)當(dāng)適度擴(kuò)張。遺憾的是，《草案》對(duì)于平臺(tái)自動(dòng)化決策的評(píng)估基于其立法目的限于“對(duì)個(gè)人的影響及風(fēng)險(xiǎn)”，而平臺(tái)的自動(dòng)化決策遠(yuǎn)不止于此。例如，平臺(tái)匹配工作任務(wù)與勞動(dòng)者的算法，影響就業(yè)的薪酬與機(jī)會(huì)，事關(guān)就業(yè)公平；平臺(tái)對(duì)商戶的信用評(píng)分算法，對(duì)商戶獲得流量與業(yè)務(wù)至關(guān)重要；甚至互聯(lián)網(wǎng)保險(xiǎn)公司采用的算法決定是否允許用戶投保以及保費(fèi)高低，已具有了一定的公共服務(wù)色彩。平臺(tái)是數(shù)字經(jīng)濟(jì)中組織社會(huì)生產(chǎn)的核心組織，其算法設(shè)計(jì)直接關(guān)系到社會(huì)經(jīng)濟(jì)運(yùn)行，對(duì)參與生產(chǎn)與資源分配的社會(huì)主體具有深遠(yuǎn)影響。
2018年以來(lái)，立法者逐漸認(rèn)識(shí)到數(shù)據(jù)保護(hù)制度偏重私權(quán)與合規(guī)，無(wú)法顧及公共利益與網(wǎng)絡(luò)治理，因此算法規(guī)制成為網(wǎng)絡(luò)治理的新抓手。目前，歐盟及各成員國(guó)呈現(xiàn)算法立法與數(shù)據(jù)立法分立且并重的態(tài)勢(shì)。例如，GDPR的數(shù)據(jù)處理評(píng)估制度（DPIA）即是針對(duì)高風(fēng)險(xiǎn)數(shù)據(jù)處理活動(dòng)對(duì)數(shù)據(jù)控制者設(shè)置的預(yù)警自查義務(wù)。AI Now研究院也提出了類似的“算法影響評(píng)估”制度，要求在重要的公共部門(mén)使用算法前，應(yīng)采取關(guān)鍵步驟來(lái)確定何時(shí)以及如何產(chǎn)生潛在危害的，包括增加其專業(yè)知識(shí)和能力以有效評(píng)估算法系統(tǒng)，并允許第三方審計(jì)公共部門(mén)的算法。由于近三年英國(guó)脫歐事件與歐洲各國(guó)大選，算法對(duì)網(wǎng)絡(luò)信息內(nèi)容的決定性作用與社會(huì)動(dòng)員力量引起了立法者的關(guān)注。歐盟議會(huì)指導(dǎo)意見(jiàn)要求在線平臺(tái)確保政治廣告透明性、闡述算法推薦內(nèi)容機(jī)制并允許第三方驗(yàn)證，以應(yīng)對(duì)算法操縱新聞議程。
《草案》的算法事前評(píng)估制度可類比建設(shè)項(xiàng)目的環(huán)境影響評(píng)估制度。算法可能產(chǎn)生的公共利益、公民權(quán)利等風(fēng)險(xiǎn)的評(píng)估，包括風(fēng)險(xiǎn)的來(lái)源、性質(zhì)、特殊性和嚴(yán)重性等。在數(shù)據(jù)實(shí)踐中，個(gè)人信息的隱私與數(shù)據(jù)安全并不可截然分開(kāi)，如許多個(gè)人信息泄露是由于未能有效維護(hù)信息安全而導(dǎo)致的。有他國(guó)實(shí)踐主張，算法的設(shè)計(jì)部署者應(yīng)提供更為廣泛的評(píng)估，包括算法應(yīng)用對(duì)人權(quán)、隱私和數(shù)據(jù)保護(hù)的影響等；有的學(xué)者主張，算法設(shè)計(jì)部署應(yīng)著重提供“社會(huì)影響聲明”“歧視影響評(píng)估”，甚至“人類影響聲明”等。我國(guó)未來(lái)應(yīng)以行政法規(guī)或規(guī)章對(duì)《草案》確立的算法評(píng)估制度具化細(xì)化，依據(jù)算法應(yīng)用場(chǎng)景、算法處理數(shù)據(jù)風(fēng)險(xiǎn)、算法使用部門(mén)、算法的法律后果等多種風(fēng)險(xiǎn)評(píng)估標(biāo)準(zhǔn)，采取不同的算法監(jiān)管強(qiáng)度。
（二）平臺(tái)算法問(wèn)責(zé)制度的細(xì)化
第一，應(yīng)明確平臺(tái)啟動(dòng)算法評(píng)估的條件。我國(guó)并未明確平臺(tái)對(duì)算法自動(dòng)化決策進(jìn)行評(píng)估的啟動(dòng)標(biāo)準(zhǔn)，應(yīng)在未來(lái)實(shí)施細(xì)則中具體明確以方便今后平臺(tái)的合規(guī)工作。我國(guó)的《信息安全技術(shù)個(gè)人信息安全規(guī)范》將“處理超過(guò)100萬(wàn)人的個(gè)人信息”作為評(píng)估啟動(dòng)的標(biāo)準(zhǔn)，但對(duì)于《草案》中的算法評(píng)估在何種條件下啟動(dòng)并未明確。將算法應(yīng)用涉及的用戶數(shù)量作為高風(fēng)險(xiǎn)標(biāo)準(zhǔn)是為了避免算法造成的系統(tǒng)性風(fēng)險(xiǎn)。這種適用范圍的確定以美國(guó)《算法問(wèn)責(zé)法案》為代表，針對(duì)有權(quán)訪問(wèn)大量信息的大型公司，適用于年收入超過(guò)5 000萬(wàn)美元，擁有至少100萬(wàn)人或設(shè)備的信息或主要充當(dāng)買(mǎi)賣消費(fèi)者數(shù)據(jù)的數(shù)據(jù)經(jīng)紀(jì)人的公司。法國(guó)也將當(dāng)前（或?qū)?lái)）接觸軟件應(yīng)用程序的用戶數(shù)量構(gòu)成了確定監(jiān)管措施是否適當(dāng)?shù)闹匾鶞?zhǔn)，認(rèn)定每月連接數(shù)超過(guò)500萬(wàn)的平臺(tái)比連接數(shù)較少的平臺(tái)受到更嚴(yán)格的監(jiān)管�？梢灶A(yù)見(jiàn)，我國(guó)未來(lái)可能建立以用戶數(shù)、企業(yè)規(guī)模或算法分級(jí)為前置條件的評(píng)估啟動(dòng)條件。
第二，應(yīng)明確平臺(tái)啟動(dòng)算法評(píng)估的后果。算法評(píng)估報(bào)告是否應(yīng)公布，并在何種范圍內(nèi)公布？對(duì)公眾披露的最大風(fēng)險(xiǎn)在于算法的設(shè)計(jì)信息可能會(huì)被競(jìng)爭(zhēng)對(duì)手獲取，或被用戶不當(dāng)使用。例如，網(wǎng)絡(luò)用戶在掌握搜索引擎排名權(quán)重等信息后，通過(guò)搜索引擎優(yōu)化（SEO）技術(shù)對(duì)排名和搜索建議進(jìn)行操縱。這些風(fēng)險(xiǎn)可通過(guò)將披露對(duì)象限定于監(jiān)管部門(mén)而得以避免。在各國(guó)制度中，美國(guó)的《算法問(wèn)責(zé)法案》擬要求平臺(tái)對(duì)監(jiān)管部門(mén)（FTC）披露信息，澳大利亞反壟斷部門(mén)的平臺(tái)算法監(jiān)管措施也僅限于對(duì)監(jiān)管部門(mén)的披露，而在英國(guó)數(shù)據(jù)保護(hù)機(jī)關(guān)ICO的調(diào)查報(bào)告中建議數(shù)據(jù)處理評(píng)估的結(jié)果應(yīng)該公開(kāi)。數(shù)據(jù)處理評(píng)估在實(shí)踐當(dāng)中已經(jīng)逐漸開(kāi)始發(fā)揮作用。曾供職荷蘭數(shù)據(jù)保護(hù)機(jī)關(guān)的 Sjoera Nas在EDPL撰文披露了微軟公司Office ProPlus 軟件的影響評(píng)估報(bào)告。這份報(bào)告由荷蘭政府中央采購(gòu)部門(mén)披露。報(bào)告披露，微軟在未經(jīng)用戶同意的情況下，對(duì)用戶使用Word、Excel、PowerPoint以及Outlook等常用軟件進(jìn)行數(shù)據(jù)收集。微軟隱私和法規(guī)事務(wù)副總顧問(wèn)事后予以回應(yīng)，稱相關(guān)軟件已經(jīng)升級(jí)，并對(duì)算法進(jìn)行數(shù)據(jù)收集的問(wèn)題進(jìn)行了修繕�！恫莅浮窇�(yīng)在未來(lái)的具體制度設(shè)計(jì)中明確算法評(píng)估報(bào)告的公布范圍。
（三）平臺(tái)多元治理體系的完善
平臺(tái)運(yùn)行過(guò)程中的算法審計(jì)是針對(duì)算法運(yùn)行過(guò)程進(jìn)行問(wèn)責(zé)的主要依據(jù)。應(yīng)鼓勵(lì)建立多元主體的平臺(tái)問(wèn)責(zé)體系，由平臺(tái)對(duì)算法進(jìn)行自我審計(jì)與評(píng)估，以幫助提前識(shí)別和減輕算法可能帶來(lái)的風(fēng)險(xiǎn)，這既有助于為日后的問(wèn)責(zé)提供充分有效的信息，又符合鼓勵(lì)行業(yè)自律的自證合規(guī)原則。
平臺(tái)的自我審計(jì)與評(píng)估應(yīng)包括對(duì)算法與使用數(shù)據(jù)在運(yùn)行階段的頻繁評(píng)估，以檢查是否有任何偏見(jiàn)（例如，錯(cuò)誤的分類、不準(zhǔn)確的預(yù)測(cè)、對(duì)個(gè)人的負(fù)面影響），并制定解決任何偏見(jiàn)因素的方法。算法審計(jì)系統(tǒng)應(yīng)構(gòu)建為自動(dòng)決策的準(zhǔn)確性和相關(guān)性進(jìn)行的定期審查，并應(yīng)包括周期性地防止基于敏感數(shù)據(jù)的錯(cuò)誤和不準(zhǔn)確而發(fā)生歧視的程序和措施。政府對(duì)平臺(tái)的算法監(jiān)管需要把握侵入平臺(tái)內(nèi)部運(yùn)行的限度，盡量形成合作規(guī)制，通過(guò)低成本“輕推”的監(jiān)管方式調(diào)動(dòng)平臺(tái)的技術(shù)力量自我規(guī)制。如Facebook自2018年起就遭到其偏愛(ài)左傾新聞來(lái)源的批評(píng)，盡管美國(guó)并未展開(kāi)相關(guān)調(diào)查，F(xiàn)acebook還是對(duì)其算法的政治偏見(jiàn)進(jìn)行了內(nèi)部審計(jì)。
從技術(shù)的角度來(lái)看，對(duì)測(cè)試結(jié)果的正確解釋可能受到技術(shù)能力的限制，尤其是對(duì)于機(jī)器學(xué)習(xí)的算法內(nèi)部如何達(dá)成結(jié)果可能無(wú)法進(jìn)行有效解釋。這限制了監(jiān)管部門(mén)提供證據(jù)確認(rèn)平臺(tái)算法設(shè)計(jì)和運(yùn)行中的過(guò)錯(cuò)。因此，還需要事前就設(shè)立不同算法的技術(shù)標(biāo)準(zhǔn)、測(cè)試程序，審核算法設(shè)計(jì)運(yùn)行是否達(dá)到了相關(guān)標(biāo)準(zhǔn)。政府部門(mén)應(yīng)制定測(cè)試程序和審計(jì)統(tǒng)計(jì)技術(shù)標(biāo)準(zhǔn)的計(jì)劃，并在必要時(shí)根據(jù)應(yīng)用領(lǐng)域進(jìn)行區(qū)分。專業(yè)技術(shù)支持部門(mén)應(yīng)在算法測(cè)試中發(fā)揮主導(dǎo)作用。
（四）平臺(tái)算法責(zé)任的體系化設(shè)置
《草案》確立了平臺(tái)數(shù)據(jù)活動(dòng)造成的損害的過(guò)錯(cuò)責(zé)任原則（過(guò)錯(cuò)推定原則）�！恫莅浮返�65條規(guī)定：“因個(gè)人信息處理活動(dòng)侵害個(gè)人信息權(quán)益的，按照個(gè)人因此受到的損失或者個(gè)人信息處理者因此獲得的利益承擔(dān)賠償責(zé)任……個(gè)人信息處理者能夠證明自己沒(méi)有過(guò)錯(cuò)的，可以減輕或者免除責(zé)任�！庇纱丝梢酝茢啵脚_(tái)算法自動(dòng)化決策（數(shù)據(jù)活動(dòng)）造成損害的歸責(zé)原則也應(yīng)為過(guò)錯(cuò)責(zé)任原則，那么，如何根據(jù)不同的過(guò)錯(cuò)程度設(shè)計(jì)體系化的平臺(tái)算法責(zé)任，仍有待未來(lái)法律與實(shí)踐的回答。
首先，平臺(tái)算法問(wèn)責(zé)應(yīng)對(duì)不同類型風(fēng)險(xiǎn)設(shè)置不同層次的法律責(zé)任。對(duì)“高風(fēng)險(xiǎn)”的應(yīng)用場(chǎng)景可采取風(fēng)險(xiǎn)規(guī)制思路，強(qiáng)化事前監(jiān)管，對(duì)應(yīng)用準(zhǔn)入設(shè)置必要的評(píng)估等要求，完善相應(yīng)責(zé)任立法體系。對(duì)于高風(fēng)險(xiǎn)的“關(guān)鍵算法系統(tǒng)”可適當(dāng)采取嚴(yán)格責(zé)任或無(wú)過(guò)錯(cuò)責(zé)任，對(duì)于風(fēng)險(xiǎn)適中的算法則采取過(guò)錯(cuò)責(zé)任原則。
其次，平臺(tái)對(duì)算法的評(píng)估與審計(jì)不符合標(biāo)準(zhǔn)，或進(jìn)行虛假評(píng)估與審計(jì)時(shí)，監(jiān)管部門(mén)可以強(qiáng)制要求披露或介入平臺(tái)運(yùn)營(yíng)。例如，法國(guó)2019年《反網(wǎng)絡(luò)仇恨法案》提出提高數(shù)據(jù)處理透明度，接受技術(shù)資源高級(jí)視聽(tīng)委員會(huì)的監(jiān)督，并向后者上報(bào)所收到問(wèn)題的處理情況和必要數(shù)據(jù)；加強(qiáng)與法國(guó)司法系統(tǒng)的合作，取消違法用戶的匿名權(quán)利并提交用戶信息，接受獨(dú)立檢察官的依法審核及必要介入。
最后，我國(guó)可以在復(fù)雜領(lǐng)域通過(guò)司法審判對(duì)具體案件進(jìn)行平臺(tái)算法責(zé)任的探索，通過(guò)個(gè)案析理提升立法清晰度�！恫莅浮分械钠脚_(tái)算法問(wèn)責(zé)制多為統(tǒng)籌性、原則性立法，在具體案件適用過(guò)程中存在清晰性不足的問(wèn)題。
四、結(jié)語(yǔ)
人工智能時(shí)代，法律的重要任務(wù)是保障自動(dòng)化決策公平的核心公共利益。《草案》中的平臺(tái)算法治理框架以保障用戶的個(gè)人信息與財(cái)產(chǎn)權(quán)益為目標(biāo)，應(yīng)積極發(fā)揮促進(jìn)公平、發(fā)展等民眾福祉的作用。隨著風(fēng)險(xiǎn)社會(huì)的來(lái)臨，以及平臺(tái)權(quán)力和算法權(quán)力的崛起，法律與監(jiān)管部門(mén)應(yīng)主動(dòng)防治風(fēng)險(xiǎn)，建立完善的平臺(tái)算法問(wèn)責(zé)制度，形成符合法理和技術(shù)邏輯的科學(xué)問(wèn)責(zé)思路和監(jiān)管思路，以促進(jìn)“負(fù)責(zé)任”的平臺(tái)算法設(shè)計(jì)與運(yùn)行體系。