算法由人設(shè)計(jì)，難免受設(shè)計(jì)者的價(jià)值偏好，甚至利益影響。因此，算法應(yīng)該承載社會(huì)的“價(jià)值觀”。算法綜合治理，應(yīng)依法賦權(quán)，并為其劃定“底線”“紅線”。
9月17日，國(guó)家網(wǎng)信辦等9部委印發(fā)《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》（以下簡(jiǎn)稱《算法意見》）。這是繼8月27日國(guó)家網(wǎng)信辦就《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》（以下簡(jiǎn)稱 《算法規(guī)定》）公開征求意見后，加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的又一重要舉措。同時(shí)，《中華人民共和國(guó)個(gè)人信息保護(hù)法》也將于今年11月1日起正式實(shí)施。多個(gè)部門密集加強(qiáng)算法管理與引導(dǎo)，一方面說明了算法推薦十分重要，另一方面也體現(xiàn)了運(yùn)用法治規(guī)制算法技術(shù)的趨勢(shì)。
“算法黑箱”不應(yīng)成為“法治盲盒”
算法與人工智能緊密相連。算法與數(shù)據(jù)、計(jì)算能力并稱為“人工智能三大要素”，是人工智能技術(shù)的核心基礎(chǔ)，具有至關(guān)重要的作用。算法一誕生，就具有明確的“問題導(dǎo)向”——是為有效解決問題而輸入機(jī)器的一系列指令、步驟。算法的基本流程為輸入數(shù)據(jù)與指令、運(yùn)算處理和結(jié)果輸出。具體到算法推薦，就是在用戶使用習(xí)慣和個(gè)人信息等大數(shù)據(jù)的“喂養(yǎng)”下，對(duì)用戶進(jìn)行更精準(zhǔn)的“畫像”，綜合各項(xiàng)參數(shù)變量，以模型函數(shù)形式，通過計(jì)算、分析、預(yù)測(cè)，開展信息內(nèi)容的個(gè)性化篩選和推送。
目前，算法已經(jīng)被廣泛應(yīng)用于多個(gè)社會(huì)場(chǎng)景之中，滲入人們?nèi)粘Ｉ畹姆椒矫婷妗，F(xiàn)有應(yīng)用較成熟的領(lǐng)域包括廣告營(yíng)銷、金融、公共安全、家居、零售、交通、醫(yī)療、新聞推送、短視頻、電子商務(wù)等，在加速互聯(lián)網(wǎng)信息傳播、繁榮數(shù)字經(jīng)濟(jì)、促進(jìn)社會(huì)發(fā)展等方面發(fā)揮了重要作用。但現(xiàn)有算法在便利數(shù)字時(shí)代生活、提升社會(huì)運(yùn)轉(zhuǎn)效率的同時(shí)，也存在“黑箱”——算法具有超越人工的解決復(fù)雜問題的能力，其基于技術(shù)本身的高度復(fù)雜性、自我學(xué)習(xí)能力，以及技術(shù)公司的排他性商業(yè)政策，用戶無從獲悉算法設(shè)計(jì)者、實(shí)際控制者等信息，更談不上評(píng)判與監(jiān)督。在消費(fèi)端，“大數(shù)據(jù)殺熟”、用算法監(jiān)督員工甚至開除員工、算法可能存在性別和人群的社會(huì)偏見、算法推薦引發(fā)的“信息繭房”問題等備受關(guān)注。算法不合理應(yīng)用影響了正常的傳播秩序、市場(chǎng)秩序和社會(huì)秩序，給維護(hù)意識(shí)形態(tài)安全、社會(huì)公平公正和網(wǎng)民合法權(quán)益帶來挑戰(zhàn)。
過去，諸多應(yīng)用算法推薦的責(zé)任主體（平臺(tái)/企業(yè)）以“技術(shù)中立”為抗辯理由規(guī)避履行平臺(tái)主體責(zé)任。算法作為技術(shù)類型的一種應(yīng)用，雖然自身具有“技術(shù)中性”，但算法本身不具備人類所擁有的“經(jīng)驗(yàn)性常識(shí)”，也不具備足夠的自主決策能力。技術(shù)不能獨(dú)立于對(duì)它的使用。因此，投入運(yùn)用的算法技術(shù)可能侵害公民知情權(quán)、選擇權(quán)時(shí)，就必須受到法律規(guī)制。否則，算法的“黑箱”就會(huì)演變成為法治的“盲盒”——“算法黑箱”的核心問題在于信息不對(duì)稱和不公開，在某種程度上，只有法律才具有增加算法透明度和可解釋性的能力�；诖�，《算法意見》明確將“堅(jiān)持依法治理，加強(qiáng)法律法規(guī)建設(shè)，創(chuàng)新技術(shù)監(jiān)管模式，打擊違法違規(guī)行為，建立健全多方參與的算法安全治理機(jī)制”作為算法綜合治理的基本原則之一。
“價(jià)值觀入法”是算法綜合治理的關(guān)鍵
技術(shù)一旦被利益裹挾，就很難保持真正的“中立性”。究其本源，現(xiàn)階段的算法是由人設(shè)計(jì)的，難免受設(shè)計(jì)者的價(jià)值偏好，甚至利益影響。實(shí)踐表明，當(dāng)前算法推薦的底層邏輯是提取信息特征，然后匹配用戶偏好（標(biāo)簽），再進(jìn)行推送。當(dāng)前，有的平臺(tái)為了實(shí)現(xiàn)最大推送量，獲得最高點(diǎn)擊率，追求利益的最大化，過多追求算法推薦的“流量最大化”與“利益最大化”。比如一些新媒體平臺(tái)頻繁調(diào)整改變算法，動(dòng)機(jī)在于跟蹤或者深度探究個(gè)人的相關(guān)特征、特點(diǎn)和隱私，然后進(jìn)行引誘性消費(fèi)。在這種情況下，用戶的隱私權(quán)、選擇權(quán)以及對(duì)于法律和社會(huì)核心價(jià)值觀公德的遵守，勢(shì)必淪為次要標(biāo)準(zhǔn)。因此，算法應(yīng)該承載社會(huì)的“價(jià)值觀”。
“技術(shù)中性”不等于“價(jià)值中性”，算法背后隱藏著更深層次的價(jià)值構(gòu)建。算法推薦帶來的是認(rèn)知范式的改變，社交媒體上的算法操縱、算法歧視、非理性的言論和思潮、片面化絕對(duì)化的價(jià)值判斷等，直接影響社會(huì)主義核心價(jià)值觀的構(gòu)建、培育和延續(xù)，應(yīng)引起重視。將算法納入法律規(guī)制的軌道，賦予其正確的價(jià)值觀，已成為國(guó)際通行的做法。如歐盟的人工智能準(zhǔn)則明確“可信賴的人工智能”應(yīng)保證“人的能動(dòng)性和監(jiān)督能力”，英國(guó)數(shù)據(jù)倫理框架明確算法“應(yīng)維護(hù)現(xiàn)實(shí)中的法律和倫理規(guī)范，應(yīng)有清楚的公共福祉的意識(shí)”。
“價(jià)值觀”是《算法規(guī)定》中的重要關(guān)鍵詞，其第一條將“弘揚(yáng)社會(huì)主義核心價(jià)值觀”納入立法目的之一；第六條又進(jìn)一步明確規(guī)定，“算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向，優(yōu)化算法推薦服務(wù)機(jī)制，積極傳播正能量，促進(jìn)算法應(yīng)用向上向善”；第十一條要求算法推薦服務(wù)提供者在“首頁首屏、熱搜、精選、榜單類、彈窗等重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價(jià)值導(dǎo)向的信息內(nèi)容”。《算法意見》也明確提出，“弘揚(yáng)社會(huì)主義核心價(jià)值觀，在算法應(yīng)用中堅(jiān)持正確政治方向、輿論導(dǎo)向、價(jià)值取向。提高正能量傳播的精準(zhǔn)性和有效性，規(guī)范信息分發(fā)行為和秩序，推動(dòng)企業(yè)借助算法加強(qiáng)正能量傳播，引導(dǎo)算法應(yīng)用向上向善。”在算法綜合治理中，將明確的價(jià)值取向上升為法律規(guī)范，可謂抓住了算法綜合治理的“關(guān)鍵要害”。推動(dòng)把社會(huì)主義核心價(jià)值觀融入算法推薦，是注重把符合社會(huì)主義核心價(jià)值觀要求的基本道德規(guī)范轉(zhuǎn)化為法律規(guī)范的有益嘗試，將有效增強(qiáng)人們培育和踐行社會(huì)主義核心價(jià)值觀的自覺性。
在算法綜合治理中，法律不僅應(yīng)該發(fā)揮事中規(guī)制和事后救濟(jì)的作用，還應(yīng)該對(duì)算法的價(jià)值判定和倫理設(shè)計(jì)進(jìn)行事前干涉。應(yīng)對(duì)設(shè)計(jì)者在算法設(shè)計(jì)階段恪守人類社會(huì)基本倫理規(guī)則和社會(huì)主流價(jià)值導(dǎo)向提出要求，從一開始就將算法透明、算法可解釋、算法問責(zé)、算法審計(jì)等價(jià)值需求嵌入算法的設(shè)計(jì)當(dāng)中，通過自然語言將法律語言嵌入到算法的全生命運(yùn)行周期，促使社會(huì)主流價(jià)值觀成為每一種算法的“基因”。
算法綜合治理的主要框架：
依法賦權(quán)、明責(zé)、設(shè)禁
法治是算法這輛新車的“方向盤”，依法對(duì)算法進(jìn)行治理，漸漸成為趨勢(shì)�！端惴ㄒ庖姟诽岢�，利用三年左右時(shí)間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。其中，制定完善互聯(lián)網(wǎng)信息服務(wù)算法安全治理政策法規(guī)是主要目標(biāo)之一。至此，我國(guó)以《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》為主體，以《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等為有益補(bǔ)充的算法治理法律規(guī)制體系正在形成。在算法綜合治理過程中，依法賦權(quán)、明責(zé)與設(shè)禁，是其主要框架。
依法賦權(quán)是算法綜合治理的前提。即使我們現(xiàn)在仍然處于一個(gè)“弱人工智能時(shí)代”，但個(gè)體用戶的力量已經(jīng)顯得相對(duì)弱小。避免算法帶來的“馬太效應(yīng)”，平衡二者力量是法律法規(guī)的出發(fā)點(diǎn)和落腳點(diǎn)。將決定信息推薦的按鈕重新交還給用戶，實(shí)現(xiàn)信息分發(fā)接收權(quán)限的“回歸”與“復(fù)位”十分重要。《算法規(guī)定》在賦權(quán)方面做了細(xì)化：一是要求算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。二是用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。三是算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供選擇、修改或者刪除用于算法推薦服務(wù)的用戶標(biāo)簽的功能。同時(shí)，為保障用戶的知情權(quán)，明確要求算法推薦應(yīng)堅(jiān)持“公開透明”原則，并進(jìn)一步強(qiáng)調(diào)“算法推薦服務(wù)提供者應(yīng)當(dāng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖、運(yùn)行機(jī)制等”。同時(shí)，根據(jù)我國(guó)電子商務(wù)法、個(gè)人信息保護(hù)法的精神，平臺(tái)行使算法權(quán)力應(yīng)當(dāng)對(duì)技術(shù)原理作出事先披露，保障用戶知情權(quán)。
設(shè)立禁止性規(guī)定為算法綜合治理劃定“底線”“紅線”�！端惴ㄒ�(guī)定》通過設(shè)定禁止性規(guī)定，如算法推薦服務(wù)提供者“不得將違法和不良信息關(guān)鍵詞記入用戶興趣點(diǎn)或者作為用戶標(biāo)簽并據(jù)以推送信息內(nèi)容，不得設(shè)置歧視性或者偏見性用戶標(biāo)簽”“不得向未成年人用戶推送可能引發(fā)未成年人模仿不安全行為和違反社會(huì)公德行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息內(nèi)容，不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)”“不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇等違法行為”等，這為算法推薦開具了一張比較明晰的“負(fù)面清單”，有利于算法推薦服務(wù)提供者明確知曉和遵循，更好保護(hù)用戶權(quán)利。
明晰法律責(zé)任是算法綜合治理的基礎(chǔ)。《算法規(guī)定》明確，算法推薦服務(wù)提供者應(yīng)當(dāng)落實(shí)算法安全主體責(zé)任，包括應(yīng)當(dāng)建立健全用戶注冊(cè)、信息發(fā)布審核、算法機(jī)制機(jī)理審核、安全評(píng)估監(jiān)測(cè)、安全事件應(yīng)急處置、數(shù)據(jù)安全保護(hù)和個(gè)人信息保護(hù)等管理制度，覆蓋算法設(shè)計(jì)、部署和運(yùn)行各個(gè)環(huán)節(jié)，并通過法律責(zé)任條款明晰相應(yīng)法律后果，將算法推薦服務(wù)者的主體責(zé)任壓緊落實(shí)。這既以法律責(zé)任形式彰顯了違背算法綜合治理法律規(guī)制的不利后果，又明確了違法的處罰措施，如警告、通報(bào)批評(píng)、責(zé)令限期改正、責(zé)令暫停信息更新、罰款直至追究刑事責(zé)任。（作者：□法小寶）