算法治理應(yīng)首先立足規(guī)范算法權(quán)力。算法治理體系中，算法權(quán)力是算法治理的直接抓手，也是理解算法風險性質(zhì)和發(fā)生路徑的關(guān)鍵要點。以規(guī)范算法權(quán)力為首要立足點，有助于迎接新型權(quán)力現(xiàn)象的挑戰(zhàn)，充分理解算法的公共屬性，找準和優(yōu)化算法治理思路，引入和革新算法時代的公法治理體系。
算法治理正日益受到國家和社會的高度關(guān)注，算法治理的制度工具箱也在持續(xù)豐富和充實。伴隨算法治理及相關(guān)法治建設(shè)進程的不斷深入，“算法權(quán)利”和“算法權(quán)力”的概念亦隨之出現(xiàn)。無論是保障用戶、相對人乃至公眾的算法權(quán)利，還是規(guī)范、約束和監(jiān)督公共機構(gòu)與大型平臺的算法權(quán)力，都已出現(xiàn)系列學(xué)理主張，也都具有秉要執(zhí)本的意義。然而，算法治理應(yīng)當側(cè)重“權(quán)利”視角還是側(cè)重“權(quán)力”視角的思考、首先立足規(guī)范算法權(quán)力還是保障算法權(quán)利，仍然是一個引人深思的話題。無疑，算法治理最終是為了保障公民權(quán)益、促進公共福祉，但在選擇切入點時，算法治理仍然應(yīng)當首先立足規(guī)范算法權(quán)力。
第一，以規(guī)范算法權(quán)力為首要立足點，有助于迎接新型權(quán)力現(xiàn)象的挑戰(zhàn)。選擇首先立足“算法權(quán)力”，本質(zhì)上是因為“算法權(quán)力”深刻揭示了一種需要嚴肅對待的新型法律現(xiàn)象乃至法律關(guān)系�！八惴�(quán)力”的概念自提出以來就一直面臨各種各樣的爭議。的確，算法本身無所謂“權(quán)力”，自技術(shù)角度觀之，算法本身只是一種解決特定問題的技術(shù)方案，正如將冒泡排序法、二分查找法或梯度下降法稱為權(quán)力是荒謬的。我們說“算法權(quán)力”，實際上針對的是算法應(yīng)用所發(fā)揮的影響和作用。不過，并非所有的算法應(yīng)用都包含“算法權(quán)力”。例如，在個人電腦上運用一些簡單的算法制作自己玩的單機游戲，似乎很難稱得上實施了什么“算法權(quán)力”。然而，對于公共機構(gòu)和大型平臺動輒影響數(shù)以萬計相對人或用戶的算法應(yīng)用而言，受影響者就可能會對“算法權(quán)力”的存在有切身感受。以“算法權(quán)力”刻畫公共機構(gòu)和平臺算法所發(fā)揮的作用和影響，是一種頗有沖擊力的認知方式，既契合了算法作用和影響的特質(zhì)，也符合算法治理的深層需求。算法治理面臨全新挑戰(zhàn)，不僅需要承認“算法權(quán)力”，更需要立足“算法權(quán)力”的視角，推動治理思路的突破。
權(quán)力的概念和含義在人類歷史長河中是不斷演化的。對于以法理層面各種支配作用為基點的“權(quán)力”概念，我們或許習(xí)以為常，但也僅僅是啟蒙時代以降的一個“新傳統(tǒng)”。在西方，曾經(jīng)有過彼此區(qū)隔、互不統(tǒng)屬的碎片化權(quán)力概念圖式，也有過層次井然、內(nèi)容固定的權(quán)力概念圖式，而將法理上各種各樣的支配作用統(tǒng)合起來，以諸多權(quán)力相關(guān)概念中的potestas為基礎(chǔ)、以其他概念為補充，建構(gòu)為今天這種具備高度抽象性和流動性、與權(quán)利相對峙的權(quán)力概念，實際上是相當晚近的事情�？v觀權(quán)力概念發(fā)展史，權(quán)力現(xiàn)象是極其鮮活的，權(quán)力無處不在而又十分靈活，各個時代的公法學(xué)家都會根據(jù)當時的權(quán)力現(xiàn)象和概念工具，建構(gòu)有時代意義和現(xiàn)實色彩的認知和治理框架。因此，我們決不能刻舟求劍，僅僅從支配作用去理解權(quán)力現(xiàn)象�！八惴�(quán)力”概念可以說是對算法時代新型權(quán)力現(xiàn)象的傳神描畫，這種權(quán)力的基石往往是精心設(shè)計、直指人心的影響作用�！靶畔⒗O房”和“算法圈養(yǎng)”的盛行，“算法操縱”和“計算政治”的興起，“算法妨害”對人潛移默化的長期誘導(dǎo)，情境塑造、信息污染和認知欺騙等“認知作戰(zhàn)”的持續(xù)升級，都表明我們必須正視基于影響作用的權(quán)力現(xiàn)象。這種基于影響的權(quán)力有時比基于支配的權(quán)力甚至更為關(guān)鍵。“算法權(quán)力”的認知方式能夠使我們充分考慮算法中包含的影響作用，拿出體系化的應(yīng)對思路，全方位發(fā)現(xiàn)、約束和限制可能侵害個人權(quán)益和公共利益的算法影響作用，進而形成系統(tǒng)治理算法公共風險、促成算法向善的制度方案。這種新的視角對于算法治理機制及相關(guān)法律制度的建構(gòu)、發(fā)展與革新殊為必要。
第二，以規(guī)范算法權(quán)力為首要立足點，有助于充分理解算法的公共屬性。選擇首先立足“算法權(quán)力”，是因為從規(guī)范算法權(quán)力入手，能夠深入揭示某些算法的公共性，為算法治理提供法理依據(jù)和方略�！八惴�(quán)力”的認知方式凸顯了算法影響的公共性。許多大型算法應(yīng)用面向全國乃至全球范圍內(nèi)的用戶和公眾施加影響，算法推薦、深度合成、智能屏蔽、自動化公共決策等應(yīng)用已經(jīng)深刻影響網(wǎng)絡(luò)生態(tài)和公共輿論；生成式人工智能更開始改變整個公共領(lǐng)域的互動結(jié)構(gòu)。精心設(shè)計的算法應(yīng)用已經(jīng)可以改變重要選舉走勢、設(shè)置重大輿情議題或影響公共決策。大型算法模型借助平臺的“社會權(quán)力”，往往以既有共性又有個性的“一對多”方式發(fā)揮作用，成為現(xiàn)代社會生活和公共領(lǐng)域中舉足輕重的關(guān)鍵因素。在許多場合下，個體的自由意志對于此種算法作用的發(fā)揮只有非常有限的抵抗能力，而大型平臺的算法應(yīng)用不僅可以在較大范圍內(nèi)向相對人或用戶施加自身的意志，還可以通過精心設(shè)計和篩選的內(nèi)容推送和互動機制影響、干擾甚至塑成對方意志的內(nèi)容，導(dǎo)致意思自治的失效和個體自主性的弱化。在此種意義上，我們就不能單純從私權(quán)層面考慮算法治理的法理圖式和基本方案，而“算法權(quán)力”層面的思考則會帶來更直接、更有力的啟發(fā)。
選擇首先立足“算法權(quán)力”，也是因為從規(guī)范算法權(quán)力入手，能夠更加清楚地直面算法影響作用的公共風險。平臺算法的影響力往往會產(chǎn)生超出私主體之間社會交往的外部性，產(chǎn)生了新的公共風險，甚至催生了“計算宣傳”和“認知戰(zhàn)”等新型公共活動方式，大幅度由私人領(lǐng)域邁入公共領(lǐng)域，國家干預(yù)亦由此而不可避免。對于生成式人工智能大模型而言，由于其正日益成為經(jīng)濟發(fā)展和社會生活的“底層技術(shù)”，算法模型秉持的價值觀、選擇接納的信息和提供的輸出結(jié)果將廣泛而深刻地影響億萬用戶的思想和行為。以規(guī)范算法權(quán)力為首要立足點，有助于充分承認和分析算法影響作用的公共性，推進對相關(guān)算法應(yīng)用公共風險的全方位認識，也有助于公法干預(yù)正當性的證立，保護難以被權(quán)利化的公共利益和安全法益。
第三，以規(guī)范算法權(quán)力為首要立足點，有助于找準和優(yōu)化算法治理思路。選擇首先立足“算法權(quán)力”，是因為從規(guī)范算法權(quán)力入手，能夠最有效地控制算法風險的發(fā)生進程。算法權(quán)力鑲嵌在算法本身的運行機理中，是算法治理最直接的切入點。算法本身不是權(quán)力，但某些算法模型本身天然地蘊含著權(quán)力。如果說權(quán)力意味著一方主體可以無視對方意志的反對而將自身的意志加諸對方，許多算法模型已經(jīng)能夠通過精心設(shè)計的機制實現(xiàn)這一目標，而并不必然需要借助強制性的手段。以算法推薦為例，算法推薦經(jīng)常帶有強烈的營利或宣傳目的，為了更好地實現(xiàn)推薦目標，還經(jīng)常有設(shè)置了特定競技指標（如用戶黏性、付費意愿等）的算法推薦比賽。從眾多算法設(shè)計中“殺出重圍”的許多推薦模型正是影響、引導(dǎo)甚至塑造用戶和公眾意志的利器，模型中的各種注意力頭、權(quán)重矩陣、激活函數(shù)等就是有關(guān)主體面對用戶和公眾實現(xiàn)其意志的精準推手。如果從操縱、誘導(dǎo)、暗示、欺騙、感染等影響作用理解算法權(quán)力，可以發(fā)現(xiàn)算法權(quán)力的生發(fā)機制深嵌于算法模型之中，與模型設(shè)計、訓(xùn)練與運行的過程和模型中的海量參數(shù)緊密關(guān)聯(lián)。這是許多算法風險發(fā)生的根源。在這個意義上，關(guān)注算法權(quán)力的實現(xiàn)過程和機理，很大程度上就幾乎等同于捕捉到了算法風險發(fā)生的邏輯，進而有機會針對關(guān)鍵環(huán)節(jié)“對癥下藥”，根據(jù)算法產(chǎn)生影響的技術(shù)原理和風險生成路徑精準選擇治理方案。
選擇首先立足“算法權(quán)力”，也是因為從規(guī)范算法權(quán)力入手，更便于實現(xiàn)“穿透式監(jiān)管”。在許多情形下，事后的侵權(quán)救濟往往鞭長莫及或姍姍來遲，事前和事中的及時干預(yù)十分關(guān)鍵。從規(guī)范算法權(quán)力入手，著眼算法權(quán)力的實現(xiàn)過程和風險生成路徑，就能夠保持算法治理的穿透性，進而運用規(guī)范和約束算法風險的各種工具，包括算法備案、算法審計、算法透明、技術(shù)標準、監(jiān)管接口、算法可解釋性、算法影響評估等，引導(dǎo)算法模型設(shè)計和訓(xùn)練中的意志表達，深入優(yōu)化算法治理思路，實施更及時、更精當?shù)乃惴ㄖ卫怼?/p>
第四，以規(guī)范算法權(quán)力為首要立足點，有助于引入和革新公法治理體系。選擇首先立足“算法權(quán)力”，是因為從規(guī)范算法權(quán)力入手，能夠強化公法規(guī)則和原則的適用。緊扣“算法權(quán)力”的特性，聚焦公共機構(gòu)和大型平臺某些算法應(yīng)用發(fā)揮影響和作用的過程，就可以針對性地運用規(guī)范類似權(quán)力的規(guī)則或原則。在算法治理實踐中，我們已經(jīng)逐漸以一種類似行政法治的方式規(guī)制算法權(quán)力的濫用，對公共機構(gòu)和平臺企業(yè)提出了一系列制度性要求：要求公示部分算法服務(wù)的基本原理、目的意圖和主要運行機制，要求對用戶權(quán)益產(chǎn)生重大影響的原因作出說明，要求確保服務(wù)的公平公正、不得利用算法實行差異化定價和“算法歧視”，要求政府、企業(yè)、社會、網(wǎng)民等多方主體共同參與算法治理，等等。這表明以算法權(quán)力的運行過程和作用機理為立足點，可以使算法治理過程適度引入公法治理體系、容納更多的公法元素，既防止相關(guān)算法服務(wù)提供者“遁入”私法關(guān)系之中而逃避本應(yīng)承擔的義務(wù)和責任，更從公共利益和共同福祉的高度促成算法服務(wù)提供者“為善去惡”。
選擇首先立足“算法權(quán)力”，更是因為“算法權(quán)力”的認知方式有利于公法理念和制度的變革，進而促成算法時代法治建設(shè)的變革與進步。面對源于算法公共影響的新型權(quán)力現(xiàn)象，公法理念和學(xué)說亦需要隨之變革和擴展。例如，面對行政主體作出的判斷和決定，行政過程中相對人可以享受正當程序的保障：行政主體作出與相對人利害關(guān)系密切相關(guān)的判斷或決定前，應(yīng)當告知相對人擬作出的處理，并聽取相對人的陳述和申辯。然而，如果是公共算法系統(tǒng)作出的判斷或決定，機器又如何有效聽取陳述和申辯呢？將傳統(tǒng)的正當程序擴展為“技術(shù)性正當程序”就可以一定程度上解決這一問題：法律制度可以要求自動化系統(tǒng)保留每一決定的“審計軌跡”，以輔助行政機關(guān)向當事人說明理由；相對人有權(quán)就自動化決策向行政機關(guān)的有關(guān)工作人員進行陳述和申辯，后者應(yīng)接受專門培訓(xùn)以了解相關(guān)自動化系統(tǒng)的運行原理，能夠詳細說明該行政機關(guān)如何依賴自動化系統(tǒng)作決定，能夠根據(jù)審計軌跡有效分辨相對人的陳述和申辯是否有道理。如果沒有深刻認識到算法系統(tǒng)中包含的權(quán)力因素和算法決策所蘊含的權(quán)力運行方式變遷，不從算法權(quán)力的視角切入，就很有可能忽略正當程序理念和原則的必要發(fā)展。同理，只有充分承認和深刻認識“算法權(quán)力”，才能在算法時代有效發(fā)展、擴充和革新公眾參與、說明理由、聽證等制度，在公共機構(gòu)和大型平臺算法決策中有效嵌入程序公正、禁止歧視、促進算法向善、保護人的主體性地位等價值理念，形成算法治理（尤其是算法公共風險治理）的系統(tǒng)性方案。
因此，算法治理需要優(yōu)先立足規(guī)范算法權(quán)力。當然，這絕不意味著保障算法權(quán)利無關(guān)輕重。規(guī)范公共機構(gòu)和平臺的算法權(quán)力，在相當程度上也是為保障用戶、相對人乃至公眾的算法權(quán)利服務(wù)。千里之行，始于足下。我們唯有在規(guī)范算法權(quán)力上腳踏實地、尺步繩趨，才能在保障算法權(quán)利和完善算法治理的征途上行穩(wěn)致遠。
�。ㄗ髡呦抵袊嗣窆泊髮W(xué)法學(xué)院教授）