《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見(jiàn)稿）》明確算法推薦服務(wù)違法將被問(wèn)責(zé)，對(duì)算法推薦服務(wù)中平臺(tái)主體責(zé)任、用戶權(quán)利、違法問(wèn)責(zé)等作了系統(tǒng)規(guī)定。
前不久，新浪微博公布微博熱搜管理規(guī)則回應(yīng)部分網(wǎng)友質(zhì)疑，稱新浪微博的熱搜榜單是根據(jù)微博用戶的真實(shí)行為計(jì)算而來(lái)，且算法中包含嚴(yán)格的排“水軍”和反垃圾機(jī)制。去年，“騎手困在‘算法’里”引發(fā)網(wǎng)友討論。近年來(lái)，算法歧視、算法誘導(dǎo)沉迷、“大數(shù)據(jù)殺熟”常為人詬病，面對(duì)這些問(wèn)題，許多互聯(lián)網(wǎng)平臺(tái)常以算法技術(shù)、技術(shù)中立為“護(hù)身符”，避重就輕。
為規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng)，促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展，我國(guó)陸續(xù)建立相關(guān)規(guī)制，比如，近日印發(fā)的《關(guān)于開(kāi)展文娛領(lǐng)域綜合治理工作的通知》要求，“壓實(shí)平臺(tái)責(zé)任”“嚴(yán)格各類熱搜榜單管理，優(yōu)化內(nèi)容推薦算法”�！斗ㄖ紊鐣�(huì)建設(shè)實(shí)施綱要（2020-2025年）》提出，研究制定互聯(lián)網(wǎng)信息服務(wù)嚴(yán)重失信主體信用信息管理辦法，制定完善對(duì)網(wǎng)絡(luò)直播、自媒體、知識(shí)社區(qū)問(wèn)答等新媒體業(yè)態(tài)和算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法�！吨腥A人民共和國(guó)個(gè)人信息保護(hù)法》《中華人民共和國(guó)電子商務(wù)法》也有對(duì)算法問(wèn)題的相關(guān)規(guī)定。
8月27日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布專門針對(duì)算法推薦服務(wù)的監(jiān)管新規(guī)——《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見(jiàn)稿）》（以下簡(jiǎn)稱《征求意見(jiàn)稿》），向社會(huì)公開(kāi)征求意見(jiàn)。新規(guī)對(duì)算法推薦服務(wù)中平臺(tái)主體責(zé)任、用戶權(quán)利、違法問(wèn)責(zé)等作了系統(tǒng)性規(guī)定。
根據(jù)《征求意見(jiàn)稿》的規(guī)定，算法推薦服務(wù)違法將被問(wèn)責(zé)。對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣認(rèn)為，《征求意見(jiàn)稿》回應(yīng)社會(huì)公眾要求加強(qiáng)監(jiān)管的呼聲，系統(tǒng)規(guī)定了算法推薦下用戶的權(quán)利以及平臺(tái)主體責(zé)任，并設(shè)定了相應(yīng)問(wèn)責(zé)機(jī)制。
覆蓋多環(huán)節(jié)、全類型的算法推薦服務(wù)
《征求意見(jiàn)稿》第二條明確了算法推薦技術(shù)的范圍，具體包括應(yīng)用生成合成類、個(gè)性化推送類、排序精選類、檢索過(guò)濾類、調(diào)度決策類等。
《征求意見(jiàn)稿》提出，使用這些算法推薦技術(shù)向用戶提供互聯(lián)網(wǎng)信息服務(wù)的，應(yīng)當(dāng)優(yōu)化算法推薦服務(wù)機(jī)制，積極傳播正能量，促進(jìn)算法應(yīng)用向上向善。
張欣表示，《征求意見(jiàn)稿》明確算法推薦技術(shù)的范圍，基本囊括了所有主流算法推薦技術(shù)。這意味著電商平臺(tái)、短視頻平臺(tái)、社交平臺(tái)、餐飲平臺(tái)等不同類型互聯(lián)網(wǎng)平臺(tái)，只要使用了此范圍內(nèi)規(guī)定的算法推薦技術(shù)，向用戶提供了信息服務(wù)，都將被納入監(jiān)管范圍。
不僅如此，《征求意見(jiàn)稿》還明確了“算法責(zé)任”概念以及平臺(tái)企業(yè)作為算法推薦服務(wù)提供者的諸多主體責(zé)任。比如第七條規(guī)定，算法推薦服務(wù)提供者應(yīng)當(dāng)落實(shí)算法安全主體責(zé)任，建立健全用戶注冊(cè)、信息發(fā)布審核、算法機(jī)制機(jī)理審核、安全評(píng)估監(jiān)測(cè)、安全事件應(yīng)急處置、數(shù)據(jù)安全保護(hù)和個(gè)人信息保護(hù)等管理制度，制定并公開(kāi)算法推薦相關(guān)服務(wù)規(guī)則，配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐。張欣認(rèn)為，這覆蓋了算法設(shè)計(jì)、部署和運(yùn)行的各個(gè)環(huán)節(jié)。
針對(duì)社會(huì)關(guān)注的熱點(diǎn)問(wèn)題，《征求意見(jiàn)稿》作了回應(yīng)。比如，規(guī)定算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，不得設(shè)置誘導(dǎo)用戶沉迷或者高額消費(fèi)等違背公序良俗的算法模型。算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)用戶模型和用戶標(biāo)簽管理，完善記入用戶模型的興趣點(diǎn)規(guī)則，不得將違法和不良信息關(guān)鍵詞記入用戶興趣點(diǎn)或者作為用戶標(biāo)簽并據(jù)以推送信息內(nèi)容，不得設(shè)置歧視性或者偏見(jiàn)性用戶標(biāo)簽。算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)算法推薦服務(wù)版面頁(yè)面生態(tài)管理，建立完善人工干預(yù)和用戶自主選擇機(jī)制，在首頁(yè)首屏、熱搜、精選、榜單類、彈窗等重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價(jià)值導(dǎo)向的信息內(nèi)容。
向用戶揭開(kāi)算法的“神秘面紗”
雖然許多人對(duì)“算法”一詞不陌生，但是算法技術(shù)是如何運(yùn)行的，對(duì)普通用戶來(lái)說(shuō)仍然是神秘的。此次《征求意見(jiàn)稿》提出，算法推薦服務(wù)提供者應(yīng)當(dāng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖、運(yùn)行機(jī)制等。
張欣表示，按照《征求意見(jiàn)稿》的規(guī)定，平臺(tái)依據(jù)用戶的“商業(yè)信用分”進(jìn)行商品或者服務(wù)推薦時(shí)，應(yīng)當(dāng)以顯著的、便于理解的方式告訴用戶，“商業(yè)信用分”的生成是基于什么原理、運(yùn)用了什么樣的大數(shù)據(jù)模型、收集了哪些個(gè)人信息等進(jìn)行計(jì)算并實(shí)施推薦的。
《征求意見(jiàn)稿》還規(guī)定，算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供選擇、修改或者刪除用于算法推薦服務(wù)的用戶標(biāo)簽的功能。用戶認(rèn)為算法推薦服務(wù)提供者應(yīng)用算法對(duì)其權(quán)益造成重大影響的，有權(quán)要求算法推薦服務(wù)提供者予以說(shuō)明并采取相應(yīng)改進(jìn)或者補(bǔ)救措施。
實(shí)際上，我國(guó)電子商務(wù)法第十八條和個(gè)人信息保護(hù)法第二十四條都有類似規(guī)定。個(gè)人信息保護(hù)法第二十四條規(guī)定：“通過(guò)自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營(yíng)銷，應(yīng)當(dāng)同時(shí)提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向個(gè)人提供便捷的拒絕方式。通過(guò)自動(dòng)化決策方式作出對(duì)個(gè)人權(quán)益有重大影響的決定，個(gè)人有權(quán)要求個(gè)人信息處理者予以說(shuō)明，并有權(quán)拒絕個(gè)人信息處理者僅通過(guò)自動(dòng)化決策的方式作出決定�！�
張欣認(rèn)為，從總體上看，《征求意見(jiàn)稿》在上位法的基礎(chǔ)上，從算法推薦系統(tǒng)的事前（自主選擇）、事中（說(shuō)明、修改）和事后（說(shuō)明、刪除）三個(gè)階段，細(xì)化了適合算法推薦場(chǎng)景下的用戶權(quán)利，賦予用戶自主選擇權(quán)、知情權(quán)、拒絕權(quán)、獲得說(shuō)明和救濟(jì)的權(quán)利。這些權(quán)利意味著用戶有權(quán)選擇脫離算法操控、對(duì)抗算法。
“比如，某個(gè)用戶在某段時(shí)間頻繁收到平臺(tái)推送的某一類并不感興趣或者受到滋擾的信息，可以要求平臺(tái)將產(chǎn)生此類推送的相關(guān)用戶標(biāo)簽刪除。如果平臺(tái)不刪除，用戶有權(quán)利獲得救濟(jì)，包括要求平臺(tái)進(jìn)行改進(jìn)或采取補(bǔ)救措施，甚至提起訴訟。”張欣說(shuō)。
具體操作細(xì)則有待進(jìn)一步細(xì)化
張欣表示，《征求意見(jiàn)稿》從算法推薦技術(shù)、信息內(nèi)容管理、推薦頁(yè)面展示、特定用戶對(duì)象等多方面，對(duì)算法推薦服務(wù)提供者提出了立體化的管控要求，明確了分級(jí)分類管理制度，并清晰構(gòu)建了算法推薦場(chǎng)景下的算法問(wèn)責(zé)機(jī)制。
《征求意見(jiàn)稿》第二十七條、第二十八條、第二十九條，對(duì)算法推薦服務(wù)者違反《征求意見(jiàn)稿》中相關(guān)規(guī)定的，規(guī)定了包括警告、通報(bào)批評(píng)、責(zé)令限期改正、責(zé)令暫停信息更新、罰款等多種問(wèn)責(zé)方式。
《征求意見(jiàn)稿》明確要求建立分級(jí)分類管理制度。第十九條規(guī)定，國(guó)家網(wǎng)信部門建立分類分級(jí)管理制度，根據(jù)算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)敏感程度、對(duì)用戶行為的干預(yù)程度等，對(duì)算法推薦服務(wù)提供者實(shí)施分類分級(jí)管理。
張欣認(rèn)為，這體現(xiàn)了精準(zhǔn)治理的立法理念。但具體操作細(xì)則有待進(jìn)一步明確細(xì)化，比如其中涉及的“具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)者”具體應(yīng)當(dāng)如何認(rèn)定？
在她看來(lái)，《征求意見(jiàn)稿》中具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)者是監(jiān)管的重點(diǎn)，但從實(shí)踐來(lái)看，平臺(tái)發(fā)展到一定的用戶量級(jí)，在算法的精準(zhǔn)指引下，有可能在特定場(chǎng)景下具有輿論屬性或者社會(huì)動(dòng)員能力，因此需要進(jìn)一步細(xì)化有關(guān)規(guī)定。