算法由人設計，難免受設計者的價值偏好，甚至利益影響。因此，算法應該承載社會的“價值觀”。算法綜合治理，應依法賦權，并為其劃定“底線”“紅線”。
9月17日，國家網信辦等9部委印發(fā)《關于加強互聯(lián)網信息服務算法綜合治理的指導意見》（以下簡稱《算法意見》）。這是繼8月27日國家網信辦就《互聯(lián)網信息服務算法推薦管理規(guī)定（征求意見稿）》（以下簡稱 《算法規(guī)定》）公開征求意見后，加強互聯(lián)網信息服務算法綜合治理的又一重要舉措。同時，《中華人民共和國個人信息保護法》也將于今年11月1日起正式實施。多個部門密集加強算法管理與引導，一方面說明了算法推薦十分重要，另一方面也體現(xiàn)了運用法治規(guī)制算法技術的趨勢。
“算法黑箱”不應成為“法治盲盒”
算法與人工智能緊密相連。算法與數(shù)據(jù)、計算能力并稱為“人工智能三大要素”，是人工智能技術的核心基礎，具有至關重要的作用。算法一誕生，就具有明確的“問題導向”——是為有效解決問題而輸入機器的一系列指令、步驟。算法的基本流程為輸入數(shù)據(jù)與指令、運算處理和結果輸出。具體到算法推薦，就是在用戶使用習慣和個人信息等大數(shù)據(jù)的“喂養(yǎng)”下，對用戶進行更精準的“畫像”，綜合各項參數(shù)變量，以模型函數(shù)形式，通過計算、分析、預測，開展信息內容的個性化篩選和推送。
目前，算法已經被廣泛應用于多個社會場景之中，滲入人們日常生活的方方面面。現(xiàn)有應用較成熟的領域包括廣告營銷、金融、公共安全、家居、零售、交通、醫(yī)療、新聞推送、短視頻、電子商務等，在加速互聯(lián)網信息傳播、繁榮數(shù)字經濟、促進社會發(fā)展等方面發(fā)揮了重要作用。但現(xiàn)有算法在便利數(shù)字時代生活、提升社會運轉效率的同時，也存在“黑箱”——算法具有超越人工的解決復雜問題的能力，其基于技術本身的高度復雜性、自我學習能力，以及技術公司的排他性商業(yè)政策，用戶無從獲悉算法設計者、實際控制者等信息，更談不上評判與監(jiān)督。在消費端，“大數(shù)據(jù)殺熟”、用算法監(jiān)督員工甚至開除員工、算法可能存在性別和人群的社會偏見、算法推薦引發(fā)的“信息繭房”問題等備受關注。算法不合理應用影響了正常的傳播秩序、市場秩序和社會秩序，給維護意識形態(tài)安全、社會公平公正和網民合法權益帶來挑戰(zhàn)。
過去，諸多應用算法推薦的責任主體（平臺/企業(yè)）以“技術中立”為抗辯理由規(guī)避履行平臺主體責任。算法作為技術類型的一種應用，雖然自身具有“技術中性”，但算法本身不具備人類所擁有的“經驗性常識”，也不具備足夠的自主決策能力。技術不能獨立于對它的使用。因此，投入運用的算法技術可能侵害公民知情權、選擇權時，就必須受到法律規(guī)制。否則，算法的“黑箱”就會演變成為法治的“盲盒”——“算法黑箱”的核心問題在于信息不對稱和不公開，在某種程度上，只有法律才具有增加算法透明度和可解釋性的能力。基于此，《算法意見》明確將“堅持依法治理，加強法律法規(guī)建設，創(chuàng)新技術監(jiān)管模式，打擊違法違規(guī)行為，建立健全多方參與的算法安全治理機制”作為算法綜合治理的基本原則之一。
“價值觀入法”是算法綜合治理的關鍵
技術一旦被利益裹挾，就很難保持真正的“中立性”。究其本源，現(xiàn)階段的算法是由人設計的，難免受設計者的價值偏好，甚至利益影響。實踐表明，當前算法推薦的底層邏輯是提取信息特征，然后匹配用戶偏好（標簽），再進行推送。當前，有的平臺為了實現(xiàn)最大推送量，獲得最高點擊率，追求利益的最大化，過多追求算法推薦的“流量最大化”與“利益最大化”。比如一些新媒體平臺頻繁調整改變算法，動機在于跟蹤或者深度探究個人的相關特征、特點和隱私，然后進行引誘性消費。在這種情況下，用戶的隱私權、選擇權以及對于法律和社會核心價值觀公德的遵守，勢必淪為次要標準。因此，算法應該承載社會的“價值觀”。
“技術中性”不等于“價值中性”，算法背后隱藏著更深層次的價值構建。算法推薦帶來的是認知范式的改變，社交媒體上的算法操縱、算法歧視、非理性的言論和思潮、片面化絕對化的價值判斷等，直接影響社會主義核心價值觀的構建、培育和延續(xù)，應引起重視。將算法納入法律規(guī)制的軌道，賦予其正確的價值觀，已成為國際通行的做法。如歐盟的人工智能準則明確“可信賴的人工智能”應保證“人的能動性和監(jiān)督能力”，英國數(shù)據(jù)倫理框架明確算法“應維護現(xiàn)實中的法律和倫理規(guī)范，應有清楚的公共福祉的意識”。
“價值觀”是《算法規(guī)定》中的重要關鍵詞，其第一條將“弘揚社會主義核心價值觀”納入立法目的之一；第六條又進一步明確規(guī)定，“算法推薦服務提供者應當堅持主流價值導向，優(yōu)化算法推薦服務機制，積極傳播正能量，促進算法應用向上向善”；第十一條要求算法推薦服務提供者在“首頁首屏、熱搜、精選、榜單類、彈窗等重點環(huán)節(jié)積極呈現(xiàn)符合主流價值導向的信息內容”。《算法意見》也明確提出，“弘揚社會主義核心價值觀，在算法應用中堅持正確政治方向、輿論導向、價值取向。提高正能量傳播的精準性和有效性，規(guī)范信息分發(fā)行為和秩序，推動企業(yè)借助算法加強正能量傳播，引導算法應用向上向善。”在算法綜合治理中，將明確的價值取向上升為法律規(guī)范，可謂抓住了算法綜合治理的“關鍵要害”。推動把社會主義核心價值觀融入算法推薦，是注重把符合社會主義核心價值觀要求的基本道德規(guī)范轉化為法律規(guī)范的有益嘗試，將有效增強人們培育和踐行社會主義核心價值觀的自覺性。
在算法綜合治理中，法律不僅應該發(fā)揮事中規(guī)制和事后救濟的作用，還應該對算法的價值判定和倫理設計進行事前干涉。應對設計者在算法設計階段恪守人類社會基本倫理規(guī)則和社會主流價值導向提出要求，從一開始就將算法透明、算法可解釋、算法問責、算法審計等價值需求嵌入算法的設計當中，通過自然語言將法律語言嵌入到算法的全生命運行周期，促使社會主流價值觀成為每一種算法的“基因”。
算法綜合治理的主要框架：
依法賦權、明責、設禁
法治是算法這輛新車的“方向盤”，依法對算法進行治理，漸漸成為趨勢。《算法意見》提出，利用三年左右時間，逐步建立治理機制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。其中，制定完善互聯(lián)網信息服務算法安全治理政策法規(guī)是主要目標之一。至此，我國以《中華人民共和國網絡安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》為主體，以《互聯(lián)網信息服務管理辦法》《互聯(lián)網信息服務算法推薦管理規(guī)定》等為有益補充的算法治理法律規(guī)制體系正在形成。在算法綜合治理過程中，依法賦權、明責與設禁，是其主要框架。
依法賦權是算法綜合治理的前提。即使我們現(xiàn)在仍然處于一個“弱人工智能時代”，但個體用戶的力量已經顯得相對弱小。避免算法帶來的“馬太效應”，平衡二者力量是法律法規(guī)的出發(fā)點和落腳點。將決定信息推薦的按鈕重新交還給用戶，實現(xiàn)信息分發(fā)接收權限的“回歸”與“復位”十分重要。《算法規(guī)定》在賦權方面做了細化：一是要求算法推薦服務提供者應當向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關閉算法推薦服務的選項。二是用戶選擇關閉算法推薦服務的，算法推薦服務提供者應當立即停止提供相關服務。三是算法推薦服務提供者應當向用戶提供選擇、修改或者刪除用于算法推薦服務的用戶標簽的功能。同時，為保障用戶的知情權，明確要求算法推薦應堅持“公開透明”原則，并進一步強調“算法推薦服務提供者應當以顯著方式告知用戶其提供算法推薦服務的情況，并以適當方式公示算法推薦服務的基本原理、目的意圖、運行機制等”。同時，根據(jù)我國電子商務法、個人信息保護法的精神，平臺行使算法權力應當對技術原理作出事先披露，保障用戶知情權。
設立禁止性規(guī)定為算法綜合治理劃定“底線”“紅線”。《算法規(guī)定》通過設定禁止性規(guī)定，如算法推薦服務提供者“不得將違法和不良信息關鍵詞記入用戶興趣點或者作為用戶標簽并據(jù)以推送信息內容，不得設置歧視性或者偏見性用戶標簽”“不得向未成年人用戶推送可能引發(fā)未成年人模仿不安全行為和違反社會公德行為、誘導未成年人不良嗜好等可能影響未成年人身心健康的信息內容，不得利用算法推薦服務誘導未成年人沉迷網絡”“不得根據(jù)消費者的偏好、交易習慣等特征，利用算法在交易價格等交易條件上實行不合理的差別待遇等違法行為”等，這為算法推薦開具了一張比較明晰的“負面清單”，有利于算法推薦服務提供者明確知曉和遵循，更好保護用戶權利。
明晰法律責任是算法綜合治理的基礎。《算法規(guī)定》明確，算法推薦服務提供者應當落實算法安全主體責任，包括應當建立健全用戶注冊、信息發(fā)布審核、算法機制機理審核、安全評估監(jiān)測、安全事件應急處置、數(shù)據(jù)安全保護和個人信息保護等管理制度，覆蓋算法設計、部署和運行各個環(huán)節(jié)，并通過法律責任條款明晰相應法律后果，將算法推薦服務者的主體責任壓緊落實。這既以法律責任形式彰顯了違背算法綜合治理法律規(guī)制的不利后果，又明確了違法的處罰措施，如警告、通報批評、責令限期改正、責令暫停信息更新、罰款直至追究刑事責任。（作者：□法小寶）