作者簡(jiǎn)介：張欣，法學(xué)博士，對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院副教授。
目錄
一、技術(shù)賦權(quán)和技術(shù)賦能：算法行政的建構(gòu)原理
二、我國(guó)算法行政的核心特征和相關(guān)風(fēng)險(xiǎn)：以信用監(jiān)管為例
三、算法行政的法治化路徑——兼論《個(gè)人信息保護(hù)法（草案）》
四、結(jié)語(yǔ)
引言：從數(shù)字治理到數(shù)據(jù)驅(qū)動(dòng)型治理
在人類治理的歷史長(zhǎng)河中，賦予治理客體以“可計(jì)算性”（calculability）已經(jīng)成為現(xiàn)代性的標(biāo)志特征之一。從治理效能來(lái)看，以數(shù)字和評(píng)估作為基石的量化治理方式具有可預(yù)測(cè)性、可協(xié)調(diào)性以及非人際化優(yōu)勢(shì)，有助于增加問責(zé)度、透明度和效率性。因此，自17世紀(jì)人類在教育領(lǐng)域首創(chuàng)量化和書面評(píng)估的方式開始，量化治理實(shí)踐開始向公共領(lǐng)域滲透和拓展，在審計(jì)、管理、審判以及立法領(lǐng)域被廣泛運(yùn)用。伴隨著數(shù)字革命的到來(lái)，社會(huì)治理方式突破了簡(jiǎn)單地、線性地使用數(shù)字進(jìn)行預(yù)測(cè)、衡量和協(xié)調(diào)的低階模式，開始以大數(shù)據(jù)分析為基礎(chǔ)，以政府開發(fā)的多元應(yīng)用為平臺(tái)，全方位推動(dòng)治理方式在時(shí)間、空間和對(duì)象等多個(gè)層面的深度轉(zhuǎn)變。
首先，數(shù)據(jù)解析技術(shù)在公共行政領(lǐng)域的廣泛應(yīng)用使得執(zhí)法者可以突破時(shí)間的限制，將相對(duì)人的過去、現(xiàn)在和未來(lái)緊密聯(lián)結(jié)，并將其作為精準(zhǔn)決策的依據(jù)。例如，美國(guó)和英國(guó)刑事司法系統(tǒng)中已經(jīng)依據(jù)被告的過往歷史、當(dāng)下犯罪指控等信息對(duì)其再犯風(fēng)險(xiǎn)進(jìn)行評(píng)估，從而作為保釋和量刑決策的參考依據(jù)。其次，遠(yuǎn)程通訊技術(shù)和數(shù)據(jù)共享技術(shù)可以突破空間的限制，在行政機(jī)構(gòu)甚至市場(chǎng)主體之間實(shí)時(shí)共享限制措施，形成聯(lián)動(dòng)制約網(wǎng)絡(luò)。例如，利用大數(shù)據(jù)技術(shù)廣泛歸集失信信息，各政府部門和市場(chǎng)主體已經(jīng)廣泛共享失信黑名單，形成“一處失信、處處受限”的聯(lián)動(dòng)懲戒局面。最后，人臉識(shí)別等人工智能技術(shù)突破了個(gè)體信息收集的物理限制，治理基礎(chǔ)不斷細(xì)粒化，實(shí)現(xiàn)以個(gè)體為單位的精準(zhǔn)跨域治理。例如，在新冠肺炎疫情防控期間，疫情防控部門利用步態(tài)識(shí)別技術(shù)通過人臉、步態(tài)、行為、穿著等特征對(duì)疫區(qū)返程人員開展多重精準(zhǔn)識(shí)別，即使個(gè)體在佩戴口罩的情況下，仍然可以通過多特征精準(zhǔn)識(shí)別和研判，實(shí)現(xiàn)多端聯(lián)動(dòng)和警示信息實(shí)時(shí)推送。由此可見，與數(shù)字治理相比，數(shù)據(jù)驅(qū)動(dòng)型治理是一種綜合工具、架構(gòu)和生態(tài)層面的深層次治理變革。
與迅速迭代的數(shù)據(jù)驅(qū)動(dòng)型技術(shù)相比，無(wú)論是在數(shù)據(jù)治理領(lǐng)域，還是在算法規(guī)制領(lǐng)域，相關(guān)法律規(guī)范更新卻呈現(xiàn)緩慢滯后的局面。大規(guī)模、系統(tǒng)化的算法行政實(shí)踐雖然具有客觀高效的優(yōu)勢(shì)，但卻可能對(duì)個(gè)體產(chǎn)生歧視和不公，侵害公民的隱私并導(dǎo)致行政機(jī)關(guān)產(chǎn)生信息依賴。筆者聚焦算法行政領(lǐng)域，深入剖析其架構(gòu)原理和本質(zhì)特征，以我國(guó)信用治理和信用監(jiān)管中的算法實(shí)踐為分析視角，結(jié)合《中華人民共和國(guó)個(gè)人信息保護(hù)法（草案）》（下稱《個(gè)人信息保護(hù)法（草案）》）中的核心條文，探討我國(guó)算法行政的法治化路徑。
一、技術(shù)賦權(quán)和技術(shù)賦能：算法行政的建構(gòu)原理
伴隨著海量數(shù)據(jù)和高效算力，大數(shù)據(jù)技術(shù)重新界定了國(guó)家、社會(huì)的互動(dòng)關(guān)系和二元邊界，實(shí)現(xiàn)了全方位、系統(tǒng)化的國(guó)家賦權(quán)和社會(huì)賦權(quán)。在社會(huì)層面，大數(shù)據(jù)技術(shù)賦予和擴(kuò)展了公民的知情權(quán)、表達(dá)權(quán)、參與權(quán)和監(jiān)督權(quán)，網(wǎng)絡(luò)政治生態(tài)的權(quán)力結(jié)構(gòu)呈現(xiàn)出動(dòng)態(tài)演化、合作共生和多方博弈的新圖景。在國(guó)家層面，通過控制底層代碼和塑造其運(yùn)行的合法環(huán)境，大數(shù)據(jù)技術(shù)重新分配了信息權(quán)力，對(duì)國(guó)家和政府賦能。一方面，網(wǎng)絡(luò)化、平臺(tái)化的生態(tài)環(huán)境促使政府轉(zhuǎn)變其在整個(gè)網(wǎng)絡(luò)生態(tài)中的樣態(tài)和架構(gòu)，由中心化、單一化的治理支點(diǎn)演變?yōu)槠脚_(tái)化、分布式的多元治理網(wǎng)絡(luò)，實(shí)現(xiàn)了治理信息收集、加工和反饋的及時(shí)、精準(zhǔn)與高效；另一方面，算法技術(shù)的專業(yè)性、高效性消解了傳統(tǒng)行政決策中專家和政府官員的知識(shí)性和專業(yè)性地位，重構(gòu)了行政決策多元主體之間的知識(shí)化和專業(yè)化格局。二者相互作用，促使算法技術(shù)擴(kuò)展式嵌入行政實(shí)踐之中，軟件代碼和統(tǒng)計(jì)操作趨向于取代法律規(guī)則，形成了“自動(dòng)分析、自動(dòng)決策、自動(dòng)執(zhí)行”的算法行政系統(tǒng)。
（一）大數(shù)據(jù)時(shí)代政府通過平臺(tái)化改造實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型
作為行政和強(qiáng)制性政治組織，政府機(jī)關(guān)在傳統(tǒng)時(shí)代以正當(dāng)使用暴力和統(tǒng)治結(jié)構(gòu)下的命令與服從關(guān)系從社會(huì)獲取資源，獲取國(guó)家在治理結(jié)構(gòu)中的自主性。伴隨著科學(xué)技術(shù)的出現(xiàn)，對(duì)效率、理性的推崇推動(dòng)國(guó)家進(jìn)入“技術(shù)治理”時(shí)代。首先，通過行政決策過程吸納專家參與，實(shí)現(xiàn)科學(xué)知識(shí)對(duì)行政決策所需信息和知識(shí)的聚合、分析和預(yù)測(cè)功能，實(shí)現(xiàn)國(guó)家和社會(huì)治理的科學(xué)化、理性化。但網(wǎng)絡(luò)時(shí)代的社會(huì)交往方式發(fā)生了實(shí)質(zhì)性改變，并且社會(huì)中的個(gè)體由小范圍、封閉式、親熟化的交往演變?yōu)榻柚苿?dòng)互聯(lián)技術(shù)的大范圍、開放式、陌生化的交往。個(gè)體在社會(huì)交往中所能產(chǎn)生的輻射和影響達(dá)到了前所未有的范圍和程度。其次，信息科學(xué)技術(shù)重塑了社會(huì)表達(dá)與集體行動(dòng)。公民借助互聯(lián)網(wǎng)平臺(tái)在公共空間中的影響與日俱增。公共溝通領(lǐng)域的熱門話題或者焦點(diǎn)事件常成為公民集體在線表達(dá)和集聚的誘因，具有線上線下相互轉(zhuǎn)化、虛實(shí)結(jié)合的特性。在網(wǎng)絡(luò)社會(huì)的新型架構(gòu)下，以國(guó)家和政府為中心節(jié)點(diǎn)、單一化和分散化的傳統(tǒng)治理思路的局限性開始顯現(xiàn)。面對(duì)動(dòng)態(tài)性、復(fù)雜性、場(chǎng)景化的治理對(duì)象，頻繁出現(xiàn)監(jiān)管真空、監(jiān)管滯后和監(jiān)管失效的問題。因此，以大數(shù)據(jù)技術(shù)為代表的新型信息技術(shù)進(jìn)入國(guó)家技術(shù)治理的視野，促使政府治理思路逐步實(shí)現(xiàn)從“總體支配”到“技術(shù)治理”的重要轉(zhuǎn)變。黨的十八屆三中全會(huì)提出推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化的重要目標(biāo)。“十三五”規(guī)劃綱要也提出以社會(huì)治理精細(xì)化為重點(diǎn)，充分運(yùn)用現(xiàn)代信息技術(shù)和大數(shù)據(jù)技術(shù)的重要目標(biāo)。
由此可見，自黨的十八屆三中全會(huì)提出“國(guó)家治理現(xiàn)代化”這一重要方針，國(guó)家和政府在治理網(wǎng)絡(luò)中的組織架構(gòu)、制度依托、決策工具和治理背景實(shí)現(xiàn)了全方位演進(jìn)。以電子政務(wù)泛在化、感知化和智能化為發(fā)端，我國(guó)政府向著智慧化、現(xiàn)代化、智能化、服務(wù)化的運(yùn)行形態(tài)和模式快速發(fā)展。在智慧政府到智慧城市的建設(shè)中，各類型“一站式、一門式、一網(wǎng)式、一窗式”的智能化便民綜合服務(wù)信息平臺(tái)在整合信息資源的基礎(chǔ)上，為行政相對(duì)人提供了個(gè)性化、精準(zhǔn)化、扁平化的服務(wù)。例如，在強(qiáng)勢(shì)推進(jìn)的社會(huì)信用體系建設(shè)過程中，各省市均基本建成統(tǒng)一的社會(huì)信用信息共享平臺(tái)以解決信息壁壘問題。以廈門為例，其打造了極具特色的“兩網(wǎng)、兩庫(kù)、兩窗口、一支撐”格局，其中，“兩網(wǎng)”即開通政務(wù)內(nèi)網(wǎng)“信用工作平臺(tái)”和“信用廈門”網(wǎng)站，“兩庫(kù)”即建成法人信用信息庫(kù)和自然人信用信息庫(kù)，“兩窗口”即在自貿(mào)區(qū)和政務(wù)服務(wù)中心分別設(shè)立信用服務(wù)窗口，“一支撐”即依托市級(jí)共享協(xié)同平臺(tái)搭建信用信息共享協(xié)同平臺(tái)。從技術(shù)治理的架構(gòu)視角來(lái)看，算法行政過程中依托的信用信息共享協(xié)同平臺(tái)集中體現(xiàn)了大數(shù)據(jù)時(shí)代政府平臺(tái)化和數(shù)字化的核心思路。
面對(duì)復(fù)雜、動(dòng)態(tài)、分散的治理對(duì)象，傳統(tǒng)條塊式的行政組織架構(gòu)無(wú)法適應(yīng)治理對(duì)象的高度流動(dòng)性和專業(yè)復(fù)雜性，因此，需要在組織架構(gòu)上作出實(shí)質(zhì)性改變，以解決條塊式架構(gòu)中存在的信息流動(dòng)不暢、決策滯后和應(yīng)對(duì)乏力的問題。大數(shù)據(jù)技術(shù)具有高效、便利、互聯(lián)互通的特性。通過利用信息技術(shù)將自身架構(gòu)延展至平臺(tái)化和扁平化樣態(tài)，政府機(jī)構(gòu)可以在原有的行政組織架構(gòu)中以最小邊際成本實(shí)現(xiàn)治理過程信息聚合能力和治理決策流動(dòng)性的提升，以此降低行政行為和公共服務(wù)帶給社會(huì)主體的成本。這種在架構(gòu)層面的治理邏輯的改變，集中性地體現(xiàn)出現(xiàn)代技術(shù)治理語(yǔ)境下，國(guó)家已經(jīng)不再是傳統(tǒng)意義上政治秩序生成的頂端，也不再是大型權(quán)力聚合體的存儲(chǔ)者，轉(zhuǎn)而調(diào)適并開始充當(dāng)規(guī)制權(quán)力技術(shù)設(shè)施的連接點(diǎn)（nexus）。這種平臺(tái)式的架構(gòu)，一方面，有助于打通各行政機(jī)關(guān)之間信息的共享和流轉(zhuǎn)，一定程度上減輕了條塊式監(jiān)管架構(gòu)的僵化問題；另一方面，平臺(tái)式架構(gòu)可以為政府行政提供“擴(kuò)展槽”，通過與社會(huì)性、商業(yè)性平臺(tái)的擴(kuò)展對(duì)接，形成更大范圍的輻射性和嵌入性。
（二）智能時(shí)代專家意見的主導(dǎo)地位讓位于數(shù)據(jù)和算法
早在德國(guó)社會(huì)學(xué)家韋伯論述“法制性支配”類型的官僚制特點(diǎn)時(shí)就曾指出，專業(yè)知識(shí)在確立官僚系統(tǒng)的優(yōu)越性上發(fā)揮著重要作用。專業(yè)知識(shí)一方面保證官僚系統(tǒng)擁有權(quán)力，另一方面官僚組織在處理政治事務(wù)過程中又可依靠累積的經(jīng)驗(yàn)和知識(shí)增強(qiáng)其權(quán)力。公共政策制定活動(dòng)的現(xiàn)代化和理性化思潮使得現(xiàn)代行政過程日益推崇“專家理性理論”，專家因具備“技術(shù)理性”而獲得行政決策的正當(dāng)性。因此，現(xiàn)代公共政策制定領(lǐng)域不僅對(duì)行政部門的專業(yè)知識(shí)、技術(shù)理性賦予較大信任，還進(jìn)一步擴(kuò)展專家群體的范圍，將“行政精英”以外的學(xué)術(shù)專家引入決策過程，構(gòu)建知識(shí)專業(yè)化運(yùn)作的縝密體系。這種在行政過程中對(duì)專家意見的推崇和尊重構(gòu)成了現(xiàn)代公共行政活動(dòng)的一大特點(diǎn)。然而，伴隨著信息技術(shù)的發(fā)展和應(yīng)用，下列三項(xiàng)核心誘因致使智能社會(huì)中的專家意見逐步讓位于數(shù)據(jù)和算法，客觀上為算法自動(dòng)化行政的應(yīng)用和普及奠定基礎(chǔ)。
首先，專家技術(shù)理性模式不斷高度專業(yè)化和技術(shù)化，并開始融合數(shù)據(jù)化的方式對(duì)自身參與的公共政策進(jìn)行論證和評(píng)價(jià)。例如，集中體現(xiàn)現(xiàn)代公共政策領(lǐng)域?qū)π姓䦟＜以u(píng)價(jià)理念的“技術(shù)理性”績(jī)效評(píng)價(jià)模型在過程和形式層面追求客觀理性化，注重科學(xué)、邏輯性的數(shù)據(jù)論證，通過知識(shí)篩選和數(shù)據(jù)結(jié)果設(shè)定對(duì)公共政策的績(jī)效作出具體評(píng)價(jià)。伴隨著決策績(jī)效數(shù)據(jù)化和理性化趨勢(shì)的增強(qiáng)，行政決策本身也進(jìn)一步呈現(xiàn)出量化和技術(shù)化特質(zhì)。因此，以技術(shù)理性為表征的量化績(jī)效評(píng)價(jià)制度為數(shù)據(jù)和算法進(jìn)入行政決策過程提供了重要的激勵(lì)機(jī)制。
其次，由大數(shù)據(jù)技術(shù)和平臺(tái)生態(tài)作為驅(qū)動(dòng)，衍生出數(shù)字時(shí)代的“分布式信任”（distributed trust）機(jī)制，使得公眾的信任流動(dòng)方向從權(quán)威專家和行政官僚開始流向數(shù)據(jù)和算法。正如牛津大學(xué)研究員瑞秋·波茨曼在《信任革命》中提出的，智能社會(huì)中公眾的信任模式已經(jīng)發(fā)生實(shí)質(zhì)性改變。一方面，數(shù)字信譽(yù)機(jī)制為公眾提供了“信任躍遷”（trust leap）動(dòng)力，使得公眾愿意承擔(dān)風(fēng)險(xiǎn)去嘗試新的東西或者改變傳統(tǒng)的行事方式。例如，公眾已經(jīng)頻繁使用網(wǎng)約車平臺(tái)搭乘陌生人的車或者通過愛彼迎入住陌生人的房屋。另一方面，伴隨著公眾對(duì)傳統(tǒng)機(jī)構(gòu)和組織信任的瓦解，區(qū)塊鏈提供的分布式賬本技術(shù)、大數(shù)據(jù)技術(shù)提供的個(gè)人信譽(yù)足跡追蹤服務(wù)重構(gòu)了人際關(guān)系規(guī)則 ，使得公眾信任的流動(dòng)方向由立法者、司法者和執(zhí)法者以及各類權(quán)威專家的機(jī)構(gòu)式信任開始平行流向基于數(shù)據(jù)、機(jī)器人和算法的“分布式信任”。這種信任和支持為算法自動(dòng)化決策的普遍應(yīng)用奠定了正當(dāng)性和合理性基礎(chǔ)。例如，當(dāng)知名非營(yíng)利組織ProPublica通過發(fā)布專門報(bào)告的方式揭露美國(guó)司法系統(tǒng)運(yùn)用COMPAS算法對(duì)被告進(jìn)行審前風(fēng)險(xiǎn)預(yù)測(cè)評(píng)估的程序可能存在種族歧視風(fēng)險(xiǎn)時(shí)，美國(guó)紐約州刑事司法部門仍然公開對(duì)該款軟件生成評(píng)估分?jǐn)?shù)的科學(xué)性和準(zhǔn)確性表示支持和信任。這種從一般公眾到行政官僚對(duì)數(shù)據(jù)、算法等技術(shù)的信任和支持為算法自動(dòng)化決策的普遍適用奠定了社會(huì)基礎(chǔ)。
最后，伴隨著規(guī)制對(duì)象的復(fù)雜化、動(dòng)態(tài)化、場(chǎng)景化特征的凸顯，信息權(quán)力在行政專家和大數(shù)據(jù)技術(shù)應(yīng)用之間進(jìn)行了重構(gòu)性分配，并對(duì)行政決策運(yùn)行模式和運(yùn)行生態(tài)朝向自動(dòng)化和智能化演進(jìn)起到了至關(guān)重要的作用。正如以色列歷史學(xué)家尤瓦爾·赫拉利曾提出的 “數(shù)據(jù)主義”潮流所根植的一種信念，即人類決策者并不具有將大量數(shù)據(jù)流提煉成信息、知識(shí)或者智慧的能力，因此數(shù)據(jù)處理工作應(yīng)當(dāng)委托給具有計(jì)算能力的算法，其能力遠(yuǎn)超過人腦。以被喻為經(jīng)濟(jì)發(fā)展新引擎的數(shù)字經(jīng)濟(jì)為例，其以數(shù)字技術(shù)創(chuàng)新應(yīng)用為牽引，以多元化、場(chǎng)景化、個(gè)性化為特征，實(shí)現(xiàn)了經(jīng)濟(jì)產(chǎn)業(yè)要素的全面重構(gòu)和深度融合。以大數(shù)據(jù)、云計(jì)算、人工智能為代表的數(shù)字技術(shù)深度嵌入，并不斷擴(kuò)展到新業(yè)態(tài)和新模式的迭代發(fā)展之中，引發(fā)了監(jiān)管模式、監(jiān)管理念、監(jiān)管生態(tài)的全面變革。由于新興業(yè)態(tài)多具有模式新、主體多、法律關(guān)系復(fù)雜等特點(diǎn)，僅依靠傳統(tǒng)專家治理模式開展信息收集和處理，其局限性日益凸顯。因此，順勢(shì)而為，積極利用大數(shù)據(jù)和算法技術(shù)，提升行政機(jī)構(gòu)數(shù)字治理能力成為題中應(yīng)有之義。
（三）軟件編碼和統(tǒng)計(jì)操作趨向于取代法律規(guī)則
在《通過數(shù)字的治理》一書中，法國(guó)學(xué)者阿蘭·蘇皮奧特（Alain Supiot）率先指出憲法和法律秩序已經(jīng)呈現(xiàn)數(shù)字化轉(zhuǎn)向，數(shù)學(xué)量化已經(jīng)成為新的規(guī)范性法律基礎(chǔ)。一些學(xué)者甚至提出，伴隨著數(shù)據(jù)和推理方法的不斷積累，最終會(huì)達(dá)到美國(guó)學(xué)者雷·庫(kù)茲韋爾提出的與“技術(shù)奇點(diǎn)”相匹配的“法律奇點(diǎn)”（legal singularity）時(shí)刻。無(wú)論是數(shù)字治理，還是法律奇點(diǎn)，核心意涵均體現(xiàn)為法律規(guī)范的可計(jì)算性。伴隨著數(shù)字技術(shù)和人工智能的發(fā)展，很多曾經(jīng)被認(rèn)為是隱形和傳統(tǒng)的知識(shí)開始變得可被編碼和計(jì)算。正是因?yàn)榉梢?guī)則所具有的可計(jì)算性特征使得算法行政決策從基礎(chǔ)原理上變得可能。就法律規(guī)則的構(gòu)成要素而言，其以條件假定、行為模式和后果模式為核心結(jié)構(gòu)對(duì)人們的權(quán)利、義務(wù)和法律后果進(jìn)行規(guī)定。法律規(guī)則所具有的微觀指導(dǎo)性、可操作性、確定性、邏輯性、體系性使其可以在很大程度上被代碼化。大數(shù)據(jù)技術(shù)具有識(shí)別出人類無(wú)法檢測(cè)到的模式和相關(guān)性的能力，并將海量數(shù)據(jù)轉(zhuǎn)換為特定的高度數(shù)據(jù)密集型的知識(shí)形式，從而創(chuàng)造出新的知識(shí)生產(chǎn)模式。在實(shí)踐中，很多法律規(guī)則已經(jīng)被簡(jiǎn)化為一系列數(shù)字化的參數(shù)和指標(biāo)，甚至具有被軟件編碼和統(tǒng)計(jì)操作所取代的趨勢(shì)。例如，奧巴馬在2013年5月發(fā)布的行政命令中規(guī)定，所有政府發(fā)布的公共文件均應(yīng)當(dāng)以機(jī)器可讀格式發(fā)布。英國(guó)金融行為管理局已經(jīng)開發(fā)出“機(jī)器可執(zhí)行的監(jiān)管”（machine-executable regulation），其以代碼形式發(fā)布監(jiān)管，具有即時(shí)、自動(dòng)、成本低廉、精準(zhǔn)和自我實(shí)現(xiàn)的特點(diǎn)。此外，在荷蘭的萊布尼茨法律中心發(fā)起的“元法律”（MetaLex）項(xiàng)目中通過XML格式對(duì)法律規(guī)則進(jìn)行編碼轉(zhuǎn)換，使得行政部門能夠輕松訪問不同級(jí)別乃至不同國(guó)家和語(yǔ)言轉(zhuǎn)換后的以元數(shù)據(jù)格式為表現(xiàn)形式的法律規(guī)則，使其成為具備機(jī)器可讀性和可執(zhí)行性的法律代碼。因此，伴隨著大數(shù)據(jù)、云計(jì)算和云存儲(chǔ)技術(shù)的興起，以算法為核心架構(gòu)嵌入公共行政領(lǐng)域中的算法規(guī)制（algorithmic regulation）作為一種新的社會(huì)秩序系統(tǒng)漸次出現(xiàn)。這一規(guī)制形式通過收集規(guī)制環(huán)境中各類組件產(chǎn)生的實(shí)時(shí)數(shù)據(jù)，計(jì)算并分析相關(guān)行為以及可能產(chǎn)生的風(fēng)險(xiǎn)，為達(dá)到預(yù)定監(jiān)管目標(biāo)形成最優(yōu)管理策略并動(dòng)態(tài)優(yōu)化具體執(zhí)行方式。
綜上所述，算法自動(dòng)化行政的架構(gòu)原理基于三個(gè)層面依次發(fā)生。首先，國(guó)家和政府轉(zhuǎn)變自身的技術(shù)治理理念，將自身重置為具有平臺(tái)化、數(shù)字化特質(zhì)的“規(guī)制權(quán)力技術(shù)設(shè)施連接點(diǎn)”，為算法行政實(shí)踐提供組織基礎(chǔ)和發(fā)展契機(jī)。其次，專家技術(shù)理性績(jī)效評(píng)價(jià)、分布式信任和智能社會(huì)信息權(quán)力的再分配致使專家意見逐步讓位于數(shù)據(jù)和算法，客觀上為算法行政的應(yīng)用和普及奠定制度基礎(chǔ)。最后，法律規(guī)范的可計(jì)算性和大數(shù)據(jù)技術(shù)的興起使得海量數(shù)據(jù)被轉(zhuǎn)換為特定的數(shù)據(jù)密集型知識(shí)形式，算法規(guī)制作為一種新的社會(huì)秩序系統(tǒng)最終得以出現(xiàn)。在組織基礎(chǔ)、制度基礎(chǔ)和技術(shù)基礎(chǔ)的綜合作用下，算法行政一方面深刻地體現(xiàn)出計(jì)算理性對(duì)溝通理性和公共話語(yǔ)空間的轉(zhuǎn)換；另一方面，當(dāng)算法通過優(yōu)先級(jí)配置、分類、關(guān)聯(lián)以及過濾四項(xiàng)功能嵌入行政決策的各個(gè)領(lǐng)域之時(shí)，還勾畫出技術(shù)對(duì)國(guó)家和政府的動(dòng)態(tài)賦權(quán)和賦能過程。數(shù)據(jù)和算法不僅作為現(xiàn)代社會(huì)的信息要素和治理客體而存在，更從宏觀層面作為基礎(chǔ)治理環(huán)境和重要治理技術(shù)而存在。
二、我國(guó)算法行政的核心特征和相關(guān)風(fēng)險(xiǎn)：以信用監(jiān)管為例
目前已有大量英文文獻(xiàn)梳理和探討域外算法行政的實(shí)踐規(guī)律和本質(zhì)特征，但聚焦于我國(guó)自動(dòng)化行政實(shí)踐的研究仍然十分有限。在厘清算法行政架構(gòu)原理的基礎(chǔ)上，本部分以我國(guó)信用監(jiān)管實(shí)踐為例，深入探究我國(guó)算法行政的特征和可能存在的相關(guān)風(fēng)險(xiǎn)。
面對(duì)我國(guó)社會(huì)日益嚴(yán)峻的信任危機(jī)和原有信任治理資源的頻繁失效，以數(shù)據(jù)驅(qū)動(dòng)的新型信用治理應(yīng)運(yùn)而生。《社會(huì)信用體系建設(shè)規(guī)劃綱要（2014—2020年）》 中指出信用治理要“以健全覆蓋社會(huì)成員的信用記錄和信用基礎(chǔ)設(shè)施網(wǎng)絡(luò)為基礎(chǔ)，以信用信息合規(guī)應(yīng)用和信用服務(wù)體系為支撐”。《促進(jìn)大數(shù)據(jù)發(fā)展行動(dòng)綱要》 中也指出要建立“用數(shù)據(jù)說(shuō)話、用數(shù)據(jù)決策、用數(shù)據(jù)管理、用數(shù)據(jù)創(chuàng)新”的管理機(jī)制，在信用體系建設(shè)環(huán)節(jié)，推動(dòng)數(shù)據(jù)匯聚整合和關(guān)聯(lián)分析，提高信用治理的精準(zhǔn)性和有效性。因循這一治理思路，2019年發(fā)布的《關(guān)于加快推進(jìn)社會(huì)信用體系建設(shè)構(gòu)建以信用為基礎(chǔ)的新型監(jiān)管機(jī)制的指導(dǎo)意見》 中進(jìn)一步指出，以加強(qiáng)信用監(jiān)管為著力點(diǎn)，創(chuàng)新監(jiān)管理念、監(jiān)管制度和監(jiān)管方式，建立健全貫穿市場(chǎng)主體全生命周期，銜接事前、事中、事后全監(jiān)管環(huán)節(jié)的新型監(jiān)管機(jī)制。由此可見，從頂層架構(gòu)出發(fā)，我國(guó)的信用監(jiān)管和信用治理領(lǐng)域正在以數(shù)據(jù)驅(qū)動(dòng)型治理為思路，以算法自動(dòng)化決策為機(jī)制，積極籌建創(chuàng)新型、智能型、精準(zhǔn)型的算法行政機(jī)制。目前的實(shí)踐和探索中，我國(guó)算法行政集中展現(xiàn)出如下三項(xiàng)核心特征和相關(guān)風(fēng)險(xiǎn)。
（一）以統(tǒng)一社會(huì)信用代碼為基礎(chǔ)構(gòu)建多類信用信息平臺(tái)
如前文所述，算法自動(dòng)化行政的構(gòu)建機(jī)理之一在于政府通過平臺(tái)化改造實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型。實(shí)際上，無(wú)論是政治管控邏輯還是商業(yè)生產(chǎn)邏輯，都可以通過微觀層面的“賬戶—數(shù)據(jù)—評(píng)分”框架予以統(tǒng)一，通過平臺(tái)化改造實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型并獲得“規(guī)制能力”（regulability）。具體而言，一方面，需要政府作為平臺(tái)打造其縱向控制結(jié)構(gòu)，例如通過身份認(rèn)證、行為追蹤、記錄評(píng)分等形式構(gòu)建規(guī)制能力。另一方面，還需要在橫向維度將多類別的信用信息平臺(tái)聯(lián)通，通過信用信息互享互通、自動(dòng)對(duì)接等方式擴(kuò)展其規(guī)制能力的輻射邊界。以福州市為例，在推進(jìn)信用領(lǐng)域的算法行政實(shí)踐時(shí)按照“一庫(kù)、一平臺(tái)、一網(wǎng)、N應(yīng)用”的架構(gòu)原則具體搭建底層基礎(chǔ)設(shè)施。
為構(gòu)建智能化、數(shù)字化、精準(zhǔn)化的信用監(jiān)管和信用治理機(jī)制，我國(guó)首先通過公民個(gè)人身份證號(hào)碼和組織機(jī)構(gòu)代碼建立起統(tǒng)一的社會(huì)信用代碼，將個(gè)人和組織的身份數(shù)字化，為信用信息收集和記錄個(gè)體信譽(yù)足跡活動(dòng)提供縱向底層架構(gòu)。社會(huì)信用代碼對(duì)于個(gè)人和組織身份識(shí)別具有唯一性、真實(shí)性和準(zhǔn)確性，可以滿足信用記錄長(zhǎng)期性、連續(xù)性、準(zhǔn)確性和全面性的要求。數(shù)字化的身份識(shí)別代碼還可以打通多個(gè)行政機(jī)構(gòu)之間的子系統(tǒng)，為信息高效收集、互通流轉(zhuǎn)和共享奠定重要基礎(chǔ)。在實(shí)施社會(huì)信用代碼的基礎(chǔ)上，我國(guó)各行政部門對(duì)業(yè)務(wù)系統(tǒng)加以改造，建立了一批社會(huì)信用信息共享平臺(tái)與智慧審批平臺(tái)、網(wǎng)上執(zhí)法平臺(tái)、公共資源交易平臺(tái)。這些平臺(tái)自動(dòng)對(duì)接，實(shí)現(xiàn)了橫向的互聯(lián)互通，通過實(shí)現(xiàn)自動(dòng)比對(duì)、自動(dòng)攔截、自動(dòng)監(jiān)督、自動(dòng)懲戒、自動(dòng)反饋等方式有效擴(kuò)展算法規(guī)制能力的橫向邊界。
這種橫縱兼具的數(shù)字化信用治理平臺(tái)極大地?cái)U(kuò)展了政府的規(guī)制能力，為構(gòu)建守信聯(lián)合激勵(lì)和失信聯(lián)合懲戒制度，推進(jìn)失信被執(zhí)行人跨部門協(xié)同監(jiān)管奠定了規(guī)制基礎(chǔ)。但與此同時(shí)，由于信用獎(jiǎng)懲機(jī)制通過信用畫像模型和各省市各部門建立的信用信息平臺(tái)系統(tǒng)化、高效化、泛在化地嵌入多元應(yīng)用場(chǎng)景之中，一旦發(fā)生信用信息記錄錯(cuò)誤或者基于某一信用特征要素設(shè)定存在偏誤，就可能導(dǎo)致某一個(gè)體或者某一群體在基于信用畫像的算法行政系統(tǒng)中被不當(dāng)鎖定，可能在多個(gè)場(chǎng)景中受到不利影響。以《廈門市守信聯(lián)合激勵(lì)與失信聯(lián)合懲戒行為清單》《廈門市守信聯(lián)合激勵(lì)與失信聯(lián)合懲戒措施清單》建立的聯(lián)合獎(jiǎng)懲機(jī)制為例，僅第一批清單就涉及23個(gè)領(lǐng)域、238項(xiàng)聯(lián)合獎(jiǎng)懲措施。《威海市級(jí)查詢使用信用記錄事項(xiàng)清單》亦推動(dòng)在45個(gè)部門的263個(gè)行政管理事項(xiàng)中查詢使用信用記錄，涉及評(píng)先選優(yōu)、干部任用、行政審批、財(cái)政性資金安排、公共資源交易等領(lǐng)域，初步形成了“辦事先查信用”的工作機(jī)制。因此，平臺(tái)化、數(shù)字化的政府雖然通過橫縱架構(gòu)極大地增強(qiáng)了規(guī)制能力，但這種平臺(tái)化架構(gòu)還同時(shí)暗藏風(fēng)險(xiǎn)，一旦個(gè)體受到算法歧視，將會(huì)有極高的概率延續(xù)現(xiàn)有的分類和階層現(xiàn)狀，發(fā)生個(gè)體不公的結(jié)構(gòu)性鎖定效應(yīng)。
（二）以大數(shù)據(jù)模型進(jìn)行信用畫像建模推動(dòng)信用治理自主化和全周期化
信用畫像又稱為信用建模，是指通過收集、匯聚、分析等方法對(duì)個(gè)人和企業(yè)信用狀況利用相關(guān)數(shù)據(jù)進(jìn)行自動(dòng)化處理，并對(duì)其信用相關(guān)特征作出量化分析和預(yù)測(cè)，形成信用特征模型的過程。在我國(guó)信用監(jiān)管實(shí)踐中，已廣泛利用大數(shù)據(jù)模型展開信用畫像作為具體監(jiān)管決策的依據(jù)。例如，蘇州地稅依托江蘇地稅數(shù)據(jù)庫(kù)，開發(fā)了自然人納稅信用管理平臺(tái)，對(duì)自然人基本情況、涉稅行為及相關(guān)財(cái)產(chǎn)信息等定向采集，借助省、市政府信息交換平臺(tái)，與銀行、工商、司法、海關(guān)、房產(chǎn)管理、國(guó)土資源等部門進(jìn)行信息交換，獲取自然人失信違約、行政處罰及資產(chǎn)等信息，作為自然人納稅信用評(píng)定的重要補(bǔ)充。在平臺(tái)化和數(shù)字化基礎(chǔ)之上，蘇州地稅局還積極運(yùn)用網(wǎng)絡(luò)爬蟲等互聯(lián)網(wǎng)工具，對(duì)各類網(wǎng)站發(fā)布的征信內(nèi)容進(jìn)行收集，借助大數(shù)據(jù)技術(shù)對(duì)納稅人進(jìn)行信用畫像，據(jù)此實(shí)施分類服務(wù)和管理，作為自然人納稅信用評(píng)定的參考指標(biāo)。這一實(shí)施機(jī)理與英國(guó)稅務(wù)機(jī)關(guān)利用欺詐和逃稅行為模型識(shí)別可疑的納稅申報(bào)表的實(shí)踐具有異曲同工之處。英國(guó)稅務(wù)機(jī)關(guān)開發(fā)的大數(shù)據(jù)模型Connect（聯(lián)結(jié)）使用文本和數(shù)據(jù)挖掘技術(shù)，一方面提取包含在三十多個(gè)結(jié)構(gòu)化數(shù)據(jù)庫(kù)中的包括工資單或者土地登記事項(xiàng)的相關(guān)信息，另一方面提取來(lái)自社交網(wǎng)站或者政府網(wǎng)站的非結(jié)構(gòu)化數(shù)據(jù)構(gòu)建個(gè)人申報(bào)收入的欺詐性監(jiān)測(cè)指標(biāo)。一旦發(fā)現(xiàn)異常，該模型可以將相關(guān)數(shù)據(jù)自動(dòng)發(fā)送給行政機(jī)關(guān)，并依據(jù)代碼啟動(dòng)程序自動(dòng)執(zhí)行法律，通過直接將稅收規(guī)則應(yīng)用于所收集的事實(shí)數(shù)據(jù)來(lái)規(guī)定納稅人應(yīng)付金額。在確定金額的過程中，還會(huì)限制稅務(wù)人員對(duì)執(zhí)行規(guī)則和繳納金額的裁量空間。在蘇州地稅采用的信用畫像模型中，對(duì)稅收相關(guān)法律規(guī)則進(jìn)行解構(gòu)形成建模指引，通過對(duì)納稅人的行為特征及風(fēng)險(xiǎn)偏好、遵從傾向進(jìn)行歸納、分析和預(yù)測(cè)，設(shè)定關(guān)鍵性、客觀性指標(biāo)進(jìn)行評(píng)估并賦予分值，形成四項(xiàng)信用等級(jí)并生成個(gè)人納稅信用趨勢(shì)分析報(bào)告。這種算法行政實(shí)踐集中體現(xiàn)出了“自動(dòng)收集數(shù)據(jù)、自動(dòng)化分析、自動(dòng)化決策、自動(dòng)化執(zhí)行”的自主性和全周期性特點(diǎn)。
這一實(shí)施模式無(wú)疑具有高效、精準(zhǔn)的績(jī)效優(yōu)勢(shì)，極大地節(jié)省了稅務(wù)機(jī)關(guān)的人力和財(cái)力。但在算法日益具有自主性決策地位的行政實(shí)踐中，這可能引致以下兩種風(fēng)險(xiǎn)。首先，為提升精準(zhǔn)性和可預(yù)測(cè)性，信用畫像采用的數(shù)據(jù)既包括結(jié)構(gòu)化信用數(shù)據(jù)，又包括非結(jié)構(gòu)化數(shù)據(jù)。在未獲得當(dāng)事人知情和同意的前提下，對(duì)當(dāng)事人社交媒體平臺(tái)發(fā)布的非結(jié)構(gòu)化數(shù)據(jù)進(jìn)行抓取和分析，形成具有直觀利益影響的信用畫像，可能對(duì)個(gè)人信息的自主可控帶來(lái)不利影響。其次，信用畫像模型和大數(shù)據(jù)監(jiān)測(cè)技術(shù)的自主性逐步增強(qiáng)。一些信用監(jiān)管實(shí)踐中采用的自動(dòng)對(duì)接、自動(dòng)比對(duì)、自動(dòng)攔截、自動(dòng)監(jiān)督、自動(dòng)懲戒模式可能消解相對(duì)人的知情權(quán)、參與權(quán)、異議權(quán)甚至救濟(jì)權(quán)。
（三）以指數(shù)化和智能化打造動(dòng)態(tài)信用分級(jí)分類監(jiān)管工具
在頂層設(shè)計(jì)、平臺(tái)建設(shè)、信用智能模型建設(shè)之外，我國(guó)的信用監(jiān)管和信用治理還呈現(xiàn)指數(shù)化、指標(biāo)化、動(dòng)態(tài)化和智能化特征。在“信用+監(jiān)管”“互聯(lián)網(wǎng)+監(jiān)管”作為核心指導(dǎo)思想推動(dòng)監(jiān)管改革的政策背景下，我國(guó)各省市、各層級(jí)、各部門的監(jiān)管機(jī)構(gòu)開始廣泛利用大數(shù)據(jù)和云計(jì)算等信息技術(shù)著力推動(dòng)監(jiān)管有效性。這些監(jiān)管工具多以大數(shù)據(jù)和云計(jì)算技術(shù)為支撐，對(duì)接各類信用信息平臺(tái)，形成指數(shù)化、指標(biāo)化、動(dòng)態(tài)化、智能化的分類分級(jí)監(jiān)管。目前，我國(guó)信用監(jiān)管指數(shù)工具主要在全國(guó)層面、各省市層面和專業(yè)監(jiān)管層面予以適用。
首先，以國(guó)家信息中心為主體，通過全國(guó)城市信用狀況監(jiān)測(cè)平臺(tái)對(duì)收集和監(jiān)測(cè)的5 000多個(gè)網(wǎng)站公開信用信息、各省信用信息共享平臺(tái)、各城市黑名單統(tǒng)計(jì)數(shù)據(jù)形成綜合評(píng)價(jià)，定期發(fā)布對(duì)全國(guó)36個(gè)城市的綜合信用指數(shù)排名。國(guó)家發(fā)展改革委通過參考這一綜合指數(shù)，對(duì)相關(guān)行為主體與信用有關(guān)的活動(dòng)和行為進(jìn)行監(jiān)測(cè)，并生成對(duì)城市信用狀況的綜合評(píng)價(jià)。其次，以廣州公共資源交易中心為代表，一些省市自行創(chuàng)設(shè)信用指數(shù)并將其運(yùn)用到行政決策之中。例如，廣州公共資源交易中心通過大數(shù)據(jù)技術(shù)每日抓取各方交易主體信用信息，通過智能算法為企業(yè)進(jìn)行信用評(píng)分，每日動(dòng)態(tài)更新發(fā)布公共資源交易信用指數(shù)，并將信用評(píng)價(jià)結(jié)果廣泛應(yīng)用到建設(shè)工程招投標(biāo)、政府采購(gòu)等領(lǐng)域，信用評(píng)價(jià)范圍覆蓋招標(biāo)人、投標(biāo)人、評(píng)價(jià)專家等各方主體。最后，監(jiān)管機(jī)構(gòu)還與第三方平臺(tái)企業(yè)合作，通過協(xié)同聯(lián)動(dòng)機(jī)制構(gòu)建細(xì)分監(jiān)管領(lǐng)域的信用指數(shù)監(jiān)管工具。例如，浦東新區(qū)市場(chǎng)監(jiān)管局率先運(yùn)用“大數(shù)據(jù)”理念，嘗試在網(wǎng)絡(luò)訂餐行業(yè)實(shí)施“互聯(lián)網(wǎng)+信用監(jiān)管”模式，在陸家嘴地區(qū)通過入網(wǎng)餐飲單位的市場(chǎng)主體信息基礎(chǔ)數(shù)據(jù)及動(dòng)態(tài)監(jiān)管數(shù)據(jù)，建立有關(guān)營(yíng)業(yè)執(zhí)照、餐飲服務(wù)許可證、食品安全量化分級(jí)監(jiān)管信息。在該餐飲平臺(tái)中生成的信用評(píng)價(jià)、交易記錄、投訴舉報(bào)等數(shù)據(jù)也同步傳輸?shù)奖O(jiān)管機(jī)關(guān)，形成大數(shù)據(jù)技術(shù)與信用監(jiān)管實(shí)踐的深度融合。
智能化、動(dòng)態(tài)化的信用監(jiān)管指數(shù)基于綜合評(píng)價(jià)和統(tǒng)計(jì)指數(shù)理論，運(yùn)用大數(shù)據(jù)技術(shù)，對(duì)信用信息進(jìn)行采集、匯總、分析、加工和綜合處理，通過建構(gòu)指標(biāo)和權(quán)重賦分體系，借助指數(shù)模型和測(cè)算方法反映樣本主體的信用狀況 ，為行政決策提供重要參考。其不僅具有較強(qiáng)的客觀性、整體性，其動(dòng)態(tài)化采集還具有及時(shí)性、精細(xì)性和預(yù)測(cè)性特征，而且有助于監(jiān)管機(jī)關(guān)實(shí)現(xiàn)全周期視角的分級(jí)分類監(jiān)管。但與此同時(shí)，指數(shù)類監(jiān)管工具的開發(fā)和使用還可能伴隨諸多風(fēng)險(xiǎn)。
首先，指數(shù)類監(jiān)管工具需要一定的數(shù)據(jù)積累以對(duì)分析模型不斷優(yōu)化。若數(shù)據(jù)或者樣本不充分，可能對(duì)準(zhǔn)確性和有效性產(chǎn)生影響。其次，由于指數(shù)類監(jiān)管工具涉及利用大數(shù)據(jù)技術(shù)進(jìn)行復(fù)雜建模。很多行政機(jī)構(gòu)采用政府購(gòu)買服務(wù)的方式委托平臺(tái)科技企業(yè)代為開發(fā)，開發(fā)后的監(jiān)管工具可能被直接應(yīng)用于平臺(tái)企業(yè)利益相關(guān)領(lǐng)域，因此可能存在“技術(shù)俘獲”的風(fēng)險(xiǎn)。再次，大數(shù)據(jù)分析技術(shù)聚焦事物相關(guān)性而非因果性，若無(wú)算法影響評(píng)估制度進(jìn)行定期評(píng)估，指數(shù)類信用監(jiān)管工具的完整性、科學(xué)性和準(zhǔn)確性可能存在有效性和準(zhǔn)確性風(fēng)險(xiǎn)。最后，伴隨信用指數(shù)工具呈現(xiàn)跨部門跨領(lǐng)域化，信用監(jiān)管工具不斷嵌入和拓展應(yīng)用到復(fù)雜場(chǎng)景之中，如何妥善處理人機(jī)協(xié)作以及如何對(duì)依據(jù)其作出的具體行政行為進(jìn)行有效解釋和說(shuō)明也將產(chǎn)生技術(shù)和制度的雙重挑戰(zhàn)。綜上所述，信用監(jiān)管領(lǐng)域廣泛應(yīng)用的指數(shù)類指標(biāo)雖然高效、便捷，但可能在透明度、問責(zé)度以及公正性層面仍存在局限性。
三、算法行政的法治化路徑——兼論《個(gè)人信息保護(hù)法（草案）》
前文通過剖析算法行政構(gòu)建原理，以信用監(jiān)管領(lǐng)域?yàn)槔偨Y(jié)了我國(guó)算法行政實(shí)踐的核心特征以及與之伴隨的相關(guān)風(fēng)險(xiǎn)。以大數(shù)據(jù)技術(shù)為代表的各類信息科技既是算法行政的運(yùn)行背景，也是其得以有效實(shí)施的核心驅(qū)動(dòng)力。但在算法行政實(shí)踐激揚(yáng)時(shí)代之時(shí)，平臺(tái)化、自主化、全周期化和指數(shù)化為內(nèi)核的新型監(jiān)管實(shí)踐還需因循法治化發(fā)展路徑，對(duì)算法權(quán)力予以合理控制，對(duì)行政相對(duì)人的程序性權(quán)利予以保障，以確保算法行政實(shí)踐在包容審慎、科學(xué)公正的基礎(chǔ)上有序發(fā)展。綜覽我國(guó)相關(guān)立法，《中華人民共和國(guó)個(gè)人信息保護(hù)法》一旦通過，將是第一部系統(tǒng)性、綜合性、基礎(chǔ)性地對(duì)自動(dòng)化決策和自然人個(gè)人信息自動(dòng)化處理予以規(guī)定的法律。該部草案稿一共八章70條，對(duì)個(gè)人信息處理規(guī)則、個(gè)人信息處理活動(dòng)中各方的權(quán)利和義務(wù)以及履行個(gè)人信息保護(hù)職責(zé)的部門予以了系統(tǒng)規(guī)定。本部分聚焦于《個(gè)人信息保護(hù)法（草案）》中與算法影響評(píng)估、算法審計(jì)和公共事業(yè)領(lǐng)域自動(dòng)化決策活動(dòng)相關(guān)的核心條文，為探尋我國(guó)算法行政的法治化路徑提供規(guī)則層面的討論基礎(chǔ)。
（一）建議細(xì)化算法行政過程中個(gè)人信息處理應(yīng)遵循的合法性和必要性原則
《個(gè)人信息保護(hù)法（草案）》第二章第三節(jié)專門對(duì)國(guó)家機(jī)關(guān)處理個(gè)人信息進(jìn)行了規(guī)定，是本次立法的一大亮點(diǎn)，彌補(bǔ)了長(zhǎng)時(shí)間以來(lái)我國(guó)網(wǎng)絡(luò)與信息化立法多聚焦商業(yè)場(chǎng)景中的自動(dòng)化決策而忽略公共事業(yè)場(chǎng)景中算法行政的薄弱之處。我國(guó)已有立法中，《中華人民共和國(guó)電子商務(wù)法》《網(wǎng)絡(luò)交易管理辦法》《數(shù)據(jù)安全管理辦法（征求意見稿）》均對(duì)商業(yè)場(chǎng)景下自動(dòng)化決策應(yīng)當(dāng)遵循的原則和合規(guī)框架進(jìn)行了規(guī)定。但面對(duì)實(shí)踐中公共事業(yè)場(chǎng)景中算法行政應(yīng)用已趨于泛在化和規(guī)模化的急迫現(xiàn)實(shí)，相關(guān)立法卻十分滯后和薄弱。如本文前述，以數(shù)據(jù)驅(qū)動(dòng)型治理為內(nèi)核的信用監(jiān)管風(fēng)潮已經(jīng)形成，一系列信用信息共享平臺(tái)和大數(shù)據(jù)信用畫像已經(jīng)在各個(gè)層級(jí)和領(lǐng)域內(nèi)作為行政決策的基礎(chǔ)架構(gòu)和重要參考，但卻鮮有立法從根本上對(duì)算法行政過程中個(gè)人信息處理規(guī)則進(jìn)行規(guī)定。這導(dǎo)致算法行政的應(yīng)用邊界不斷擴(kuò)展之時(shí)，公眾可能無(wú)從知曉某一對(duì)其產(chǎn)生影響的決策是由算法作出的，對(duì)于決策形成過程亦無(wú)法有效參與。即使知曉相關(guān)決策的存在，個(gè)體亦難以理解算法決策的運(yùn)行邏輯和具體依據(jù)，因此持有異議并挑戰(zhàn)算法決策的行動(dòng)空間十分有限。因此，《個(gè)人信息保護(hù)法（草案）》第34條規(guī)定，“國(guó)家機(jī)關(guān)為履行法定職責(zé)處理個(gè)人信息，應(yīng)當(dāng)依照法律、行政法規(guī)規(guī)定的權(quán)限、程序進(jìn)行，不得超出履行法定職責(zé)所必需的范圍和限度”。這一規(guī)定在一定程度上確立了算法行政的合法性和必要性原則。例如，我國(guó)目前存在對(duì)于個(gè)人失信信息的界定和收集不當(dāng)夸大化，一些地方政府存在濫用信用監(jiān)管技術(shù)的問題。因此，第34條的規(guī)定有助于國(guó)家機(jī)關(guān)在處理個(gè)人信息時(shí)嚴(yán)格遵守法律、行政法規(guī)授予的權(quán)限和程序，防止不當(dāng)使用甚至濫用算法行政工具。
另外，《個(gè)人信息保護(hù)法（草案）》第35條規(guī)定，國(guó)家機(jī)關(guān)為履行法定職責(zé)處理個(gè)人信息，應(yīng)當(dāng)依照本法規(guī)定向個(gè)人告知并取得其同意。本條對(duì)于初步確立算法行政領(lǐng)域的“通知—公告”機(jī)制具有重要意義。以信用監(jiān)管和信用治理為例，哪些信息應(yīng)當(dāng)被納入信用信息，對(duì)于其邊界很多公民或者市場(chǎng)主體并不知曉。對(duì)于一些地方政府或者行政部門利用大數(shù)據(jù)技術(shù)生成公民或者企業(yè)信用畫像的行為和技術(shù)原理，更是鮮有制度化的通知程序，對(duì)于相對(duì)人的知情權(quán)、參與權(quán)乃至異議權(quán)的行使均帶來(lái)不利影響。例如在交通運(yùn)輸領(lǐng)域，若鐵路公安局或者國(guó)家發(fā)改委等國(guó)家機(jī)關(guān)通過全國(guó)信用信息共享平臺(tái)將相對(duì)人列入限制乘坐火車高級(jí)別席位名單或者限制乘坐火車人員名單，依據(jù)相關(guān)規(guī)定，僅需鐵路運(yùn)輸企業(yè)在中國(guó)鐵路客戶服務(wù)中心（12306）網(wǎng)站、“信用中國(guó)”網(wǎng)站發(fā)布限制購(gòu)買車票人員名單的完整信息，并未要求其提供個(gè)性化的通知和公告程序。實(shí)踐中，很多相對(duì)人直到自己購(gòu)買車票受到限制之時(shí)才意識(shí)到其已被列入限制名單，且常出現(xiàn)因不知情而錯(cuò)過公示期和異議期的窘境。由此可見，通過立法確認(rèn)并保障相對(duì)人在實(shí)質(zhì)層面的知情權(quán)和同意權(quán)具有重要意義。因此，建議立法機(jī)關(guān)在條文中對(duì)國(guó)家機(jī)關(guān)自動(dòng)化處理個(gè)人信息的告知形式和要求進(jìn)行適當(dāng)細(xì)化規(guī)定，以避免實(shí)踐中以統(tǒng)一公示代替告知從而使得知情同意流于形式。總體而言，《個(gè)人信息保護(hù)法（草案）》能夠以專節(jié)形式提出國(guó)家機(jī)關(guān)處理個(gè)人信息的原則和應(yīng)當(dāng)履行的法定職責(zé)，對(duì)于未來(lái)搭建公共事業(yè)場(chǎng)景中自動(dòng)化決策的法治化治理框架具有重要意義。
（二）建議引入算法影響評(píng)估制度以擴(kuò)展自動(dòng)化決策風(fēng)險(xiǎn)事前評(píng)估制度
《個(gè)人信息保護(hù)法（草案）》第54條第1款規(guī)定，“個(gè)人信息處理者應(yīng)當(dāng)對(duì)下列個(gè)人信息處理活動(dòng)在事前進(jìn)行風(fēng)險(xiǎn)評(píng)估，并對(duì)處理情況進(jìn)行記錄：……（二）利用個(gè)人信息進(jìn)行自動(dòng)化決策”；第2、3款規(guī)定，“風(fēng)險(xiǎn)評(píng)估的內(nèi)容應(yīng)當(dāng)包括：（一）個(gè)人信息的處理目的、處理方式等是否合法、正當(dāng)、必要；（二）對(duì)個(gè)人的影響及風(fēng)險(xiǎn)程度；（三）所采取的安全保護(hù)措施是否合法、有效并與風(fēng)險(xiǎn)程度相適應(yīng)。風(fēng)險(xiǎn)評(píng)估報(bào)告和處理情況記錄應(yīng)當(dāng)至少保存三年”。該條在我國(guó)立法中首次明確規(guī)定了自動(dòng)化決策風(fēng)險(xiǎn)評(píng)估制度。但此次立法中確立的是自動(dòng)化決策風(fēng)險(xiǎn)的事前評(píng)估制度，與國(guó)際上通行的算法影響評(píng)估實(shí)踐雖有類似亦有不同。實(shí)際上，美國(guó)、加拿大和英國(guó)均已通過明確立法要求公共事業(yè)場(chǎng)景中行政領(lǐng)域使用的算法技術(shù)開展算法影響評(píng)估。算法影響評(píng)估制度作為算法問責(zé)制的核心支柱已經(jīng)日益獲得廣泛關(guān)注。其要求算法設(shè)計(jì)者、開發(fā)者和使用者從事前、事中和事后等全數(shù)據(jù)周期階段對(duì)算法的技術(shù)架構(gòu)、防治不良影響的技術(shù)措施、權(quán)利救濟(jì)渠道、算法透明實(shí)現(xiàn)機(jī)制等方面進(jìn)行系統(tǒng)評(píng)估。從《個(gè)人信息保護(hù)法（草案）》第54條的規(guī)定來(lái)看，我國(guó)確立的自動(dòng)化決策風(fēng)險(xiǎn)事前評(píng)估制度與美國(guó)、加拿大等國(guó)確立的算法影響評(píng)估制度有四點(diǎn)核心差異。
第一，我國(guó)草案稿集中于風(fēng)險(xiǎn)評(píng)估，而非更為廣泛的影響性評(píng)估。但從操作層面來(lái)看，何謂風(fēng)險(xiǎn)其實(shí)是一個(gè)棘手而又難以解決的問題。只有明晰了風(fēng)險(xiǎn)的衡量標(biāo)準(zhǔn)和基準(zhǔn)，才可能在此之上搭建起更具可行性的平臺(tái)。第二，我國(guó)的風(fēng)險(xiǎn)評(píng)估主要集中于對(duì)個(gè)人的影響和風(fēng)險(xiǎn)程度。而目前國(guó)際中的通行做法不僅聚焦于對(duì)個(gè)人的影響，還對(duì)社會(huì)、經(jīng)濟(jì)、生態(tài)等多方面的影響予以關(guān)照。第三，我國(guó)的風(fēng)險(xiǎn)評(píng)估并不區(qū)分被評(píng)估系統(tǒng)的優(yōu)先級(jí)。實(shí)際上，歐盟、美國(guó)和加拿大的算法影響評(píng)估，更加注重對(duì)自動(dòng)化決策系統(tǒng)重要性、應(yīng)用場(chǎng)景的劃分，在重點(diǎn)領(lǐng)域中實(shí)施更為嚴(yán)格的評(píng)估方法。第四，我國(guó)的風(fēng)險(xiǎn)評(píng)估聚焦于事前階段，而國(guó)際通行的算法影響評(píng)估實(shí)際上是采取事前、事中和事后階段的全周期視角的評(píng)估。
算法影響評(píng)估制度實(shí)際上對(duì)于創(chuàng)建負(fù)責(zé)、公正、安全、透明的算法行政實(shí)踐具有至關(guān)重要的制度意義，其不僅有助于政府機(jī)關(guān)科學(xué)系統(tǒng)地評(píng)估行政領(lǐng)域采用智能化分析工具的風(fēng)險(xiǎn)以及對(duì)個(gè)體、社會(huì)、經(jīng)濟(jì)乃至生態(tài)帶來(lái)的影響，還能夠促使行政機(jī)關(guān)開發(fā)并創(chuàng)建更為人性和公正的算法行政系統(tǒng)。尤其在與個(gè)人基本權(quán)利密切相關(guān)的高風(fēng)險(xiǎn)行政領(lǐng)域之中，算法影響評(píng)估制度更加有助于科學(xué)、審慎地對(duì)算法技術(shù)分階段地合理利用。因此，建議我國(guó)立法機(jī)關(guān)可以適時(shí)擴(kuò)展自動(dòng)化決策風(fēng)險(xiǎn)事前評(píng)估制度的適用階段、啟動(dòng)條件和適用場(chǎng)景，將算法影響評(píng)估引入自動(dòng)化行政程序的視野之中。
（三）建議明確算法行政領(lǐng)域的算法審計(jì)制度并適當(dāng)擴(kuò)展審計(jì)依據(jù)
《個(gè)人信息保護(hù)法（草案）》第53條規(guī)定：“個(gè)人信息處理者應(yīng)當(dāng)定期對(duì)其個(gè)人信息處理活動(dòng)、采取的保護(hù)措施等是否符合法律、行政法規(guī)的規(guī)定進(jìn)行審計(jì)。履行個(gè)人信息保護(hù)職責(zé)的部門有權(quán)要求個(gè)人信息處理者委托專業(yè)機(jī)構(gòu)進(jìn)行審計(jì)。”該條明確規(guī)定了個(gè)人信息處理的審計(jì)制度。就自動(dòng)化個(gè)人信息處理而言，僅通過賦予個(gè)人以新型系列權(quán)利的方式難以周全保證治理實(shí)效。個(gè)人在行使各項(xiàng)權(quán)利時(shí)，基于時(shí)間、精力、知識(shí)等限制，可能出現(xiàn)怠于行使或者行使不利等情形。因此，我國(guó)立法中要求個(gè)人信息處理者采取系統(tǒng)化的審計(jì)措施有助于與個(gè)人數(shù)據(jù)和算法權(quán)利形成協(xié)同效應(yīng)。
綜觀國(guó)際相關(guān)立法，歐盟和美國(guó)、加拿大等國(guó)家均在與算法問責(zé)制度相關(guān)的立法中明確規(guī)定了對(duì)自動(dòng)化決策處理進(jìn)行稽核的算法審計(jì)制度。例如，最早頒布算法問責(zé)制相關(guān)立法的紐約自動(dòng)化決策工作組就通過發(fā)布指南、會(huì)議召集等方式在公共事業(yè)領(lǐng)域中積極推動(dòng)算法審計(jì)實(shí)踐。就較為通行的算法審計(jì)實(shí)踐而言，不僅審計(jì)過程中需要對(duì)算法應(yīng)用的基礎(chǔ)數(shù)據(jù)是否存有偏差進(jìn)行定期檢查，以確保模型部署后的公平性，還需要對(duì)模型設(shè)計(jì)、如何使算法更具道德性和可解釋性等方面提出具體審計(jì)報(bào)告。算法審計(jì)的重要目的在于算法對(duì)公民和社會(huì)造成不良影響之前就采取預(yù)防和糾正措施。我國(guó)目前的算法行政實(shí)踐中，由行政機(jī)關(guān)主動(dòng)開展的算法審計(jì)鮮有報(bào)道。但由于第三方科技企業(yè)既常成為政府委托購(gòu)買服務(wù)的承擔(dān)主體，又會(huì)成為日后相關(guān)領(lǐng)域的被監(jiān)管主體，因此對(duì)公共事業(yè)場(chǎng)景中的算法應(yīng)用實(shí)行審計(jì)具有十分重要的政策意涵。
從目前國(guó)際通行的治理實(shí)踐來(lái)看，我國(guó)此次立法規(guī)定了自動(dòng)化決策審計(jì)制度無(wú)疑具有重要意義。但現(xiàn)有規(guī)則設(shè)計(jì)集中性地存在兩點(diǎn)不足。首先，對(duì)于在何種情形下由個(gè)人信息處理者進(jìn)行內(nèi)部審計(jì)，何種情形下需要啟動(dòng)外部審計(jì)未能予以規(guī)定。一方面可能對(duì)于個(gè)人信息處理者的合規(guī)指引不清，另一方面可能使得審計(jì)制度流于形式而未能起到真正效果。建議立法者適當(dāng)考慮應(yīng)用場(chǎng)景和優(yōu)先等級(jí)，對(duì)公民基本權(quán)利可能產(chǎn)生實(shí)質(zhì)性影響的行政領(lǐng)域規(guī)定強(qiáng)制性的算法審計(jì)制度，具體的啟動(dòng)條件、認(rèn)定標(biāo)準(zhǔn)和審計(jì)主體可以通過次級(jí)立法予以詳細(xì)規(guī)定。其次，目前的條文中規(guī)定算法審計(jì)的依據(jù)限定為符合法律、法規(guī)，而未采取國(guó)際上較為通行的“法律法規(guī)+道德倫理”的審計(jì)模式。這可能使得我國(guó)規(guī)定的算法審計(jì)制度在審計(jì)內(nèi)容上存在局限。智能社會(huì)中法律、法規(guī)常常滯后于技術(shù)的發(fā)展和應(yīng)用實(shí)踐，若作為單一審計(jì)依據(jù)可能存在局限性。因此，建議立法機(jī)關(guān)適當(dāng)擴(kuò)展算法審計(jì)的依據(jù)，及時(shí)吸收具有共識(shí)性和已在國(guó)際算法審計(jì)實(shí)踐中被上升為正式規(guī)則的倫理規(guī)范，為算法審計(jì)制度落到實(shí)處奠定良好的規(guī)則基礎(chǔ)。
四、結(jié)語(yǔ)
自工業(yè)革命以來(lái)，每一次技術(shù)變革都引發(fā)了社會(huì)形態(tài)、社會(huì)結(jié)構(gòu)以及社會(huì)治理方式的改變。大數(shù)據(jù)、人工智能等當(dāng)代信息科技迅猛發(fā)展，孕育并推動(dòng)了數(shù)字社會(huì)的全面誕生，促進(jìn)了數(shù)據(jù)驅(qū)動(dòng)型治理實(shí)踐的出現(xiàn)。在大數(shù)據(jù)時(shí)代，政府因循社會(huì)架構(gòu)的變革規(guī)律，通過平臺(tái)化改造實(shí)現(xiàn)了數(shù)字化轉(zhuǎn)型，為算法行政奠定了底層基礎(chǔ)架構(gòu)。公共政策技術(shù)理性績(jī)效評(píng)價(jià)模式、分布式信任和智能社會(huì)信息權(quán)力的再分配致使專家意見逐步讓位于數(shù)據(jù)和算法，客觀上為算法自動(dòng)化行政的應(yīng)用和普及奠定了制度基礎(chǔ)。法律規(guī)范的可計(jì)算性和大數(shù)據(jù)技術(shù)的興起使得海量數(shù)據(jù)被轉(zhuǎn)換為特定的高度數(shù)據(jù)密集型知識(shí)形式，算法規(guī)制作為一種新的社會(huì)秩序系統(tǒng)得以出現(xiàn)。算法行政雖然高效、智能、動(dòng)態(tài)、精準(zhǔn)，但其可能對(duì)個(gè)體權(quán)利產(chǎn)生實(shí)質(zhì)性影響，在決策透明度、問責(zé)度以及公正性層面亦存在風(fēng)險(xiǎn)。因此，應(yīng)當(dāng)明確算法行政應(yīng)當(dāng)遵循的合法、透明、問責(zé)、公正等核心原則，實(shí)施算法影響評(píng)估制度和算法審計(jì)制度，將算法行政實(shí)踐切實(shí)納入法治化發(fā)展路徑。