據中央財經大學法學院消息，2021年5月27日下午，中財人工智能與網絡法學術沙龍第10期在學院南路校區舉行。中國人民公安大學法學院副教授、數據法學研究院院長蘇宇應邀到訪中央財經大學法學院，在學術會堂603為中央財經大學法學院師生作了主題為“算法治理的技術化轉型”的學術沙龍報告。
北京科技大學文法學院副教授張凌寒，清華大學法學院助理研究員劉云，中央財經大學法學院講師李敏擔任與談嘉賓。中央財經大學數字經濟與法治研究中心執行主任、法學院副教授劉權擔任主持人。本次學術沙龍分為報告人主講、與談人發言與互動交流三個環節。
在主講環節，蘇宇副教授作了精彩的主題報告。首先，蘇宇副教授以一張清晰明了的圖片向大家展示算法規制的譜系。接下來，蘇宇副教授從技術化治理的手段示例、技術化轉型的法律挑戰與邁向未來法治三個方面，詳細闡述算法治理的技術化轉型問題。算法治理的技術性手段可以概括為七個方面。
一是算法驗證，即算法應用面向用戶或公眾提供一個公開的查驗渠道，使用戶、交易者或第三方機構有機會檢驗算法能否實現其所宣稱的目標，從而對算法的運行機理建立相當程度的了解和預期。二是算法標準，包括信息安全、網絡安全、人工智能、區塊鏈、大數據等方面的技術性標準，算法標準在未來的算法治理中將扮演越來越重要的角色。三是算法認證。具體來講，算法認證機制可以系統地檢驗算法是否能夠實現其所聲稱的目標，主要是由有資質機構的第三方認證，國內外已有相當多的實踐。四是算法審計，主要是基于系統的輸入、輸出與流水記錄檢查算法是否可靠、是否存在系統性偏見等。五是算法影響評估。算法影響評估制度是指依據系統制定的衡量標準對自動化決策系統的應用流程、數據使用和系統設計等內容進行系統評判，以明確該系統的影響水平和風險等級的一種算法治理實踐。六是必要安全措施，指法律規范或行政機關依據法律授權直接要求管理和運行算法應用的主體建立有效的風險控制機制。七是智能檢測與預警，即通過自動化的技術機制直接發現和處理技術風險。針對以上各個方面，主講人列舉了技術性治理機制的實例，闡釋技術性治理機制如何全面滲透到算法治理之中。
之后，蘇宇副教授指出，技術化轉型所帶來的法律挑戰可以歸納為對法律規則的挑戰以及對法律人的挑戰。在法律規則挑戰層面，一方面，事實構成的判斷需要越來越多地借助技術標準和技術過程，極大地考驗執法者的專業性；另一方面，專業第三方意見日益重要，需要發展確保公正的專業第三方參與規則；此外，標準制定與修訂的合法性與合理性也面臨考驗。同時，技術化轉型對法律人提出了更高的要求。在解決相關問題時，法律人更需要交叉學科知識與技能的儲備，包括細分的“第二專業槽”，如計算機語言和數理知識的進一步細分支撐；此外還需要有應對未充分制度化的前沿領域的能力。面對法律人在政策制定方面失聲的情況，蘇宇副教授提出，在當前主要通過法教義學培養法律人才的背景下，應當及早為法律人才賦能，多方面打開法律人才參與技術治理的通道，迎接未來治理的挑戰。
最后，蘇宇副教授對法治現代化建設的未來進行展望。他認為，我們現在的法律是寫在文本上的，但未來的法律將會是寫在代碼里的，法律關系也將迎接全新的“函數化”的轉變。我們正站在時代的風口，關鍵在于，我們能不能在學術研究中、在法律實踐里、在法學教育上做好充足的準備，迎接未來法治的變革。
與談人發言環節，張凌寒副教授首先作出回應。她以“硬科幻”與“軟科幻”作類比，形象地評價蘇宇副教授的報告內容為“硬學術”，繼而謙虛地稱自己對于算法的研究為“軟學術”。張凌寒副教授談到，技術標準將成為未來算法治理甚至是社會治理最重要的環節。例如，食品藥品監管領域有嚴格的技術標準；在槍擊案件的偵查和審判過程中，也會請彈道專家進行技術認定。可見，技術標準對于法律有著突出的影響，尤其在人工智能和算法大規模實施的過程中，技術越來越融入法律。繼而，張凌寒副教授提出，從法學領域研究技術標準，存在以下三個問題：其一，技術標準影響主觀過錯；其二，標準就是權力，標準意味著程序；其三，技術標準決定了執法和司法的標準。最后，張凌寒副教授以自身經歷出發，啟發同學們用積極的態度對待數據和算法問題，鼓勵大家不要因為缺乏學科基礎而懼怕探索新的知識領域。
劉云博士談了這次報告對他的啟發。他認為，我們需要深入理解互聯網結構的形成歷史和未來方向，區分技術自治和法律規制，法律人不僅要從事事后的規范研究，也要致力于參與互聯網底層邏輯的設計，從事網絡與信息法學研究要擯棄自己是純粹文科生的定位。接下來，他對技術標準這一問題發表自己的幾點看法。第一，《標準化法》定義了標準的內涵和國家標準的范圍，法律法規與技術標準應當互相支撐配合，有助于細化法律要求和降低締約成本。第二，我們在越來越多的領域逐漸制定國家標準，標準的合規性是需要關注的問題，需要注意防范標準泛化的問題。此外，劉云博士對算法可解釋性問題發表了自己的觀點，他認為要區分符號主義的算法和連接主義的算法，可以劃分出一些高風險領域，包括自動化領域、算法決策領域、信用領域等，對這些領域進行可解釋性研究將會對我們的實踐產生較大幫助。
李敏老師對蘇宇副教授的部分觀點十分贊同。李敏老師從金融法的角度切入，談及對算法的治理問題。她首先回應了蘇宇副教授提出的技術化轉型對法律人的挑戰，結合自身經歷，談到在當今技術應用越來越廣泛的情況下，技術和法律更需要結合起來，因此跨學科人才培養也是一個值得重視的問題。此外，李敏老師提出了一個疑問，在大數據應用中，機器學習容易導致算法歧視的結果，我們應該怎樣治理與解決這個問題？
傾聽了三位與談嘉賓的精彩發言后，蘇宇副教授針對部分觀點做出回應。對于引起熱烈討論的技術標準的問題，他認為，標準的制定過程在以后也將如同行政法學中所講的“行政過程政治化”一樣，將會變成一個多方利益博弈的“政治過程”，需要不斷建構和完善標準制定和修訂的程序。對于李敏老師提出的疑問，蘇宇副教授也給予回應：根據不同標準，可以采取三種判斷方式。第一，運用統計學方法，進行機器判斷與人工判斷的對比。第二，在涉及重要公共利益或重大個人法益的領域要求開放源代碼，并檢查其中是否存在不恰當的分類。第三，通過泰勒展開式擬合AI決策函數等數學機制判斷，設定影響限度。
在自由討論環節，同學們踴躍發言，紛紛提出自己的疑問與思考。法學院2020級民商法專業碩士生惠琳琳就區塊鏈存儲中個人信息的可刪改性提出疑問；2020級法律法學專業碩士生李健強提出，因為算法誤判造成的使用人的損失，該由誰來承擔責任；2020級金融服務法專業碩士生馬文潔提問，源代碼公開是否會涉及商業秘密，對此如何平衡監管；2020級憲法學與行政法學專業碩士生古雪就自動化行政裁量問題提出了獨到的觀點和疑問。蘇宇副教授對同學們的提問一一作出精彩的回應。
劉權副教授對本次學術沙龍進行總結。他談到，人工智能靠算法，人類智能靠思維。算法無處不在，我們每個人幾乎都無法逃離“算法”。正確運用算法可以增加客觀性，可以提供更多的智能服務和智能產品，但算法同時會產生許多新問題。如何進行有效的算法治理，是全球法律人所面臨的共同的難題。如何打破算法黑箱、進行算法解釋，如何解決算法規制過程中可能產生的知識產權保護問題，如何進行算法問責，都值得深入研究。從公法角度來看，數字政府建設也大量涉及算法，如智慧立法、自動化決策、自動化行政、智慧司法。對算法的研究，需要打破學科界限，從公私法融合的角度進行系統研究。目前，各國在算法規制上采取了不同的做法；在未來，我們有必要進一步加強立法，從法律層面對算法進行規制，如制定《算法法》。
最后，劉權副教授再次衷心感謝與會嘉賓的到來，感謝大家就算法治理的技術化轉型發表了許多精彩觀點。第10期中財人工智能與網絡法學術沙龍在熱烈的掌聲中結束。