加強演算法風險全流程治理 創設演算法規範“中國方案”

　　2022年3月1日，國家網際網路信息辦公室、工業和資訊化部、公安部、市場監管總局聯合發佈的《網際網路資訊服務演算法推薦管理規定》（下文簡稱《規定》）正式施行。在大數據經濟時代，演算法是個人資訊處理者收集和處理數據、推送資訊、調配資源的核心力量。演算法一旦失范，將給國家利益、社會公共利益和公民合法權益帶來嚴重威脅。因此，《規定》的施行具有鮮明的時代意義和現實需求。

　　演算法是電腦的核心運作邏輯，是一套基於設計目的的數據處理指令的總和，在底層上體現出專業科技的特點。演算法也是一門賦能技術，應用場景為賦能領域，當演算法應用到具體的商業模式當中，就會產生應用型風險。演算法關係就是這樣一種“方式”與“領域”的疊加關係或結合關係。因此，演算法規範不能不談 “方式”，演算法的設計、測試、評估屬於科技活動，“演算法黑箱”、“演算法霸權”部分是因科技活動本身的不規範所致；演算法規範也不能只談“方式”，因為正是演算法層出不窮的應用場景，使得演算法現實地影響我們的權益，影響人的自由發展。《規定》充分把握了演算法的內生性風險和應用型風險，有針對性地設計風險防範規則。

　　第一，演算法內生性風險的控制重點在演算法的設計和運作階段。演算法的設計、測試、評估非專業人士不能為之，這種“排他性”表明演算法活動是一項專門技術。演算法黑箱、演算法歧視等痼疾的產生，部分也源於科技活動本身的複雜性。因此，對科技活動的規範，需要從科技風險防範的角度設計專門規則。《規定》鼓勵使用演算法傳播正能量、抵制違法和不良資訊，不得設置誘導用戶沉迷、過度消費等有違倫理道德的演算法模型，推動演算法向上向善。表明瞭作為科技活動的演算法研發不能僅有工具理性，必須具有價值理性。

　　在具體規則層面，《規定》也側重於從技術角度，直接規範演算法設計和運作。例如，第9條第1款要求演算法推薦服務提供者建立健全用於識別違法和不良資訊的特徵庫，完善入庫標準、規則和程式；第10條要求演算法推薦服務提供者加強用戶模型和用戶標簽管理；第12條鼓勵演算法推薦服務提供者綜合運用內容去重、打散干預等策略，並優化檢索、排序、選擇、推送、展示等規則的透明度和可解釋性等等。

　　特別值得關注的是，《規定》第24條規定演算法備案制度，要求演算法推薦服務提供者提供演算法類型、演算法自評估報告、擬公示內容等資訊。科技活動風險控制首推風險評估與實驗數據記錄。如果演算法活動缺乏風險評估，則使得風險無法從源頭控制；如果演算法設計和檢驗缺乏記錄，則監管機構無法進行有效地評估、追溯和驗證複雜演算法。備案制度一定意義上倒逼演算法推薦服務提供者積極進行風險評估和全流程記錄，既能督促運營者在整個演算法活動階段考慮演算法合規問題，也有助於幫助執法機關監督演算法活動。

　　第二，演算法應用型風險的治理覆蓋了演算法運作的全生命週期。演算法既是科學技術，也是賦能手段，其除了具備科技固有的風險之外，也因在商業和公共事業領域的嵌入式應用，對源於工業時代立法模式和治理模式不斷衝擊，引發了諸多治理痛點。在應用環節，我們也要貫徹程式性控制。但演算法應用有著不同於演算法研發的特殊性：演算法應用直接作用於演算法相對人。演算法應用將影響演算法相對人的合法權益——演算法針對演算法相對人的訴求做出決定。為了解決應用型風險，《規定》針對未成年人、老年人、勞動者和大數據殺熟等場景，分別配置相應的行為規則（第19條至第21條）。為了實現自下而上的演算法治理，《規定》還通過權利路徑，賦予個人對抗演算法決策的權利。

　　《規定》第17條第1款規定：“演算法推薦服務提供者應當向用戶提供不針對其個人特徵的選項，或者向用戶提供便捷的關閉演算法推薦服務的選項。用戶選擇關閉演算法推薦服務的，演算法推薦服務提供者應當立即停止提供相關服務。”相較于《個人資訊保護法》第24條第2款的規定，本條進一步明確規定了演算法應用拒絕權。

　　此外，第17條第2款規定：“演算法推薦服務提供者應當向用戶提供選擇或者刪除用於演算法推薦服務的針對其個人特徵的用戶標簽的功能。”該條規定為我國首創，能夠更全面地保護演算法相對人的利益。演算法相對人可能並不是要求演算法使用人停止推薦服務，而是禁止推定特定類型的服務。通過賦予演算法相對人刪除標簽的權利，能夠更全面的滿足用戶的要求。

　　同時，《規定》第17條第3款還規定：“演算法推薦服務提供者應用演算法對用戶權益造成重大影響的，應當依法予以說明並承擔相應責任。”比如，在動態定價當中，如果推薦給用戶的價格偏高，可能構成對用戶權益的重大影響。用戶可以要求演算法推薦服務提供者給予說明。如果構成侵犯民事權益的，演算法推薦服務提供者應根據法律規定承擔相應責任。

　　演算法風險的全流程治理，在“風險-規制”框架下尋找新的平衡點和組合方式。演算法在本質上是處理數據的代碼，是一項應用科學技術。但技術並非中立，尤其是當演算法處理的不是“物”、而是“個人資訊”時，演算法活動就兼具社會活動屬性，內涵倫理和社會風險。因此，演算法規範難題部分來源於科技的專業性和工具性，部分來源於應用場景當中的價值複雜性。《規定》針對科技風險與應用風險設計規則，在“風險-規制”框架下創設了演算法規範的中國方案。

　　（作者：林洹民，浙江大學光華法學院講師，工業與資訊化法治研究院研究員）