自動化決策算法引起的法律風險已引起越來越多的社會關注，建議推行以國家機關為主體的算法評估或審計制度，切實保障個人的知情權和算法解釋權。
在人工智慧應用場景較多的領域，自動化決策算法引起的法律風險已經引起越來越多的社會關注，其中比較典型的是自動駕駛汽車致損和金融領域的數字貨幣被盜案件。在這些引起全球性產業變革和行業競爭態勢變化的科技創新過程中，如何在現有法律的框架內解決算法自動化決策的法律問題，以及在未來的立法和監管制度上平衡高科技企業的利益、個人權益和社會安全，需要從國際視野和「數字中國」建設實際兩個方面出發進行思考。
自動化決策應
以服務型算法為主要規範對象
自動駕駛汽車致人死傷案件近年來不斷出現。2016年全球首起「特斯拉自動駕駛」車禍致死案因為舉證困難至今尚未判決（《民主與法制時報》2020年10月22日）。此類案件的發生是自主決定算法的直接侵權責任，也是算法設計者、汽車生產者和銷售者的連帶責任，以及汽車生產者和駕駛員之間的不真正連帶責任，目前缺乏法定劃分標準。此類算法不同於服務合同中算法的侵權責任，應當屬於以算法技術為核心、以產品為載體的侵權責任。因此，它並不能簡單通過業界對一般服務型算法規制所提出的增強算法透明度、賦予權利人算法解釋權來解決問題。服務類算法造成的風險主要是濫用數據挖掘和深度學習技術，不當收集、分析用戶數據，並利用用戶畫像對用戶進行定製化服務，甚至對用戶進行歧視性定價或進行差別化對待。這屬於服務合同中履行從給付義務或附隨義務不適當而引起的侵權責任。當然，此時也有可能形成不正當競爭或壟斷。《中華人民共和國個人信息保護法（草案）》（簡稱《草案》，徵求意見截止日期2020年11月19日）對個人信息的保護，主要適用於此種網絡信息或中介服務而引起的侵權責任。《草案》在第25條第1款規定，利用個人信息進行自動化決策，應當保證決策的透明度和處理結果的公平合理。筆者認為，自動化決策對其權益造成重大影響的，有權要求個人信息處理者予以說明，並有權拒絕個人信息處理者僅通過自動化決策的方式做出決定。《草案》第25條第2款進一步限定了自動化決策的適用場景，「通過自動化決策方式進行商業營銷、信息推送，應當同時提供不針對其個人特徵的選項。」由此可見，該條的自動化決策應以服務型算法為主要規範對象。
自動化決策以必要為原則
不同於人臉識別技術、地理位置定位技術、會話跟蹤技術等對用戶敏感信息的收集、分析、預測和共享等人格權大數據的不當處理引發的隱私權擔憂，個別的自動化決策（如自動化駕駛汽車、私人數字貨幣的應用等）將在具體產品利用和交易場景下產生特定化的侵權行為。前者可能發生身份被竊取、用戶信息或數據無法消除或被不當利用的潛在風險，後者則會發生人身權和財產權遭受不可逆轉的現實損害。
目前，《草案》僅在第31條對個人敏感信息的處理規定了必要性原則，並未如歐盟《一般數據保護條例》一樣將「對於數據主體和數據控制者之間的合同達成和履行必要」作為自動化決策的前提。《一般數據保護條例》規定，數據主體要求數據控制者對算法進行解釋，這實際將證明自動化決定必要性的舉證責任分配給了數據控制者。但《草案》第25條則將證明對個人權益造成重大影響的舉證負擔施加給了自然人。
雖然《草案》第25條也規定了自動化決策的透明度和結果公平合理的前提，但個人顯然在舉證不能的情況下無法行使算法解釋權。算法解釋權是一種非常被動的事後響應措施，數據處理者是否對此進行解釋，或者解釋能否滿足個人的請求，以及如果數據處理者以符合現行國標或行業強制標準為由，逃避對自動化決定行為與行為效果之間因果關係的進一步解釋，個人並無權依據解釋權受損而請求賠償。因此，該解釋權是一種沒有具體權利內容和缺乏法律效果的程序性權利，而非實體性的人格權或數據權。
實行算法審計和評估
鑑於此，在現行產品責任並不能完全解決自動駕駛汽車侵權損害中的潛在損害，以及因果關係證明責任分擔時，可以考慮引入《一般數據保護條例》中對於解釋權行使必要性的限制條件。同時，考慮到算法控制者可能會通過修改算法底層協議或採用不同程式語言來規避該解釋權，對特殊行業的算法，建議推行以國家機關為主體的算法評估或審計制度，並將這種審計結果以強制信息披露的方式予以公開，使個人的知情權得到切實保護。此外，建議由算法主體在提供自動化決策服務時，盡到《中華人民共和國民法典》第496條要求的特別說明的義務。
《區塊鏈信息服務管理規定》第9條規定，「區塊鏈信息服務提供者開發上線新產品、新應用、新功能的，應當按照有關規定報國家和省、自治區、直轄市網際網路信息辦公室進行安全評估。」按照中國人民銀行發布的《金融分布式帳本技術安全規範》第12.7條規定，金融服務提供者應對智能合約進行審計，並保留審計記錄。這可能會在一定程度上犧牲企業的商業秘密權，但在未來的長遠發展上，可以平衡企業經濟效益與個人權益保障、社會安全之間的利益，從而促進社會和諧發展。
（作者系北京化工大學法律系副教授）