編者按
隨著網絡化、數位化、智能化的飛速融合發展，人類逐漸步入信息社會時代和數字時代。黨的十九屆五中全會強調，要堅定不移建設數字中國。整體推進社會數位化轉型是一項系統性工程，司法在其中扮演者關鍵角色、承擔了重要使命，同時也面臨一系列課題和挑戰。如何重塑數字時代的司法理念，如何實現工作模式、辦案方式的整體性轉變，如何讓司法為國家治理、社會發展全方位賦能，都值得我們理性審視和深入思考。
「75號咖啡」將以「數字時代的司法觀」為主題，以「大咖來訪」「法律沙龍」兩種形式，對司法人工智慧、大數據治理等進行深入探討。
第二期，帶來中國人民大學教授、博士生導師陳衛東在上海市檢察院的講座實錄「法律人工智慧的技術、理論與應用問題」。
content
本期目錄
一、司法智能化建設要正視技術的複雜性和階段性
二、開發司法人工智慧產品的理論邊界問題
三、人工智慧在輔助量刑中的應用問題
中國人民大學教授、博士生導師 陳衛東
大家好，非常感謝上海市檢察院的邀請，今天通過視頻方式，就法律人工智慧與檢察理論創新，跟大家做一個交流。
信息技術和信息產業蓬勃發展，成為全球產業變革的重要引擎，「無人經濟」快速發展。當代社會，以信息化、數位化為技術起點和功能載體的人工智慧為社會建設帶來了新機遇，其應用領域不斷拓展，公共服務、行政執法、醫療衛生、金融監管、交通服務等領域都愈發仰賴人工智慧的技術支持，不少領域的專用人工智慧應用已然呈現出成熟之勢。正是基於人工智慧的時代引領價值，世界主要發達國家均把開發與應用人工智慧定位為提升核心競爭力的國家戰略目標，力圖在新一輪的國際競爭中掌握科技主導權。
科學技術在刑事司法中的運用由來已久，而大數據、人工智慧等新興信息技術的助推，更是掀起了一波更為浩大的司法科技化浪潮，人工智慧技術與刑事司法業務迅速融合，誕生了服務於司法工作的人工智慧法律系統。近年來，中國的法律人工智慧的研發和應用突飛猛進，湧現了一批又一批的司法智能化產品。這一法律現象的出現，無論從宏觀層面還是從微觀層面上，都給我們帶來了一系列新的研究命題。
對此，我主要從以下三個方面談談自己的看法。
法律人要想理性認知法律人工智慧這一新命題，首先要對目前法律領域大數據和人工智慧的進展狀況有一個清醒的判斷，要尊重它的複雜性和階段性。雖然人工智慧技術的發展速度令人驚嘆，但是不得不說，理論上的可能性和技術上的可行性之間依然存在不小的鴻溝。
根據智能機器與人類自主意識的對比關係為標準來劃分，人工智慧的發展為三個階段：「弱人工智慧」「強人工智慧」和「超人工智慧」。整體來看，智能機器的研究和應用基本上處於「弱人工智慧」階段，其主要功能是進行信息的高效處理，在法律領域的應用主要是法律信息檢索系統和法律專家系統。「強人工智慧」是智能機器下一步的發展方向，它的出現意味著對人類思維的模擬和再現，其得以運用認知和推理等通用功能來分析問題、判斷價值和學習創作。而在「超人工智慧」階段，智能機器的智能高度將超越人類水平，智能機器得以自我複製和提升智識。但是，後兩個階段的「奇點」來臨還只是未能證實的科學猜想，盲目的擔心或者過分的期待都是一種不嚴謹的技術認知。立足於「弱人工智慧」的階段，我們所要關注的應當是在技術上限的允許範圍內，挖掘智能技術在司法應用中的應然價值，避免技術認知錯誤將司法業務引向歧途。
在弱人工智慧階段，「有多少人工，才有多少智能」，法律行業應用人工智慧的時候，應當正視技術本身的優勢以及它當下的瓶頸。客觀地說，當下的人工智慧在可形式化的、可表徵化的數據處理方面，確實有著人類無法比擬的強大能力，而且這種優勢正在不斷擴大。在嚴格按照數字邏輯規則進行推演的事務性或技術性工作方面，人工智慧的應用成效十分顯著，如法律文本分析、司法數據提取與數據結構化、基礎法律知識諮詢等。但是其劣勢也顯而易見，由於計算機對「表徵」機制極為依賴，所以它不能具有人的非表徵與非形式化智能（比如直覺性或經驗性知識），只能根據設定的程序機械化進行，無法兼顧其他因素，雖然邏輯性強，但是過於平面化，感應、認知、反應和創造的能力尤為欠缺。因此，在包括事實認定和證據審查在內的司法實質性事項上，由於這些法律行為涉及諸多價值選擇、直覺判斷、學理分析等主觀因素，這些智能活動依然仰賴於司法官的個人能動。可以說，非形式化的、不可表徵的智能活動，不僅是阿爾法Go、深度學習以至人工神經網絡的極限，也是可預見的弱人工智慧發展的極限。
此外，當下人工智慧的技術局限在司法領域還有著特殊的表現形式。人工智慧技術的三大核心要件是「數據集合、智能算法和運算能力」，硬體性能的不斷提升對於保證機器智能的運行速度已不成問題，但是在數據和算法方面機器智能還存在諸多技術應用上的爭議。
首先，絕大部分人工智慧算法都是一個「黑箱」系統，對於智能系統的算法模型，司法官乃至公眾無法完全知道其內部結構和輸出原理。因此，「黑箱」系統的不透明性使得智能算法的結果在司法這一特殊領域受到很大質疑，這與司法公開原則形成衝突。而且，算法在本質上是一種概率模型，尋求的是統計學意義上的最優解，這種輸出模型很可能由於缺乏對於案件特殊性的考量，而導致算法結果與法官的直觀判斷相背離。
其次，人工智慧的本質是根據數據建立的統計模型，它的算法以大數據為依託，因此數據的完整性和真實性至關重要。以大數據研判為例，當前的數據大多來源於公開裁判文書，但是很多裁判文書說理過於簡單，真正記錄法官分析過程的合議筆錄等內部文件不對外公開，研發人員難以獲取和使用這些裁量要素，信息的不完整將導致智能系統的算法和輸出結果缺乏相應的可靠性。而且，在關乎司法數據質量的甄別、清洗和篩選上，法律人工智慧還有很大的提升空間。
應當說，相關技術的階段性和局限性，決定了法律人工智慧應謹慎涉足對案件決斷有重大影響的證據審查、事實認定、法律說理等司法核心事項。
法律人工智慧的研發和應用涉及很多複雜問題，這不僅有技術工程上的原因，更有深層次的理論上的原因，即人工智慧所依賴的理論假設問題。法律人工智慧以形式理性主義為理論基礎，它把法律規則和法律邏輯均推定為明確的、可數據化和可表達的對象。
司法公正來源於司法理性，而司法理性包括形式理性和實質理性兩個層面。在推理方面，形式理性主義認為，法律推理應該依客觀事實、明確的規則以及邏輯去解決一切為法律所要求的具體行為。假如法律能如此運作，那麼無論誰作判決，法律推理都會導向同樣的判決。形式理性要求判決是根據主觀上不可控的方式作出的，所依據的標準不以人的意志為轉移，只反映法律規則本身及法律邏輯本身。這一特點決定了形式理性主義的應用範圍是規則明確的、不存在核心爭議的簡單刑事案件和可程式化的訴訟事項；而且在處理司法事務性、程序性工作方面，形式理性集中體現著程序正義的理念，強調執法標準的統一，通過排除人為因素幹擾來保證司法的規範化。因此，以形式理性主義為理論基礎的法律人工智慧系統，其業務範疇可以拓展至所有案件的事務性工作和簡單案件的推理工作。
司法的實質理性在推理上強調司法的能動性，要求司法官在遵循基本的程序性規範的基礎上綜合考慮與案件有關的主客觀因素，發揮其在價值選擇、理論研判、經驗總結乃至直覺判斷上的主觀作用，這一點在疑難複雜案件的推理程序中有直觀體現。機器對人的輔助是為了讓司法決策成為一個穩定的理性決斷，「人機協同模式」就是為了預防機械裁判使得形式理性主義極端化。當機器沒有思維或者缺乏實質理性時，它在司法領域的應用都應當是人機互動的協同模式。如果讓人工智慧法律系統超出其應然的業務範疇而全面應用於所有類型案件，甚至在很大程度上取代司法官的實質性推理工作，那麼就有可能把司法權引向歧途，即導致算法支配司法。
以形式理性為依託的法律人工智慧，在簡單刑事案件的推理工作和所有案件的事務性工作中「縱橫捭闔」的同時，不能突破自身的業務範疇而對司法的實質理性造成侵害，尤其是不能以追求效率為代價犧牲司法能動價值在複雜案件和爭議事項中的決斷作用。否則，馬克思韋伯對形式理性化所帶來的「自動售貨機」式司法機制的擔憂，對現代法治的「非人格化」操作的批判，在人工智慧時代就可能化為現實。
從世界範圍內看，信息化技術最先被用來預測犯罪、追蹤線索、案情監控、物證分析等數位化、智能化需求較為明顯的偵查事項中，而後又被引入到保釋和量刑等司法事項中，用以評估人身危險性係數和刑罰的精確性程度。
我國司法業務智能化的實踐探索最早發生於量刑領域，而後發生於作為司法核心活動的證明領域。新的時代背景下，以檢察主導為核心指向的檢察理論不斷創新發展。可以預見，在未來很長一段時間內，檢察官在審前程序中的主導作用會逐步強化。一方面，認罪認罰從寬制度正式入法，使檢察機關在解決認罪案件的量刑爭議中發揮關鍵作用。另一方面，以審判為中心的刑事訴訟改革使庭審對於證據規格的要求不斷提升，也迫使檢察機關在完善刑事指控體系中必須強化主導作用。可以說，理論創新與科技應用的有效結合，必然帶來令人期待的實踐價值。
第一，人工智慧與量刑程序相結合的問題。早在上世紀九十年代，我國就有學者開始關注計算機量刑的研究可以，旨在解決司法實踐中普遍存在的量刑偏輕偏重問題。但是，第一代量刑輔助系統從它誕生之初就倍受爭議。不少學者認為，此類智能產品把量刑邏輯給絕對客觀化和程式化了，把量刑程序推定為直白的數字運算，這種做法既忽略了刑法的社會性功能，還容易把包括情節嚴重、性質惡劣、顯著輕微等描述性因素推定為可表達、可量化的機器代碼，這顯然與司法能動的要義背離。在類似的質疑聲中，量刑智能化建設被賦予的量刑改革的希望擱淺，司法智能化的熱潮暫時退去了。隨著信息科學技術的突飛猛進，大數據、深度學習、神經網絡等核心技術異軍突起，促使人工智慧在更深層次、更大範圍上進軍司法領域，發生了新一輪令人欣喜和期待的「化學反應」。與此同時，以量刑建議為核心事項的認罪認罰從寬制度不斷推進，量刑規範化問題備受關注。多地法院、檢察院聯合高科技公司，自主探索、研發了一批功能顯著的量刑輔助智能系統，輔助量刑的智能化動向和需求開始受到各界的廣泛關注。
為了避免量刑輔助智能化系統的研發再次遭遇以往的困境和質疑，必須認識到，量刑所要解決的主要問題不只是統計、分析和計算，還應考慮如何對影響量刑的所有因素進行綜合考量和平衡，最後得出對被追訴人最適當的刑罰。在認罪認罰從寬的背景下，量刑程序得出的刑罰結論還應當反映出社會對於犯罪報應、預防與制止、矯治與需求等綜合因素平衡的訴求。如此複雜的綜合平衡過程是電腦這樣的程式化機器無法獨自承擔的任務，理應由「人機協同」的方式來完成，以此確保量刑工作中「形式理性」和「實質理性」的有效兼容。
這種「協同」和「兼容」模式的實現，可以訴諸信息科學技術在訴訟流程優化和業務類型分工上的顯著優勢。傳統司法業務效能的提升很大程度上來源於訴訟流程和分工的優化，但是以人力為基礎的流程和分工必然會遇到「瓶頸」，一旦如此，訴訟效能的提升將難以為繼。而智能技術對於流程的優化作用在於，其可以實現流程自動化，通過引入智能技術，比如文檔自動流轉、形成業務信息資料庫、由系統自動完成標註任務等，一方面可以降低流程對於人工的依賴，並藉助高效的技術手段和數據分析能力縮短流程周期；另一方面，智能技術的優勢在於精確化和個性化，形成對流程的精準把握，並針對不同的業務類型形成個性化的流程優化方案。
第二，人工智慧與證據指引結合的問題。證據是訴訟的靈魂和裁判的基石，有效的收集和使用證據對提高辦案質量、彰顯司法公正意義重大。目前，地方上正在探索的證據指引系統，一個重要的目的就是規範偵查技術和指引偵查取證，從源頭上解決假證現象。這實際上是在檢察引導偵查等業務方面，從證據的程序上完善刑事訴訟體系。從世界範圍內來看，檢察引導偵查取證大多是以各種混合模式存在的。檢察官可以根據辦案需要採取恰當的形式介入偵查程序，發揮其在法律適用和證據保護中的優勢作用，指導偵查機關辦理刑事案件，確保移送的案件符合提起公訴的證據標準，基本方式包括類案指引和個案指引。司法資源的有限性決定了檢察官難以提前介入所有案件，因此尋求引導的多元化構建，變成了一個必要的選擇。在類案指引中，檢察機關除了適時出臺相應指導性文件外，可以結合當下正在大力推進的司法智能化建設，強化證據指引在司法信息化辦案平臺中的研發和應用，將偵查指引的一般性要求引入審前辦案系統，通過智慧檢務的建設，向科技要人力，向機器要智慧。
最後，在數字時代，訴訟的目標將不再局限於實體正義和程序正義的價值平衡，還要考慮如何實現「數字正義」。在以智慧司法建設為口號的司法技術革命進程中，無論是法律人還是技術員，在迎接和擁抱科技革命帶來的巨大成果的同時，還需要對人工智慧技術、法律理論和制度邊界有一個理性的認知，並在當前的技術上限和法律理論的底線之間，尋找和把握人工智慧可以應用的業務範圍，為制度發展和理論創新貢獻力量。
謝謝大家！
文稿整理：上海市檢察院 林竹靜 祁堃