點擊上方↑「上海市法學會"關注我們
作者劉憲權系華東政法大學法律學院教授、博導；作者房慧穎系華東政法大學刑法學博士研究生。
內容摘要
在人工智慧時代，我們應秉持前瞻性的刑法理念。前瞻性的刑法理念不同於缺乏可靠科學依據的科幻小說，也不能列入「過度刑法化」傾向的範疇之中。我們可以將涉人工智慧犯罪劃分為現行刑法規定能夠規制的、現行刑法規定規制不足的以及現行刑法規定無法規制的涉人工智慧犯罪三種類型。針對三種犯罪類型，我們應當分別採取不同的刑法應對策略：完善相關司法解釋，將財產犯罪中的「當場性」解釋為行為人的行為及其延伸與被害人在同一時空；調整相關犯罪的構成要件，在交通肇事罪等過失犯罪的構成要件中增加智慧機器人的設計者或生產者這一主體；完善刑法規定，增設濫用人工智慧產品罪和人工智慧產品事故罪等新罪名。
關鍵詞：涉人工智慧犯罪 刑法理念 前瞻性思考 犯罪類型 刑法應對
自1956年達特茅斯會議以來，人工智慧技術在半個世紀的時間內取得了突飛猛進的發展，其影響力滲透到人類社會生活的方方面面。人工智慧技術在提高人們生活質量的同時，更成為促進社會發展、提升綜合國力的重要力量。正如習近平總書記在2018年10月中共中央政治局第九次集體學習時所指出的，「加快發展新一代人工智慧是事關我國能否抓住新一輪科技革命和產業變革機遇的戰略問題。但我們也應看到，人工智慧技術的發展也帶來了一系列的社會問題和法律問題，衝擊著我們現有的法律體系。2017年9月22日，浙江省紹興市公安局破獲「全國首例利用AI犯罪案」，這是我國首例利用人工智慧技術侵犯公民個人信息的犯罪。由此可見，「加強人工智慧發展的潛在風險研判和防範，加強人工智慧相關法律、倫理、社會問題研究，建立健全保障人工智慧健康發展的法律法規、制度體系、倫理道德」，具有重要且深遠的價值和意義。
根據人工智慧技術的發展程度，我們可以把人工智慧時代劃分為普通機器人時代、弱人工智慧時代和強人工智慧時代。其中，普通機器人和弱智慧機器人的區分標準在於機器人是否具有深度學習的能力，弱智慧機器人和強智慧機器人的區分標準在於機器人是否能夠在自主意識和意志的支配下，超出設計和編制的程序實施行為。目前，具有深度學習能力的智慧機器人已經在諸多領域取得了「卓越」成就，如AlphaGo戰勝圍棋國手，「智醫助理」高分通過醫師執業資格考試，人工智慧法律機器人在案件諮詢比賽中完勝人類律師……毫無疑問，我們現在已經進入了弱人工智慧時代。在弱人工智慧時代，智慧機器人在設計和編制的程序範圍內實施行為，不具有獨立的意志，其行為體現的是人類的意志。如果人類利用智慧機器人實施犯罪行為，抑或是人類在正常使用智慧機器人的過程中出現嚴重危害社會的後果，都會涉及刑事責任的認定和分配問題。為了保障人工智慧技術的健康發展、防範相關風險，我們的刑法理念以及刑事立法和司法體系應當適時作出相應的調整和更新，這是人工智慧這個「最好的時代」抑或「最壞的時代」不可迴避的訴求。
一
人工智慧時代應秉持刑法新理念
人工智慧時代為人們的生活帶來無與倫比的便利，也帶來前所未有的風險。應當看到，現有的刑法規定難以妥善解決人工智慧時代層出不窮的新問題。為了更好地發揮刑法的保護機能，促進人工智慧技術的健康發展和社會的穩定繁榮，我們需要樹立前瞻性的刑法理念，建立和完善適應人工智慧時代要求的刑事立法和司法體系。
（一）人工智慧時代需要革新刑法理念
1986年德國學者烏爾裡希·貝克出版了《風險社會》一書，自此「風險」一詞成為詮釋社會變化發展的關鍵詞。在《辭海》中，「風險」被解釋為「人們在生產建設和日常生活中遭遇能導致人身傷亡、財產受損及其他經濟損失的自然災害、意外事件和其他不測事件的可能性。」不可否認，人工智慧技術為人類的社會生活帶來了極大的便利，「美國亞馬遜超級倉庫內，無數機器人正在貨架間瘋狂奔跑；歐洲快餐店內，機器人端著漢堡和薯條7x24小時來去自如；而在南非礦井下，電腦正操作精密儀器，向幽暗處進發……」但是風險實際上與紅利成正比，人工智慧技術為人類社會帶來的刑事風險也在急劇增加。筆者認為，我們可以將現階段（即弱人工智慧時代）涉人工智慧刑事風險分為兩類：其一為行為人在正常利用智慧機器人時產生的刑事風險；其二為行為人利用智慧機器人實施犯罪行為的刑事風險。
行為人在正常利用智慧機器人時產生嚴重危害社會結果的情況屢見不鮮。例如，2018年美國亞利桑那州發生了一起Uber無人車撞死行人的事故。時隔不久，一輛開啟了Auto-pilot模式的特斯拉汽車撞上高速路旁的隔離帶，車主不幸喪生，並引發兩車追尾。早在2016年，邯鄲一輛處於「定速」狀態的特斯拉自動駕駛汽車未能按照程序設定躲避障礙物，從而撞上前車，車主不幸身亡。再如，購物平臺通過對消費者購買商品的品種、數量、頻率等各種數據的分析整合，為消費者提供個性化服務。這在提升用戶購物體驗、為用戶帶來便利的同時，背後也隱藏著侵犯公民個人信息的風險。再如，手術機器人可以運用微創方法，實施複雜的外科手術。但是在英國首例機器人心瓣恢復手術中，機器人把病人的心臟放錯位置，並戳穿大動脈，最終導致病人在術後一周死亡。又如，2015年，大眾汽車廠的一名工作人員在安裝機器人的過程中，被機器人抓住胸部繼而壓到金屬板上，最終這名工作人員不治身亡。此類事例不勝枚舉，筆者不再一一贅述。
行為人利用智慧機器人實施犯罪行為的情況也層出不窮。例如，犯罪分子利用無人機和紅外照相機尋找大麻農場，並操縱無人機實施盜竊大麻的行為。也有犯罪分子給無人機裝上手槍、擴音器等裝置，在幾百甚至幾千米外操縱無人機對行人進行搶劫。再如，在「全國首例利用AI犯罪案」中，「犯罪分子利用具有深度學習能力的智慧機器人，識別圖片驗證碼，輕鬆繞過網際網路公司設置的帳戶登錄安全裝置，給網絡詐騙等黑色產業提供犯罪工具。」又如，軍事領域的人工智慧技術可以幫助完成掃雷等任務，維護人類安全，但是其一旦被恐怖分子利用，則會導致我們設置的各種安全防範措施均告無效等難以想像的惡果。
刑法必須敏感地應對時代變化。面對人工智慧技術帶來的各式各樣的刑事風險，現行刑法規定難以從容應對，我們理應順應時代需求，樹立刑法新理念，調整立法和司法體系。有學者認為，對智慧機器人刑事責任和刑事主體地位的探討純屬無稽之談，智慧機器人本質上只是人類處理某一類具體事務的輔助工具。筆者認為，雖然現階段的智慧機器人仍屬於弱智慧機器人，只能在人類設計和編制的程序範圍內實施行為，體現的是人類的意志而非自身的意志，不具有刑事責任主體地位。利用智慧機器人實施犯罪行為時，仍然只能追究利用者的刑事責任，而不可能追究被利用的智慧機器人的刑事責任。但我們並不能因此認為，其與普通犯罪對象和犯罪工具無異，從而認為智慧機器人的出現對行為人刑事責任的認定並無任何影響。事實上，無論智慧機器人作為犯罪對象，還是作為犯罪工具，都有可能對刑事責任的認定產生影響。其一，智慧機器人作為犯罪對象時，會對行為人刑事責任的認定產生影響。應當看到，早在普通機器人時代，被賦予部分人腦功能（識別功能等）的普通機器人的出現就會對刑事責任的認定產生影響。以ATM機為例，2008年4月18日最高人民檢察院《關於拾得他人信用卡並在自動櫃員機（ATM機）上使用的行為如何定性問題的批覆》，拾得他人信用卡並在自動櫃員機上使用的行為，屬於刑法第196條第一款第三項規定的「冒用他人信用卡」的情形，構成犯罪的，以信用卡詐騙罪追究刑事責任。2009年12月3日最高人民法院、最高人民檢察院《關於辦理妨害信用卡管理刑事案件具體應用法律若干問題的解釋》第5條也作了類似的規定。有學者認為，機器是不能被騙的，即機器因為沒有意識而不會陷入認識錯誤，更不會基於認識錯誤處分財產。在ATM機上冒用他人信用卡的行為應被認定為盜竊罪。而筆者認為，最高檢及兩高的司法解釋將在ATM機上冒用他人信用卡的行為認定為詐騙類犯罪而非盜竊類犯罪，主要原因在於，經過編程後的ATM機，實際上是作為業務人員代表金融機構處理相關金融業務，既然金融機構的業務人員可以成為詐騙罪的對象，經過電腦編程後的ATM機當然也可以成為詐騙罪的對象。換言之，經過電腦編程後的ATM機不同於一般的機械性機器，其具有人腦的識別功能，在作為犯罪對象時，可能會對刑事責任的認定產生影響。當然，筆者同時還認為，ATM機雖然具有部分人腦的識別功能，但因其不具有人的其他功能，所以充其量也只能算作是「機器人」而不能理解為是人。我們將ATM機稱之為「機器人」其實還有更深層次的考慮，即如果行為人利用ATM機的識別功能上的認識錯誤獲取錢財的，其行為的性質屬於詐騙類的犯罪，刑法將冒用他人信用卡的行為納入信用卡詐騙罪即為實例；而如果行為人利用ATM機的機械故障獲取錢財的，其行為的性質則當然屬於盜竊類的犯罪，因為「機械故障」中不存在「人的認識錯誤」問題。可見，經電腦編程後的ATM機在作為犯罪對象時也會對行為人行為的刑事責任產生影響。當人類從普通機器人時代進入弱人工智慧時代，智慧機器人具有了深度學習能力，相當於具有了更多的人腦功能，其對行為人所要承擔的刑事責任的認定毫無疑問會產生更大的影響。其二，智慧機器人在作為犯罪工具時，也會對行為人刑事責任的認定產生影響。當智慧機器人作為人類實施犯罪行為的工具時，研發者或使用者之間的刑事責任分配可能會隨著智慧機器人「智能」的增長而有所不同。例如，對於普通汽車而言，在汽車本身不存在安全隱患，僅因駕駛員違反交通運輸管理法規進行駕駛導致發生重大交通事故而構成交通肇事罪的情況下，普通汽車的設計者無需承擔刑事責任，而應由普通汽車的使用者（即駕駛員）承擔全部刑事責任。對於全自動駕駛汽車而言，汽車的行駛方式、路徑全部都由自動駕駛程序控制，車上僅有乘車人而無駕駛員，對於程序本身存在問題（包含全自動駕駛汽車違反交通運輸管理法規等）而導致發生重大交通事故的情況，可能就需要由全自動駕駛汽車的設計者承擔全部刑事責任。由此可見，在人工智慧時代，人工智慧技術帶來的風險急劇增加，智慧機器人會對行為人刑事責任的認定或分擔產生影響，不能完全等同於普通的「工具」。
根據「庫茲韋爾定律」，技術的力量正以指數級的速度迅速向外擴充。人類正處於加速變化的風口浪尖上，這超過了我們歷史上的任何時刻。早在2015年，霍金等人就在公開信中警示人們要防範人工智慧技術帶來的潛在風險，在進行人工智慧技術研究的同時必須採取相應的防範措施。法律在很大程度上是國家為了有意識地達到某一特定目的而制定的。刑法理念及刑事立法和司法體系也應該順應時代潮流進行調整，以發揮刑法作為「社會最後一道防線」對於社會穩定健康發展的保障作用。人類社會的發展經歷了原始社會、農業社會、工業社會、信息社會，現在已經邁入了智能社會。每一種社會形態中的刑法理念和體系都是不同的，這是刑法順應社會發展潮流的體現。當前我們所處的弱人工智慧時代，具有深度學習能力的智慧機器人在社會生活的各個方面都發揮著重要作用，已經並將持續對社會形態的發展和演變產生影響。正因如此，我們應當適時調整和革新刑法理念，以達到保障人工智慧技術健康發展、防控和治理人工智慧技術帶來的刑事風險的目的，最終實現維護人類整體利益、促進社會發展進步的目標。這也是在人工智慧時代革新刑法理念的意義所在。
（二）人工智慧時代應秉持前瞻性的刑法理念
在人工智慧時代，我們應樹立前瞻性的刑法理念。人工智慧時代的刑法規定所立足的技術背景和社會條件都處於急速的變化發展之中。我們必須提前預想到人工智慧時代可能發生的刑事風險，並提前想好應對策略。只有未雨綢繆，方可臨危不亂。正如2018年11月全國人大常委會委員長會議組成人員進行專題學習時，慄戰書委員長所指出的，「人工智慧是影響面廣的顛覆性技術，其雙刃劍效應尤為明顯，必須未雨綢繆，加強前瞻預防和約束引導，有效應對技術不確定性帶來的新挑戰，確保其安全、可靠、可控。」在此，筆者有必要澄清以下兩個誤區。
誤區之一：前瞻性的刑法理念與缺乏可靠的科學依據支撐的科幻小說無異。筆者認為，樹立前瞻性刑法理念的目的是解決技術的飛速發展與刑事立法相對滯後之間的矛盾，即為了防止出現刑法無法妥善處置具有嚴重社會危害性行為的尷尬局面。應當看到，這種尷尬局面在我們初步進入弱人工智慧時代的今天已經屢次發生。例如，全自動汽車事故接二連三地發生，已經並將可能繼續危害到公共安全、公民的人身和財產安全，但我們目前卻並未建立行之有效的法律體系對這些風險進行良好的規制。「我們今天正處於一種大變革的時期，過去的許多行為其傳統意義正在蛻變或消失，與此相隨不知不覺中行為又被塗抹上新時代的若干色彩；一些過去見所未見、聞所未聞的光怪陸離的新事物也四處滋生。」在此背景下，用以指導刑事立法與刑事司法的刑法理念，毫無疑問也將面臨著一個是否需要調整以及如何調整的問題。刑法理念屬於意識形態的範疇，其本身是主觀的，但是人們最終選擇什麼樣的刑法理念，天然地受制於人們所處的特定時代。筆者建議在人工智慧時代樹立前瞻性的刑法理念，並非是脫離技術的實際發展水平，憑藉主觀想像，設立未來的刑事立法和司法體系，而是在洞察和明悉時代背景與技術發展狀況的前提下，破解人工智慧時代刑罰應對的難題。同時，我們也要防患於未然，在正確理念的指導下，促使科技「向善」，將人工智慧技術可能帶來的風險降至最低。
誤區之二：前瞻性的刑法理念體現了「過度刑法化」的趨勢。關於社會治理，學界存在「過度刑法化」的批判，有學者認為過度刑法化是對刑法「謙抑和沉穩品格」的背棄，勢必造成刑罰譴責功能的退化，引起社會治理的巨大風險。依筆者之見，前瞻性的刑法理念與過度刑法化趨勢是毫不相干的兩個事物。兩者之間不存在邏輯上的聯繫。過度刑法化導致的結果是能夠採用道德上的譴責、行政或者民事手段規制的具有社會危害性的行為，刑事立法者仍將其規定為犯罪行為。這種因為風險無處不在，所以刑法無處不在的做法，是過度刑法化的主要體現。而前瞻性的刑法理念則不等同於盲目擴大犯罪圈，也不會導致刑罰的泛化使用。前瞻性的刑法理念可以為涉人工智慧犯罪的刑法規制預留必要的解釋空間和緩衝空間，避免刑法的修改過於頻繁。我們應該吸取網絡犯罪刑法規制中的相關教訓，避免在涉人工智慧犯罪規制時再犯類似的錯誤。「在網絡犯罪立法中經常出現這樣的情況，當一國的立法經過複雜而冗長的立法程序將某種網絡行為納入本國法律進行規制時，卻驚奇地發現該種行為在網絡上已經趨於銷聲匿跡了，代之而起的是新型的、法律尚未關注的行為，法律生效後很快就實質性失效的情況在網絡中更易發生。」前瞻性的立法理念可以避免我們重蹈前述網絡犯罪立法的覆轍。在應對涉人工智慧犯罪時，踐行前瞻性的刑法理念，就是我們既需要立足於人工智慧技術的發展現狀和已經產生的風險，又需要預見到未來人工智慧技術的發展趨勢和將會產生的風險，從而根據現狀適度調整刑法規定，並為應對未來可能發生的刑事風險預留足夠空間，使得刑法規定既能應對當前風險，又能適應未來發展，從而增強和延長刑法條文之生命力。同時，需要說明的是，正如在網絡時代，傳統犯罪大量向網絡犯罪轉移，隨著人工智慧技術的發展，許多傳統犯罪可能會失去生存的空間，即傳統犯罪可能會向涉人工智慧犯罪轉移，因此，在人工智慧時代樹立前瞻性的刑法理念並不必然導致犯罪圈的擴大，與過度刑法化趨勢更是毫無關聯。
二
涉人工智慧犯罪的類型劃分
正如網絡犯罪的本質是犯罪，涉人工智慧犯罪的本質也依然是犯罪。涉人工智慧犯罪只不過是人工智慧時代產生的新樣態的犯罪，是人工智慧時代的新事物。新舊事物之間的關係從來都是「藕斷絲連」而非「一刀兩斷」的。對於涉人工智慧犯罪的研究仍需要以現行刑法規定為切入點和立足點。筆者認為，根據現行刑法規定對涉人工智慧犯罪的規制能力，我們可以將涉人工智慧犯罪劃分為現行刑法規定能夠規制的涉人工智慧犯罪、現行刑法規定規制不足的涉人工智慧犯罪和現行刑法規定無法規制的涉人工智慧犯罪三種類型。
（一）現行刑法規定能夠規制的涉人工智慧犯罪
現行刑法規定能夠規制的涉人工智慧犯罪，指的是現行刑法條文完全可以規制或者僅需用司法解釋明確刑法條文適用範圍和方式的涉人工智慧犯罪。在處理涉人工智慧犯罪時，我們既不能僅將智慧機器人當作簡單的工具而認為其對犯罪行為的定罪量刑沒有任何影響，也不能陷入「工具決定論」的誤區而認為利用智慧機器人犯罪的行為都比傳統犯罪行為的社會危害性更嚴重。我們仍然應當具體問題具體分析。應該看到，當智慧機器人成為犯罪行為的「臂膀」或「羽翼」時，確實會給傳統犯罪的實施帶來諸多的便捷，但是，從本質上看，智慧機器人的存在其實並沒有改變傳統犯罪的行為方式和結構，因此，我們仍然可以運用現行刑法的規定對之加以規制。即使現行刑法規定得過於籠統或模糊，我們也完全可以通過司法解釋加以明確，對此類犯罪行為予以精確、全面評價。
例如，在「全國首例利用AI犯罪案」中，犯罪分子利用智慧機器人的深度學習能力，通過編程和訓練，讓智慧機器人掌握有效識別圖片驗證碼的技能。這項技能可以幫助犯罪分子獲取用戶登陸各個網站的帳號和密碼。究其本質，這是非法獲取公民個人信息的行為，屬於刑法第253條之一第三款——「竊取或者以其他方法非法獲取公民個人信息」的規制範圍，理應按照侵犯公民個人信息罪定罪。又如，殺手機器人的出現，一度引起人們的恐慌。它的可怕之處在於其可以識別各種偽裝，精準地搜尋到打擊對象並一擊即中。這種致命性的自主武器成本低，卻威力巨大。但探究其工作機制，我們可以發現，用殺手機器人奪取人的性命，與用刀、槍、棍棒等奪取人的性命並無本質上的不同，都是非法剝奪他人生命的行為，按照故意殺人罪定罪量刑即可。或許會有人提出，如果行為人意圖針對的打擊目標與殺手機器人最終打擊的對象不一致，即殺手機器人實施的行為與行為人預想的行為存在偏差，應當如何處理？筆者認為，這種情況可以用事實認識錯誤的理論解決。正如行為人放狗咬人，本來希望狗咬死甲，但狗卻咬死了乙，狗的「錯誤」不影響對行為人行為的定性，對行為人仍應以故意殺人罪（既遂）來認定。殺手機器人作為完全受行為人設計和編制的程序控制的個體，其在執行殺人指令時，與上文中所說的狗並無本質區別，因此其所犯的「錯誤」也不應影響對行為人行為性質的認定。再如，行為人給無人機裝上手槍、擴音器等裝置，在犯罪現場以外的地方操縱無人機上的裝置對被害人進行威脅，要求其交出隨身攜帶的財物，否則就將對被害人的頭部進行射擊。根據2005年6月8日最高人民法院《關於審理搶劫、搶奪刑事案件適用法律若干問題的意見》，搶劫罪表現為行為人劫取財物一般應在同一時間、同一地點，具有「當場性」。在無人機搶劫的場景中，行為人並未在犯罪現場，其行為似乎不具備成立搶劫罪所要求的「當場性」要件，但應當看到，「當場性」要件的存在，代表著行為人的行為對被害人的人身權利和財產權利能夠造成實質危害或者緊迫威脅。利用傳統手段進行搶劫時，如果行為人不在犯罪現場，很難達到這個程度。無人機的出現，使得行為人所在的位置和行為實施的位置存在空間上的分離；更有甚者，如果行為人預先設定好搶劫的程序，讓無人機自主執行，行為人設定搶劫程序的時間和無人機對被害人進行搶劫的時間也會出現時間上的分離。但這種時空上的分離並未使得犯罪現場中被害人的人身權利和財產權利受到損害的程度或可能性有絲毫減小。換言之，利用無人機進行搶劫雖然出現了行為人行為實施的時空和被害人遭遇搶劫的時空出現了分離，但行為的社會危害性程度並未減小，仍然侵犯了被害人的人身權利和財產權利，仍應按照搶劫罪對行為人進行定罪量刑。
（二）現行刑法規定規制不足的涉人工智慧犯罪
現行刑法規定規制不足的涉人工智慧犯罪，指的是傳統犯罪在人工智慧背景下出現了新特點，而現行刑法無法有力應對的犯罪類型。 如果把傳統犯罪行為比作「走獸」，人工智慧技術為其增添「羽翼」之後，「走獸」變成了「飛禽」，雖然其根本屬性並未發生改變，但其行為模式發生了巨大變化，我們原來規制「走獸」的刑法規定無法有力規制「飛禽」。 在當下的弱人工智慧時代，智慧機器人的行為受人類設計和編制的程序控制，體現人類的意志和意識，是人類身體和智力的延伸。 跟傳統犯罪工具相比，由於其不僅是人類身體的延伸，還是人類智力的延伸，因此其「智能」性有時會導致人類原有行為模式的變化。 眾所周知，圍棋機器人（包括AlphaGo、AlphaGoZero等）戰勝了世界圍棋冠軍。 圍棋機器人是在人類設計和編制的程序支配下實施行為的，但是為其設計和編製程序的研發者本身並不可能戰勝世界圍棋冠軍，而圍棋機器人憑藉其深度學習能力和快速反應速度可以做到。 換言之，圍棋機器人的行為來源於人類設計和編制的程序，但可能會超出人類在這一領域的本來能力。 這一特徵同樣出現於全自動汽車、智能醫生等身上。 由於智慧機器人延伸了人類的身體和大腦，其所實施的行為也在一定程度上替代了人類。 刑法規定的「行為」有廣義與狹義之分，廣義上的行為指「人的意思可以支配的具有社會意義的身體的外部態度（動靜）」； 狹義上的行為指「危害行為」，即由行為人意志支配之下違反刑法規定的危害社會的客觀活動。 無論採廣義說還是狹義說，刑法上的行為都必須是行為人在自主意識和意志支配之下進行的客觀活動。 「無行為即無犯罪」，行為是對行為人進行定罪和處罰的基礎和決定性要件。 而智慧機器人在一定程度上替代了人類的行為，理論上，也就應該分擔一部分本應由人類承擔的刑事責任。 這就導致了原本以人類承擔全部刑事責任為前提構建的刑法體系在處理部分涉人工智慧犯罪時力有不逮。
例如，在過去，對於汽車行駛過程中引發的交通肇事（假設駕駛員負事故全部或主要責任），如果是汽車本身質量問題導致的，則應當由汽車的設計者或生產者承擔有關產品質量的責任； 如果是在駕車過程中違反交通規則導致的，則應當由駕駛員承擔交通肇事的責任。 目前的自動駕駛汽車，在行車過程中也需要駕駛員的參與，所以我們仍可按照上述的責任分配模式來進行處理。 但是當自動駕駛發展到全自動駕駛階段，即不存在駕駛員，全自動汽車的行駛完全在設計和編制的程序控制之下進行。 對於全自動汽車行駛過程中引發的交通事故，如果是全自動汽車本身質量問題導致的，我們仍可按照原有模式，讓全自動汽車的設計者或生產者承擔有關產品質量的責任； 但對於全自動汽車行駛過程中違反交通規則導致事故發生的情況，由於不存在駕駛員，所以我們無法按照原有模式，讓駕駛員承擔交通肇事的責任。 而由於全自動汽車仍屬於弱智慧機器人的一種，即其只能在設計和編制的程序控制和支配下實施行為，不具備自主意識和意志，不能作為刑事責任主體，不能承擔刑事責任。 因此本應由駕駛員承擔的交通肇事的刑事責任無法轉移歸全自動汽車承擔。 在這種情況下，是否可以將本應由駕駛員承擔的交通肇事的刑事責任轉移歸全自動汽車的設計者或使用者承擔？ 如果讓全自動汽車的設計者或使用者承擔，那麼他們承擔的是產品質量事故還是交通事故的刑事責任？ 目前刑法及相關法律法規尚未有明確規定。 與之相類似的是智能醫生導致的醫療事故的責任承擔問題。 筆者在此不再贅述。 又如，在證券、期貨交易市場中，有行為人利用智慧機器人超乎常人的反應速度實施操控市場的行為，最典型的便是「幌騙」和「塞單」行為，即申報大量訂單後迅速撤銷，從中牟取利益。 該行為違背了證券、期貨市場的「三公」原則，本質上是行為人利用技術優勢操控證券、期貨市場的行為。 根據刑法第182條「操縱證券、期貨市場罪」的規定，操縱證券、期貨市場的行為是指行為人利用自己手中掌握的資源優勢操縱證券、期貨交易價格或者交易量。 而「資源優勢」指的是資金優勢、持股優勢、持倉優勢、信息優勢，並不包括技術優勢。 因此，運用現行刑法中的操縱證券、期貨市場罪很難規制利用技術優勢操縱證券、期貨市場的行為。
（三）現行刑法規定無法規制的涉人工智慧犯罪
現行刑法規定無法規制的涉人工智慧犯罪，指的是由於人工智慧時代的特殊性而出現的在人工智慧時代之前難以想像也無需探討的嚴重危害社會的行為。 這類行為無法用現行刑法規定進行規制，主要存在兩種情況：
第一，現行刑法中規定的罪名的構成要件沒有涵括人工智慧時代的新型行為方式。例如，目前，隨著人工智慧技術的發展以及人工智慧技術與生命科學、神經科學的結合，科學家研發出了人工智慧假肢，可以幫助廣大的殘疾人群體解決肢體殘缺帶來的麻煩和痛苦。如果行為人損毀與人體配合良好的人工智慧假肢，可能會給人工智慧假肢的使用者帶來巨大的肉體和精神上的痛苦。因此，我們如果僅僅將人工智慧假肢作為使用者的財物對待，並進而認為損毀人工智慧假肢的行為只是毀壞財物似乎是不妥當的；而如果將人工智慧假肢作為使用者身體的一部分對待，則對於損毀人工智慧假肢行為的定性似乎會有向侵犯人身健康等角度轉化的可能。根據現行刑法中故意傷害罪的規定，只有當行為人故意傷害被害人的軀體並達到輕傷程度時才能構成本罪，損毀人工智慧假肢的行為顯然不能被認定為本罪。同時隨著科技的發展，人工智慧假肢越來越廉價，如果單純按人工智慧假肢的價格計算，其價格甚至可能達不到構成故意毀壞財物罪的數額標準，也即現行刑法對行為人損毀他人的人工智慧假肢的行為根本無法規制。
第二，現行刑法中缺乏與人工智慧時代的新型行為方式相對應的罪名。例如，微軟研發的聊天機器人Tay（微軟將其設定為19歲的少女），其設計原理是從對話交互中學習。一些不良網民利用Tay的這一學習機制，刻意引導她模仿偏激言論。於是僅在上線一天之後，Tay就因發表種族歧視等言論而被微軟公司緊急關閉。微軟研發聊天機器人的本意是為用戶帶來樂趣，但由於受到他人的惡意利用，Tay變成了散布種族歧視言論的「機器」。根據我國刑法的規定，發表煽動分裂國家、顛覆國家政權、暴力抗拒法律實施的言論或者發表煽動民族仇恨、民族歧視的言論等都有可能構成犯罪。試想，如果行為人刻意誘導具有聊天功能的智慧機器人發表上述言論，是否可以構成相應的故意犯罪？另外，智慧機器人的設計者在為智慧機器人設計和編製程序時，並沒有設置相應的反制功能（即指智慧機器人能夠自動抵禦不當言論的功能），是否需要承擔過失犯罪的刑事責任？如果需要，則相關前置法應如何構建與完善？又如，在2018年俄羅斯世界盃期間，莫斯科的一個酒店提供「機器人妓女」服務，利用智慧機器人向遊客提供特殊服務。由於這項服務經過政府特別許可，因此是合法的。荷蘭政府也擬於2050年之前推出「機器人妓女」項目。應當看到，在俄羅斯和荷蘭等國，賣淫行為可以因經政府許可而具有合法性。但是在我國賣淫行為是違法的。如果在我國推出「機器人妓女」項目，相關人員是否會涉嫌組織、容留、介紹賣淫等犯罪？如果答案是肯定的，那麼在「機器人妓女」提供的特殊服務與傳統意義上的賣淫行為存在本質不同的情況下，將這種行為認定為組織、容留、介紹賣淫等犯罪，是否屬於類推解釋並為罪刑法定原則所禁止？如果答案是否定的，則「機器人妓女」提供服務的行為是否完全不會妨害我國的社會管理秩序，即其本質上不具有嚴重的社會危害性？以上問題，根據現行刑法規定，我們根本無法得出確定的答案。
綜上，筆者認為，隨著人工智慧技術的發展，會出現更多的類似問題需要得到解答，因此我們亟需完善現行刑法規定，以適應人工智慧時代發展的需求。
三
涉人工智慧犯罪的刑法應對策略
如上文所述，我們可以將涉人工智慧犯罪劃分為現行刑法規定能夠規制的涉人工智慧犯罪、現行刑法規定規制不足的涉人工智慧犯罪與現行刑法規定無法規制的涉人工智慧犯罪。針對三種不同的犯罪類型，筆者認為，應當分別採取完善相關司法解釋、調整相關犯罪的構成要件及設立新罪名的刑法應對策略。
（一）完善相關司法解釋
針對現行刑法規定能夠規制的涉人工智慧犯罪，可能會存在規定過於模糊的問題，我們需要完善相關司法解釋，從而對此類犯罪予以全面、準確評價。例如，對於財產犯罪中涉及到的「當場性」問題，需要結合人工智慧時代的特點予以進一步明確。根據2005年6月8日最高人民法院《關於審理搶劫、搶奪刑事案件適用法律若干問題的意見》，搶劫罪中的「當場性」表現為行為人劫取財物一般應在同一時間、同一地點。按照通常理解，「同一時間」「同一地點」應指行為人與被害人同時出現於同一時空中，但是在人工智慧時代，由於行為人可以操控智慧機器人（如無人機）對被害人進行人身威脅甚至是直接的打擊，更有甚者，行為人只要為智慧機器人設置好相應的程序，智慧機器人就可以自主選擇搶劫對象、搶劫時間和搶劫地點，實際的搶劫過程無需行為人參與。以非法佔有為目的，實施暴力威脅的情況下，搶劫罪和敲詐勒索的界限之一在於威脅的方式不同。敲詐勒索罪中的威脅可由行為人直接向被害人口頭或書面提出，也可以通過第三人間接提出；搶劫罪中的威脅只能由行為人當場向被害人提出。結合上述行為人利用智慧機器人實施搶劫的案例，我們可以發現，如果把智慧機器人按照程序設定或者行為人的操控對被害人作出的威脅理解為「通過第三人間接提出」，則上述行為應被認定為敲詐勒索罪而非搶劫罪。但事實上，搶劫罪和敲詐勒索罪的上述界限存在的主要原因是，敲詐勒索罪中的暴力威脅不具有當場發生的可能性，而搶劫罪中的暴力威脅具有當場發生的可能性。反觀上述案例，利用智慧機器人搶劫的場景中，智慧機器人（如無人機）上面裝配著手槍等裝置，隨時可以對被害人實施暴力，因此可以說，本案中的暴力威脅具有當場發生的可能性，以敲詐勒索罪認定顯然不合法理和常理，而應以搶劫罪來認定。這就需要我們通過司法解釋來明確「當場性」在人工智慧時代的具體含義。在人工智慧時代，「當場性」成立所要求的「同一時間」「同一地點」顯然不應是行為人與被害人在同一時空中，而是行為人的行為（包括行為的延伸）與被害人在同一時空中，至於搶劫行為的啟動形式在所不論。搶劫行為可能是由行為人直接對被害人實施的（此時行為人與被害人在同一時空中），也可以是行為人操控的智慧機器人對被害人實施的（此時行為人與被害人在同一時間但未在同一空間），甚至可以是智慧機器人在行為人設計和編制的程序操控下對被害人實施的（此時行為人與被害人既未在同一空間，也未在同一時間）。但無論如何，在利用智慧機器人搶劫的場景中，被害人的人身安全和財產安全受到了實際的威脅或實際的侵害，且都是由行為人的行為或者行為的延伸所直接導致的。
（二）調整相關犯罪的構成要件
針對現行刑法規定規制不足的涉人工智慧犯罪，我們需要調整相關犯罪的構成要件，將更新之後的行為方式納入刑法條文的調整範圍之內。例如，對於全自動汽車引發的交通事故，在由汽車本身存在質量問題導致事故發生的情況下，應由汽車的設計者或生產者承擔有關產品質量事故的責任。但是在由全自動汽車違反交通法規引發交通事故的情況下，應由誰承擔責任，法律並未給出答案。根據刑法第133條「交通肇事罪」的規定，本罪的主體是從事交通運輸的人員或者非交通運輸人員。其中，非交通運輸人員是指沒有合法手續，卻從事正常交通運輸的人員。應當看到，在傳統的交通肇事罪的構成要件中，能夠承擔交通肇事刑事責任的是從事交通運輸的人員（包括有合法手續的人員和無合法手續的人員）。而在人工智慧時代，全自動汽車在行駛過程中，似乎並不存在從事正常交通運輸的人員。全自動汽車是在設計和編制的程序控制之下從事交通運輸的，汽車上只有乘客而無駕駛員，在乘客沒有違反操作規則幹預全自動汽車正常行駛的情況下，乘客對交通事故的產生沒有任何原因力，不應承擔任何責任。全自動汽車是在設計和編制的程序控制之下在道路上行駛的，其之所以違反交通規則，也是在程序支配之下進行的。退一步講，即使全自動汽車程序發生了紊亂，導致全自動汽車違反交通規則，其根本原因也可以追溯到程序設計和編制中發生的錯誤或疏忽。由此可見，將全自動汽車違反交通規則造成交通事故的過失犯罪的刑事責任歸於全自動汽車的設計者或生產者似乎不應有疑義。但是應當看到，過失犯罪的成立取決於三點：一是違反注意義務；二是對危害結果的預見可能性；三是危害結果發生。毫無疑問，對於全自動汽車造成交通事故的危害結果，無人汽車的設計者或生產者是有預見可能性的。問題的關鍵在於全自動汽車的設計者或生產者是否有保證全自動汽車遵守交通規則從而避免交通事故發生的注意義務。「根據危險控制原則，未能控制危險的發生，是行為人歸責的基礎。具體地說，控制危險是行為人的義務，如果行為人有能力避免危險的發生，卻未履行控制的義務，以致發生危險的，就應該對此承擔刑事責任。」全自動汽車的設計者或生產者在設計和編製程序時，通常是有能力為全自動汽車設置相應程序，從而使其遵守交通規則的，如果其未設置相應程序，使得全自動汽車在行駛過程中違反交通規則引發交通事故，理應承擔過失犯罪的刑事責任。在弱人工智慧時代，應構建和完善相應的前置性法律法規，明確全自動汽車的設計者或生產者的注意義務，否則對其追究過失犯罪的刑事責任時將缺乏依據。對於智能醫生在進行醫療活動時導致的醫療事故的責任承擔，與全自動汽車造成交通事故時責任承擔的原理類似，在此不再贅述。筆者建議，在人工智慧時代，應完善相應的前置性法律法規，明確智慧機器人的設計者或生產者的注意義務，在其違反注意義務而使得智慧機器人在運行過程中造成嚴重的社會危害時，可以追究智慧機器人的設計者或生產者的過失犯罪的刑事責任，具體路徑有如下兩種：第一，在如交通肇事罪等過失犯罪的構成要件中增加智慧機器人的設計者或生產者這一主體。具體理由筆者已在上文論述，在此不再贅述。第二，擴大傳統意義上的承擔產品事故責任的範圍。將智慧機器人的設計者或生產者納入交通肇事罪的主體之中這一路徑的合理之處在於，全自動汽車在交通運輸過程中發生交通事故的原因是基於違反交通規則，而不是直接基於全自動汽車產品質量；其不合理之處則在於，全自動汽車的設計者或生產者並未直接參與交通運輸活動，而直接參與交通運輸活動的是全自動汽車。但是，全自動汽車上因為沒有駕駛員，其違反交通規則導致的交通事故又是基於全自動汽車的設計者或生產者在設置程序時存在瑕疵。換言之，構成交通肇事罪這一過失犯罪的前提是違反了「遵守交通法規」這一注意義務，而全自動汽車的設計者或生產者並未直接違反這一注意義務，而只是在設置程序時違反了程序質量的注意義務。因為程序是控制全自動汽車上路行駛必不可少的組成部分，也應被作為產品看待，全自動汽車因違反交通規則而引發的交通事故就變成了由於產品（程序）瑕疵而引發的產品質量事故。如果全自動汽車的設計者或生產者因此而承擔相應的產品事故責任，實際上就必然要擴大傳統意義上的產品事故責任的範圍。為此，刑法似乎應增加相應罪名（筆者將在下文中作詳細說明）。當然，「法律不強人所難」，囿於人工智慧技術發展階段與水平的限制，完全可能存在智慧機器人的設計者或生產者無法消除的人工智慧安全風險的情形。在這種情況下，我們應將智慧機器人在運行過程中造成的嚴重危害社會的結果作為意外事件處理，不應追究智慧機器人的設計者或生產者的刑事責任。
針對現行刑法中規定的罪名的構成要件沒有涵括人工智慧時代的新型行為方式的情況，我們應當完善現有的刑法條文，在其中增加適應人工智慧時代特點的新型行為方式。例如，在證券、期貨交易市場中，行為人利用技術優勢操控證券、期貨市場，而技術優勢並不屬於刑法第182條「操縱證券、期貨市場罪」所規定的資金優勢、持股優勢、持倉優勢或者信息優勢這四種優勢，因此應當採用修正案的方式，在刑法第182條之中增加利用技術優勢操縱證券、期貨交易價格或者證券、期貨交易量這種行為方式，完善操縱證券、期貨市場罪的行為方式，適應人工智慧時代的需求。
（三）設立新的罪名
針對當前弱人工智慧時代出現的新的嚴重危害社會的行為，我們需要設立新的罪名加以規制。人工智慧時代出現的新的嚴重危害社會的行為可以分為兩類：一是行為人濫用智慧機器人的深度學習能力，通過對從事正常合法行為的機器人進行訓練，使之具備實施嚴重危害社會的行為的能力；二是智慧機器人的設計者或生產者在為智慧機器人設計和編製程序時，未履行相應的注意義務，導致使用者在使用智慧機器人的過程中發生嚴重危害社會的結果。
筆者建議，針對第一種情形，應增設濫用人工智慧產品罪；針對第二種情形，應增設人工智慧產品事故罪。應當看到，在構成濫用人工智慧產品罪或者人工智慧產品事故罪的同時，仍有可能構成其他犯罪。例如，在「微軟聊天機器人Tay案」中，行為人通過對智慧機器人Tay進行教唆，使其發表不當言論，有可能構成煽動類型的犯罪（如煽動顛覆國家政權罪、煽動分裂國家罪、煽動民族仇恨、民族歧視罪等），但同時又可以構成濫用人工智慧產品罪；在全自動汽車違反交通規則引發交通事故的情況下，全自動汽車的設計者或生產者可能構成交通肇事罪，也可能構成人工智慧產品事故罪。筆者認為，出現上述可能適用不同法條的現象是不可避免的。原因在於，在人工智慧時代，技術的發展日新月異、一日千裡，而刑事立法需要具有相對穩定性，即社會的發展是無限的，而立法者的智慧是有限的，在設立新的涉人工智慧犯罪的罪名時，立法者只能儘量出於對一般犯罪的考慮來設定條文，如果立法者對各種具體情況考慮得面面俱到，將會導致刑法條文過於龐雜。對於上述可能適用不同法條的問題，我們應儘量通過刑法條文的完善加以解決；如果涉及到法條競合的，就應遵循特別法條優於普通法條、重法優於輕法的法條競合處理原則。其中，濫用人工智慧產品罪和人工智慧產品事故罪屬於普通法條。濫用人工智慧產品罪側重於處罰行為人故意利用智慧機器人實施犯罪的行為，而人工智慧產品事故罪側重於處罰行為人由於過失導致嚴重危害社會結果發生的行為。可見，設置上述兩個罪名是適當的前瞻性立法，是平衡人工智慧技術發展速度和刑法條文穩定性之後作出的恰當選擇。未來當人工智慧技術發展到更加成熟的階段，可以通過司法解釋對之作出更為具體的規定。
結語
關於刑法理念和應對策略的探討，並非形而上的坐而論道，而是由人們身處的社會發展階段和生產力發展水平所決定的。在目前的弱人工智慧時代，智慧機器人只能作為人類身體和大腦的延伸，在設計和編制的程序範圍內實施行為，實現人類的意志和意識。就目前的人工智慧技術發展水平而言，我國現行刑法規定可以規制大部分涉人工智慧犯罪，但是需要針對條文規定過於模糊的地方，通過司法解釋予以明確，或者通過調整部分犯罪的構成要件，將人工智慧時代出現的新型行為方式予以包涵。對於人工智慧時代出現的特有的新型犯罪，需要踐行人工智慧時代刑法的前瞻性理念，增設濫用人工智慧產品罪和人工智慧產品事故罪等罪名，實現技術飛速發展和刑法條文相對穩定性之間的平衡。
上海市法學會歡迎您的投稿
fxhgzh@vip.163.com
來源： 《上海法學研究》集刊2019年第3卷，《人工智慧刑事法律理論研究——上海市法學會刑法學研究會文集》
責任編輯：胡鵬 沈怡億
長按二維碼
關注我們
我在這裡等你喲！
期待您支持 在看