劉憲權:涉人工智慧犯罪中的歸因與歸責標準探析

原創 劉憲權 上海市法學會

劉憲權 華東政法大學刑事法學院教授、博士生導師。

內容摘要

涉人工智慧犯罪中歸因問題的解決，依賴於對涉人工智慧犯罪行為與造成的嚴重危害社會結果之間純客觀因果關係的認定，而涉人工智慧犯罪中歸責問題的解決，則應根據對行為人主觀罪過等要件的認定。在遵循刑法中因果關係認定的一般規律的基礎上，應結合涉人工智慧犯罪的特點，將雙重篩選的條件說作為涉人工智慧犯罪的歸因標準。雙重篩選的條件說是在條件說的基礎上，吸取客觀歸責理論的合理成分而建立的因果關係認定標準。在涉人工智慧犯罪中，不應採用沒有主觀罪過仍追究刑事責任的絕對嚴格責任原則，而應採用只要有主觀罪過但不用加以證明就應追究刑事責任的相對嚴格責任原則。

關鍵詞：人工智慧 客觀歸因 綜合歸責 主觀罪過 嚴格責任 因果關係

一、問題的緣起

人工智慧技術的發展在為人類社會帶來福祉的同時，也帶來了相應的風險，尤其是刑事風險。

以自動駕駛汽車引發的刑事風險為例，我們可以將其分為以下幾種情況：

第一，自動駕駛汽車系統本身出現故障。在此情況下，自動駕駛汽車應對使用者發出警報，使用者收到警報後應採取相應措施。使用者在故意或者過失的心態支配下未採取相應措施或利用自動駕駛汽車的故障製造交通事故，最終導致嚴重危害社會的結果發生。

第二，自動駕駛汽車系統本身並無任何故障，使用者故意操縱自動駕駛汽車實施嚴重危害社會的行為。

第三，自動駕駛汽車系統本身出現故障，並對使用者發出警報，但使用者收到警報採取相應措施後無任何作用，嚴重危害社會的後果仍然發生。

分析上述幾種情形，我們不難發現，隨著人工智慧技術的發展和人工智慧時代的到來，犯罪的樣態也隨之發生改變。涉人工智慧犯罪本身具有複合性和複雜性，尤其當牽涉兩個或兩個以上主體時，如何認定不同主體的刑事責任？如何在不同主體之間進行刑事責任分配？也即如何對涉人工智慧犯罪行為進行歸因和歸責？這些都應當成為刑法學者關注和致力解決的問題。

涉人工智慧犯罪中的歸因與歸責問題，是兩個獨立且有關聯的問題——歸因是歸責的基礎和前提，歸責是歸因的可能後果。因為近現代刑法文明和人道的標誌之一就在于堅守罪責自負：任何人只對自己的不法行為及其引起的危害結果承擔責任，而不對他人的不法行為及危害結果承擔責任。

因此，要解決涉人工智慧犯罪行為的歸因與歸責問題，我們首先要明確兩者的順序，即只有在解決歸因問題之後才能解決歸責問題。同時，筆者還認為，涉人工智慧犯罪中歸因問題的解決，依賴於對涉人工智慧犯罪行為與造成的嚴重危害社會結果之間的因果關係的認定；而涉人工智慧犯罪中歸責問題的解決，則應依賴於對行為人主觀罪過等構成要件的認定。

二、涉人工智慧犯罪認定應堅持客觀歸因

正是因為涉人工智慧犯罪中的歸因問題的解決，依賴於對涉人工智慧犯罪行為與造成的嚴重危害社會結果之間的因果關係的認定，因此，採用什麼樣的標準和準則來認定涉人工智慧犯罪中的因果關係，就顯得至關重要。

（一）傳統刑法因果關係學說

在人工智慧時代到來之前，刑法理論中有關認定因果關係的學說主要有條件說、原因說、相當因果關係說、客觀歸責理論等。

條件說認為，一定的前行事實（行為）與一定的後行事實（結果），如有所謂「如無前者，即無後者」的論理條件關係時，則其行為即為對於結果的原因，兩者之間有因果關係。簡言之，若行為與結果之間存在「若非A，則非B」的關係，則A是B的原因。有學者指出，條件說存在無限制地擴大刑法上的因果關係範圍的缺陷。對條件說進行批判的經典案例是，殺人犯的母親生了殺人犯，是否也是殺人行為的兇手？這一說法的荒謬之處筆者將在下文中詳述，在此不作贅述。

原因說是為了避免條件說不適當地擴大刑事責任的範圍而產生的，所以又稱「限制條件說」。該說主張，在導致結果發生的數個條件中，根據某種標準挑選出一個條件作為原因，這一條件和結果之間才具有因果關係，其他諸條件與結果之間都沒有因果關係。這一學說完全忽視了多因一果的狀況，且判斷標準極具爭議性和隨意性，在當今的刑法學界已無影響力。

相當因果關係說以條件關係的存在為前提，認為由其行為發生該結果在經驗上是通常的，即限於被認為是「相當」的場合，肯定刑法上的因果關係。關於認定何為「相當」的標準，在相當因果關係說內部，又分裂成客觀說、主觀說、折中說三派。但事實上，相當因果關係說內部分裂出的三派學說側重的是對判斷資料的篩查，而非對判斷規則的確立，因此有本末倒置的嫌疑。而在涉及具體判斷規則的確立時，相當因果關係並未提供確定標準，仍只能以經驗法則作為實際意義上的實施標準。法律規則的制定可以以人類累積的經驗作為素材，但是當把經驗本身作為判斷標準時，就會陷入具有不確定性的經驗主義泥淖。「累積的經驗法則可以作為規範制定的來源，但其本身上升為一種標準時，在以法官作為裁決終端的司法體制中，最終會演變成為裁判者個人價值偏好背書的萬能公式。」簡言之，每個法官的「相當」事實上都是不相當的。

關於客觀歸責理論，有人認為，「區別於條件說主要解決歸因的問題，客觀歸責理論解決的是歸責問題」。但是，由於我們是在論述刑法中因果關係背景下討論這一問題的，因此，筆者認為，此處客觀歸責理論所論述的「歸責」，本質上仍應屬於歸因的範疇，即是在對行為與結果進行事實因果關係的判斷過程之後的規範判斷，以此最終確定行為與結果之間是否具有法律意義上的因果關係。換言之，刑法因果關係中的客觀歸責理論所論述的本質問題是客觀歸因問題，是探討能否將結果歸結於行為，即通過對行為與結果進行規範判斷來確定因果關係能否得以證成。根據這一理論，在行為與結果具有事實上的因果關係的基礎上，當符合三個條件（行為製造了不被允許的危險，行為實現了不被允許的危險，結果沒有超出構成要件的保護範圍）時，才能將結果歸因於行為。因此，筆者在本文論述對涉人工智慧犯罪行為歸因問題的部分，探討刑法中客觀歸責理論，意在吸取客觀歸責理論的合理之處，完善涉人工智慧犯罪行為歸因的法則。

（二）應結合涉人工智慧犯罪的特點確定歸因標準

涉人工智慧犯罪極具複雜性，其中多因一果、一因多果等現象也並不罕見，且在犯罪過程中，可能會有系統故障、研發者、生產者和使用者行為的介入，從而使原本簡單的因果鏈條變得錯綜複雜。

由此，在認定涉人工智慧犯罪行為與造成的嚴重危害社會的結果之間的因果關係時，要考慮到涉人工智慧犯罪的特點，從複雜多變的犯罪現象中總結、發掘規律，確立能夠適用於涉人工智慧犯罪的因果關係認定標準。筆者認為，在探討對涉人工智慧犯罪行為的歸因問題時，仍應以現有的刑法因果關係理論為基礎，同時結合涉人工智慧犯罪自身的特點，對原有理論進行完善，從而確立一套既符合刑法一般理論，又能適應涉人工智慧犯罪自身特點的科學的歸因體系。

由上文論述可知，刑法理論上有關因果關係的學說中，原因說和相當因果關係說有一個共同的缺陷，就是它們均會產生判斷隨意性的問題。儘管筆者承認，相當因果關係說仍有諸多可取之處，因此在很長時間內佔據著大陸法系因果關係理論的支配地位。但是正如筆者在上文所言，在具體案件中運用相當因果關係說時，每個人對「相當」的判斷標準恰恰是不相當的。反觀涉人工智慧犯罪，每個人的「不相當」在這一領域的判斷會被擴大化。人工智慧技術是一門新興的前沿科技，在這一領域存在著很多未解的問題。個人的知識水平、理解能力以及在技術發展的不同階段，所謂的「相當性」的判斷都會變得恣意。可能會有人提出，在相當因果關係說內部存在主觀說、客觀說和折中說三種學說，以行為人認識的情況為判斷基礎的主觀說確實具有一定程度的隨意性，但是客觀說和折中說都是以客觀情況和一般人的認識標準作為主要判斷標準的，並不具有隨意性。筆者不贊同這一觀點。人工智慧技術是一門前沿技術，不同人對其認識和掌握的程度會存在巨大的個體差異。正如一個目不識丁的老太與一個證券交易所的工作人員對內幕交易行為的認識程度不同，具有人工智慧專業技術知識的人與對此一竅不通乃至聞所未聞的人，對涉人工智慧犯罪行為的認識也絕不相同。試問，誰的認識可以算作「一般人」的認識？正因如此，筆者認為，在確定涉人工智慧犯罪中的歸因標準時，參考原因說和相當因果關係說的觀點應該是不可行的。

有學者提出，條件說將「若非A，則非B」的成立作為認定「A是B的原因（即A與B之間存在因果關係）」的標準，將會不當擴大因果關係的成立範圍，進而擴大處罰範圍。例如，甲將乙打成輕傷，乙被送往醫院治療。在治療期間，由於醫生的重大過失導致乙死亡。根據條件說的觀點，若甲沒有把乙打傷，乙就不會前往醫院治療，最終也不會發生由於醫生重大過失而導致乙死亡的結果，因此甲打傷乙的行為與乙的死亡結果之間存在因果關係。這一案例認定中存在的問題與前文筆者所述的「殺人犯的母親生了殺人犯，其生殺人犯的行為與被害人死亡的結果之間也有因果關係」案例中存在的荒謬之處如出一轍。上述兩個案例中因果關係認定出現荒謬錯誤的原因並非條件說的認定標準存在錯誤，而是判斷者錯誤地提取了判斷素材或判斷資料。在甲打傷乙的案例中，對乙死亡事實的準確描述應是「乙在醫療事故中死亡」，我們把「乙在醫療事故中死亡」稱之為具體結果，則我們僅需提取造成這一具體結果的行為作為原因，其他無關的因素不予考慮。與之相同，在殺人犯的案例中，可以把具體結果表述為「被害人被殺死」，則我們也僅需提取造成被害人被殺死這一結果的行為，對諸如殺人犯出生這一無關因素也無須加以考慮。可能會有學者提出，雖然甲打傷乙的案例中甲把乙打成輕傷的行為與乙死亡的結果之間不存在因果關係，殺人犯的案例中殺人犯的母親生殺人犯與被害人死亡的結果之間也不存在因果關係，但是這兩個案例中否定因果關係成立的原因並不相同。在前一案例中，可以適用因果關係中斷的理論，即醫生的重大過失是異常的介入因素，中斷了前行為（甲把乙打成輕傷）與結果（乙死亡）之間的因果關係；而在後一案例中，殺人犯的母親生殺人犯這一行為並非刑法上禁止的行為，因此根本無須納入刑法中因果關係評價的範疇中去。

筆者認為，上述判斷標準在適用於一般犯罪的因果關係存在與否的判斷時頗具合理之處，但是在適用於涉人工智慧犯罪的因果關係判斷問題時則並不可取。原因在於，在涉人工智慧犯罪中，最終導致結果發生的原因可能是多方面的，且這些原因的產生時間與最終結果的發生時間可能會存在很長的間隔。

例如，自動駕駛汽車撞死行人這一結果的發生，可能與研發者和生產者製造的系統有關，也可能與使用者的不當使用行為有關，還可能是兩者共同作用的結果。當系統發生故障，且使用者存在不當使用行為時，對於最終造成的危害結果如何歸因？使用者的不當使用行為是否可以被認定為異常的介入因素，判斷的標準是什麼？尤其是在相關法律法規不完善的情況下，誰有權力確定判斷的標準？

筆者認為，如果我們能夠確定一個適用於涉人工智慧犯罪中因果關係判斷的標準，在上述問題解決之前就可以準確合理地認定涉人工智慧犯罪行為與嚴重危害社會的結果之間是否存在刑法上的因果關係，這將會對涉人工智慧犯罪認定的規範化、準確化產生有利的影響，從而也有利於發揮刑法為人工智慧技術的發展保駕護航的積極作用。

（三）應將雙重篩選的條件說作為涉人工智慧犯罪的歸因標準

正如筆者在上文所述，由於涉人工智慧犯罪與普通犯罪相比更具複雜性，因果鏈條更為複雜，因此我們在遵循刑法中因果關係認定的一般規律的基礎上，應結合涉人工智慧犯罪的特點，設定涉人工智慧犯罪中因果關係認定的特別適用標準，以此作為涉人工智慧犯罪的歸因標準，同時作為涉人工智慧犯罪中的歸責前提。筆者在此需要說明的是，這裡所謂涉人工智慧犯罪中因果關係認定的特別適用標準，是指在當前弱人工智慧時代所適用的標準，這一標準並未違反刑法條文及刑法理論中有關因果關係認定的標準，而是在原有刑法規定及刑法理論的基礎上，探索契合涉人工智慧犯罪特點的因果關係判斷標準。

筆者認為，應將雙重篩選的條件說作為涉人工智慧犯罪的歸因標準。雙重篩選的條件說是在條件說基礎上，吸取客觀歸責理論的合理成分而建立的因果關係認定標準。應當看到，相當因果關係說和原因說無論如何也無法擺脫其在認定因果關係時的隨意性和隨認定主體而變動的個體差異，而條件說和客觀歸責理論則確實避免了上述缺陷。條件說和客觀歸責理論並非互相獨立的兩個學說，它們之間存在重合的部分。正如筆者在上文所強調的，在探討涉人工智慧犯罪中的歸因問題時，我們是將歸因與歸責問題的探討完全獨立開來的。因此，在描述條件說和客觀歸責理論之間的聯繫和重合部分的時候，應該不涉及歸責問題。

適用條件說判斷涉人工智慧犯罪中的因果關係的流程可以被表達為：涉人工智慧犯罪行為所導致的嚴重危害社會的結果——涉人工智慧犯罪行為——因果關係；而適用客觀歸責理論判斷涉人工智慧犯罪中的因果關係的流程可以被表達為：涉人工智慧犯罪行為所導致的嚴重危害社會的結果——涉人工智慧犯罪行為——因果關係——危險判斷（製造不被允許的危險、實現不被允許的危險、結果沒有超出構成要件的保護範圍）。從兩種學說所表述的對因果關係的判斷流程中，可以看到，在「結果——行為——因果關係」的判斷層面，兩者是完全重合的，而客觀歸責理論是在後續的危險判斷層面進行了對危險的再次判斷。在此，筆者需要說明的是，上文所述的兩種學說的異同之處成立的前提是對條件說進行寬泛理解，也即當條件說所描述的「若非A，則非B成立，則A與B存在因果關係」中的原因A和結果B未經篩選的情況。如果在適用條件說時經過下述篩選，條件說完全可以通過吸收客觀歸責理論的合理成分而更具合理性和可操作性。

1.第一重篩選

法律對社會生活的調整是有選擇的，刑法就更是如此。只有當嚴重危害社會的結果被刑法條文所明確禁止時，才有必要考慮此結果由哪個（或哪些）原因（行為）造成的。因此，條件說所要求的原因A並非指所有行為，而只能是作為引起結果發生原因的行為；結果B並非指所有結果，而只能是刑法規制範疇中的結果。換言之，條件說描述的並非任一行為與任一結果之間的因果關係，而只能是引起結果發生原因的行為和刑法規制範疇中的結果之間的因果關係。由此，就形成了對條件說適用之前的第一重篩選，即確定刑法規制範疇中的結果。例如，醫生在人工智慧手術機器人的協助下成功為病人截肢，挽救了病人的生命，這一手術結果並非刑法規制範疇中的結果，我們也就無須探討醫生的行為與病人疾病得以治癒的結果之間的因果關係。再如，母親生育嬰兒，甲把乙打成輕微傷等案例中，由於嬰兒的出生和乙輕微傷的結果都不在刑法規制範疇中，因此也無須探討前述案例中行為與結果是否存在刑法中的因果關係。但是，如果醫生在人工智慧手術機器人的協助下為病人截肢，由於操作不當，而導致病人死亡；或者甲把乙打成輕傷。在這些案件中病人死亡或者乙被打成輕傷的結果都是在刑法規制範疇之中，因此就有必要探討醫生操作人工智慧手術機器人行為與病人死亡、甲的打人行為與乙輕傷結果之間的因果關係。綜上所述，「第一重篩選」是指篩選出刑法規制範疇中的結果，而將其他結果剝離出去。這是對因果關係判斷流程簡化的前提。而這種簡化的實現是從刑法的基本理論出發，從因果鏈條中的眾多事實中剝絲抽繭，避免重複且無效的勞動。

2.第二重篩選

當結果發生之前存在眾多事實時，判斷者容易受到相關因素的幹擾，使得因果關係的判斷存在困難。此時，需要區分「原因」和「條件」，將「條件」剝離出去，以免幹擾判斷思路。筆者舉兩個簡單的例子對此加以說明。例一，甲以殺人的故意在乙的食物中放置了足以導致乙死亡的毒藥，乙在吃完食物（毒藥的藥性發作前）後，被丙槍擊致死。如果沒有丙的槍擊行為，乙死亡的結果也不可避免。因為甲投毒的行為完全可以導致乙的死亡，並且正在向著此危害結果發展的進程之中，也即丙的槍擊行為只是加速了乙死亡結果的發生，但並未改變甲行為所導致結果的方向。換言之，沒有丙的行為，乙死亡的結果仍然會發生；沒有甲的行為，乙死亡的結果也仍然會發生。所以甲的行為和丙的行為都可以作為乙死亡結果的原因。由於丙的行為是直接導致乙當時受槍擊死亡結果發生的原因，因此，丙的行為與乙死亡結果之間是必然因果關係；甲的行為與乙提前發生的死亡結果之間是偶然因果關係。例二，甲傷害乙（導致乙輕傷），但是乙有血友病，最終血流不止而死亡。在這個案例中，存在兩個導致乙死亡的事實：一是甲傷害乙的行為，二是乙本身具有血友病。但是乙有血友病這一事實本身並不會直接導致乙死亡的結果，只是被害人本身所具有的特殊體質，而並非任何意義上的行為，只能作為乙死亡結果發生的「條件」而非「原因」。諸如此類的「條件」不應作為因果關係判斷過程中需要考慮的因素，因為刑法中的因果關係指的是行為與結果之間的因果關係，作為這一關係中的原因只能是人的行為，而不能是其他任何條件。由此，甲傷害乙的行為就成為導致乙死亡的唯一原因。綜上，「第二重篩選」是指篩選出導致結果發生的原因（即引起結果發生的人的行為），而將諸多條件剝離出去。

3.吸收客觀歸責理論的合理因素進行雙重篩選

筆者認為，可以吸收客觀歸責理論的合理因素來對危害行為、危害結果進行雙重篩選，以實現上述雙重篩選流程的規範化、定型化。廣義的客觀歸責理論如筆者在上文所述，既包括對事實上因果關係的認定，也包括對結果歸屬的判斷；狹義的客觀歸責理論只包括對結果歸屬的判斷。由於條件說本身就包含了對事實上因果關係的認定，因此在吸取客觀歸責理論的合理成分時，僅需考慮狹義的客觀歸責理論對結果歸屬的判斷規則，即可以將客觀歸責理論中對結果歸屬判斷的標準用於篩選（限制）條件說中的原因和結果的判斷素材（判斷範圍）。具體而言，客觀歸責理論中結果歸屬於行為的條件有三：一是行為製造了不被允許的危險；二是行為實現了不被允許的危險；三是結果沒有超出構成要件的保護範圍。其中，第一個條件和第二個條件用於限制條件說中因果關係成立所要求的要素之一——行為；第三個條件用於限制條件說中因果關係成立所要求的要素之一——結果。換言之，「行為製造了不被允許的危險」和「行為實現了不被允許的危險」即是對行為的規範判斷，「結果沒有超出構成要件的保護範圍」即是對結果的規範判斷。舉例而言，自動駕駛汽車系統發生故障，導致剎車失靈（人為操縱剎車系統也一併失靈）。自動駕駛汽車載著使用者甲在路上行駛。此時，車前方走過行人乙。甲不知系統故障（即甲不採取任何措施，汽車也會向乙撞去），由於報仇心切，人為操縱汽車向乙撞去，最終行人乙被撞身亡。在此案例中判斷行為與結果之間的因果關係，按照經過雙重篩選的條件說，其流程應為：第一重篩選，將客觀歸責理論中對結果歸屬判斷條件中的第三個條件作為判斷標準來篩選判斷素材。在上述案例中，最終的結果是「行人乙被撞身亡」，而乙死亡的結果當然在刑法規制範疇之中，可以被認定為因果關係判斷中的「結果」。第二重篩選，將客觀歸責理論中對結果歸屬判斷條件中的第一個條件和第二個條件作為判斷標準來篩選判斷素材。我們可以發現，自動駕駛汽車本身的故障並未直接製造不被允許的危險，也並未實現不被允許的危險，即上述自動駕駛汽車故障這一要素經過第二重篩選，應被判斷為「條件」而非「原因」。因此，在第二重篩選的過程中，我們可以將自動駕駛汽車剎車系統失靈這一條件予以排除。經過雙重篩選之後，僅存的行為是「甲操縱自動駕駛汽車向乙撞去」，結果是「乙被撞身亡」，則可以肯定「甲操縱自動駕駛汽車向乙撞去」與「乙被撞身亡」之間存在因果關係。

綜上所述，在適用雙重篩選的條件說時，應先根據客觀歸責理論中對結果歸責判斷標準的第三個條件（結果沒有超出構成要件的保護範圍）在因果鏈條中的眾多要素中進行第一重篩選，進而根據客觀歸責理論中對結果歸責判斷標準的第一個條件（行為製造了不被允許的危險）和第二個條件（行為實現了不被允許的危險），進行再次篩選，將對具體結果的發生具有「引起」意義的行為挑選出來。最終的結論就是，經過了雙重篩選之後的原因和結果之間具有刑法上的因果關係。

基於人工智慧技術的前沿性和涉人工智慧犯罪的複雜性，人們對人工智慧技術和涉人工智慧犯罪的認識未必會全面、準確。採用雙重篩選的條件說認定涉人工智慧犯罪中的因果關係，似乎可以更有利於準確、簡潔地判斷行為與結果之間因果關係存在與否，既避免了採用相當因果關係說和原因說的不確定性，又避免了採用原有條件說需要同時適用因果關係中斷說來處理異常介入因素時對「異常性」判斷的不確定性。之所以要盡力排除涉人工智慧犯罪中因果關係認定的不確定性，是由上述人工智慧技術的特徵和涉人工智慧犯罪的特徵所決定的。因此，採用雙重篩選的條件說是人工智慧時代判斷涉人工智慧犯罪中的因果關係的最佳選擇。

三、涉人工智慧犯罪認定應堅持主觀歸責

（一）客觀歸因基礎上的主觀歸責

涉人工智慧犯罪的歸責問題中所指的「歸責」，是在肯定了危害行為與危害結果之間存在因果關係之後，對能否讓行為人為此承擔刑事責任所作的探討。因此，涉人工智慧犯罪中的歸責問題也就從根本上區別於客觀歸責理論中的「歸責」。換言之，客觀歸責理論中的「歸責」探討的是能否將結果歸屬於行為；而涉人工智慧犯罪中的歸責問題，是在確定可以將結果歸屬於行為的基礎上，探討能否將結果歸屬於實施這一（或這些）行為的行為人。對於前一個基礎問題，即能否將結果歸屬於行為，實質是在探討行為與結果之間是否具有因果關係，如上文所述，可採用雙重篩選的條件說來解決。而對於後一個問題，即能否將結果歸屬於實施這一（或這些）行為（與結果有因果關係的行為）的行為人，關鍵要看符合主體構成要件的行為人在實施行為時是否具有主觀罪過（故意或者過失）。這是由主客觀相一致的刑法原則所決定的。如果在肯定行為與結果具有因果關係的前提下，即認定實施行為的行為人應承擔刑事責任，有可能不當地擴大處罰範圍，且違反了主客觀相一致的原則。

對涉人工智慧犯罪歸責問題中的「歸責」含義的澄清，同時也可以進一步說明，採取雙重篩選的條件說來認定涉人工智慧犯罪中的因果關係不會不當擴大處罰範圍。例如，自動駕駛汽車的系統發生故障，而之前並未發出故障警報以提醒使用者，自動駕駛汽車即將撞上行人乙時依然保持原有車速行進，使用者甲因未收到任何提醒而未採取人為操縱剎車措施，最終行人乙被撞身亡。根據雙重篩選的條件說，應當承認自動駕駛汽車的使用者甲未及時採取人為操縱剎車措施等行為與行人乙被撞身亡的結果之間存在因果關係。但承認二者之間的因果關係，根本不會不當地擴大刑法處罰的範圍。其原因在於，即使在承認自動駕駛汽車的使用者甲的行為與行人乙死亡的結果之間具有刑法上的因果關係，也不必然意味著自動駕駛汽車的使用者甲需要對乙的死亡負刑事責任。只有當自動駕駛汽車的使用者甲存在主觀罪過時，才可能對乙死亡的結果負刑事責任。而根據當時的情況，甲並未收到自動駕駛汽車發出的警報，也就沒有任何義務採取人為操縱剎車措施，對於乙死亡的結果，甲既不存在故意也不存在過失的主觀罪過，因此甲當然不應承擔任何刑事責任。

由此可見，在涉人工智慧犯罪中，承認行為與結果之間的因果關係，並不會不當擴大刑法處罰的範圍。正如筆者在上文所述，歸因是歸責的基礎和前提，歸責是歸因的可能後果而非必然後果，即歸因是歸責的必要而非充分條件。換言之，行為人的行為與刑法規制範疇中的結果存在因果關係，行為人並不一定會對這一結果承擔刑事責任，而行為人如果對這一結果要承擔刑事責任的，其行為與這一結果之間必須具有因果關係。

（二）涉人工智慧犯罪認定不應適用絕對嚴格責任原則

嚴格責任原則最早出現於英美刑法中，其大體含義是，在某種沒有罪過的場合仍可將行為定性為犯罪並對行為人追究刑事責任。嚴格責任原則確立的初衷主要有兩方面：其一，在現代社會中，隨著生產力和科學技術的飛速發展，各種社會關係趨於複雜，社會整體面臨的威脅更加多元和緊迫。嚴格責任的確立是個人利益向公共利益的讓步，以保證社會生活的安全這一社會最大利益的實現。「實行嚴格責任，可以有助於保證社會團體或組織的負責人採取一切可行的措施去貫徹執行有關社會福利方面的重要法規。不考慮犯罪意圖也給予定罪，可以制約或迫使人們不去做不允許做的事，同時也保證了人們可以去做允許做的事。」其二，在有些犯罪中，行為人不具有主觀罪過，只是行為在客觀上導致了危害結果，為了達到不放縱犯罪的目的，於是在實體法中只強調客觀行為及後果而對罪過不作規定。可能會有學者認為，人工智慧技術的發展在為人類社會帶來極大便利的同時，也可能會帶來極大的風險。正如霍金所言，「未來人工智慧也許會是人類的終結者」。基於人工智慧技術的濫用可能會給人類社會帶來巨大危害乃至帶來毀滅性的災難，因此，應嚴格追究行為人利用人工智慧技術造成嚴重危害社會結果行為的刑事責任。即使在行為人不存在主觀罪過，但行為客觀上造成了嚴重危害社會結果的情況下，仍可追究行為人的刑事責任。筆者認為，上述第二點理由不能成立。刑事訴訟活動是司法機關依照法律規定的程序，解決被追訴者刑事責任問題的活動。而被追訴者刑事責任的有無和輕重是由刑事實體法規定的，刑事實體法對刑事責任的規定主要考慮行為的社會危害性大小和被追訴者的主觀惡性高低。如果被追訴者主觀上沒有罪過，就無法體現其主觀上的惡性程度，在此情況下仍追究其刑事責任，顯然不符合刑法中主客觀相一致的原則。上述第一點理由確實表明了嚴格責任原則在現代社會中有可能發揮一定的積極作用，但是我們要用全面的視角看待和評價一個行為或規則的利弊。即嚴格責任原則在發揮上述積極作用的同時，也會產生嚴重的惡果。對此，筆者將在下文中進行詳細闡述，在此不再贅述。

總之，在涉人工智慧犯罪的認定過程中，不應採用嚴格責任原則，仍要嚴格按照客觀歸因和主觀歸責的認定路徑，來確定涉人工智慧犯罪中行為人的刑事責任。理由如下。

第一，民法領域和英美刑法中對「嚴格責任」的規定不能成為認定涉人工智慧犯罪時適用嚴格責任原則的參照。在民法領域中存在無過錯責任原則，也可被稱為嚴格責任原則，是指當行為人的行為符合下述兩個條件時即可讓行為人承擔民事責任。這兩個條件為：（1）行為人造成他人損害的事實客觀存在；（2）行為人的活動與造成的損害後果之間有因果關係。顯而易見，在民法領域讓行為人承擔無過錯責任的條件與上文所述在刑事犯罪中的歸因條件基本等同。應當看到，民法側重的是對社會關係的維護和修復，這一點，從民法中的公平原則就可見一斑。刑法側重的是對行為人行為的定性和處罰，其側重點與民法存在明顯不同。而導致英美刑法中較多地出現嚴格責任原則的規定，其根本原因在於刑罰的制裁手段由以自由刑為中心轉向大規模地適用財產刑，從而造成犯罪外延的急速膨脹，使刑法同其他部門法的界限變得模糊。我們暫且不談英美刑法中的這種做法是否可取，至少我國現今的刑法體系與英美刑法所仰賴的主要環境存在很大的不同。「橘生淮南則為橘，生於淮北則為枳，葉徒相似，其實味不同，所以然者何？水土異也。」在立法與司法環境與英美法系國家迥異的我國，照搬英美刑法中的嚴格責任原則顯然會造成「水土不服」。當然，筆者所言不能參考民法或英美刑法中的嚴格責任原則，並非意味著法律對於人工智慧領域中對個人或社會造成損害卻缺乏主觀罪過的行為和現象完全作壁上觀、放任自流，而是將其移除出刑法的規制範圍，由其他法律予以規制。

第二，適用嚴格責任原則可能會遏制人工智慧技術的發展。筆者之所以反對認定涉人工智慧犯罪時適用嚴格責任原則，一個重要的理由是，適用嚴格責任原則可能會將為人類社會帶來巨大福祉的人工智慧技術發展扼殺在搖籃之中。人工智慧技術雖然經過了60餘年的發展，已經取得了很大的成就，但是對於一個技術的發展歷程而言，目前仍處於蓬勃發展之前的起步階段。儘管人工智慧技術的發展蘊藏著風險，但是不可否認，其給人類社會帶來的利益可能會超出以往的任何技術。在人工智慧時代，人類的身體和大腦功能會在一定程度上被智慧機器人取代，人類不僅可以獲得雙手的解放，還可以獲得大腦的解放。人類將不再為了生存而勞作，而有更多的時間和精力去追尋人之為人的更深層次的價值。在第一次工業革命中，人類發明了火車和輪船；在第二次工業革命中，人類發明了汽車和飛機。這些交通工具的發明極大地拓展了人類的出行範圍，節約了人類的出行時間，可以說，新的交通工具的發明和使用為人類的生活帶來了極大的便利。但是，我們也應看到，隨著上述交通工具的發明和使用，交通事故也頻頻出現在人類的社會生活中。試想，當第一起火車事故發生時，如果立法者規定對火車事故適用嚴格責任原則，即只要火車事故發生，無論火車的研發者、生產者或者使用者是否有主觀罪過，一律追究其刑事責任，交通工具的更新換代還從何發生？又有誰會冒著被追究刑事責任的風險來研發、生產和使用新型的交通工具？技術的發展會不可避免地帶來一定的風險，這是為了追求人類整體的發展和進步而不得不付出的代價。正如我們不可能因為交通事故的發生就禁止汽車上路一樣，我們也不能因為智慧機器人可能會對人類造成一定的危害就從立法上確立涉人工智慧犯罪的嚴格責任原則，這無異於在人工智慧技術發展的初期就將其扼殺，使其失去發展和更新的動力。

第三，排除嚴格責任原則的適用不等於否認涉人工智慧犯罪中間接因果關係的認定。可能會有人提出，在涉及公共安全的領域，嚴格責任原則的適用是必要的，如果人工智慧技術危害到了公共安全，技術也應為安全讓步。在我國刑法中，其實也存在類似於嚴格責任原則的規定。例如，根據《刑法》第134條第2款的規定，強令他人違章冒險作業，因而發生重大傷亡事故或者造成其他嚴重後果的，構成強令違章冒險作業罪。在這一條文中，立法者只強調了兩點：一是行為人的行為造成他人損害的事實客觀存在；二是行為人的行為與造成的損害後果之間有因果關係（體現為「因而」二字），這就與民法領域的無過錯責任原則（也稱嚴格責任原則）如出一轍，可以作為刑法中採納嚴格責任原則的代表。筆者不贊同以上觀點，理由是：其一，刑法條文未明確強調行為人的主觀罪過並不代表成立該罪不需要行為人具有主觀罪過。在刑法條文當中，不僅存在明示（或顯性）的構成要件，還存在默示（或隱性）的構成要件。例如，《刑法》第232條規定故意殺人罪的構成要件為「故意殺人的」，則對「故意」這一主觀罪過的要求是明示的構成要件。而《刑法》第263條規定搶劫罪的構成要件為「以暴力、脅迫或其他方法搶劫公私財物的」，其中對行為人主觀罪過（故意）的規定即是默示的構成要件。其二，在強令違章冒險作業罪的條文當中，對行為人的行為與重大傷亡事故和其他嚴重後果之間的規定屬於對間接因果關係的規定，而非類似於嚴格責任的規定。在強令違章冒險作業的構成中，直接違章冒險作業的行為人的行為與危害結果之間具有直接的因果關係，而該強令者一般就是處於監督地位的監督者，其行為與危害結果之間並無直接的因果關係，而與直接違章冒險作業的行為有直接聯繫，進而間接造成了危害結果，也即強令者的行為與危害結果之間只是一種間接因果關係。刑法將強令者的行為規定為犯罪行為，由此我們可以得出的結論是，這意味著刑法不僅承認直接因果關係，也在某種情況下承認間接因果關係。但我們不能進而認為，強令者在缺乏主觀罪過的情況下仍可構成犯罪。事實上，構成強令違章冒險作業罪，要求強令者至少存在過失的心態，即「行為人對自己行為造成的嚴重後果具有過失，而不是指對行為違章性的認識過失」。

與之類似，在涉人工智慧犯罪中，排除嚴格責任原則的適用，也並不意味著否認間接因果關係。在人工智慧時代，智慧機器人的「智能」程度逐漸增強，一旦智慧機器人被投入使用，在很大程度上，其會處於不受人的直接支配而獨立運作的狀態。在這種情況下，對智慧機器人的系統正常工作的要求就會提高，保證智慧機器人的控制系統正常以及在系統不能正常工作的時候及時停止工作並發出警報提醒使用者採取相應措施，就成為對智慧機器人的研發者和生產者的基本義務要求。當研發者和生產者未履行此注意義務而導致危害結果發生時，其行為與危害結果之間就具有間接因果關係。對此追究刑事責任理應不違反刑法的基本原理，且能起到保障技術向著更加安全可靠的方向發展的作用。

需要說明的是，筆者曾在相關文章中提到，「由於人工智慧可能造成的社會危害性大，並且研發者、生產者和使用者在大多數情況下對人工智慧產品具有一定的把控能力，因此可以考慮在刑法中確立人工智慧產品研發者、生產者和使用者的嚴格責任」。筆者在此處所說的「嚴格責任」（亦稱為相對嚴格責任）與本文所說的嚴格責任（亦稱為絕對嚴格責任）實際上是有區別的，應理解在某些涉人工智慧犯罪中，法律追究相關行為人的刑事責任時會比追究普通犯罪中行為人的刑事責任更加嚴格，也即為智慧機器人的研發者、生產者或者使用者設定了更加嚴格的注意義務。而法律法規建立了智慧機器人的研發者、生產者和使用者義務體系之後，當研發者、生產者和使用者違背了注意義務，即使在其主觀罪過難以判斷（但起碼應為過失）時，仍需要承擔相應的相對嚴格責任。筆者在上文中反對在涉人工智慧犯罪中適用的嚴格責任原則，指的是在行為人無罪過的情況下追究其刑事責任的絕對嚴格責任。二者具有本質不同，不應混同。

筆者在此需要補充說明的是，如果在相關涉人工智慧犯罪中，對於研發者、生產者或者使用者的主觀罪過難以判定時（並非沒有主觀罪過），仍可追究其刑事責任。此種相對嚴格責任處理方式可能會更加契合涉人工智慧犯罪本身的特點。

舉例而言，在有人駕駛汽車的交通肇事犯罪案件中，如果駕駛員違反交通規則導致交通事故發生，則應追究駕駛員交通肇事罪（過失犯罪）的刑事責任，而非追究汽車的研發者或者生產者的刑事責任。但是在全自動駕駛汽車違反交通規則導致嚴重交通事故發生的案件中，因不存在駕駛員，則當然沒有追究駕駛員刑事責任的可能性，應由誰承擔刑事責任就成為值得探討的問題。根據弱人工智慧時代全自動駕駛汽車本身的特點，我們不難發現，全自動駕駛汽車在馬路上的行進路線、行進速度等，均受研發者和生產者為其設計和編制的程序控制。全自動駕駛汽車違反交通規則時，也仍受程序控制。正如同剎車系統、方向盤、發動機等屬於傳統汽車的一部分，程序也屬於全自動駕駛汽車的一部分，這是全自動駕駛汽車本身的特點和性能所決定的。因此，全自動駕駛汽車違反交通規則是程序瑕疵所導致的，而程序又屬於全自動駕駛汽車這一「產品」的組成部分，所以全自動駕駛汽車違反交通規則導致嚴重交通事故發生的結果，理應歸責於程序的研發者或者生產者，也即全自動駕駛汽車的研發者或者生產者。問題在於，根據刑法規定，生產偽劣產品的行為構成犯罪均須以行為人主觀方面為故意。如果將全自動駕駛汽車違反交通規則導致嚴重交通事故發生的交通肇事結果歸責於全自動駕駛汽車的研發者或者生產者，就相當於讓研發者或者生產者承擔了原本屬於過失犯罪的交通肇事罪轉化而來的故意犯罪——生產偽劣產品罪的刑事責任。

解決這一問題的方法有二：

其一，在生產偽劣產品罪等犯罪中增加過失這一主觀要件；其二，確定涉人工智慧犯罪中對行為人犯罪的特殊認定標準，無須區分行為人主觀上的故意或者過失，即只要行為人所實施行為的客觀方面符合相關犯罪的構成要件，在行為人至少存在過失的情況下，即可按照相關刑法條文追究行為人的刑事責任。

結 語

涉人工智慧犯罪行為的歸因與歸責問題，是兩個獨立且有關聯的問題——歸因是歸責的基礎和前提，歸責是歸因的可能後果。涉人工智慧犯罪中因果關係鏈條更為複雜多元，從中通過雙重篩選的條件說確定行為與結果之間的因果關係，並將此作為歸責的基礎。雙重篩選的條件說是在條件說基礎上，吸取客觀歸責理論的合理成分而建立的因果關係認定標準。在涉人工智慧犯罪中，在行為人不存在主觀罪過的情況下追究其刑事責任的絕對嚴格責任原則不可取；但是，當確定行為人存在主觀罪過（最起碼存在過失），卻難以具體判斷其存在何種主觀罪過時，可以依據相對嚴格責任原則追究行為人刑事責任。

上海市法學會歡迎您的投稿

[e-mail]

相關連結

來源：《東方法學》2020年第3期（總第75期）。轉引轉載請註明出處。

原標題：《劉憲權：涉人工智慧犯罪中的歸因與歸責標準探析》

閱讀原文