作者：曹建峰（騰訊研究院高級研究員）
近期以來，美國和歐盟先後發布人工智慧技術發展的監管政策，預示著人工智慧（AI）將迎來監管時代。但美歐監管路徑大相逕庭，歐盟的「硬」監管模式意在加強監管以強化個人權利保護，美國的「軟」治理模式則極力限制監管範圍以促進創新與發展。尤其值得關注的是，歐盟人工智慧監管框架延續了其《通用數據保護條例》（GDPR）的長臂管轄理念，意圖通過歐盟立法為全球數字監管樹立標準，將來可能波及中國科技公司。
在科威特哈瓦利省舉行的機器人和人工智慧節上，孩子們與現場的機器人互動。新華社發
歐盟：呼籲對「高風險」AI應用加強監管
2月19日，歐盟委員會發布了新的數字戰略，這是繼2015年5月啟動單一數字市場戰略之後，歐盟面向數位化轉型的又一綱領性戰略。與之一道發布的還有「人工智慧白皮書」和「數據戰略」。歐盟出臺數字戰略，不僅意在增強歐盟的技術主權、產業領導力和經濟競爭力，而且期望像《通用數據保護條例》（GDPR）那樣，通過歐盟立法為全球數字監管樹立標準，給全球數字經濟發展帶來持續性影響。
人工智慧白皮書在2018年4月出臺的歐盟人工智慧戰略的基礎上，提出了投資和監管並舉的思路，一方面將持續加強對晶片、算法、量子計算等技術和產業的投資；另一方面將通過建立監管框架來防範自動化決策不透明、算法歧視、隱私侵犯、犯罪行為等AI應用相關風險。旨在加強技術主權，確保技術信任，使各種風險和潛在損害最小化，同時避免過度監管。主要包括以下方面。
一是採取分類監管方式，並非所有的AI應用都會受到監管，監管只針對「高風險」AI應用。但「高風險」的判斷標準（即「很有可能/有可能出現重大風險」）高度概括，非常模糊，存在很大解釋空間，賦予監管較大的自由度，不排除將來出現監管泛化。具體可能涵蓋哪些領域和使用場景，有待將來出臺監管名單，來窮盡列舉，並可定期評估、修訂，白皮書也列舉了醫療、交通、能源等領域。此外還有一個兜底規定，即不論是否在受監管的領域，只要AI系統被認為具有高風險，就應當受到監管，這會進一步擴大監管的範圍。例如，當前廣泛使用的AI人臉識別和AI招聘都是「高風險」應用，而這兩種AI應用都被指責造成了種族或性別等社會歧視。
二是高風險系統需要遵守嚴格的強制性要求。這些要求涵蓋訓練數據、數據記錄、信息提供與透明度、安全可靠與準確無誤、人類監督和幹預等五個方面。值得一提的是人類幹預，存在方式和程度上的差異：有些決定（如社會福利申請）只能由人類做出，不能交給AI系統來決定；有些決定（如信用卡申請）雖然可以由AI系統處理，但之後可以向人類提出申請；有些AI系統需要具備關閉功能，如自動駕駛汽車的關閉按鈕，AI系統超出設計的運行條件時應自動停止運行。此外，相比之前洩露出來的文件考慮在3-5年內禁止在公共場所使用人臉識別技術，白皮書並未禁止人臉識別的使用，但將限定使用情形並要求採取安全措施。而對於在公共場所使用人臉識別技術，歐盟委員會後續將討論確定正當的使用場景以及共同的安全措施。
三是延續長臂管轄思路，可能影響他國科技公司。新的監管框架延續了《通用數據保護條例》（GDPR）建立的長臂管轄規則，即在歐盟境內提供AI相關產品或服務的所有相關主體都需要受到監管，遵守強制性要求，無論其是否在歐盟境內設有營業場所。這意味著歐盟以外的科技公司可能受到監管，中國科技公司也不例外。
四是建立涵蓋事前、事中、事後各個環節的全面監管機制。事前，為了確保高風險AI應用遵守強制性要求，由監管部門對其進行合規認證評估，包括測試、監測和認證程序，以及對在研發階段使用的算法和數據集進行檢查。事中和事後，加強執法，包括監測合規與否，監管部門或第三方機構對AI應用進行測試。
五是不在監管範圍之內的AI應用，不需要遵守這些強制性要求。但針對不受監管的AI應用建立自願認證機制，即如果不受監管的AI應用自願遵守強制性要求或者特別為自願機制建立的類似要求，則可以被授予質量標籤，表明該AI系統是可信的。自願標籤機制將激勵行業主動合規，可能進一步擴大監管範圍。
美國：強調審慎監管以促創新發展
無獨有偶，今年1月，在出臺美國國家AI戰略滿一年之際，美國政府發布了《人工智慧應用監管指南》。《指南》提出了十大監管原則，涵蓋公眾對AI的信任、公眾參與、科研操守和信息質量、風險評估與管理、成本效益分析、靈活性、公平無歧視、披露與透明度、安全可靠、聯邦機構間協調等層面。主要呈現出以下三個特點。
強調監管應有助於創新與發展。美國AI政策的根本目的在於，增強美國在AI的科學、技術、經濟等方面的全球領導地位。AI監管也需要服務於這一根本目的。就AI監管的目的而言，與維護技術、經濟和國家安全、隱私、自由、法治、智慧財產權等美國價值同等重要的是，促進穩健的創新生態系統，減少、移除AI技術發展和應用面臨的不必要障礙，持續促進技術和創新的進步。所以《指南》要求充分評估監管對AI創新和發展的影響，避免採取阻礙AI創新和發展的監管、非監管措施，以及可能給AI系統施加過高標準的預防性路徑。
強調監管的科學性、靈活性。AI的監管、非監管措施需要充分考慮AI相關的科學、技術信息和程序，避免不切實際的拍腦袋立法。監管需要採取風險路徑來評估哪些風險可被接受，哪些風險可能導致不被接受的損害，或者帶來的損害超出了帶來的益處。這意味著AI監管的目的不是要消除所有的風險，也不可能消除所有風險，而是對風險進行管理，將風險控制在最小的或者社會可接受的限度。所以需要採取成本效益分析，在對AI進行監管之前，充分考慮AI發展應用的社會成本、益處、影響等，以權衡AI活動的利弊並衡量風險大小。此外，監管、非監管措施要具有足夠的靈活性和彈性，適應技術快速變化和AI應用迭代，僵硬的、規制技術細節的立法是不切實際的，無效的。
強調不監管和非監管措施。可以說，對於AI應用，美國是以不監管為出發點的。如果既有的監管是充分的，或者新的監管不符合成本效益分析，此時理想的路徑就是不再加強，或者採取非監管的措施來應對特定AI應用的風險。可以預見，美國將更側重不具有法律強制性的非監管措施，包括細分領域的政策指南或框架，試點項目和實驗，行業內自願的共識標準等。
誰更勝一籌？
美國和歐盟先後出臺監管政策，表明人工智慧將正式迎來監管時代。監管政策將成為美國和歐盟各自加強「科技主權」的重要工具。人工智慧白皮書的出臺，表明歐盟的人工智慧監管立場已經有所緩和，但是與美國相比，存在根本性差異。去年全球AI初創公司總共融資270億美元，其中美國佔了170億美元，遠超其他國家，美國活躍的創新生態在某種程度上表徵著美歐監管差異。
首先，監管目的和初衷存在顯著差異。歐盟人工智慧監管框架延續了GDPR的立法初衷，過分強調隱私等個人權利保護和AI應用的負面影響。相反，美國則更加強調對AI創新與發展的促進，所以把為AI應用創設「安全港」、監管例外、監管豁免等提到了很高的地位。「安全港」制度是美國在網際網路時代一騎絕塵的制勝法寶，美國希望在AI領域複製這一成功經驗。
其次，從監管標準看，歐盟低門檻監管，美國高門檻監管。高度模糊的標準意味著，歐盟為AI應用進入監管領域設置了較低的門檻。監管要求具體入微，監管和執法覆蓋全過程，AI發展應用將面臨更大範圍和更大程度的監管壓力，技術和產業影響不容小覷。相反，美國所倡導的科學審慎監管、風險評估與管理、成本效益分析、靈活敏捷等理念，不僅會很大程度壓縮監管的空間，而且不會使監管要求僵化，對技術和產業發展更加友好。
從監管特點分析，歐盟屬於「硬」監管，美國則是「軟」治理。歐盟的監管路徑旨在將新技術相關的任何可能風險降到最低，而非通過創造技術友好的政策環境來降低AI應用的門檻，所以過度強調監管的迫切性、必要性和重要性，希望通過政府認證和許可來強化對「高風險」AI應用的監管。相反，美國壓縮監管空間，不意味著毫不作為，而是給技術和行業友好型的非監管措施和「軟法」治理留出更大空間，避免監管影響新技術紅利的最大化釋放。
全球來看，放眼整個數字經濟領域，美國和中國是領頭羊，聯合國2019年的數字經濟報告顯示，全球最大的70個數字平臺公司的總市值中美佔了90%，區塊鏈相關專利中美佔了75%，全球物聯網支出中美佔了50%，全球雲計算市場份額中美佔了75%。而美國之所以能夠在網際網路時代領先於全球，很大程度上得益於行業自律為主的輕監管，而歐盟對網際網路的強監管使歐盟錯失了網際網路時代的機遇。如今，歐盟對人工智慧技術的強監管苗頭一方面具有限制美國等外國技術和產業力量以便迂迴打造自己的「技術主權」的考慮，另一方面卻可能事與願違，讓歐盟錯失AI時代的機遇。而美國倡導的AI治理的「軟法」路徑則追求監管的靈活性，避免過度監管，或許更值得借鑑。
對我國人工智慧產業發展的啟示
第一，要持續加強突破性技術領域的研發投入和人才培養。在推進監管的同時，美歐繼續加強科技研發投入，例如，美國計劃在未來兩年內使投資於人工智慧和量子計算的研發投入翻倍並打造全球首個量子網際網路，歐盟也將顯著地加強對AI、量子計算、5G和6G、區塊鏈等突破性技術的研發投入，這表明美歐對下一代數位技術和產業的競爭日趨加劇。我國在基礎研究、晶片、核心算法、人才培養等方面尚存短板，需要持續加大對人工智慧、量子計算等突破性技術的支持和投入力度。
第二，在全球「技術主權」競爭背景下，需要包容審慎監管AI應用。數字時代，全球「技術主權」競爭趨於激烈，監管政策是重要的工具，例如美國近年來加大對AI等前沿數位技術的投資和出口管制，就是出於這一目的。因此美歐的AI監管雖然存在差異，差異的存在是因為產業發展狀況不同，但殊途同歸，最終都是為了打造技術和產業競爭力。在這樣的背景下，美國的AI監管政策樣本更契合我國的技術和產業實際，需要遵循包容審慎的理念，通過多方參與、風險評估、成本效益分析等機制，確保立法和監管的科學化、精細化、靈活化，並可考慮設立「安全港」規則或者監管例外來鼓勵AI應用，同時依靠監管之外的多元化措施，如標準、指南、試點等，來共同促進我國的技術創新和產業發展。
第三，必須切實加強國際合作，積極推動國際AI標準設定。除了面向國內的政策舉措，美歐也在積極建立相關的國際聯盟、「數據俱樂部」等，希冀主導數據流動、數字稅收以及AI技術、倫理、治理等方面的國際標準。我國也需要加強相關國際合作，積極倡導我們的人工智慧發展理念。
《光明日報》（ 2020年05月14日 14版）
[ 責編：孫宗鶴 ]