全球疫情之下，大數據和人工智慧技術在實際場景中加速落地。不可否認，人工智慧在抗擊疫情和復工復產等多個領域都發揮了關鍵作用，但技術蓬勃發展帶來的法治挑戰也在相應增加。
上海交通大學文科資深教授、中國法與社會研究院院長季衛東對第一財經記者表示，疫情防控加快了數字經濟的發展和社會治理方式的轉型。然而，人工智慧對海量數據的渴望和吞吐，正在衝擊個人隱私和信息處分權，在一定程度上給現代法治體制帶來挑戰。
「特別是電腦的網絡化和算法的黑箱化，導致因果關係難以確認和說明，勢必動搖責任政府和問責原則的基礎，助長某種『機器官僚主義』的傾向。」他提出，必須及時對人工智慧治理以及相關的法律問題進行深入分析，從理論和實踐兩個方面提出中國方案。
便利性的代價
一方面是人工智慧應用落地加速，帶來生產效率和生活品質提升；另一方面是這些便利性帶來犧牲隱私、冒犯人格等代價，引起了越來越多個人和企業的重視。
6月8日，IBM公司CEO克裡什納宣布IBM退出人臉識別業務；6月10日，亞馬遜暫時禁止向美國警察提供人臉識別技術，禁令將持續一年；6月11日，微軟禁止將人臉識別技術銷售給警方；而早在今年初，Clearview AI公司就遭遇重大數據洩露，30億張人臉數據被洩露，引發美國社會的巨大擔憂。
季衛東表示，我國根據海量圖像數據進行人工智慧研究的績效的確非常突出，已經達到世界頂級水平。
「這使得人工智慧系統的深度學習能力超強，並能把有關成果迅速應用於經濟和社會治理的各個方面。」在季衛東看來，不斷進化的電子計算機也有可能在相當程度上以算法獨裁（Algocracy）的方式限制甚至剝奪個人的自由，以效率、便利、娛樂等不同誘因促使人們不斷放棄既有的基本權利。
季衛東解釋，在無法理解和無法說明的場合，算法就是黑箱化的。
「要求人類介入和監控人工智慧的運作，當然是要確保人工智慧的可控性，但信息處理系統越複雜就越容易出現操作的失誤，當系統運作速度極快時，人也很難對情況進行認識、預測以及掌握。」他表示，系統與系統之間還會產生目的衝突和互動，在機器學習甚至深度學習的情況下，不同人工智慧系統之間的互動關係將變得複雜且變幻莫測。
可以說，機器學習的效果越精準、深度學習的功能越強大，算法的涵義就會變得越來越難以理解和說明。中國圍棋棋手柯潔與AlphaGo對弈失利，就是例證之一。
季衛東認為，這樣的算法黑箱化，讓人工智慧具備了近乎不受約束的權力性。立法機構的決定、司法機構的判斷、行政機構的具體處分行為都需要給出明確的理由，以便據此防止主觀任意性，給相對人申訴和複議的機會。如果人工智慧進行的預測、提供的結論無法說明其理由，就無異於用「莫須有」的名義來做出決定。
一方面，在很多應用場景下，人工智慧很難被人類有效監控，反而容易成為人類轉嫁決策風險、逃避問責的重要手段；一方面，應用人工智慧對大數據進行分析和學習，可以充分掌握社會心理和輿情的變化，對不同群體以及個人的行為進行精準的預測。那麼，一旦不能相應提高民主問責的水準，權力濫用的風險將加劇。
中國社科院智慧財產權中心研究員楊延超告訴第一財經記者，未來的社會必須設立一個裁判機構，即算法裁判。「當算法決定人自由的時候，算法本身要接受制約。」他提出，對於算法的審查，需要一個由專業且綜合型人才組成的機構來完成，但這樣的人才，目前是相當缺乏的。
需要中國方案
楊延超表示，人工智慧帶給傳統法律體系的挑戰是顛覆性的，比如交通法，「從智能駕駛過渡到無人駕駛，現有交通法可能一條都用不了」。因為現有交通法遵循的是過錯責任原則，但在無人駕駛時代，沒有駕照的人也能「開車」，這就進入了從人的過錯到產品質量的迭代時期，整個交通法都要重新制定。
同樣的，隨著越來越多機器人開始參與文學作品的創作，現有的智慧財產權法也不再適用。「現在的法律總體處於觀望和個案解決的階段。人類意識到了人工智慧技術帶來的顛覆性，但顛覆的程度和速度還不得而知，因為技術本身尚處於發展階段。只能遇到問題逐個解決，不斷總結後形成規則。」楊延超說。
針對人工智慧帶來的挑戰，我國剛通過的《民法典》特別設立人格權編，加強對個人信息安全和隱私的保護。個人信息保護法、數據安全法草案也在全國人大常委會第二十次會議上進行了初審。
楊延超認為，目前的這些立法，技術和可操作性還有待加強，很難解決新興的具體問題。因此，做好立法準備的同時，需要加強對於人工智慧的管理，在政府管理層逐步形成專業的管理機構，不斷細化和完善現有規則。
季衛東也表示，這些規定在實施中勢必會遇到包括上述難題在內的考驗。這讓中國方案的出臺尤為重要。
在將於7月9日開幕的2020世界人工智慧大會上，季衛東將正式新增一個身份——上海交通大學人工智慧治理與法律研究中心（下稱「研究中心」）主任。作為全國首家側重研究人工智慧治理以及相關法律問題的機構，該研究中心將在這場雲端峰會的法治論壇上揭牌成立。
在世界人工智慧大會上，關於法治的討論從未停止。2018年的人工智慧與法治高端研討會、2019年的世界人工智慧大會法治論壇，均在大會期間取得了一定的學術成果。今年，法治論壇將升級成為大會的「主題論壇」之一，以「人工智慧的權利義務與法治實踐」，就構建AI法治、推動人工智慧與法治深度融合等問題進行探討。
繼去年發布《世界人工智慧法治藍皮書2019》後，今年的論壇還將發布「人工智慧法治發展指數」和《世界人工智慧法治藍皮書2020》。
楊延超提出，人工智慧的挑戰是世界性的，尤其在算法和數據共享等方面，是整個人類社會面臨的共性問題。我們需要根據國情來提出思路，同時也可以借鑑國外已有的相對成熟的法案，做好立法準備。
「我國人工智慧領域綜合型人才儲備不足，導致了人工智慧領域發展速度快，但立法準備速度慢的現狀。」他補充說，目前國內高校已逐步開始推進人才培養轉型，未來將更加重視新型人才的培養。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺「網易號」用戶上傳並發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.