新冠疫情與人工智慧倫理準則面臨的新挑戰

導讀

全球抗疫背景下，人工智慧在醫療場景的應用不斷增加。然而，在新冠疫情中，已有倫理原則的局限性顯現，主要體現在不同倫理準則之間面臨衝突。本文將分析疫情背景下AI倫理準則面臨的新挑戰並探討對策。

正文

在新冠肺炎的防疫和診療過程中，人工智慧等新興技術在收集分析相關數據、制定治療方案、追蹤受感染的人群、檢疫管理和信息傳播等方面都有著廣泛的應用。然而，為應對突發流行病而迅速實施的技術性解決方案也向技術應用的倫理層面提出了全新的挑戰。我們迫切需要形成新的倫理依據，以確保在後疫情時代人工智慧得以安全而有益地應用於社會的各個領域。

（一）人工智慧治理的一般倫理原則及局限

正如國際生物倫理委員會（IBC）和世界科學知識與技術倫理委員會（COMEST）在關於新冠疫情的聲明中所強調：「手機、社交媒體和人工智慧等數位技術能夠監測、預測和影響疾病的傳播和人類行為，從而在應對流行病方面發揮重要作用。關鍵在於確保使用這些技術帶來的倫理、社會和政治問題得到充分解決。人權應始終得到尊重，隱私和自主性與安全的價值觀應當得到審慎權衡。」

顛覆性技術帶來的倫理挑戰由來已久。早在新冠疫情爆發以前，相關討論就已經起步。2018年，歐盟委員會提出五大「可信賴的人工智慧」倫理準則，分別是自主性、有益性、預防傷害、公平性和可解釋性。自主性強調個人有權為自己做決定；有益性意味著促進福祉、維護尊嚴和促進可持續發展；預防傷害意味著人工智慧系統不應對人類生活造成傷害，不應威脅民主進程、言論自由或人身自由；公平性涉及利益共享和共同繁榮，與資源的合理分配和消除歧視有關；而可解釋性則通過明確理解人工智慧決策過程的必要性並追究其責任，使其他四項原則得以實施。中國的《人工智慧北京共識》於2019年5月發布，提出了15條人工智慧倫理準則，包括研發、使用、治理三方面，強調通過推動人工智慧的健康發展，助力於人類命運共同體的構建，實現對人類和自然有益的人工智慧。2020年1月，美國白宮提出十條 AI 監管原則，包括公眾信任、公眾參與、科學完整性與信息質量、風險評估與管理、靈活性、公平和非歧視、公開與透明、安全與保障等方面。

儘管各國為規範和引領人工智慧發展，相繼發布了人工智慧的倫理準則，然而，這種高度抽象的原則沒有回答一個重要的問題：當現實情境中不同倫理準則之間面臨衝突時，如何處理衝突或進行取捨？

在新冠疫情防控背景下，當公共健康和個人隱私產生衝突時，如何在有益性原則（人工智慧拯救生命的潛力）和其他倫理準則如隱私權和公平性之間取得平衡？如果將「由誰來獲得有限的醫療資源」這一問題交由人工智慧決定，如何才能與公平和預防傷害的需求相協調？在新冠疫情中，上述倫理原則的局限性顯現，面臨挑戰。

（二）新冠危機：技術與倫理的博弈

在一場公共健康危機中，對有限資源的分配必然涉及倫理層面的討論，這也是人工智慧的應用在新冠疫情中面臨挑戰的根源。主要問題存在於個人隱私和數據保護、診療決策、數據權限、健康權益這四方面。

首先是個人隱私和數據保護問題。在醫療領域，數據保護問題尤其敏感，無論是基因測序數據，還是醫療健康數據，大部分人都不會願意分享自己的敏感信息。疫情中健康碼的普及、人臉識別技術被濫用的擔憂，引起數據保護問題的廣泛關注。如何在利用技術治病救人與保護隱私之間保持平衡，是醫療AI發展之路無法繞開的問題，是技術與倫理的博弈。

其次是診療決策的自主性問題。在危機面前，人們總會面臨各種權衡與取捨，但這些決定必須是透明的。因此，當我們將人工智慧引入醫療決策過程時，可解釋性原則就顯得尤為重要。對於基於人工智慧來對治療方式和資源分配進行決策的模式來說，只有具備某種形式的可解釋性，才能在人與技術之間建立信任，確保效用與公平的平衡。

第三是數據權限問題。新冠疫情危機向數據科學和治理領域的許多人表明，人們亟需建立起統籌、協調、專門的數據基礎設施和數據生態系統來應對動態的社會和環境威脅。有需求的群體沒有獲得必要的數據資源，而已發布的數據也不能直接系統地使用，社會就會失去通過共享數據來推進公共政策的決策和研究的機會，這本身就是一項與人工智慧直接相關的倫理挑戰。

最後是健康權益問題。從群體層面來看，由於人工智慧所依託的健康數據本身可能存在選擇性偏差，因此在流行病管理中，可能存在某些群體的代表性不足或權益受損等問題。而從國際層面來看，中低收入國家相較於發達國家更可能面臨公平性和包容性問題的考驗。

那麼，如何應對新冠疫情向人工智慧倫理提出的新挑戰？

首先，在一項新技術開始應用並得到廣泛部署之前，應當儘可能徹底地思考技術邊界問題及可能的問題與風險。這種提前思考的必要性體現在 &34;的概念中，即將倫理考慮作為開發人工智慧新應用過程的一部分，而不是直到事後才加以考慮。其次，當人工智慧大規模地應用於醫療等關鍵領域時，應當確認這些智能系統在一系列場景中的安全性和可靠性是得到切實保障的。最後，一項亟待解決的問題是樹立公眾對人工智慧的信任。人們必須首先信任人工智慧系統，才能夠有效地使用它們。這就需要有包容和透明的程序以及妥善的監管和治理。

參考文獻

1. Tzachor, A., Whittlestone, J., Sundaram, L. et al. Artificial intelligence in a crisis needs ethics with urgency. Nat Mach Intell 2, 365–366 (2020). https://doi.org/10.1038/s42256-020-0195-0

2. Ethics and the Use of AI-based Tracing Tools to Manage the COVID-19 Pandemic, IEAI, June 2020, https://ieai.mcts.tum.de/wp-content/uploads/2020/06/Research-Brief_ContactTracingAppsFinal-1.pdf

3. Ethical Implications of the Use of AI to Manage the COVID-19 Outbreak, IEAI, https://ieai.mcts.tum.de/wp-content/uploads/2020/04/April-2020-IEAI-Research-Brief_Covid-19-FINAL.pdf

4. 程林：疫情下的倫理與人文之思｜機器人抗疫的得與失，澎湃新聞，https://www.thepaper.cn/newsDetail_forward_6378945

5. Draft Ethics guidelines for trustworthy AI, European Commission’s High-Level Expert Group on Artificial Intelligence, 18 December 2018, https://ec.europa.eu/digital-single-market/en/news/draft-ethics-guidelines-trustworthy-ai

6. 人工智慧：後疫情時代的發展趨勢，中金公司，2020 年 6 月 21 日，http://pdf.dfcfw.com/pdf/H3_AP202006221386497064_1.pdf

7. 新華網：《人工智慧北京共識》發布，2019年5月25日，http://www.xinhuanet.com/tech/2019-05/25/c_1124540938.htm

AI Update: White House Issues 10 Principles for Artificial Intelligence Regulation， January 14, 2020， https://www.insidetechmedia.com/2020/01/14/ai-update-white-house-issues-10-principles-for-artificial-intelligence-regulation/

作者：朱睿晗

原文摘自《人工智慧資訊周報》總第95期，轉載請註明出處

《人工智慧資訊周報》探討人工智慧對公共政策、治理和政策建議的影響，探索人工智慧對商業、政治和社會的影響，以確定潛在的研究領域，探討可能的合作研究和機構夥伴關係。本刊著重提供中國人工智慧發展動態和對人工智慧的思考，同時關注全球範圍內人工智慧相關研究動態。本刊旨在通過可靠的研究，來幫助企業、研究機構和公民預測和適應技術引領的變化。