歐盟:技術發展激勵與倫理道德監管雙管齊下

2020-12-10 新浪財經

原標題:人工智慧列國志|歐盟:技術發展激勵與倫理道德監管雙管齊下

來源:澎湃新聞

編者按:2020世界人工智慧大會將於7月9日至7月11日舉行。此次大會採用線上為主、線上線下結合的形式,以「智聯世界共同家園」為主題,邀請550餘位演講嘉賓參會,圍繞AI深度賦能行業和AI向善規範發展等話題,討論AI賦能的現狀、難點和未來前景,推動智能時代的傳統行業轉型。

澎湃新聞特此整理各國人工智慧發展現狀,希望能為讀者呈現較為全面而深入的人工智慧發展圖景。今日推出人工智慧列國志之歐盟篇。歐盟在持續激勵人工智慧技術發展、人才培養的同時,還注重對人工智慧領域相關倫理道德問題的探討。

歐盟委員會於2020年2月19日發布的《人工智慧白皮書》指出,歐洲的人工智慧戰略旨在提高AI領域的創新能力,同時促進道德、可信賴AI技術在歐洲經濟領域的應用。

面對人工智慧引發的倫理擔憂,關注人工智慧帶來的安全、隱私、尊嚴等方面的風險是歐盟人工智慧戰略和政策的側重點。

關注AI倫理問題

2018年3月,有歐盟智庫之稱的歐洲政治戰略中心(European Political Strategy Centre)發布題為《人工智慧時代:確立以人為本的歐洲戰略》(The Age of Artificial Intelligence: Towards a European Strategy for Human-Centric Machines)的報告。這份報告解讀了歐盟在人工智慧領域的最新發展現狀。

報告坦言,歐洲在人工智慧領域投資少且缺乏全球規模的數字公司。在深度學習領域、專利申請和投資方面,歐洲也落後於美國和中國。

在這種情況下,歐洲政治戰略中心建議歐盟鼓勵發展人工智慧,並努力建立起人與機器的共生關係。它還建議歐盟確立以人為本的戰略,把政策目標設定為使人們感到被人工智慧賦能,而非被其威脅。

歐盟也確實在這麼做。2018年4月25日,歐盟委員會發布的一份政策文件《歐盟人工智慧》(Artificial Intelligence for Europe)提出了人工智慧的歐盟道路。向來有著人權傳統的歐盟決定另闢蹊徑,著重探討人工智慧的價值觀。這份文件表示歐盟要竭力確保在人工智慧領域有國際競爭力,讓所有歐盟國家都能跟上這場數字變革並以歐盟價值觀作為新技術的基礎。

歐盟認為,人工智慧的發展可能會引發新的倫理和法律問題,歐盟必須確保人工智慧在適宜的框架內發展。這個框架應既促進科技創新,又能尊重歐盟的價值觀、基本權利和道德原則。

在歐洲價值觀的基礎上,歐盟委員會提出了一種三管齊下的方法:增加公共和私人投資,為人工智慧帶來的社會經濟變革做好準備,並建立起適當的道德和法律框架。

2019年4月,歐盟委員會發布了人工智慧道德準則。該準則提出了四項倫理準則,即尊重人自主性、預防傷害、公平性和可解釋性,指出人工智慧系統要以人為中心,不應該脅迫、欺騙、傷害人類。該報告還提出了實現可信賴的人工智慧的7個要素,要求人工智慧不能使用公民個人資料做出傷害或歧視他們的行為。

此外,2020年2月19日歐盟發布的《人工智慧白皮書》同樣強調可信任人工智慧的重要性。白皮書提出高風險人工智慧應用程式的判斷標準,認為應根據風險來進行監管幹預。高風險人工智慧應用程式判斷標準首先是程序所屬的領域經常發生重大風險,例如醫療保健、運輸、能源等;其次是程序的使用方式可能會產生重大風險,例如造成傷害、死亡或重大物質或非物質損失。

歐盟的AI人才競爭力

「不是說我們在網際網路大型企業方面落後,就意味著在電子工業、機器人和汽車等領域也落後。」這是歐盟委員會負責數字經濟與社會事務的委員瑪麗亞·加布裡埃爾在2018年1月22日舉行的「數字生活設計」大會上所說的話。

她表示,她對歐盟憑藉自身優勢在數位化方面取得進展感到樂觀。

從目前的數據來看,歐盟的自信並非完全沒有根據。一組來自《中國人工智慧發展報告》的統計數據顯示,歐盟成員國德國、法國、西班牙、義大利的人工智慧人才數量處於全球前十位,分列第四、第六、第九和第十。

需要指出的是,雖然這幾個國家的排名靠前,但其人工智慧人才儲備與前三名美國、中國和印度相比,尚有很大差距。歐盟進榜單前十的德、法、西、意四國人工智慧人才總數只佔到全球的12.4%。

在人工智慧傑出人才領域,德國、法國和義大利表現較好,分別位於全球第三、四、五名,次於美國和英國。上述歐盟國家的人工智慧傑出人才佔總人工智慧人才比分別為,德國11.9%,法國16.5%,義大利20.8%和西班牙14.3%。人工智慧傑出人才佔總人工智慧人才比最高的國家是日本,達到20.9%,第二是義大利。

人工智慧人才是指具備從事領域創造性勞動的研究能力與專業技術知識,並在人工智慧領域內取得創新成果的活躍研究人員。其中,取得創新成果是指,公開發表過專利或英文論文;活躍是指近10年有創新成果產出。

國際人工智慧傑出人才指的是,研究能力領先的世界人工智慧人才。為保證評斷標準可獲取、可衡量,報告採用學術界相對公認指標H因子表徵人才研究能力,並擇取世界人工智慧人才數據集中H因子排名前10%的人才作為世界人工智慧傑出人才。

提高人工智慧領域投資水平

在激烈的全球競爭背景下,歐盟持續推進歐洲人工智慧的發展和部署,推進各成員國在人工智慧領域之間的投資。

2018年,歐盟宣布在「地平線2020」計劃中對人工智慧研發投入15億歐元的專項資金,希望藉助此項行動帶動大數據和機器人產業方面的社會資本投入。

為了進一步激勵歐盟的在人工智慧領域的創新研究,2020年的《人工智慧白皮書》表示,歐洲需要大幅提高人工智慧研究和創新領域的投資水平。

歐盟的目標是未來10年中,每年在歐盟吸引200億歐元的AI技術研發和應用資金。還將通過頂尖大學和高等教育機構吸引最優秀的教授和科學家,並在人工智慧領域提供世界領先的碩士課程。

2018年6月,歐盟委員會公布了2021年至2027年歐盟長期預算草案裡的一系列提議,包括新設「數字歐洲」項目以投資超級計算機、人工智慧等,以及增加空間項目預算。

歐盟委員會提議向「數字歐洲」項目撥款92億歐元,其中,25億歐元將用在人工智慧領域。歐盟希望人工智慧技術能夠在歐盟經濟和社會領域得到廣泛運用,使政府和民營企業都能受益。此外,歐盟還計劃把27億歐元用在超級計算機及數據處理領域,把20億歐元用於網絡安全領域,數位技術培訓推廣、電子政務等也將獲得預算撥款。

相關焦點

  • 人工智慧列國志|歐盟:技術發展激勵與倫理道德監管雙管齊下
    歐盟在持續激勵人工智慧技術發展、人才培養的同時,還注重對人工智慧領域相關倫理道德問題的探討。歐盟委員會於2020年2月19日發布的《人工智慧白皮書》指出,歐洲的人工智慧戰略旨在提高AI領域的創新能力,同時促進道德、可信賴AI技術在歐洲經濟領域的應用。
  • 強化科研倫理道德監管
    今年的政府工作報告指出,加強科研倫理和學風建設,懲戒學術不端,力戒浮躁之風。如今,科技的發展給社會帶來了翻天覆地的變化,但在進行科學研究推動科技創新的同時,必須謹守科研倫理道德規範,科研倫理的底線不容觸碰和挑戰。
  • 堅守科技發展的倫理底線
    基因編輯技術、人工智慧技術、輔助生殖技術等前沿科技迅猛發展在給人類帶來巨大福祉的同時,也不斷突破著人類的倫理底線和價值尺度,近年來,基因編輯嬰兒、器官移植等重大科技倫理事件頻繁發生。加強科技倫理制度化建設、推動科技倫理規範全球治理,已成為全社會共同的呼聲。
  • 如何治理科技發展中的倫理問題?
    對此,亟須完善科技倫理研究資助和激勵機制,將激勵與約束有機結合起來,為科技倫理研究者大膽創新、推出高質量研究成果營造良好學術環境和社會氛圍。不斷完善人才引進機制,吸引更多倫理學工作者參與到科技倫理研究中來,努力打造一支既懂科技又有倫理學素養的科技倫理研究隊伍。 健全多學科研究協同機制。科技倫理研究涵蓋自然科學、工程技術等多個領域,涉及哲學、法學、社會學等多個專業。
  • 防範倫理道德風險 保障人工智慧健康發展
    保障人工智慧健康發展,需要採取合理有效的舉措,防範人工智慧技術可能帶來的倫理道德風險,讓這一技術更好服務於經濟社會發展。 人工智慧發展存在倫理道德風險。在新一輪科技革命和產業變革中,人工智慧是一項戰略性技術,具有很強的「頭雁效應」,在有力推動經濟社會發展的同時,也帶來一系列風險與挑戰。其中,倫理道德風險是一個重要方面。
  • 道德倫理:人臉識別「熱」中的冷思考
    道德倫理:人臉識別「熱」中的冷思考  今日視點  人臉識別系統已經給我們的城市帶來諸多方便。然而,在許多國家,對人臉識別的抵抗聲也在不斷高漲。研究人員、公民自由倡導者和法律學者都受到人臉識別技術興起的困擾。他們正在跟蹤其使用,揭露其危害並開展運動以尋求保障甚至是徹底禁止技術的使用。
  • 數據隱私保護的公共議題:從GDPR到技術倫理思辨
    換句話說,就是將人類的倫理價值觀嵌入到技術設計的過程之中,這也是我認為未來解決數據隱私和倫理問題的核心,即將行為的正義性和倫理道德的合理性通過技術來嵌入,而不是僅僅通過保守的數據隱私保護的方式去解決。數字世界運行邏輯的認知重構理解這一點後,我們認為數據隱私保護和算法決策等問題的核心在於,是否我們可以通過程序設計的範式來實現人類權利的保護,以及相應倫理道德價值觀在技術層面的落實。
  • 食品行業道德倫理,靠培訓更要靠監管
    記者從國務院食品安全委員會辦公室獲悉,為宣傳教育食品安全,該辦近日印發《食品安全宣傳教育工作綱要(2011—2015年)》,要求生產經營單位負責人和主要從業人員每人每年接受食品安全法律法規、科學知識和行業道德倫理等方面的集中培訓不得少於40小時。
  • 新華網評:網遊「道德評議」是一種源頭監管
    胡印斌  網路遊戲道德委員會於近期成立,並對首批20款存在道德風險的網路遊戲進行了評議。經對評議結果進行認真研究,網路遊戲主管部門對11款遊戲責成相關出版運營單位認真修改,消除道德風險;對9款遊戲作出不予批准的決定。  網路遊戲設置道德評議,無疑多了一根保險繩。
  • 貴大教授李傳兵:防控倫理道德風險 保障人工智慧健康發展
    習近平總書記強調:「要整合多學科力量,加強人工智慧相關法律、倫理、社會問題研究,建立健全保障人工智慧健康發展的法律法規、制度體系、倫理道德。」保障人工智慧健康發展,需要採取合理有效的舉措,防範人工智慧技術可能帶來的倫理道德風險,讓這一技術更好服務於經濟社會發展。人工智慧發展存在倫理道德風險。
  • 人臉識別引發道德倫理擔憂!你的臉被監視了嗎?
    研究人員、公民自由倡導者和法律學者都受到人臉識別技術興起的困擾。他們正在跟蹤其使用,揭露其危害並開展運動以尋求保障甚至是徹底禁止技術的使用。然而,技術發展的潮流浩浩蕩蕩,更多人認為該技術的存在是「不可避免的」,但是其背後存在的道德倫理問題值得我們深思。近期,《自然》雜誌的一系列報導對人臉識別系統背後的道德倫理學進行了探討。
  • 人臉識別「熱」中的冷思考:道德倫理問題值得深思
    研究人員、公民自由倡導者和法律學者都受到人臉識別技術興起的困擾。他們正在跟蹤其使用,揭露其危害並開展運動以尋求保障甚至是徹底禁止技術的使用。然而,技術發展的潮流浩浩蕩蕩,更多人認為該技術的存在是「不可避免的」,但是其背後存在的道德倫理問題值得我們深思。  近期,《自然》雜誌的一系列報導對人臉識別系統背後的道德倫理學進行了探討。
  • 人臉識別「熱」的冷思考:道德倫理問題發人省
    研究人員、公民自由倡導者和法律學者都受到人臉識別技術興起的困擾。他們正在跟蹤其使用,揭露其危害並開展運動以尋求保障甚至是徹底禁止技術的使用。然而,技術發展的潮流浩浩蕩蕩,更多人認為該技術的存在是「不可避免的」,但是其背後存在的道德倫理問題值得我們深思。近期,《自然》雜誌的一系列報導對人臉識別系統背後的道德倫理學進行了探討。
  • 馬斯克的腦機交互技術,會帶來多少倫理道德問題?
    這就是為什麼道德規範在負責任的神經技術發展中如此重要的部分原因。這些技術同時也帶來了社會風險,進一步使問題複雜化。當一項新技術有可能改變集體行為、破壞社會規範或破壞既定價值觀時,圍繞「可以」和「應該」之間的界限就會產生更廣泛的倫理問題。 直到上周,這些問題大多還是理論性的。基本的神經技術已經出現了一段時間了,包括人工耳蝸植入、深度腦刺激和更複雜的腦機交互等技術。
  • 美480位人臉識別專家爭議道德倫理
    研究人員、公民自由倡導者和法律學者都受到人臉識別技術興起的困擾。他們正在跟蹤其使用,揭露其危害並開展運動以尋求保障甚至是徹底禁止技術的使用。然而,技術發展的潮流浩浩蕩蕩,更多人認為該技術的存在是「不可避免的」,但是其背後存在的道德倫理問題值得我們深思。近期,《自然》雜誌的一系列報導對人臉識別系統背後的道德倫理學進行了探討。
  • 試管嬰兒技術到底有沒有違反道德和倫理?
    但是由此衍射到「複製人」有悖於道德倫理。那麼1978年第一例試管嬰兒誕生,直到現在四十多年,試管嬰兒技術發展至今也到了第三代試管嬰兒,也衍生出其他的項目。試管嬰兒技術和自然生育最大的區別就是可以人為的控制精卵結合的方式和環境場合,甚至其他細節。
  • 健全科技倫理治理體制(新知新覺)
    面對日益複雜的科技倫理問題,現代社會對新興科技及其應用的倫理規範已不再局限於道德層面,許多國家已將科技倫理規範納入制度和法律之中,不斷加大治理力度。科技倫理治理作為審慎型、控制性治理,對科技創新在給予激勵的同時,也從倫理道德出發加以必要的約束或管控,治理不軌行為,從而保障科技健康發展,實現科技更好造福人類的目標。健全科技倫理治理體制,需要關注以下幾個方面。
  • 人類基因編輯技術飽受倫理爭議
    ——訪北京協和醫學院人文學院教授張新慶   至2015年以來基因編輯技術(CRISPR)廣泛運用於生物學等多個領域由此引發學界大量哲學與倫理學思考,CRISPR的倫理和監管問題作為研討焦點。這一興起不到30年的基因醫學技術何以讓人們「想說愛她不容易」?
  • 讓科技倫理貫穿科技發展的全過程
    這樣不確定又高度複雜的新興技術往往會對既有的道德與倫理觀念產生強大衝擊,在涉及公眾切身利益時,往往會引發巨大社會和倫理爭議。面對爭議,我們從轉基因技術在歐洲和我國近年來的遭遇中不難看到,在現代社會,科學知識已不再是唯一的知識權威。科學技術和政治、經濟的緊密關聯,導致公眾對科學家的信任度下降。
  • 歐盟亟須合力發展人工智慧
    8月27日,比利時智庫布勒哲爾國際經濟研究所刊文提到,歐洲在人工智慧領域發展緩慢,原因主要包括歐盟數位化市場分化、難以吸引高端人才、缺乏資金支持、商業競爭力嚴重不足等。圍繞歐洲人工智慧發展狀況、困境、未來出路等問題,本報記者採訪了相關學者。