人工智慧列國志|歐盟:技術發展激勵與倫理道德監管雙管齊下

2020-11-18 澎湃新聞
編者按:2020世界人工智慧大會將於7月9日至7月11日舉行。此次大會採用線上為主、線上線下結合的形式,以「智聯世界共同家園」為主題,邀請550餘位演講嘉賓參會,圍繞AI深度賦能行業和AI向善規範發展等話題,討論AI賦能的現狀、難點和未來前景,推動智能時代的傳統行業轉型。

澎湃新聞特此整理各國人工智慧發展現狀,希望能為讀者呈現較為全面而深入的人工智慧發展圖景。今日推出人工智慧列國志之歐盟篇。歐盟在持續激勵人工智慧技術發展、人才培養的同時,還注重對人工智慧領域相關倫理道德問題的探討。

歐盟委員會於2020年2月19日發布的《人工智慧白皮書》指出,歐洲的人工智慧戰略旨在提高AI領域的創新能力,同時促進道德、可信賴AI技術在歐洲經濟領域的應用。

面對人工智慧引發的倫理擔憂,關注人工智慧帶來的安全、隱私、尊嚴等方面的風險是歐盟人工智慧戰略和政策的側重點。

關注AI倫理問題

2018年3月,有歐盟智庫之稱的歐洲政治戰略中心(European Political Strategy Centre)發布題為《人工智慧時代:確立以人為本的歐洲戰略》(The Age of Artificial Intelligence: Towards a European Strategy for Human-Centric Machines)的報告。這份報告解讀了歐盟在人工智慧領域的最新發展現狀。

報告坦言,歐洲在人工智慧領域投資少且缺乏全球規模的數字公司。在深度學習領域、專利申請和投資方面,歐洲也落後於美國和中國。

在這種情況下,歐洲政治戰略中心建議歐盟鼓勵發展人工智慧,並努力建立起人與機器的共生關係。它還建議歐盟確立以人為本的戰略,把政策目標設定為使人們感到被人工智慧賦能,而非被其威脅。

歐盟也確實在這麼做。2018年4月25日,歐盟委員會發布的一份政策文件《歐盟人工智慧》(Artificial Intelligence for Europe)提出了人工智慧的歐盟道路。向來有著人權傳統的歐盟決定另闢蹊徑,著重探討人工智慧的價值觀。這份文件表示歐盟要竭力確保在人工智慧領域有國際競爭力,讓所有歐盟國家都能跟上這場數字變革並以歐盟價值觀作為新技術的基礎。

歐盟認為,人工智慧的發展可能會引發新的倫理和法律問題,歐盟必須確保人工智慧在適宜的框架內發展。這個框架應既促進科技創新,又能尊重歐盟的價值觀、基本權利和道德原則。

在歐洲價值觀的基礎上,歐盟委員會提出了一種三管齊下的方法:增加公共和私人投資,為人工智慧帶來的社會經濟變革做好準備,並建立起適當的道德和法律框架。

2019年4月,歐盟委員會發布了人工智慧道德準則。該準則提出了四項倫理準則,即尊重人自主性、預防傷害、公平性和可解釋性,指出人工智慧系統要以人為中心,不應該脅迫、欺騙、傷害人類。該報告還提出了實現可信賴的人工智慧的7個要素,要求人工智慧不能使用公民個人資料做出傷害或歧視他們的行為。

此外,2020年2月19日歐盟發布的《人工智慧白皮書》同樣強調可信任人工智慧的重要性。白皮書提出高風險人工智慧應用程式的判斷標準,認為應根據風險來進行監管幹預。高風險人工智慧應用程式判斷標準首先是程序所屬的領域經常發生重大風險,例如醫療保健、運輸、能源等;其次是程序的使用方式可能會產生重大風險,例如造成傷害、死亡或重大物質或非物質損失。

歐盟的AI人才競爭力

「不是說我們在網際網路大型企業方面落後,就意味著在電子工業、機器人和汽車等領域也落後。」這是歐盟委員會負責數字經濟與社會事務的委員瑪麗亞·加布裡埃爾在2018年1月22日舉行的「數字生活設計」大會上所說的話。

她表示,她對歐盟憑藉自身優勢在數位化方面取得進展感到樂觀。

從目前的數據來看,歐盟的自信並非完全沒有根據。一組來自《中國人工智慧發展報告》的統計數據顯示,歐盟成員國德國、法國、西班牙、義大利的人工智慧人才數量處於全球前十位,分列第四、第六、第九和第十。

需要指出的是,雖然這幾個國家的排名靠前,但其人工智慧人才儲備與前三名美國、中國和印度相比,尚有很大差距。歐盟進榜單前十的德、法、西、意四國人工智慧人才總數只佔到全球的12.4%。

在人工智慧傑出人才領域,德國、法國和義大利表現較好,分別位於全球第三、四、五名,次於美國和英國。上述歐盟國家的人工智慧傑出人才佔總人工智慧人才比分別為,德國11.9%,法國16.5%,義大利20.8%和西班牙14.3%。人工智慧傑出人才佔總人工智慧人才比最高的國家是日本,達到20.9%,第二是義大利。

人工智慧人才是指具備從事領域創造性勞動的研究能力與專業技術知識,並在人工智慧領域內取得創新成果的活躍研究人員。其中,取得創新成果是指,公開發表過專利或英文論文;活躍是指近10年有創新成果產出。

國際人工智慧傑出人才指的是,研究能力領先的世界人工智慧人才。為保證評斷標準可獲取、可衡量,報告採用學術界相對公認指標H因子表徵人才研究能力,並擇取世界人工智慧人才數據集中H因子排名前10%的人才作為世界人工智慧傑出人才。

提高人工智慧領域投資水平

在激烈的全球競爭背景下,歐盟持續推進歐洲人工智慧的發展和部署,推進各成員國在人工智慧領域之間的投資。

2018年,歐盟宣布在「地平線2020」計劃中對人工智慧研發投入15億歐元的專項資金,希望藉助此項行動帶動大數據和機器人產業方面的社會資本投入。

為了進一步激勵歐盟的在人工智慧領域的創新研究,2020年的《人工智慧白皮書》表示,歐洲需要大幅提高人工智慧研究和創新領域的投資水平。

歐盟的目標是未來10年中,每年在歐盟吸引200億歐元的AI技術研發和應用資金。還將通過頂尖大學和高等教育機構吸引最優秀的教授和科學家,並在人工智慧領域提供世界領先的碩士課程。

2018年6月,歐盟委員會公布了2021年至2027年歐盟長期預算草案裡的一系列提議,包括新設「數字歐洲」項目以投資超級計算機、人工智慧等,以及增加空間項目預算。

歐盟委員會提議向「數字歐洲」項目撥款92億歐元,其中,25億歐元將用在人工智慧領域。歐盟希望人工智慧技術能夠在歐盟經濟和社會領域得到廣泛運用,使政府和民營企業都能受益。此外,歐盟還計劃把27億歐元用在超級計算機及數據處理領域,把20億歐元用於網絡安全領域,數位技術培訓推廣、電子政務等也將獲得預算撥款。

(本文來自澎湃新聞,更多原創資訊請下載「澎湃新聞」APP)

相關焦點

  • 2019年全球技術倫理鮮有進步
    文章認為,隨著民眾意識的覺醒,2019年應該是技術倫理問題有所突破的一年,但現實卻是鮮有真正有意義的變革和進步。人臉識別技術被濫用2019年,人臉識別技術的發展和廣泛應用引發了人們的探討。芒羅表示,當前公共及私人場所普遍應用人臉識別技術,帶來的危害也日益凸顯。
  • 教育人工智慧倫理問題與倫理原則探討
    第二,人的神經系統是可塑的,教育人工智慧能夠給學習者提供個性化的學習支持服務,但同時也可能會剝奪他們的很多思維訓練和學習體驗的機會,改變他們的大腦結構和認知能力,尤其是在學習者大腦發育的關鍵期過度使用認知技術,將可能帶來不可逆轉的嚴重後果,這對他們發展更高級的認知技能和創新能力是非常不利的[9]。第三,教育人工智慧的發展,使智慧財產權和誠信等倫理問題變得更加微妙和複雜。
  • 美480位人臉識別專家爭議道德倫理
    研究人員、公民自由倡導者和法律學者都受到人臉識別技術興起的困擾。他們正在跟蹤其使用,揭露其危害並開展運動以尋求保障甚至是徹底禁止技術的使用。然而,技術發展的潮流浩浩蕩蕩,更多人認為該技術的存在是「不可避免的」,但是其背後存在的道德倫理問題值得我們深思。近期,《自然》雜誌的一系列報導對人臉識別系統背後的道德倫理學進行了探討。
  • 劉傑教授談重塑數字時代商業的責任:始於初心 溶於道德 終於倫理
    背景介紹在當前大智移雲時代下,信息技術的發展在給企業商業活動帶來變革、效率、紅利的同時,也帶來了有關倫理、監管、道德的思考與挑戰。數據時代與人工智慧的發展將會驅動商業模式與商業變革發生怎樣的變化?當前乃至未來一段時期,企業該如何應對數據這種生產要素被非法採集和濫用?又如何保證數據安全與隱私?
  • 特寫李飛飛:她激勵了人工智慧的發展,更要給人工智慧賦予人的價值
    原標題:特寫李飛飛:她激勵了人工智慧的發展,更要給人工智慧賦予人的價值 雷鋒網 AI 科技評論按:李飛飛無疑是人工智慧界最響亮的名字之一。她既對機器學習領域的發展做出了傑出的貢獻,也是普通大眾眼中溫和的人工智慧技術宣揚者,還是谷歌這一科技巨頭的人工智慧技術領導人之一。
  • 馬斯克:人工智慧機器人發展太快,需要加強監管
    據CNBC網站北京時間11月28日報導,作為數家科技公司創始人,億萬富翁企業家埃隆·馬斯克(Elon Musk)日前在推特上表示,未來基於人工智慧的機器人的發展潛力將會令人感到驚訝,甚至可能會讓人感到恐怖,因此立法者需要對人工智慧技術加強監管。
  • 「報告」WEF:2021年全球技術治理報告——在疫情時代利用第四次...
    第四次工業革命的新興技術在世界從新冠肺炎大流行中恢復並重建經濟的過程中發揮著至關重要的作用,但它們也可能被濫用而產生消極後果,因此對這些技術的監管和治理成為社會關注的焦點。本研究考察了第四次工業革命技術在後疫情時代蓬勃發展的一些關鍵應用(人工智慧、區塊鏈、物聯網、數字出行、無人機),以及讓這些技術發揮最大潛力所面臨的治理複雜性。
  • 「強人工智慧」的倫理困境:假如有一天你愛上了AI,咋辦?
    在人工智慧分論壇的討論中,多位專家、學者和從業人員均認為,隨著人工智慧(AI)的快速發展,基於人工智慧的「萬物互聯」時代正在到來,包括無人駕駛、智能家居、自動診療、智慧城市等。人工智慧的應用似乎呈現一片欣欣向榮的景象。然而,人工智慧勢不可擋的發展趨勢,也給人們帶來了一連串隱憂,人工智慧未來會無所不能?人工智慧是否會挑戰人類倫理,衝擊社會制度,威脅人類生存甚至取代人類?
  • 人工智慧列國志|英國:「阿法狗」故鄉,AI滲透各科研領域
    劍橋大學校長史蒂芬·圖普(Stephen Toope)表示,作為人工智慧和現代計算機科學之父艾倫·圖靈的精神家園,劍橋大學長期以來一直鼓勵技術創新和發明創造。「這項計劃將有助於確保劍橋大學繼續充當優秀年輕研究人員的燈塔,並確保劍橋為他們提供發展所需的工具。」圖靈的遺產:機器能夠思考嗎?
  • 馬斯克呼籲對人工智慧進行更嚴格的監管
    馬斯克再次呼籲對人工智慧技術的發展實施更嚴格的監管。 這位特斯拉和SpaceX的創始人是最直言不諱地表達對人工智慧擔憂的知名人物之一稱,如果不加以控制,人類將面對「最大的生存威脅」。
  • 評論 | 倫理底線豈容網絡直播肆意擊穿!
    在多次整治、約談、處罰、監管升級之後,似乎有一種聲音一直若隱若現:「莫讓嚴格監管扼殺了網絡的自由」。△ 某網站熱門視頻作品然而今天,當我們面對直播平臺上混亂的少兒交友圈的時候,當倫理底線一再被擊穿的時候,當孩子的利益被用來置換經濟利益的時候,我們還有什麼理由質疑監管的一再升級呢?
  • ...化技術委員會秘書處編制了《網絡安全標準實踐指南—人工智慧...
    【人工智慧倫理道德規範徵求意見:應向用戶提供拒絕機制】據全國信息安全標準化技術委員會官網11月9日消息,全國信息安全標準化技術委員會秘書處編制了《網絡安全標準實踐指南—人工智慧倫理道德規範指引(徵求意見稿)》公開徵求意見。
  • NeurIPS成立道德委員會!3%論文因倫理問題被二審,4篇直接被拒
    Timnit Gebru是靠人工智慧倫理研究走進大眾眼帘的,出生於史丹福大學人工智慧實驗室,其博士生導師是著名AI學者李飛飛。獲得博士學位後,Timnit Gebru入職谷歌,僅用兩年時間便升至L6 Research Scientist。
  • 倫理道德的幾張面孔
    這種印象的產生有很多原因,特別重要的是倫理道德問題門檻極低,是個人就有自己的道德判斷,越沒文化對自己的判斷還越確信、情緒越強烈。但根本上,這種印象與倫理道德本身的形象有關。讀過點書又沒讀過太多書的人可能會先要求區分下倫理與道德。倫理來自希臘,道德來自羅馬,側重略有不同,然後近代道德又與性道德緊密綁定……然後黑格爾、哈貝馬斯、威廉斯、德沃金等都對這兩個概念作過專門界定。
  • 用未來眼光與理性約束去開發人工智慧
    深度學習是機器學習的一個子集,用於建立、模擬人腦進行分析學習的神經網絡,並模仿人腦的機制來解釋數據的一種技術。社會科學中將人類的心理活動劃分為三種基本形式:知、情、意,對應於人工智慧的三個層次,運算智能、感知智能、認知智能。目前,人工智慧仍處於感知智能,即弱人工智慧的發展階段,也是人類對AI應用最廣泛的階段。
  • 新見|郭銳:什麼是「道德算法」?如何認識它的致命缺陷?
    在人工智慧倫理研究中,主流的看法是既然讓人工智慧決策已經不可避免,應該將倫理嵌入人工智慧技術之中,以便增加人工智慧決策的可靠性和安全性。這種嵌入,也稱為「道德算法」。在道德算法的實現路徑上,人們已經考慮了三種進路:自上而下進路、自下而上進路和某些混合式進路。
  • AI 換臉或受《民法典》人格權編嚴監管,我們該如何防範技術作惡
    此外,為防止技術作惡,人們正嘗試用技術制衡技術,也有人在探討如何為從事技術開發的人員增加一門「道德倫理課」,以追求行業自律……deepfake 「遊戲」泛濫在5月28日民法典表決剛剛通過時,「AI 換臉被納入監管」的「提示」就立刻在 IT 業傳播開來。
  • [中國倫理在線]2019年中國十大倫理事件
    要抓緊完善制度規範,健全治理機制,強化倫理監管,細化相關法律法規和倫理審查規則,規範各類科學研究活動。黨的十九屆四中全會明確提出完善科技人才發現、培養、激勵機制,健全符合科研規律的科技管理體制和政策體系,改進科技評價體系,健全科技倫理治理體制。【入選理由】當今科學技術的發展突飛猛進,深刻影響了人類生活的方方面面。
  • 世界主要國家人工智慧戰略及其產業政策的特點
    歐洲也將人工智慧確定為優先發展項目,2016年6月,歐盟委員會提出人工智慧立法動議;2018年4月,歐盟委員會提交了《歐洲人工智慧》;2018年12月,歐盟委員會及其成員國發布主題為「人工智慧歐洲造」的《人工智慧協調計劃》。