清華大學戰略與安全研究中心成功承辦「人工智慧與國際安全:挑戰與...

2020-12-21 觀察者網

2020年12月18日晚上九點,在首屆清華大學人工智慧合作與治理國際論壇上舉行了「人工智慧與國際安全:挑戰與機遇」分論壇,由清華大學戰略與安全研究中心(以下簡稱中心)承辦。此次分論壇重點公布和通報了中心與布魯金斯學會聯合研究項目「人工智慧與國際安全」的初步成果,這個項目得到博古睿研究院和明德路基金會的共同支持。

清華大學戰略與安全研究中心主任、人工智慧國際治理研究院名譽院長傅瑩和布魯金斯學會主席約翰·艾倫(John Allen)圍繞會議主題做主旨發言。清華大學戰略與安全研究中心高級研究員、國際關係學系教授李彬對聯合研究的情況和中方專家關於智能武器風險和治理的思路做了詳細介紹。中國電科發展戰略研究中心高級工程師郝英好、中國軍控與裁軍協會副會長兼秘書長李馳江、博古睿研究院項目副總裁尼爾斯·吉爾曼(Nils Gilman)、布魯金斯學會研究員克裡斯·梅塞羅(Chris Meserole)、布魯金斯學會訪問研究員湯姆·史蒂芬尼克(Tom Stefanick)等項目成員,就人工智慧的攻擊禁區、數據安全風險、對國際法的挑戰以及中美在全球治理上的合作等問題分別發表觀點。分論壇由清華大學戰略與安全研究中心副主任肖茜主持。

約翰·艾倫在主旨發言中提到,中美在人工智慧等新興技術領域的戰略競爭日益明顯,圍繞著「人工智慧軍備競賽」的說法不絕於耳。為了避免不可控的軍備競賽,他希望「人工智慧與國際安全」項目中所討論的安全關切,能夠在政府層面對話和非官方論壇中得到進一步探討,特別是針對人工智慧所構成的國家安全風險,以降低這些風險發生的可能性。他認為現在正是規範技術發展和應用的關鍵期,呼籲美中兩國的政府和專家團體能夠抓住當下的機遇,圍繞降低人工智慧可能構成的國家安全風險的實際步驟達成共識。

傅瑩在主旨發言中重點介紹了中國關於人工智慧治理國際合作的主張,她說,今年11月中國國家主席習近平在二十國集團(G20)峰會上強調,中方支持圍繞人工智慧加強對話,倡議適時召開專題會議,推動落實G20人工智慧原則,引領全球人工智慧的健康發展。今年9月,中國國務委員兼外長王毅提出《全球數據安全倡議》,表示希望國際社會在普遍參與的基礎上就人工智慧的安全問題達成國際協議,支持通過雙邊或多邊協議的形式確認倡議中的承諾。他提出有效應對數據安全風險應遵循的三項原則,包括秉持多邊主義、兼顧安全發展和堅守公平正義等。

她說,中美關於人工智慧安全治理的聯合研究項目是一個成功的案例,雙方都從中受益良多,研究結果也有很好的參考價值。既然人工智慧武器化不可避免,我們需要尋找合適的治理路徑。人類必須汲取歷史教訓,例如對核武器的治理共識就發生的太晚,導致人類曾經面臨巨大威脅,網際網路的治理也沒有能夠在早期實現。大家希望這次對人工智慧,尤其是智能武器的治理,人類能走在技術變革的前面,充分認識其風險,早些達成治理共識。在討論人工智慧國際治理時,人們經常引用在核武器治理方面享有聲譽的Pugwash機構(帕格沃什科學和世界事務會議),這一機構在核軍控領域起到了積極作用。在推動人工智慧的國際治理方面,也可以參考這樣的方式,成立一個由科研人員、政府和政策專業人士組成的「人工智慧國際治理委員會」。

中方團隊牽頭人李彬在總結中方團隊研究的進展和發現時說,國際法的基本準則應該被納入到人工智慧武器的設計和部署之中,從而確保使用智能武器進行武力攻擊時符合國際法律規範。他談到武力法和武裝衝突法的運用,主張用國際法的基本原則指導人工智慧軍用技術的開發,同時還應該在人工智慧程式設計師和軍事操作人員中開展教育,讓他們更好地理解和在實踐中貫徹使用武力法中的相稱性原則和武裝衝突法中的比例原則。

在座談環節,專家就中美如何在人工智慧治理領域合作展開深入討論並表示,中美兩國是人工智慧大國,都有防範軍用人工智慧技術風險和完善治理的需求。人工智慧技術的濫用或者偏差有可能衝擊戰略穩定、改變交戰規則,抬高軍事風險。中美都有較強的風險管控需求和共同利益。因此,中美在人工智慧國際治理中有很大的合作空間。有專家指出,人工智慧在數據收集、算法訓練和戰場應用中,必須遵守國際法中的比例原則和區分原則,不能攻擊平民或民用設施,造成過多的傷害。中方專家提出採用數據收集的「紅綠燈」規則,禁止人工智慧武器攻擊民用目標,只能對完全確認的軍用目標發動進攻。這個措施可以使人工智慧更好地遵守國際法。

最後,專家們表示,包括中美在內的世界各國可以通過政策交流、互換文件、學者探討等多種方式,增信釋疑,實現在人工智慧安全問題上形成國際治理共識。

相關焦點

  • 首屆清華大學人工智慧合作與治理國際論壇開幕——聚焦後疫情時代...
    2020年12月18日,首屆清華大學人工智慧合作與治理國際論壇在清華大學主樓後廳成功舉行。本次論壇以「後疫情時代的人工智慧國際合作與治理」為主題,聚焦人工智慧技術帶來的機遇和挑戰,分享人工智慧合作與治理見解,交流國際治理智慧,提出未來人工智慧治理研究議題。
  • 2020第二屆清華大學 「SDG開放創新馬拉松挑戰賽」決賽成功舉行
    、清華大學技術轉移院、清華大學深圳國際研究生院聯合承辦,聯合國訓練研究所(UNITAR)、瑞士日內瓦大學、英國帝國理工學院、新加坡科技設計大學(SUTD)作為國際合作夥伴參與活動,成為校級大規模賽課結合、科教融合與國際化創新活動。
  • 傅瑩:在人工智慧領域建設包容性強的國際治理委員會_新聞中心_中國網
    論壇聚焦人工智慧技術帶來的機遇和挑戰,分享人工智慧合作與治理見解,交流國際治理智慧,提出未來人工智慧治理研究議題。第十二屆全國政協副主席、全國工商聯原主席王欽敏致開幕詞,清華大學校長邱勇、聯合國開發計劃署駐華代表白雅婷致歡迎詞,聯合國秘書長特別顧問法布裡齊奧·霍克希爾德、國際電信聯盟秘書長趙厚麟發表視頻致辭,科技部戰略規劃司司長許倞、外交部國際經濟司司長王小龍、工信部科技司副司長朱秀梅發表主旨演講。清華大學副校長、人工智慧國際治理研究院管委會主任楊斌主持開幕式。
  • 螞蟻安全實驗室聯合浙江大學任奎教授團隊發布《人工智慧安全...
    對AI安全的前瞻性研究與布局,已是近年來學術界和工業界越發重視的課題。近期,螞蟻安全天塹實驗室聯合浙江大學網絡空間學院院長任奎教授團隊,共同頒布了《人工智慧安全白皮書(2020)》,從學界、業界的共同視角全方位闡述人工智慧安全。該白皮書耗費近一年時間研究撰寫完成,完整版篇幅將近6萬字。
  • 清華大學人工智慧研究院知識中心成立儀式隆重舉行,發布知識計算...
    作為清華人工智慧研究院成立的首個研究中心,知識中心的成立是清華大學推進人工智慧發展的重要舉措,也是中國人工智慧研究院的裡程碑事件。知識中心主任由李涓子老師擔任。李涓子老師被聘任為知識中心主任,董振東先生被聘任為知識中心學術顧問。清華大學人工智慧研究院院長張鈸院士首先代表清華大學人工智慧研究院致辭。他指出知識是人類智能的重要特徵,我們已經進入後深度學習時代,讓計算機擁有大規模、高質量的形式化知識,是實現安全可信人工智慧的重要使命,知識表示、獲取、推理與計算將是新一代人工智慧研究面臨的核心問題。
  • 傅瑩:在人工智慧領域建設包容性強的國際治理委員會
    中國網12月20日訊(記者李智)12月18日至19日,首屆清華大學人工智慧合作與治理國際論壇在北京召開。論壇聚焦人工智慧技術帶來的機遇和挑戰,分享人工智慧合作與治理見解,交流國際治理智慧,提出未來人工智慧治理研究議題。
  • 「清華大學國強研究院杯」全球人工智慧與機器人雙創大賽晉級賽在...
    12月11日,首屆「清華大學國強研究院杯」全球人工智慧與機器 雙創 賽晉級賽粵港澳賽區在深圳清華信息港順利舉辦。當天共計14個項目參加路演,最終3個項目晉級全球總決賽。
  • 清華大學-浦發銀行數字金融技術聯合研究中心成立
    清華新聞網8月14電8月7日,清華大學-浦發銀行數字金融技術聯合研究中心(以下簡稱「聯合研究中心」)成立儀式舉行。儀式前,清華大學校長邱勇會見了浦發銀行行長潘衛東,就進一步加強雙方合作交流意見。隨後,清華大學副校長尤政和潘衛東共同為聯合研究中心揭牌。
  • 清華大學AI治理國際論壇召開 後疫情時代的數據治理受重視
    2020年12月18日至19日,為期兩天的首屆清華大學人工智慧合作與治理國際論壇成功舉辦。此次論壇備受重視,第十二屆全國政協副主席、全國工商聯原主席王欽敏致開幕詞,清華大學校長邱勇、聯合國開發計劃署駐華代表白雅婷致歡迎詞,聯合國秘書長特別顧問法布裡奇奧•霍奇爾德、國際電信聯盟秘書長趙厚麟發表視頻致辭,科技部戰略規劃司司長許倞、外交部國際經濟司司長王小龍、工信部科技司副司長朱秀梅發表主旨演講。
  • 傅瑩:中國在AI治理問題上向國際社會釋放了清晰的合作信號
    2020年12月18日,清華大學人工智慧國際治理研究院名譽院長傅瑩在首屆清華大學人工智慧合作與治理國際論壇上發表以「人工智慧與國際安全治理」為題的講話。她表示,中國在人工智慧治理問題上向國際社會釋放了清晰的合作信號。中國對人工智慧的發展、應用乃至治理都是高度重視的,在治理和立法方面也邁出實際步伐。
  • 美國國際戰略研究中心發布《華為、榮耀和中國不斷發展的國家資本...
    科技戰略美國國際戰略研究中心發布《華為、榮耀和中國不斷發展的國家資本工具箱》報告據美國國際戰略研究中心(CSIS)官網12月11日消息,CSIS發布《華為、榮耀和中國不斷發展的國家資本工具箱》報告。歐洲網絡與信息安全局發布《ENISA 2020年威脅態勢》系列報告,關注網絡安全領域的新趨勢和挑戰據世界科技研究與發展12月14日消息,歐洲網絡與信息安全局發布《ENISA 2020年威脅態勢》系列報告,識別和評估2019年1月至2020年4月全球主要網絡威脅,包括年度回顧、網絡威脅、重大網絡安全事件
  • 清華大學首屆AI國際合作與治理高峰...
    12月18日,由清華大學人工智慧國際治理研究院(I-AIIG)和聯合國開發計劃署(NUDP)共同舉辦的首屆人工智慧國際合作與治理高峰論壇如期舉行。此次論壇採用線上線下相結合的方式,聚焦「後疫情時代」的AI治理與發展,邀請來自世界各地的人工智慧頂級專家、學者和企業代表,共同探討人工智慧合作與治理的機遇與挑戰。
  • 國家工信安全中心發布《2020人工智慧與製造業融合發展白皮書》
    國家工信安全中心 摘要: 11月21日,
  • 2020年國際食品安全與健康大會在京成功召開
    2020年國際食品安全與健康大會在京成功召開/中國食品科學技術學會迎難而上擁抱後疫情時代食品安全與健康的新未來——2020年國際食品安全與健康大會在京成功召開在加快形成以國內大循環為主體、國內國際雙循環相互促進的新發展格局下
  • 第二屆清華大學SDG開放創新馬拉松挑戰賽總決賽成功舉辦
    人民政協網北京11月30日電(記者 張佳琪 實習記者 閆春旭)11月29日,第二屆清華大學SDG開放創新馬拉松挑戰賽總決賽在清華大學經管學院偉倫樓國際報告廳如期舉辦。人民政協網實習記者 閆春旭 攝由清華大學創新創業教育協調委員會主辦,清華x-lab、清華iCenter、清華大學學生全球勝任力發展指導中心、清華大學技術轉移院、清華大學深圳國際研究生院聯合承辦,聯合國訓練研究所(UNITAR)、瑞士日內瓦大學、英國帝國理工學院、新加坡科技設計大學(SUTD)作為國際合作夥伴,此次清華大學SDG開放創新馬拉松挑戰賽實現了「校級大規模
  • 北京香山論壇視頻研討會:攜手應對國際安全新挑戰
    本次論壇的議題為「加強國際合作:攜手應對國際安全新挑戰」,邀請了來自12個國家共32位國際知名專家,分析世界大勢,預判安全風險,探究應對之策,尋求合作之道。本次研討會的第一節研討,由中國軍事科學學會高級顧問姚雲竹主持, 美國哈佛大學費正清東亞研究中心前主任傅高義、日本防衛大學副校長山口昇等7名中外知名專家,圍繞「亞太安全形勢新發展、新特點、新走向」的議題展開深入交流。
  • 專訪CERNET網絡中心副主任、清華大學教授李星
    大道至簡專訪CERNET網絡中心副主任、清華大學教授李星來源:中國教育網絡 12-02李星,1982年獲清華大學無線電系學士學位,1986年和1989年分別獲美國Drexel大學電機和計算機工程系碩士和博士學位。1991年起在清華大學電子工程系任教,1993年任教授。研究領域包括:統計信號處理,多媒體通信和計算機網絡。
  • 清華與華夏幸福公司籤約共建聯合研究中心-清華大學新聞網
    清華大學與華夏幸福公司籤署戰略合作協議共建XIN產業技術聯合研究中心  清華新聞網1月8日電(記者 王 蕾)1月5日,清華大學與華夏幸福基業股份有限公司戰略合作籤約暨「清華大學-華夏幸福XIN產業技術聯合研究中心
  • 我校承辦「2020全國博士後人工智慧發展與應用論壇」
    南開新聞網訊(記者 藍芳 通訊員 李樂樂 攝影 宗琪琪)10月22日至10月24日,由全國博士後管委會辦公室、中國博士後科學基金會、天津市人力資源和社會保障局主辦,南開大學承辦的「2020中國科學院院士、南開大學陳省身數學研究所葛墨林教授,人社部留學人員和專家服務中心主任夏文峰,天津市人力資源和社會保障局副局長陳暉,南開大學常務副校長許京軍出席23日論壇開幕式。來自人工智慧領域的知名專家、創新企業代表,以及國內外知名高校、科研院所的百餘名青年學者、博士、博士後參會。  夏文峰在開幕式致辭中介紹了我國博士後制度建立實施35周年以來的發展歷程與改革方向。
  • 清華大學五道口金融學院承辦2020金融街論壇年會平行論壇及閉門...
    清華大學五道口金融學院作為論壇年會的唯一學術支持單位,承辦了其中兩場平行論壇及一場閉門研討會。 平行論壇一:「全球經濟變局與未來」 21日晚,由清華大學五道口金融學院承辦的平行論壇一「全球經濟變局與未來」成功舉辦。