2020年12月18日，清華大學人工智慧國際治理研究院名譽院長傅瑩在首屆清華大學人工智慧合作與治理國際論壇上發表以「人工智慧與國際安全治理」為題的講話。
她表示，中國在人工智慧治理問題上向國際社會釋放了清晰的合作信號。中國對人工智慧的發展、應用乃至治理都是高度重視的，在治理和立法方面也邁出實際步伐。例如，2018年中國國家標準化委員會發布《人工智慧標準化白皮書》；2019年國家新一代人工智慧治理委員會發布了8條治理原則；2019年國務院頒布了《兒童個人信息網絡保護規定》，加強對未成年人的信息保護；2020年經全國人大通過頒布的《民法典》中對保護個人隱私做出明確規定，要求不得洩露、出售或非法向他人提供個人信息等。
傅瑩，1978年進入中國外交部，2009-2013年任外交部副部長，負責過歐洲和亞洲事務。目前擔任清華人工智慧國際治理研究院名譽院長、清華大學戰略與安全研究中心主任。傅瑩近年來關注人工智慧治理研究。她所在的清華大學戰略與安全研究中心的人工智慧治理項目小組，著眼於國際共同規則，在世界和平論壇上提出「人工智慧六點原則」，探討人工智慧綜合性治理的宏觀框架。以下為傅瑩演講全文：
尊敬的主持人，各位嘉賓，大家好！ 感謝主持人的介紹。上午大家談到宏觀的看法和主張。 我想呼應一下許多人談到的，尤其是聯合國副秘書長法布裡齊奧·霍奇爾德、外交部國際經濟司司長王小龍和科技部戰略規劃司司長許倞他們談到的，關於構建人工智慧國際治理體系和機制的重要性和必要性。希望能在人工智慧領域建立包容性很強的國際治理委員會，通過共同探討、研究、吸納好的意見和建議，形成共同的國際規範，這是非常必要而且緊迫的。
下面我主要從最近中美學者「人工智慧與國際安全治理」合作項目的角度，談談這個問題。論壇開始之前發布了我作為中方項目牽頭人和美方項目牽頭人John Allen介紹研究成果的文章，今晚9點在關於《人工智慧與國際安全：挑戰與機遇》的第三個分論壇上，中方團隊的李彬老師和美方團隊會作更詳細的介紹，歡迎大家去聽。
中國在人工智慧治理問題上向國際社會釋放了清晰的合作信號。今年11月，習近平主席在G20峰會上強調，中方支持圍繞人工智慧加強對話，倡議適時召開專題會議，推動落實G20人工智慧原則，引領全球人工智慧的健康發展。今天這個論壇也是依據這個精神召開的。
今年9月，中國國務委員兼外長王毅提出《全球數據安全倡議》，表示希望國際社會在普遍參與的基礎上就人工智慧的安全問題達成國際協議，支持通過雙邊或多邊協議的形式確認倡議中的承諾。他提出有效應對數據安全風險應遵循的三項原則,包括秉持多邊主義、兼顧安全發展和堅守公平正義。
確實，技術革命往往伴隨不可預知的安全挑戰，在這方面，國際關注的焦點之一是智能武器的道德和技術風險。清華大學戰略與安全研究中心與多家國際機構圍繞這個問題開展了研討，包括與美國布魯金斯學會的專家學者進行的三輪系列研討，結合國際軍控經驗，尋找管控智能武器風險和國際安全治理的路徑。
專家們梳理了智能武器可能帶來的風險。一是由於人工智慧技術不完善，智能武器可能導致更大的連帶傷害。二是智能武器的訓練需要大量數據，數據的汙染和形成的偏見可能導致嚴重後果。三是人機協同的挑戰，機器在可解釋性、學習性、常識性等方面的不足有可能放大發生衝突的風險，等等。當然這些研判都是基於目前人工智慧技術的狀況，希望隨著技術的不斷完善有些問題能得以避免。
無論如何，專家們認為，既然人工智慧武器化不可避免，需要尋找合適的治理路徑。大家談到，人類必須汲取歷史教訓，例如對核武器的治理共識就發生的太晚，導致人類曾經面臨巨大威脅，網際網路的治理也沒有能夠在早期實現。大家希望這次對人工智慧，尤其是智能武器的治理，人類能走在技術變革的前面，充分認識其風險，早些達成治理共識。
專家們提出，需要採取軍事克制態度，限制智能武器的損害範圍，這一點也需要反映在公共教育當中。在路徑方面，最重要的是如何使智能武器的發展和使用與現行國際法基本原則保持一致，包括《聯合國憲章》和武裝衝突法裡面的相關原則，都是討論的重要依據。有中方學者主張建構關於人工智慧軍事行動的國際規範，切實保證人在智能武器使用中的決定性作用等等。
誠然，這都是學術層面的探討，參加項目的專家們都撰寫了專題論文，可以提供給決策部門參考，這些路徑是否可行，還需要經過大量的政策研究和論證。
這兩年中美關係出現緊張狀況，但是這個項目的研討並沒有受到大的影響，充分顯示了兩國學界的專業精神和對人類共同命運的責任感和使命感。專家們認識到，現階段是構建人工智慧國際安全規範的關鍵窗口期，希望兩國抓住這一難得的歷史性機遇，制定人工智慧的國際通用規範。
中國對人工智慧的發展、應用乃至治理都是高度重視的。2017-2018年間，中央政治局分別圍繞大數據和人工智慧進行了兩次集體學習，習近平總書記指出：「要加強人工智慧發展的潛在風險研判和防範」，要「確保人工智慧安全、可靠、可控。」
中國國內在人工智慧的治理和立法方面也邁出實際步伐。例如，2018年中國國家標準化委員會發布《人工智慧標準化白皮書》；2019年國家新一代人工智慧治理委員會發布了8條治理原則；2019年國務院頒布了《兒童個人信息網絡保護規定》，加強對未成年人的信息保護；2020年經全國人大通過頒布的《民法典》中對保護個人隱私做出明確規定，要求不得洩露、出售或非法向他人提供個人信息等。
總之，目前中美兩國是人工智慧技術研究和應用發展最快的國家，兩國需要也有條件加強協調與合作。近年其他許多國家學界也表現出對人工智慧應用的安全擔憂，說明這是人類共同的難題，不是一國兩國能夠解決的。中美開展對話與合作至關重要，將能夠為全球合作貢獻智慧。希望和相信這不是一場「零和遊戲」，人工智慧最終應使得全人類受益。
謝謝大家。
傅瑩論壇上還回答了澎湃新聞（www.thepaper.cn）記者的在線提問：「我們是否應該制定全球性的人工智慧治理準則？」
她表示，當今國際社會並沒有成立一個世界政府，要有一個大家一致遵守的、嚴格和嚴密的規則比較難，但是聯合國在一定程度上發揮著協調國際治理的作用。剛才聯合國副秘書長（法布裡齊奧·霍奇爾德）在講話中就談到在國際治理方面加強合作和構建機制的必要性。
傅瑩說，大家在討論人工智慧的國際治理時，經常引用在核武器治理方面享有國際威望和影響力的Pugwash機構（帕格沃什科學和世界事務會議）。「這個機構最初是由科學家組織起來，對後來核武器的治理給予了很多技術上的指導和政治上的影響。在生物科學等領域裡，一些科研人員組成的機構也有很強的影響力。」
「所以希望在人工智慧領域，能夠出現被大家所接受的，由科研人員、政府和政策專業人士組成的機構，能把目前大家提出的關切和解決辦法綜合起來，形成對為未來治理的指導性意見。」
「在政府的作用方面，進入21世紀，各國之間的全球性合作比過去強很多，G20開會時領導人們也多次提到這方面的問題。所以我對在國家層面形成更多的共識和有約束力的指導方向也寄予期待。」
(本文來自澎湃新聞，更多原創資訊請下載「澎湃新聞」APP)