曾毅：用可持續發展照亮AI善用之路

曾毅｜類腦智能研究中心副主任、中英人工智慧倫理與治理研究中心主任、北京智源人工智慧研究院人工智慧倫理與可持續發展中心主任。聯合國教科文組織AI倫理特設專家組專家，世界衛生組織健康領域AI倫理與治理專家組專家。

技術始終是推動人類進步的重要力量。可持續發展目標的實現離不開技術的支撐，新一代人工智慧技術（AI）作為引領科技革命和產業變革的戰略性技術，更是被寄予厚望。從2017年國務院發布的《新一代人工智慧發展規劃》明確提出「推動以人類可持續發展為中心的智能化」，到今年越來越多機構聚焦AI 助力聯合國可持續發展目標（SDGs），一股潮流正在湧現。

這股潮流之中，包括2018年成立的人工智慧研發機構——北京智源人工智慧研究院近期開展的一系列行動。6月22日，該研究院宣布成立面向可持續發展的人工智慧智庫，並發布面向可持續發展的人工智慧（AI4SDGs）公益研究計劃，希望通過新一代人工智慧助力中國社會、經濟和環境的可持續發展，推進全球可持續發展目標的全面實現；8月1日，該項公益研究計劃在知名AI企業的資助與支持下面向全球發布首批項目申請。北京智源人工智慧研究院受邀參與聯合國秘書長「數字合作路線圖」的制定與實踐，貢獻於通過人工智慧實現全球可持續發展，這一系列舉措也是對「數字合作路線圖」在中國落地的實際支持。

8月3日，記者專訪了中科院自動化所研究員、北京智源人工智慧研究院「人工智慧倫理與可持續發展研究中心」主任曾毅，共同探討AI與可持續發展的全球動態和中國趨勢。

推動AI for SDGs在中國是恰逢其時

Q：在新冠肺炎疫情蔓延之際，如何看待今年以來我國出現數個機構相繼推動AI for SDGs的偶然性和必然性？

A：人工智慧助力聯合國可持續發展目標在國際上已形成共識，引起不同國家和地區的廣泛關注，並得到大力推動。我國是負責任的創新大國，在人工智慧方面也有一定的研發優勢和產業優勢，因此更應在實現人工智慧助力全球願景中做出應有的貢獻。在新冠肺炎疫情期間，人工智慧在防控疫情中發揮了重要的支撐作用，貢獻於維護全球健康，可見AI造福人類的潛能巨大。因此，在我看來，今年在中國湧現出關注AI for SDGs的現象，是水到渠成、恰逢其時。

從我個人的角度，2019年有兩件事對我觸動很大，讓我意識到中國AI發展不能缺少SDGs。第一件事是未來生命研究所2019年1月在波多黎各組織舉辦的「有益的通用人工智慧2019（Beneficial AGI 2019）」國際會議。這是未來生命研究所第三次舉辦相關主題的人工智慧系列會議，首次邀請中國代表參加，我和北大、清華以及來自騰訊等企業的代表受邀參加。從主題上看，2019年的這次會議主題已經不再停留在如何不讓人工智慧犯錯，而是進一步思考人工智慧怎麼做才對，探討實現通用人工智慧對人類和生態的意義。

所謂通用人工智慧（Artificial General Intelligence，AGI），是指人工智慧的各項認知功能都達到人類水平。而在各項認知功能的表現都超越人類時，我們將迎來超級智能，即強人工智慧（Strong AI）。現代的人工智慧全部屬於專用人工智慧，即利用大數據智能分析、機器深度學習、語義知識推理等技術解決一個特定的問題，比如應對氣候變化、識別特定類型的陸地和水下生物、推薦書籍與工作等。這次國際會議之所以聚焦通用人工智慧，是因為專用人工智慧未來必然發展到通用人工智慧階段，但是在這個過程中可能「走歪」，而通用人工智慧若不能始終對人類和生態有益，則是危險的事情。因此，探討如何發展人工智慧使之向善、避免誤用濫用，是非常關鍵的議題。

當時我深刻感受到，我們也亟需對人工智慧將把人類帶向何處進行深入思考和長遠規劃。這也是北京智源人工智慧研究院創建面向可持續發展的人工智慧智庫和公益計劃的重要原因。中國人工智慧的發展需要與聯合國可持續發展目標對接，在全球樹立起中國新一代人工智慧的發展支持可持續發展的全球願景。

第二件事讓我認識到如果缺乏利用技術解決社會重大難題的意識，擁有再先進的AI技術也沒有意義。近期世界自然基金會（WWF）發布一份報告顯示，2019-2020年發生的澳大利亞叢林大火，造成了近30億隻動物死亡或流離失所。這個數量近乎是地球上人類數量的一半，這樣的災難對於動物生態系統和生物多樣性是極為沉重的打擊，而我們幾乎看不到人工智慧等先進技術在阻止或降低災難性後果上做出任何貢獻，這是非常令人震驚和遺憾的。

正是這兩件事讓我迫切地感受到，無論是從國際趨勢還是實際需求來看，都必須儘快引導中國企業AI發展走向助力可持續發展的軌道，推進人工智慧的善用。而我個人很高興看到今年越來越多志同道合者加入進來，合力推進中國AI for SDGs的落地和實踐以及對全球的貢獻。

AI發展從「安全」到「善用」的轉變

Q：您是如何理解人工智慧倫理與可持續發展？為何將人工智慧倫理與安全研究中心更名為人工智慧倫理與可持續發展研究中心？

A：去年5月成立的時候，命名為人工智慧倫理與安全研究中心，初衷是想推動人工智慧倫理和治理，發展安全有益的人工智慧，避開人工智慧可能引發的安全風險。今年更名為人工智慧倫理與可持續發展研究中心，這是源自我們對人工智慧發展理念的轉變。「安全」強調人工智慧發展的底線和紅線，就是你不能幹什麼，應注意什麼風險，但是我們更應該關注人工智慧在確保安全的情況下應該做什麼才是正確的，而可持續發展就是人工智慧造福人類的正確方向。

我發現，現在很多企業與科研機構對可持續發展的理解存在偏差，認為只要做的事情跟聯合國可持續發展17個目標相關，就是對可持續發展做貢獻。其實不然，只有用可持續發展的視角推動AI for SDGs，才是對人類和生態長遠發展有益。

比如，在「AI+教育」方面，將人臉識別技術應用於教室內學生表情、專注度等方面的識別雖然具有廣泛的潛在應用場景，但卻不是一個可持續發展的案例。即使表情特徵能夠通過計算準確反映學生狀態，這類技術將有侵犯學生隱私的潛在風險，降低學生在課堂中的能動性，引起學生的反感，而此種情緒在整個教育階段的積累甚至可能引起學生對人工智慧技術的厭惡（如有相關技術的發展致力於使攝像頭檢測不到人臉信息）。

所以，在我看來，表情的識別技術在教室裡就是一種誤用甚至是濫用，即使它跟SDGs相關。這並不是技術本身有問題，而是使用方式的問題。如果將其用於校園霸凌事件的檢測，鎖定衝突當事人，並輔以恰當的決策處理，就能夠減少校園霸凌事件的激化甚至惡化。

因此，企業在利用AI推動SDGs時，要謹慎思考這一應用在實現目標的過程中對社會、環境的長期影響，在確定人工智慧應用解決問題、達到效果的同時，還要評估負面、不可控的影響，避免可能的風險，才能有效推動人工智慧助力可持續發展。

雖然SDGs領域的專家希望推動AI助力SDGs，但是技術本身或者商業本質，在操作的層面不免帶來風險，對可持續發展目標的實現產生負面影響，希望引起各方的注意和重視，這也是北京智源人工智慧倫理與可持續發展研究中心今後關注的重點。

構建AI利他之心至關重要

Q：您剛剛講了AI對於實現可持續發展目標的負面案例。那麼，您對於AI的發展有哪些思考和建議？

A：劍橋大學前年曾發起了「通用智能實現的不同途徑及其可能存在的風險」項目，作為該項目國際顧問委員會的委員，我認為，任何一條人工智慧實現的途徑都有自己的風險，且風險類型是截然不同的。

有些人工智慧研究仿生整個人類大腦，把人類好的壞的全都學了。我認為不能把人類惡的一面構建為人工智慧的一部分，這是很危險的。在我的類腦人工智慧實驗室，正在開展人工智慧風險防範的技術模型相關研究。比如，讓人工智慧系統可以換位思考，並具備認知共情和利他行為。我們在嘗試構建人工智慧模型，使機器人具有一定程度的基本自我意識，在此基礎上發展認知共情和利他的認知功能，這是人工智慧從智能體自身出發實現善用和對人類及生態有益的核心。

舉一個極端的例子。比如，無人車送快遞，如果給它的原則和指令是用最短的時間送最多的貨。假設人工智慧的程序設計不嚴謹，無人車為了短時間內獲得更多的獎賞，看見小動物可以視而不見，對周圍物體造成不可逆影響也是可以想像到的。但是如果人工智慧具有思維揣測和利他機制，就可能避免這些問題。這不是天方夜譚，我們在技術上現在在做非常具體的探索。我認為，任何一個人工智慧體都要有倫理框架，這是必選項。

應該說，人工智慧倫理與可持續發展不是人工智慧研究的一個分支，而是所有人工智慧科研人員都應給予關注並付諸實踐的，否則很難確保人工智慧可持續的向善。

為AI從業者補上可持續發展這門課

Q：在您看來，我國人工智慧從業者的倫理意識強嗎？對於可持續發展的知曉度高嗎？

A：可以說非常低。因為人工智慧的從業者在教育階段幾乎沒上過社會學課程，極少數的可能上過工程倫理課程，這就導致他們對於倫理所知甚少，絕大多數對可持續發展更是聞所未聞。從目前情況而言，我國人工智慧的從業者缺的不只是人工智慧倫理一門課，還有可持續發展這門課。因此，我認為大學應該開設人工智慧倫理與可持續發展相關課程，引導高校本科生、研究生、博士生了解人工智慧與SDGs，並能主動探索不同技術推進SDGs的實現，使每一個專業的學生在全球可持續發展願景中都能找到自身的定位和貢獻的方向與方式。

2018年開始，中國科學院大學專門面向工程領域的學生開設了人工智慧哲學和倫理課程，希望他們了解人工智慧是改變社會的使能技術。在這門課上，我跟學生說，有一件事，是我希望你們去做的，有一件事，是我希望你們不去做的，希望你們未來都能推動AI for SDGs，不希望你們利用人工智慧開發致命性自主武器。

Q：正如您所說，在大學開展AI倫理和可持續發展的教學十分必要。那麼，對於如今已經從事人工智慧研究和實踐的從業者，如何補上這一課？

A：這確實是我們要重視的問題。我國已經成為人工智慧領域的超級大國之一，也是具有國際擔當的負責任大國，AI從業者的理念要不斷提升，與國際接軌。據報導，截至目前，內地人工智慧領域的人才約有近7萬人，對其進行教育和引導是實現AI for SDGs落地的關鍵。

關於如何補課，一方面各類媒體要加強對AI for SDGs的報導和宣傳，提升社會各界的認識和了解；另一方面要加強探討。每年我國都要舉辦不同主題的人工智慧大會，建議這些大會開設AI for SDGs專題研討會，深入探討相關話題，凝聚共識，激發行動。今年北京和上海的人工智慧大會都在初步嘗試開展相關研討，反響不錯，我們要將這件事情持續性地做下去，真正發揮引導作用。

北京智源人工智慧研究院今年6月發布面向可持續發展的人工智慧智庫、公益研究計劃、國際協作網絡，其中重要的目的就是引導更多的學者、企業共同參與和推動AI for SDGs。從某個意義上說，我們也是在將相關領域的學者和企業集結起來，為AI從業者「補課」。

AI for SDGs已經是國際共識，凡是有遠見的人工智慧企業都應該將其納入企業發展願景和戰略規劃，不會為了眼前的短期利益而犧牲人工智慧對社會和生態帶來的長遠積極影響。北京智源人工智慧研究院希望通過鼓勵企業參與面向可持續發展的公益研究計劃和國際協作網絡（AI4SDGs Cooperation Network），向全球開放研究成果，特別是支持中低收入國家和地區、「一帶一路」國家和地區，讓中國的人工智慧造福更多人，而不只是造福中國。

我們一直強調，國際協作網絡緣起中國，但不是僅為了中國，而是對世界各國免費開放，任何企業和學者只要願意參與推動AI for SDGs，都歡迎加入。畢竟，SDGs是全人類的願景，沒有任何一個國家可以單獨實現，需要各方合力推進。北京智源人工智慧研究院和我們的合作夥伴希望通過自身的力量為推動AI for SDGs的全球願景做出積極的貢獻。

Q：您對未來我國AI for SDGs有什麼樣的期待？

A：新冠肺炎疫情對每一個SDG目標都造成了衝擊，實現進程令人擔憂，但是只要我們善用人工智慧推進SDGs，2030年的美好願景依然可期。更進一步地說，到2030實現SDGs並不是終點，而是更長遠的人類社會與環境、生態共同願景的新起點。

我相信，人類在演化過程中將不斷探索可持續發展，修正自身與環境、生態之間的關係，利用人工智慧推進全球和諧發展，不僅是人類與技術的和諧，更是不同物種之間的和諧，從AI支持聯合國可持續發展目標的實現到更長遠、更廣泛的面向可持續發展的人工智慧的擴展與深化。希望未來通過各方的努力，我國人工智慧的產業發展不只是關注商業盈利，還將建立更長遠和堅實的願景，推進貢獻於全球社會、環境和生態的可持續發展。

記者手記：為AI與可持續發展「架一座橋」

8月3日下午3點，在中科院自動化研究所2樓，記者見到了曾毅，一身黑色休閒裝的他熱情地將我們迎到辦公室。剛一坐下，他就打開了話匣子，坦誠而率真地回答記者的提問，既顯現出國際視野，又具有本土情懷；既對人工智慧有深入的研究，又對可持續發展有著堅定的信心。

曾毅從求學到從事科研工作一直在研究人工智慧，近年來又開始密切關注可持續發展，成為人工智慧與可持續發展的堅定支持者和推動者。他說，正如清華大學蘇世民書院院長、國家新一代人工智慧治理專業委員會主任薛瀾教授所說：人工智慧與可持續發展是兩個完美的組合，這一句話形容得太貼切了！

可以說，是一份責任與敏銳讓曾毅萌生了推動人工智慧助力可持續發展的念頭。曾毅回憶了參加「有益的通用人工智慧2019（Beneficial AGI 2019）」國際會議的心情，既有作為中國代表首次參加的責任感，更是激發了他推動中國和世界人工智慧善用的決心。同時，他在與國際學者的交流中了解到外國對中國人工智慧的評價並非積極正面，深感亟需做點事情，讓中國也能在國際人工智慧治理的舞臺佔有一席之地。在此背景下，6月22日，北京智源人工智慧研究院發布面向可持續發展的人工智慧智庫，並向全球發布面向可持續發展的人工智慧公益研究計劃。

人工智慧是一種顛覆性技術，如果從一開始方向錯誤，造成的後果難以估量。為此，曾毅和他的合作者正致力於建立面向可持續發展的人工智慧協作網絡，希望搭建一個具有全球影響力的平臺，集結來自全國、全球科研、產業力量，共同推動全球人工智慧助力可持續發展，才不偏離造福人類的方向。他迫切希望企業提升對可持續發展的認識，對於人工智慧應用保持充分的謹慎，在謀求商業利益的同時不可忽視對社會、環境的長期影響。他開玩笑地說：為了推動AI for SDGs的實現，我致力於能成為可持續發展領域最懂人工智慧、人工智慧領域最懂可持續發展的學者。

這份雄心確實令人感動——要為AI與可持續發展架一座橋，為AI學術界與產業界搭建一個平臺，為AI國際學者和國內學者建立一個網絡，實現從AI for SDGs到AI for SD。他在採訪結束時堅定地說，對於我個人而言，推動AI貢獻於全球可持續發展是終生的事業，我也會一直堅持下去。

通過這場對話，更加清晰地看到，人工智慧助力可持續發展，是全球共識，中國趨勢，未來願景。如今，行動已開啟，大道同行，前景可期。

---

來源：《可持續發展經濟導刊》2020年08期

原文標題：《曾毅：用可持續發展照亮AI善用之路》

攝影：於志宏

編輯：王秋蓉

歡迎親愛的讀者和朋友

訂閱2020年《可持續發展經濟導刊》

每期30元，全年12期共360元

1、電話訂閱

聯繫人：王影 電話：[phone] 13801241296

收款人：《可持續發展經濟導刊》雜誌社
開戶銀行：中信銀行中關村支行
銀行帳號：7111210182600071438

2、通過郵局訂閱，本刊國內郵發代號為82-520