摘要：學界和業界共同視角全方位闡述AI安全
人工智慧（Artificial Intelligence， AI）在當代生活中，服務於人們衣食住行的方方面面，已不是陌生的技術名詞。在國家戰略層面，AI已成為迎接新一輪科技革命浪潮和產業變革機遇的重要引擎。在AI推動社會經濟各個領域從數位化、信息化向智能化發展的同時，也面臨著潛在的安全性威脅。對AI安全的前瞻性研究與布局，已是近年來學術界和工業界越發重視的課題。
近期，螞蟻安全天塹實驗室聯合浙江大學網絡空間學院院長任奎教授團隊，共同頒布了《人工智慧安全白皮書（2020）》，從學界、業界的共同視角全方位闡述人工智慧安全。該白皮書耗費近一年時間研究撰寫完成，完整版篇幅將近6萬字。
螞蟻安全天塹實驗室負責人劉焱介紹，此次《人工智慧安全白皮書（2020）》的編寫聚焦於AI技術中模型、數據與承載系統的安全問題，首先介紹了AI模型、數據與承載系統面臨的安全威脅，然後逐一介紹針對這些威脅的防禦技術，最後面向未來AI安全技術的發展趨勢，提出AI應用的一站式安全解決方案——AI模型安全開發生命周期（AI SDL）。
螞蟻集團副總裁韋韜表示，「AI是數字新基建戰略的重要組成部分，但AI技術還面臨著很多的挑戰。比如今天的深度學習，就像一個有特異功能的孩子，有些事情做的非常好，比大人還好。但是你不知道他什麼時候突然就不高興了，不做了；也不知道什麼時候，他可能為了一顆糖果就被騙了。目前各行各業都在大力推廣AI的應用，但同時也要對AI技術所面臨的挑戰和風險有著清醒的認知。本次白皮書的發布，系統性地總結了學術界與工業界對AI 安全與隱私保護技術的相關研究成果，希望能成為AI安全領域研究的重要參考，為推動行業共同應對AI技術所面臨的安全與隱私威脅，貢獻一份力量。」
《人工智慧安全白皮書（2020）》也是「浙江大學-螞蟻集團金融科技研究中心」——「數據安全與隱私保護實驗」的研究成果之一。2019年，螞蟻集團與浙江大學合作共建的「浙江大學-螞蟻金服金融科技研究中心——數據安全與隱私保護實驗室」，共同研究數字金融面臨的數據安全與隱私保護問題，聯合推進前沿科技研究，聚焦安全多方計算、可信環境、數據安全等領域，探索新技術在大數據場景下的安全用，推動產學研協同和成果創新，培養適應未來需要的實踐人才。
浙江大學網絡空間安全學院院長任奎表示，「AI安全的命題是國家人工智慧戰略背景下的長期命題，推動AI安全技術的切實發展，需要學術界和工業界的緊密合作。此次與螞蟻安全實驗室共同研究並發布AI安全白皮書（2020），正是學術界與工業界攜手合作的又一次成功實踐，希望這本白皮書的研究成果對學界和各行各業的AI安全工作都能有借鑑意義。」
螞蟻安全天塹實驗室
螞蟻安全天塹實驗室隸屬於螞蟻安全九大實驗室之一。螞蟻安全天塹實驗室致力於AI安全與隱私保護領域的研究、技術突破和人才培育，並以用戶隱私保護為核心任務，打造螞蟻集團全球領先的信息安全能力。