《人工智慧安全框架》藍皮報告：360累計發現框架平臺依賴組件漏洞100餘個

2020-12-12 北京商報

北京商報訊（記者 魏蔚）12月11日，北京商報記者從360獲悉，中國信息通信研究院安全研究所發布了《人工智慧安全框架（2020年）》藍皮報告（以下簡稱「藍皮書」），360參與編制。藍皮書顯示，360首次發現並披露機器學習開源框架平臺供應鏈安全風險，截至2020年11月20日，360累計發現框架平臺依賴組件漏洞100餘個。

在新基建推動催化下，人工智慧技術將加快轉變為像水、電一樣的基礎設施，向社會全行業全領域賦能。然而，人工智慧基礎設施卻潛藏安全風險。一是人工智慧算法自身存在技術脆弱性；二是人工智慧新型安全攻擊不斷湧現；三是算法設計實施有誤產生非預期結果。

現階段企業主要聚焦於人工智慧技術研發和產品運營，在人工智慧安全方面投入相對較少、基礎薄弱。因此，該藍皮書聚焦人工智慧安全風險，凝聚業界專家共識，構建人工智慧安全框架。「人工智慧安全框架，不僅能為企業提供提升人工智慧安全能力的可參考路徑，指導企業合理進行人工智慧安全資源投入，並能為人工智慧安全技術研發提出方向建議，推動人工智慧安全技術產品化和服務化。」該藍皮書寫道。

根據藍皮書信息，360旗下的AI安全研究院在全球範圍內率先發現了眾多人工智慧安全問題。藍皮書顯示，三六零首次發現並披露機器學習開源框架平臺供應鏈安全風險，目前全球著名漏洞資料庫CVE披露的37個Tensorflow漏洞中，24個由中國安全廠商360發現。

相關焦點

  • 藍皮書：截至11月20日360已累計發現框架平臺依賴組件漏洞100餘個
    36氪獲悉，近日，中國信息通信研究院安全研究所發布《人工智慧安全框架（2020年）》藍皮報告。藍皮書顯示，三六零首次發現並披露機器學習開源框架平臺供應鏈安全風險，目前全球漏洞資料庫CVE披露的37個Tensorflow漏洞中，24個由360發現，截至2020年11月20日，360累計發現框架平臺依賴組件漏洞100餘個。
  • 信通院聯合三六零等編制《人工智慧安全框架》藍皮報告
    近日，中國信息通信研究院（以下簡稱「中國信通院」）安全研究所發布《人工智慧安全框架（2020年）》藍皮報告。該藍皮書主要針對全球人工智慧安全框架缺失問題，聚焦當前人工智慧突出安全風險，提出了涵蓋人工智慧安全目標，人工智慧安全分級能力，以及人工智慧安全技術和管理體系的人工智慧安全框架。
  • AI安全堪憂：360AI安全研究院披露谷歌Tensorflow24個漏洞
    近日，360 AI安全研究院向谷歌Tensorflow進行了安全測試，並提交了24個漏洞，目前均已被谷歌確認，影響上千萬開發人員。據悉，谷歌 Tensorflow官網顯示共有35個漏洞，其中360集團挖掘發現24個，是提交漏洞最多的公司，在數量上名列全球首位。360提交漏洞後，谷歌對所有漏洞劃分危險等級，分為嚴重、高危、中危、低危四種類型。
  • 人工智慧安全框架(2020年)
    隨後，25 省市發布「新基建」政策方案，累計投資 30 餘萬億人民幣，加快推動人工智慧算力、算法和數據基礎設施建設。在新基建推動催化下，人工智慧技術將加快轉變為像水、電一樣的基礎設施，向社會全行業全領域賦能。然而，人工智慧基礎設施卻潛藏安全風險。以機器學習開源框架平臺和預訓練模型庫為代表的算法基礎設施因開發者蓄意破壞或代碼實現不完善面臨算法後門嵌入、代碼安全漏洞等風險。
  • TensorFlow、Caffe、Torch 三大深度學習框架被存在安全漏洞
    ：TensorFlow、Caffe、Torch 等深度學習框架對第三方開源基礎庫的過度依賴會導致其存在大量的安全威脅。TensorFlow、Caffe、Torch 等深度學習框架的使用可以讓應用開發人員無需關注底層實現細節，大大提高了人工智慧應用的開發效率。但是這些深度學習框架所提供的高效性也註定了框架自身的複雜性，而系統越複雜，就越有可能存在安全隱患，特別是這三大框架又都是搭建在眾多第三方開源基礎庫之上的。
  • 人臉識別設備也「臉盲」360AI安全研究院揭秘人工智慧三大痛點
    據了解，360 AI安全研究院隸屬於360未來安全研究院，一直專注於人工智慧與安全的前沿技術研究，涉及AI基礎設施安全、AI算法安全、AI數據安全等方向的研究工作。在AI基礎設施安全方面，目前已累計發現100多個人工智慧基礎軟硬體漏洞。
  • 人臉識別設備也「臉盲」，360AI安全研究院揭秘人工智慧三大痛點
    據了解，360 AI安全研究院隸屬於360未來安全研究院，一直專注於人工智慧與安全的前沿技術研究，涉及AI基礎設施安全、AI算法安全、AI數據安全等方向的研究工作。在AI基礎設施安全方面，目前已累計發現100多個人工智慧基礎軟硬體漏洞。
  • 360AI安全研究院披露Tensorflow 24個漏洞
    早在2017年，360 AIVUL團隊便對機器學習框架所依賴的第三方庫進行了全面安全測試，最終發現了諸多安全問題。隨著機器學習框架的不斷完善、發展，三年後的今天，機器學習框架的安全性是否已經得到改善呢？
  • 周鴻禕:十餘年攻防經驗,360構建面向未來的網絡安全框架體系
    隨著以5G網絡、數據中心、人工智慧、物聯網等為代表的新基建駛入「快車道」，網絡安全不再是輔助，而是數位化新基建的「基建」。基於此，在第四屆WIC世界智能大會上，360董事長兼CEO周鴻禕從整體思維做規劃，犀利指出：網絡安全也需要基建，要同步構建面向未來的網絡安全框架體系，護航新基建。十年磨一劍，蓄力露鋒芒360十餘年網絡博弈「築高牆」眾所周知，持續的實戰檢驗是「知己知彼」的有效途徑。
  • 人工智慧 、物聯網 、機器人技術對安全和責任框架的影響
    、物聯網和機器人技術對安全和責任框架的影響》，在最新一期賽迪譯叢中，賽迪智庫安全產業研究所對該報告進行了編譯。報告介紹了新興技術的特徵，深入分析了歐盟當前的安全和責任框架在哪些環節不能適用於這些新興技術，並建議採取適當的舉措對現行《產品責任指令》和《通用產品安全指令》等法規進行調整，以解決現有安全和責任框架的不確定性。
  • 人工智慧 、物聯網 、機器人技術對安全和責任框架的影響 摘譯
    >，在最新一期賽迪譯叢中，賽迪智庫安全產業研究所對該報告進行了編譯。報告介紹了新興技術的特徵，深入分析了歐盟當前的安全和責任框架在哪些環節不能適用於這些新興技術，並建議採取適當的舉措對現行《產品責任指令》和《通用產品安全指令》等法規進行調整，以解決現有安全和責任框架的不確定性。
  • 騰訊發現者揭秘:怎麼應對這次曝光的谷歌 TensorFlow 的安全風險...
    12 月 15 日，雷鋒網報導，騰訊安全平臺部預研團隊發現谷歌人工智慧學習系統 TensorFlow 存在自身安全風險，可被黑客利用帶來安全威脅。這次威脅還不小，攻擊者可以生成 Tensorflow 的惡意模型文件，對 AI 研究者進行攻擊，對受害者自身的 AI 應用進行竊取或篡改、破壞。
  • 騰訊:谷歌 AI 開源框架 TensorFlow 存在自身安全風險
    12月15日，雷鋒網(公眾號：雷鋒網)從騰訊了解到，騰訊安全平臺部預研團隊發現谷歌人工智慧學習系統 TensorFlow 存在自身安全風險，可被黑客利用帶來安全威脅，其已向谷歌報告這一風險並獲得致謝。騰訊安全平臺部預研團隊發現，攻擊者可以生成 Tensorflow 的惡意模型文件，對 AI 研究者進行攻擊，對受害者自身的 AI 應用進行竊取或篡改、破壞。騰訊方面認為，該風險危害面非常大，一方面攻擊成本低，普通攻擊者即可實施攻擊；另一方面迷惑性強，大部分 AI 研究者可能毫無防備；同時因為利用了 TensorFlow 自身的機制，其在 PC 端和移動端的最新版本均會受到影響。
  • 可免費下載 |《人工智慧 、物聯網 、機器人技術對安全和責任框架的影響》摘譯
    ，賽迪智庫安全產業研究所對該報告進行了編譯。報告介紹了新興技術的特徵，深入分析了歐盟當前的安全和責任框架在哪些環節不能適用於這些新興技術，並建議採取適當的舉措對現行《產品責任指令》和《通用產品安全指令》等法規進行調整，以解決現有安全和責任框架的不確定性。
  • 360 安全團隊再登 USENIX Security 展示研究成果
    近日，360 智能安全團隊受邀參加信息安全領域頂級國際會議 USENIX Security 2019，將在 8 月 15 日-17 日舉辦的大會上進行《Seeing is Not Believing: Camouflage Attacks on Image Scaling Algorithms》的議題分享，介紹人工智慧視覺系統的一個潛在安全風險和防禦方法。
  • 中國信通院聯合RealAI發布《人工智慧安全框架(2020年)》
    二、人工智慧安全框架人工智慧技術特點及安全風險與傳統信息系統存在顯著差異，傳統網絡安全框架無法直接適用於人工智慧應用，但《框架》藍皮書參考傳統網絡安全框架經驗，圍繞安全目標、安全能力、安全技術和安全管理四個維度，聚焦人工智慧基礎設施、設計研發以及應用行為決策過程中存在的安全風險，自頂向下、層層遞進，為企業不斷提升人工智慧安全能力提供可遵循的迭代路徑
  • Electron流行開源框架存漏洞 github受影響
    【IT168 資訊】Electron 是一個由node.js，V8和Chromium構成的開源框架，該框架已被廣泛用於流程的桌面應用程式，包括Github桌面，WordPress等;研究員發現通過錯誤配置，將允許惡意應用程式訪問Node.js API和模塊並濫用更多作業系統功能。
  • 360發現並協助修復Windows新一代PrintDemon漏洞，再獲微軟致謝
    北京時間8月12日凌晨，微軟發布新一輪安全更新，公開致謝360漏洞安全研究院研究人員彭峙釀、李雪峰發現並協助修復Windows 印表機後臺處理程序漏洞CVE-2020-1337（PrintDemon2）。
  • ISC 2020周鴻禕：360要打造新一代網絡安全能力框架體系
    以安全大腦為核心，十大基礎設施組安全能力新框架過去十五年，360 基於服務10億消費者、數千萬家中小企業的實踐，打造出了一套雲端大腦，其以安全大數據平臺、知識庫、安全專家團隊為基礎，以知識雲、沙箱雲、查殺雲、分析云為重要組成，相當於網絡空間的預警機和反導系統
  • JavaScript 框架安全報告:jQuery 下載次數超過 1.2 億次
    根據開源安全平臺 Snyk 統計，目前至少十分之六的網站受到 jQuery XSS 漏洞的影響，甚至用於擴展 jQuery 功能的 jQuery 庫還引入了更多的安全問題。Snyk 發布了 2019 年 JavaScript 框架的狀態安全報告，該報告主要是對兩個領先的 JavaScript 框架(Angular 和 React)進行安全審查，但同時還調查了其他三個前端 JavaScript 生態系統項目的安全漏洞：Vue.js、Bootstrap 和 jQuery 等。