近日,谷歌研究人員關於人工智慧的研究又取得新進展。他們開發出「單次學習」技術,即機器學習不再需要大量的例子學會一件事,僅通過一個例子就能認出圖像中的物體。研究人員稱,他們對深度學習算法進行了一些調整,從而達到了這樣的效果。
在人工智慧研究高歌猛進的時候,國際安全極客大賽GeekPwn(極棒)以敏銳的科技洞察力,成為首個大範圍探索人工智慧與專業安全領域的平臺,發問人工智慧:它真的是那麼強大且安全的嗎?如果我們做一些微小的調整,會不會得出與「單次學習」相反的結果?
對抗性攻擊使機器學習「指車為船」
當人們處處推崇機器學習的強大性能時,畢業於史丹福大學,專業研究數據挖掘與人工智慧,師從人工智慧大師吳恩達的Clarence Chio則注意到深度學習的漏洞。Clarence Chio在10月24日GeekPwn2016嘉年華上,分享了他對於人工智慧安全性的最新研究觀點,他表示,我們可以通過對抗性攻擊,觸發機器學習的模型,讓它做出錯誤的決策。
同樣,來自OpenAi的生成式對抗性網絡的發明者Ian Goodfellow、谷歌大腦軟體工程師團隊的核心成員Alexey Kurakin,在GeekPwn2016嘉年華矽谷站,也分享了他們關於對抗性圖像的研究。比如,通過在圖片中加入一些對抗性幹擾,機器就有可能將一輛汽車看作一條船。
GeekPwn首創人工智慧Pwn,用未來視角看安全
自圖靈提起「機器能否思考」的假說,如今已過去60多年。人們關於人工智慧的研究也不斷取得突破,擊敗卡斯珀羅夫的IBM「深藍」被許多人視為人工智慧研究的裡程碑,谷歌AlphaGo大敗李世石,更是標誌著人工智慧由「弱人工智慧」向「超級人工智慧」的高速進化。
然而,人類似乎一直都是個矛盾體,一方面將人工智慧應用於各種領域「解放」人類,另一方面又恐懼人類被人工智慧所代替或毀滅。《黑客帝國》《她》《終結者》等人工智慧題材的電影,或多或少都體現了這種恐懼和擔憂。
作為全球首個探索人工智慧與專業安全的平臺——極棒開創人工智慧Pwn,關注到機器學習、視覺識別等人工智慧最炙手可熱的技術安全研究,重新思考人工智慧的安全問題,思考黑客在未來技術發展創新中所扮演的角色及作用。
萬物互聯皆可Pwn,將物聯網安全做到極致
據媒體公開報導,今年10月美國遭受到大規模DDOS攻擊,整個網絡陷入「癱瘓」,攻擊源頭則是智能家居產品組成的「殭屍物聯網」,即成千上萬的物聯網設備在黑客的控制下,大量發送通信請求,導致域名伺服器癱瘓。
在GeekPwn2016嘉年華上海站,鳳凰解碼團隊現場演示了操控智能插座發微博,形象的展示了物聯網設備被黑的後果。來自卡巴斯基的安全專家Denis Makrushin和Vladimir Dashchenko,也對「智能城市」公共設施安全隱患進行了全面剖析。他們演示了從城市街道的終端設備,如自動售票機、行動裝置充電站、公共支付端,到大部分支付服務的電腦終端,從市政廳到機場,從計程車後座顯示器到高速公路攝像頭等一系列破解。
自2014年舉辦以來,GeekPwn始終關注物聯網設備安全,從第一屆的智能門鎖、路由器破解到第二屆的無人機、POS機、智能攝像頭、O2O行動支付項目破解,再到今年的仿人機器人、智能插座、「手機的最後一道防線」TrustZone被攻破,GeekPwn幾乎把能「黑」的智能設備都「黑」了,將物聯網安全做到了極致。
做物聯網時代安全生態的連接平臺
極棒經過三年發展,已經搭建起一個安全人才,安全廠商之間相互促進,用技術推動物聯網安全生態發展的多維連接平臺。白帽黑客與廠商通過GeekPwn可以平等溝通。白帽黑客來到極棒不僅可以展示才華,更能「負責任的披露」,將產品漏洞提交給廠商,解決實際問題。面對日益嚴峻的網絡安全形勢,來自外部安全社區的力量不可忽視,白帽黑客為智能安全帶來了新思路,在提高產品安全上更具啟發性。
極棒將繼續貼近生活,關注物聯網安全,同時也將極端面向未來。在首次嘗試人工智慧Pwn後,王琦表達了極棒的未來目標:「極棒將繼續引領創新,引導有才華橫溢的極客發現一些更未來的問題,做一些更前沿的東西。」