3種方式：攻克AI！騰訊研究「Z1黑科技」

不知道大家有沒有想過，我們在網上下載的AI模型，有可能被植入了木馬程序，整個AI模型就會發生崩潰，而這時，AI監控被幹擾，最近，這種針對AI模型的新型程序攻擊，已經被騰訊實現了，可能很多人看到這裡會很迷惑，攻克了AI模型有什麼意義嗎，黑客們又是如何做到的呢，那作為普通人我們應該注意些什麼呢，大家不用著急，還請耐心看下去。
三種方法攻擊
近日騰訊的朱雀實驗室對外宣布已經成功模擬了3種攻擊AI的方法，這些方法從模型本身下手，在不會被發覺的條件下從而讓AI模型被逐步擊破，現如今市面上最主流的AI模型也是沒有一個能逃過它的魔爪那麼這三個所謂的木馬程序是什麼，它們又是依靠什麼樣的能力來攻克現如今市面上這麼種類繁多的AI程序的呢，接下來就讓我帶領大家來深入了解一下。

它的原理是什麼
接下來就讓我們來看看它的原理是什麼，我們是怎樣將木馬植入AI模型的，現如今的傳統的AI攻防技術，往往是針對數據樣本來進行破壞，從而達到黑入的目的，不過這樣的樣本投毒方式，現如今的市麵廠商早就已經進行了對應的研究，所以也就無從提到影響，但是，如果攻擊者選擇直接控制AI模型的神經元，從而達到給AI植入木馬的目的，那麼這樣的攻擊就會防不勝防，而騰訊研究出來的的三種方式就分別是AI供應鏈攻擊，模型感染和數據木馬，所謂的利用AI框架「投毒」，就是我們說的AI供應鏈攻擊，它的目的在於給部分AI模型植入惡意執行代碼，從而使得AI本身變成大型木馬，然後，將這種木馬投放到開源社區，最後讓木馬達到廣泛傳播，對大範圍的AI供應鏈進行汙染，需要注意的是AI供應鏈攻擊的方式，可以保持原有模型不受任何功能上的影響，但在模型文件被加載的瞬間卻能夠執行惡意代碼邏輯，所以也就使得其造成的後果十分嚴重，所以使得這種方式也是深得研究人員的重視。

給木馬開後門
所謂的後門程序，通俗來說就是為開發者修改方便，為程序裝的一個能逃過所有安全檢查的大門，而藉助這一點，假如攻擊者在使用AI模型時也選擇以管理員身份運行，給AI模型埋藏一個後門，讓平時程序運行正常，當木馬一旦被激活，模型輸出就會變成攻擊者預先設置的目標，研發的木馬程序確實是可以通過模仿這個原理，從而在AI中改造出了後門模型，進而達到控制AI的效果，而這種手段本身是通過系統研發過程中的測試環節時遺留下來的漏洞下手，從而黑入整個AI系統。

木馬植入輕而易舉
相較於數據投毒的方式，將木馬植入AI模型的可操作性那就更高，並且也更隱蔽，需要注意的是，現如今的神經網絡木馬在硬體方向上早就開始了相關技術的研究，同時現如今也正在研究這方面的安全防禦建設。

可能看到這裡，大家都十分的害怕，但是我想告訴大家的是無需擔憂，要相信我國的企業們，它們一定會不斷完善自家的產品，以此來應對所謂的漏洞。