本文參加百家號 #科學了不起# 系列徵文賽。
美國網絡司令部控制室在網絡空間有一場戰爭。每天，全世界都有成千上萬次針對電腦和網絡的攻擊，黑客們尋找漏洞，試圖訪問受限制的系統，竊取數據或破壞網絡。
不僅是銀行或信用卡公司：政府和國防系統也是目標。2019年1月，美國民主黨全國委員會報告稱，在2018年中期選舉後的幾周內，該委員會遭到俄羅斯黑客的攻擊。
據紐約外交關係委員會估計，有25個國家可以發起網絡攻擊，2018年有50多起由國家支持的攻擊。就在今年，黑客試圖竊取27所大學的軍事海事技術研究成果，美國和歐洲的智庫網絡遭到入侵，印度尼西亞指責俄羅斯的黑客修改選民資料庫，以擾亂總統選舉。
「十年前，這幾乎是科幻小說，」澳大利亞國防研究機構——國防科技集團(DSTG)在阿德萊德的網絡戰和電子戰部門的研究負責人加雷斯·帕克博士說。「十年前，人們還在考慮防病毒保護。」
現在，有一大堆威脅：數據抓取、擊鍵盜竊、分布式拒絕服務攻擊、蠕蟲和特洛伊木馬、遠程埠掃描、網絡釣魚，甚至光纖網絡竊聽。防務界幾乎沒有人會承認入侵或成功攻擊——但從邏輯上講，如果私營部門的大型而老練的參與者可以被黑客攻擊，那麼政府和軍方也可以。
美國網絡攻擊演習中的威脅評估屏幕這就是為什麼反網絡攻擊的研究蓬勃發展的原因。為什麼在最好的情況下，世界各國的國防機構正在進行研究，澳大利亞就是其中之一。
在澳大利亞國家科學研究組織的數據研究部，計算機工程師正在開發高度複雜的算法，通過計算機網絡進行搜索，不斷監控行為，並試圖識別和遏制入侵者。
但工程師們不是在編寫軟體：他們是在讓算法自己編寫。它被稱為「對抗機器學習」，這是人工智慧(AI)如何在當今國防研究中發揮重要作用的一個例子。
假設一個對手試圖感染、攻擊或毒害位於你的網絡中的伺服器。機器學習算法的目標本質上是找出發生了什麼，並糾正網絡的行為。但要做到這一點，它只能通過接觸入侵的例子和觀察來學習。
這相當於網絡上的戰爭遊戲：一旦核心的機器學習軟體被開發並部署到一個模擬的防禦計算機網絡中，許多計算機工程專業的學生將試圖黑進這個系統，要麼偷偷潛入而不被發現，要麼試圖造成破壞並使網絡癱瘓。簡而言之，他們將試圖模擬敵人可能試圖攻擊的防禦設施或支持戰場上軍事人員的計算機系統。
機器學習是一種人工智慧技術，幫助谷歌DeepMind的AlphaGo在2016年3月的中國圍棋比賽中成為首個擊敗9段世界冠軍的程序。它依賴於「強化學習」，這是一種神經網絡，由一種精心設計的算法驅動，這種算法在一件事上很特別：學習它需要什麼來實現它的目標。
Data61的理察·諾克博士是一個團隊的一員，他們利用高超的數學知識挫敗了這類網絡攻擊策略(CSIRO)隨著神受到越來越多的攻擊，它建立了一個入侵資料庫，並教會自己識別人類無法識別的模式。你不能理解它是如何做到的，只是看到它做得很好。
這是神經網絡問題的一部分：你怎麼知道一個複雜的入侵者，知道你有一個機器學習算法保護你的網絡，而它本身沒有開發出另一個機器學習算法，一旦它進入系統，它就善於偽裝自己不被發現？或者更糟的是，隨著時間的推移，巧妙地「訓練」你的防禦算法來忽略它的存在。
「這有點像人工智慧的軍備競賽，」諾克表示贊同。但他們的項目還旨在擊敗這種攻擊策略——使用高級數學。他補充道：「本質上，問題在於你的訓練算法的基礎數學是最穩健的……因此，它實際上看到了可能的篡改。」
此外，通過網際網路、內部數據網絡、甚至Wi-Fi來檢測可疑行為也日益受到關注，尤其是在越來越多的數據被加密的情況下。那就是Project Deep Bypass誕生的地方：由Data61，雪梨大學，DSTG和雪梨科技大學開發，它「嗅探」高速網絡數據流量並表徵加密流量。
再次強調，機器學習是關鍵。Deep Bypass使用三種不同的深度學習模型和相應的神經網絡架構來快速過濾數據和搜索關鍵統計特徵。實際上，它可以「指紋」數據，甚至可以在一定程度上識別內容。如果這些內容之前被標記為國防或情報機構感興趣的內容，如恐怖主義宣傳視頻或仇恨言論視頻，Deep Bypass將識別這些內容，甚至識別播放的視頻，準確率達97%。
「這相當令人印象深刻，」DSTG的帕克說。「但這是你希望能夠做到的，對網絡流量有一個高層次的了解，並了解人們使用它的目的。」當然，還要識別惡意行為。」
理查·許副教授(中)與雪梨科技大學的同事。DSTG目前管理著澳大利亞國防部的下一代技術基金，該基金將在未來10年花費7.3億澳元來開發應對國防挑戰的新解決方案，該基金還充滿了人工智慧方面的工作。另一個由DSTG和Data61牽頭的項目，這次涉及莫納什大學和迪肯大學，目的是利用人工智慧來發現網絡或其他軟體中的漏洞，這些漏洞可能被攻擊者利用。
所有的軟體都有缺陷——錯誤或缺陷會產生不正確的結果，或使程序以非預期的方式運行。這些錯誤的出現是因為軟體是由人類設計和編寫的，據估計，每1000行軟體代碼中至少有一個錯誤或缺陷。發現和修復bug是很困難的，即使是最優秀的程式設計師，即使使用最複雜的調試工具，也無法發現所有的缺陷，或者預測多個軟體和硬體層之間的交互方式。
這就是黑客們所依賴的：他們對軟體的各個部分進行詳細的研究，尋找可以讓他們通過後門進入網絡的漏洞，或者繞過訪問控制，獲得未經授權的特權來操作計算機或伺服器。雖然這對每個IT經理來說都是一個頭疼的問題，但在國防領域，這可能意味著戰鬥中的生死之別。
「這是一個相當複雜的過程，找出漏洞，然後識別出那些可能造成安全風險的漏洞，」帕克說。因此，研究人員正在開發一種軟體自動分析過程，使用一種被稱為符號執行的技術，這種技術「在計算機安全方面具有改變遊戲規則的潛力，」他說。
研究人員還有意將符號執行與機器學習結合起來，以創造一種新的網絡武器：快速威脅分析，這將使防禦工程師在擊退網絡攻擊時，不僅能識別惡意代碼，還能了解其最終任務或目標。在過去，這樣的方法需要花費大量的時間和計算機的響應，把這些方法結合起來，就可以在幾分鐘內完成。其目標是開發一種技術，使可攜式工具能夠在網絡攻擊發生時立即、自主地做出反應——甚至是對未知的網絡攻擊。
快速威脅分析使防禦工程師不僅能識別惡意代碼，還能了解其最終任務密碼學是另一個領域。它長期站在保護軍事和民用網絡的前線，依靠極其複雜的數學公式擾亂通信，而破解這些公式需要數十年的計算時間。但更好的是量子密碼學，它依賴於量子力學令人毛骨悚然的特性，使其完全不可破解。
問題是，量子密碼學在短距離和安全的光纖網絡上工作得最好。然而，在坎培拉的澳大利亞國立大學(ANU)，物理學家們正在研究一種技術，使量子密碼學能夠通過衛星與量子加密雷射通信系統進行安全的國防通信。它與「量子存儲器」配對，後者可以捕捉和存儲用雷射束編碼的信息，然後發送到衛星上，而不需要讀取或篡改數據，從而保持量子密碼的完整狀態。
複雜性停留在地面上，在那裡你產生量子態，把它發送到宇宙飛船，然後再重新傳輸。實際上不必相信飛船上的硬體，因為它無法在不完全摧毀它們的情況下測量這些量子態。