大家好!!!
今天,小智要給大家分享一個關於人與人工智慧的故事!!!
從前,有一個很有錢的有錢男。(好吧,看著不是很有錢。。)
有錢人的公司有一個會寫程序的單純男。(前面是老闆!不是保鏢好不好!)
單純男被有錢男騙去參與一項圖靈測試。
測試對象是被關在密室外表很漂亮的人工智慧機器人AI女。
然後,發生了一系列看似風平浪靜,合情合理,實則波譎雲詭,風雲突變的事情。
最後,有錢男涼了,屌絲男也歇菜了,AI女卻溜了。
相信大家都看過這部電影 ——《機械姬》
在人工智慧飛速發展的今天,這部電影或許能說明一些觀點 —— 人工智慧是存在不利因素的。
小智最近說到的朝鮮氫彈試爆,讓許多人憂心起第三次世界大戰的來臨。
但特斯拉執行長馬斯克(Elon Musk)卻認為從「對人類文明的威脅」的角度來看,人工智慧發展才是最大的問題。
身為人工智慧威脅論的主要支持者,馬斯克一直都很擔憂 AI 未來的發展可能會對人類造成危險,近日他在推特轉推了一篇駭客對 AI 威脅的看法報導,試圖佐證自己的理念。
報導談到,為了解 AI 走上「歧途」的可能情況,網路安全公司 ZeroFOX 在 2016 年進行了一次實驗,讓人類和 AI 進行一場競賽,看誰能誘導更多 Twitter 用戶點擊惡意連結。
實驗之前,研究人員先讓 AI 理解這次的目標,在研究社群網路用戶的行為模式之後,設計並拋出網絡釣魚(phishing)的誘餌,吸引用戶點擊連結上鉤。
結果在實驗的規定時間裡,AI 總計向 800 多名用戶發出詐騙推特,並吸引 275 名用戶點擊;相較之下,參加實驗的 ZeroFOX 員工只發出 129 次嘗試,吸引了 49 名用戶。
不論是拋出的魚餌數或吸引到的用戶數量,AI 都以壓倒性的比數擊敗了人類。
這樣的結果似乎在預料之中,但 ZeroFOX 認為最重要的是,這個結果證明 AI 確實能被駭客用來進行惡意攻擊,事實上,雖然無法證實,但他們很有可能已經這麼做了。
今年 7 月舉辦的美國駭客年會(Black Hat),數百名網路安全專家一起討論 AI 技術可能帶來的隱憂,當與會者被問到「未來一年內,是否會有駭客開始利用 AI 進行網路犯罪」時,近 62% 的受訪者給了肯定的答案。
(小智很擔心淘寶的購物車被駭客清空嘻嘻)
運用 AI 進行網路犯罪
負責調查的安全數據科學家 Brian Wallace 認為,駭客應該已把 AI 當做武器使用好一段時間了。
「這推論非常合理,因為規模對駭客來說很重要,他們必須儘可能增加攻擊次數、目標,同時減少自己的風險。對他們來說,AI 和機器學習就是能用到的最終完美武器。」
Wallace 的想法並非少數,行動裝置安全防護公司 Zighra 執行長 Deepak Dutt 也認為,在不久的將來,運用複雜的 AI 系統進行網路攻擊的可能性很高,甚至很有可能已被一些國家利用。
Dutt 指出,AI 可透過挖取網路大數據,得到每個人出生日期、電話、位置等幾乎所有身分訊息,也可以監控電郵、發送的文字信息,甚至是量身打造個性化的「魚餌」,來進行社交工程(social engineering)的駭客攻擊。
舉例來說,魚叉式釣魚攻擊要求攻擊者獲取潛在目標的個人信息以及其它詳細資料,具體包括銀行帳戶或者其選擇的醫療保險公司等。AI系統能夠幫助攻擊者快速收集、組織並處理大型資料庫,從而對信息進行關聯與識別,最終簡化攻擊實施門檻並加快攻擊執行速度。
這些言論與馬斯克日前發表的擔憂十分類似,當時馬斯克在推特提到,他認為國與國之間的 AI 競賽,很可能引爆第三次世界大戰。
「戰爭可能不會由國家領導者,而是由人工智慧所發動──只要它認為『先發制人』是取得勝利最有效的方式。」
馬斯克表示,在人類文明存在的風險清單上,北韓的威脅程度應該比較低,在他看來,各國都在竭力爭取 AI 競爭的優勢,才是最有可能導致第三次世界大戰的原因。
(話說三胖才搞完事情,真是一波未平一波又起啊!!!)
但就像 Facebook 創辦人馬克·扎克伯格(Mark Zuckerberg)那樣,也有安全數據科學家抱持不同想法。Recorded Future 的技術長 Staffan Truvé 就認為,駭客目前並沒有使用 AI,而是運用更簡單的自修改代碼或自動化方案在正常工作。
Truvé 表示,他並不認為對有犯罪意圖的駭客來說,AI 已經成為必須存在的「標準配備」,因為傳統的方法仍舊有效。「如果你可以從一個傳統、熟悉的方法得到很好的結果,又為什麼要花時間和金錢改變成另一種模式?」
AI 究竟是什麼?
對於專家和業界意見分歧的看法,《未來的犯罪》作者 Marc Goodman 認為,這主要還是每個人對 AI 定義的差別所導致,隨著技術持續發展,人們對 AI 的概念也在持續改變。
從最根本來說,AI 的 I 意味著代理者(無論是生物或機械)具備「解決複雜問題的能力」,但其實人們已經擁有許多具備這種功能的工具,只是因為持有的時間過長,我們已將其視為理所當然。
這就像是在幾個世紀以前計算機剛出現的時候,這個比人類運算快上幾百萬倍的機器被認為是激進的技術進步,但現今已經很少人會注意到它的特別;又或像是 1997 年擊敗世界棋王的 AI 深藍(Deep Blue),曾經被視為人類智力的頂點標準。
(我們對AI 的看法也隨著時代變遷一直改變著,或許有一天人類對AI 的情感真會出現萍水相逢一般的觸動。)
而在今天,機器學習(machine learning)、自然語言處理、神經網路(neural networks)等多方發展之下,人們也同樣提升了對機器智慧的看法,像是語音助理 Siri、自駕車或疾病診斷功能,都已被視為尋常事物。
「『AI』一詞經常被人誤解,談到 AI,許多人聯想到的都是魔鬼終結者,但那並非 AI 真正的意義。相反的,AI 是一個廣泛的命題,包含各種形式的學習技術──而這些智慧恰好是人工的。」
(小智以前只想擁有一個AI 化妝機器人。。。)
AI仍然很難解釋人類行為,而人類也並不真正相信AI系統作出的重大決策。
因此與電影橋段有所不同,AI能夠為網絡攻擊以及網絡防禦帶來的並非由計算機選定目標並自動施以攻擊。
人們仍然需要自行創建AI攻擊系統,並設定特定目標再將其啟動。但儘管如此,AI的介入仍然會進一步升級目前的網絡犯罪與網絡安全體系,進而成為攻擊者與防禦者之間軍備競賽的核心支柱之一。
我們只能提升適應能力
AI支持型攻擊者在遇到阻力,或者網絡安全專家修復了原有漏洞時將能夠快速作出反應。在這種情況下,AI可能會在無需人為指示的前提下轉而利用另一項漏洞,或者對系統進行掃描以找到新的可行入侵方式。
這可能意味著人類應急工作者及防禦者將無法跟上AI方案的進攻速度。
這極有可能引發新一輪編程與技術性軍備競賽,其中防禦者開發出AI助手以發現並抵禦攻擊活動,甚至打造出擁有報復性攻擊能力的AI方案。
前幾天IPHONE X應用的人臉識別已經另小智十分惶恐,擔心未來的個人隱私將會更多的暴露在網絡的漩渦當中。
隱私或許已經得不到保障了,駭客還要結合人工智慧搞事情。
敢情以後小智得夾著尾巴做人,不然稍微有點瑕疵,可能都會被記錄下來呢。
不存在的!!!
小智生來就要暢所欲言!!!給你們帶來更多有趣的資訊!!
比如。。。一部有趣的關於AI 的科幻電影!!!
送上吉諾出品的《來自火星的她》嘻嘻~
既然大家都暴露在網絡之下,好看的電影還不無所遁形!!!
(謝謝觀看,長按識別下方二維碼可以關注我們公眾號喔)