來源：新京報
網際網路不斷進化，人工智慧迎來一波新浪潮。網際網路會變成天網嗎？人工智慧會超越人類嗎？
文 |劉鋒
《終結者》電影中，人工智慧發生突變，控制網際網路形成」天網」並開始摧毀世界。
另一部著名科幻電影《黑客帝國》則講述了一名年輕的網絡黑客尼奧發現看似正常的現實世界實際上是由一個名為「矩陣」的超級人工智慧系統設計和控制，這個超級版的」天網「不但控制了機器人，也控制了人類，讓人類大腦相連，生活在一個虛擬的但看似真實的世界裡。
▲《黑客帝國》海報
科幻預言的實現，崛起的超級智能
關於網際網路進化為「天網」的題材被很多科幻小說和電影題材以不同方式表現出來，成為人類一直揮之不去的夢魘。
科幻作品的意義在於可以跳過科技進步的天塹，直達可能的未來世界，如今人類興奮於人工智慧的興起，恐慌於人工智慧是否超越人類時，一個更為龐大和令人驚嘆的超級智能正在崛起，科幻成真的現實逐步到來。
人類群體智慧以雲群體智能的形式成為了網際網路的「右大腦」，設備的機器智能以雲機器智能的形式形成了網際網路「左大腦」。作為基於網際網路大腦架構形成的超級智能，它的未來會不會真的演變成「天網」、「矩陣」？這是一個值得思考和警惕的問題。
網際網路大腦能否演變為「天網」？
如果我們仔細觀察一下網際網路大腦的構成和運轉情況，就可以看出關鍵風險點主要集中在一個地方，「不斷發育成熟的網際網路運動神經系統」。
回想一下網際網路的發展歷程，在1969年到1990年的21年中，網際網路主要連接了科研機構、軍事機構和政府機構的計算機，人類通過網際網路進行科技軍事政治的信息分享與資料保存，這時的網際網路對現實世界的影響還很小。
1990年到2010年的20年中，隨著全球資訊網的確立，新聞、電子商務、社交網絡、博客、音樂、遊戲等網際網路應用蓬勃發展，數十億的人被連接到網際網路上。這時的網際網路對人類依然沒有值得警惕的危險性。
但變化還是在悄然發生，隨著網際網路線路的不斷升級，傳輸速率加快，21世紀以來，越來越多的攝像頭、聲音傳感器、溫度傳感器，溼度傳感器被連結到網際網路上，網際網路已經開始從虛擬世界的建設邁向與現實世界的關聯上。不過這時的網際網路對於現實世界依然是安靜和安全的。
危險的苗頭在2012年以後逐步顯現，隨著工業4.0、工業網際網路、無人汽車、3D列印、智能製造的興起，無數的智能汽車、無人機、工業機器人、家庭服務機器人、辦公設備被連入到網際網路上，網際網路大腦的運動神經系統開始加速發育了。
還記得《速度與激情8》中黑客通過網際網路控制數百臺無人汽車追逐並試圖殺害外交官嗎？這已經不再是科幻的想像。
英國《泰晤士報》2009年12月18日報導，伊斯蘭武裝分子使用廉價的網上黑客軟體，成功侵入美國中央情報局（CIA）的「捕食者」無人機攻擊系統。
儘管武裝分子目前仍無法使用黑客軟體遠程遙控「捕食者」無人機，但他們卻可以觀看無人機傳給美國控制中心的實時監控畫面。這個案例突出顯示了網際網路運動神經系統未來的安全風險問題。
▲《速度與激情8》海報
網際網路大腦的安全風險
從廣義上說，任何連結到網際網路上可以移動或對現實世界進行改造的設備都可看做是網際網路大腦的運動神經系統，當這個系統出現問題時，可以產生出無數令人不寒而慄的場景。
例如水庫的大壩閘門因為控制程序浮點數溢出，突然將閘門保持關閉改為迅速提升，從而導致大壩突然放水，造成下遊重大水災；還有就是被網際網路雲端控制的數千臺機器人由於控制它們的網際網路雲端AI程序出現BUG，導致混亂的運動和操作，對周圍的工人造成傷害。
更為嚴重的是，聯網的核武器被遠程的黑客控制或由於自身的程序錯誤，發生科幻小說裡「天網」做出發射攻擊行為。雖然這個事故不像「天網」那樣，是AI產生敵對意識導致，但其後果和影響是一樣的。
因此可以看出在今天的現實世界，網際網路大腦產生威脅人類安全的風險點，主要發生在網際網路運動神經系統的運行過程中，有兩種風險產生情況。
第一種是雲機器智能中的AI程序特別是AI巨型神經元程序出現BUG，導致的重大事故。上面談到大壩突然防水、工業機器人失控、核武器發射都屬於這一類。
第二種是黑客、野心家或者是沒有受過專業訓練的操作者對網際網路運動神經系統進行操作導致的重大災難，這是一種更為常見和更為嚴重的類型，包括我們前面提到的黑客攻擊醫院的醫療設備、敵方人員接管無人機、智慧機器人、航空器材等等。
對於這一類風險，如何區分哪些是破壞分子的角色，哪些是正常操作，在監控和防範上要更為複雜和困難。阻止敵對力量、破壞力量對網際網路運動系統的侵入和使用，將是人類未來持續博弈的過程。
網際網路大腦進化，人類參與和控制不可或缺
應該說這一輪的人工智慧熱潮本質上依然是網際網路進化過程中的又一次波浪式高潮。它的產生離不開網際網路之前應用和技術為人工智慧新爆發奠定的基礎。
不過這一次人工智慧浪潮具有與以往不同的特點，人工智慧和機器人不再是一個個單獨的個體，而是通過與網際網路的大數據、社交網絡、雲計算結合，形成了網際網路的大腦模型。
這個類大腦架構不但擁有更為豐富的知識，更為強大的計算能力；而且還深入到人類生活的方方面面，譬如路邊的攝像頭、家庭的服務機器人、每日陪伴我們的手機等。
面對這個龐大的超級智能，單個的人產生了巨大的壓力感和無力感，也許這是今天人們擔心網際網路變成天網，人工智慧超越甚至控制人類的根本原因。
從網際網路大腦模型的形成可以看出網際網路進化的動力源泉主要來自人類的群體智慧和機器的雲端智慧，與「天網」、「黑客帝國」不同的是，離開了人的參與，網際網路的左大腦-機器雲端智慧並不具備獨立的智慧和進化能力，它將會逐步枯萎。
而網際網路的右大腦-人類群體智慧是驅動網際網路前進的核心動力。人保持自己的主動性和能動性，是網際網路大腦的關鍵組成部分，而不是受控於網際網路大腦的奴隸。
網際網路雖然在形態上形成類腦巨系統結構，但它依然是人類參與和控制的系統，它就是人類自己的延伸，是人類社會的一部分，因此，科幻電影中」天網」、「矩陣」、「奧創」與人類的對抗，在現實中歸根結底依然是人類之間的鬥爭。
□劉鋒（計算機博士）
編輯：範娜娜 實習生：龍江蘭 校對：李立軍