AI或用核戰毀滅人類!霍金再次發出警告,世界末日正在逼近

來源：華爾街見聞（ID：wallstreetcn）

前段時間熱播的科幻美劇《西部世界》大家看了嗎？劇中機器人覺醒、反叛，這或將在現實中發生，甚至情況還會更糟糕。

繼2015年9月拋出「人工智慧威脅論」之後，近日著名物理學家史蒂芬·霍金（Stephen Hawking）再次表達了他對人工智慧（AI）的擔憂：AI可能會通過核戰爭或生物戰爭讓人類滅亡。

AI可能摧毀人類，人類必須儘早防止威脅

人工智慧技術一直是霍金關注的重點。

霍金表示，世界的毀滅已經逼近，人類創造了可以毀滅世界的人工智慧，卻至今仍無能力可以避免這個災難。

自從人類文明形成以來，來自生存能力優勢群體的侵略就一直存在，而未來人工智慧進一步發展便可能具備這種優勢，它們可能會通過核戰爭或生物戰爭摧毀我們。

霍金認為，人類需要利用邏輯和理性去控制未來可能出現的威脅，必須建立有效機制儘早識別威脅所在，防止新科技（人工智慧）對人類帶來的威脅進一步上升。

霍金還就如何應對人工智慧的威脅給出了自己的建議。霍金認為，人類可以組成某種形式的「世界政府」來防範人工智慧可能帶來的威脅，但他同時認為「世界政府」本身也有問題，因為這樣一個政府可能會施行暴政。

世界末日逐步逼近，霍金多次做出預測

霍金一直對AI帶來的潛在挑戰表示擔憂。2015年9月，霍金在美國網站reddit的AMA（問我任何問題）專欄中談到，他擔心聰明能幹的AI會讓人類滅亡。霍金表示：

一個超級聰明的AI可以非常好地實現它的目標，如果這些目標都沒有與我們人類一致，我們人類就麻煩了。

2016年10月，霍金再次表示，人工智慧雖然能為人類消除難題或疾病，但也有可能成為凌駕於人腦的存在，甚至衍生出有自我意識的武器，就像電影《終結者》當中的情節一樣，過度進化的人工智慧會試圖反噬人類。

2016年11月，霍金還對地球末日做出過預測。他認為，按照目前人類活動的強度，地球的壽命只剩下1000年時間，屆時如果人類還沒有找到另一個移民星球的話，那麼將面臨毀滅命運。

AI潛在威脅受到越來越多科學家關注

近年來，隨著人工智慧技術蓬勃發展，其潛在的威脅受到越來越多科學家的關注。

英國牛津大學教授、人類未來研究所創始人Nick Bostrom表示：

我認為改善全球治理很有必要，不僅可應對AI帶來的危險挑戰，也可解決擺在我們面前的其他巨大挑戰。隨著世界不斷分化，我們在不斷開發出越來越強大的工具，我不確定人類是否能夠無限期生存下去。

對比霍金等人「人工智慧將威脅人類」的觀點，普林斯頓大學計算機科學教授Edward Felten更關注眼下人工智慧技術帶來的影響，他表示：

AI主要有兩個經濟風險：第一，工人具備的技能與未來工廠所需要的技能可能不匹配。第二，通過增加資本所有者和某些高級技工的回報，AI可能加劇經濟不平等性。

Edward Felten認為，計算機科學領域還不存在完美基礎，可以促使機器智能水平突然加速提高。上述問題可以通過調整公共政策解決，比如重新分配生產力。

轉載請回復 授權 查看須知，

不帶來源和二維碼一律舉報。

若覺得見聞君寫得不錯，

請點下面的或轉給朋友。