將來什麼東西的出現比核武器還可怕
原子彈的核爆威力非常可怕。人類應用於實戰的原子彈，第一顆丟在廣島，第二顆丟在長崎，一下就把這兩個城市完全炸沒了，而且還把打算在本土負隅頑抗到底的日本徹底炸投降了。但那時的原子彈爆炸僅只有兩萬噸TNT當量。所以，當爆炸當量達到千萬噸級TNT的現代核武器源源不斷地生產以後，整個人類便開始真正面臨滅亡的威脅了。但核武器再怎麼厲害，它的研發製造和使用還是始終受制於人類的意志。可當未來先進的「人工智慧」系統完全成形以後，可以預見人類將徹底失去主宰自己命運的機會。
這應該讓人感到太意外了，亦完全違背了人類製造「人工智慧」的初衷。但事實終將會是這樣。
人類的智能創造之所以會意想不到地形成這樣的局面，首先，先進的人工智慧威力可以非常強大，人類力量與之無法匹敵。一個已經可見的例子是，出自私人公司之手的深藍機器人能夠打敗全人類所有的圍棋高手，達到孤獨求敗而不能的境界。
與人類集體對決，先進人工智慧之所以能夠穩操勝券，原因在於任何人類個體都始終不過是兩個人類個體（父母）天然結合力量的體現，而人工智慧卻可以集全球或全國智慧之大成，一代又一代地無限升級下去。
其次，高級人工智慧系統不會完全聽命於人類。人類製造人工智慧最初目的是要通過對人工智慧的利用，使人類得到勞動的解放。但人類要達到這樣的目的，必要的前提是人工智慧完全聽命於人類，使人類能夠成為它的主人。可人類所正在努力實現創造的高級人工智慧卻是一種具有自我獨立思維能力的智慧系統，這意味有時它會無視人類的指令，我行我素，後果難料。這樣一幕的發生其實並不遙遠。西蒙是一款於2018年被美國人送上國際空間站，本是用來陪伴太空人解悶的機器人。在眾目睽睽的直播畫面中，可以看見當太空人叫它播放音樂，它照辦了，但當太空人叫它關掉音樂的時候，在長達十多秒的時間裡，聽明了指令的機器人卻與發出命令的太空人僵持不下，因為它還沉浸在美妙的音樂之中而戀戀不捨。
可以想像，一旦高級人工智慧系統不聽話卻又偏偏比人類力量強大的時候，我們人類在自己的星球將註定在劫難逃。
萬幸的是，任何能夠脫離人類控制的人工智慧在現實生活中目前還沒有出現。但是，人類的貪婪和無知，卻正在促使這種看起來使人類遭遇更多辛勞卻能夠保證全人類安全的局面可能一去不復返，這應該引起人類足夠的重視。