在今年的烏鎮第四屆世界網際網路大會上，很多網際網路大佬試圖打消人們對 AI 技術的恐懼，說技術公司們做的 AI 只是為了給人類提供更好的服務，AI 技術最終是要服務於大眾的。
關於人工智慧可能威脅人類的爭論一直沒有停止過，在小說及影視作品中表現的尤甚。早在1950年，美國作家艾薩克·阿西莫夫出版於1950年的科幻小說短篇集《我，機器人》，其中收錄9篇短篇小說。書中的短篇故事各自獨立，卻擁有共同的主題，探討人類與機器人間的道德問題。這些故事結合之後，開創出阿西莫夫的機器人浩翰的虛構歷史。
阿西莫夫還提出了「機器人三大法則」：一、機器人不得傷害人類，或袖手旁觀坐視人類受到傷害。二、除非違背第一法則，機器人必須服從人類的命令。三、在不違背第一法則及第二法則的情況下，機器人必須保護自己。
機器人的本質是以人工智慧為驅動的機器。在《終結者》和《我，機器人》中，電影給我們描繪了一幅人工智慧覺醒，人類被謀殺的場景。前段時間，谷歌的阿爾法狗在圍棋界大殺四方，阿爾法狗的升級版更是在只了解規則的情況下，自學三天對弈百萬次，結果比阿爾法狗強的非常多。讓人覺得，人類在圍棋方面是不是走入誤區，而升級狗則探究出了圍棋的本質。
除了人工智慧，在科幻小說作者筆下還有一種足以對人類造成威脅的技術--人造生命。
在2007年10月8日，美國科學家克雷格·文特爾表示，他目前已經在實驗室成功地製造出一個合成的人造染色體。2010年5月世界首個「人造生命」在美國誕生，人類的能力已經拓展到可以「操縱」自然界。
能和劉慈欣齊名的科幻作家--王晉康，用他的筆觸描寫過數次關於人造生命的科幻作品。
其中有能在數百度高溫下生存的納米級矽錫鈉生物，在王晉康筆下，這種納米生物可以自我複製，通過體膜同外界進行新陳代謝，以光為食物，體膜上有無數的光電轉換器，以電能驅動體內金屬肌肉進行運動。然而這種生命非常脆弱，只能生活在490度以上的金屬液裡，也並沒有什麼智能可言。原文有說：
「這種生命，和地球上的生命完全不同。它的死亡和繁衍更離奇呢。一隻變形蟲的壽命只有12～16天，在這段時期，它們蠕動、吞吃、長大，然後蜷成一團，使外殼硬化。在硬殼內的物質發生『爆滅』，重新組合成若干只小變形蟲。至於爆滅時生命信息如何向後代傳遞，沙女士去世前還未及弄清。」
也就是說，雖然「沙女士」創造了生命，但是生命進化的軌跡卻有自主性，這就不是人類能控制的了。
為了能讓這種生命存活，「沙女士」的繼任者開啟了「水星播種」計劃，將這種變形蟲播撒到適合他們生存的水星。計劃順利進行，直到千萬年後，變形蟲終於進化成人，並發展出自己獨特的語言與科學，在「地球人」的引導下，還發展出了宗教。
還有能將沙漠改造成能源供應地的沙漠蚯蚓。這種生物用「蚯蚓」來做它的綽號並不合適，它的身體很小，一個只有1毫米長。但由於它強大的自然複製功能——不要忘了，它在自然界沒有天敵，沒有疾病！——它在短短30年內就覆蓋並改造了7000平方公裡的沙漠，按地球表面平均年光照總量5900MJ/m2計算，相當於6億千瓦的巨型電廠！正因為如此，它們才得了「沙漠蚯蚓」這個褒稱。
這種沙漠蚯蚓也沒有什麼智能，卻在被創造200年之後和人類形成了割據狀態。
「這種習性的改變——把吸收光能和吞咽食物兩個過程分割開——並非錢老師的原始設計，而是它們自己進化出來的。從物理學的角度講，這種習性牽涉到兩段程序的改變：光能轉為電能之後的儲存，和電能的再釋放。這是『沙漠蚯蚓』在生物功能上的巨大進步。這次進化並非受我們的定向引導，我們所做的工作，只是用各種刺激劑來加速它們的進化。但究竟出現哪種進化，我們在事前並非心中有數。」
和上面的金屬變形蟲一樣，雖然人類創造了生命，卻不能掌控生命的進化方向。王晉康筆下的這兩種生命，一種生活在水星，一種活在地球，其實都是相同的內核，以光為食，自我複製，自我進化。
沙漠蚯蚓終於給人類造成了滅亡的危機。
綠色和蔚藍色區域裡生活著碳基生命，已經有近40億年（按當地紀年）歷史，有數目眾多的綠色植物和動物物種，其中創造第二級文明的物種是一種自稱「人類」的兩足直立動物。藍黑色區域則生活著矽基生命，只有不足300年歷史，處於非常初期的進化階段，比如，其內部尚沒有物種的分化，沒有「收割者」。這種矽基生命把所有的族群能量全部向外使用，用於拓展和佔領。這種策略簡單而有效，其結果是：在這種低級生命咄咄逼人的進攻中，陸地上相對高級的碳基生命已經潰不成軍。
矽基生命，或按人類的稱呼叫『沙漠蚯蚓』、沙蟲、撒旦蟲、黑禍等，只依賴陽光和矽原子就能繁衍，在這個陽光充足的富矽星球上可說是得天獨厚。被它們「活化」過的區域內，地貌全都改變了，無論是原來的沙漠、高山、耕地、水泥建築，都被翻新成藍黑色的礁狀堆積。有些地方尚殘存著高聳入雲的大樓，顯然是人類文明的遺存。大樓底部的表層部分已經被沙蟲們啃食了，變成了藍黑色的、有波狀同心圓的堡礁，而最上面的幾十層仍然保留著原來的景觀，稜角分明，色彩明亮。就像是一個個僅餘半體完好的巨人，令人不忍目睹。
能造成人類滅亡的到底是人工智慧，還是人造生命呢？這還真是難以想像。