美國人喬治·德沃爾在1954年造出世界上第一臺可編程的機器人之後，就時而有人出來發布未來機器人會在能力上超越人類並最終取代人類的警告，只是此類「取代警告」或者出自科幻作家的想像，或者屬於個別學者的單純預言，缺乏說理。事實也是如此，那時計算機論域中與人相關的討論，還聚焦在電腦或人工智慧是否會有類似於人的意識或智能的問題上。而絕大多數學者對此問題的回答，還都是否定性的觀點。
可是近些年的情況明顯不同。一個不同是，發出「取代警告」的人已經不是科幻作家與個別學者，而是變成許多專家，其中就有當今世界著名的科學家和技術家。如著名的物理學家霍金曾警告：「人類由於受到緩慢的生物進化的限制，無法與機器競爭，並會被取代，全人工智慧的發展可能導致人類的終結。」馬斯克則是著名的技術家，他也將人工智慧說成人類「最大的生存威脅」，並將發展人工智慧比喻成「召喚惡魔」。另一個不同是，此時的「取代警告」已經有了理論論證以及某種程度的事實佐證和可感受性。尤其是當人們發現戰勝人類圍棋世界冠軍的智能機器阿爾法狗居然會自己學習時，就不得不在驚嘆之餘，相信人工智慧還會有越來越快速的發展和越來越令人驚詫的表現。正是在這樣的背景下，關於未來的機器人是否將取代人類的討論就空前熱火地在學界展開了，眾多學者紛紛參與，各抒己見。
這個「取代警告」之所以能成為令眾人矚目的熱點問題，在於對此問題的不同回答將決定人類社會對人工智慧技術的發展將會採取不同的態度和制度安排：要麼是積極推動，要麼是有所限制。此外，不同的回答還意味著我們能據此判斷，現在，除了「取代警告」之外的那些關於人工智慧問題的討論，其中哪些問題是有意義的？哪些問題由於不會出現而是沒有意義的？比如，如果未來不存在機器人超越和取代人類的可能，我們就沒有必要繼續研究以這種「可能性」為前提的人工智慧問題。因此，關於「取代警告」的討論不僅必要和重要，而且還應儘早形成共識性的明確結論。
那麼，這個明確結論會是什麼樣的觀點，這就需要對討論中已有的各種觀點進行全面的分析評價，再做最後判定。
目前學界討論「取代警告」的學者，主要是科學家和哲學家，他們對此問題形成兩種截然相反的回答，一種是給出肯定回答的「取代論」，即人工智慧將來會超越人類並取代人類，成為地球新主宰；另一種是給出否定回答的「否取代論」，即人工智慧永遠也不可能超越人類和取代人類。
以下先對這兩種回答分別進行考察，再逐步形成最終結論。
一、取代論
霍金、馬斯克等發出「取代警告」的理論依據，是這些年盛行於人工智慧學界的AI（人工智慧）技術發展目標理論和AI技術奇點理論。
（一）AI技術發展目標理論
AI技術發展目標理論是經20世紀中葉的L.G.古德到現在的尼克·博斯特羅姆等一眾科學家的論述而形成的理論。他們將AI技術的發展分為弱人工智慧、強人工智慧和超級人工智慧三個階段，並將超級人工智慧作為AI技術發展的終極目標。時下已有的智能機，不論是非人形的智能機，還是人形智能機即智慧機器人，如美國的阿爾法狗、埃及的索菲亞、日本的Shibuya Mirai，都還屬於第一階段的弱人工智慧，是基本上只能完成一個單純任務的專用智能機。第二階段的通用人工智慧屬於強人工智慧，能擁有像人一樣的能力，可以通過學習勝任人的任何工作，只是沒有創造能力和自主意識。第三階段的超級人工智慧更勝一籌，不僅具備人類的創造能力和自主意識，而且還比人類的所有能力都更為強大，可謂超人人工智慧。古德在1956年首次提出超級人工智慧設想的論文中說：「一臺超級智能機器可以定義為是一臺在所有智能活動上都遠超人類——不管人有多聰明——的機器。由於機器設計屬於這些智能活動的一種，那麼一臺超級智能機器當然能夠設計更出色的機器，那麼毫無疑問會出現一場『智能爆炸』，把人的智力遠遠拋在後面。因此，第一臺超級智能機器也就成為人類做出的最後的發明了——前提是這臺機器足夠聽話且願意告訴我們怎樣控制它。」而用博斯特羅姆的話說就是：「完全成熟的超級智能能夠出色完成智能升級、戰略策劃、社會操縱、黑客技術、技術研發、經濟生產等任務，這也是為什麼科學家會認為超級智能將控制人類」。
與當年古德對超級人工智慧只有設想不同，現在已經有了各種實現路徑，它們來自諸多專家的不同構思和論述，大體可概括為如下六條。
第一條路徑是全腦仿真或人腦複製。它直接通過掃描人的大腦，將掃描得到的原始數據輸入計算機，然後在一個足夠強大的計算機系統中輸出神經計算結構，造出仿人腦的電腦。
第二條路徑是提升複雜度。博斯特羅姆在《超級智能》中指出，「我們之所以能控制地球，是因為我們的大腦比即使最聰明的動物的大腦都要複雜得多」。據此，只要設法讓電腦的「神經元」也足夠多，電腦的系統也足夠複雜時，電腦就能達到乃至超越人腦的意識。
第三條路徑是功能模仿。此路徑的提出者認為，人體有11種系統功能，每個系統的最底層都是微處理器，因而只要模仿這11種系統功能來建造人工智慧系統並將它們合在一起，就可以使智慧機器人達到人類智能的水平，繼而，就可以實現超越。對人工智慧發展有重大貢獻的馬文·明斯基說：「如果我們能製造一個和人一樣聰明的機器人，那我們也就可以製造一個比人更聰明的機器人。」
第四條路徑是機器與生物相結合。其要旨是將人體基因或仿人體基因植入機器人，使機器人不僅有比人更強大的邏輯思維運算能力，而且也有欲望、情感和非邏輯思維的智慧。比如有位韓國科學家就正在研究如何將人造染色體賦予機器人，使之也有性慾。
第五條路徑屬於本質性建構。這就是「學習胡塞爾的『想像力自由變更』的辦法，對『智能』的本質進行直觀剖析。……該辦法的具體操作步驟便是：對各種可能的智能類型進行展列，並由此為出發點對各種可能的智能形式進行想像，最終剔除關於智能的偶然性成分，找到智能的本質性要素」，從而用它製造超級人工智慧。
第六條路徑是製造以量子計算為基礎的人工智慧。隨著量子力學的發展及其對量子特性了解的增多，許多著名科學家都「提出了人類意識的量子假設」，猜測「人類智能的底層機理就是量子效應」。於是有人認為，「以量子計算為基礎的人工智慧」可以成為超越人類能力的人工智慧，這種超級人工智慧會成為取代人類的「後人類」。
（二）AI技術奇點理論
AI技術奇點理論是享譽世界的美國發明家和未來學家雷·庫茲韋爾提出的，他在2005年出版的《奇點臨近》一書中，預言人工智慧將在2045年超過人類智能，而這一刻，就是AI技術的「奇點」。奇點預言的根據，是庫茲韋爾本人受啟發於摩爾定律所歸納出的「加速回報定律」。摩爾定律是指半導體晶片上集成的電晶體和電阻數量將每兩年增加一倍，加速回報定律是指「對技術史的分析表明，技術變革是指數性的，與常識性的『直覺的線性觀』相反。所以我們在21世紀將不會經歷100年的進步——它將更像是2萬年的進步（以今天的速度）」。正因如此，「幾十年內，機器智能將超越人類智能，並導致技術奇點的來臨」。由於庫茲韋爾以往的多種科技預言都足夠靈驗，尤其是他依據「加速回報定律」對人類基因組計劃的完成時間為7年的預測，雖然與當時所有人預計的時間至少都要少一半以上（該研究項目計劃用15年完成，對此很多人還是認為根本不可能），但最終的實際完成時間證明他的預言是準確的，所以他的AI技術奇點理論一經提出，也得到學界很多人的廣泛認同，乃至可以開辦奇點大學，廣招天下學員。
「取代論」除了從正面用超級人工智慧理論和AI技術奇點為自己立論外，有時也從反面通過對已經存在或可能的挑戰觀點進行預防性反駁。一個反駁針對的是「機器人作為無機物構成，不可能超過有機物」的觀點。其駁辭是：「然而沒有人能夠證明思想一定和身體有關。就信息處理和數據輸出獲取而言，機器人比人腦有更多的優越性」 。一個反駁針對的觀點是：模擬者怎麼會超越被模擬者？人工智慧怎麼會超越被模擬的人類？其駁辭是：「沒有任何一條定理證明被創造的東西不能超過造物主，現實生活中反而有很多相反的例子，比如孩子比父母聰明，就非常典型」。
二、否取代論
否認未來的機器人將取代人類的學者似乎更多，他們中既有科學家，也有哲學家，偶有作家。由他們所分別給出的否定性論述也相當多，最終均可概括為以下三個方面的論述。
第一方面的否證可謂技術性論證。這就是從技術的維度出發，證明人工智慧不可能超越人類智能。這類證明又有四種，基本上都是由人工智慧專家做出的。
其一是對AI技術奇點論的否定。對其否定的依據有三個理由。第一個理由是奇點論者「忽略了十分重要的一點：計算速度的提升並不等同於智能的提升」。因為智能的提升要靠深度學習的算法的改進來實現，而計算速度的提升則「只是硬體提升和數據量增大帶來的規模效應」。雖然「基於深度學習算法的人工智慧系統在近些年取得了令人矚目的成就」，但這只是技術應用的成就，並不是深度學習算法本身的提升，更不是什麼指數級的提升。第二個理由是經驗表明，「各種類型的人工智慧系統在數十年來的實際發展中都經歷著收益遞減的過程。在研究初期，人工智慧系統通常可以快速提升，甚至在某些時刻超越技術奇點理論所設想的指數增長速度，但隨著完善度和複雜度的增加，人工智慧系統往往會遭遇各類難以改進或跨越的瓶頸，導致無法維持固定的改進速率」。簡單說，人工智慧越是往上發展，需要解決的問題就越多、越複雜、越困難，這就導致研究投入的收益率也越來越低。第三個理由是奇點論者認為，「遞歸自我改進系統是實現技術奇點的有效途徑」，這裡不僅有硬體方面的困難，而且「遞歸自我改進系統在自我指涉方面也存在著嚴峻的挑戰」。這就是，系統複雜程度的不斷提升，將導致理解自身所需要的智能也不斷提升。於是，要想使智能機器有一點兒智能提升，就得先有最高級的自我理解能力系統來適應，這說明人工智慧的遞歸自我改進效率受到自我理解能力的限制，不會有高速度的改進。
其二是對超級人工智慧的否定。該觀點認為人工智慧將來無論怎麼發展，都不可能實現超級人工智慧。首先，智能機器總是在人所嚴格規定的範圍工作，不會做人沒要它做的事。著名的機器人設計師亞瑟·塞繆爾就說:「機器不能輸出任何未經輸入的東西」，「所謂『結論』只不過是輸入程序和輸入數據的邏輯結果。」其次，人工智慧的升級能力也在人設定的程序之內。智能機器的升級能力只能在軟體即人給定的範圍之內。美國辛辛那提大學智能維護中心主任李傑也指出，人工智慧的確有學習能力，但那屬於程式裡的學習，不會跳到程式之外，人工智慧只能在指定領域升級。「不要忘了，人工智慧裡都有一個核心東西叫軟體，軟體不會自己思考，一定是人編程的。」
其三是對人工智慧基礎理論的質疑。根據學界公認的「哥德爾不完全性定理」，「證明任何無矛盾的公理體系，只要包含初等算術的陳述，就必定存在一個不可判定的命題，即一個系統漏洞，一顆永遠有效的定時炸彈」。因而以二進位為公理的電腦邏輯運算系統也必然存在這樣的漏洞。正是基於這一點，牛津大學的哲學家盧卡斯（Colin Lucas）確信：「根據哥德爾不完全性定理，機器人不可能具有人類心智」。
其四是提出人類以腦機融合的方式防止被取代。這個想法的思路是，如果將來的超級人工智慧真能全面超越人類智能，那就不妨讓人腦與人工智慧結合，比如在人腦中植入晶片，使人腦也能接受無線傳輸的大數據，擁有雲腦，也能進行雲計算和深度學習，等等，這就至少可以做到讓人和超級人工智慧一樣強大，於是也就不會被機器人取代。現在這個設想已經被一些科技專家付諸研究，其中就包括發出「取代警告」的技術大家馬斯克。
第二方面的否證可謂差異性論證，就是通過分析比較智慧機器人與人之間的不同來說明機器人不能超越和取代人類。這些被論及的不同，可以分別命名為意識性差異、價值性差異、社會性差異和結構性差異。
意識性差異是指智慧機器人在意識方面與人類相比，缺少了許多東西。因為智能只是意識的一種表現形式，其本質是邏輯思維的運算，但人的意識無比豐富。從思維方式說，人的意識不僅有邏輯思維，還有抽象思維、形象思維、直覺思維和靈感思維。這些思維形式與邏輯思維截然不同，是非邏輯的，根本不能通過編程或邏輯運算實現。從自主性說，人有自主意識，機器人沒有，甚至連自我意識都沒有，它是被人造出來為人服務的，機器人「永遠無法擺脫作為人類工具的命運」。「人工智慧可以模擬人類心靈的很多重要特徵，比如自主性，但這僅僅是模仿，因為自主性概念本質上是排斥模仿的」。從能力上說，機器人只有計算能力，而人還有想像力和創造力，它們是人類智能的最大優勢，「人類利用這類能力能夠想像並且創造出自然界中不存在的東西」。從基本分類說，人既有理性意識，也有非理性意識，如潛意識、欲望、情感等，而機器人則沒有非理性意識。除以上差異之外，還有一類被作家韓少功注意到了的意識性差異，這就是「人必有健忘，但電腦沒法健忘；人經常糊塗，但電腦沒法糊塗;人可以不講理，但電腦沒法不講理——即不能非邏輯、非程式、非確定性的工作」。而其中的「可以不講理」，意味著人有「同步利用『錯誤』和兼容『悖謬』的能力，把各種矛盾信息不由分說一鍋煮的能力」。這種能力「有『大智若愚』之效，還是只能讓機器人蒙圈」。綜上可知，人工智慧與人的意識的差異，就是前者局部超越後者，前者整體不及後者的狀況。
價值性差異是指人機在價值知識上存在差異，它包含兩個層面的意思。首先，機器人存在做什麼和不做什麼的情況，這一情況意味著它的行動總要遵循某種價值原則。而這種價值原則「是要由人來設定的。而人給機器人設定怎樣的價值體系，實際來自人對人類自己價值體系的理解和貫徹。這個事實表明，機器人沒有自主性，人機仍是主從關係。其次，無論是設計發展人工智慧，還是對人工智慧的實際運用，都面臨價值難題。「一旦涉及價值觀，機器人其實一直力不從心」。比如當事故難以避免，需要兩害相權取其輕的時候，「肯定要讓機器人蒙圈」。而這種價值難題之所以能困擾智慧機器人的發展和應用，就是因為「人類這個大林子裡什麼鳥都有，什麼鳥都形跡多端，很難有一定之規」。易言之，人類的價值觀是多元的，沒有統一性，也就不能確定該給機器人灌輸什麼樣的價值觀。
社會性差異是指從社會的角度考察人機差異，它也有兩個層面的含義。一層含義是說，儘管機器人的硬體系統可以「相當於人的肉體」，軟體系統可以「相當於人的思維體系」，但是人在社會歷史中形成的「人的社會現實性，即人的歷史文化本性」，「是不可能以機械的方式重複和再現的」，它「將成為根本的、很可能是無法超越的技術瓶頸和價值悖論。這是『機器人難題』的核心和實質」 。所以「人工智慧不具有人的思維的社會性」。另一層含義是說，「人是社會性動物，個人的智能是有限的，個人的生命也是有限的，但人類群體和整體的智能有巨大的加和效應，這種效應正常發揮出來是任何個人的智能無法比擬的。而且人類智能以及作為其基礎的知識可以一代又一代的延續、傳承下去。與之不同，機器人作為機器，不具有社會性、群體性，它總是單獨的、孤立的個體，即使用程序將它們聯結起來，它們不可能在程序之外隨意與同伴合作。它們之間的簡單合作只會有簡單相加效應，似乎不可能產生加和效應。機器人不具有生殖功能，其智能當然也不可能一代一代傳下去，更無所謂不斷地進化發展。沒有社會性，這也是機器人不可能取代人類、超越人類的根本性局限」。
結構性差異是指人與機器人的內在結構不一樣，智慧機器人沒有人的結構。「人工智慧雖然能夠模擬出人的動作、人的表情、人的聲音，甚至能夠精確地展示出人的情感，但這些都不能表明人工智慧能夠成為人。核心原因只有一個，人工智慧沒有人的『結構』，而結構決定著意識和本質屬性」。具體說來，人體是一個極為複雜的性能完善的多級結構的巨大系統，「機器人無法擁有人類的系統結構、器官結構、細胞結構、基因結構，乃至終極的碳基分子結構。人工智慧只能通過不斷模擬逼近人類結構，或者演化成為一個全新的生命形態，但永遠不可能成為人類」。
第三方面的否證可謂「超而不代」的論述。該論述雖然承認未來的機器人在能力上會超越人類，但不會取代人類：「超級智能時代的機器人一定會具有非常高的智能水平，在很多方面也一定會超過人類，但是，機器人智能發展的總體趨勢是與人類愈加接近、親近，而不是對抗，更不可能取代或淘汰人類。自然界之所以擁有200多萬個物種，正是因為大多數物種並不會取代老物種，它們寧願與現有的生物體交織起來，擠進小生境之間，以其他物種的成就為基礎」。因此，「人類不會被顛覆，反而會變成類似基礎設施的存在」。
三、評析
經過梳理取代論與否取代論的論述可知，在取代問題上，這兩種相互反對的觀點都各有許多道理及理由，這似乎意味著爭鳴雙方是旗鼓相當、勝負難分的。但據筆者評析，則是否取代論明顯處於下風。因為儘管取代論的理論中含有假說的成分，可否取代論對取代論的所有否證卻仍是無效的，所以，不管取代論的立論究竟如何，否取代論都是落敗的狀況。
先看否取代論的技術性論證中的四種論述。
第一種論述是對AI技術奇點論的否定，但從該否定論述所依據的三個理由（即計算速度的提升不等於智能的提升、人工智慧的研發存在收益遞減的情況、人工智慧的遞歸自我改進效率受到自我理解能力的限制）看，它們所否定的，實際上都只是奇點到來的速度絕不會像庫茲韋爾設想的那麼快，而不是它不可能出現。既然奇點未被否定，這就意味否取代論沒有否認在未來的某個時刻，人工智慧還是「會出現一場『智能爆炸』，把人的智力遠遠拋在後面」。
在技術性論證中，第二種論述是對超級人工智慧的否定，所依據的理由是智慧機器人總是按照人的要求做事，人工智慧的升級也只能在人的軟體編程之內。這兩個理由，在AI技術還沒有發展出超級人工智慧之前，都是可以成立的，可是一旦發展出超級人工智慧就不再成立，因為超級人工智慧已經被定義為「一臺在所有智能活動上都遠超人類」的機器。這就是說，否取代論在這裡不能用現在的弱人工智慧的局限性去證明未來的超級人工智慧也超越不了人類。
在技術性論證中，第三種論述是根據「哥德爾不完全性定理」，推論人工智慧的理論基礎即邏輯運算系統也會存在系統漏洞，成為「一顆永遠有效的定時炸彈」，但它並沒有具體說明，這個系統漏洞究竟會是怎樣的漏洞？究竟會在何時爆炸？又會給人工智慧技術的發展帶來什麼樣的危害？更沒說明，這個系統漏洞的存在，與否定取代論有什麼必然性關聯？如果漏洞就是機不如人的證據，那麼，人類就是無比完美，沒有任何軟肋、短板和缺點的嗎？
技術性論證的最後一種論述，是設想以腦機融合的方式防止人類被超級智慧機器人取代。且不說腦機融合能否成真，也不說這種融合是否會對人腦造成損傷，只要承認未來智慧機器人的機腦會實現對人腦的超越，那麼，讓一個不如機腦的人腦去和機腦結合的結果還是趕不上機腦，這就類似於任何負數加1，最後都是小於1而不是大於1。因此，實現腦機融合後的人腦，最多也只能是縮小人腦與機腦的差距，最終還是避免不了被機腦超越的命運。因為既然全面超越人腦的超級人工智慧完全是以物理性物質的電腦為基礎實現的，那麼以生物性物質為主構的腦機融合後的人腦就產生不了同樣的功能。即便是以物理性物質為主構的腦機融合也仍會存在差距，而且這樣的大腦應該也不再屬於人腦。這就說明，無論怎樣進行腦機融合都防止不了機腦（機器人之腦）對人腦的超越和超級智慧機器人對人類的取代。
再看否取代論的四種差異性論證，也同樣難稱有效。
就意識性差異論證來說，它存在兩個不足。其一是它基本上是根據現在的人工智慧水平即弱人工智慧的狀況來說明智慧機器人與人類在意識方面存在的各種差異，但有誰說過弱人工智慧就能超越人類？取代論分明說的是超級人工智慧。而超級人工智慧之所以能超越人類意識，則在於它還被規定為不僅具有自主性，而且也擁有了以往只有人類智能才有的能體現人類「最大優勢」的創造力，並且，由於還有深度學習、網際網路、大數據和雲計算的支持，超級人工智慧的創造力還會比人類更強。其二是意識性差異論證雖然指出了一些人工智慧在意識上有少於人類意識的東西，即情感、潛意識、健忘、犯糊塗和兼容悖論等，而且這種差異即便到超級人工智慧時代也可能仍然存在，卻沒有說明為何有這些意識性差異的存在就意味超級人工智慧不能超越人類？尤其是健忘、犯糊塗和兼容悖論，未必會比不健忘、不犯糊塗和不自相矛盾更厲害？人類頂級棋手贏不了阿爾法狗，不就是因為其記憶力、計算力和精準性都不如對手嗎？
就價值性差異論證來說，也有兩個問題：一是即便未來的超級智慧機器人的行動價值原則還是由人來設定的，也並不意味著它就不能超越和取代人類，因為阿爾法狗的行棋價值原則也是由人給定的，而且與人類棋手的行棋價值原則是一樣的，結果它還不是戰勝了人類棋手？如此，以後在不作身份限制的世界頂級圍棋比賽中，自然也不會再有人類棋手的事了。更何況有了自主性和創造力的智慧機器人，難道就不可能再給自己創立價值原則嗎？須知，人的價值觀也不是一成不變的。二是把人工智慧遇到價值難題會「蒙圈」說成是人工智慧的「力不從心」是不對的，因為這分明是人類自己都沒解決的問題，所以才不知該在這方面怎樣設計人工智慧。而人類之所以受困於此，根本原因的確是人類的價值觀的多元化。
就社會性差異論證來說，同樣不能成立。人的「社會現實性」或「歷史文化本性」並不是生而有之的，而是在後天的社會實踐中形成的。既然如此，有自主行動能力的未來機器人為何就不能擁有？難道它就不能在社會中進行自己的實踐嗎？顯然不是。此外，由於人的歷史文化本性不過是後天實踐經驗和文化學習的結晶，這就可說，在這個事情上超級智慧機器人只會比人更有優勢。因為它是一誕生就有自主行動能力，而不需要一個成長的過程，並且也是一誕生就擁有了包含在大數據中的海量的歷史文化知識。既然超級智慧機器人有這樣明顯的優勢，那它就勢必比任何一個自然人甚或是自然人的最高天才都更聰明，於是所謂的「人類整體的智能加和效應」也趕不上它。這就是說，機器人不用聯合起來就可以超越人類整體的智能，何況有自主行動能力並且更聰明的機器人為何就不能聯合起來？至於機器人「不具有生殖功能，其智能當然也不可能一代一代傳下去」，這也不是機器人的劣勢所在，因為機器人不是肉身，是被認為可以永生不死的，這就比生命有限的肉身人類有優勢。因此，無論是從以上哪種意義說社會性，都不能證明未來機器人不會超越人類。
就結構性差異論證來說，它的問題是，雖然其關於「人工智慧沒有人的『結構』，而結構決定著意識和本質屬性」的觀點是對的，也符合現在的實情，並且由此思考問題的方向也是對的，但僅此還不夠，它最多只說明了機器人目前的結構與人的不一樣，還沒有說明一種結構比另一種結構優越的因素是什麼？這就無法從道理上保證未來的智慧機器人也永遠不可能有人的結構或比人更優越的結構，何況就是目前結構的智慧機器人也不是一切不如人，除了它的超強計算能力已經遠超人類外，而且還有不死的身體。因而此差異論證最多只能說明機器人的結構和本質屬性與人的結構和本質屬性不一樣，而不能用來作為機器人不可能超越人類的證據。因為有這種不一樣，也可能形成的是恰恰是機器人超越人類的結果，如非肉身的機器人相比肉身的人類，就具有永生不死的優勢。
最後來看否取代論的「超而不代」論述。這個論述混淆了一個概念，即將 「取代人類」等同於「淘汰人類」或「毀滅人類」，但實際上，前者是指使人類失去主宰地球的地位，後者是指使人類滅亡。有此區分之後，可以承認，如將來真有超越人類的機器人，它們是有可能不毀滅人類，但一定會取代人類，成為地球的新主宰。因為最聰明的存在者不會容忍比其笨的存在者來管理自己和地球。而人類一直以來能成為地球的主宰，還不是因為人類比其他所有存在者都聰明？所以當機器人超越人類，變得比人還聰明之後，人類最好的結局也只能是充當世界的「基礎設施」，而不會仍然是「上層建築」。
或許正因為否取代論的三類論證都說理不力，完全不能讓人信服，所以現在的狀況是多數學者包括諸多知名學者，都相信了取代論的觀點，並且其中一些學者已經將這種相信作為前提，開始思考在它之後的問題。有的著手研究如何防範機器人反叛人類的問題，還成立了專門的研究機構；有的開展了如何與超人機器人相處的問題研究；有的則是想出了可以寬慰已知自己終結命運的人類的說辭，即「承認他們（指機器人）是我們自己進化了的後代，人類進入了一種改變了繁殖方式的發展新階段。後代取代前輩繼續生存，實現更好的發展，這不是人類的災難，而是人類的進化飛躍到了一個新階段」；還有人提出，其實還不等機器人來淘汰人類，人類就可能因為太過安逸地無所事事而死於「人工智慧創造的一切好事」。
四、我見
儘管否取代論的論證都是無效的，卻並不意味著取代論就是正確的。因為只要否取代論還能提供新的論證，或者取代論還沒確證未來機器人將取代人類的必然性，取代論就還是存在被否定的可能。取代論目前的情況正是這樣，由於自身仍存在不少假說的成分，所以並未確證「取代」的必然性。
無需多言，未來機器人若想取代人類，必須先超越人類，而要超越人類，不僅先得是有自主意識和獨立行動能力的主體，而且還必須具有比人類更強的創造力，至於是否具有人類的其他意識能力則都不是「超越」的決定性因素。能無中生有的創造力是最高的智慧，因而如果未來機器人的創造力比人類強大，就意味著未來機器人也比人類更智慧、更聰明。但恰恰在未來機器人何以也能擁有創造力這一點上，取代論語焉不詳。
取代論宣稱超級人工智慧會擁有創造力，並提出了實現超級人工智慧的多種路徑。而這裡可以確證，人工智慧無論如何發展，無論是走什麼路徑，都永遠創造不出有創造力的機器人。
人工智慧要想發展出創造力，必須先搞清楚人腦如何會有創造力的機理，而目前是連人腦的許多基本情況都沒弄清楚，又遑論能模仿人腦造出有創造力的機腦？並且，即便將來會有弄清楚的那一天，也還是無法使機器人具有創造力。
不同種類的實體必有不同的性能，這應該是一個普遍真理。因為在該真理的證偽性方面，不會有任何人能找到一個這樣的反例：兩個不同種類的實體，竟有完全相同的性能。不同的實體之所以會有不同的性能，在於它們或是質料不同，或是結構不同，或是形態不同，當然也可以是兼而有之。質料不同如礦石的化學成分不同，決定了有的具有可燃性，有的則沒有；結構不同如建築物因整體結構不同而有了不同的用途，有的成為民宅，有的成為廠房……；形態不同如鋼筋和鋼刀雖材質相同，仍因形態不同而用途不同。而機腦與人腦相比，就是這三種不同全部都有。從質料說，機腦的質料是物理性的電子元件，而人腦的質料是生物性的細胞。從結構說，電腦是平行結構，主要由電源、主板、CPU、硬碟、內存、數據機、軟碟機等構成，而人腦則是立體結構，人腦由腦幹、小腦和前腦三大部分構成。腦幹處於底層，又有延髓、腦橋、中腦和網絡系統這四個部分的構造；前腦處於高層，也有四個部分的構造，即視丘、下視丘、邊緣系統和大腦皮層；小腦處於中間層，由左右兩個半球構成。從形態說，電腦是機箱中的板上樓盤狀硬物體，人腦是顱骨中的球形瑪瑙狀軟物體。正因機腦與人腦在質料、結構和形態上都存在差異，所以機腦再怎麼設計、發展，都不可能具有人腦的所有性能。
而人腦的創造力就必然屬於機腦所不可能具有的性能之一。因為機腦無論是現在的狀況還是設想出的未來理想狀況，都是以計算為基礎功能的智能。計算是對已有信息或數據的處理，屬於「有中推有」的邏輯思維，而創造則屬於「無中生有」的非邏輯思維，是以想像為前提，先想像出世上尚未有的東西，再設法採用具體手段將它造出來。因此，機腦的計算能力再怎麼強大，人工智慧再怎麼提升，都形成不了創造力，而且也形成不了人腦的所有非理性意識。
人工智慧的提升，從方法上說無非兩類：一類是系統模仿的方法，一類是還原構造的方法。系統模仿就是通過從整體上模仿人腦來使人工智慧具有人腦的所有功能，前述取代論實現超級人工智慧的六條路徑的前四條，即全腦仿真、提升複雜度、功能模仿和機器與生物相結合就屬於這個方法；而後兩條路徑即本質性構造和量子計算則屬於還原構造的方法，此法是意欲通過發現智能的本質來構造具有所有意識功能的人工智慧。
可是，由於系統模仿方法的四條路徑都是以計算的方式體現模仿，就不可能模仿出非計算的創造力，而且，不管今後還會有何種系統模仿人腦的方式，只要機腦所採用的建造質料與人腦的不一樣，二者也就不可能有同樣的結構和形態，於是也不可能模仿出人腦的所有功能。除非是機腦全部用人腦的質料來模仿人腦的結構和形態進行構造，才有這種可能，可是這樣構造出的東西仍是人腦而不是機腦。
與之同理，還原構造的方法也不可能成功。因為我們即便是發現了智能的本質，但只要沒用人腦的質料來構造機腦，機腦就還是不可能有人腦的結構和形態，因而也就不可能使按照智能的本質製造的機腦具有人類的所有智能，此其一。其二，所有昆蟲、動物都有一般的智能而無特殊的智能即自我意識和創造力等，表明掌握了智能的本質不過是知道了各種具體智能的最一般的規定性而已，僅此並不足以造出智能的最高形態。量子計算路徑實際上也屬於本質還原。它認為在量子層面，物質與意識已經不分彼此，量子既是物質也是意識，因而人類智能的底層機理就是量子效應，於是以量子計算為基礎的人工智慧就可以具有人腦的所有智能。可是，這個想法忽略了一個最基本的事實。這就是，所有的實體性存在者都可以被還原到量子層面，或者說都有自己的量子層面，然而為什麼卻不是所有種類的實體，比如水、泥沙、巖石、石油、草木等自然物和諸多人造實體都有意識？而在所有有意識的生命活動者中，為何又僅僅是人類才具有創造力，而昆蟲和動物則全都沒有？這就說明，所謂「人類智能的底層機理就是量子效應」的觀點是大錯特錯的。量子計算路徑根本行不通，還原構造的方法不可取。另外，還可以從「整體大於部分之和」的古老命題得到說明。因為整體作為一個系統，不僅僅是所有構成因子的集合，還包括了這些構成因子之間的相互作用，而還原構造由於省略了這些相互作用，也就再造不出同樣有這些相互作用的系統。由此推廣，其他形式的還原構造方法，如分子計算、光子計算、納米計算、生物計算和神經計算等，也都不可能使機腦具有人腦的所有功能，因為它們與量子計算一樣，也都是以計算為基礎功能，也都是以物理材料為主要質料，所以同樣不能。同時說明，還原論的方法不能濫用，如果超過了一定的界限就會淪為荒謬，這也正是它被後現代主義詬病的原因所在。至於還原論的界限，簡單說應該就是：高等級事物的問題，不能用低等級事物的道理來加以解釋。
機腦不能具有人腦的創造力，除了以上解釋之外，還可以從複雜性的維度得到說明。客觀事實表明，創造力作為最高智慧，只是出現在最為複雜的人腦中，所以凡是達不到人腦複雜程度的腦，不管是物理性的機腦，還是生物性的動物之腦，包括靈長類動物的也已經非常複雜的腦，就都不可能具有創造力。
綜上可知，機腦無論怎麼構造，都不可能具有人腦的所有性能，尤其是不可能具有人腦的創造力。既然如此，未來的機器人無論怎麼發展，也都永遠超越不了人類，更談不上對人類的取代。而且，這裡還可以退一大步講，就算未來的機器人可以具有創造力，甚至比人類的創造力更強，也不會取代人類。
機器人作為人造的機器，沒有生物性的身體，而沒有生物性的身體，就不會有任何自身的需要，也不用生長，沒有自身的需求和生長，就不會有任何自發的行動。馬克思說：「任何人如果不同時為了自己的某種需要和為了這種需要的器官而做事，他就什麼都不能做」，這話也適用於所有的動物和機器人。同時，機器人沒有自己的需求和生長，也就沒有所有生物都有的自利本性，並且也不會有屬於自己的真正的情感，因為諸如喜、怒、哀、樂、憂、悅之類的所有的情感，最終都屬於對需要滿足與否的心理反應，所以機器人即便被設計出了情感，也是虛擬情感。機器人既然沒有自利本性和內涵好惡傾向的情感，也就不會像人一樣具有自己的價值意識及價值觀。因此，機器人為什麼目的而出現、是否需要行動，在行動中需要遵循什麼樣的價值原則，就的確只能是聽從人的安排。這就說明，未來的機器人其實也不會具有自主意識，更不會成為主體。
或許有人會說機器人有對能源如電能的需要，但由於沒有能源時機器人不僅不會「死」，而且也不會對自身產生任何危害，而有能源時也還是沒有生長，還是不用為自己做任何事，所以能源其實並不是機器人的需要。
或許有人設想可以通過製造有生物性身體的機器人來避免這些先天缺陷，可是一個物理性的機腦是不能長在生物性的身體上的，也無法與這個身體產生如同生物性之腦與生物性身體之間的相互作用，也就是說，前一種結合就算能實現，其結合效應也會與後一種結合存在差距。如果為了解決這些問題，再將機腦換成生物性之腦來與生物性身體匹配，那麼這時它就不再是機器人了，而是一個動物。最好的情況，是和人一樣的人。因此，機器人的那些先天缺陷是註定不可避免的，機器人註定不可能有自主意識和屬於自己的價值觀。
由於人是為了滿足自己的需求來創造機器人的，機器人就是人用來滿足自己需求的工具，所以由人賦予機器人的本性就一定是「利人性」，人讓它遵循的價值觀就一定是服務於人的價值觀，讓它做的事情包括假設它也能做到的創造，就一定都是有利於人的事情。這就是說，機器人定是純粹的利人主義者，又怎麼可能會取代人或毀滅人？所以，所有關於未來機器人會對人類如何如何不利的各種擔憂，統統都是毫無必要的杞人憂天。
至於有人可能會利用機器人來幹損害他人甚至消滅他人之事的情況，也不會成為取代論的憑據。因為任何人造的工具，都可能被心術不正的人用來損害他人。由於人類早已明白相互惡鬥的結果只能是誰也過不好，所以人類社會在任何時候都不會讓這種心術不正的人得逞，因而這種人也就只能是偷著幹壞事的極少數人，而由他們所造所用的機器人，也就一定戰勝不了由其他絕大多數人所造所用的機器人。
因此，無論在什麼情況下，哪怕機器人也具有創造力，機器人也不會取代人類和毀滅人類。既然如此，我們就儘管讓人工智慧快速發展吧，它給人類社會帶來的只會是福音，這就是可以加速將人類從必要勞動中解放出來，從而進入自由王國。由於實際上機器人永遠無法具有創造力，所以人類進入自由王國之後，也自然不會如某些人擔憂的那樣，因無所事事的安逸而亡，而是可以盡情發展自己的各種潛能天賦，進行各種發明、創造。
既然如此，如果不能顛覆本文的結論，我們就無須再浪費精力，去討論任何以「機器人將取代人類」的觀點為前提的各種問題。如果能顛覆，那就請多加指正。
（本文原載《華中科技大學學報》2020年第5期）
投稿、聯繫郵箱：isixiang@vip.qq.com