./t20180202_699717_taonews.html
旨在向全國廣大群眾，特別是具有中等文化程度的廣大青年，普及科學技術知識，繁榮科普創作，啟迪思想，開拓視野。
文章數
「你們人類只是一種被設計出來創造更多智能工具的生物機器，你們已經抵達你們物種的金字塔尖了……你們的大限已到；你們已經達成你們被設計出來時所賦予的一切使命。」在一本生動描述機器人對人類發動戰爭的科幻小說《機器人啟示錄》中，一個有著嬰兒外形、似淳樸的機器人，這樣教訓製造「他」的人類。近年來，類似上述的場景和話題，我們也常常能在科幻電影中觸及。
現實中，史蒂芬·霍金、比爾·蓋茨、埃隆·馬斯克等著名人士，最近幾年都曾發出警告說：人工智慧可能是我們面臨的最大滅絕風險。如果智能機器缺乏監管，人類將迎來一個黑暗的未來。前不久，作為新一代人工智慧代表的「阿爾法狗」，繼運用高超的運算能力和縝密的邏輯判斷，擊敗世界圍棋頂尖高手李世石後，又「收拾」了另一位圍棋高手柯潔，再度引來了世人的驚嘆和熱議。有媒體在評述此事時用了一個意味深長的標題：一場沒有懸念的人機大戰與一個懸念重重的未來。
這後一個「懸念」，便是機器智能超越人類時的夢魘
其實，早在計算機剛被發明出來後不久，學界就有對於「思維機器」可能存在風險的憂慮了。1951年，英國著名數學家、「計算機科學之父」阿蘭·圖靈提示說「：……它們可以通過互相交流來增進它們的心智。所以，到了某一個階段，我們將不得不考慮機器控制世界這個問題了。」幾年過後美國應用數學家、資訊理論的創始人諾伯特·維納也表達了一種類似的擔心：「我們給予機器的任何程度的獨立性都可能導致對我們自身意願的反抗。瓶子裡跑出的精靈不會心甘情願地重新回到瓶子裡。同樣，我們也沒有任何理由希望它們善待我們。」
差不多就在那個時候，計算機的重要奠基人之一、匈牙利裔美籍數學家馮·諾伊曼首次提出，隨著技術的加速進步以及人類生活方式的轉變，人類歷史似乎即將面臨某個本性奇點，自此人類文明將很難延續。20 世紀 90 年代初，「奇點」（Singularity）一詞被美國計算機專家和科幻作家弗諾·文奇引述，並進行了「改造」，用來描述那種無情的、飛速前進的科技發展最終將達到的一種臨界聚集狀態。
他認為，人工智慧、人類生物改良或腦機接口這樣一些由超人類智能驅動的進步極其迅速，很可能會引發奇點來臨。
後來，美國著名發明家和思想家雷·庫茲韋爾對「奇點」的概念和含義進行了更為詳細的闡釋，並在2005年推出了《奇點臨近：2045年，當計算機智能超越人類》一書。在書中他指出，科技的力量正呈現指數式的擴張。他用「奇點」來表示獨特的乃至無法掌控的事件以及種種奇異的影響，堅信奇點就是這樣一個「技術以指數級的發展推動人類的解放，使人類能力產生質變的」時刻。
在科學史上，與奇點相似的概念被稱為「範式轉移」。這是美國科學哲學家託馬斯·庫恩在其名著《科學革命的結構》中提出的一個重要概念，指的是某種新概念或新技術的到來徹底摧毀了人們以往理解事物的方式，導致「科學革命」的發生。而據奇點理論推測，人工智慧研究將不可避免地導致「智能爆發」和超級智能的出現。
儘管對於奇點以及它究竟何時到來尚有許多爭議，但一些嚴肅的問題已經被提了出來：一旦奇點來臨，我們的經濟、社會乃至人類發展的進程，將會發生怎樣的巨變？快速發展的創新勢頭和技術進步，會不會限制人類進行創造性幹預的機會，並且超出人類可以有效控制技術發展的限度？當「覺醒」了的機器擁有人性——情感、欲望、自由意志和自主意識時，我們將面對怎樣的世界？第一臺超智能機器會不會是人類的最後一項發明，進而導致人類命運的激進變化？
見證科幻變成科學的瞬間，是喜是憂？有人認為，或許到了那時，解決這些倫理性問題最實際、最好的辦法，就是通過限制我們追求某些類型的知識，來限制過於危險的技術的研發，甚至完全停止這類研究。
也有人斷定，最不可思議的事件可能是，當奇點來臨時，所有的規則都將發生變化，而我們人類卻不再是規則的制定者了。
不過另一些人持懷疑態度。李開復認為，目前的這種深度學習技術只能算作「弱人工智慧」，本質上僅僅是一個特別好用的工具而已。「弱人工智慧」到能和人類相提並論的「強人工智慧」的路都尚未走通，更何況要走通「強人工智慧」到「超人工智慧」之路。當前的人類，既無法把「智能是什麼」用精確的數學結構表達出來，也極可能不具備去實現這種數學模型的硬體條件。退一萬步來說，即使在未來的某一天，這種超級智能出現了，它是不是一定會把毀滅人類作為自己的目標，也是未可知的。
loading
尊敬的用戶，您已成功註冊「中國數字科技館」帳號，請立即登錄！
立即登錄尊敬的用戶，您未能註冊「中國數字科技館」帳號，請重新註冊！
重新註冊loading
©2011-2020 版權所有：中國數字科技館
未經書面許可任何人不得複製或鏡像
京ICP備11000850號 京公網安備110105007388號
信息網絡傳播視聽節目許可證0111611號
國家科技基礎條件平臺
「你們人類只是一種被設計出來創造更多智能工具的生物機器，你們已經抵達你們物種的金字塔尖了……你們的大限已到；你們已經達成你們被設計出來時所賦予的一切使命。」