理察·費曼談強人工智慧——機器能夠像人一樣思考嗎?

2020-12-06 讀芯術

全文共3530字，預計學習時長11分鐘

理察·費曼（RICHARD FEYNMAN）

1985年9月26日，諾貝爾物理學獎得主，也被稱為愛因斯坦之後最睿智的理論物理學家，第一位提出納米概念的人——理察·費曼（Richard Feynman，1918-1988）在一次講座中提出了強人工智慧（artificial general intelligence，又稱「strong-AI」）。

費曼的完整回應視頻如下:

隨著通過人工神經網絡進行機器學習的出現，費曼在這個問題上的想法以及和現在的接近程度，即使是在35年前，也是令人著迷的。

以下是費曼回復的逐字稿。

觀眾提問

你認為會不會出現一種機器，能夠像人類一樣思考，並且比人類更智能呢？

理察·費曼的回答

首先，它們能像人類一樣思考嗎？我會說「不」，稍後我會解釋我為什麼說「不」。其次，如果要問「他們是否比人類更智能」，首先必須給「智能」下定義。如果你問我它們是不是比人類更好的棋手？可能是的，「總有一天會研發出這種機器」。

當然，到了1985年，人類西洋棋大師仍然比更機器強大。直到1996年和1997年西洋棋超級大賽上，加裡·卡斯帕羅夫與IBM超級計算機「深藍」的傳奇六局對弈中，一臺計算機擊敗了一位世界級西洋棋冠軍。即便如此，比分還是3.5比2.5，卡斯帕羅夫對這場失利提出了異議，聲稱IBM團隊在比賽間隙以某種方式代表機器進行了幹預。

理察·費曼（RICHARD FEYNMAN）

人工智慧效應

「一旦它開始發揮作用,就不會再有人叫它人工智慧了。」——約翰·麥卡錫（John McCarthy）

費曼接下來談到了所謂的「人工智慧效應（AI effect）」，即當一臺編程機器被指令執行一項任務並實際執行時觀察到的損耗，旁觀者認為人工智慧所實現的並不是「真正的」智能:

他們是比現在大多數人更好的棋手！有一件事，我們總是希望這個該死的機器比任何人都好，而不僅僅是比我們好。如果我們找到了一臺在西洋棋上贏過我們的機器，它不會給我們留下太多的印象。我們一直在說「當它與大師對抗時會發生什麼？」我們想像我們人類在任何事情上都等同於大師，對吧？機器必須比最好的人以最高的水平做的每件事上都要好。好吧，但這對機器來說很難。

談創建人工機器

費曼接著通過類比自然進化的運動模式（例如哺乳動物通過韌帶、肌腱、關節和肌肉共同完成的跑步步態，）和機械設計的運動模式（使用輪子、翅膀和/或螺旋槳共同完成）之間的差異來探討心智模型的問題:

關於我們是否讓機器像「人類」一樣思考的問題，我的觀點是:我們試圖用我們所擁有的材料使這些東西儘可能有效地工作。材料不同於神經等等。如果我們想製造出一個能在地面上快速奔跑的東西，那麼我們就可以觀察獵豹的奔跑，我們也可以嘗試製造一個像獵豹一樣奔跑的機器。但是，製造一臺有輪子的機器要容易得多。可以嘗試製造一些有飛速運轉的輪子或能在空中飛行的東西。

當我們造一隻鳥的時候，就像飛機雖然會飛，但它們不像鳥一樣飛。它們不扇動翅膀，它們的前部有另一個可以四處飛行的裝置，或者更現代的飛機有一個管子，你可以在前端加熱空氣，然後從後部噴出，還有噴氣推進裝置、噴氣發動機、內部的旋轉風扇等等，它們還需使用汽油。這是不一樣的。所以，毫無疑問，從這個意義上來說，未來的機器不會像人類那樣思考。關於智能，我認為道理是完全一樣的，例如，它們不會像我們那樣做算術，但它們會做得更好。

圖源：k.sina.com.cn

超人類的弱人工智慧

對於通過設計的機械裝置而不是自然進化的器官來完成一項腦力任務的優越性的舉例，費曼接下來描述了超人類的弱人工智慧（narrow AI）（如計算器）與人腦之間的差異:

讓我們以非常基礎的數學問題為例。

對於算術來說，它們的算術做得比任何人都好。速度快得多，方式也完全不同，但本質上是一樣的，因為最後會得出相同的結果。這是一個很好的例子。我們永遠不會改變它們做算術的方式，讓它更像人類。那是在倒退。因為，人類所做的算術是緩慢的、繁瑣的、混亂的和充滿錯誤的。如果把計算機能做的事情和人類相比較，我們會發現以下比較有趣的現象：

首先，如果我給你，一個人類，一個這樣的問題:我要向你要回這些數字，每隔一個，順序相反。我會給出一系列的數字，以每隔一個且順序相反的方式返回。很簡單，就像我給你的那樣把數字還給我。那麼就開始了，1，7，3，9，2，6，5，8，3，1，7，2，6，3有人能做到嗎？沒有。這不超過20或30個數字，但是你可以給計算機50,000個這樣的數字，要求它任意變換順序、求它們的總和、用它們做不同的事情，等等。所以有些事情計算機做得比人好得多，如果你想把機器和人相比，你最好記住這一點。

模式識別問題

接下來，費曼的回答將越來越接近於未來由監督式機器學習解決的問題，即大型數據集的模式識別:

但是，人類要為自己做事，他們總是這麼做。他們總是試圖找到一件事，那就是他們能比計算機做得更好。所以，我們現在知道很多很多事情人類可以做得比計算機更好。一個女士走在街上，她擺動了一下身體，你認出了那是簡。或者，這個人走過去，你看到他的頭稍微轉了一下，很難看清是誰，離我們很遠，但是他的後腦勺看起來特別有趣，你會認出那是傑克。識別事物、識別模式，似乎還沒能投入到一個確定的程序中。

這個時候，你可能會說，「我有一個很好的識別傑克的程序，只要給傑克拍很多張照片就行了」--順便說一下，用這種方法可以把一張照片放到電腦裡，如果這個照片夠精細的話，就可以在不同的點分辨出它是黑的還是白的。你知道，事實上你在報紙上看到的圖片是由黑白點組成的，如果圖片足夠精細，你就看不到這些點了。所以，有了足夠的信息，就可以加載圖片，把傑克在不同情況下的所有圖片放進去，然後有一臺機器進行對比。

圖源：mt.sohu.com

偏差-方差權衡

費曼接著從本質上解決了數據訓練集中的方差問題，因此也變相地解決了所謂的偏差-方差權衡問題。在統計學和機器學習中，偏差-方差權衡是一組預測模型的性質，其中參數估計中偏差較低的模型在樣本之間的參數估計方差就偏高，反之亦然。偏差-方差權衡描述了一個優化問題，其中有人試圖同時最小化學習算法中錯誤假設的偏移誤差以及訓練集中對小波動的敏感性的方差。

麻煩的是，新的實際情況是不同的。光線不同、距離不同、頭的傾斜角度也不同，你必須想出如何考慮到這一切。這是如此的複雜和精細，即使是用有充足存儲量的、可以保證運行速度的大型機器，也無法弄清楚如何創建一個可行的程序，或者至少在任何地方都能以合理的速度運行的程序。

因此，識別事物對於目前的機器來說是很困難的，而有些事情則可以由一個人在一瞬間內完成。所以，有一些人類可以做的事情，我們不知道如何在檔案系統中做。這就是識別，這讓我回憶之前留下的問題，那就是什麼樣的檔案辦事員需要具備某種特殊技能，進行複雜的識別。例如，指紋部的辦事員查看指紋，然後仔細比對，看這些指紋是否匹配。這很難實現，但幾乎可以用電腦完成。

人工智慧現狀（1985年）

最後，費曼討論了當時在設計指紋匹配的機器時仍然面臨的困難:

你會認為這沒什麼，看看兩個指紋，是否所有的血點都是一樣的，但事實當然並非如此。手指上有各種汙垢，印字的角度不同，壓力不同，紋脊也不完全在同一個地方。如果你試圖匹配完全相同的圖片，那就很容易了，但是指紋的中心在哪裡、手指的轉動方向是怎樣的、哪裡被擠壓得多一點，少一點、手指上的汙垢在哪裡、拇指上是否長了疣等等，這些都很複雜。

這些複雜的小細節使得機器的比對變得如此困難，對於「盲檔案管理員系統」來說，這太繁複了、太慢了，肯定是完全不切實際的。目前，我幾乎不知道他們的進展，但他們正在快速地試圖攻克。而人類卻可以通過某種方式跨越所有這些障礙，就像它們在西洋棋比賽中所做的那樣。它們似乎能夠快速地捕捉到模式，而我們不知道如何快速地，自動地做到這一點。

理察·費曼（RICHARD FEYNMAN）

對於費曼的觀點，你認可嗎？如有個人不同觀點，歡迎在評論區踴躍發言哦~

留言點讚關注

我們一起分享AI學習與發展的乾貨

如轉載，請後臺留言，遵守轉載規範

相關焦點

  • 人工智慧之問：機器能夠像人一樣思考嗎？
    「計算機能夠思考嗎？」，70年前阿蘭•圖靈就提出了這個問題，這個問題之後也被發表在 《計算機器與智能》（Computing Machinery and Intelligence）論文上。為了回答這一問題，圖靈創造性地提出了用一種讓計算機（程序）模擬人類之間對話的方式，來驗證計算機是否能夠思考，即如果計算機（程序）理解了人類的語言並做出相應的擬人化的回覆，則認為該計算機（程序）能夠思考，並具備了人類的智能。
  • 能造出像人一樣「思考」的機器嗎?—新聞—科學網
    如今的人工智慧系統已經在不少具體問題的解決能力上超過了人類，那麼，我們究竟能否製造出像人一樣「思考」的機器？人工智慧會有一天超越人類智能嗎？ 計算型智能只是人類智能的一種類型 下圍棋是人類的高級智能活動之一，過去人們認為計算機不可能超越人類的這種智能。因此，下圍棋也被視為人工智慧的「聖杯」。
  • 解讀神經擬態計算:讓機器像大腦一樣"思考"
    但是，這樣所謂的智能就足夠了嗎？　　就像上面提到的堵車問題，即便五道口的紅綠燈接入物聯網、接入深度學習庫，在面對複雜的交通擁堵時，依然無法像人類那樣憑藉經驗去迅速疏導車流。這就是現階段絕大多數所謂的人工智慧設備為何無法真正被稱為「智能」的主要原因。
  • AI會像人一樣「思考」、取代人類?專家馬慶國這樣回應...
    而我們知道，人類相比AI最大的優勢就在於會思考、會創造。那麼隨著AI的迅猛發展，未來AI能做到像人一樣「思考」嗎？，並對「人工智慧未來能否像人一樣思考」給出了回應。如今的人工智慧系統已經在不少具體問題的解決能力上超過了人類，那麼，我們究竟能否製造出像人一樣「思考」的機器？人工智慧會有一天超越人類智能嗎？計算型智能只是人類智能的一種類型下圍棋是人類的高級智能活動之一，過去人們認為計算機不可能超越人類的這種智能。因此，下圍棋也被視為人工智慧的「聖杯」。
  • 70年前計算機之父圖靈就曾預言,「機器也許有一天能像人類一樣思考」
    埃達在巴貝奇分析機論文的最後一條「註解」中提出「機器不可能真正地思考」這一觀點。圖靈對此產生了這樣的疑問：如果一臺機器可以根據已處理的數據調整自己的程序，難道這不是某種形式的學習嗎?這種方式可以發展成為人工智慧嗎?關於人工智慧和人類意識的問題都可以追溯到非常久遠的歷史。對於這個領域的大多數問題，笛卡兒都能夠運用現代的語言進行表述。
  • 如果機器可以自我思考,人工智慧是否會走向失控?
    相信大家都會產生一個疑問，人工智慧未來究竟會發展成什麼樣子？會不會超越人類？會不會對人類產生危害？ 那這些問題經過一系列的討論，可能會沉澱到更深一層的問題就是「機器會思考嗎」。因為只有會思考的機器才會掙脫人類的管束，去發展出有害於人類的這麼一種智能。
  • 人工智慧若能自主思考,是不是就成了一個機械生命體?未必
    無可否認，人類已經邁入了人工智慧時代，人工智慧技術蓬勃發展的同時，我們身邊的一切也正因此而發生著變化。只是這種變化，很多人也許並未察覺。當我們還像過去一樣使用某種產品的時候，我們可能並不知道，這種產品已經並非像過去一樣，是由人生產出來的，而是機器製造的。
  • 讓機器也有創意：人工智慧「增強」人類想像力
    人工智慧能不能讓我們變得更平等？人工智慧能不能讓我們變得更善意？人工智慧能不能讓我們具有同理心？　　人工智慧的右腦，也就是人工智慧在過去一直注重更高、更快、更強以後能不能帶來更美好的生活，就像我們自己關注GDP的絕對數字以後，現在關注到我們的獲得感。人工智慧也是一樣，在飛速發展以後開始逐步地幫助我們去思考右腦的問題。
  • 費曼1985年對通用人工智慧的思考
    圖片出處：Nishina Memorial Lecture at Gakushuin University (Tokyo)「您認為，以後有可能出現能像人一樣思考，但在智力上比人類更勝一籌的機器嗎？」1985 年 9 月 26 日，諾貝爾物理學獎獲得者、著名物理學獎理察費曼在一次講座上被問及了這樣一道關於人工智慧的問題。
  • 由「機器人」到「人機器」人工智慧發展史
    人工智慧（Artificial Intelligence，英文縮寫為AI）其實就是對人的意識、思維的信息過程的模擬，而人工智慧機器人就是像人類一樣具有自我意識的機器人。它是一門研究、開發用於模擬、延伸和擴展人的智能的理論及應用系統的技術科學，該領域的研究包括機器人、語言識別、圖像識別、自然語言處理和專家系統等。
  • 人工智慧經歷兩次波谷之後將像水和電一樣無所不在
    一個可見的未來是，人工智慧將比人類的記憶更好，比人類的製造能力更強，比人類適應環境變化的能力也更強，在這樣一個強者面前，世界上一切的工作都有可能被替代，那麼人類如何與人工智慧共處，整日無所事事去做什麼呢？
  • 強人工智慧是一種獨立思考的生命體,人類不該創造和玩弄「生命」
    1950年,艾倫.圖靈(Alan Mathison Turing)的一篇論文(即《計算機器與智能》)中提出了一個劃時代的問題:「機器能夠思維嗎?」此後,人們不得不直面和思考這個迫在眉睫的問題,會不會有一種自主思考和行動的機器呢?
  • 通向強人工智慧
    但至少有一點可以肯定，那就是強人工智慧至少具備認知智能。認知智能至少包含知識和推理。強人工智慧強在哪裡？強在知其然，還要知其所以然。弱人工智慧只知道結果。比如：阿爾法狗知道如何下贏人類棋手，但無法解釋所用的規則和方法，因為他根本不關心下棋的規則。當規則稍微變化以後，這個碾壓人類的智能就立即變成弱智。因此弱人工智慧很難遷移。強人工智慧必須要能與人類溝通，必須要能解釋，必須要懂人類語言。
  • 人工智慧：人類是高估了自己還是低估了機器的智能？
    馬雲看問題的角度，確實和常人不太一樣，但馬雲對人工智慧的看法引發了我們的思考：對於人工智慧，人類是高估了自己呢？還是低估了機器的智能？人工智慧最早是在1956年，由美國的一群科學家在探討機器模擬智能的可能性時，首次提出了「人工智慧」的概念，後來形成了一門專門研究機器智能的新興學科，進入到21世紀，隨著技術的發展，人工智慧概念得到快速普及，由此也衍生出人工智慧產業，像谷歌、微軟和蘋果都投入到AI領域，把研究成果用於產品中，比如蘋果的Siri語音助手就是其中的代表，而在中國，像華為、小米和科大訊飛等也在
  • 什麼是通用人工智慧,會對人類產生威脅嗎?
    通用人工智慧作為人工智慧學科的核心目標，成為了最受關注的人工智慧科技之一。近日，作家馬丁·福特在採訪人工智慧領域的傑出人物時，讓他們對人類在哪一年能夠有50%的機會實現通用人工智慧作出預測，受訪者給出的預測時間平均算下來是在2099年。雖然，根據專家預測，距離通用人工智慧的到來還有相當長的一段時間。但是，仍有人提出了通用人工智慧會對人類造成威脅的觀點。那麼，事實真會如此嗎？
  • 假如機器擁有智慧,世界還需要人類嗎?人工智慧的哲學展望
    人工智慧的發展與人類未來的命運密切相關。許多人開始意識到，人工智慧的發展，不僅是人類可以利用的工具的發展，而且意味著人類生存方式的根本改變。人工智慧不僅是技術問題，同時也是哲學問題。例如，人們或許可以思考一個問題，假如機器擁有了超越人類的智慧，世界還需要人類嗎？屆時，從機器的立場看，人類的文明意義何在？
  • 如何正確擁抱人工智慧 人工智慧發展引發的社會思考
    結合今年發布的趨勢，就可以明白目前人工智慧還在「感知」階段，各類傳感器等元器件使得人工智慧在聽、說、看等領域達到甚至超越人類，但是人工智慧不具備邏輯推理、領域遷移等能力，也就是「會聽、會說、會做」但不會思考，它背後的思考是依賴於計算程序的，而目前程序還遠沒有達到人腦的複雜程度。 缺少認知能力也就是當前人工智慧與人的最大區別。
  • 兩個人工智慧對話,它們能發現自己是機器嗎?答案有點嚇人
    兩個人工智慧對話，它們能發現自己是機器嗎？同樣的關於人工智慧的高端研究，科學家也有了新的突破，正如谷歌的科技大師所說，過去的機器人是模仿人類，現在的機器人是思考如何模仿人類，因此他們做了一個高級的實驗，將兩個人工智慧放在一起對話，看它們能否發現自己是機器。
  • 機器會思考?圖靈為何被稱為人工智慧之父?
    序言我們都知道這個世界上有很多智力超常的人，他們天生就是為了改變這個世界而來的，圖靈無疑就是這樣的人在老師們的眼中，圖靈的思維可以像袋鼠般跳躍。他19歲考進劍橋，23歲就成為劍橋大學史上最年輕的研究員，24歲時，他提出了著名的「圖靈機」設想這裡簡單說下圖靈機是做什麼的
  • 陳根:人工智慧的人工突觸,可像人一樣處理問題?
    文/陳根人工智慧是關於人腦的科學和科技。事實上，人腦的本質，就是一個由神經元構成的網絡。龐大的神經元網絡組成了人腦的基本結構：負責處理大部分思維活動的大腦、負責協調運動的小腦以及連接其中的腦幹。人工智慧模擬人腦而誕生，比如，早期淺層神經網絡的結構一般表現為：多個輸入層「神經元」負責接收並加工輸入信息，之後它們將信息上傳至數量較少的輸出層「神經元」，經過綜合加工後作出決策。於是，通過算法的演進，人工智慧讓機器在非標準環境中，綜合記憶與環境信息，做出自主決策，解決問題。但另一方面，人腦也是人類最複雜的器官。