當AI「智力爆炸」成為超級智能，普通智力人類是螻蟻/寵物？

2020-09-04 學術頭條

想像一下，當你推倒多米諾骨牌時，第一張牌倒下，而後每一塊牌迅速產生反應，直至最後一塊牌。實際上，這種連鎖反應不局限於物理界，而是廣泛存在於各個科學領域。


而今天，科學家們都在討論一個全新的、會產生連鎖反應的領域——AI。許多人提出，AI 的智力就像多米諾骨牌一樣，一旦打開某個開關，它就會不斷地自我補充，形成 AI 「智力爆炸」，甚至最終可能超越人類智力。



近日，世界知名的人工智慧專家、前加州大學教授 Lance B. Eliot 博士在福布斯雜誌發表文章，詳細討論了 AI 「智力爆炸」 這一問題。


你說的 「AI」 不是 「真正的 AI」


一些科學家認為，某一天，AI 有可能會發生 「智力爆炸」，並且宣稱，這可能發生在 2050 年至 2100 年之間。但沒人知道具體的答案。


事實上，目前已存在的 AI 系統，還無法與人類智力相提並論。當前基於計算機的 AI 可以做一些相當棘手和令人印象深刻的事情，但這充其量只能稱作是 「狹義的 AI」--- 它只能在有限的範圍或領域中工作，而且缺乏與人打交道的常識性推理能力。*


而真正的 AI，通常被稱為 AGI（Artificial General Intelligence），可以毫無懸念地通過圖靈測試。


但目前，世界上還沒有一個 AGI。



有人認為，只有人類才可能展示出最高水平的智力，因此，AI 智力無論經過多少演變發展，都不可能達到高於人類的水平。因此，AI 經過智力爆炸後，將達到與人類智力完全等同的程度，而後便停滯不前。


但相反，也有另一種觀點認為，AI 智力的爆炸式增長將會超越人類智力，並停留在所謂的超級智能左右的水平上。


超智能水平究竟有多高？我們對此暫時毫無了解。


但有人堅信，儘管超智能會超出人類的智力水平，但它本身也將具有一個界限或最終優勢。同時，AI 智力爆炸可能是一個永無止境的連鎖反應——AI 可能會不斷地發展，引發超級 AI，再引發超級超級 AI...... 總之，變得越來越聰明，直到永遠。


AI 智力爆炸，於人類是利還是弊？


我們不得不注意的一個問題是：超級 AI 可以思考出、做到、看到或說出哪些我們普通人所不能做到的？


Eliot 教授給出的答案是，超級智能大概可以解決癌症，世界飢餓，解釋宇宙是如何開始的，並且從本質上可以回答人類僅有的敷衍智力尚未解決的、所有棘手的開放性問題。


令人悲傷的是，人類的普通智力甚至可能不足以識別出超級智能所能想到的東西，因此到那時，人類在 AI 眼中可能如同小小螻蟻，超智能 AI 要麼容忍我們的存在，要麼幫助我們存活下去。


它可能試圖將我們推向智能階梯，或者決定讓我們成為 「寵物」，可能會教給我們新的智慧，也可能會認為我們不值得它為此煩惱而放棄我們。



但另一方面，這是否意味著我們根本不需要任何其他新發明，因為以某種方式擁超智能有 AI 就可以滿足我們的所有需求？


想像一下，有時候與真正聰明的人在一起時，我們的智力會得到提高，因為與對方的交互作用可能使我們沉迷、吸收或以某種方式放大自己的智力。因此，假如我們實現了 AI 超智能，則可能導致我們作為一個物種的自身智能的增加，這似乎也是合理的。


AI 自動駕駛汽車與智力爆炸


不得不說，目前的人工智慧產業的一大領域就是自動駕駛汽車。但實際上，目前的無人駕駛汽車技術水平還未達到較高水平。


真正的自動駕駛汽車是指 AI 完全自行駕駛汽車，並且在駕駛過程中不需要任何人工協助。這些無人駕駛車輛被認為處於 4 級和 5 級水平。


而要求駕駛員共同分擔駕駛工作的汽車，應該被稱為半自動駕駛（semi-autonomous），處於 2 級或 3 級水平，通常包含各種自動附加組件 ADAS（Advanced Driver-Assistance Systems)。


現在，4 級無人駕駛汽車正在通過非常狹窄和經過選擇的公共道路進行試驗，來嘗試增加其吸引力，儘管是否應該允許進行這種試驗仍存在爭議（因為反對者指出，人在這些試驗中充當小白鼠，是生死攸關的事）。



在文章中，Eliot 教授提出了 AI 自動駕駛汽車和 AI 智力爆炸的三個方面：


（1）AI 自動駕駛汽車的興起是否會對 AI 智力爆炸的連鎖反應起促進作用？

（2）如果 AI 自動駕駛汽車本身不屬於 AI 智力爆炸的一部分，那麼 AI 自動駕駛汽車是否還會得到研究與發展，並最終促進 AI 智力爆炸？

（3）我們設計的 AI 自動駕駛汽車是否會在 AI 智力爆炸產生 AI 超智能後，成為廢棄無用的技術？


一種觀點認為，今天正在設計的 AI 自動駕駛汽車似乎不太可能產生 AI 智力爆炸。現有的系統要達到超智能水平，似乎還遠遠不夠。這就引發了另一場關於是否要實現真正的無人駕駛汽車的討論，畢竟，有了超智能 AI 後，現在無人駕駛汽車似乎僅僅是個玩具。


總而言之，智力爆炸的概念無疑能讓我們的思緒飄揚。


想一想，如果無人駕駛汽車突然的 AI 駕駛系統突然引發智力爆炸，它們可能決定不再當我們的汽車駕駛員，而是成為人類生存和未來的駕駛員。這無疑會讓人們陷入擔憂。


編譯：吳婷婷

編審：王新凱


原文連結：

https://www.forbes.com/sites/lanceeliot/2020/08/23/the-ai-intelligence-explosion-might-happen-this-way-including-for-ai-self-driving-cars/amp/

相關焦點

  • AI 如果 「智力爆炸」 成為超級智能，只有普通智力的人類是螻蟻還是寵物？
    因此，AI 經過智力爆炸後，將達到與人類智力完全等同的程度，而後便停滯不前。但相反，也有另一種觀點認為，AI 智力的爆炸式增長將會超越人類智力，並停留在所謂的超級智能左右的水平上。超智能水平究竟有多高？我們對此暫時毫無了解。
  • AI 如果 「智力爆炸」 成為超級智能 只有普通智力的人類是螻蟻...
    但相反，也有另一種觀點認為， AI 智力的爆炸式增長將會超越人類智力，並停留在所謂的超級智能左右的水平上。超智能水平究竟有多高？我們對此暫時毫無了解。但有人堅信，儘管超智能會超出人類的智力水平，但它本身也將具有一個界限或最終優勢。
  • 「千腦智力理論」或顛覆AI:理解人類新大腦皮層
    ，即「千腦智力理論」。 深度學習是人工智慧最新的進展，它借鑑了人類「大腦」的大概。大多數深度學習模型的架構是基於處理層的，是一種受生物大腦神經元啟發的人工神經網絡。 然而，神經科學家們對於智力（Intelligence）究竟是什麼，以及智力是如何在人腦中形成等問題並沒有達成一致，至今任然無法解釋。
  • 人類智力整體下降，超級真菌進化速度卻加快，科技生活的兩面性
    根據目前科學家們的研究數據表明，人類自20世紀起智力測驗得分就一直逐年提升，針對這種現象，人類科學家把這種現象稱為「弗林效應」。這些因素都是讓人類智力下滑的多種原因，畢竟人類在遇到問題的時候，才會去想解決辦法，現在科技直接讓人類失去思考的時間，藉助工具可以解決很多問題，複雜的心算和珠算被計算器所取代，人工智慧甚至可以完成沒有任何語法錯誤的新聞寫作！
  • 圍棋:從「堯造」的遊戲到「人類的智力競技高地」
    中新網3月11日電(宋宇晟) 北京時間3月10日16時27分，谷歌旗下人工智慧公司DeepMind開發的智能系統AlphaGo(阿爾法圍棋)和韓國職業圍棋選手李世石九段的第二場比賽結束。擁有14個世界冠軍頭銜的李世石再次輸掉了比賽。　　人類棋手兩次敗北，這讓不少人都開始重新審視人與機器的關係。
  • 哪些生物與人類智力相當?黑猩猩、海豚和細菌上榜
    黑猩猩和倭黑猩猩通常是大多數認知神經科學家認為可能具有類似人類智力等級的「首批物種」，這是為什麼呢？人們認為接近人類智力的動物都應當具備工具製造、工具使用和更高的社會等級，事實上，黑猩猩擁有自我意識，它們更可能成為具有類似人類智力的候選物種。
  • 人類智力:進化未終結
    然而，經過上萬年的進化，人類大腦是否到了極限，智力是否達到了最大值？按照達爾文的理論，人類從猿人進化為現代人歷經了漫長的時間。在被時間洗禮的過程中，人類被改變的不僅僅是外形，更重要的是大腦容量的擴充、智力的進化，才最終讓人類站在食物鏈的制高點。
  • 智力比拼人類敗下陣來，機器人會成為人類的神嗎
    很顯然，智能機器探索世界的速度遠遠比人類還要快，從前是人與人之間的智力比拼、崗位競爭，而現在卻要考慮機器人的存在！如今人工智慧作曲作畫、播報新聞的案例屢見不鮮，人工智慧的進步對人類智力的優越性提出了挑戰。
  • 豬遠比狗聰明，其智力接近大猩猩，卻被用來吃肉，狗卻被當成寵物
    一個是直接咬木桿，一個是添加了思維的智能橫向，或縱向取出動作，是完全不同智力的層次。在美國，澳大利亞，英國，農莊如果有野豬危害，他們唯有把野豬獵殺，很少有別的方法，因為不管你用什麼方法，過一段時間，野豬總能摸索出一種新的方法進到莊家地。豬的這種對新事物的探索能力這種能力遠非，羊和狗能夠比的。
  • 圖靈獎得主稱自監督學習可使AI達到人類智力水平
    【導讀】人工智慧的智力水平一朝一日會和人類平起平坐嗎？「我相信，人類的意識處理過程，利用的是有關世界如何變化的假設，這些假設可以理解成為一種更高層次的表達方式。簡單來講，就是我們看到世界的變化，然後想到一句話來解釋這種變化。」
  • 必須研究智力缺失
    必須研究智力缺失人類必須研究智力缺失，這是最光天化日明擺著的。一般來說，只要不是生理智障，如果缺失智力，一定是使心用心，沒有求真務實，特別是沒有科學精神科學態度，導致自己和後代出現身心健康問題，導致人品和人文惡性循環，導致社會環境腐朽腐爛。得病容易治病難，如果發現智力缺失，必須一絲一毫也含糊不得的真與實科學性求實質，不能再鼓搗任何假與偽使心用心。
  • IBM沃森超級計算機CTO:計算機智力將會超過人類
    智能計算機系統只有變得比人類聰明許多才能處理這些信息。海伊解釋稱：「如果你是一名醫生，想找到治療病人的最佳方案，但是你沒有時間閱讀最新的文獻，將文獻知識用於決策。不論怎樣，我們都不可能找到所有東西，記住所有東西。」怎麼辦？海伊認為感知運算也許可以解決問題，IBM正在研究感知運算。在當前階段，IBM的重點是開發可以增強人類體驗的機器，比如幫助人、輔助學習，啟發靈感。
  • 智力理論
    他認為，人類智力包括著兩種因素：一般因素(簡稱G因素)和特殊因素(簡稱S因素)。其中一般因素是智力結構的關鍵和基礎。人們在完成任何一種任務時，都有G因素和S因素的參與。二、三元智力理論此理論由斯騰伯格提出。該理論包括智力成分亞理論、智力情境亞理論、智力經驗亞理論。成分亞理論認為，智力包括三種成分及相應的三種過程，即元成分、操作成分和知識獲得成分。
  • 黑龍江省教師招聘:智力理論
    (2)二因素論認為，人類智力包括著兩種因素：一般因素(簡稱G因素)和特殊因素(簡稱S因素)。其中一般因素是智力結構的關鍵和基礎。一般因素(簡稱G因素)：得自先天遺傳，主要表現在一般性生活活動上;一般智力測驗所測量的，就是普通能力特殊因素(簡稱S因素)：有五類：口語能力因素、數算能力因素、機械能力因素、注意力、想像力。
  • 教師招聘備考之智力理論
    1.斯皮爾曼的智力二因素論(1)智力二因素論由英國心理學家C.Spearman斯皮爾曼(1863—1945)於1904年首先提出。(2)二因素論認為，人類智力包括著兩種因素：一般因素(簡稱G因素)和特殊因素(簡稱S因素)。其中一般因素是智力結構的關鍵和基礎。
  • 流體智力與晶體智力的區別
    流體智力是一種以生理為基礎的認知能力，如知覺、記憶、運算速度、推理能力等。流體智力是與晶體智力相對應的概念，流體智力隨年齡的老化而減退。
  • 美國研究稱人類的智力水平或正不斷下降(全文)
    美研究報告稱人類的智力水平或正不斷下降智力，科學家們還沒有給出一個統一的定義。似乎對智力的研究越深入，爭論也就越來越多。「弗林效應」的提出者詹姆斯·R·弗林（James R.Flynn）在他的新書中依然堅持人類的智力一直在持續上升。
  • 【解析】流體智力和晶體智力
    卡特爾：智力形態理論這份作業【zy2091】能力-1中，大家對流體智力和晶體智力的題目疑問較多。
  • 心理學筆記-心理學概論(10)智力
    上一章我們提到高智商並不等同於高創造力，創造力是一種比智力更高級別的能力。那麼究竟什麼是智力呢？今天我們來聊一聊智力究竟是怎樣的一種能力，以及常見的一些智力測試。1. 智力是單一還是多種能力？其中晶體智力是個體學習到的知識和獲取這些知識的能力。而流體智力是指個體洞察和分析複雜關係並解決問題的能力，它與我們上一章提到的問題解決密切相關。1.3 斯滕伯格智力三元論以上兩種理論都是通過心理測量學的視角來審視智力。二十世紀晚期，認知學派在心理學領域成為主流，在認知學派看來智力並不單單局限於學校學習一個方面。其中以斯滕伯格的三元論最為著名。
  • 貴格鸚鵡的智力有多高?
    嗯… 一起來看看…首先，也是最重要的一點就是，貴格鸚鵡會使用人類的語言，而且是頻頻地站在鳥兒的角度正確使用。就讓我舉幾個例子來說明吧。5年前我將第一隻也是最愛的一隻貴格鸚鵡帶入家中，他叫Beeper。8周大的時候，他剛剛斷奶，是個有愛、喜歡互動的小甜心。他很快就在家中的起居室-餐廳區域建立了固定的鳥籠位置，並迅速成為了家中的常規成員之一。