宋鴻兵:人工智慧是否會威脅人類,取決於能否進化出人工意識

2021-01-19 優酷鴻觀

▲

長按識別上方二維碼即可進入直播


宋鴻兵：人工智慧是否會威脅人類，取決於能否進化出人工意識


■ 文 | 宋鴻兵


本文節選自17-18學年鴻學院微課堂第12期：《宋鴻兵解讀人工智慧的本質與未來》


霍金和馬斯克認為，無數的智能體連網之後，它會突然湧現出某種意識來。關於人工智慧的辯論，實際上引入了一個新的概念，叫意識。而不再僅僅是我們討論的智能體了。



意識這個問題，我在作業中也看到大家產生了極大的混淆。所有的概念之所以會產生很混淆，就是因為對這個詞和它定義的範圍搞不清楚。大家爭論的時候，並沒有把所有理性的能量聚焦到一個邏輯點上，所以你才會產生混亂。


什麼叫意識？意識這個詞的英文是consciousness，這個詞也是拉丁詞演化來的，從古羅馬時代就有這個詞了。它的基本含義是什麼？是感知。注意，智能是什麼？智能是理解。而意識呢？意識是感知。在近代重新給這個意識做定義的，最有名的一個人就是約翰·洛克，他的著作中有一句非常著名的話在表達什麼叫意識。


他這個話是這麼說的：當我有思想的時候，我感到有某種東西從我大腦中飄過去。大家注意，他把這個東西定義成意識。所以意識的基本的定義是感知，是一種自我的覺察，這種自我覺察在現代心理學中對他的定義是什麼呢？這個定義也是五花八門。歸納在一起，提煉出來就是，人，對自己內在的精神狀態和心理狀態的一種自我感覺。這個就叫意識。


所以我們看到，智能和意識這是兩個完全不同的東西。智能，它模擬的是人類的理性思維、邏輯推理和分析判斷，理解抽象複雜的概念，做計劃、實現目標，從經驗中學習，這是智能要做的事。意識呢？意識是偏感性的，是強調人類心理活動中那種感性的東西。


所以這就一下把人工智慧這個話題的爭吵或者叫爭論，提升到另外一個層次上了。其實當我們說到機器會被取代人的時候，考慮的是一個人工合成意識的問題，比如說我們可以稱它為一個人工意識，而不是人工智慧。


我們說過了，人工智慧其實是一個超級計算器，而驅動這個計算器的，如果是人的話，這個問題不會失控。但是如果驅動計算器也就是這個人工智慧體的，不再是人，而是一種人工合成的意識體，這就會出現霍金他們所擔心的問題。



所以當我們進行抽象和提煉之後，這個問題結構上就變得很清楚。最終驅動智能體的究竟是人還是人工的意識體？如果你認為人始終是最終的驅動力，那麼你就屬於人工智慧的樂觀派，認為人工智慧永遠是人類的工具。假如你認為最後有可能變成一種人工合成的意識體，在驅動智能體的話，你就屬於霍金那種悲觀派。


當把問題提煉到這個程度之後，我們現在就要問下一個問題了。人類有沒有可能人工合成出意識？這就是一個非常重要的問題。人工合成意識，和人工合成智能，這是兩個截然不同的範疇的問題，不能混為一談。這就涉及到我們對意識這個問題的深入的定義。比如說從心理學定義，意識分成兩大類：一類叫核心意識，一類叫延伸意識。


▲

更多精彩內容，長按識別二維碼收聽本期課程



快快加入鴻學院 

和4500位同學一起開始一場真正的學習吧 

▼

☟ 點擊【閱讀原文】報名加入鴻學院！

相關焦點

  • 人工智慧能否具有自己的意識,都取決於我們自己
    北京時間8月13日消息，據國外媒體報導，很多人都有這樣的疑問：人工智慧最終是否能具有自己的意識？而一名人工智慧專家對此的回應是，這主要取決於我們自己是否希望讓機器擁有意識。但在現實中，我們也許要在設計時特意將意識加入機器才行。從科學與工程的角度來看，我們有充分的理由進行嘗試。人類對意識本身的無知便是其中之一。18和19世紀的工程師發明蒸汽機時，物理學家還沒有提出熱力學法則。可見發明有時也能促進理論進步。今天的情況也不例外。針對意識的討論往往太偏於哲學，總是繞來繞去地兜圈子，卻提不出任何實際成果。而少數研究人工意識的專家便希望反其道而行之，在實踐中學習。
  • 人工智慧的自我意識與信息進化論(二):人工智慧是否會具有自我意識?
    為了避免混淆，這裡我們用人工智慧對應人類智能，「人工智慧載體」對應人類身體，「人工智慧應用」對應人。人類智能停步不前，人工智慧則會飛速進步。人類身體持續退化，「人工智慧載體」則會不斷強化。人的生命是一個個獨立的個體，每個個體擁有自己的身體。
  • 人工智慧能否跨越意識鴻溝?
    槍，生來本就是為了殺人，並且它也的確這樣做了，然而卻無人擔憂未來槍也可能會發展出自我意識，隨即殺害所有人類（畢竟這是人類預先賦予它的使命）。不得不承認，大部分人對人工智慧的認知僅停留在「人形智能」層面，並且他們所擔憂或期待的也只是人工智慧能否自發產生動機。
  • 什麼是通用人工智慧,會對人類產生威脅嗎?
    前言：隨著科技的快速發展，人工智慧技術也愈發成熟。通用人工智慧作為人工智慧學科的核心目標，成為了最受關注的人工智慧科技之一。近日，作家馬丁·福特在採訪人工智慧領域的傑出人物時，讓他們對人類在哪一年能夠有50%的機會實現通用人工智慧作出預測，受訪者給出的預測時間平均算下來是在2099年。
  • 在高風險的決策之中，人類能否信任人工智慧
    隨著科技的發展，人工智慧已經滲透到技術的各個方面。從智能音響到聊天機器人，再到機械自動化，人工智慧正在成為數字應用程式的新標準。2019年全球人工智慧市場的增長率達到154％，預計到2021年，80％的新興技術都將以人工智慧作為基礎。儘管人工智慧技術正在變得越來越先進，很多人也有自己的擔憂。
  • 我們需要打造有意識的人工智慧嗎?
    而一名人工智慧專家對此的回應是，這主要取決於我們自己是否希望讓機器擁有意識。　　這聽上去可能太大膽了些。意識的內在機制——我們為何對世界有著這般生動而直接的體驗——一直是神經科學領域的一大未解之謎。甚至有人認為，這個謎團將永遠都無法解開。想用客觀的科學方法解釋人們的主觀體驗似乎是不可能的。但在過去的20多年間，科學家對意識開展了大量深入分析，並取得了重大進展。
  • 人工智慧能否產生意識?模擬人類的心靈是AI的終極目標
    意識在人工智慧問題的爭論中扮演著重要的角色。人工智慧方法(AIS)是信息領域公司承擔的分布式工程項目，人工智慧長期以來的目的是在真實的世界裡模擬人類的心靈，讓世界充滿人工意識和人工智慧。人工意識，又稱機器意識(MC)或人工意識，是人工智慧和認知機器人相關的集合。人工意識這一概念的目的是，確定那些可以被合成的東西，是可以在工程物體中看到的意識。神經科學假設這種意識是由大腦不同部分的相互作用產生的，被稱為「知曉的神經關聯」或「NCC」。
  • 人工智慧與意識的差距(深度)
    人工智慧對很多人來說意味著很多事情。但它似乎很難定義，它是感覺的，是直覺的，要麼被崇拜、要麼被褻瀆。本文將探討人工智慧在整個社會中的真正含義，而不是研究人員或計算機科學家的含義。我想向非技術領域的讀者澄清什麼是人工智慧可以期待的，更重要的是，什麼只是不切實際的臆測。我擔心，對人工智慧的盲目恐懼——在某些情況下是崇拜——正在被用來操縱社會。
  • 人工智慧只會「優化」 而人類可以「進化」
    原標題：人工智慧只會「優化」，而人類可以「進化」 　　意識是人腦的機能 　　神譯局是36
  • 人工智慧威脅人類?劉慈欣:我對未來保持樂觀
    中新網成都11月10日電 (王鵬)基因改造能否幫助人類適應外太空？外星生命是否存在？如何看待人工智慧？基礎科學對科幻創作意味著什麼？10日，科幻作家劉慈欣在成都出席國際科幻峰會，與加拿大科幻作家德裡克·昆什肯以「硬科幻的未來」為主題，對眾多涉及硬科幻的前沿話題進行了深入精彩的討論。劉慈欣在成都出席國際科幻峰會。
  • 人工智慧只會「優化」,而人類可以「進化」
    編者按：人工智慧在海量數據的投餵下蓬勃發展，但它究竟是不是真正的智能呢？本文作者Douglas Rushkoff認為人工智慧不是。儘管人工智慧在運算等方面優於人腦了，但人工智慧仍然無法和人腦的神經元相比，人腦如何產生意識到現在依然是個謎，有待於後來的科學家們解決。
  • 霍金預言能否成真?優酷《未來圖鑑》聚焦人工智慧威脅論
    科幻作品中，人工智慧往往作為反派出現。《復仇者聯盟》中的奧創、《我，機器人》中的NS-5,、《黑客帝國》中的矩陣都是誕生於人類之手，卻想要顛覆世界的智能程序。它們擁有自我意識，卻無法擁有人類情感，只能嚴格按照程序執行著自己認為對的事情。那麼，現實世界中，人工智慧是否會迎來自我意識覺醒的一天呢？
  • 人工智慧意識的定義,測試和分級
    在所有的人工智慧測試系統中做得最好的是「ConsScale」，這是2008年西班牙的人工智慧研究員Raúl Arrabales Moreno和他的同事們開發出的評估程序。基於類人類意識只會出現在正確的組件中的假設，你只需要填寫一個從結構特徵開始的檢查表。這個系統有沒有身體？記憶？注意力控制能力？然後再去測試行為和交流：它能不能在鏡子中認出它自己？有沒有同情心？
  • 《未來簡史》作者Yuval Harari:人工智慧與人工意識
    [億歐導讀] 尤瓦爾•赫拉利（Yuval Harari）以「人工智慧與人工意識」為主題深度解析了人類意識與智能的交織關係與發展趨勢。牛津大學歷史學博士、《未來簡史》作者尤瓦爾•赫拉利（Yuval Harari）發表了《人工智慧與人工意識》重要講話。非常感謝大家，今天我要與大家分享的是人工智慧與人工意識的關係。人工智慧和人工意識，在很偉大的革命變革邊緣，這不僅僅是在歷史上，實際上也是從地球有生命開始最偉大的一個革命。
  • 關於「意識、腦與人工智慧」浙大專家提出十大前沿科學問題
    在此基礎上，浙大「雙腦計劃」相關團隊組織哲學、計算機科學、神經與腦科學、心理學、社會學等領域專家，聚焦意識與腦、意識與人工智慧方面的重大問題，反覆討論、不斷碰撞、深入凝練，提出了十大具有前沿性、挑戰性的科學問題，旨在引領國內外學術界的思考，推動意識、腦與人工智慧交叉領域的研究。
  • ​浙江大學發布「意識、腦與人工智慧」十大科學問題
    在此基礎上，浙江大學「雙腦計劃」相關團隊組織哲學、計算機科學、神經與腦科學、心理學、社會學等領域專家，聚焦意識與腦、意識與人工智慧方面的重大問題，經過反覆討論、不斷碰撞、深入凝練，最終提出了十大具有前沿性、挑戰性的科學問題，旨在引領國內外學術界的思考，推動意識、腦與人工智慧交叉領域的研究。
  • 人類的大腦十分重要,人工智慧如何獲得人腦般的意識?有三個因素
    一個理論指出，集中的神經系統對於發展一個完全有意識的頭腦是至關重要的，這個頭腦在人類層面上具有足夠的神經細胞會有一種有意識的體驗。在這種體驗中，大腦會自動的處理疼痛。大腦基本上是在一個連續的適應過程中運作的，它建立在經驗的基礎上，並與環境相互作用，但這是一種理論。
  • 剛剛,浙大發布「意識、腦與人工智慧」十大科學問題!
    目前大部分觀點認為，意識產生的物質基礎是神經元，其生物學基礎是腦中多個神經網絡間的相互作用；也有研究認為意識的產生由相對獨立的腦結構（稱為意識開關）來主導。意識的生物學基礎是什麼，及其衍生出來的一系列問題有待進一步探究。例如，意識產生的物質基礎是否唯一，能否在神經元以外的物質載體上製造出意識等。二、「人工意識」是否可能？
  • 機器人實力幾乎「碾壓」人類,如果給它們注入意識,還會聽話嗎?
    隨處可見的人工智慧，一旦擁有意識後，是否會威脅到人類？霍金曾經警告過人類，不要讓人工智慧過多的和人類相處，最近幾年人工智慧這4個字成為了一個熱門的話題，無論我們逛商場還是在家購物都能看到人工智慧這4個字。
  • 人工智慧能否取代人類?
    他在演講中展望人工智慧算法的發展。他認為，應對信息過載這一挑戰的關鍵武器，是人工智慧算法技術創新和應用。　　「我們一方面通過個性化推薦和搜索縮短用戶及內容之間的距離，讓用戶在知乎擺脫信息過載帶來的負擔和壓力；另一方面，從內容生產和內容治理等維度入手，加速優質的、稀缺內容的生產，壓縮低質內容的傳播空間。」李大海說。