他預測40年後機器產生意識

2020-11-24 南方都市報數字報

    霍普克羅夫特在海德堡與南都記者聊人工智慧。南都記者 張豔芬 攝

    剛剛過去的2017年，AI(人工智慧)浪潮洶湧，但人工智慧會給人類世界帶來什麼？史蒂芬·霍金曾表示，人工智慧的崛起，要麼是人類歷史上最好的事，要麼是最糟的，可能招致人類滅亡。而成功將「重型獵鷹」火箭發射上天的馬斯克則一直持有「人工智慧威脅論」的觀點，認為人工智慧可能會引發第三次世界大戰。

    什麼時候會出現具有「機器意識」的「超人工智慧」？人工智慧是讓機器更像人，還是讓機器更好地為人類服務？人工智慧應用的一個分支——— 人臉識別的方便性和隱私保護界限在哪裡？

    帶著這些疑問，在德國舉行的第五屆海德堡計算機數學論壇(簡稱H LF)上，我們面對面採訪了與會的計算機科學領域「大牛」——— 圖靈獎獲得者約翰·霍普克羅夫特(John E .H opcroft)，我們期待，他的觀點能幫助讀者理解風口浪尖上的人工智慧何去何從。

    機器意識時代40年後到來？

    霍普克羅夫特認為，人工智慧會改變人類重要領域，他說，今後，每個領域都要了解信息學，信息學、計算機科學會成為基礎學科，不再只是科學領域自己的事了。

    而另一方面，歷史變得更加重要，現在是一個全球化時代，人們不只是思考自己國家的問題，也要思考其他國家的問題，霍普克羅夫特說，文化、歷史乃至詩歌和文學，這都會幫助洞察人類行為，人們需要理解更為複雜的事物。「所以我認為大學教育會發生重大變化」。

    霍普克羅夫特認為，對中國來說，非常重要的一點是改進對計算機系統方面的教育並培養具有構建可靠大型分布系統的人才。他以航空公司預訂系統為例，如果想讓計算機在世界各地運行成千的子系統，就需要設計一個能夠在全球範圍內工作的分布式系統，任務不只是在一臺計算機上運行，每天都可能會出現故障，而非常具有挑戰性的就是要確保一個局部故障不能影響其他地方的服務，這方面的容錯性很重要。他認為，信息化時代的各個方面都是系統工程，除了人工智慧，還有許多其他要素要相輔相成，共同發展。

    此外，在霍普克羅夫特看來，資訊時代發展的瓶頸不是人工智慧或者計算能力，而是對人們的教育，不只是教育聰明的人，而是所有人，隨著全球化時代到來，通過合適的方法教育年青一代尤為重要，否則將產生真正的問題。

    當機器具有意識會是一個什麼樣的世界？霍普克羅夫特預測，那將是信息化革命之後的另一場革命，從農業、工業到資訊時代，每個時代都發展得比以前更快，他推斷機器意識革命大概出現在40年後。

    通過法律規範能規範AI技術嗎？

    蘋果手機FA CEID備受矚目，人臉識別是下一個消費創新的方向，如何看待個人隱私和技術發展的關係？

    對於這個問題，霍普克羅夫特認為，每項新技術都有好的一面和壞的一面，「應該通過明確的法律限定什麼是人臉識別可以做的事情，什麼是不被允許的事情」。

    此前，史丹福大學一名教授做的一項人臉識別研究引起廣泛關注——— 通過機器讀人，從而識別出人們的政治觀點、智商高下甚至是否有犯罪行為。想像一下，有一天你去面試，坐在你對面的H R用機器「讀」你，這是什麼樣的感受？對一個曾經犯錯而要改過自身的人，處處讀臉又是否太過嚴苛？

    對此，霍普克羅夫特認為，也有可能機器能讀出此時的你已經改變了過去的不良行為，從而給你一個新的工作機會，「可見技術可以到達這端或者那端，我堅信技術會變得很有價值，關鍵是法律規範」。

    技術浪潮洶湧而來，應該謹慎相待還是張開雙臂擁抱改變？霍普克羅夫特說，應該在保護隱私的前提下擁抱改變，他常常舉的一個例子是檔案數據化的問題，「比如我如今在德國看病，醫生可以下載我所有的就醫記錄，然後給出最好的治療方案，但我並不想讓我的保險公司看到我的醫療記錄」，同樣的，他認為學醫的學生應該有權限看人們的病歷來增進醫術，但前提條件是患者的個人信息需要得到嚴格保密。

    零售商甚至開始將臉部識別視為區分V IP顧客忠誠度的一種手段，這到底是一個強大的廣告工具還是隱私噩夢？

    霍普克羅夫特認為「兩者都是」，他舉例說，在飛機上，他並不介意被明確告知什麼情況可以獲得VIP服務、什麼情況獲得更少的服務，「我認為法律應該要求公司必須以他們知道的最好的方式披露所有相關信息」，他說，這種強制性有望約束公司「不要走得太遠」。

    霍普克羅夫特說，在隱私領域，他觀察到的一個現象是，一些公司表面上做的事情好像對使用者有利，事實上是在為他們自己考慮，「隨著人們權力增大，他們在逐漸改變法律，讓法律變得對他們更加有利」。

    小檔案

    今年已經79歲的霍普克羅夫特，是世界計算機科學最高獎圖靈獎1986年的聯合獲得者、美國國家科學院和工程院院士、康奈爾大學計算機科學系教授，他去年底成為中科院外籍院士。

    每年，霍普克羅夫特都有一段時間在上海或北京的高校教授計算機科學。上海交通大學的網頁介紹，霍普克羅夫特同時是一位傑出的計算機科學教育家，為開創計算機科學人才教育模式做出了巨大貢獻。霍普克羅夫特在算法設計方面的著作《T he Desi-gn and A nalysis of Com puter A lgorithm s》開創了算法理論的講授模式，深刻影響了幾代計算機科學工作者對算法的理解和應用。他的若干著作均成為計算機科學的經典教材，在世界範圍內廣泛應用。近年來，霍普克羅夫特積極探索並指出計算機科學的前瞻發展方向，在機器學習、並行計算和社會複雜網絡方面做出了一系列重要貢獻。

    此外，霍普克羅夫特在2016年獲頒「中國政府友誼獎」，該獎項是中國政府為表彰在中國現代化建設和改革開放事業中作出突出貢獻的外國專家而設立的最高獎項。他致力於推進我國計算機科學人才教育發展與改革。

    海德堡計算機數學論壇去年已是第五年舉辦，獲邀的20多名專家是計算機和數學領域的翹楚、多屆圖靈獎(A C M A .M .T uring A w ard)、菲爾茲獎(F ieldsM edal)、奈望林納獎(N evanlinna Prize)的獲得者，這個論壇同時邀請超過全球200名計算機科學和數學領域的新銳參加。獲邀的年輕華裔科學家戈宗元表示，作為後輩，他覺得霍普克羅夫特非常勵志，「今年78歲了，還活躍在學科前沿，和他人聯名發表深度學習的論文。」

    他們說

    最多10年，機器意識就會出現，據我所知，目前已經有大學教授在做相關的實驗。我們會活在一個美好世界，所做的準備遠比我父母輩可以做的更充分。一旦人類可以製造機器意識，自然可能被善用，也可能被濫用。機器可以幫助我們，可以是個好東西，可以增加洞察力，他們是我們的孩子，我們可以讓機器聰明且有意識。——— 圖靈獎獲得者、委內瑞拉計算機科學家曼紐爾·布盧姆(Manuel B lum )

    如果未來的人工智慧還是基於目前的技術和方法，我認為100年都不會出現機器意識。譬如人臉識別，這都是基於統計學的方法，從數據和它標註的信息裡進行學習，學出來的模型只是對數據分布進行了擬合。也就是說，所學即所得，模型不會理解人臉之外的東西，有非常大的局限性。而自我意識的第一步是邏輯理解，邏輯理解這第一步不是短期內(20年內)能夠解決的問題。———IB M華裔青年科學家戈宗元

    統籌：南都記者 董黎明 採寫：南都記者 張豔芬

相關焦點

  • 如何讓 AI 產生意識？
    「意識不是設計出來的。」谷淳博士說，他也是1998年那次實驗的設計師，現在是衝繩技術大學認知神經機器人學研究組的教授。他表示，我們可以通過一個比喻來描述他的機器人所經歷的「意識」。他表示：「當你學習駕駛的時候，首先要有意識地進行控制，然後在經過一些練習後，大部分工作都是在無意識的情況下進行的，你可以一邊駕駛一邊與人交談。」雖然我們並不需要時刻保持專注的高級意識水平，但是對於人類來說，學習新技能或適應突發性挑戰時，這種意識水平至關重要。如果AI系統和機器人可以獲得相同的優先級、關注力和解決問題的能力，那麼它們也可以避免困擾自己的愚蠢行為。
  • 如何讓 AI 產生意識?
    谷淳博士說，他也是1998年那次實驗的設計師，現在是衝繩技術大學認知神經機器人學研究組的教授。他表示，我們可以通過一個比喻來描述他的機器人所經歷的「意識」。也就是說，這些機器人實際上並沒有按照我們知道的方式進行思考，它們只是表現出結構上相似的行為。然而，他對機器思維和人類思維之間的相似之處持有濃厚的興趣。他曾試圖通過機器人來模擬與自閉症相關的神經反應。
  • 理解意識:人類是自我維持且渴望自身存續的「野獸機器」
    笛卡爾認為，人類之外的動物不過是沒有任何內在世界的「野獸機器」。在他看來，生理調節的基本過程與精神或意識幾乎沒有關係。而在蘇塞克斯大學認知與計算神經科學教授、《意識神經科學》（牛津大學出版社）主編Anil K Seth看來，我們對意識自我的體驗可能取決於以穩定自身混亂的生理與動物性的血液和內臟為目的的預測感知。
  • 機器會有意識嗎?西部世界會成真嗎?
    庫茲韋爾的代表作《機器之心》詳細地闡述了他的想法。這裡的機器之「心」，指的就是機器擁有自主意識。庫茲韋爾醉心於讓機器人擁有自主意識的前沿研究。不同於弗蘭肯斯坦將不同人體的器官和組織拼湊在一起的粗糙做法，也不同於電影天馬行空的虛幻想像，在庫茲韋爾的構想裡，人類將是半人半機的構造。
  • 粒子機器人,能否敲開機器意識覺醒之門?
    自從1920年捷克作家卡雷爾·恰佩克在他的劇本《羅素姆的萬能機器人》(Rossum’s Universal Robots)中，第一次使用robot這個詞，描繪了被機器人統治的世界以後，全球的劇作家們就開始各种放飛想像。
  • 機器智能將是人類意識進化的巔峰?
    不論是上傳大腦數據、矽基神經元系統還是量子計算，在作者看來都無法迴避一個能量問題：現實和理論存在著無法逾越的鴻溝。所以，作者大膽猜想：結合費米悖論，有沒有可能那些地外文明早就存在了呢？只不過，出於能量效率的考慮，他們已經從機器智能回歸到了生物學？
  • 50年後的未來意識世界
    【50年後的未來意識世界】 我們都知道整個世界分為物質世界和意識世界，每個人都是物質和意識的結合體。唯物主義思想認為：物質決定意識，意識對物質具有一定能動性和推動作用，意識世界是不能獨立存在，必須依賴於物質世界。這種思想是基於當時的科學技術和生產力水平認知為基礎的。
  • 人腦中的『造夢機器』與意識的產生
    神秘的意識體驗是可以被製造的。這並不是無稽之談，現代科學已經證實了這一點，並得出了許多可重複性的實驗結果。通過刺激人體不同的腦區，使人獲得非現實的、但對於個體來說絕對「真實」的意識體驗。比如使人「看到」並沒實際看見的影像；使人「聞到」並未真實產生的氣味等。
  • 劉曉力做客新人文講座解析人類意識與機器意識的哲學爭論-清華大學...
    經歷了60餘年的發展，今日人工智慧在很多領域取得了重大成就，特別是2016年阿爾法狗（AlphaGo）強勢來襲和《機器姬》等一系列科幻電影的問世，人們對於具有意識和自我意識的人工智慧恐慌情緒日漸增加。但是，她認為，今天的人工智慧還沒有很好的感知能力，還是「無心的機器」。機器還不能理解符號的意義、沒有意識和意識經驗、缺少與外部世界互動的自主性，而且沒有自我覺知。
  • AI與機器人的42個終極問題,機器人能否產生意識?
    通用人工智慧(AGI)是指有能力理解和學習人類所能做到的任何智力任務的機器智能。全面比肩甚至超越人類的AGI一直以來都是AI領域的一大終極目標，這一目標也被稱為「 AI奇點」。未來學家雷 • 庫 玆韋爾給出了他認為的AI奇點的到達時間： 2045年。
  • 霍金、比爾蓋茨懼怕的AI智能意識已有頭緒，未來識別意識成為可能
    1、關於人類的意識研究早在1990年克里斯多福·科赫與弗朗西斯·克裡克就聯合寫了首篇關於「意識相關神經區（簡稱ncc)」論文，專注研究意識在大腦中的產生位置以及發生時間，企圖找出意識是由什麼控制的？研究它的物理性質，運作過程等等。
  • 伊朗科學家宣稱已發明"時間機器" 可預測未來8年
    據英國《每日電訊報》4月10日報導，伊朗科學家宣稱已經發明「時間機器」，可以讓人預測未來8年的世界。伊朗德黑蘭科學家阿里·拉齊格（Ali Razeghi）已經在伊朗戰略發明中心註冊Aryayek時間旅行機的專利。
  • AI人工智慧能產生自主意識嗎？
    我想提一個大膽的假設，隨著科技發展，人類的身體會老死，但是意識可以延續保留對嗎？那麼未來的人類，可能會成為半機械化，或者擁有全機械化身體。而大腦意識和記憶，就可以在新的身體得以延續。最終實現古代君王所一直追求的長生不老，永生不死。
  • 「CVPR 2018」機器也能感知時間,AI系統可預測5分鐘內的未來!
    從幾百萬年前起，第一個原始人類仰望星空，對宇宙產生好奇開始，我們人類對周遭世界的理解和把控，已經達到了相當嫻熟的程度。我們已經可以超音速飛行，可以轉基因，還能治療癌症。但是，有一件事情是我們一直沒有做得很好的，那就是對「時間」的感知——如何從當下推斷未來，如何最大限度的利用這種推測？現在看，機器似乎可以幫助我們做到這一點。
  • 專家預測：2100年，全球海平面或將上升40釐米
    外媒援引研究人員的話稱，格陵蘭島和南極洲的冰蓋正按照聯合國預測的海平面上升的最壞情況發展，這凸顯了當前氣候變化模型的缺陷。這兩處冰蓋完全消融後的融水量，足以使海平面上升65米。據法新社巴黎8月31日報導，從2007年至2017年，由於冰川消融崩塌所造成的冰蓋大規模減少幾乎與政府間氣候變化專門委員會作出的最極端的預測結果完全一致。該委員會預測，到2100年，格陵蘭島和南極洲的冰蓋將使全球海平面上升40釐米。他們在《自然·氣候變化》月刊上發表了其預測結果。
  • AI人工智慧可以產生自主意識嗎？
    我想提一個大膽的假設，隨著科技發展，人類的身體會老死，但是意識可以延續保留對嗎？那麼未來的人類，可能會成為半機械化，或者擁有全機械化身體。而大腦意識和記憶，就可以在新的身體得以延續。最終實現古代君王所一直追求的長生不老，永生不死。當然從生物基因上來說，通過基因改造或者可以讓人類變得更完美和理想化，但只生命體，始終都避免不了退化和老死。
  • 科學家解讀人工智慧:當機器有了意識 我們是謹慎接納還是拒絕
    來源：澎湃新聞原標題：往屆回聲|當機器有了意識，我們是謹慎接納還是拒絕編者按：第三屆世界頂尖科學家論壇將於10月30日-11月1日在上海舉行。包括61位諾貝爾獎得主在內，近140位諾貝爾獎、圖靈獎、菲爾茲獎、沃爾夫獎、拉斯克獎等全球頂尖科學獎項得主出席。論壇期間將有130餘場科學家獨立演講、70餘場主題峰會，大部分活動將通過網絡向公眾直播。
  • 乘時間機器去八十萬年後的世界
    [摘要]時間旅行者乘坐時間機器去往未來八十萬年之後的世界，在這個時代，人類分化成居住在地面上的埃洛伊人和只能在地下活動的莫洛克人。兩個族群暗示著社會階層貧富差距的巨大分化。本文摘自《時間機器》，[英]赫伯特·喬治·威爾斯著，江蘇鳳凰文藝出版社，2015年8月。
  • 人工智慧機器人會產生意識嗎?如果會,有什麼後果?
    這是科幻小說和電影中常見的橋段，機器覺醒自我意識，改變了人類和機器之間的相互關係。這是否真的有可能發生呢？機器人想要產生意識絕沒有想像的那麼簡單。雖然計算機科學家和工程師們創造了一些模擬「思維」的算法，但這只是一種很淺顯的表象的模擬，與真正賦予機器意識仍然有本質的不同。關於人類的意識，科學家都還有太多不了解的地方。
  • 我們需要打造有意識的人工智慧嗎?
    無論是在小說還是電視節目中，意識對人工智慧而言都像是一種詛咒。它們會刻意做出無法預測的行為，而這些行為往往對人類不利。但在現實世界中，這種反烏託邦式的情景其實不大可能出現。無論人工智慧會造成何種風險，都不取決於它們是否具備獨立意識。恰恰相反，有意識的機器還能幫助我們應對人工智慧技術帶來的衝擊。有專家表示，相比毫無想法的自動化技術，他寧願與這些有意識的機器共事。