深度學習如何導致類人AI?需要解決三個問題

2021-01-16 騰訊網

深度學習是通往類人AI的道路嗎?加拿大AI研究人員Yoshua Bengio給出的回答是:是的,如果AI研究人員能設法解決功能遷移學習、高級認知和更多的人工智慧操作空間這三個重要問題的話。

新任務和遷移學習

當前的AI系統高度專業化,遇到未知的任務會即刻失敗,因此,必須就每個任務對它們進行訓練,比如,一個圖像分析AI,雖然已經可以識別貓,但要用來識別老虎,就必須用幾十張老虎的圖片來重新訓練它。而一個孩子通常通過一個例子即可學習區別。

成功的遷移學習應大大減少訓練實例的數量,從而使神經網絡的學習能力更接近於人。這將使AI系統更加靈活,並大大提高學習速度。

在實踐中,已有一些初步的成功,例如谷歌的圖像分析AI Inception,這是一種經過預先訓練的AI模型,經過少量訓練後就可以成功地用於檢測疾病。到目前為止,除了在專業化領域,幾乎沒有其他AI系統實例可以自我學習新任務。

高級認知的特性

人類智力有很多方面:直覺,邏輯思維,有意識和潛意識的反應,戰略計劃,以及本能行為。心理學家丹尼爾·卡尼曼(Daniel Kahneman)在有影響力的大腦研究暢銷書《思維,快和慢》中將人類認知分為「系統1」和「系統2」。

「系統1」的認知是直覺的、快速的、無意識的、非語言的和習慣性的。「系統2」的認知是緩慢的、邏輯的、順序的、有意識的、語言的、算法的、計劃的和推論的,能操縱高級的語義概念並理解因果關係。

Bengio認為,當前所有的深度學習系統都可以再現「系統1」的認知。類似人類的深度學習系統還必須重現「系統2」認知的某些(如果不是全部)特性。

已經有嘗試通過深度學習系統學習至少部分的「系統2」認知。例如,來自Deepmind的新研究論文表明,神經網絡可以擊敗CLEVRER,滿足衡量得出簡單邏輯結論能力的基準。

現實世界中有視角的AI

Bengio說,除了遷移學習和「系統2」認知能力外,類人AI還需要現實世界中人的視角。例如,AI可以體現在機器人中,從而暴露於變化的環境中,例如不同的位置、時間、傳感、目標或策略。

Bengio認為,特別是與其他代理的交互可能會導致AI系統不斷學習,因此可能有助於遷移學習的發展。Bengio還認為與現實世界的互動對於理解因果關係必不可少,而這又是「系統2」認知的基本技能。

通過機器學習探索意識

Bengio將上述路徑視為關於人類類人工智慧的研究項目。他認為,這三個研究項目都是相互聯繫的,只有解決了這三個問題,才有可能實現類似人類的AI。他不使用通用人工智慧一詞。他同意Facebook的AI研究員Yann LeCun的觀點,即不存在一種通用的智能形式——如果存在,那麼它就不是人類。

根據Bengio的說法,在通往類人智能和「系統2」認知的道路上需要意識。但是,目前尚無關於意識的公認的科學定義。Bengio在這裡看到了AI研究的巨大機會:現在是時候通過機器學習來探索意識了。人工智慧研究可以形式化並測試意識的特定功能。

Transformer技術的發明是該領域邁出的第一步,該技術是機器注意力的一種機制,在過去兩年中從根本上提高了語音和圖像AI的功能。下一步是研究人工意識。

相關焦點

  • 超實用總結:AI實踐者需要用到的10個深度學習方法
    Stanford和Google在2012年聯合發表的文章《使用大規模非監督學習構建高層特徵》(Building High-Level Features Using Large-Scale Unsupervised Learning)中,解決了僅利用未標記的數據構建高級、特定類的特徵檢測器的問題。
  • 相關不等於因果,深度學習讓AI問出「十萬個為什麼」
    這類問題上表現出色。  「但現實世界中,很多問題是無法僅通過曲線擬合度解決的,」莫漢蒂說。如果幾個因素都可以預測產品偏好,那企業應該選擇哪些因素以及如何確定其重要性順序呢?簡單地將不同變量按強度排列與獨立選擇一些因素並單獨評估其對預測結果的貢獻程度的結果是不同的。  「我們可以觀察相關性,但並不能證明甚至解釋因果關係,」莫漢蒂說。
  • 專家深談:深度學習成功的啟示,以及,為什麼它不能解決全部AI問題?
    本文原標題為《深度學習在計算機視覺領域成功的啟示與開放問題討論》。大數據支撐的深度學習的復興固然是AI領域的裡程碑式進步,但並不意味著深度學習具有解決全部AI問題的潛力。比如,為了解決圖像模式識別問題,過去經常將其分解為預處理、特徵提取與選擇、分類器設計等若干步驟。再如,為了解決非線性問題,可以採用分段線性方式來逼近全局的非線性。這樣做的動機是很清晰的,即:子問題或子步驟變得簡單、可控,更易解決。
  • AI 從業者該如何選擇深度學習開源框架丨雷鋒網公開課
    正如程序語言一樣,深度學習開源框架同樣各有優劣和適用的場景,那麼 AI 從業者該如何有針對性地選擇這些平臺來玩轉深度學習?本期公開課特邀了先後在谷歌、亞馬遜、微軟供職的機器學習科學家彭河森博士為大家講述《MXNet火了,AI從業者該如何選擇深度學習開源框架》。彭河森博士親眼見證並深入參與了這三家巨頭布局深度學習的過程。嘉賓介紹彭河森,埃默裡大學統計學博士。
  • 如何區分人工智慧、機器學習和深度學習?
    在深度學習網絡中,每一個節點層在前一層輸出的基礎上學習識別一組特定的特徵。隨著神經網絡深度增加,節點所能識別的特徵也就越來越複雜,因為每一層會整合併重組前一層的特徵。生成模型本身不是做分類或者序列標註的,但是可以用來解決這些問題,也可以用於生成式問題,比如聊天機器人、比如AI譜曲等問題。而機器學習可以分成下面幾種類別:監督學習從給定的訓練數據集中學習出一個函數,當新的數據到來時,可以根據這個函數預測結果。監督學習的訓練集要求是包括輸入和輸出,也可以說是特徵和目標。訓練數據中的目標是由人標註的。
  • 讓神經網絡給符號AI「打工」,MIT和IBM聯合解決深度學習痛點,未來...
    使用複雜的深度神經網絡可以解決此問題。但是,IBM、MIT和DeepMind的研究人員提出了一種截然不同的解決方案,顯示出符號AI的強大能力。該方法相關論文已經被ICLR 2019收錄。首先,神經網絡學習將視頻片段分解為目標的逐幀表示,然後被饋送到另一個神經網絡,學習分析這些目標的運動以及它們如何相互影響,並可以預測目標的運動和碰撞。這兩個模塊共同構成了知識庫。其他兩個模塊處理問題並將其應用於生成的知識庫。
  • 深度強化學習:阿里巴巴「AI 智能體」認知
    競爭的話,又如何用數學的東西表達它,進而在這個基礎上解決一些以前沒有解決的問題。同時前沿的研究對用計算的方式探索人類的「意識」也是個新的方向,如弗洛伊德提出的自我、本我、超我等方式,如何一步步用人工智慧的可計算方式進行逼近和研究,會非常有價值。
  • 十行代碼就能搞定深度學習?飛槳框架高層API,輕鬆玩轉AI
    另:文末有福利,一定要看完呦~高層 API,What深度學習作為人工智慧時代的核心技術,近年來無論學術、還是工業領域,均發揮著愈加重要的作用。然而,深度學習理論太難學,開發過程太複雜,又將許多人拒之於深度學習的門外。
  • 深度學習自學指南:6個月,從基礎知識到模型構建
    原作:Bargava安妮 編譯自 Medium量子位 出品 | 公眾號 QbitAI給你6個月的時間開始學習深度學習,能夠達到怎樣的程度?在這篇文章中,數據科學培訓老師Bargava就帶你半年入門深度學習。在這份攻略中,我將給大家講講零基礎入門深度學習可行性強的資料和學習方法。
  • 深度學習與統計力學(I) :深度學習中的基礎理論問題
    對英文原報告感興趣請在本公眾號回復關鍵詞「深度學習統計力學」。深度神經網絡最近在機器學習方面取得了顯著的成功,這就對其成功背後的理論原理提出了深刻的問題。例如,這樣的深層網絡可以計算什麼?我們如何訓練他們?信息是如何通過它們傳播的?為什麼他們泛化能力很好?我們怎麼能教他們想像呢?
  • 零基礎入門深度學習(六):圖像分類任務之LeNet和AlexNet
    上一節主要介紹了卷積神經網絡常用的一些基本模塊,本節將基於眼疾分類數據集iChallenge-PM,對圖像分類領域的經典卷積神經網絡進行剖析,介紹如何應用這些基礎模塊構建卷積神經網絡,解決圖像分類問題。
  • 看因果深度學習如何教AI人工智慧去問為什麼
    AI可以利用深度學習技術來構建相關關係模型。深度學習技術通過關聯數據點在構建模型方面做得很好。但是許多AI研究人員認為,需要更多的工作來理解因果關係,而不僅僅是相關性。現場因果深度學習(對確定某件事發生的原因很有用)仍處於起步階段,並且自動化比神經網絡困難得多。許多AI都是關於在大量數據中查找隱藏模式的。
  • 李沐《動手學深度學習》第一章:機器學習簡介
    《動手學深度學習》是一本深度學習在線書,其使用 Apache MXNet 的最新 gluon 接口來演示如何從 0 開始實現深度學習的各個算法。作者利用 Jupyter notebook 能將文檔、代碼、公式和圖形統一在一起的優勢,提供了一個交互式的學習體驗。
  • 一文讀懂深度學習中的矩陣微積分,fast.ai創始人&ANTLR之父出品
    魚羊 編譯整理量子位 報導 | 公眾號 QbitAI想要真正了解深度神經網絡是如何訓練的,免不了從矩陣微積分說起。這位ANTLR之父和fast.ai創始人Jeremy Howard一起推出了一篇免費教程,旨在幫你快速入門深度學習中的矩陣微積分。簡明,易懂。
  • 當AI遇到生物-深度學習在生物研究中的應用案例列表
    深度學習究竟將如何改變未來,一個具有光明前景的領域就是其在醫療以及生物學相關問題上的應用,在相關論文預印本網站bioRxiv上,可以找到很多相關的文章
  • 《好好學習》:8招讓你提高臨界知識與認知深度,做個會學習的人
    學習是一個人精進最低的成本,但是做到知識吸收其實過程不容易,不是每個人都可以做到「學有所成」。怎麼讓學習更高效?成甲老師的《好好學習:個人知識管理精進指南》這本書,給大家分析了為什麼學不進,是因為認知效率和認知深度未達到,讓你無法掌握臨界知識。今天我就來和大家分享這本書的內容。認知深度和臨界知識什麼是認知深度?
  • 理解深度學習中的學習率及多種選擇策略
    相比於其它超參數學習率以一種更加複雜的方式控制著模型的有效容量,當學習率最優時,模型的有效容量最大。從手動選擇學習率到使用預熱機制,本文介紹了很多學習率的選擇策略。這篇文章記錄了我對以下問題的理解:學習速率是什麼?學習速率有什麼意義?如何系統地獲得良好的學習速率?我們為什麼要在訓練過程中改變學習速率?當使用預訓練模型時,我們該如何解決學習速率的問題?
  • 關於深度學習你必須知道的幾個信息理論概念
    資訊理論是一個重要的領域,它對深度學習和人工智慧作出了重大貢獻,但很多人對它卻並不了解。:「如何量化信息?我們如何量化兩個句子之間的差異?我們能否有一個數學測量方法告訴我們第二句話與第一句話相比多了多少信息?科學家們一直在努力解決這些問題。語義,域和數據形式只會增加問題的複雜性。數學家和工程師克勞德·香農提出了「熵」的概念,它永遠改變了我們的世界,這標誌著數字資訊時代的開始。
  • 沒有完整圖時,如何使用圖深度學習?你需要了解流形學習2.0版本
    那麼,具有流形學習 2.0 之稱的潛圖學習方法如何呢?自從神經網絡提出以來,其在人臉識別、語音識別等方面表現出卓越的性能。以前需要人工提取特徵的機器學習任務,現在通過端到端的方法就能解決。傳統的深度學習方法在提取歐氏空間數據(比如圖片是規則的正方形柵格,語音數據是一維序列)的特徵方面取得了巨大的成功。
  • 如何將深度學習應用於無人機圖像的目標檢測
    這是一項手工任務,需要精確性和準確性,因為「輸入垃圾意味著輸出垃圾」。 除了手動完成之外,沒有什麼神奇方法來解決標籤問題。在Nanonet,我們根據需要提供 可以為你標記數據的注釋器。圖像尺寸大:無人機圖像尺寸很大,大多數情況下解析度超過3000px X 3000px。這增加了處理此類圖像時的計算複雜度。