DeepMind-深度學習:AI革命及其前沿進展(54頁ppt報告)

2020-12-06 新智元

新智元 AI World 2018 世界人工智慧峰會全程回顧新智元於9月20日在北京國家會議中心舉辦AI WORLD 2018世界人工智慧峰會，邀請機器學習教父、CMU教授 Tom Mitchell，邁克思·泰格馬克，周志華，陶大程，陳怡然等AI領袖一起關注機器智能與人類命運。愛奇藝上午：https://www.iqiyi.com/v_19rr54cusk.html下午：https://www.iqiyi.com/v_19rr54hels.html新浪：http://video.sina.com.cn/l/p/1724373.html新智元推薦 來源：專知

【新智元導讀】2018年9月9日-14日，DeepMind主辦的Deep Learning Indaba 2018 大會在南非斯泰倫博斯舉行。會上，牛津大學教授Nando de Freitas和其他15位專家做了《深度學習：AI革命及其前沿進展》的報告。

瀏覽器版本過低，暫不支持視頻播放

震撼！AI WORLD 2018世界人工智慧峰會開場視頻

Nando de Freitas

Nando de Freitas是一名來自牛津大學的擁有高聲望和優良業界口碑的機器學習教授。在2000年拿到Trinity College的博士學位後，1999至2001年他在 UC Berkeley擔任博後，2001至2014年在 University of British Columbia擔任教授，他還是加拿大高級科研學會（CIFAR）的一員，並拿到了許多學術類的獎項。Nando本人在其網站上這樣簡潔地描述他的興趣：我想明白智能以及思考的機理。我的工具有計算機科學，統計學，數學和無盡的思考。2015年12月26日，Nando de Freitas加入了由Reddit管理的AMA（Ask Me Anything）平臺。

報告導讀

人工智慧進展的關鍵要素：基礎科學理論、數據、計算力、算法軟體

深度學為什麼成功的另一視角： 深度神經網絡從數據中學習

神經編程編譯器

人工智慧前沿7大熱點：

強化學習元學習模仿學習機器人概念與抽象感知與意識因果推理

強化學習框架

AlphaZero

模仿：幫助我們在強化學習中解決探索

模仿人學習非常重要：翻譯、語音模型，通用協同

觀看Youtube視頻學習，人可以從視頻中學習各種技能，機器是否同樣來學習？

挑戰：領域鴻溝、沒有動作、沒有獎賞

跨模態距離分類

時序距離分類

感知意識：思維意識理論

世界自身的知識能夠幫助解構和表示學習

學習確認的智能代理、行為和意圖非常重要

一個智能機器必須知道它知道什麼和它不知道什麼

感知意識提供一個模仿學習的框架

慢學習以更快學習

few shot 元學習

條件策略的one-shot 模仿學習

因果推理

其他人工智慧的前沿領域包括：

抽象，概念、關係，物體，程序，架構自監督自動選取任務持續性知識表示基準性語言理解情感性動機型系統魯棒性、靈活性與軟體框架模塊發明道德和治理

（本文經授權轉載自

更多閱讀：

馬斯克：人類極有可能生活在更高文明模擬的矩陣遊戲中

強化學習重大突破：DeepMind用一個AI在57個遊戲中全面超越人類

新智元AI WORLD 2018世界人工智慧峰會

全程回顧

新智元於9月20日在北京國家會議中心舉辦AI WORLD 2018世界人工智慧峰會，邀請機器學習教父、CMU教授 Tom Mitchell，邁克思·泰格馬克，周志華，陶大程，陳怡然等AI領袖一起關注機器智能與人類命運。

全程回顧新智元 AI World 2018 世界人工智慧峰會盛況：

愛奇藝

上午：https://www.iqiyi.com/v_19rr54cusk.html

下午：https://www.iqiyi.com/v_19rr54hels.html

新浪：http://video.sina.com.cn/l/p/1724373.html

相關焦點

  • 深度學習之Google Deepmind的Alphago人工智慧算法技術演變歷程
    2016年Google與facebook兩個大拿在圍棋領域基於深度學習都發表了文章，其中facebook文章如下：《BETTER COMPUTER GO PLAYER WITH NEURAL NET- WORKAND LONG-TERM PREDICTION》 ；Google文章如下：《Mastering the game of Go with deep neural networks and tree
  • 「燒錢機器」DeepMind持續多年虧損後,仍無商業...
    近日，這家世界頂級明星公司向英國公司註冊局備案提交了最新財務報告，報告顯示，DeepMind 2019虧損達4.77億英鎊（約合42億人民幣）。相比於2018年的4.70億英鎊虧損，增長了1.5%。另外，DeepMind的主要研究領域是深度強化學習，它需要非常昂貴的計算資源。據了解，其2019開發的項目，包括《星際爭霸2》的AI系統和《雷神之錘3》的AI系統，都花費了數百萬美元的培訓費用。今年推出的預測蛋白質摺疊結構的AlphaFold，同樣是非常昂貴的項目。人才僱傭成本也是不可忽視的重要一項。
  • 『燒錢機器』DeepMind持續多年虧損後,仍無商業...
    另外，DeepMind的主要研究領域是深度強化學習，它需要非常昂貴的計算資源。據了解，其2019開發的項目，包括《星際爭霸2》的AI系統和《雷神之錘3》的AI系統，都花費了數百萬美元的培訓費用。今年推出的預測蛋白質摺疊結構的AlphaFold，同樣是非常昂貴的項目。人才僱傭成本也是不可忽視的重要一項。
  • 谷歌DeepMind 的可微分神經計算機 DNC 怎麼樣?看 Facebook AI...
    賈揚清，擁有加州大學伯克利分校計算機科學博士學位、清華大學碩士學位和學士學位，曾於新加坡國立大學、微軟亞洲研究院、NEC美國實驗室、Google Brain工作，現任 Facebook 研究科學家，主要負責前沿AI 平臺的開發以及前沿的深度學習研究。
  • AI巨頭實力排名新鮮出爐:DeepMind第一,IBM墊底
    這還不包括 Deepmind 或谷歌其他團隊（搜索團隊、VR、Photos團隊等）的論文。雖然比較被接收的論文數量不是很好的指標，但我想消除那些暗示谷歌大腦不是深度學習研究的好地方的說法。谷歌大腦也是擁有很強協作靈活性的產業研究組織。
  • DeepMind綜述深度強化學習中的快與慢,智能體應該像人一樣學習
    近年來，深度強化學習方法給人工智慧領域帶來了很大的進展，在很多領域都超越了人類表現，比如雅達利遊戲、圍棋和無限制德撲。這些技術允許深度強化學習更靈活地進行操作，能夠比之前的方法更快速地解決問題。深度強化學習的快與慢近期的 AI 研究引出了強大的技術，如深度強化學習。深度強化學習將表示學習和獎勵驅動的行為結合起來，似乎與心理學和神經科學具備內在的相關性。然而深度強化學習需要大量訓練數據，這表明深度強化學習算法與人類學習的底層機制存在根本區別。
  • DeepMind宣布解決蛋白質摺疊問題，獲92.4準確性得分
    AlphaFold 2憑事實，告訴大家：這個進展確實真實而且靠譜的。參考連結：https://deepmind.comalphafold-a-solution-to-a-50-year-old-grand-challenge-in-biologyhttps://www.nytimes.com/2020/11/30/technology/deepmind-ai-protein-folding.html
  • DeepMind 綜述深度強化學習:智能體和人類相似度竟然如此高!
    ，深度強化學習（Deep reinforcement learning）方法在人工智慧方面取得了矚目的成就，從 Atari 遊戲、到圍棋、再到無限制撲克等領域，AI 的表現都大大超越了專業選手，這一進展引起了眾多認知科學家的關注。
  • DeepMind提出可微分邏輯編程,結合深度學習與符號程序優點
    這種區別對我們來說很有意思，因為這兩類思維對應著兩種不同的機器學習方法：深度學習和符號程序合成（symbolic program synthesis）。深度學習專注於直觀的感性思維，而符號程序合成專注於概念性的、基於規則的思考。
  • DeepMind新GNN模型,將谷歌地圖預估到達準確率提升50%!
    確定最優路線及其出行時間的模型架構解決架構問題研究人員要面對一個挑戰：架構問題。利用現有的交通系統，特別是已有的道路網分割和實時數據 pipeline，全連接神經網絡模型表現良好。在訓練過程中動態調整圖神經網絡的學習速率，以使系統學習自己的最佳學習速率時間表。根據DeepMind的說法，通過在訓練過程中自動調整學習率，該模型不僅表現優異，還學會了自動降低學習率。實驗表明，似乎範圍越大，預測能力越強。例如，考慮小路上的擁堵狀況對大路交通情況的影響。
  • 深度學習 Memory & Attention 技術最新進展 (75PPT下載)
    原標題：深度學習 Memory & Attention 技術最新進展 （75PPT下載） 新智元編譯1 來源 作者：Stephen Merity 編譯：弗格森 【新智元導讀】Memory 和 Attention 技術目前在深度學習中得到了較為廣泛的採用
  • 從AlphaGo到蛋白質摺疊,Deepmind在不斷捅破AI領域的天花板!
    Deepmind最初由三名科學家聯合創辦，就像其創始人兼CEO哈薩比斯（Demis Hassabis）所說的，它的性質更像一個科技研究院而不是創業公司，因為公司一開始並沒有任何產品，而是一直在通過遊戲來研究人工智慧算法。在被谷歌收購前，Deepmind通過人工智慧的無監督學習算法打爆了57個atari遊戲，即八九十年代國內也很流行的小霸王卡帶遊戲。
  • 2019 AI Index 報告出爐:AI 領域取得的進展很多,但結果憂喜參半
    對此，Global Vibrancy 工具則提供了一種選擇，它可以用總體數字和人均趨勢來進行評估，以判斷出 AI 熱點地區（比如說以色列，它的人均深度學習研究比任何其他國家都高）或 AI 發展走在前沿的國家（如芬蘭和新加坡）。今年早些時候，一家諮詢公司聯合聯合國證實，目前約有 30 個國家制定了國家級的人工智慧戰略。
  • DeepMind推出蛋白質結構預測算法,大勝人類傳統模型!
    因此，科學家們開始利用AI技術開發深度學習算法，在基因組學數據的基礎上對蛋白質結構進行預測。在此基礎上，AlphaFold誕生了。和以往方法不一樣的是，AlphaFold並未使用已經明確結構的蛋白質3D模型作為模板，而是從頭開始探索預測方法。
  • DeepMind重大突破:DNN具有人類行為,認知心理學破解黑箱
    編者按：本文由微信公眾號編譯，來源：deepmind.com 等，作者：DeepMind、Brian Mingus，編譯：熊笑；36氪經授權發布。為了展示這一點，我們的研究報告包括了一個案例研究：我們設計了一個實驗，來闡明人類認知，從而幫助我們理解深度神經網絡是如何完成一個圖像分類任務的。我們的研究顯示，認知心理學家觀察到的行為，同樣出現在深度神經網絡中。而且，對於網絡是如何完成圖像分類任務的，研究結果揭示出有用且令人驚訝的洞見。更籠統地說，案例研究的成功體現出了使用認知心理學理解深度學習系統的潛力。
  • ...DeepMind AI解決生物學50年來重大挑戰,破解蛋白質分子摺疊問題
    11 月 30 日，一條重磅消息引發了科技界所有人的關注：谷歌旗下人工智慧技術公司 DeepMind 提出的深度學習算法「Alphafold」破解了出現五十年之久的蛋白質分子摺疊問題。　　最新一代算法 Alphafold 2，現在已經擁有了預測蛋白質 3D 摺疊形狀的能力，這一複雜的過程對於人們理解生命形成的機制至關重要。
  • 吳恩達deeplearning.ai五項課程完整筆記了解一下?
    自吳恩達發布 deeplearning.ai 課程以來，很多學習者陸續完成了所有專項課程並精心製作了課程筆記，在此過程中機器之心也一直在為讀者推薦優質的筆記。上個月，deep learning.ai 第五課發布，該系列課程最終結課。Mahmoud Badry 在 GitHub 上開源了五項課程的完整筆記，介紹了包括序列模型在內的詳細知識點。
  • 50年難遇AI「諾獎級」裡程碑!DeepMind破解蛋白質摺疊難題
    為了了解蛋白質如何摺疊，DeepMind的研究人員在一個包含約170,000個蛋白質序列及其形狀的公共資料庫中對其算法進行了訓練。在相當於100到200個圖形處理單元(按現代標準，計算能力適中)上運行，這種訓練需要數周時間。
  • 50年難遇AI「諾獎級」裡程碑!DeepMind破解蛋白質摺疊難題
    為了了解蛋白質如何摺疊，DeepMind的研究人員在一個包含約170,000個蛋白質序列及其形狀的公共資料庫中對其算法進行了訓練。在相當於100到200個圖形處理單元(按現代標準，計算能力適中)上運行，這種訓練需要數周時間。
  • DeepMind AI破解「蛋白質摺疊」難題,攻克生物學50年...
    經過兩年的努力，DeepMind基於新的深度學習結構體系更新了AlphaFold，再次刷新了自己的記錄——從不足60GDT一躍上升為92.4GDT。引用連結：https://deepmind.com/blog/article/alphafold-a-solution-to-a-50-year-old-grand-challenge-in-biologyhttps://www.cnbc.com/2020/11/30/deepmind-solves-protein-folding-grand-challenge-with-alphafold-ai.html