深度學習概述:NLP vs CNN

2020-12-04 AI科技大本營

作者 | Manish Kuwar

譯者 | 蘇本如,責編 | 郭芮

頭圖 | CSDN 下載自視覺中國

出品 | CSDN(ID:CSDNnews)

以下為譯文:

當今,人工智慧已經不僅僅是一個技術術語了。這項技術在過去十年的時間內幾乎將其影響擴展到了所有行業。現在,每家公司都希望在其系統中實現這一尖端技術,以降低成本、節省時間,並通過自動化使整個工作流程更加高效。

最初的人工智慧和深度學習算法比較簡單,就像我們所知的簡單感知器模型和單層神經網絡一樣。隨著時間的推移和更加專注的研究,我們已經擁有了具有多層結構的複雜神經網絡。一些公司在他們的軟體和服務中使用了LSTMs、GANs、變分自編碼器等算法。

本文在以下部分列出了人工智慧領域當前最熱門的技術以及正在研究這些熱門技術的公司。看了這些創新之後,準備好大吃一驚吧。如果你想對這些技術作進一步的探索,你可以從這裡開始。

自然語言處理 – NLP

自然語言處理(Natural Language Processing - NLP)是人工智慧研究的熱點之一。NLP處理語言(文本數據)並執行諸如翻譯、音譯、語義分析、聊天機器人開發、文本擬態、文本轉語音等任務。在當前的場景中,NLP對組織非常重要,因為它通過自動化過程和減少人工幹預而提升了客戶支持。

除此之外,NLP技術也被用於基於對從社交媒體平臺挖掘的文本進行語義分析而開發營銷策略。然而NLP的難點在於,大多數NLP算法都是基於複雜的深層神經網絡,如RNNs、LSTMs和GRUs。為了讓自己有一個基本的印象,你可以把它們看作是我們先前提到的基於數據輸入(即記憶)的傳統神經網絡。

Dialogflow和Moveworks是基於NLP技術的兩家領先公司。讓我們簡單地看一下這兩家公司的情況。

Dialogflow

Dialogflow公司是谷歌的一家子公司,它專注於NLP技術的最新研究以及與之相關的模塊、API和平臺的開發。你可以將Dialogflow公司提供的服務集成到Amazon Alexa、Siri、Cortana,當然還有Google Home中。Dialogflow的服務使用長短期記憶神經網絡(LSTM)和遞歸神經網絡(RUN)來執行與文本和語言相關的任務。Dialogflow以其聊天機器人(chatbot)服務而聞名。

除此之外,像Dominos、Mercedes、Giorgio Armani這樣的公司正在藉助Dialogflow服務在其系統中嵌入聊天機器人和文本到語音服務。你可以輕鬆閱讀Dialogflow的服務文檔,並在幾分鐘內在你的網站/行動應用程式上準備好自己的聊天機器人。

Moveworks

Moveworks是一家總部位於加州山景城(加州Mountain View)的價值2億美元的公司。它是由Bhavesh Shah、Jiang Chen、Vaibhav Nivargi和Varun Singh聯合創建的。每一個聊天機器人和NLP產品都是基於遞歸神經網絡(RNN)或其後繼技術。Moveworks服務也不例外,它的服務的核心也是基於其自定義的遞歸神經網絡和基於相關數據訓練的LSTM網絡。

Moveworks為企業提供客戶支持自動化和NLP解決方案。它曾服務於Nutanix、Autodesk和Western Digital等巨頭。如果你想減少IT支持並使其自動化以節省成本,那麼強烈建議你考慮Moveworks。

卷積神經網絡 - CNNs

卷積神經網絡(CNNs)是應用最廣泛的深度學習算法。CNN算法本來是對傳統神經網絡的一個小小的改進,它進而發展成為人工智慧領域的一個革命性概念。今天,CNNs技術已經被廣泛地應用於目標檢測、人臉識別、計算機視覺和預測技術。

卷積神經網絡涉及到深層神經網絡中層的堆疊,並在其中對輸入圖像進行填充、卷積、縮放等操作。CNNs最棒的部分是將圖像轉換成數組(幾乎類似於一維矩陣),然後再進行數學運算,最終得到所需的輸出。要實現CNN,你只需要大量的數據和一臺計算機來訓練你的人工智慧模型。下面是幾家專注於計算機視覺和CNNs技術研究的公司。

Matterport

當Matterport公司的研發團隊發表了一篇關於Mask RCNN的論文時,它引起了人們的注意。這家總部位於加州Sunnyvale的公司,是計算機視覺產品的贊助人之一。此外,他們還開發了一種高效的計算機視覺目標檢測算法(Mask-RCNN),它是Fast RCNN和Faster RCNN的後繼算法。Mask-RCNN使用邊界框坐標和masking技術來識別已訓練模型中的對象。除了目標檢測之外,Matterport的Mask RCNN技術還被用於視頻呼叫應用程式中來更改背景。

今天,Matterport已經將增強現實技術與深度學習結合起來,並發明了現代最好的三維相機之一。Matterport生產的三維相機,可以用來可視化房屋結構,提供虛擬參觀,並顯示一個令人愉快的平面圖。

Neurala

這家位于波士頓的機器學習和軟體開發公司迎合了尋求過程自動化和計算機視覺解決方案的組織的需要。Neurala模型已經被用在了全球超過5,000萬臺設備上。CB Insights已將Neurala評為「100家最有前途的人工智慧公司」。多虧了它的那些擁有博士學位的創始人,他們讓Neurala的人工智慧軟體在包括智慧型手機在內的各種輕型設備上運行。這些軟體在各種設備上提供服務,包括個人電腦、智慧型手機、無人機、機器人和智能設備。

這些是可能可以幫助你建立基於人工智慧系統的最可靠和最好的公司。在盲目信任網際網路上的任何公司之前,強烈建議你先查看這些公司,它們可能可以幫助你降低成本,並為你提供最先進的服務。

原文:https://hackernoon.com/a-deep-learning-overview-nlp-vs-cnn-8gcj3222

追憶童年,教你用Python畫出兒時卡通人物如何用NLP輔助投資分析?三大海外機構落地案例詳解Gary Marcus:因果熵理論的荒誕和認知科學帶給AI的11個啟示 | 文末贈書AI 終極問題:我們的大腦是一臺超級計算機嗎?藉助大數據進行社交媒體營銷,企業們得這麼玩!力挺比特幣的世界第2交易員:僅次於索羅斯,連續25年無虧損

相關焦點

  • 乾貨| 請收下這份2018學習清單:150個最好的機器學習,NLP和Python...
    深度學習教程 (Quoc V.深度神經網絡中的多任務學習概述(sebastianruder.com)http://sebastianruder.com/multi-task/index.htmlNLP1、NLP《基於神經網絡模型的自然語言處理》(小學一年級~上冊)(Yoav Goldberg)http:/
  • ...請收下這份2018學習清單:150個最好的機器學習,NLP和Python教程
    (Stanford CS231n)http://cs231n.github.io/optimization-2/10、深度學習果殼裡的深度學習(nikhilbuduma.com)深度神經網絡中的多任務學習概述(sebastianruder.com)http://sebastianruder.com/multi-task/index.html
  • 乾貨 | 請收下這份2018學習清單:150個最好的機器學習,NLP和Python教程
    深度學習教程 (Quoc V.深度神經網絡中的多任務學習概述(sebastianruder.com)http://sebastianruder.com/multi-task/index.htmlNLP基於深度學習的NLP應用(arxiv.org)https://arxiv.org/pdf/1703.03091.pdf 基於深度學習的NLP(Richard Socher)https://nlp.stanford.edu/courses/NAACL2013/NAACL2013-Socher-Manning-DeepLearning.pdf
  • 一文概述 2018 年深度學習 NLP 十大創新思路
    這份清單包含主要與遷移學習相關的想法及其概述,不過也必然會帶有一定的主觀性。其中的大部分(一些例外)並不是一種趨勢(但我預測其中的一些想法在 2019 年會變得更具趨勢性)。最後,我希望在評論區中看到你的精彩評論或者其他領域的精彩文章。
  • 深度學習 vs. 概率圖模型 vs. 邏輯學
    【編者按】在上個月發表博客文章《深度學習 vs. 機器學習 vs. 模式識別》之後,CMU博士、MIT博士後及vision.ai聯合創始人Tomasz Malisiewicz這一次帶領我們回顧50年來人工智慧領域三大範式(邏輯學、概率方法和深度學習)的演變歷程。通過本文我們能夠更深入地理解人工智慧和深度學習的現狀與未來。
  • 【超全資源】自然語言處理(NLP)入門學習資源清單(部分資料下載)
    v=nfoudtpBV68&list=PL6397E4B26D00A269 •  斯坦福CS224d:自然語言處理的深度學習[更高級的機器學習算法、深度學習和NLP的神經網絡架構]http://cs224d.stanford.edu/syllabus.html •  Coursera:自然語言處理簡介[由密西根大學提供的NLP
  • 從語言學到深度學習NLP,一文概述自然語言處理
    第二部分描述的是基於深度學習的 NLP,該論文首先描述了深度學習中的詞表徵,即從 one-hot 編碼、詞袋模型到詞嵌入和 word2vec 等,我們首先需要數字表徵詞彙才能進一步做自然語言處理。該論文回顧了 NLP 之中的深度學習重要模型與方法,比如卷積神經網絡、循環神經網絡、遞歸神經網絡;同時還討論了記憶增強策略、注意力機制以及無監督模型、強化學習模型、深度生成模型在語言相關任務上的應用;最後還討論了深度學習的各種框架,以期從深度學習的角度全面概述 NLP 發展近況。如今,深度學習架構、算法在計算機視覺、模式識別領域已經取得驚人的進展。
  • 深度學習在NLP中的運用?從分詞、詞性到機器翻譯、對話系統
    》中,我們已經講到,2016 年是深度學習大潮衝擊 NLP 的一年,通過去年一年的努力,深度學習在 NLP 領域已經站穩了腳跟。其中,對話交互系統已經成為一個重要的應用研究領域,2017 年的自然語言對話系統,將開創一個新的人機互動時代。
  • NLP三大特徵提取器全梳理:RNN vs CNN vs Transformer
    Transformer 彌補了以上特徵提取器的缺點,主要表現在它改進了 RNN 訓練速度慢的致命問題,該算法採用 self-attention 機制實現快速並行;此外,Transformer 還可以加深網絡深度,不像 CNN 只能將模型添加到 2 至 3 層,這樣它能夠獲取更多全局信息,進而提升模型準確率。
  • CNN vs RNN vs ANN——3種神經網絡分析模型,你pick誰?
    作者丨ARAVIND PAI編譯 | 火火醬,責編丨Carol為什麼選擇深度學習?這個問題很有意義。機器學習算法並沒有什麼不足之處,那麼為什麼數據科學家要選擇深度學習算法呢?神經網路能夠提供給我們哪些傳統機器學習提供不了的功能呢?
  • 入門| CNN也能用於NLP任務,一文簡述文本分類任務的7個模型
    與之前學習單詞組合的模型不同,該模型學習的是字母組合,這樣就可以處理單詞的形態構成。 基於字符的表徵的一個優勢是可以更好地解決單詞拼寫錯誤的問題。該模型有助於學習單詞形態結構以及與這個單詞大概率相鄰單詞的形態結構。 將這些屬性結合在一起。
  • 「句子級」的深度強化學習方法難以求解器空間
    近期,nlp領域發生了兩件大事,可以說影響了整個rl界,分別是spancer-in-rl(用端到端模型替代完全獨立的backpropagation)以及negowave(深度神經網絡變革rl)。backpropagation和progressivegradientxpress(引入hinton先驗,更多方法變為基於歷史記錄的scheme)都是深度學習起步之初的主流方法,除此之外還有包括reinforcementlearning和proximalandadaptiverl等重要進展。但是深度學習從起步到發展至今,說的上的諸多進展似乎都停留在rl的範疇。
  • nlp領域發生了新的技術突破,用attention機制研究nlp領域
    近期,nlp領域發生了一系列的技術突破。包括:attention機制,cnn,adaptive attention network(an),兩層cnn相比較,an表現優於一層的cn。今天我們將從這兩種attention機制開始研究nlp領域突破性技術!
  • Keras vs PyTorch:誰是第一深度學習框架?
    三、Keras vs PyTorch:易用性和靈活性  Keras 和 PyTorch 的運行抽象層次不同。  Keras 是一個更高級別的框架,將常用的深度學習層和運算封裝進乾淨、樂高大小的構造塊,使數據科學家不用再考慮深度學習的複雜度。
  • 理解神經網絡:從神經元到RNN、CNN、深度學習
    並且形成了很多種類,像CNN(卷積神經網絡),RNN,自編碼,深度學習等等。神經網絡對於數據科學和或者機器學習從業者,就像線性回歸對於統計學家一樣。因此,對神經網絡是什麼有一個基本的理解是有必要的,比如,它是怎麼構成的,它能處理問題的範圍以及它的局限性是什麼。這篇文章嘗試去介紹神經網絡,從一個最基礎的構件,即一個神經元,深入到它的各種流行的種類,像CNN,RNN等。
  • 概述:遷移學習在NLP和CV中的應用實例
    【IT168 資訊】昨天在我們的網站上已經有一篇介紹遷移學習的文章,簡單的將遷移學習的基本情況進行了概述,在今天的這篇文章中,將討論遷移學習的兩個應用,概述自然語言處理和計算機視覺領域的相關例子。  Gensim、Spacy和FastText是這三個框架,允許你在機器學習應用程式中快速使用文字嵌入。此外,他們還支持定製字嵌入的訓練。  在計算機視覺中的遷移學習  深度學習方法已經在計算機視覺領域取得了重大成就。
  • 如何惹怒一位人工智慧(機器學習、深度學習、強化學習等)愛好者?
    「原來比我年輕的人也做出來了啊(黑化)我還是去找工作吧……」15天學會Python,30天學會機器學習!xxx學院精品機器學習課程,帶你走向高薪算法崗!年薪百萬不是夢!What is cnn?What is rnn?What is lstm?What is cv?What is nlp?What is machine learning?What is ai?What is what?I cannot open this pdf.
  • 學習的筆記可以通過以下方法有如下幾種
    近期,nlp領域發生了較大的波動,特別是老生常談的gpt-2、self-attention等的變革加速了cnn和encoder-decoder思想在某些nlp任務中的鋪開進程。本文著重介紹co-attention、強化學習中的attention和equivariance(矩陣意義)。
  • 基於PyTorch圖像特徵工程的深度學習圖像增強
    介紹在深度學習黑客競賽中表現出色的技巧(或者坦率地說,是任何數據科學黑客競賽) 通常歸結為特徵工程。 當您獲得的數據不足以建立一個成功的深度學習模型時,你能發揮多少創造力?我是根據自己參加多次深度學習黑客競賽的經驗而談的,在這次深度黑客競賽中,我們獲得了包含數百張圖像的數據集——根本不足以贏得甚至完成排行榜的頂級排名。那我們怎麼處理這個問題呢?