美國一學校發表一篇機器翻譯算法論文報告 顯示可解碼神經活動並將...

2020-12-25 電子發燒友

美國一學校發表一篇機器翻譯算法論文報告 顯示可解碼神經活動並將其翻譯為句子

城池 發表於 2020-03-31 14:01:28

據外媒報導,近日美國加州大學舊金山分校的Joseph Makin及同事在《自然-神經科學》上發表的一篇論文報告了一種能夠以較高的準確率,解碼神經活動並將其翻譯為句子的機器翻譯算法。

在人類大腦信號首次解碼出語音十年後,其準確率和速度仍遠遠低於自然語言。

研究人員盤點了機器翻譯領域的最新進展,並利用這些方法訓練循環神經網絡,將神經信號直接映射為句子。

據了解,四名受試者此前顱內均被植入了用以監測癲癇的電極,電極會將他們大聲讀出句子時的神經活動記錄下來。

之後,這些記錄被添加到一個循環神經網絡中,從而將規律性出現的神經特徵表示出來,這些神經特徵可能與言語的中的元音、輔音或發音器官接收的指令相關。

接著,另一個循環神經網絡逐字解碼這種算法表示,形成句子。

作者還發現,明顯參與言語解碼的腦區同樣參與言語生成和言語感知。

這種機器翻譯方法將每名受試者的神經活動解碼為口頭句子的平均錯誤率竟低至3%。

最後,研究人員還展示了如何通過多個參與者數據來訓練網絡的某些層,利用傳輸學習來改進對有限數據的解碼。

責任編輯:wv

打開APP閱讀更多精彩內容

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容圖片侵權或者其他問題,請聯繫本站作侵刪。 侵權投訴

相關焦點

  • 腦活動可被翻譯成句子,美科學家用腦機接口高效解碼神經活動
    原標題:腦機接口技術誕生「腦活動翻譯機」據英國《自然·神經科學》雜誌3月30日發表的一項腦機接口最新研究,美國科學家報告了一種能夠以較高準確率解碼神經活動,並將其翻譯為句子的機器翻譯算法。當人類思考時,大腦皮層中的神經元會產生微小的電流,不同的思考活動,激活的神經元也不同——這就是腦機接口技術所依靠的原理。但一直以來,腦機接口在解碼神經活動方面只取得了有限的成功,其準確率依然遠遠低於解碼自然言語——過去的腦機接口只能解碼口頭詞語的片段或口頭詞組中不到40%的詞語。
  • 將科幻變成現實,谷歌百度用神經機器翻譯踐行人類的「巴別塔之夢」
    1954年,計算機科學家第一次公開發布了一款可以翻譯人類語言的機器。後來這被稱為喬治城-IBM實驗:一個能將句子從俄語翻譯成英語的「電子大腦」(electronic brain)。 當時,科學家相信,一旦通用翻譯器被開發出來,不僅可以讓美國在國家安全上領先蘇聯,還能消除語言障礙,從而促進世界和平。
  • 科學家研發出「讀心術」,直接將腦電波翻譯成文本,錯誤率低至 3%
    美國加州大學舊金山分校的科學家,已經訓練出一種算法,可以直接將受試者的腦電波實時翻譯成句子,錯誤率僅為 3% 。但是當系統將每個單詞序列與實際朗讀的句子進行比較時,它得到了改進,學會了數字字符串與單詞的關係,以及哪些單詞是有上下文關係的。算法不斷的訓練,直到從說話時的大腦活動中產生書面文本,類似機器翻譯。新系統的準確性遠遠高於以前的方法。雖然準確性因人而異,但對於其中一位志願者來說,平均每個句子只有 3% 需要糾正,高於速記員 5% 的單詞錯誤率。
  • 陽光學院打造「語用神經網絡機器翻譯」系統
    據了解,由外國語與海外教育學院院長趙會軍博士帶領的陽光學院「語言與智能研究團隊」經過近六年的時間,共搜集和建立了8000多萬行英漢平行語料庫,試圖從語言學角度揭開神經網絡機器翻譯神秘「黑箱」的面紗,自主打造的「語用神經網絡機器翻譯」系統為語言學界在面向機器翻譯的語料和語言學理論及實證研究提供了平臺。
  • 腦機接口利器,從腦波到文本,只需要一個機器翻譯模型
    昨天,加州大學舊金山分校的Joseph Makin 等人在 Nature Neuroscience上發表了一篇論文,標題為《利用 encoder-decoder 框架,將大腦皮質活動翻譯為文本》(Machine translation of cortical activity to text with an encoder–decoder framework)
  • 機器翻譯七十年:百度領跑神經網絡翻譯時代
    中新網12月22日電 機器翻譯距今已有70年的發展歷史。自上世紀40年代起,基於規則、實例以及統計的機器翻譯方法漸次登場,各領風騷。近兩年,神經網絡機器翻譯(Neural Machine Translation, NMT)技術異軍突起,取得了翻譯質量的大幅躍升。
  • 腦機接口新研究:超準「腦活動翻譯器」,錯誤率不到3%
    美國加州大學舊金山分校研究人員研發了一種新型機器翻譯算法,能以較高準確率解碼腦神經活動,並將其翻譯成文字,轉錄錯誤率低至3%,可媲美專業的語音轉錄算法。該研究30日發表在英國《自然-神經科學(Nature Neuroscience)》雜誌上,論文題目為《翻譯大腦(Translating the brain)》。
  • 機器翻譯革命強勢來襲 人類翻譯將無路可走?
    人工智慧推波助瀾全球知名翻譯公司「一小時翻譯」執行長奧弗·紹尚日前警告說,未來1至3年內,基於神經網絡翻譯技術的機器翻譯將會承擔價值400億美元翻譯市場上的近一半工作,預計會導致50萬名翻譯失業。它克服了傳統方法將句子分割為不同片段進行翻譯的缺點,充分利用上下文信息,對句子進行整體編碼和解碼,從而生成更為流暢的譯文。市面上的神經機器翻譯系統越來越多,國內的阿里巴巴、騰訊、百度、科大訊飛、搜狗,國外的谷歌、臉書、微軟等都在布局,這使相關技術發生「質變」。如今,許多計程車司機都能用手機上的翻譯軟體,輕鬆和「老外」溝通。
  • 落地機器翻譯服務,Atman推出TransGod翻譯工具
    數據顯示,2014年全球翻譯行業市場規模大達到371.9億美元,同比增長6.23%,預計2020年將達到530億美元左右。近年來,隨著算力的大幅提升,大型語料庫、記憶庫的出現,深度學習算法成熟,機器翻譯技術出現了長足進步。利用機器翻譯相關技術以提升人類譯者的工作效率成為可能。我們此前報導的國內初創公司Atman就在做機器翻譯技術及應用方向的創新。
  • Atman 劉昌芳:醫學機器翻譯與機器寫作
    Atman 做機器翻譯的優勢,首先在於海量的醫學數據基礎,我們爬取了 2 億雙語語料和術語訓練醫學翻譯引擎;其次通過多家客戶的機器翻譯模型和算法的不斷驗證,結合醫學領域的(語言)規則,算法更加精細;此外我們所有算法都是自主研發,攻克了很多技術難題;我們還有閉環的學習訓練,在使用的過程中會翻譯得越來越好。
  • 聚焦快速機器學習訓練算法,UC伯克利尤洋189頁博士論文公布
    機器之心報導編輯:蛋醬、小舟這份 189 頁的博士學位論文,凝結了尤洋在快速機器學習訓練算法領域的研究心血。因此,如何有效縮短機器學習訓練時間,同時完成高質量的訓練,對於解決當前的瓶頸問題具有重大意義。本文將介紹一篇長達 189 頁的博士學位論文,作者為加州大學伯克利分校計算機系的尤洋博士。
  • Transformer新型神經網絡在機器翻譯中的應用|公開課筆記
    如左圖所示,我們輸入一個待翻譯的句子,通過神經網絡編碼器,去把這個句子的信息編碼成中間狀態,就是這個圖中紅色的部分,它用數值的隱層來表示。經過中間狀態、經過神經網絡解碼器去生成對應的翻譯,是編碼、解碼的過程。翻譯的知識和參數都是由神經網絡自動進行學習的,它省去了之前傳統方法之前的人工幹預模塊,使整個翻譯過程統一化,並且簡潔。
  • SCI論文寫作有哪四大戒?如何翻譯出一篇合格的論文?
    SCI論文寫作有哪四大戒?如何翻譯出一篇合格的論文? 發表SCI論文是每個科研人所追求的目標,然而這並不是一件容易的事。當你花大量時間完成寫作後,還有論文翻譯這一難關等著你,要知道,想翻譯出一篇合格的論文並不簡單。今天,就來說說關於SCI論文寫作需要避免的錯誤,以及如何翻譯出一篇合格的論文。一是戒雜SCI論文的寫作要力求表達簡潔準確、用詞嚴謹,而不是用一些過於華麗的辭藻來堆砌,也不能圍繞一些明擺著的事翻來覆去地談論,佔用大量篇幅。
  • 102個模型、40個數據集,這是你需要了解的機器翻譯SOTA論文
    其實機器翻譯也走過一條漫漫長路,從早期基於規則與實例的方法,到基於統計的機器翻譯,再到目前基於深度神經網絡的翻譯系統,我們探索了非常多的可能性與思路。有的在剛提出來就受到很多關注,有的則受限於計算資源,直到今天才展現出其強大的能力。1954 年,人類第一次嘗試俄語到英語的自動翻譯,這種基於規則的翻譯第一次證明機器翻譯是可行的。1954 年的機器翻譯報導。
  • 百度何中軍:機器翻譯——從設想到大規模應用
    百度何中軍帶來報告《機器翻譯 —— 從設想到大規模應用》。何中軍,博士,百度人工智慧技術委員會主席,從事機器翻譯研究與開發十餘年,申請專利40餘項,研發了全球首個網際網路神經網絡翻譯系統、首個WiFi翻譯機、首個語義單元驅動的語音到語音同傳系統。
  • Edward教授十年科研,會說話的魔法帽如何把腦電信號翻譯成語音
    ,論文發表於Nature子刊《Nature Neuroscience》,引起了廣泛關注。這項研究引入了機器語言翻譯中常用的循環神經網絡LSTM,為腦機接口打開了一條應對這一挑戰的新路徑。端到端的網絡架構雖然不能給出可解釋的規律,但從工程上來說是有效的。我們很高興地看到,腦科學和人工智慧技術的結合,正在加速語音腦機接口的探索和研發的進程。
  • ICLR 2020 匿名評審九篇滿分論文,最佳論文或許就在其中
    在這篇文章中,我們將簡介其中的9篇滿分(全8分)論文,它們最終都被接收為Talk 論文,屆時論文作者會在大會上做長達十多分鐘的演講報告。 在圖2中,研究者展示了x、y、z三者具體的關係是什麼樣的,不論是語言模型還是翻譯模型,隱藏變量z都是共享的。 評審決定:接收為Talk論文; 評審意見:這篇論文提出了一種新方法以考慮生成式神經機器翻譯模型中的雙向互譯,該方法顯著提升了翻譯準確度。三位評審者都非常欣賞這篇論文,儘管他們注意到性能收益會隨著模型複雜度的提升而變小。
  • 機器翻譯:谷歌翻譯是如何對幾乎所有語言進行翻譯的?
    第一部分簡單介紹神經網絡機器翻譯(NMT)和編碼器-解碼器(Encoder-Decoder)結構。第二部分提供了使用Python創建語言翻譯程序的詳細步驟。機器翻譯是計算語言學的一個分支,主要研究如何將一種語言的源文本自動轉換為另一種語言的文本。在機器翻譯領域,輸入已經由某種語言的一系列符號組成,而計算機必須將其轉換為另一種語言的一系列符號。神經網絡機器翻譯是針對機器翻譯領域所提出的主張。
  • 機器翻譯簡史:八十多年來,人類就是要再造一座通天塔
    所以無論是現實中,還是科幻電影中,人們一直希望能有一個機器,能夠讓人不學外語也能暢快溝通。隨著技術進步,這個夢想正在一步步接近成真。來自俄羅斯的Ilya Pestov,最近寫就了一篇《機器翻譯簡史》,較為完整的回顧了人類幾十年來在機器翻譯方面的探索和努力。量子位對內容略有增減。這是一段人類如何再造通天塔的歷史。
  • 重磅| 谷歌大腦養成記:從識別貓到突破性機器翻譯
    美國的人工智慧元老 Marvin Minsky 也在他 1954 年普林斯頓的論文裡研究過神經網絡,但自那以後,他漸漸地就對 Rosenblatt 對神經範式的誇張說法感到厭倦了(他們當時也在競爭美國國防部的資金)。後來,Minsky 和他的 MIT 同事出版了一本書,證明有一些非常基本的問題是感知器無法解決的。