科技圈中X大未解之謎之一:谷歌BERT和百度ERNIE是什麼關係

2021-01-10 ITBear科技資訊

  娛樂圈有八卦、科技圈也有不少瓜,比如今天想和大家探討的這對科技圈CP。

  說到美國動漫《芝麻街》中的BERT,很多人就會自然而然想到他的好朋友ERNIE,在科技圈中的BERT和ERNIE也經常被同時cue到……

  有趣的是,昔日的「好朋友」竟然來自中美兩家科技巨頭,這個關係可以說是相當的微妙。

  谷歌BERT,對於混跡於科技圈的程序猿肯定不陌生,如果你的研究領域剛好是NLP,可能會對BERT有更深入的了解,它是去年由谷歌發布的預訓練模型,曾在機器閱讀理解頂級水平測試SQuAD1.1中表現優異。

  今年3月,百度推出知識增強的語義表示模型ERNIE,來自英文「Enhanced Representation from kNowledge IntEgration」的縮寫,在自然語言推斷、語義相似度、命名實體識別、情感分析、問答匹配等自然語言處理(NLP)各類中文任務上全面超越 BERT。

  現在ERNIE再次重大升級,發布了持續學習的語義理解框架ERNIE 2.0,及基於此框架的ERNIE 2.0預訓練模型。繼1.0後,ERNIE又在英文任務方面取得全新突破,在共計16個中英文任務上超越了BERT和XLNet, 取得了SOTA效果,可謂縱橫中外、國貨之光了。

  BERT和ERNIE就在這種狀況下相遇了,只要其中一個被媒體提及,那另一個絕對是如影隨形。誇張的說一句BERT和ERNIE就像有天然的「緋聞」體質。

  BERT和ERNIE的原理,和小朋友通過做語文練習題來學習語言非常類似,BERT通過做海量的完型填空練習題學習人類語言,而ERNIE是通過做更多樣、更複雜的練習題來加強語言的學習,例如,給打亂的句子排序,判斷兩個句子具有何種邏輯關係,判斷兩個句子是否表達同一個意思等。

  BERT和ERNIE不僅是各大科技媒體的「寵兒」,還在今年的中美兩大科技盛會中被「點名」。

  在上個月的百度AI開發者大會中,百度CTO王海峰博士也在會上詳細解讀了ERNIE。作為一名實打實的中國開發者,一方面對於中國AI進展感到十分自豪,另一方也覺得BERT和ERNIE還能以這樣的方式組CP簡直愈來愈有趣。

2019百度AI開發者大會 百度CTO王海峰講解ERNIE

  在更早的5月份谷歌I/O大會中,谷歌宣布推出全新的BERT語言學習模型,谷歌AI大牛Jeff Dean 似乎也在為BERT的新進展站臺。

2019谷歌I/O大會 谷歌大神Jeff Dean講解BERT

  開扒這麼多BERT和ERNIE的「愛恨糾葛」。不過說真的,百度ERNIE的表現也的確驚豔,更新速度也快,看論文也能了解不少技術細節,百度在NLP領域還是相當有具備國際競爭力了。

  不得不說,中國AI發展的速度相當迅速,百度作為中國AI代表企業之一,在ERNIE推出之時就可以與谷歌BERT抗衡,並在多項中英文任務上超越BERT。相信ERNIE和BERT將持續在NLP領域為我們帶來更多的驚喜,除了嗑不完的瓜,也有用不完的便捷。燃燒吧,新時代人工智慧!

特別提醒:本網內容轉載自其他媒體,目的在於傳遞更多信息,並不代表本網贊同其觀點。其原創性以及文中陳述文字和內容未經本站證實,對本文以及其中全部或者部分內容、文字的真實性、完整性、及時性本站不作任何保證或承諾,並請自行核實相關內容。本站不承擔此類作品侵權行為的直接責任及連帶責任。如若本網有任何內容侵犯您的權益,請及時聯繫我們,本站將會在24小時內處理完畢。

相關焦點

  • 飛槳、崑崙雲伺服器、ERNIE……2019年百度用這些技術讓中國AI自主...
    這其中,人工智慧行業可謂百花齊放,人工智慧晶片研發方興未艾,科技巨頭爭建開放的AI平臺賦能企業和開發者,雲計算下半場開啟,AI工業化進程進一步加速……作為中國人工智慧領域的領軍者, 2019 年,百度在技術研發與應用創新方面積極推動中國AI工業化進程,不僅實現了基礎技術架構的新升級,更打通人工智慧產業化應用關鍵流程。可以說,百度為中國自研科技在世界範圍內「挺直腰杆」貢獻巨大力量。
  • 除了葷段子翻譯傳神,中國翻譯軟體到底能和谷歌競爭什麼?
    從阿里的小黃圖牛皮蘚鑑別、訊飛的語音識別,甚至到百度的無人車,更多利用前者。從百度的搜索、翻譯、度秘到阿里的機器客服、搜狗的輸入法,更多基於後者。二者是並列的關係嗎?新任百度AI技術平臺體系(AIG)負責人王海峰說過一段話:相對於看、聽和行動的能力,語言是人類區別於其他生物最重要的特徵之一。視覺、聽覺和行為不僅是人特有的,動物也會有,甚至比人強,但是語言是人特有的。
  • 谷歌/百度翻譯「蘋果/安卓很卡頓」:很好笑!
    【PConline資訊】雖然如今的機器翻譯已經達到了相當高的水準,還有神經網絡、機器學習、人工智慧等高大上技術的加持,但機器畢竟是機器,對於很多語境的理解完全無法和人類相提並論。  比如說手機很卡頓,這是大家耳熟能詳的一個說法,但是在谷歌、百度翻譯那裡,卻完全走了樣。  先來看谷歌:
  • 百度推出免費在線翻譯 與谷歌再次正面交鋒
    人民網訊(記者辛苑薇)在谷歌在線翻譯服務備受網民追捧之時,昨天,百度對外宣布正式推出免費在線翻譯服務。兩大搜索巨頭再次正面交鋒。    據介紹,百度在線翻譯服務目前提供中英、英中互譯和單詞查詢功能,最多支持1000個漢字的長篇翻譯。
  • 勁爆,百度放出王勁離職承諾書!「丟失」電腦和印表機存玄機
    智東西 文 | 曉寒智東西12月22日消息,今早,有媒報導百度近日將前高管王勁告上了法庭,稱其違反了之前籤署的競業條款,並利用職務之便獲取了百度的商業秘密並與之開展競爭。為此,百度要求王勁及其所掌控的美國景馳公司賠償經濟損失5000萬元,並發布聲明消除影響。
  • IDC全球搜尋引擎排名:谷歌第一 百度第四
    根據IDC 9月份的統計,在全球,搜尋引擎的份額排布是,谷歌以67.49%的份額雄居第一,Yahoo第二,Bing憑藉10.67%佔據第三,百度第四,份額8.13%。不過,回到國內,格局變發生了根本性的逆轉。
  • 百度翻譯閃耀MIT年度科技大會,吳華現場展示百度WiFi翻譯機
    美國時間3月26日,由美國權威科技雜誌 MIT Technology Review (《麻省理工科技評論》)舉辦的年度科技大會 EmTech Digital 在舊金山舉行。EmTech Digital聚焦全世界最前沿的人工智慧科技進展,每年邀請世界一流公司和研究機構如百度、亞馬遜、谷歌、微軟、UC Berkeley 等探討人工智慧熱點話題,涵蓋機器人、計算機視覺、自然語言處理等人工智慧領域前沿領域。今年的 EmTech Digital 密切關注領導中國 AI 變革的企業,AI 如何從製造業向零售業滲透,以及 AI 的道德問題。
  • 楚喬傳楚喬身世之謎究竟是什麼 左寶倉和洛河有什麼關係(2)
    楚喬傳楚喬身世之謎,楚喬記憶恢復身世即將大白。電視劇楚喬傳馬上將迎來大結局,而楚喬身世之謎卻一直沒有答案。按照電視劇最開始的說法,楚喬是奴隸,但是楚喬在之後的表現,可以看出,落落大方,極具頭腦天賦,軍事作戰能力各個方面都不像普通奴隸。而網絡盛傳楚喬身世其實是公主。和小編一起看看吧。
  • 谷歌下架Parler社交軟體,蘋果也在考慮中,美國科技企業為何反水特朗
    一夜之間,推特永久關閉川普帳號,谷歌APP商店宣布下架Parler軟體,甚至連蘋果也在考慮是否要繼續保留Parler。這些曾經對川普馬首是瞻的科技企業,為何突然不支持川普了,現在川普依然是總統,俗話說人走茶涼,川普還未走,茶怎麼就涼了?
  • 百度翻譯閃耀MIT年度科技大會 吳華現場展示翻譯機
    百度翻譯閃耀MIT年度科技大會 吳華現場展示翻譯機 2018-03-27 16:54:31來源:中國新聞網作者:${中新記者姓名}責任編輯
  • Seeking Alpha:百度收購YY當下最值得買入 有28%的潛在上行空間
    2019年,小度智能音箱的銷售量為1900萬臺,約佔全球市場份額的12%,在全球排名第三,僅次於亞馬遜和谷歌;在中國排名第一,領先於阿里巴巴和小米。如今,小度還在持續破圈,目前其使用場景已經覆蓋家庭、酒店、移動場景等。
  • 富途牛牛權威發布:百度入選「最佳投資者關係中概股」TOP20
    昨日,富途牛牛發布了2020牛牛圈年度盤點,百度入選「最佳投資者關係中概股」TOP20榜單,成為與投資者關係最密切的公司之一。疫情的出現讓人們的生活方式發生了改變,資本市場也同樣深受影響。往年企業與投資者的交流往往集中於線下,今年各公司則以線上業績會、線上路演和線上調研的形式加強了與投資者的交流。2020年,百度、拼多多、騰訊音樂等公司,在投資平臺受到了投資者的關注與喜愛。
  • 早報:中視科技獲5000萬元A輪融資,光大張旭陽離職加盟百度任副總裁
    重要資訊光大資管部總經理張旭陽離職加盟百度任副總裁光大銀行資產管理部總經理張旭陽近期從光大銀行離職,正在走流程之中。張旭陽下一站將是百度,擔任百度副總裁,加入的是百度金融服務事業群組。資料顯示,張旭陽是一名「老光大人」,從1997年加入光大銀行起,已經在光大銀行工作了19年,2013年任資產管理部總經理。
  • 中國「提督」們的抗爭 和《艦娘國服》之謎
    由於近年來國內的開發團隊普遍向手遊開發轉型,因此對《艦隊collection》的模仿主要也是在手機遊戲行業,派趣科技運營的手遊《戰艦少女》、玄雲網絡的手遊《炮妹》都是模仿《艦隊collection》的系統和」擬人化」而開發的遊戲。對於國內玩家而言,這種對成功遊戲的系統進行借鑑然後進行題材或細節的微創新的形式已經可以說見慣不慣,因此並沒有引起什麼太大的風波。
  • CES2018智能音箱空前火爆:杭州小嗨科技主推智能音頻
    對於這場一年一度世界上最大、影響最為廣泛的消費電子技術展,我們著迷於科技圈的複雜性與技術之力量,也讚嘆於迅速變遷的時代偉大想像力與創造力。它代表了全球科技前進的方向,反饋了最具權威的市場價值。  對於消費者來說,CES列出了未來一年電子消費品的購買清單;對於投資者,CES則啟迪了未來科技投資的風口和門道。
  • 谷歌地圖已可以正常使用,谷歌將重返中國!
    有人會說,百度地圖和高德地圖都挺好的啊,是啊,在國內還行,但如果想看海外,百度地圖可就遠遠不行了,比如你要去墨爾本旅遊,你想看看租的房子或住的酒店周邊有什麼吃的,你想看看賈躍亭在洛杉磯的房子啥樣子,對不起,你只能靠谷歌地圖了。▼▼▼比如,你想知道你在澳洲黃金海岸訂的酒店離衝浪者沙灘有多遠?附近哪裡有中餐?
  • 自然界6個未解之謎,獅身人面像之謎你知道嗎?
    這個大傢伙到底是什麼?是巨大的魷魚還是類似於尼斯湖水怪的怪物?神秘光束之謎——貴州都勻一攝影師在龍裡縣果裡棺材洞創作拍攝時,偶然拍攝到從棺材裡射出的一束光,這束光呈螺旋脊椎狀,猶如一條飛天蜈蚣。當地群眾說從來沒見過這一現象,物理老師也解釋不了,盼望有關專家能揭開這一謎團。奇特巖畫——廣東羅定市發現罕見石器時代巖畫。
  • 谷歌智能手錶專利曝光:屏下攝像頭配置還蠻新鮮
    然而,現實並沒有朝著我們預期的方向發展,原諒至今我們還未曾見到谷歌智能手錶的到來。不過,根據荷蘭科技博客 LetsGoDigital 剛剛公布的一項關於谷歌智能手錶的外觀專利顯示,傳說中的Google Pixel Watch或許真的已經安排上了。
  • 四大軟體翻譯古詩,谷歌亂了,百度最準,有道翻譯亮了
    中譯英,最難的應該是古詩文的翻譯,直譯肯定是百分百不行的,意譯也要講究語境和感情是否到位。今天老師用了一句經典的古詩「多情自古空餘恨」來測試了一下市面上的機器翻譯,來看看他們的實力如何吧!一、谷歌翻譯:Passionate since ancient times。
  • 讓AI人才在產業界閃閃發光:百度之星的「神奇濾鏡」是怎樣煉成的?
    事實證明,這是羅斯福總統生平採納的最有遠見的建議之一。而一千多年前唐太宗治國時也曾強調,「為政之要,惟在得人」,中國想要恢復漢唐榮光,躋身知識經濟大國,必須完成科技人才的培養。2005年至今,每年的百度之星都會吸引不少高校學子和編程愛好者前來交流切磋。在眾多賽事中,被譽為技術界「奧斯卡」的百度之星自然有其過人之處。事實上,在2020年賽場上,百度之星與參賽者們也跟隨著時代變遷同頻共振。首先是賽程設置。百度之星2020沿襲了往屆「程序設計大賽」和「開發者大賽」雙賽道的形式,但在議題上具有更強的張力。