谷歌親兒子BERT的王者榮耀,僅用一年雄霸谷歌搜索頭牌!

2021-01-10 新智元

【新智元導讀】谷歌在近期召開的Search On2020大會上,宣布BERT已經佔領了谷歌搜索的高地,幾乎每一個英語查詢背後都有BERT的影子,而BERT竟然只是谷歌「蜂鳥」系統的冰山一角。

2018年BERT橫空出世,帶著碾壓級的成績刷榜各種NLP任務。

2019年,biobert,roberta,albert等各種BERT變體開始層出不窮,給傳統的NLP任務帶來了革命性的進展。

而谷歌作為BERT的本家,更是將它的優勢發揮的淋漓盡致。

加入谷歌搜索剛一年,BERT「佔領」幾乎所有英語查詢

2019年10月,BERT首次亮相谷歌搜索時,這一比例僅為10%。

2019年12月,谷歌將 BERT 的使用擴展到70多種語言。

在最近的2020 Search On虛擬搜索大會上,谷歌表示,BERT幾乎成了每一個英語查詢的後端引擎。

BERT不會影響網站的排名,BERT 的目的是更好地理解網頁上的內容來提高搜索結果的相關性。

下面是谷歌展示的集成BERT之後的一個demo,當查詢「在沒有路緣的山上停車」時,過去這樣的查詢會讓谷歌的系統感到困惑。

谷歌表示,之前的算法過於重視「curb」這個詞,而忽略了「no」這個詞,沒有抓住這個詞對於問題的重要性,所以搜尋引擎會返回在有路緣的小山上停車的結果。

工程師們已經將「特定搜索」的準確率提高了7% ,同時也在改善「更廣泛搜索」的結果和答案。

BERT替代RankBrain,晉升谷歌搜索算法「蜂鳥」頭牌

BERT只是谷歌搜索算法的冰山一角,這個世界最強大的搜索工具,真可謂是一個Search Brain。

谷歌把這個Search Brain稱為「蜂鳥」,是一個搜索算法貨櫃,就像一輛汽車有一個整體的引擎一樣。各個算法就好比,發動機本身的機油濾清器、燃油泵、散熱器等。

蜂鳥還包含了其他部分,比如用於搜尋引擎優化的,Panda、 Penguin 、 Payday ,打擊垃圾郵件的Pigeon,以及大名鼎鼎的網頁排名算法PageRank。

而在BERT加入蜂鳥這個大家庭之前,最重磅的成員要屬RankBrain了。

2015年,RankBrain部署到了蜂鳥中,短短幾個月時間,RankBrain 就迅速成長為搜索查詢結果的第三重要的信號。

RankBrain 利用人工智慧將大量的語言嵌入到計算機可以理解的向量中,如果 RankBrain 看到一個它不熟悉的單詞或短語,機器就可以猜測哪些單詞或短語可能具有類似的含義,並對結果進行相應的過濾,使其更有效地處理從未見過的搜索查詢,類似於我們今天熟知的詞向量。

參與了 RankBrain 項目的谷歌高級研究科學家 Greg Corrado 表示,RankBrain 是谷歌搜索算法系統中「數百個」信號之一,這些算法最終決定了谷歌搜索頁面上出現什麼結果。

現在有了BERT的加持,「蜂鳥」能夠更好地理解查詢意圖和內容相關性,成為了谷歌搜索理解語言的最重要信號。如果你拼錯了什麼,谷歌的拼寫系統可以幫助你修改為正確的單詞。

據谷歌統計,在每十個日常搜索中,就有一個拼寫錯誤,應用了BERT之後,這種手誤就可以更好地糾正,比如下面這個dinner誤輸入為dibber,BERT能更好地理解搜索意圖,直接返回了地圖上的位置。

BERT查詢結果更「盡人意」,也需要更多TPU

2019年,谷歌將 BERT 模型應用於搜索。

BERT的突破來自谷歌transformer相關的研究成果,transformer可以更好地處理句子中所有單詞的相關性,而不是按順序逐個來。

因此,BERT 模型可以查看單詞前後的詞語來考慮單詞的整個上下文,這對於理解搜索查詢背後的意圖特別有用。

需要更多TPU

但是,將BERT應用於搜索,不僅僅需要軟體,也需要新的硬體,比如TPU。BERT 建立的一些模型非常龐大,突破了傳統硬體的極限,所以要想應用,還得加上谷歌的雲端TPU們。

將問題拆解

BERT將用戶查詢的問題拆解後轉換為向量,通過將 BERT 模型找到更有用的信息。

特別是對於更長的、更具對話性的查詢,或者搜索介詞如「for」和「to」對於查詢的意義非常重要的情況,基於BERT的查詢能夠更全面地理解查詢問題中各個單詞的上下文,搜索的方式可以更加口語化,而不必刻意打「官腔」。

BERT的核心組件transformer真是百變金剛,除了在各種NLP任務中刷榜,也應用到了計算機視覺當中,並且基於transformer的模型大有取代CNN的趨勢。

CV和NLP融合的多模態人工智慧,也將登上AI的舞臺。

參考連結:

https://searchengineland.com/google-bert-used-on-almost-every-english-query-342193

相關焦點

  • 谷歌搜索:幾乎所有的英文搜索都用上BERT了
    機器之心報導機器之心編輯部在前段時間舉辦的「Search On」活動中,谷歌宣布,BERT 現在幾乎為谷歌搜尋引擎上的每一個基於英文的查詢提供支持。而在去年,這一比例僅為 10%。
  • 谷歌搜索的靈魂!BERT模型的崛起與榮耀
    二、兩年不止步,BERT的進階史要在網頁搜索屆呼風喚雨,谷歌的真本事當然不止BERT一個,用於搜尋引擎優化的Panda、Penguin、Payday,打擊垃圾郵件的Pigeon以及名聲在外的網頁排名算法Pagerank……每一塊小模組都各司其職,組成了谷歌搜索的「最強大腦」。
  • 谷歌親兒子——Pixel3和3XL
    10月10號凌晨,谷歌正式發布了Pixel 3/3 XL。在屏幕和尺寸方面,Pixel 3採用5.5英寸2280×1080解析度屏幕,Pixel 3 XL採用6.3英寸2960×1440無邊框柔性OLED屏。
  • 谷歌申辯反壟斷指控:沒強迫別人用谷歌搜索,沒有壟斷
    周一在法庭文件中否認了政府說該公司在網際網路搜索方面違反了反壟斷法的指控。谷歌表示,司法部訴訟針對的所有行為都是合法的,並構成「善意的競爭活動」。人們使用谷歌搜索是自己選的,而不是被迫的,也不是因為他們不易在網際網路上找到其他信息搜索方式」。同樣在周一,美國地區法官 Amit Mehta 批准了允許開始搜集證據的命令並把庭審日期定在 2023 年 9 月 12 日。
  • "綠委"用谷歌地圖搜"朱日和",結果…
    "綠委"用谷歌地圖搜"朱日和",結果… 2020-11-29 21:30 來源:澎湃新聞·澎湃號·媒體
  • 騰訊《王者榮耀》居榜首 Tiltok「入袋」470萬美元 蘋果和谷歌應用...
    根據研究機構Sensor Tower近期發布的一份最新報告,2020年是蘋果App Store和谷歌Play Store全球銷售額創紀錄的一年。這兩個商店銷售額在11月份首次在一年內總計超過1000億美元。
  • 2018年美國人在谷歌上搜索最多的10個問題
    BI中文站 12月12日 報導 隨著2018年臨近尾聲,谷歌正在回顧美國人在這一年中遇到的最大問題。谷歌全球2018年熱搜內容 谷歌稱,登上最熱門搜索主題排行榜的是那些搜索流量較上一年出現激增的主題。
  • 谷歌ICP牌照通過最後一年年檢
    9月7日下午消息,今日下午華爾街日報中文網突然在官方微博上發布消息稱,谷歌已拿到為期一年的中國網際網路牌照。不過在隨後的相關報導中,我們了解到谷歌此次獲得通過的是屬於每年一次的正常年檢。
  • 華為搜尋引擎面世:用不了谷歌,試試「花瓣搜索」?
    機器之心報導參與:澤南、杜偉、小舟為了解決沒有「谷歌全家桶」的問題,華為今年接連推出了 HMS Core、地圖服務、應用商店 AppGallery,現在連屬於自己的搜尋引擎「花瓣搜索」也面世了。自 2019 年 5 月以來,在美國政府的「禁令」之下,谷歌宣布停止與華為合作,尤其是不再提供谷歌移動服務(GMS)。
  • 谷歌中國高層動蕩 搜索業務或將艱難發展
    首頁 > 動態 > 關鍵詞 > 谷歌最新資訊 > 正文 谷歌中國高層動蕩 搜索業務或將艱難發展
  • 谷歌發布2018年度搜索排行榜
    近日,谷歌正式發布2018年的年度搜索報告,揭示了今年主宰這一搜尋引擎的最火爆潮流。
  • 如何到達谷歌搜索的頂部 [互動指南]-megalithant
    如何通過 ads 達到谷歌頂部 如果你已經在目標關鍵字的搜索結果頂部看到廣告,那麼出現在谷歌頂部的唯一方法就是付費廣告。 怎麼做?只需註冊 Google ads 並建立搜索廣告系列就可以實現。 谷歌搜索廣告是按每次點擊付費(PPC)運作的。這意味著你對要在谷歌中顯示的關鍵字出價。如果你是倫敦的水管工,則可以對諸如 「plumber in london」 和 「plumber near me」之類的關鍵字出價。
  • 谷歌對聲音識別的改進將有助於我們更好地搜索歌曲
    如果你喜歡用語音搜索歌曲,那麼你一定會很關注谷歌正準備推出一些聲音搜索的改進。這些改進的起源在於現在的遊戲,谷歌在2017年將該軟體帶到Pixel2,旨在允許谷歌創建一個永遠在線的音樂識別器,即使沒有網際網路連接也可以使用。
  • 反壟斷委員會稱:谷歌「以絕對優勢」統治搜索市場
    報告總結稱,谷歌、亞馬遜、蘋果和Facebook享有壟斷權力,小組委員會建議國會修改反壟斷法,迫使它們分拆部分業務,同時提高收購的難度。報告稱:「在通用在線搜索領域佔據絕對主導地位的企業是谷歌,它在美國的桌上型電腦和行動裝置上分別佔據了81%和94%的通用搜索查詢比例。」
  • PC時代落幕 谷歌移動搜索次數首超PC搜索
    谷歌母公司Alphabet搜索業務主管艾米特·辛格爾(Amit Singhal)周四在Re/code移動大會上表示,谷歌全球行動裝置搜索次數已在今夏首次超過PC搜索次數。辛格爾稱,這些數據並未包含平板電腦上的搜索次數。
  • 2020年穀歌最新搜索統計報告!做谷歌推廣必看!
    Google2020年十大搜索統計,大家來看看!1.Google是訪問量最大的網站。外貿大咖:谷歌用不好的外貿人,是真的會被直接淘汰。不出所料,谷歌是訪問量最大的網站。谷歌月訪問量達到880億。外貿用戶每天依靠谷歌進行日常搜索。但谷歌除了做搜尋引擎,還有很多其他服務。
  • 增強現實和Lens會是谷歌搜索的未來嗎?
    )】5月9日報導(編譯:福爾摩望)想像一下,當你在考慮購置椅子時,可以先用谷歌搜索一些成品,然後在客廳裡試用。距離谷歌眼鏡初次涉足智能眼鏡領域已有六年時間,距離Google Tango實驗性增強現實手機已有五年時間,距離Google Lens初次提供一種用手機攝像頭掃描世界的方法也有兩年時間了。谷歌對AR的看法可能正在轉變,也許這也是不可避免的。隨著手機中的增強現實已經從新奇事物轉變為無處不在的現實,谷歌的下一個任務似乎是找到增強現實的好用途。
  • 2020年年底 華為/榮耀設備安裝谷歌完整教程
    這些機型目前沒有辦法在手機本身安裝谷歌,應該是處理器不兼容的問題,只能在虛擬機軟體裡勉強用一下了⭐需要變更系統版本才支持安裝的機型:Nova2s、榮耀8x、暢享9s等,還有更多需要變更版本的機型,請點擊這篇文章查看→[部分華為榮耀手機支持谷歌的版本]⭐但大部分機型都是可以用這篇專欄裡的方法安裝的,包括但不限於以下機型
  • 又一款王者榮耀 《傳說對決》上架谷歌商店
    導 讀 相信國內手機用戶已經無人不知《王者榮耀》這塊霸主級的移動MOBA遊戲了,這款號稱「移動版英雄聯盟」的手機遊戲,超越了他原本遊戲的層級,以不可思議的數據一躍成為現在年輕人新的社交方式
  • 谷歌公布2020年度熱搜榜 拜登是本年度谷歌搜索次數最多的人
    【谷歌公布2020年度熱搜榜 拜登是本年度谷歌搜索次數最多的人 】全球最大搜尋引擎谷歌9日公布了2020年度熱搜榜,美國當選總統拜登成為本年度谷歌搜索次數最多的人。與此同時,美媒稱,川普本周成為今年發推次數最多的人。