地圖中的語義理解 | 雷鋒網公開課

2020-12-12 雷鋒網

 

今年8月,雷鋒網將在深圳舉辦一場盛況空前,且有全球影響力的人工智慧與機器人創新大會。屆時雷鋒網(公眾號:雷鋒網)將發布「人工智慧&機器人Top25創新企業榜」榜單。目前,我們正在拜訪人工智慧、機器人領域的相關公司,從中篩選最終入選榜單的公司名單。如果你也想加入我們的榜單之中,請聯繫:2020@leiphone.com。


編者按:本文整理自搜狗公司王硯峰在雷鋒網硬創公開課上的演講。王硯峰是搜狗公司桌面事業部高級總監,桌面研究部和語音交互技術中心負責人。承擔輸入法、號碼通、個性化新聞等搜狗桌面產品在大數據和算法研究方面的工作,通過研究能力提升產品核心品質推動產品創新。同時負責搜狗智能語音交互技術,帶領語音和語義技術團隊實現了業內頂尖的語音交互能力,並致力於智能語音技術的產品化創新。個人主要研究領域為:自然語言處理、機器學習、推薦系統、語義理解、機器智能等。

 

▎什麼是機器語義理解?

語義理解簡述

所謂語義理解簡而言之就是讓機器懂得人的話語,理解人的意圖,並且返回給用戶相應的答案或者內容,來解決用戶需求。如果我們把語音識別作為機器的耳朵,那麼語義理解就是機器的大腦。

比如用戶問「怎麼去天安門」,語義理解需要得到的結果是用戶有出行需求,並且出行的目的地是天安門;如果用戶問「周圍有沒有好吃的川菜」,那麼用戶此時的目的是找餐館,並且對餐館的類型有要求,菜系是川菜;如果用戶說「我想看一些湖人隊最新的消息」,那麼此時用戶的需求是看一些新聞資訊,主體限定在NBA的湖人隊上。

因此可以看到語義理解技術至少有兩個關鍵的因素,第一是自然語言處理技術,利用統計自然語言處理算法提取文本中的實體詞以及依存關係;第二是要有全面而豐富的知識庫,配合自然語言處理技術,才能得到用戶的準確意圖。

結合到上面的例子,如果知識庫中「天安門」是作為一個地名,那麼「怎麼去天安門」,就可以被以很高的準確率劃分為用戶出行意圖。但如果地名庫中有一個數據叫「黑眼圈」,那麼「怎麼去黑眼圈」就非常有可能被劃分到出行,而不是一個知識問答。

語義理解的三個層次

從大的範疇來講,我會把語義理解劃分為三個層次。

第一個層次,是限定在一個已有服務相對成熟的垂直領域來解決用戶的實際需求。比如導航、餐飲、旅館、天氣、音樂等領域,這類問題的特點是用戶需求相對收斂,知識庫也相對成熟,並且經過了多年的整理和沉澱已經具有一定的結構化特性,知識之間已經不是孤立的知識點,而是通過知識之間的關係連成了網絡。「知識圖譜」其實就是某種這樣的網絡。限定在垂直領域的語義理解問題因為用戶需求的收斂性和知識庫的成熟,技術上會更容易,同時也會更有能力實際的解決用戶的問題和需求。據統計,在車內通用安吉星或者豐田GBOOK這種車內call center提供的服務中,80%的需求都是問路或者導航,至少這是可以很大程度上通過機器語義理解解決的。在垂直領域下的語義理解,考驗的更多是構建知識庫本身的能力。

第二個層次,就是仍然在解決用戶的實際問題,但是問題本身已經偏長尾,需求本身更加離散,並且知識也沒有很好的結構化。比如「天空為什麼是藍色的」。往往這個時候各個語義理解引擎會藉助於搜尋引擎,但實際上結果相對能夠保證的也只有搜尋引擎整理出來的百科和問答資源。尤其對於問答,目前大部分的語義理解引擎仍然是靠搜索方式來解決,通過搜索技術尋找問答庫中和用戶問題最匹配的問題。而且無論是百度知道還是搜狗問問,問答庫中大部分的問答內容其質量本身也不能得到好的判斷,更不用說需要從大量文本中抽取整理答案了。這對於自然語言理解技術是非常大的考驗,並且目前國內做語義理解的公司整體上都沒有很好的效果,也是搜狗目前正在嘗試突破的話題。

最高的層次,就是做到跟人一樣的交談。現在市面上的對話機器人,以「小冰」為代表,都在渲染這方面的能力。但實際上目前是做不到的。因為人類在自然對話中,會帶入大量的歷史信息,場景信息,感情信息以及預先的認知信息,實際上計算機目前從根本上都沒有一個好的建模方法來描述人類的思想和認知過程,更不要提在思想活動和認知過程之後產生的語言。因此當前機器在這方面的能力,不要說解決用戶實際問題,就連閒聊的對話幾輪下來也經不住用戶的考驗。目前這個能力唯一實際一些的用途的就是在兒童產品中,給沒有邏輯能力和判斷能力的小朋友帶來歡樂。而對於成人,此類產品的用戶留存率從來低的可憐。

因此整體上,語義理解這個領域仍然是剛剛開始,雖然經歷了不錯的發展,但是從技術本質上目前還沒有突破。距離很多公司鼓吹的強人工智慧,還有很長的路要走。

▎多對話解析 

Q:「結合上下文的『多對話解析』」是如何做到的?其中的難點是什麼?

談多輪對話,先要從單輪對話講起。單輪對話完全不需要考慮到用戶的歷史問題,只針對用戶當前問題做答。一般是先對問題進行實體詞識別,然後再結合實體詞上下文對問題進行分類,判斷用戶的意圖分類,然後結合意圖分類和實體詞,得到用戶精確的意圖。所以本質上單輪對話的核心是線性分類問題,隨著類別的增加,問題本身沒有變的更加複雜。並且隨著用戶數據的累積,分類的訓練數據就會不停增加,分類的準確率就會不斷提升,這是一個很經典的機器學習的問題。

而多輪對話在單輪對話的基礎上引入了上下文,因此當前的狀態不僅取決於上文,而且可能取決於上上文或者更遠的上文。因此多輪對話實際上是一個有限狀態機(簡單的說就是是表示有限個狀態以及在這些狀態之間的轉移和動作等行為的數學模型。),用戶從一個狀態跳到另一個狀態的過程,其實就是一輪交互,而且交互反饋是根據上一個狀態生成的。隨著類別的增大,狀態機的規模會非常大的膨脹起來。如果實現一個靜態的狀態機,假定用戶行為是可預測的,那更多是工程能力上的問題。但實際環境下用戶行為往往是不可預測的,會產生出很多新的行為範式,反映出來的就是狀態機會增加更多的狀態以及狀態之間的邊,那麼如何根據用戶產生出來的數據,動態的不停的構建或者調整狀態機,這是多輪交互裡面最大的難點。因為每自動生成一個狀態節點,都需要同時生成一個在這個節點上用戶可理解的反饋方式以及抽象概念。

這是我認為多輪對話中最難的部分,也是即使是當前很流行的一些助手類產品都不支持多輪對話的原因。主要是很難根據用戶數據自動的把多輪交互的能力構建出來。這部分搜狗目前也不能做到自動,仍然需要人的抽象總結能力的介入,尤其是交互話術,還需要人為來定義。

▎語義理解的準確率

Q:語義理解的準確率,整個行業目前最高能達到多少?如何提高?

這裡談到的準確率主要就是指單輪交互而言了。結合到我在第一個問題中的闡述,語義理解在垂直場景和領域下的準確率已經有了一定的可用性,但是在更開放的場景中以及對話流中,準確率還是低得可憐。

在垂直場景中,假設知識庫以及對應的分類模型已經比較完善,在用戶常見問題上達到80%以上的準確率是可以的。提高的路徑也是比較明確,就是一方面完善知識庫的數據能力,另一方面用更多的用戶語料提升模型的準確度。

 中英文混合語義的解析

Q:如何解決中英文混合語句的語義分析問題(比如,「幫我呼叫Stephen William Hawking」)?中英文區分的難點在哪?

我認為中英文混合語句的語音分析比純粹的中文技術上甚至還更容易,因為英文已經是非常好的斷句了,而不需要中文還要對分詞有所依賴。

目前中英文語義分析問題主要的兩個實際難點,一方面目前的語義產品形態上多和語音相結合,語義拿到的是語音識別的結果。然而中英文混合語音識別錯誤率目前仍然偏高,主要是受到中英文發音建模方式的不同以及語料本身的缺失。錯誤的中英文語音識別結果會加大語義理解的難度。

另一方面語義理解會非常重的依賴知識和對應的服務,而這方面中國網際網路公司和國際上的內容服務商的對接成本和困難要高於國內,但是這個困難不本質。

▎機器對情緒語義的理解 

Q:在深度學習的狀態下,機器能夠對用戶的語言習慣適應到什麼程度?能理解用戶的一些情緒上的語言習慣嗎(如諷刺等話語)?

深度學習在語音圖像方面取得了重大突破,這些年在自然語言處理方面也取得了可觀的進展,體現出來更強的語言理解能力。但是需要強調的是,深度學習比起傳統的機器學習模型,主要是通過提升模型的複雜度來增加模型能力。但是模型本身並不能對人類產生語言的方式進行好的建模,本質上還是統計機器學習的範疇,所以會非常大的依賴數據。實際上深度學習本身也是在大數據這個背景下才得以發揮。因此只要有足夠的用戶話語數據,深度學習還是有能力給出更好的結果。

但是往往用戶的語言還是會取決於對話歷史,而不是單純的只看一句話。因此訓練一個模型,需要大量的對話數據,深度學習的優勢才能體現出來。但目前受限於用戶對話內容的隱私保護,業界拿不到足夠「大」的數據,因此取得的效果也會很有限。 

▎搜狗的技術差異

Q:與科大訊飛、思必馳等同行技術的差異化(包括語音識別、語義/邏輯分析)?

語音識別方面,因為我們具有搜狗輸入法這樣大的用戶產品,因此在獲得真實用戶語音語料方面,尤其是噪音環境和口音,我們都具有非常大的優勢。科大訊飛有自己的輸入法,比起來我們的優勢還沒有那麼明顯,而相對思必馳雲知聲這種用戶量小的公司而言這個優勢是巨大的。

相比科大訊飛,搜狗主要的優勢還是在語義理解以及背後的服務上。如前所述,語義理解能力一方面是考驗垂直場景的知識能力,另一方面考驗搜索問答能力。而這方面搜狗的能力是完備的,具有網頁搜索,各類垂搜以及搜狗地圖等產品,而這些都是訊飛不具備的。以導航中的多輪交互為例,如果拿不到地圖核心的結構化數據,多輪交互是無從談起的。

比如北京的用戶要去化工大學昌平校區,首先化工大學在北京有多個分校,其次每個分校都有多個對應的POI,以及用戶很多時候並不具備「化工大學北校區就是昌平校區」這樣的知識,只能通過地標的方式「我想去昌平的那個」來描述。因此如果語音交互模塊不能深度的理解地圖的結構化數據以及地標信息,那麼是很難做到智能交互的。

另外搜狗是一個網際網路產品公司,用戶的理解和產品能力相比起來也會更強,因此在做從技術到產品的轉換過程中,我們更有機會做出來用戶體驗更好價值更大的產品。 

▎語音檢索功能

Q:有沒有機會實現 Google Now 那樣的功能?比如語音調取應用,檢索其它應用內的信息,自動給出答案。

這個問題不是技術問題而是系統問題。只要從系統權限上可以調用應用,那從語義理解上來講是非常容易的事情,只是簡單地命令識別。

至於檢索其他應用內信息,也是主要是否可以拿到應用服務的數據或者藉口。比如目前國內餐飲方面的語義理解和服務,大眾點評就是非常好的服務方。可以通過合作拿到餐廳的元數據,也可以通過數據協議訪問其平臺和搜索,這樣餐飲的需求就可以直接給出答案。技術上目前都是相對已經很成熟的。

▎對人工智慧未來的看法

Q:今年8月,雷鋒網將在深圳舉辦「全球人工智慧與機器人創新大會」(簡稱:GAIR)。想了解下,您對人工智慧的未來趨勢怎麼看?

從大的趨勢上來看,人工智慧的未來一定是樂觀的。目前人工智慧有些過熱,行業以及媒體對人工智慧的期望以及概念的炒作已經遠遠大於其本身的能力了,不過當一個新興行業或者產業在被催生的時候,堆泡沫的過程也是必要的。
我個人是個理性的樂觀派,我相信未來機器一定能替代人去做更多的事情,但是我比較同意Google吳軍老師的觀點,所謂的人工智慧其實只是機器智能,因為目前機器對事物的理解和人對事物的理解是不一樣的。機器智能多數依靠大數據才能完成工作,而人不需要大數據就能去感知、理解和判斷事物。但是只要給你機器足夠多的數據,機器就能創造出無限的可能。當下我們每天在手機上製造的大量數據,未來的物聯網的時代,傳感器、camera和mic會進一步帶來數據上的爆發。那麼機器智能就能借著大數據在各個方面達到更高的高度。就像我們剛才講的語義理解的問題,之所以在人機對話方面處在這麼低的智商水平,也是因為語料庫不夠大,如果未來大數據充足,我相信,機器智能在語義理解方面一定也能解決更多的問題。
眾所周知,在信息處理方面,人工智慧主要解決兩個問題, 第一個是交互和感知,第二個是信息的獲得。交互和感知方面,語音和圖像的識別已經取得了長足進步,錯誤率會越來越低,最終會在技術上徹底解決的。而信息獲取方面,我們都在努力讓信息有更好的表示以及索引方式,讓網際網路上的雜亂信息變得更加知識化結構化,甚至會通過語音和圖像來索引信息觸達信息。 我心目中人工智慧的價值就是在於提升我們獲取信息的能力和效率、讓人與機器的交互更容易、知識獲取更容易。在這個方向上,人工智慧也一定能取得穩定的健康的發展,逐漸改變我們的生活。
至於讓機器有人類的思維包括情感,這與我們目前所講的機器智能其實本質上不是一碼事。這個方向我整體上不看好,也不是我們應該努力的方向,從哲學上說,機器和人只有相互不可替代,才能持續發展。
 

雷鋒網原創文章,未經授權禁止轉載。詳情見轉載須知。

相關焦點

  • 客服機器人中的深度語義技術與應用探索(附視頻+PPT)| 雷鋒網公開課
    但在實際使用中,用戶經常發現,機器人並沒有想像中那麼智能,它能識別文字和語音,但卻「不懂你」。這其中的關鍵便涉及到自然語言處理中的」深度語義技術「。針對這個問題,本期雷鋒網(公眾號:雷鋒網)硬創公開課邀請到小i機器人創新中心的研究院陳培華為大家具體講解,在客服機器人領域的深度語義技術和應用探索。嘉賓介紹:
  • SLAM,讓機器人知行合一 | 雷鋒網公開課
    月,雷鋒網將在深圳舉辦一場盛況空前,且有全球影響力的人工智慧與機器人峰會(CCF-GAIR)。屆屆時雷鋒網(公眾號:雷鋒網)將發布「人工智慧&機器人Top25創新企業榜」榜單。目前,我們正在拜訪人工智慧、機器人領域的相關公司,從中篩選最終入選榜單的公司名單。如果你也想加入我們的榜單之中,請聯繫:2020@leiphone.com。
  • 神經認知學在機器人中的發展和應用(附PPT+視頻) | 雷鋒網公開課
    本期雷鋒網硬創公開課邀請到TIANBOT資深機器人研究工程師田博,為我們做主題為《神經認知學在機器人中的發展和應用》的分享。參加央視財經頻道的創業英雄匯。公開課完整視頻(共96分鐘):以下為嘉賓分享內容實錄精編。關注雷鋒網旗下微信公眾號,回復「PPT」可獲取嘉賓完整PPT。我從07年開始做機器人研究,並且有幸在2011年加入唐華錦博士在新加坡科技局信息所創建的計算神經組,從屬於李海洲博士的人類語言科技部門與機器人技術項目部門。
  • SLAM的動態地圖和語義問題
    景物動態部分不一定是object,或者不一定能得到object,所以不一定是語義的。語義地圖不一定就是動態的,所以語義地圖和動態地圖是有重疊的,不過最近深度學習的發展比如語義分割,目標檢測和跟蹤等等的確使二者漸漸走在了一起。在人的眼中,一切都是語義的存在,儘管對某些部分認識不夠。這裡我還是把SLAM動態地圖和語義SLAM分開,主要是文章太多。
  • ...金融產品優化以及風險控制中的應用(附PPT+視頻) | 雷鋒網公開課
    那麼,網際網路消費金融企業如何才能抓住這一市場機遇,從廣大薄文件人群中尋找優質客戶、提高用戶黏性,同時降低風險,將收益最大化呢?本期硬創公開課,雷鋒網邀請到了秦蒼科技數據科學家沈贇博士,為大家分享AI在消費金融產品優化以及風險控制中的應用。內容介紹:本次公開課包含以下內容:1. 根據用戶多維弱變量數據的綜合信用評分2.
  • 開發者入門必讀:最值得看的十大機器學習公開課
    這門課最大的特點,是它側重於概念理解而不是數學。數學推導過程基本被略過,重點放在讓初學者理解這背後的思路。另外,它還十分重視聯繫實際和經驗總結:1. 課程中吳恩達老師列舉了許多算法實際應用的例子 2. 他提到當年他們入門 AI 時面臨的許多問題,以及處理這些難題的經驗。
  • 實例介紹機械臂運動規劃及前沿研究方向(附PPT+視頻)|雷鋒網公開課
    雷鋒網(公眾號:雷鋒網)新智造按:運動規劃 (Motion Planning) ,有別於軌跡規劃 (Path Planning)。運營個人微信公眾號Nao (ID: qRobotics),以qqfly(或fly qq)之名撰寫過多篇技術文章。公開課完整視頻:以下內容整理自邱強在雷鋒網硬創公開課的分享,由於內容有很多針對圖或視頻的細節講解,文中做了刪減,完整內容可觀看視頻。關
  • 天翔朱秋陽是這樣回答的 | 雷鋒網公開課
    雷鋒網雷鋒網(公眾號:雷鋒網)雷鋒網(朱秋陽現場直播硬創公開課)以下為硬創公開課群內採訪實錄:問題一:朱總,先介紹下我們公司吧。問題四:之前的新聞中有提到,為了不接受投資,你們選擇了眾籌新品的形式來獲得資金。那麼,為什麼要接受大疆的投資?這筆投資環節中,雙方都看中了對方的哪些優勢?天翔航空朱秋陽:行業初期的時候圈子很小,大家也就很容易認識了。
  • 關於代碼託管的始末,程式設計師應該知道這些真相 | 雷鋒網公開課
    月,雷鋒網(公眾號:雷鋒網)將在深圳舉辦一場盛況空前,且有全球影響力的人工智慧與機器人創新大會。屆屆時雷鋒網將發布「人工智慧&機器人Top25創新企業榜」榜單。目前,雷鋒網正在拜訪人工智慧、機器人領域的相關公司,從中篩選最終入選榜單的公司名單。如果你也想加入我們的榜單之中,請聯繫:2020@leiphone.com。
  • 黑客特種兵潘少華:如何用人工智慧「套路」一個騙子 | 雷鋒網公開課
    他帶領黑客們研發出了一套逆天的反詐騙系統,可以在騙子掄錘的關鍵時刻,飛身救險,拯救被害者,讓騙子在寒風中淚奔凌亂,在暗夜裡決定從良。本期硬創公開課,雷鋒網邀請到了知道創宇威脅情報中心的負責人、北京研發中心總監,顏值和智慧並存的網絡安全特種兵潘少華。他為我們講述的主題是——黑客特種兵如何用人工智慧套路電信詐騙的騙子。
  • Video++張奕:人工智慧在消費級視頻場景中的應用丨雷鋒網公開課(附...
    那麼人工智慧在視頻應用場景中究竟能發揮哪些作用?二者結合能帶來哪些新的商業應用?本期硬創公開課,雷鋒網邀請到了Video++人工智慧事業部研發Team Leader張奕為大家講解人工智慧在消費級視頻場景中的應用。嘉賓簡介
  • 搜狗搜索公開課 詳解搜尋引擎技術應用及趨勢
    7月14日,搜狗搜索舉辦了主題為「搜索算法解密」的技術公開課,與超過80位搜索行業的技術精英、搜索愛好者以及合作夥伴來共同探討搜尋引擎的技術應用。搜狗CEO王小川、副總裁茹立雲、通用搜索部高級總監張闊也在公開課現場現身,與到場參與者分享了搜狗舉辦此次公開課的初衷。
  • 清華大學朱小燕教授做客雷鋒網沙龍,分享 NLP 和人工智慧的那些事...
    朱小燕教授在雷鋒網組織的 AAAI 中國之夜活動上進行分享在雷鋒網組織的 AAAI 中國之夜活動上,AAAI 現任執委楊強教授、清華大學智能技術與系統國家重點實驗室主任沙龍從下午五點半持續到晚上九點,據雷鋒網現場編輯團隊表示,活動氛圍非常熱烈。本篇是雷鋒網(公眾號:雷鋒網)根據朱小燕教授在現場的分享整理而成。朱小燕教授所在的研究小組近十幾年來在自然語言處理、文本挖掘、問答/對話系統等領域,針對文本信息內容,在信息度量、知識表示等方面進行了過深入研究。
  • 「交互地圖教學系統」驚豔亮相西城外國語公開課
    上圖:高三複習以習題貫穿整個課堂 「等值線圖的判讀及成因分析」的公開課,來自西城區的40多位地理教師傾聽了此次公開課。   上圖:遙感影像進行區域定位   據記者了解,交互地圖教學系統是由中國最具價值的教育服務提供商北京中教啟星科技股份有限公司(證券簡稱:中教股份證券代碼:430176)設計研發建設完成。
  • 百度Apollo 6.0公開課下周開講!一線工程師為你全面解析Apollo 6.0...
    在9月15日的百度世界2020中,百度發布了最新的Apollo 6.0版本。此次發布的Apollo 6.0在功能上主要有5個方面的升級:1、算法模塊上,引入了用於感知的基於PointPillars的雷射點雲障礙物識別模型、用於預測的基於語義地圖的低速行人預測模型和用於規劃的基於語義地圖的模仿學習模型;2、集成了無人化的相關內容,實現對車輛的遠程操作與緊急車輛檢測功能;
  • 微軟亞洲研究院秦濤:對偶學習的對稱之美 | 雷鋒網公開課總結
    本期硬創公開課,雷鋒網榮幸地邀請到微軟亞洲研究院主管研究員秦濤博士,為我們講述對偶學習的新進展。雷鋒網(公眾號:雷鋒網)做了不改動原意的整理與編輯,並邀請了秦濤博士核對確認,在此表示感謝。嘉賓介紹首先非常感謝雷鋒網提供硬創公開課的平臺,同時也感謝各位朋友這麼晚還來參加這個線上活動。我今天報告的題目是對偶學習,主要想闡述的是人工智慧的對稱之美。
  • 深思考楊志明:多模態語義理解能推動人工智慧大規模落地|2019 WISE...
    人工智慧的發展也正從認知走向理解。深思考專注語義理解15年的時間,目前在多模態語義理解方面取得了一些進展,在智慧營銷、智能終端落地了相關技術。對於多模態語義理解的AI落地,他們又有怎樣的見解和經驗分享?
  • 清華大學王宇龍:如何通過關鍵數據通路去理解網絡行為? | AI研習社...
    在近日的 AI 研習社大講堂上,清華大學的王宇龍就從模型理解的角度入手,為我們詳細介紹了如何通過發現網絡中的關鍵數據通路(critical data routing paths, CDRPs),更好地理解網絡。
  • 百度發布語義理解框架ERNIE 2.0 中英文任務超BERT和XLNet
    今年3月份時,百度曾對外提出了NLP預訓練語言模型 ERNIE,ERNIE通過建模海量數據中的詞、實體及實體關係,學習真實世界的語義知識。較之BERT學習原始語言信號,ERNIE直接對先驗語義知識單元進行建模,增強了模型語義表示能力。