2020年12月24日 16:33 來源:中國網科學
參與互動日前,第六屆中國健康信息處理大會(CHIP 2020)舉辦的中文醫學信息處理評測競賽圓滿結賽,騰訊天衍實驗室依託其在醫學領域的長期技術積累和創新探索,一舉獲得「中文醫學文本命名實體識別」賽道冠軍、「中文醫學文本實體關係抽取」賽道亞軍。
信息抽取(IE)技術方案突破升級
對於醫學領域的自然語言文獻,例如醫學教材、醫學百科、臨床病例、醫學期刊、入院記錄、檢驗報告等,這些文本中蘊含大量醫學專業知識和醫學術語。將實體識別技術與醫學專業領域結合,利用機器讀取醫學文本,可以顯著提高臨床科研的效率和質量,並且可服務於下遊子任務。但要想讓機器「讀懂」醫學數據,核心在於讓計算機在大量醫學文本中準確的提取出關鍵信息,這就涉及到了命名實體識別、關係抽取等自然語言處理技術。
命名實體識別(Named Entity Recognition, NER)和關係抽取(Relation Extraction, RE)是信息抽取(Information Extraction,IE)的兩大核心任務。命名實體識別旨在抽取所需實體,以醫療領域為例,需要從非結構化醫學文本中找出醫學實體,如疾病、症狀的過程;實體關係抽取則需要同時提取出醫學實體及實體間的關係信息,即實體關係三元組 [頭實體 (subject),關係(predicate),尾實體(object)]。
實體關係三元組示意
在兩大評測任務中,騰訊天衍實驗室從數據和模型層面做出了針對性設計。在命名實體識別任務中,天衍實驗室使用的數據集由北京大學等院校及科研單位智慧醫療課題組聯合構建。基於醫療領域對專業性、準確性的高標準要求,及目前命名實體識別任務存在的實體頻次稀疏和實體長度偏長問題,天衍實驗室採用指針解碼的特殊方式,對單個實體的頭尾位置進行解碼,經過試驗證明,該方法在較長實體中的表現確有明顯提升。同時,天衍實驗室基於自身在醫療領域的經驗,嘗試結合大量醫療文本訓練領域自適應的新預訓練模型,進一步提升了模型表現。最終在評比測試集上,結合多種不同策略,天衍實驗室以F1值68.35獲得第一名。
實體關係抽取評測任務的數據來源於中文醫學信息抽取數據集CMeIE,也是目前最大的中文醫學關係數據集。因該數據中存在大量實體重疊和關係重疊的現象,天衍實驗室則採用了層疊指針網絡的基礎架構。首先通過兩個二值分類器提取頭實體的首尾位置,繼而採用Conditional layer normalization的方式融入頭實體信息,再針對每種關係,分別預測對應的尾實體。此外,為了更好地利用醫療詞彙的語義信息,天衍實驗室在輸入層融入領域詞向量,有效提升了實體邊界預測的準確率。最終在測試集上取得單模型第一(F1 61.70),融合模型(F1 63.87)第二的成績。
騰訊天衍實驗室基於自身NLP能力和相關科研成果,不斷通過一系列信息抽取相關競賽測試、突破,不僅累積了豐富場景應用經驗與方法,也將更好的輔助醫療行業技術升級和科研進步。
技術創新助力AI更「懂醫」
在醫療領域,電子病歷、生物醫療文獻中存在大量的非結構化文本,採用信息抽取技術對醫療文本進行結構化,提取其中的疾病,症狀,部位等實體,並對實體之間的關係進行判斷,進而利用這些信息構建醫療知識圖譜,不僅有利於人工智慧更好地學到領域內的專業知識,更進一步提升導診、輔診、疾病預測等下遊醫療任務的性能。
具體來說,醫生在疾病診斷的過程中,不僅要知道患者的症狀,而且要了解患者不同症狀所對應的具體屬性,例如症狀發生的時間、部位、變化情況。天衍實驗室AI導診和疾病預測功能,正是採用了上述信息抽取技術,可模擬醫生診斷過程,並提供循證路徑和一定的可解釋性。
如在AI導診場景中,當用戶輸入主訴,AI導診小程序可以返回推薦科室。用戶主訴中可能包含多個症狀,不同症狀的時間、部位、嚴重程度、病因誘因可能對應不同的疾病,通過關係抽取技術,可以捕捉到不同症狀的具體屬性,從而有助於更精準的疾病預測和科室推薦。對於下圖中的患者主訴,首先採用ner技術提取症狀、檢查等實體,繼而採用關係抽取技術對不同症狀的具體屬性進行判斷,例如症狀「腹脹不適」,對應的部位為「上腹」,時間為「3月餘」,變化條件為「進食後明顯」,理解了症狀的一系列細粒度屬性,才能進一步判斷可能的疾病和對應科室。
騰訊天衍實驗室致力於長期在自然語言基礎、語言理解、信息抽取、知識圖譜構建等進行研究創新,並將成果運用到落地的醫療自然語言等場景,目前已構建醫療行業大規模知識圖譜,支持了數百家醫院的輔診、導診、疾病輔助診斷、智能用藥等產品,助力醫保、醫院、疾控中心和其他醫療機構的智能化知識挖掘和管理難題,實現知識化轉型。
騰訊天衍實驗室專注於醫療健康領域AI算法研究及落地,旨在依託NLP、知識圖譜、大數據、醫療影像等技術系統,將算法能力輸出到騰訊健康小程序、QQ瀏覽器、微信搜一搜等終端應用。與此同時,騰訊天衍實驗室還與鍾南山院士以及復旦腫瘤醫院等頭部醫院建立聯合實驗室,與牛津大學、喬治亞大學、天津大學、微眾銀行AI部門等單位建立長期科研合作關係,目前已發表包括NIPS、KDD等多篇頂級學術論文,通過聯合社會各界進行技術深入研究,騰訊天衍實驗室將進一步加速科研應用落地,以服務於臨床應用。