深度學習下的微表情研究:困難、進展及趨勢 | CNCC 2019

2021-01-09 雷鋒網

雷鋒網AI科技評論按:人是善於通過表情偽裝情緒的動物,但心理學家卻能夠通過「微表情」來揭示人們試圖隱藏的真實情緒。

所謂微表情,是一種持續時間極短、在人們試圖掩飾自己真實情緒時洩露出來的面部動作。

如果看過美劇《Lie to Me》,應該對微表情不會陌生。男主卡爾•萊特曼是一個微表情專家,他不需要藉助測謊儀之類的設備,也不需要收集各種證據,甚至不需要對話,只需要觀察細微的表情變化便可以判斷一個人是否說謊。

之所以能夠這樣,是因為人們在體驗情緒時會有一系列肌肉動作不自覺地表現出來。

例如人們在憤怒時,眉毛會緊皺下垂,,眼瞼和嘴唇緊張:

或者一個人在對事物表示驚訝時,下顎會自然下垂,嘴唇和嘴巴放鬆,眼睛張大,眼瞼和眉毛會微微上抬:

當然,我們知道面部表情是可以受主觀意識控制,例如一個人可能因其知識、閱歷、能力等原因,在內心波濤洶湧的時候做到面不改色。然而,微表情是面部肌肉條件反射地表現出情緒所對應的行為。正是因為如此,微表情往往能夠揭示人類試圖隱藏的真實情緒。

但正如對微表情的定義,微表情持續時間短暫、變化幅度微弱和動作區域較少,很多時候人們很難注意到其存在。只有那些經過大量訓練的專家才能準確地檢測,而且不同的專家還往往會判斷不一致。靠人工來觀察微表情真的是一個耗費人力、耗費時間,而且準確度低的事情!

停!

耗費人力物力、工作機械、需要大量專家……這不正是機器學習所擅長的嗎?事實上,目前已有許多學者在用機器學習的方法進行微表情研究了。

一、方法

對微表情的研究,在方法上事實上類似於人臉識別,一般包含檢測和識別兩個具體問題。

對於人臉識別,一般都是先進行人臉檢測,然後對檢測到的人臉進行識別。這個過程同樣也適用於微表情識別:先從一段長視頻中把發生微表情的視頻片段檢測出來,然後識別該微表情屬於哪一類微表情。

人臉檢測和微表情檢測

微表情檢測,就是指在一段視頻流中,檢測出是否包含微表情,並標記微表情的起點(onset)、峰值(apex)和終點(offset)。起點(onset) 是指微表情出現的時間;峰值(apex) 是指微表情幅度最大的時間; 終點(offset) 是指微表情消失的時間。

微表情識別是指給定一個已經分割好的微表情片斷,通過某種算法,識別該微表情的情緒種類(例如厭惡、悲傷、驚訝、憤怒、恐懼、快樂等)。如同三維動態表情識別一樣,其處理的對象是視頻片斷,而不只是單幅圖像。對其處理過程中,不僅要考慮空間上的模式,還要考慮時間上的模式。所以許多微表情識別的算法都考慮了時空模式。

相對於微表情檢測來說,微表情識別的難度要小一點。所以對微表情的研究一般從微表情識別開始入手。

不過對微表情的檢測和定位往往會更有實用價值。如果能在一段視頻中準確地檢測和定位到某個時間點有微表情出現,那麼就說明這個人在這個時間點上可能會有異常。

二、數據集

事實上對於微表情研究,最難的是如何收集足夠多的、質量高的微表情數據集。

目前微表情資料庫並不多,已知的有:USF-HD資料庫,Polikovsky資料庫, SMIC資料庫, CASME資料庫, CASME II資料庫,SAMM資料庫,CAS(ME)2資料庫。在這八個資料庫中,前兩個都是非自然誘發的,且非公開的。

另外5個數據集,CASME、CASME II、CAS(ME)2是中國科學院心理研究所傅小蘭團隊所建立,SMIC是由芬蘭奧魯大學趙國英團隊建立。各個數據集的細節如下表所示:

五個公開發表的微表情資料庫

需要強調的是,這些資料庫的樣本量都非常小,到目前為止,公開發表的微表情樣本只有不到800個。是典型的小樣本問題。這就造成當前基於深度學習的方法在微表情問題上無法完全發揮出它應有的威力。雷鋒網(公眾號:雷鋒網)

事實上,微表情資料庫的建立非常困難。一個原因是微表情的誘發很難,研究者往往要求被試觀看情緒視頻,激發他們的情緒同時要求他們偽裝自己的表情。有些被試可能並沒有出現微表情或者出現得很少。

另一方面,微表情的編碼也十分費時費力。微表情的編碼依賴於肉眼,需要觀察者慢速觀看視頻,並且選擇臉部運動的起始、高峰、結束並計算他們的時長。而且對於微表情的情緒標定,目前沒有統一的標準。

微表情資料庫面臨的另外的問題。因為微表情的運動幅度非常小,並且相對於常規表情常常是局部的運動,導致在情緒分類上並不是很明確,所以不同資料庫的情緒標定標準不一樣,所以相似的運動被作為不同類的微表情而不同的運動被視作為同類的表情。這一特點導致使用各種資料庫進行微表情識別算法訓練得出的結果並不一致。

此外,由於微表情持續時間短、強度低且經常是局部運動,現在的許多微表情資料庫視頻質量並不能滿足微表情識別分析的需要,這需要具有更高的時間和空間解析度的視頻片段才能進一步改進目前的識別算法。

一句話:微表情建庫,重要性非常高,問題非常多,困難非常大。

三、現狀

近幾年來,微表情受到越來越多學者們的關注。

2009-2016年計算機科學領域中微表情論文發文量的統計(數據來自Scopus)

上圖對2009-2016年計算機科學領域中微表情論文發文量進行了統計。可以看出,近三年來,有關微表情論文的發文量在急劇增長。2009-2016年一共發文81篇,其中2016年就發文30篇,佔總數37%。特別是2013年兩個微表情資料庫(CASME和SMIC)公開發布以後,微表情相關的論文發文量逐年遞增。

目前,國外做的較好的以芬蘭奧魯大學趙國英團隊為主,他們為微表情識別提出了一個系統的框架,並且公開以布了一個微表情資料庫SMIC。其他包括馬來西亞Multimedia大學的John See團隊、英國曼徹斯特都會大學的Moi Hoon Yap團隊、美國南佛羅裡達大學的Shreve、日本筑波大學的Polikovsky和日本早稻田大學Yao等。

而國內做微表情檢測和識別的科研機構主要有中國科學院心理研究所傅小蘭團隊,前面提到的三個資料庫都是他們建立的。其次還有東南大學鄭文明團隊、山東大學賁晛燁團隊、復旦大學張軍平團隊、清華大學劉永進團隊、中山大學的鄭偉詩團隊等。可以看出,國內在這方面有相對較多的研究隊伍。

從微表情論文發文數量可以看出,微表情檢測和識別的研究屬於一個小眾的研究。其限制的主要原因在於大規模、高質量、公開的數據資源的稀缺。所以,用機器學習方法做微表情研究,面臨的一個重要的問題便是:如何建立大規模、高質量的資料庫資源。這面臨著從硬體,到軟體,到標準的一系列嚴峻挑戰。


四、論道

在國內,關於微表情研究的會議或論壇並不是很多,大多只是小圈子內一些研究者之間的相互交流,其他研究人員以及大眾對於這方面的研究進展知之甚少。

為了推廣國內學者以及大眾對該領域的關注,中科院心理所副研究員、2018年第八屆吳文俊人工智慧科學技術獎一等獎獲得者王甦菁博士將在CNCC 2019大會上舉辦一場主題為「微表情檢測和識別」的論壇,並邀請現任兒童發展與學習科學教育部重點實驗室主任鄭文明教授、西安交通大學特聘研究員洪曉鵬博士、京東數字科技顏文靖副教授、江西中醫藥大學申尋兵副教授、山東大學賁晛燁副教授等,共同論道微表情檢測和識別的現狀及未來,理論與應用。論壇上也會介紹中國科學院心理研究所搭建的微表情編碼與共享平臺(http://mecss.psych.ac.cn/)。

屆時會擦出什麼樣的火花呢?值得期待。

論壇概述:微表情是一種持續時間極短的、在人們試圖掩飾自己真實的情緒時洩露出來的面部動作。這種無法壓制的屬性使微表情成為欺騙檢測的重要線索。人們欺騙他人時,個體會有眾多反映內心真正情緒體驗的信號出現(如害怕欺騙被發現導致的恐懼、愚弄他人的快樂等)。相對於研究較多的持續時間較長的宏表情,對微表情的產生、識別(自動識別)及相應的認知神經機制都有待進一步探索。微表情不可自主控制的屬性使其可以應用到國家安全(安檢)、司法實踐(審訊)、臨床醫學(醫患溝通)、廣告與消費(監測消費者的真實態度)等等各個行業領域的真實意圖檢測。本論壇邀請心理學和計算機專家,從兩個學科的角度對微表情檢測和識別分別給出報告。

主席:王甦菁,IEEE,CCF高級會員。中國科學院心理研究所副研究員,從事微表情檢測和識別的研究,採用計算機視覺技術,對微表情檢測和識別展開了卓有成效的工作。通過計算機科學與心理學學科交叉研究,在自發微表情誘發、微表情檢測和微表情識別等方面取得了系統性的創新成果。「微表情識別方法」榮獲2018年第八屆吳文俊人工智慧科學技術獎一等獎。


講者1:賁晛燁

題目:M2MEW:跨源面部宏/微表情資料庫

賁晛燁,副教授,碩士\博士生導師,山東大學未來計劃學者。主要研究方向為圖像處理、模式識別。 獲得哈爾濱工程大學優秀博士學位論文獎,黑龍江省優秀畢業生榮譽稱號,入選教育部「全國博士後特別資助計劃」。2010年4月至2012年5月在哈爾濱工業大學交通信息與控制專業流動站做博士後,2011年11月進入山東大學信息科學與工程學院圖像處理與模式識別技術研究所工作,2015年1月至2015年12月在澳大利亞雪梨科技大學人工智慧中心(全澳排名第一)陶大程教授研究組訪問交流學習一年。主持國家自然科學基金面上、青年基金、科技部國家重點研發計劃子課題、山東省重點研發計劃、教育部博士點基金,博士後一等資助項目以及博士後特別資助等項目。


講者2:顏文靖


題目:微表情資料庫的現狀與未來

顏文靖,心理學博士,畢業於中國科學院心理研究所。原溫州大學心理系主任、副教授、碩士生導師、韓國全南大學兼職博士生導師。長期開展心理學與計算機的交叉研究,研究興趣主要包括表情與姿態、欺騙以及心理健康,建立了國際上使用最多的微表情資料庫CASME。現在京東數字科技開展心理學與人工智慧結合的應用研究。


講者3:鄭文明


題目:人的智能發展評測與心理生理信息感知計算

鄭文明,二級教授,博士生導師,現任兒童發展與學習科學教育部重點實驗室主任、IEEE高級會員、中國認知科學學會理事。2004年9月博士畢業於東南大學無線電工程系信號與信息處理專業。先後在微軟亞洲研究院、香港中文大學、美國伊利諾伊大學香檳分校、劍橋大學從事訪問研究。主要研究方向為多模態情感計算、神經信息處理、計算機視覺,機器學習。2005年入選教育部新世紀優秀人才支持計劃,先後獲首屆微軟青年教授獎、全國優秀博士學位論文提名獎、江蘇省傑出青年基金等榮譽。擔任IEEE Transactions on Affective Computing、Neurocomputing、The Visual Computer、《圖學學報》等國內外期刊編委。主持了科技部973課題、國家自然科學基金重點項目、江蘇省傑出青年基金項目等,獲國家技術發明二等獎1項、教育部自然科學二等獎2項和江蘇省科技進步二等獎1項。


講者4:申尋兵



題目:欺騙檢測的情緒洩露線索

申尋兵,副教授,碩導,美國邁阿密大學(牛津)訪問學者。近五年該同志主持省部級以上項目6項(其中國家自然科學基金與教育部人文社科項目各1項);發表論文16篇 (其中第一作者或通訊作者SCI/SSCI論文4篇、 CSSCI論文2篇、EI論文5篇、CPCI (ISTP)論文1篇);參與寫作教材或著作3部,參編國家級規劃教材1部;獲校級教學成果二等獎1項(排名第1),獲得授權發明專利1項(排名第二)。兼任《科學通報》、《心理學報》、《心理科學》審稿人,《Frontiers in Psychology》客座編輯、審稿人,世界中醫藥聯合會中醫心理學專業委員會常務理事,江西省心理學會常務理事,江西省社會心理學會理事,江西省中西醫結合學會循證醫學專業委員會委員,江西省中西醫結合學會循證醫學專業委員會委員,中國人工智慧學會人工心理與人工情感專業委員會委員,江西省公共資源交易中心評標專家,江西省養老服務標準化技術委員會委員。


講者5:洪曉鵬


題目:自動微表情分析:從手工特徵到深度學習

洪曉鵬博士,現為西安交通大學電信學部特聘研究員、博導。曾獲得芬蘭奧盧大學博士生導師(Docent)頭銜。他在高文院士指導下於2010年在哈爾濱工業大學獲得計算機應用與技術專業工學博士學位。他目前的研究興趣包括微表情識別、醫學檢查、小樣本學習及物體跟蹤等。洪曉鵬博士已在包括IEEE T-PAMI、T-IP、CVPR和ACM UbiComp等CCF A類學術刊物在內的國際權威期刊和會議上以主要作者身份發表了逾30篇文章,獲授權發明專利一項。所發表文章Google Scholar引用超過800次,單篇所載刊物最高影響因子9.455。其中在瞬時情感分析方面的相關工作受到了包括美國《麻省理工技術評論》和英國《每日郵報》在內的國際權威媒體專文報導。自2011年起主持了芬蘭奧盧市信息技術學會(Infotech Oulu) 博士後科研基金項目一項,共同主持芬蘭科學院ICT2023專題項目一項,並先後參與多項芬蘭科學院基金項目和中國國家自然科學基金項目。

參考文章:https://mp.weixin.qq.com/s/bMwVZN6sCcbVdU0F4ulagQ

雷鋒網報導

雷鋒網原創文章,未經授權禁止轉載。詳情見轉載須知。

相關焦點

  • 深度學習下的微表情研究難題:數據捕捉困難,耗時長、樣本小
    那些看似不經意的微表情暴露著人們企圖掩飾的內心世界。近日,2019CNCC微表情檢測和識別論壇在蘇州舉行,參會人員對微表情資料庫建立進展,情緒洩露與欺騙的關係、基於深度學習的微表情分析以及未來可能應用領域進行了探討。面部表情是情感表達的主要窗口。
  • 深度學習在醫學影像中的研究進展及發展趨勢
    深度學習在醫學影像中的研究進展及發展趨勢王麗會1,2, 秦永彬1,21 貴州省智能醫學影像分析與精準診斷重點實驗室,貴州 貴陽 5500252 貴州大學計算機科學與技術學院,貴州 貴陽 550025摘要:醫學影像是臨床診斷的重要輔助工具,醫學影像數據佔臨床數據的90%,因此,充分挖掘醫學影像信息將對臨床智能診斷、智能決策以及預後起到重要的作用
  • 徐良峰:訊問僵局下新的突破口——微表情
    在我國,2009年9月,中國科學院心理研究所所長付小蘭組織成立了研究小組,也開始對微表情與人的情緒機制、無意識狀態之間的關係展開研究,使得微表情的客觀存在再次得到了肯定。  2.自發性  微表情的產生是在外界刺激和心理神經機製作用下自然產生的屬性,屬於生理應激反應,是自然發生的,不能被人控制和隱瞞,因而是無法偽造的。
  • CNCC 2019 | 劉群:基於深度學習的自然語言處理,邊界在哪裡?
    近日,在北京語言大學舉辦的第四屆語言與智能高峰論壇上,華為諾亞方舟實驗室語音語義首席科學家劉群教授高屋建瓴,細緻分析了深度學習時代NLP的已知與未知。他從自然語言處理基於規則、統計到深度學習的範式遷移出發,探討了深度學習方法解決了自然語言處理的哪些問題以及尚未解決哪些問題。
  • 可微分式編程:深度學習發展的新趨勢?
    以長期以來被人工智慧純化論者所鄙視的途徑——從海量數據中學習概率的方式——解決了。從此你無需把問題編碼成可運行的格式,更不依賴人自身解決問題的技巧——從目標分類和語音識別到圖片標註和合成特定藝術家風格的圖像,甚至指導機器人執行尚未被編程的任務,都被一一解決。這個佔主導地位的新進展最初被冠以「神經網絡」之名,如今被稱作「深度學習」——用來定性地強調相比以前的長足進展。
  • 從創作者的角度,學習《微表情心理學》,讓人物描寫栩栩如生
    而《微表情心理學》這本書,就是解決「為什麼」的問題。為什麼從他人的肢體語言中能洞悉心理活動?為什麼戀愛中兩人頻繁吵架,而找不到破解之法?為什麼明明很努力地工作,卻得不到晉升或加薪?但,今天我們從創作者的角度,來學習如何將微表情心理學運用到作品的創作中。
  • CNCC 2019:網際網路時代下,一場中國與世界頂級學者的對話
    其中三個大會論壇主要圍繞網際網路 50 年、工業網際網路、深度學習三個主題展開討論。而七十餘場技術論壇則由內容豐富、形式多樣的多個計算領域的熱點主題組成,如人工智慧、大數據、區塊鏈、量子計算、工業網際網路、信息安全、健康醫療、教育教學等。二十場特色活動包括百名優秀大學生互動講座和頒獎會、CCSP 頒獎會企業論壇、產品發布、招聘、培訓、教育發展研討會等。
  • 探討計算機視覺前沿技術,加速智慧城市落地應用 | CNCC 2019
    一方面,隨著計算機視覺與模式識別理論、方法的研究進展,特別是以深度學習為代表的新一代人工智慧理論在計算機視覺與模式識別研究中的巨大成功,學界不斷提出大量、各具特色、面向各種應用的算法,極大地推動了相關技術的發展。另一方面,需求趨勢計算機視覺行業發展潛力巨大,應用場景拓展滲透到各行業,人們對生活安全以及生產效率追求兩大需求的提升,決定計算機視覺行業具有巨大發展空間。
  • 心理學與微表情微動作
    生活中大多數人都曾或多或少的對心理學感興趣,在我所接觸的人裡好像大多數女生對此內容更是樂此不彼,每次一提起這個話題她們總是有很多話要說,有的甚至當你問她們想學點什麼,她們都會脫口而出說心理學,那麼心裡學究竟是什麼,我對此也是一知半解,所以這個月我們一起來閱讀這本書,由作者知非編著的這本《心理學與微表情微動作
  • 2019-2025年中國聚乙烯行業深度調研與發展趨勢報告
    《2019-2025年中國聚乙烯行業深度調研與發展趨勢報告》是在大量的市場調研基礎上,主要依據國家統計局、商務部、發改委、國務院發展研究中心、聚乙烯相關行業協會、國內外聚乙烯相關刊物的基礎信息以及聚乙烯行業研究單位提供的詳實資料,結合深入的市場調研資料,立足於當前中國宏觀經濟、政策、主要行業對聚乙烯行業的影響,重點探討了聚乙烯行業整體及聚乙烯相關子行業的運行情況
  • 「深度學習與統計學理論」研討會成功舉辦
    他熱情地歡迎了線下與線上的師生學者們參與本次研討,表明在人工智慧的飛速發展下,深度學習作為處理非結構化數據的一種手段,走向大規模產業化應用已成為從政策導向到行業共識的一致方向。為此,建立深度學習平臺助力產業應用,加速支持產業智能化,也已經成為當前學術界和各行業最炙手可熱的研究應用方向,期待大家能夠從研討中彼此進益,有所收穫。
  • 氣溶膠細模態比例參數反演的深度學習遙感方法 | 微課堂
    衛星遙感反演提取AOD信息的技術已經較為成熟,而FMF反演是較為困難的。因此在通過衛星遙感估算PM2.5等研究中,缺乏區分氣溶膠顆粒粗細的關鍵參量。陸地上空FMF因遙感機理複雜、觀測信息缺乏等原因導致反演困難,美國宇航局MODIS氣溶膠官方團隊對其發布的FMF產品因精度低而「強烈建議不要定量化使用」。
  • 《微表情心理》入門必備書單!!!
    如今,「微表情」一詞已經越來越廣泛地出現在人們的視野中,如一些綜藝節目、直播課堂等,引起了觀眾的關注與好奇。微表情,是指人們在應激反應下產生的難以控制的微小反應,如皺眉、癟嘴、聳肩等動作。那麼,想要了解微表情心理的小夥伴們應該從哪些書籍入手呢?下面小編就為大家整理了一份有關微表情心理學的書單,書單排列順序與書籍評價度無關。
  • 數據時代幾何處理與建模的研究進展與趨勢
    結構流形的學習也是當前形狀分析的難點問題,目前的方法都只能表達結構的某個方面[21]。由於深度學習的強大表達能力,基於深度神經網絡的結構流形學習具有很好的前景。最近,Li等人研究了基於深度遞歸自編碼器的生成模型學習[34],該工作基於三維模型的部件層次表示和遞歸編解碼,學習到三維模型結構的一個流形表示。   總之,判斷三維模型的合理性仍是三維形狀分析的難點問題。
  • 從微表情了解一個人
    眾所周知,人類的表情是極為豐富的,細細劃分能夠達到7000種以上。這些表情雖然最短的只能維持1/25秒,卻是心底想法的真實流露。而且越是短暫的表情,越是下意識的表情,同時也就越容易表露真實的心聲。當然,出於種種原因,我們會從主觀意識上故意隱藏自己的真實想法,同時在表情和動作上加以掩飾。但我們不經意間流露出來的一些小動作和表情,卻是難以掩飾的,而這些小的表情和動作,正是心理學研究的對象,其專業名稱為微表情和微動作。當我們能夠對此進行充分了解後,就能夠掌握一定程度的心理學知識,從而儘快、儘早、儘可能地了解對方內心世界的真實想法。
  • 基礎前沿交叉領域2019年進展與趨勢
    基礎前沿交叉領域2019年進展與趨勢[J].世界科技研究與發展, 2020, 42(6): 608-622.對2019年基礎前沿交叉領域重要進展進行分析發現,在數學研究中,黎曼假設的證明、歐拉方程的失效條件、極大數字乘法算法等取得重要進展;在標準模型研究中,反物質波粒二象性、電荷-宇稱對稱性破壞、五夸克態、中微子質量等研究取得重要進展;在對黑洞探索過程中,多國聯合觀測增加了人類認識宇宙的能力,2019年人類首次繪製出黑洞照片,多國科學家聯合發現最大質量恆星級黑洞;在拓撲物態領域,科學家首次在塊狀材料中發現三維量子霍爾效應
  • 2019 AI Index 報告出爐:AI 領域取得的進展很多,但結果憂喜參半
    雷鋒網 AI 科技評論按:當地時間 12 月 11 日,斯坦福「以人為本」人工智慧研究院與 OpenAI 合作完成的2019 AI Index 年度報告發布。作為史丹福大學「AI100」項目的一部分,AI Index 旨在研究影響人工智慧產業的最大趨勢、突破性研究進展以及人工智慧對社會的影響,今年已是該報告發布的第三個年頭。
  • AI求解薛丁格方程;陶大程等深度學習理論進展綜述
    推薦:圖神經網絡的分類、進展和趨勢綜述。近年來,隨著深度學習的崛起,利用深度序列模型,實現序列到序列的學習已然成為文本到文本生成研究領域的主流。基於深度序列建模的文本到文本生成主要包含三個環節:輸入文本的語義理解,輸入信息到輸出信息的映射,以及輸出文本的建模。
  • 如何利用微表情辨識真實情緒?
    不過微表情的產生與識別心理與神經機制尚不可知,而且微表情出現的頻率比較低,普通人對微表情的識別能力也不高,工欲善其事必先利其器,開發一套微表情識別系統,對開展研究微表情是非常必要的。其中,Ekman團隊是開展微表情研究的主要力量,不過他們的研究大多是保密的,未公開發表。
  • 入門| 獻給新手的深度學習綜述
    它也是當今最流行的科學研究趨勢之一。深度學習方法為計算機視覺和機器學習帶來了革命性的進步。新的深度學習技術正在不斷誕生,超越最先進的機器學習甚至是現有的深度學習技術。近年來,全世界在這一領域取得了許多重大突破。由於深度學習正快度發展,導致了它的進展很難被跟進,特別是對於新的研究者。在本文中,我們將簡要討論近年來關於深度學習的最新進展。 1.