研究 | 追劇學英語兩不誤,眼動數據分析為你定製專屬字幕

2021-02-14 AAS數據可視化

在中學時,英語老師就說過刷美劇和聽英文歌曲是學習英語最好辦法。(咳咳,當然也不排除看國外主播玩遊戲來鍛鍊聽力的小可愛們)

但是,這樣「學習」的過程可謂十分煎熬了,常常是關了字幕練聽力,一會就睡著了;而全部打開字幕的話,我的眼裡就只有中文了。一部劇看下來,既沒有學到幾個單詞,還犧牲了看劇的樂趣。

到底怎樣才能科學追劇學英語呢?

英文水平一直普遍被吐槽的日本盆友們也是深受「學英語」之困。不過近日,日本研究人員真的開發出了一套看劇學英語的神器:可以通過記錄你觀看美劇時候的眼動,推測你的真實英文水平,再通過機器學習分析,定製你的專屬美劇字幕。

聽起來是不是非常有效且不痛苦,先看看這個神奇的工具是怎麼運作的!

東京大學和索尼計算機科學實驗室的研究小組,發布了一款英文學習系統「SubMe」。它可以通過跟蹤用戶觀看帶字幕視頻時的視線移動來估計出英語水平,並且構建適合該用戶英語水平的英語學習材料。



研究項目的論文名字為《SubMe: An Interactive Subtitle System with English Skill Estimation Using Eye Tracking》,作者是日本學者Katsuya Fujii和Jun Rekimoto ,兩位分別來自東京大學和索尼計算機科學實驗室的研究小組。


這篇論文也發布在2019年的增強技術國際會議上(Augmented Human International Conference 2019)。

論文下載連結:

https://rekimotolab.files.wordpress.com/2019/03/a23-fujii.pdf


據兩位研究者介紹,這一研究的想法最初來源於一門心理學課程,這門課要求學生們記錄下用戶觀看《星球大戰》片頭滾動字幕時視線的移動範圍。

Katsuya和Jun在整合記錄時發現,觀影者的視線範圍變化非常大,且主要區別是在英文的聽力水平上,英語水平較低的用戶往往有更多的縱向視線移動,而英語水平較高的用戶則更多聚焦在屏幕下方。

(a)英語水平較高的觀看者的視線追蹤圖。(b)英語水平較低的觀看者的視線追蹤圖。


兩人覺得這一分析結果非常有趣,說不定可以為第二語言學習者提供一個更好的學英文方法。

於是,基於這項分析,Katsuya和Jun就開啟了這項可以通過視線移動區分英語水平的研究。

兩人提出了一套系統,可以先通過觀看帶字幕視頻時用戶的視線移動,來估計每個用戶的英語水平,之後通過搜集到的數據,讓當前級別需要學習的英語單詞的日語翻譯和字幕一起顯示。

這一系統的運行首先需要一種目前發展十分成熟的硬體條件:眼動儀。

其實通過分析眼球運動軌跡數據來預測人類閱讀理解能力已經有很多研究。對閱讀的眼動研究可以追溯到19世紀,較著名的書有1897年Quantz的《閱讀心理學中的問題》,1906年Dearborn的《閱讀心理學》和1908年Huey的《閱讀心理學和教育學》。

隨著技術的發展,眼部追蹤裝置—眼動儀的精度已經變得非常高,所以記錄眼睛運動軌跡可以像監控其他生命活動一樣具有較高的可行性。

眼動追蹤技術對網站頁面布局的研究也使用戶感覺更加順暢舒適,在瀏覽頁面習慣性的注視動作上,優化網站頁面的內容,使瀏覽者更便捷的找到自己所需要的內容。具體的說,眼動追蹤技術通過記錄被測試人員的眼睛運動軌跡,一方面來分析用戶的眼動軌跡和瀏覽習慣,另一方面完整而客觀的還原用戶對頁面各部分的視覺注意力、注視軌跡和關注質量。

Katsuya和Jund使用的是連接到PC的Tobii EyeTracker 4C裝置,記錄各個英語級別用戶的視線移動狀況,之後進行分析。

值得一提的是,這一分析並不是基於單詞的,而是基於每行字幕的眼睛注視次數和所用的時間的。

分析結果表明,英語水平較低的用戶傾向於有更高的注視數,並在字幕上花費更多時間。

視線追蹤可視化的圖:(A)英語母語觀看者;(B)英語高級別觀看者;(C)英語低級別觀看者


之後,研究者將分析結果輸入隨機森林來進行機器學習。

首先,他們用當代美國英語語料庫(COCA)來計算每個單詞的難度。再獲得用戶可能理解不了的所有字幕的平均分數(分數越低,未知單詞越多),從獲得的值來估計用戶的英語水平,然後顯示最適合用戶的英語學習材料。

作為顯示的方法之一,可以根據每個用戶的英語水平,只將可能不知道的英語單詞翻譯成日語顯示在字幕上。


通過在字幕上面同時顯示可能不知道的英語單詞來進行英語學習。(日語字幕:dating:在約會)


通過這種方式,用戶就可以一邊看陌生單詞的翻譯,一邊看字幕,從而更好地理解視頻,進而可以同時通過這樣最適合自己英語級別的學習進行更有效的學習。

全球英語學習者都在看的《老友記》與subme字幕的結合

總結一下subme系統,看美劇學英語的過程也就一目了然:

1、首先,觀看一部美劇,通過記錄眼動確認你看字幕的頻率;

2、據此估算出你的英文水平,然後為你選擇適合自己英文水平的劇集;

3、根據你的英文水平定製專屬字幕,只定向翻譯陌生詞彙;

4、英語水平迅速提升。

根據研究結果,subme系統下,看美劇「學新單詞」的效果比常規字幕有顯著提升。

並且,神奇的是,根據用戶反饋,在學習英文的同時,這種觀影方式也可以讓用戶的享受指數有較高的提升,可謂真正的「看劇學習」、「寓教於樂」啦。

用戶反饋問題三:使用這個工具時,你的觀影體驗有得到提升嗎?多數用戶對這個問題給出了「同意」的答覆。

最後,希望這個研究能早日進入業界,小A一定先去預定一套。

‍內容來源:大數據文摘

作者:魏子敏、蔣寶尚、Andy‍

相關焦點

  • 說好一起看劇學英語,為什麼別人拿了高分你卻只配討論劇情?
    看劇學英語,並沒有那麼easy,想要真正從劇情中學到英語知識,你要做的第一步就是:小夥伴們有沒有發現咱們在看英文劇情的一個通病:看著看著就忘記了學英語的初衷,然後就被劇情和中文字幕帶著跑,看劇就很被動。
  • 如果看劇學英語只能選一部,那絕對是......
    PS:過年期間,更新不間斷,純英文字幕影片《和你一樣
  • 推薦20部最適合學習英語的美劇,附看劇學英語技巧
    看美劇、英劇學英語的幫助,可能比我們想像的要大。神經科學研究表明(Morgan-Short, et. al., 2012 ),持續而真實的外語語料輸入,能讓學習者接近母語者的語言水平,養成母語思維,而傳統的教材語料不能做到這一點。
  • 如何通過看英美劇學英語
    聽說讀寫流利,是我們通常定義一個人英語好的標準,學好英語就是全面提升聽說讀寫的能力。
  • 看劇學英語 | 《小謝爾頓》S1E5之如果比賽的勝負可以通過數據計算…
    每周分享1集熱播美劇,分析劇中語言知識點,帶你邊玩邊學先自行觀看視頻,記錄其中的知識點,再配合講解學習,效果更佳哦
  • 英語學習的小船說翻就翻?讓《看劇學英語》來拯救你!
    正在學英文的小夥伴們,你們是否已經習慣了每晚六點ICS POP TOP English《看劇學英語》中所播出的美國青春情景劇
  • 影視資源的硬字幕、軟字幕、外掛字幕怎麼區分?
    ,因為看中文視頻根本不需要字幕,以下關於字幕的很多說法你很可能會感覺陌生。但是,如果你經常看非中文的視頻,字幕就必不可少,雖然不懂多少英語、韓語或者日語,我們一樣可以追美劇、韓劇、追番。字幕組的作用就在這,把生肉做成熟肉(有字幕的視頻),通過網盤資源的形式分享給大眾,方便我們食用。看完這篇,你會對經常看到但又沒關注過的字幕有一定認識。
  • 初識眼動|眼動儀的時間和空間解析度
    然而,更高採樣率往往意味著眼動儀性能更高,使用成本更高的眼動傳感器,更多的紅外光源;並且會產生更多待處理的數據。因此,在決定使用何種採樣率開展您的研究之前,首先要確定您研究的具體需求。我們希望本節能為您提供足夠的信息,以做出合適的選擇。圖1.
  • 【2分鐘看劇學英語】The Lord of the Rings(《指環王:護戒使者》)
    我寧願與你共度凡人的一生,也不願一個人看盡這世界的滄海桑田。你是願意待在家裡還是和我去逛街?3. She would rather die than admit she was wrong.她死也不會承認自己是錯的。將下面的句子譯為英語。我寧願在網上看視頻。
  • 【影視原聲】《 權力的遊戲》,字幕音頻,節奏加快近2倍,未損失對白
    我對於追劇其實沒什麼興趣,因為覺得太浪費時間,如果養成習慣會耽誤做正事。
  • 英語娛樂兩不誤--Perfect老師告訴你可以這樣邊看《楚喬傳》邊學地道英語!
    歪果仁紛紛要求良心字幕組加快翻譯,還吐槽國劇的字幕翻譯輸出不及韓劇。而字幕一出,就歡欣雀躍。我們追美劇英劇的感覺,現在也讓外國同胞好好體驗了一把。看了這些字幕翻譯,大家是不是覺得中文翻譯成英文並不是那麼容易的事情?說什麼總想著要先中文範逸臣英文,即便翻譯水平很高,還是覺得累,覺得說的不痛快。這就是為什麼Perfect老師在我們的小密圈英語學習群一再跟大家強調的,要用英文思考,不光打破原有文本,甚至應該直接用英語思維文本。
  • 看劇學英語 | 《小謝爾頓》S1E4之小謝爾頓為何不吃固體食物?
    每周分享1集熱播美劇,分析劇中語言知識點,帶你邊玩邊學先自行觀看視頻,記錄其中的知識點,再配合講解學習,效果更佳哦
  • 為什麼看了上百集英美劇,卻還是學不好英語?
    看劇學英語,並沒有那麼easy,想要真正從劇情中學到英語知識,你要做的第一步就是:小夥伴們有沒有發現咱們在看英文劇情的一個通病:看著看著就忘記了學英語的初衷,然後就被劇情和中文字幕帶著跑,看劇就很被動。
  • 英語原版動畫分析:《Caillou卡由》字幕臺詞難度分析,詞彙量分析,適合什麼時候看?
    需要查看其他動畫的分析文的,可以在文末找到《Peppa Pig》《Maisy》等分析文章。使用牛津閱讀樹,RAZ,海尼曼的GK,G1階段(牛津樹為Level 1-9)的詞彙庫數據作為統計基礎。今天的是《Caillou卡由》動畫中其中70集的字幕文本的詞彙,語速方面的一些分析數據。
  • 一起追劇學英文的三大理由 TOP 3!
    千萬別跟我一起追劇,一起學英文的三大理由!TOP 1: 多彩生活。一部部美劇就是一個個生活萬花筒,或家庭喜劇,或科幻末來,或校園成長.......總是很值得我們去追。豆瓣人氣高評分美劇TOP2: 人生啟迪。
  • 英語動畫分析:《小馬寶莉My Little Pony》字幕臺詞難度分析,詞彙量分析,適合什麼時候看?
    由於一些動畫的字幕也不好找,不好整理,現在就找到那個動畫有現成的字幕文本,就分析哪部動畫了。如果大家有需要幫忙分析的動畫,又能提供字幕文本文件的話,可以聯繫我們個人微信號提供一下文件,那就能快點分析到你所需的動畫了。使用牛津閱讀樹1-9級,RAZ A-J級,海尼曼的GK,G1階段的詞彙庫數據作為統計基礎。
  • 這些相見恨晚的英語學習方法,你不會不知道吧
    不會吧不會吧都0202年了,你還在用一些低效的英語學習方法做一些事倍功半的事情?記得小編在大學的英語課上,老師讓全班同學分別在白紙上寫下自己學了這麼多年英語後認為最有效和最無效的英語方法,收集上來整理後再向我們公布。
  • 看劇學英語3 | 美劇《尋》、《戰士》、《邪惡力量》以及其他
    今天是英語系列第3篇。前情回顧:看劇學英語1 | 美劇《傳說》、英劇《萬物即偉大又渺小》看劇學英語2 | 美劇《戰士》及外文原著閱讀學習  《尋》這個單詞做動詞用,名詞為:speculation。That now is always better than then, that you could finally start to accept your life.現在永遠比過去要好,這樣你就可以繼續(接受)自己的生活了。
  • 數據分析 | 最適合學習英語的Netflix電影和電視劇有哪些?
    如果你正在學習英語,可供選擇的內容很多,但你可能沒那麼多時間去看完。因此,我用數據科學技能來分析Netflix上前1500部電影和電視節目的劇本。經過大量的處理,我找到了Netflix上最好的英語學習內容。這樣做的目的是為了給你提供很多好的選擇,讓你可以找到你喜歡的電影或電視節目,同時對學習英語也有好處,而不是強迫你看不喜歡的電視節目,因為你的老師和朋友堅持'它有助於大家學習英語'。
  • 眼動追蹤與VR概述
    文章來源於"腦機接口社區"虛擬實境創造了體驗沒有或不可能存在的世界的可能性。這種功能大大增加了研究人員的實驗設置範圍。測試場景不需要再受時間、安全、預算(甚至物理定律)等因素的限制。可以在VR中模擬任何東西。