人工智慧自動跟蹤果蠅產卵、小鼠伸爪,大大降低動作捕捉成本

2020-12-06 澎湃新聞

馬的四蹄會不會同時離地?130多年前,英國著名攝影師邁布裡奇利用橫跨賽道的緊繃繩子控制快門,馬匹跑過時自動觸發拍照,由此解決了這個爭論已久的話題。這可能是「動作捕捉」技術的鼻祖。

如今,基於視頻記錄的動作捕捉技術已經廣泛應用於動畫製作、體育訓練、人機工程等領域,其核心是將運動物關鍵部位的動作處理成計算機數據。不過,這要麼需要人力費時費力地逐幀標記,要麼需要在研究對象上放置標記物,實用場景十分有限。

當地時間8月21日,英國《自然-神經科學》期刊上發表的一篇論文,介紹了一種經過深度學習訓練後,實現自動捕捉動物運動的軟體DeepLabCut。其精細程度可以跟蹤果蠅產卵、伸吻,以及小鼠每一個腳趾的軌跡。

跟蹤果蠅

值得一提的是,開發者已經將DeepLabCut放在了開源網站GitHub上,其他研究人員可以免費下載,經過幾小時的簡單標記後,就能定製軟體捕捉特定動物,乃至人類的運動。

開發該款軟體的美國哈佛大學神經科學家夫婦Mackenzie Mathis和Alexander Mathis原本打算研究小鼠對氣味的追蹤行為,需要在視頻裡對小鼠鼻頭進行標記跟蹤。然而,他們沒有找到現成的便捷工具,神經科學家常用的閃光標記物也難以用在微小的鼠頭上,由此萌生了自己編一款軟體的想法。他們選擇了一款

用於識別人類照片的深度學習框架,改造到動物身上。

Mathis團隊

首先利用一個大型目標識別圖像資料庫ImageNet對DeepLabCut進行了預訓練,教會系統如何區分不同動物,並識別具體的身體部位,比如小鼠的爪子、鬥魚的魚鰭。這樣可以大大節省後續訓練所需的數據。

接著,他們教會系統不僅是跟蹤某一個身體部位,而是同時捕捉所有的標記部位。這能輔助彼此間的精確定位。

最後,團隊進行了跨物種的檢驗和校準,在論文中演示了對果蠅和小鼠兩種物種的動作跟蹤。

跟蹤小鼠

如果你要利用這個軟體捕捉你家貓的動作,只需要在視頻中選取幾幀或幾十幀,點擊滑鼠標註貓頭、貓尾巴和每隻貓爪的位置,深度學習算法就會自動覆蓋整個視頻的每一幀。

目前,該軟體已經應用於其他團隊的動物研究。DeepLabCut網站上列舉了一些案例:

密西根大學的Daniel Leventhal團隊跟蹤大鼠受訓抓取的動作。過程中人工標記了180幀。

哥倫比亞大學的Nate Sawtell實驗室跟蹤小鼠在踏板上的動作。旁邊放置了一塊鏡子,算法同時捕捉兩個視角上的軌跡。

Nate Sawtell實驗室還跟蹤了電魚的遊泳動作。

在同期發表的一篇評議文章中,北京大學心理學系教授魏坤琳與賓夕法尼亞大學Konrad Kording肯定了這項研究的價值。DeepLabCut理論上可以處理任何視頻中的動作,現在網際網路上的海量視頻數據,將成為科學家們的富礦。

進一步展望未來,原本昂貴而費盡的動作捕捉技術會飛入尋常百姓家。

譬如,現在只有頂級運動員才能享受動作捕捉技術,且需要專業人士進行配套的分析。在未來,也許每個人在健身房裡就可以在軟體的指導下更科學、更有效地鍛鍊。

同理,物理治療和醫療康復項目中的動作捕捉技術十分昂貴,一些醫生只能靠肉眼觀察進行主觀判斷。普適而便捷的視頻動作分析將掀開精準醫療史上全新的一頁。

Mathis夫婦表示,他們已經收到了一些意想不到的郵件,比如科學家希望研究章魚等軟體動物以研發手術機器人,體育界人士希望分析棒球運動員的投球動作,甚至有一家公司希望用他們的軟體分析賽馬的勝率。

(本文來自澎湃新聞,更多原創資訊請下載「澎湃新聞」APP)

相關焦點

  • 人工智慧自動跟蹤果蠅產卵、小鼠伸爪 大大降低動作捕捉成本
    其精細程度可以跟蹤果蠅產卵、伸吻,以及小鼠每一個腳趾的軌跡。 馬的四蹄會不會同時離地?
  • 動作捕捉系統發展與應用
    為了自動完成這一過程,動畫師們開始使用動作捕捉。西蒙弗雷澤大學生物動力學研究員Tom Calvert開創性地發明了機械動捕服。有一家公司開發了「Waldo」面部和肢體捕捉設備,同時,麻省理工開發了基於LED的「圖形木偶」,這也是首批光學動作跟蹤系統。這一系統的早期動畫典例便是Kleiser-Walczak製作的臭名昭著且令人毛骨悚然的MV《Don’t Touch Me》。
  • 科學家揭示果蠅產卵地選擇行為機制
    媽媽總想給孩子最好的,果蠅也不例外。  自然界裡,雌性果蠅喜歡挑選軟爛的水果產卵,讓孩子們一出世就能「泡在蜜罐」裡。同時,水果較軟的表面質地也方便它們把產卵器插進去。早期研究證明水果芳香的化學味道可以激發果蠅的產卵行為,那麼柔軟的質感是不是也可以呢?  近日發表在《當代生物學》上的一項研究,揭示了果蠅通過機械力感受機制選擇「產房」的秘密。
  • 光學動作捕捉系統是什麼?它能在自動駕駛、無人機、機器人中起什麼...
    近年來,人工智慧AI非常火熱,算法越來越得到重視,其在AI中的地位越來越高。在智能體算法層面,動作捕捉是自動駕駛、無人機、機器人、安防等涉及電子運動學中最重要的技術和算法,而光學動作捕捉處於這門算法學科的最前端。那麼光學動作捕捉系統到底能做哪些事情呢?
  • VR裡的慣性式動作捕捉系統究竟是什麼?
    VR是一場交互方式的新革命,人們正在實現由界面到空間的交互方式變遷,這樣的交互極其強調沉浸感,而用戶想要獲得完全的沉浸感,真正「進入」虛擬世界,動作捕捉系統是必須的,可以說動作捕捉技術是VR產業隱形鑰匙。 目前動作捕捉系統有慣性式和光學式兩大主流技術路線,慣性式雖然後於光學式出現,但以其超低廉成本和簡便成熟的處理流程,以及完全實時的數據計算和回傳機制,成為了更加炙手可熱的技術。
  • 迷你世界:懸浮機械爪捕捉器,1秒天降牢籠操作,輕鬆捕捉一群豬
    前言:學習大神製作懸浮機械爪捕捉器,開動機關1秒天降牢籠操作,玩家輕鬆捕捉一群小豬。 在迷你世界遊戲中從來不缺各種黑科技陷阱道具,畢竟想要在生存模式裡輕鬆遊戲,玩家們一定要學會製作陷阱道具,不管是捕捉獵物還是抵擋各種野怪的攻擊都非常實用。
  • 不同原理動作捕捉類型與應用現狀
    動作捕捉技術現階段可以分為以下幾種:光學式,慣性式,機械式,聲學式,電磁式。光學式動作捕捉顧名思義,是通過光學原理來完場物體的捕捉和定位的。是通過光學鏡頭捕捉固定在人體或是物體上面的marker的位置信息來完成動作姿態捕捉。
  • 太陽能自動跟蹤系統的設計
    但太陽能利用效率低,這一問題一直影響和阻礙著太陽能技術的普及,如何提高太陽能利用裝置的效率,始終是人們關心的話題,太陽能自動跟蹤系統的設計為解決這一問題提供了新途徑,從而大大提高了太陽能的利用效率。  跟蹤太陽的方法可概括為兩種方式:光電跟蹤和根據視日運動軌跡跟蹤。光電跟蹤是由光電傳感器件根據入射光線的強弱變化產生反饋信號到計算機,計算機運行程序調整採光板的角度實現對太陽的跟蹤。
  • 科普——光學動作捕捉系統到底有何作用?
    本文轉載自【微信公眾號:FzoneLab,ID:gh_233f2c9ac072】經微信公眾號授權轉載,如需轉載與原文作者聯繫近些年,人工智慧比較火熱,人工智慧分為三大學派,符號主義、連接主義、行為主義。無人機、機器人等智能體屬於連接主義、行為主義範疇,其應用價值也日益凸顯。在智能體算法層面,光學動作捕捉系統能做哪些事情呢?
  • Current Biology |雌性果蠅拒絕交配的神經生物學機制
    如果雌蠅願意接受交配,她會放緩移動速度並做出稱為VPO (vaginal plates opening)的動作;相反,如果雌蠅拒絕交配,她也會做出一系列動作去提示雄蠅,其中最重要的一個動作就是將她的產卵器伸出(ovipositor extrusion,簡稱OE)。
  • 太陽自動跟蹤系統的設計
    但太陽能利用效率低,這一問題一直影響和阻礙著太陽能技術的普及,如何提高太陽能利用裝置的效率,始終是人們關心的話題,太陽能自動跟蹤系統的設計為解決這一問題提供了新途徑,從而大大提高了太陽能的利用效率。 跟蹤太陽的方法可概括為兩種方式:光電跟蹤和根據視日運動軌跡跟蹤。光電跟蹤是由光電傳感器件根據入射光線的強弱變化產生反饋信號到計算機,計算機運行程序調整採光板的角度實現對太陽的跟蹤。
  • 研究揭示聯繫雌性果蠅交配和產卵的神經迴路
    研究揭示聯繫雌性果蠅交配和產卵的神經迴路 作者:小柯機器人 發布時間:2020/2/27 15:54:38 近日,美國霍華德-休斯醫學研究所Barry J.
  • 為什麼果蠅求愛姿勢會變化?普林斯頓:通過看,揪出背後的神經元...
    看行為動作,預測大腦狀態捕捉果蠅行為變化的神經網絡,是廣義線性模型(GLM)+ 隱馬爾可夫模型(HMM)。這是一種無監督的方法。在求偶過程中,雄性果蠅會對著雌性果蠅唱歌,這種聲音有三種不同的模式:一種是正弦形態,另外兩種是脈衝形態。
  • 認識動作捕捉系統 淺談三種主流解決方案
    那麼我們可以將動作捕捉系統分為以下三大主類:基於計算機視覺的動作捕捉系統(光學式非標定)、基於馬克點的光學動作捕捉系統(光學式標定)和基於慣性傳感器的動作捕捉系統(慣性式)。接下來我們對這三種形式的動作捕捉系統進行簡單的解析。1.
  • VR利器慣性動作捕捉系統原理及優缺點解析
    目前動作捕捉系統有慣性式和光學式兩大主流技術路線,慣性式雖然後於光學式出現,但以其超低廉成本和簡便成熟的處理流程,以及完全實時的數據計算和回傳機制,成為了更加炙手可熱的技術。目前國際上最富代表性的產品是荷蘭Xsens公司研發的Xsens MVN慣性式動作捕捉系統以及美國Innalabs公司研發的3DSuit慣性式動作捕捉系統,國內則有諾亦騰、國承萬通等公司。  那麼慣性式動作捕捉系統是如何正確運用在虛擬實境中的呢?本文將對慣性動捕的工作原理、優勢,及其存在的缺點進行解析,希望能與業內人士共同探討。
  • 九江:滿園橘子生蛆村民束手無策 疑為果蠅產卵所致
    原標題:滿園橘子生蛆 村民束手無策  農資店老闆:是果蠅幼蟲,不會傳染疾病  中國江西網九江訊 目前正是橘子大量上市的季節,然而,有3畝橘園的廬山區蓮花鎮東城村11組村民周師傅有些愁眉不展,他家橘園的橘子生了蛆,導致大量落果。「本來每年橘子能賣不少錢,今年只夠自己吃,而且吃的時候還要小心!」
  • 果蠅大腦被切成納米級切片?谷歌AI自動完整重建!
    果蠅的一個重要優勢是它們的大小:果蠅的大腦相對較小,只有10萬個神經元,相比之下,老鼠的大腦有1億個神經元,人類的大腦有1000億個神經元。這使得果蠅的大腦更容易作為一個完整的迴路來研究。近日,谷歌與霍華德•休斯醫學研究所(HHMI)和劍橋大學合作,發布了一項最新深入研究果蠅大腦的研究成果——自動重建整個果蠅的大腦。
  • 研究人員提出優化方法跟蹤自動駕駛軌跡 減少跟蹤誤差/降低計算量
    而為了讓自動駕駛汽車真正被社會所接受,自動駕駛汽車的乘客體驗必須與人類駕駛的車輛一樣舒適,包括能夠選擇「最佳」或更舒適的方式達到目的地。事實證明,尋找「最佳」或更舒適的方式是一個極其困難的計算挑戰,不過美國亞利桑那州立大學(Arizona State University)研究人員們卻想出了解決方案。
  • 科學家揭示果蠅選擇「產房」的秘密
    作者 | 李晨陽媽媽總想給孩子最好的,果蠅也不例外。自然界裡,雌性果蠅喜歡挑選軟爛的水果產卵,讓孩子們一出世就能「泡在蜜罐」裡。同時,水果較軟的表面質地也方便它們把產卵器插進去。早期研究證明水果芳香的化學味道可以激發果蠅的產卵行為,那麼柔軟的質感是不是也可以呢?
  • 從咕嚕到隔空取物 動作捕捉技術讓遊戲超乎想像
    圖為《阿凡達》中的動作捕捉拍攝和最終效果對比那麼到底什麼是動作捕捉技術呢?動作捕捉,英文為 Motion-Capture,簡稱 Mo-cap。從技術的角度來說,動作捕捉的實質就是測量、跟蹤、記錄物體在三維空間中的運動軌跡。參與演出的人員必須穿戴滿布傳感器的特殊服裝,在充滿特殊攝影機和燈光的片場中採集面部表情、肢體等「動作」,然後將這些數據通過計算機移植到虛擬角色身上,使其呈現出真人出鏡表演一般的逼真效果。