谷歌聯手伯克利給機器人上網課!觀看8位醫生手術視頻學縫合

2021-01-12 大數據文摘

大數據文摘出品

來源:Techxplore

編譯:張睿毅、Andy

前段時間,文摘菌曾提過價值53萬一只的波士頓動力機器狗,也有進行太空探索的昆蟲機器人,萬萬沒想到的是,這次來了一個和大家一樣上網課的機器人。

不知道你有沒有想過這種場景,去醫院做手術時,醫生助手已經不是可愛的護士小姐姐,而是兩隻冷冰冰的機械臂,以快準狠的手法幫你縫合傷口。

最近在Google Brain,英特爾還有UC伯克利的合作研究中,研究人員通過用手術教學視頻來對機器人進行「訓練」,讓其能模仿手術過程。

之前,UC伯克利的教授有用過YouTube視頻指導機器人學習各種動作(比如跳躍和跳舞), 而Google則是有訓練機器人理解場景中的深度還有動作。

於是這次的團隊,決定將之前的研究成果結合起來,應用於最新項目Motion2Vec。

Motion2Vec:機器人也要上網課

Motion2Vec算法,能用真實手術視頻來指導機器人學習相關手術動作。

在最近發布的論文裡,研究人員簡單介紹了他們如何用YouTube視頻來訓練兩臂達文西(da Vinci)機器人在針刺機上進行縫合操作。

它從模仿學習的視頻演示中,獲得以運動為中心的操作技能。其中表示的算法一致性、可解釋性和監督學習的負擔是該項目模仿學習中的關鍵問題,畢竟通常很難精確地描述定義一個片段和標記的內容。

論文地址:

http://www.ajaytanwani.com/docs/Tanwani_Motion2Vec_arxiv_2020.pdf

首先研究人員嘗試將一小段被標記的視頻進行分類,比如手術縫合任務分解成分段動作, 手術的針頭刺入、拔針、針頭脫落等動作。

這個分解過程有點類似於語音識別和合成問題,視頻其中單詞和句子是由音素和基於音素的片段合成的。 這部分會涉及到其它的相關領域,包括計算機視覺中的活動識別、強化學習以及自然語言處理中的詞性標註。

然後,研究的重點是以半監督的方式從視頻演示中提取動作表示,進行動作分割和模仿任務。

在監督學習的過程中,可能存在不受控制的因素,比如照明的強度,相機的機位,動作的順序這些對機器人開啟自主學習來說都是挑戰。

在我們人類看來是很簡單的操作,比如舉起手術針,穿刺皮膚,但機器人不明白這些,在它們的系統認知裡,就是兩個物體正在進行相互糾纏的運動。

所以研究人員需要把視頻的動作分解成小塊,然後將相似動作段的圖像像素放在一個組合裡,對機器人所承載的模型進行訓練。比如嘗試使用遞歸神經網絡來訓練和預測,並使用訓練結果來優化機器人的動作幅度,比如縫合對齊的精度。

通過嘗試KNN、HMM、HSMM、CRF和RNN進行對比,其中,KNN、HMM、HSMM是無監督的模式,而CRF和RNN採用的是有監督的模式。

結果表明是KNN與RNN兩者的結果是比較好的。

由於訓練採用的是JIGSAWS 數據集,其中包含3個手術任務的視頻演示,分別是縫合、穿針和打結。所以在這次測試中,只有機器人嘗試模擬縫合運動,並沒有考慮更多的技術建模或者其它的問題。

除此之外,數據集裡的視頻演示並不只有一位醫師,而是由8位技術等級不同的外科醫師組成,所以這會產生一個問題,不同的醫師,習慣可能會不同。而機器人正是要學習所有醫師的縫合視頻。

結果表明,與KNN相比,RNN,也就是M2V採用的模型,看上去結果是最好的。呈現的時間段比較一致。

如果採用分割精度來進行比較的話,仍舊是M2V算法領先於其它有標記和無監督的模型。當然結果平均超過5次迭代。

該研究主要是用了Siamese網絡結構,這是一種讓兩個或多個網絡分享同一套參數的深度學習架構。一般在比較和評估數據之間關係時, Siamese結構都是最佳選擇,所以之前也已廣泛用於面部檢測,籤名驗證還有語言檢測等領域。

UC伯克利的實驗室負責人肯·戈德伯格說道,對於這類的深度學習項目YouTube上的訓練數據非常豐富。

「在YouTube上每分鐘能獲得500個小時的視頻材料,這簡直就是一個大寶庫。」

他說,「而對於這些視頻,人類幾乎任何人都能看懂且理解,但機器人目前卻無法理解—只能單純地將其看作是像素流。因此,這項工作的首要目標就是讓機器人弄清這些像素的含義。主要就是看視頻,然後對其進行分析, 最後能將視頻切成有意義的序列。」

對於縫合任務,該團隊僅用了78個醫學教學視頻就能訓練其AI引擎進行相同操作,而且聲稱有接近85%的成功率。

這意味著,之後機器人或許能在外科手術過程中執行一些基礎的重複性任務,而能讓外科醫生將時間和精力集中在更精細的手術步驟上。

那機器人短時間內會取代外科醫生嗎?

「現在還遠沒到那個地步」 。戈德伯格說,「但至少,現在已經正朝著具備外科醫生能力的方向發展了。這意味著它能迅速地觀察大局,指出哪裡需要一排縫合線,或哪裡需要特殊縫合。」 戈德伯格繼續說,「接著,當機器人能基本完成這些的時候,外科醫生就能夠更輕鬆一些,獲得更多休息時間,而且能專注於手術中更複雜或精細的地方。」

近年來機器學習為生物技術相關做了很大貢獻, AI快速處理大數據的能力使很多方面都獲得了進步,比如基於CAT掃描檢測肺癌和中風風險,基於EKG和MRI圖像計算心臟病和心臟驟停風險,從照片對皮膚病變分類,還有檢測眼部圖像中的糖尿病跡象方面。

在新冠流行期間,AI還幫助科學家尋找可以抑制COVID-19傳播的藥物,並試圖找到治癒方法和疫苗。

看視頻學習,在我們人類看來是一件極其容易的事情,但對於機器人來說,卻需要很多人去幫助它學習,在這個學習的過程中,會耗費巨大的人力物力。

可一旦等它學會了,它就可以幫助我們完成許多不可能的事情,

期待機器人早日成為人類的好幫手!將不可能變成可能!

相關報導:

https://techxplore.com/news/2020-06-intel-google-uc-berekely-ai.html

https://sites.google.com/view/motion2vec

相關焦點

  • 自動縫合成功!機器人醫生首次超越人類醫生
    智能手術機器人計劃並實施了本次手術。圖片來源:Sheikh Zayed兒童手術創新研究院。機器人手術實現了一項突破。一個機器人利用自己的視覺、工具與智能,縫合了豬的小腸。同團隊中的高級工程師Ryan Decker說,必須做到結構緊密,並且間距規整,這樣防止洩露,從這個意義上說,手術就像修補一個膠管。STAR既在實驗室中進行了活體外手術,也在一隻麻醉的豬體內進行了手術。同時,有經驗的人類醫生也進行了同樣的手術。手術完成後醫生們比較了雙方的縫合線,STAR的縫合更加一致,能夠更好防止洩露。
  • 機器人成手術臺"主刀醫生" 縫合更精準患者創面小恢復快
    南大一附院通過機器人進行手術,縫合更精準患者創面小且恢復快。   人民網南昌4月22日電 談起做手術,很多人都會想起用手術刀在身上劃一道口子的血淋淋場景,22日,南大一附院的一間手術室裡進行的一場前列腺根治性切除術的「主刀醫生」是一臺機器人,而真正的醫生則在「幕後」進行操作。據悉,機器人做手術,不僅創面小,而且創口縫合更精確,患者術後的恢復也更快。
  • 日媒:川崎重工業公司等成功研發手術機器人系統
    據NHK11月19日消息,受新冠疫情影響,飛機等產品的需求疲軟,在此背景下,日本川崎重工業公司與醫療檢查機械廠商聯手研發了一套外科手術機器人系統。該機器人擁有4個機械臂,機械臂上搭載了手術刀等外科手術器械以及內窺鏡。醫生可以遠程操作該系統,進行外科手術。在18日進行的演示中,兩個機械臂在工作人員的操作下,巧妙地對內臟模型的模擬傷口進行了縫合。
  • 達文西機器人手術系統的介紹
    我們今天說的達文西機器人系統並不是達文西設計製造的,而是美國直覺手術機器人公司(Intuitive Surgical)製造生產的手術機器人系統。最初設計手術機器人系統的初衷是讓前線戰場受傷的士兵立刻的到救助,而醫生可以在安全的後方,所以幾十年來在遠程機器人手術系統的設計及改進的過程中,都有美國軍方的資助支持。
  • 機器人輔助食管癌根治手術的應用|達文西機器人|食管癌|機器人|...
    結論 機器人輔助 McKeown 和 Ivor-Lewis 食管癌根治手術均安全可行,短期治療效果良好。食管癌居我國惡性腫瘤發病率的第 5 位,病死率居第 4 位[1],手術切除是早期和局部進展期食管癌最有效的治療手段[2]。
  • 日本第一個國產手術輔助機器人hinotori亮相
    在日本東京,日本第一個國產手術輔助機器人hinotori揭開神秘面紗。Medicaroid公司製造的該機器人可以輔助醫生進行內視鏡手術。在手術中,醫生只需要在患者的身體上開一個小孔,將內視鏡插入體內就可以一邊觀察患者體內情況一邊進行切除和縫合等操作。
  • 達文西機器人提升外科手術精確度
    昨日,「達文西微創手術研討會」在北京和睦家醫院召開,會上,世界臨床機器人外科協會(CRSA)創始主席、著名專家Pier C.Giulianotti朱聯安教授,針對全球機器人微創手術前沿理念、技術及術式,當場為一名45歲的女性胰腺癌患者,使用達文西微創手術機器人,完成了一臺複雜的胰頭腫瘤切除手術。
  • 行業|精度高達0.002毫米的手術機器人,在中國大陸已裝機62臺
    最好的外科醫生可以精確到0.1毫米。醫生過了50多歲之後,精度進一步下降。而本文的主角,達文西機器人,其手法無比精準,可達到0.002毫米以內。不僅精準,而且靈巧,擁有7個自由度,可以輕易到達人手不能到達的區域。非常適合微創手術。
  • 【獨家·24小時】神奇的達文西手術機器人
    18世紀80年代,醫學先驅Billroth成功打開了病人的腹腔,完成了人類歷史上首例腹部外科手術,這種傳統的開腹(開胸)手術被稱為第一代外科手術,並沿用至今。到20世紀80年代,以腹腔鏡技術為標誌的微創手術取得了突破性的進展,這一技術在許多外科領域取代了傳統手術,被稱為第二代外科手術。
  • 國產手術機器人上崗 「眼神」更準「刀法」更穩
    傳統手術中,需要憑藉醫生的經驗去探查病灶,對醫生個人的臨床知識、操作熟練度、手術技巧等依賴性很高,加上人的手指的靈活性有限,尤其是一些隱蔽、複雜的部位,手指根本無法觸及。而手術機器人則突破了人手的極限,其機械手臂代替人手實施操作,不僅可以毫無壓力地實現360度自由擺動及各個方位旋轉扭動,縫合打結也相當靈巧,從而讓手術操作更加精細準確。
  • 這6款外科醫療機器人你敢試嗎?
    Medical Design網站近日盤點了6款正在革新手術和醫療保健的外科機器人,包括輕鬆定位靜脈並採血的機器人,以及縫合軟組織速度是標準縫合程序50倍的縫合機器人。尤其對微創術、高風險區域具有明顯優勢,可有效降低手術風險、減少手術併發症。Phecda配置有3D高清視覺識別系統,可觀察內部骨結構,同時具有一個機械臂引導醫療工具在精度0.8毫米的範圍內進行手術操作。Phecda通過4步計劃進行工作。
  • 機器人「醫生」做手術 順利切除肺部腫瘤
    機器人「醫生」做手術 順利切除肺部腫瘤在醫療手術中,外科醫生主刀是常見的場景,但在廈門一家醫院開展的手術中,執行手術的卻是機器人。6月12日,閩西南首例機器人手術在廈門大學附屬第一醫院完成,外科醫生在操作臺上觀察畫面進行操控,機器人來執行手術,順利切除了患者的肺癌腫塊,患者出血量不到5毫升。據介紹,除了眼部、顱腦和體表手術以外,機器人可廣泛應用於胸外科、心外科、泌尿外科、胃腸外科、婦產科、肝膽胰血管外科等科室。
  • 手術機器人、4K腹腔鏡……盤點這些活躍在浙江多家醫院手術室裡的...
    實際上,在浙江多家醫院的手術室裡,每時每刻都活躍著「高精尖」設備的身影,為兒童開刀的智能「醫生」、為微創手術提供「導航」的顯微鏡、為癲癇患者成功「拆雷」的機器人……各種不同類型的「高精尖」設備出現在每一個生與死搏鬥的關鍵時刻,守護患者的生命。新一代達文西手術機器人為患兒「主刀」4月8日,第四代達文西手術機器人在浙江大學醫學院附屬兒童醫院順利完成「首秀」。
  • 世界上最小的外科手術機器人 醫生手術好幫手
    騰訊數碼訊(米可)根據國外媒體報導,最近英國科學家開發出了一種世界上最小的手術機器人,這種機器人不僅使用了低成本技術,而且使用了行動電話和航天技術
  • 世界首臺微米級CT、單孔腔鏡手術機器人……醫生搞出來的發明威力...
    北京友誼醫院副院長、影像中心主任王振常團隊與清華大學聯手,成功發明世界首臺微米級耳科專用CT設備,填補了國際空白。原來,單孔腔鏡手術的操作空間很局限,從一個直徑2.5釐米左右的小孔,同時進入三四把直杆的手術器械,就像使筷子一樣,醫生常常揮舞不開。
  • 吉林大學中日聯誼醫院「達文西機器人」手術總量突破100例 手術量...
    經評估、術前檢查、方案制定等一系列準備後,7月30日傍晚,姜濤教授利用第四代達文西機器人,1個小時,安全、完整地為其切除肝腫物。手術非常成功。 據了解,這臺手術恰是姜濤教授做的第100例達文西機器人手術。達文西機器人手術技術已成熟100例,這不僅是一個數字,而有著更深層的意義。
  • 33歲肺部腫瘤患者 接受手術機器人切除手術 醫生室內看「大片」
    其實啊,這個長著四個臂膀的鋼鐵俠,是某腫瘤醫院剛剛引進的達文西手術機器人。是一臺醫生不用再親自操作手術器械,靠電子數據就能指揮機械臂手術的高科技產品。據該腫瘤醫院胸外科肺部病房的主任介紹,這臺手術機器人,能夠做非常精準切除手術,即使再小的腫瘤,它也都能發現到。
  • 準醫生葡萄皮上練縫合 行業劇裡熱門職業這樣煉成
    《翻譯官》《太陽的後裔》《衝上雲霄》……一部部行業劇撩起了觀眾對於翻譯、醫生等行業的好奇心。其實,想要脫穎而出成為「程家陽」們,並不是一件容易的事。尚在大學學習專業基礎的「未來程家陽」「未來安迪」,已經比同齡的同學加倍付出了很多。職業規劃是填報高考志願的重要指引之一,來看看這幾位學長學姐在職業道路上付出的努力,對照自我特點做個評估,希望對你的志願填報有所幫助。
  • 脊柱手術機器人ORTHBOT成功完成手術,填補了國內脊柱手術機器人的...
    打開APP 脊柱手術機器人ORTHBOT成功完成手術,填補了國內脊柱手術機器人的空白 工程師青青 發表於 2018-08-31 15:38:00
  • Nature子刊封面:哈佛等開發微型手術機器人
    Wood) 基於摺紙結構研發了一款超輕便,高精度的顯微外科手術機器人——mini-RCM,該項研究發表於nature旗下新子刊《nature machine intelligence(自然-機器智能)》,並登上該期刊8月份封面。