新的超解析度方法無需不斷放大即可顯示出精美的細節

2020-11-22 騰訊網

左和右顯示樣本上相同區域的偽彩色電子顯微鏡圖像。但是,右圖是使用Yu Ding博士的新圖像處理方法超級解析的。圖片來源:德克薩斯農工大學工程學院

自1930年代初以來,電子顯微鏡為空前的小世界提供了前所未有的途徑,揭示了複雜的細節,而這些細節用傳統的光學顯微鏡是無法分辨的。但是,為了在較大的樣品區域上實現高解析度,需要提高電子束的能量,這既昂貴又不利於觀察中的樣品。

德克薩斯州A&M大學的研究人員可能已經找到了一種新的方法,可以改善低解析度電子顯微照片的質量,而又不會損害樣品的完整性。通過在來自相同樣本但物理解析度不同的成對圖像上訓練深度神經網絡(一種人工智慧算法),他們發現可以進一步增強低解析度圖像中的細節。

「通常,高能電子束會在需要更高圖像解析度的位置穿過樣品。但是,通過我們的圖像處理技術,我們可以僅使用一些較小尺寸的高解析度圖像來超分辨整個圖像」,Wm Michael Barnes '64工業和系統工程系的Yu Ding博士,Mike和Sugar Barnes教授說。「這種方法的破壞性較小,因為不需要用高能電子束掃描樣品的大部分。」

研究人員於6月在電氣與電子工程師協會的圖像處理事務中發表了他們的圖像處理技術。

與光學顯微鏡不同,在光學顯微鏡中,光子或一小束光被用來照亮物體,而在電子顯微鏡中,則利用電子束。然後收集從物體反射或穿過物體的電子,以形成圖像,稱為電子顯微照片。

因此,電子束的能量在確定圖像的解析度中起著至關重要的作用。即,能量電子越高,解析度越好。但是,損壞標本的風險也增加了,這類似於可見光的高能親戚紫外線如何損壞敏感材料(如皮膚)。

丁說:「科學家總是有兩難境地。」 「為了保持標本的完整性,很少使用高能電子束。但是,如果不使用高能束,則高解析度或以較小尺度觀察的能力將受到限制。」

但是,有些方法可以使用低解析度圖像獲得高解析度或超解析度。一種方法涉及使用基本上相同區域的多個低解析度圖像。另一種方法學習小圖像塊之間的常見模式,並使用無關的高解析度圖像來增強現有的低解析度圖像。

這些方法幾乎只使用自然光圖像而不是電子顯微照片。因此,由於光學和電子顯微鏡的基本物理原理是不同的,因此它們對於超分辨電子顯微照片會產生問題,Ding解釋說。

研究人員轉向給定樣品的低解析度和高解析度電子顯微鏡對。儘管這些類型的對在公共圖像資料庫中不是很常見,但在材料科學研究和醫學成像中卻相對常見。

對於他們的實驗,丁和他的團隊首先拍攝了一個低解析度的標本圖像,然後將大約25%的觀察區域置於高能電子束下,以獲取高解析度的圖像。研究人員指出,高解析度和低解析度圖像對中的信息緊密相關。他們說,即使可用數據集可能很小,也可以利用此屬性。

為了進行分析,丁和他的團隊使用了22對注入納米粒子的材料的圖像。然後,他們將高解析度圖像及其在低解析度圖像中的等效區域分成三乘三的子圖像。接下來,每個子圖像對用於「自我訓練」深度神經網絡。訓練後,他們的算法在識別圖像特徵(例如邊緣)方面變得很熟悉。

當他們在沒有高解析度對應物的低解析度圖像的新位置上測試經過訓練的深度神經網絡時,他們發現他們的算法可以將難以辨別的特徵最多增強50%。

儘管他們的圖像處理技術顯示出很大的希望,但丁指出,它仍然需要大量的計算能力。在不久的將來,他的團隊將指導他們的工作,以開發速度更快,並且可以由較少的計算硬體支持的算法。

丁說:「我們的配對圖像處理技術揭示了以前無法分辨的低解析度圖像中的細節。」 「我們都熟悉智慧型手機上的魔杖功能。它使圖像更清晰。從長遠來看,我們的目標是為研究界提供一種類似的便捷工具來增強電子顯微照片。」

相關焦點

  • 超解析度在氣象領域的應用
    下圖是一個數值模式降尺度的案例,可以看出,精細化的版本中,出現了粗糙版本中所不包含的一些天氣細節。  這種計算過程即使用CV領域中的超解析度技術,也無法重現。其難點的本質在於,從單一通道來看,降尺度的計算過程「生成」了額外的信息,而機器視覺領域的超解析度技術,只可以產生細節填充,而沒有能力生成輸入圖片中沒有出現的信息。
  • 解讀| 谷歌像素遞歸超解析度研究:怎麼消滅低解析度圖像馬賽克?
    機器之心原創作者:Angulia參與:王灝、hustcxy、吳攀最近,谷歌發布了一種把低解析度圖像復原為高解析度圖像的方法,參見機器之心文章《學界 | 谷歌新論文提出像素遞歸超解析度:利用神經網絡消滅低解析度圖像馬賽克》。與最先進的方法相比,這篇論文提出了一種端到端的框架來完成超解析度任務。
  • 《眾神隕落》畫面細節恐怖 不斷放大盔甲細節也清晰
    《眾神隕落》作為PS5的大作之一,畫質出眾是次世代遊戲必須做到的事,近日,據開發商Counterplay Games在採訪中透露的消息,《眾神隕落》的畫質細節非常爆炸,人物的盔甲不斷放大也能很清晰地看到細節。
  • 黃浴:基於深度學習的超解析度圖像技術發展軌跡一覽
    首先,輸入擴展到原始大小的兩倍,其中新添加的像素值被設置為 0(b)。然後應用大小為 3×3、步長 1 和填充 1 的內核卷積(c)。這樣輸入特徵圖實現因子為2 的上採樣,而感受野最多為 2×2 。由於轉置卷積層可以以端到端的方式放大圖像大小,同時保持與 vanilla 卷積兼容的連接模式,因此它被廣泛用作 SR 模型的上採樣層。
  • 論文推薦| 許麗娜:基於凸集投影的高分四號衛星影像超解析度重建
    試驗表明該方法可以有效提高圖像清晰度,增加圖像細節信息,提升圖像判別能力,擴展數據的應用範圍。試驗表明,該方法可以有效提高圖像清晰度,增加細節信息,提升圖像的判別能力,擴展數據的應用範圍。1 原理與方法1.1 凸集投影凸集投影是一種空間域超解析度算法[15],原理直觀,算法簡單。超解析度重建是一個病態求逆的過程,一般是通過正則化方法,利用圖像的約束條件與先驗信息來約束可行解的範圍。
  • 德國科學家研製出世界最小超聲波傳感器 比血細胞還小實現超解析度...
    德國科學家研製出世界最小超聲波傳感器 比血細胞還小實現超解析度成像  Emma Chou • 2020-09-18 16:
  • 打破阿貝衍射極限,超解析度顯微鏡毫秒級成像,看百萬分之一毫米
    到目前為止,超解析度顯微鏡比傳統方法慢得多,因為必須記錄更多或更精細的圖像數據。與耶拿的合作夥伴一起,比勒費爾德大學科學家現在已經進一步開發了超解析度SR-SIM過程。學者們表明,SR-SIM也可以實時和非常高的成像速率,因此適合於觀察非常小的細胞顆粒運動,其研究發現發表在《自然通訊》上。
  • 超解析度隨機光學重建顯微鏡了解一下
    如今,科學家們已經研發了多種超解析度技術,遠遠超出了衍射J限,能夠觀察到分子尺度的細節。SRM技術可以將細胞結構解析為亞細胞水平,從而獲取有關細胞組分的3D結構的信息,並可以觀察到單分子共定位。1.受激發射耗竭(STED)顯微鏡STED對於有經驗的螢光顯微鏡使用者來說相對簡單,該方法和普通共聚焦顯微鏡
  • 德國科學家研製出世界最小超聲波傳感器 比血細胞還小實現超解析度成像
    圖片來源:Helmholtz Zentrum Muenchen / Roman Shnaiderman德國慕尼黑亥姆霍茲中心和慕尼黑工業大學的研究人員研製出了世界上最小的超聲波探測器,它是基於矽晶片上的微型光子電路。
  • 蘋果作業系統Yosemite再曝新漏洞 黑客無需密碼即可root電腦
    蘋果作業系統Yosemite再曝新漏洞 黑客無需密碼即可root電腦>【TechWeb報導】8月17日消息,據國外媒體報導,蘋果OS X Yosemite再曝新漏洞。
  • 晶片實驗室:開發微型超解析度光學顯微鏡
    如果光元素的大小在納米範圍內,並且樣品與它們緊密接觸,光學近場具有相關性,並且基於晶片的設置可能會實現超解析度成像。」ChipScope項目匯集了多個專業領域,以完成其光學超解析度的替代方法。該新聞補充說:「結構化光源是由德國不倫瑞克工業大學開發的微型發光二極體(LED)實現的。」 它著重指出,「目前尚無商業化的結構化LED陣列,其可尋址像素低至亞微米級。
  • 諾獎得主「封神」:新顯微技術看清細胞內每個細節!|獨家專訪
    這項技術被稱為 cryo-SR/EM,意即融合了超解析度的光學顯微鏡技術和電子顯微鏡技術,最終以 3D 形式呈現了細胞內部清晰的細節。通過這種新的顯微技術,你可以看到細胞內部真實且繁雜忙碌的世界,以及蛋白質與細胞精細結構的關係。可以這麼說,如果說摘得諾獎是登頂,那麼這次,埃裡克·本茨格接近封神了。
  • 回到未來:科幻小說改變了3D顯示器的新原型,無需3D眼鏡即可使用
    回到未來2》中的3D顯示嗎?回到未來的一天,這些畫面可能還沒有如電影所預言的那樣出現在我們的大街上,但是這裡有基礎的知識。現在,研究人員正在展示一種無需3D眼鏡即可工作的3-D顯示器原型。這樣的顯示將很快成為可能。TU Wien和TriLite Technologies展示了一種顯示元件,該元件使用特殊的微光學器件和移動微鏡將不同的圖像投影到不同的方向。這項技術可用於創建3D顯示器,而無需3D眼鏡。
  • 基於CNN的單一圖像超分辨(SISR)方法總結
    早期的prediction-based的方法包括linear, bicubic等插值方法,隨後有一些根據邊緣特徵進行超分辨重建的工作。這些方法速度快,但會產生過於平滑的紋理細節。之後有很多example-based方法,藉助訓練數據,嘗試建立低解析度圖像到高解析度圖像的映射。針對這一映射函數,很多學習方法被提出,其中基於稀疏編碼的方法逐漸成為主流。
  • Science封面| 冷凍超分辨與FIB-SEM結合新技術:三維蛋白超微結構...
    而一項新的顯微鏡技術可以將所有這些細節展現得淋漓盡致。  這項技術被稱為cryo-SR/EM,它將電子顯微鏡和超解析度光學顯微鏡捕捉到的圖像融合在一起,以3D的形式呈現出細胞內部明亮、清晰、詳細的圖像。  技術背景  多年來,科學家一直在探索細胞內部的微觀世界,開發新的工具來觀察這些基本的生命單位。
  • 兩種方法 | 用Origin輕鬆完成曲線局部放大圖
    微信公眾號二維碼本文轉載自「Paper繪圖」公眾號本文僅限轉載圖文撰寫 | 超級super棟今天為什麼會講到這個技巧呢?其實也是從前一陣子論文投稿中總結而來的。那麼一般我寫的推文呢,首先考慮到他的應用性,其次我們再去研究圖如何做出來。如下圖,這是一個藥物的累積釋放圖,那麼在前面的一些時間點,他們的數據點比較密集。
  • 夜光遙感研究以及衛星影像超解析度研究
    基於航空影像的衛星影像超解析度研究Part 2>研究背景影像解析度是評價影像質量的重要指標,解析度越高,細節越精細,影像提供的信息越豐富,因此,高時空解析度的遙感影像是超大城市遙感應用的關鍵。因此,本項目從技術手段上考慮,利用深度學習的方法,結合異源高解析度航空影像,優化衛星影像中的地面採樣距離(超解析度技術)。
  • 【學術前沿】陳良怡/王靜敏團隊合作利用活細胞超解析度成像預測...
    合作團隊利用活細胞超解析度成像對佩梅病(Pelizaeus-Merzbacher disease,PMD)展開研究,首次建立了該疾病不同分型在細胞水平上的表徵,揭示了其不同的發病機制,並利用該平臺成功篩選出可特異性恢復最嚴重佩梅病疾病表型的對症藥物。該研究提出活細胞超分辨病理學的概念,期待為臨床醫生提供目前由其他檢測方法無法獲得的診斷及預後信息。