突破存儲與算力極限,破譯生命科學領域密碼

2021-01-10 極客網FromGeek

基因技術的發展正在使人類在消病延年的路上不斷向前。例如通過檢測腫瘤基因特徵片段提早預防癌症,對孕婦進行無創傷的產前先天遺傳缺陷檢測等,因此基因檢測技術被比作破解生命密碼的終極鑰匙。

基因測序最主要的下遊應用是臨床檢測和科研服務,是精準醫療的重要落腳點。針對發病原因複雜的疾病,基因測序可以實現對個人的基因組分析,提供個性化診斷,在精準度和信息密度上遠超其他診斷方式。隨著基因測序技術發展至第三代,市場規模不斷擴大,進入高速發展期。

為提升基因測序任務的速度,向更多客戶提供更高效的服務,提供該項服務的企業需要部署多套基因測序平臺和高性能計算平臺,來支撐海量下機數據的分析和存儲。這就面臨一個亟待解決的現實問題,在基因測序成本降低、測序樣本數量快速增大的前提下,基因測序行業特定需求對存儲系統和算力都提出了挑戰:

數據容量巨大

基因測序過程中產生的PB級海量文件數據,對業務的分析非常重要,需要長時間保留。存儲過程涉及到擴容、數據安全等問題。

性能瓶頸

基因測序往往採用多機集群計算,高通量並發訪問對存儲的帶寬和IO都有極高的要求,如果無法滿足,就會大大降低測序的效率,延長測序時間。

多樣性計算框架與服務挑戰

測序數據產出量很大,需要結合高性能計算技術來進行後續的測序數據處理。通常的高性能計算平臺來處理測序數據時,都面臨規模和效率問題。

為滿足客戶差異化需求,提供基因測序的企業一般會選擇建立多個實驗室和實驗基地,並運行多種測序平臺。這類多客戶端並發高通量測序對海量數據的高性能存儲、高性能計算以及數據的全天候在線提出了嚴苛要求。極道智能數據系統中的分布式存儲系統和ABC融合計算系統兩大組件,在基因測序行業多個客戶業務中保持著長期穩定運行。

破解生命科學密碼的「超存」問題

針對基因測序特定的數據特徵,面向大容量、高帶寬應用的極道ALAMO文件存儲系統採用分布式架構,性能與容量隨物理節點擴展可實現線性增長,輕鬆擴展至上百節點,達到PB甚至EB級容量,適合測序過程中的高通量和高性能計算的文件應用。同時,ALAMO提供的高帶寬數據並行處理能力,實現了數據存儲與調用的快速讀入、寫出和傳輸。

用戶反饋:「極道ALAMO文件存儲系統輕鬆滿足多個客戶端的並發訪問需求,在長期的使用過程中,即使在承載大量測序客戶端並發訪問時,ALAMO的帶寬和讀寫性能也有極致的表現,沒有絲毫衰減。

在保證數據安全可靠性方面,極道存儲系統中的每個文件都可跨多個硬碟組,通過編碼保護。為了降低核心元數據丟失的可能性,極道在存儲池不同的位置存儲三份關鍵元數據互為備份。實踐證明,極道ALAMO在客戶數據中心連續在線的60+月中,實現了零數據丟失。

融合計算系統為基因測序加速

在基因測序計算中,多樣性計算框架和服務無法同時被調度進行並行計算,作業超長延時難以匹端業務需求。為打破計算瓶頸,企業需要建立具有良好可擴展性的計算平臺,滿足業務對時間的嚴苛要求,同時減低部署和管理難度。

利用極道ABC融合計算系統,從根本上能夠解決多樣性計算框架融合問題。該系統由一個主集群和多個從集群組成一個調度空間,分布式的計算環境讓多調度器之間相互協作,突破了集群規模瓶頸。

ABC融合計算系統支持高強度計算分析的多種計算框架,可以按需動態構建計算框架,智能調度各種類型的數據計算、處理和分析任務。內嵌的執行引擎根據用戶定義的數據依賴關係將分析工具連接組織生成數據流,使各節點之間根據依賴關係完成多路並行計算或順序計算。將基因測序平臺分析軟體搭載在極道數據作業系統上,可使業務與計算資源完美結合,有效縮短計算和調度時間,最大程度提升業務分析效率。

ABC融合計算系統統一的資源池、融合多計算框架和可視化構建數據流等特性,不但保證了算力,而且還可以利用調優來不斷釋放系統的計算潛力。幫助基因測序行業客戶實現計算資源的按需調度,自動化構建工作流程,使複雜工作更加簡單化、智能化,這正是極道智能數據系統的價值所在。

值得一提的是,極道ALAMO分布式存儲系統和ABC融合計算平臺,通過極道獨有的存儲和計算的一體化協同設計,計算系統可以動態感知應用IO類型,根據數據流動態調節每一個節點所需的計算框架、分配計算資源,讓每一階段計算都極速高效。存儲也可以預判任務的IO模型,以做出策略選擇和定向優化,提供儘可能高的存儲效率和並行能力,為基因測序平臺提供了高效、穩定、可靠的支撐。

極道智能數據系統的高靈活和可擴展性滿足了基因測序行業客戶不斷增長的業務需求,並且做到了計算資源和數據資源的完全透明無縫擴展,從而解決客戶的數據存儲、數據分析和歸檔備份等問題,讓客戶更多的關注業務能力,發揮數據的價值,更好地通過基因測序服務社會,以技術驅動「精準醫療」的發展。

(免責聲明:本網站內容主要來自原創、合作媒體供稿和第三方自媒體作者投稿,凡在本網站出現的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,並對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網站中的網頁或連結內容可能涉嫌侵犯其智慧財產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,並提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件後,將會依法儘快聯繫相關文章源頭核實,溝通刪除相關內容或斷開相關連結。 )

相關焦點

  • 破譯遺傳密碼 掌握生命秘密
    中科院院士眼中的「明日世界」——  破譯遺傳密碼 掌握生命秘密  你想像過,在科幻電影中才會出現的場景,也許有一天會成為現實嗎——  那時,有一本記錄著自身遺傳密碼的書伴隨自己從出生到死亡,裡邊密密麻麻的符號能夠清楚地表明你患有某些疾病的機率;癌症這樣可怕的疾病也有辦法被攻克,因為醫院可以監測到你的身體指標
  • 中科院超算環境廣州分中心助破解多項生命科學密碼
    中新社廣州10月20日電 題:中科院超算環境廣州分中心助破解多項生命科學密碼作者 王堅10月20日,記者在中國科學院廣州生物醫藥與健康研究院(下稱「廣州健康院」)的中國科學院超算環境廣州分中心(下稱「超算中心」)的機房看到,一臺超級計算機正在高速運轉。該研究院的科學家通過它,破解了生命科學、公共健康等領域的多個重要科學密碼。
  • 《易經》成功破譯生命密碼:生命到底是什麼?從哪裡來到哪裡去?
    生命的秘密,可以說被一致認為是地球上最大的秘密!生命到底是什麼?從哪裡來到哪裡去?九億年前的前寒武紀,地球上開始出現原始生命;到了七千萬年前的時候,天空開始出現了飛鳥,地面上也有野獸也奔跑了;算過來人類出現僅僅也就兩百萬年,只能算是後生小子。
  • 《易經》破譯了生命密碼:生命到底是什麼?從何而來去往哪裡?
    我們生存在這顆蔚藍色的星球上,在這個星球上的所有的一切事物都是由無數的生命組成。不管是人類還是動物甚至於微生物,都是鮮活而又燦爛的生命。那麼生命到底什麼?從哪裡來到哪裡去?生命所帶了的無數的謎題,是這個星球上最大的,也是最難以解開的秘密。
  • 《生命的密碼》:探究生命密碼的一生
    文丨周國清 人類是由猿猴進化而來,是物競天擇的產物,這在如今已是孩童亦知的公理,然而,其背後隱匿的,卻是數百年甚至上千年來人類對生命科學的思考與探索,無數人為此傾盡一生,甚至付出了生命的代價,只為破譯那最原始的生命密碼。
  • 山東一名女子因坐月子無聊,隨手破譯2套美國密碼,國家獎勵711萬
    例如這篇文章要講的主人公,就是這樣,她是敢於嘗試的,也是敢琢磨的,結果居然把美國人的密碼給破譯了,而且還在坐月子的時候學到了。那到底發生了什麼事呢?在她看來,之所以要破譯這些密碼,是因為在坐月子的時候自己實在太無聊了。出生在山東省的王小雲,家境並不富裕,直到她7歲的時候,家庭條件才稍有改善,才有幸正式接受教育。
  • 人類能否突破壽命極限?
    60年前,美國生物學家倫納德·海弗裡克提出的「海弗裡克極限」——人類壽命極限約124到144歲,一度成為科學的共識。隨著科學技術的日益發達,以及大腦信息數位化技術的發展,「海弗裡克極限」能否取得突破,成為越來越多科學愛好者追逐的目標。
  • 牧業專家姬秋梅: 世界屋脊上破譯犛牛生命密碼
    牧業專家姬秋梅: 世界屋脊上破譯犛牛生命密碼  實習記者 於紫月  最美科技工作者  「這些年沒做別的,只研究了關於犛牛的那些事兒,別的事兒也別問我,我不太懂。」科技日報記者第一次見到姬秋梅時,就被這位爽朗直率的藏族女專家吸引住了。
  • 清華大學醫學院李海濤課題組《細胞》發文破譯組蛋白乙醯化密碼
    清華大學醫學院李海濤課題組《細胞》發文破譯組蛋白乙醯化密碼  清華新聞網10月24日電 清華大學醫學院基礎醫學系和結構生物學中心李海濤研究團隊於10月23日在國際學術期刊《細胞》(Cell)發表了題為「AF9 YEATS domain links
  • 她們發現重寫生命密碼的工具
    漢松說,今年的獲獎研究成果是「基因剪刀——重寫生命密碼的工具」。&nbsp&nbsp&nbsp&nbsp據諾貝爾化學獎評選委員會介紹,兩位獲獎者發現了基因技術中最犀利的工具之一,即「CRISPR/Cas9基因編輯技術」。基於這項技術,研究人員能以極高精度改變動物、植物和微生物的DNA(脫氧核糖核酸),並有望更改某些生物的生命周期。
  • 破譯密碼,大國博弈,原來神秘組織701,都在做這件事
    這個在數學領域的佼佼者,這個本該在人類大腦研究的科學項目中發光發熱的領頭人,在科學研究和報效國家兩者面前,毅然決然選擇了後者。而通過容金珍的眼睛,也為我們揭開了701神秘的面紗。這是一個天才聚集的地方。
  • 生命密碼數字密碼的含義大全
    談起生命密碼已經有一段時間了,尤其是在西方,生命密碼與塔羅、星座並列為三大神秘學,有著精準的預測性,他是一門科學,與中國的易經有異曲同工之妙,是西方最主要的命理學,而且很精準。研究好生命密碼可以改變命運,避免人生的坎坷。
  • 深圳科學家編寫「生命密碼」
    【深圳商報訊】(記者 塗競玉)生命可以設計和再造嗎?我國科學家利用化學物質成功合成4條人工設計的釀酒酵母染色體,研究結果10日在國際知名學術期刊《科學》發表,我國也因此成為繼美國之後第二個具備真核基因組設計與構建能力的國家。 昨日上午,「人工再造生命體」酵母基因組人工合成項目重大成果新聞發布會在深圳市民中心舉行。
  • 破解生命密碼(序與跋)
    作為一門前沿科學,從分子層面理解生命,存在一定的認知門檻,這也讓生命科學成為謠言重災區。人天生會對未知的事物恐懼。要清除蒙昧與謬誤,就得消除科學家與公眾間的知識鴻溝,保證大家是在同一平臺,用同一種語言對話。  生命是什麼?在20世紀前半葉,最熱衷於解答這個問題的是物理學家。薛丁格就是箇中翹楚,他寫了一本《生命是什麼》,嘗試從物理角度解答這個問題。
  • 2016年度「中國生命科學領域十大進展」公布
    在新技術開發、醫學新突破和生物經濟發展等方面有貢獻  16日,中國科協生命科學學會聯合體發布了2016年度「中國生命科學領域十大進展」。這十大進展經該學會聯合體的18個成員學會推薦,由生命科學領域同行專家審核與評選,並且各自在《科學》《自然》等國際知名期刊上發表相關論文,是我國2016年在這一領域所取得的具有世界影響力的研究成果的集中展示,其中既有「植物雌雄配子體識別的分子機制」「線粒體呼吸鏈超級複合物的結構與功能」等基礎研究的成果,也不乏「內源性幹細胞介導功能性晶狀體再生治療嬰幼兒白內障」等可治療疾病的臨床應用成果,這印證了生命科學領域的研究不僅揭示生命的新奧秘
  • 科普:重寫生命密碼的工具——解讀2020年諾貝爾化學獎成果
    科普:重寫生命密碼的工具——解讀2020年諾貝爾化學獎成果 2020-10-07 23:25:02責任編輯:嶽川 2020年10月07日 23:25 來源:新華網參與互動   科普:重寫生命密碼的工具
  • 揭秘至今仍未被破譯的五個世界級密碼[組圖]
    儘管數學、語言學和計算機科學發展到現在已經相當強大了
  • 走近大科學工程:解鎖農作物的生命密碼
    解鎖農作物的生命密碼  ——探訪中國農作物基因資源與基因改良重大科學工程項目  走近大科學工程  本報記者 馬愛平  位於北京市海澱區中關村南大街12號中國農業科學院院內的作物科學研究所重大科學工程樓,即使是在建成16年後的今天,外表看起來也頗為壯觀。
  • 克隆羊出現,是否說明人類掌握了生命密碼?
    人類文明發展至今,很多在以前看起來不可思議的事物,如今都可以用科學原理進行解釋。由科學衍生出來的科技,發明了各種各樣的工具,也給我們的生活帶來了極大的便利。 不過關於這個世界上最大的秘密,生命密碼,對此人類仍然處於一片茫然狀態。千百年來,很多科學家都在思考一個問題,那就是人類的起源究竟是什麼?
  • 澳洲數學家助力 黃道十二宮殺人案密碼被破譯
    人們花費了51年時間才破解了這段密文1969年,黃道十二宮殺手將加密信寄給了《舊金山紀事報》包括一名墨爾本數學家在內的一個志願者密碼破譯小組,在近日破解了50多年前舊金山一名連環殺手寄給一家報紙的神秘密碼,這名殺手自稱「黃道十二宮」(Zodiac)。