存儲的過去與未來 分析存儲I/O與物理定律

2020-12-08 電子產品世界

進入2000年後,存儲行業發生了翻天覆地的變化。有好的變化,同時也有令人不太滿意的地方。比如存儲管理方面的情況變得有些糟糕。大家要克服的種種限制,其實是由簡單物理學造成的。數據從應用程式轉移到硬體受制於計算機及其存儲硬體裡面的物理制約因素。

我們先不妨比較一下1976年、2002年和2010年各自最快的計算機和最快的磁碟存儲設備,以便更深入地了解我們在最近26年所看到的變化。

* 雖然處理器性能也許不能最準確地衡量吞吐量,但是個很好的衡量標準。

**指每秒百萬次浮點運算

***指每秒萬億次浮點運算

****讀寫操作的平均尋道和延遲時間

*****使用光纖通道RAID,使用2 Gb接口和RAID-5 8+1

******源自towww.top500.org,參照2010年6月的排名

*******使用RAID-5/6 8+1或8+2

下面比較了彼此的差異:

與系統處理器性能的提升幅度相比,尋道和延遲時間的改善幅度一向很小,快閃記憶體驅動器除外,那是由於磁碟是機械設備,但快閃記憶體驅動器取代不了所有的磁碟存儲設備。原因是快閃記憶體成本實在太高了。有些人表示,快閃記憶體驅動器密度的增加幅度夠大,有望成為切實可行的存儲設備,但我總是要問的一個問題是,快閃記憶體驅動器密度增加的速度是否與存儲增長的速度一樣快。我們都知道,答案是不一樣快。

我早在2002年就說過,存儲密度並沒有跟上系統處理器性能提升的步伐;當時至少落後兩個數量級以上,就算使用RAID-5 8+1,也是這樣。自2002年以來,這個問題變得尤為嚴重(快閃記憶體存儲設備除外)。普通硬碟(HDD)的尋道和旋轉延遲時間沒有發生太大的變化。隨著時代不斷邁進,快閃記憶體驅動器的性能將受制於整個存儲堆棧的性能。處理器中斷的成本、SAS/SATA驅動程序的訪問以及通過電纜的訪問將成為三大限制因素。

早在2002年,計算機內存系統與存儲硬體之間最常見的總線接口是PCI,當時PCI的最大速率為532MBps,但速率約1GBps的PCI-X變得普及起來。哇!很難相信:到2010年,如今性能最高的總線是16通道的PCIe 2.0,每條通道的額定速率為500MBps,也就是說全雙工速率為8Gbps;沒錯,PCIe 3.0即將來臨;但據我所知,我們在一段時間內看不到16通道的PCIe 3.0(只有8通道的PCIe 3.0),所以性能與16通道的PCIe 2.0一個樣。這是2002年性能的8倍。自2002年以來性能提升了30倍,這相當差;但截至今天,還沒有哪家存儲廠商生產出16通道的SAS/SATA /光纖通道卡。16通道插槽一般用於圖形卡,而不是用於存儲設備。目前市面上速度最快的存儲卡只是8通道,這相當於性能只提升了4倍。這不是相當差,而是非常差。

我當時還預測,考慮到磁碟驅動器是機械設備,它們不會發生太大變化;事實確實如此。如今快閃記憶體驅動器在市場上很普遍,但它們無法用於滿足所有的存儲需求,因為每吉字節成本要比普通存儲設備高得多。我曾說過,推動存儲行業發展的動力主要是消費者需求。今天看了一家知名網上零售商的報價,發現256GB容量的2.5英寸快閃記憶體驅動器售價699.00美元,而2TB容量的3.5英寸普通硬碟售價129.99美元(兩者都是消費級存儲設備,不是企業級存儲設備)。沒錯,快閃記憶體驅動器的成本是在下降,但仍有很長一段路要走。我個人認為,快閃記憶體驅動器恐怕永遠取代不了普通硬碟。

我在2002年說過:「重要的是,在可預見的將來,總體趨勢不會改變,除非你打算購買成本比普通存儲設備遠高出100倍的固態硬碟,作為你的所有存儲系統。每天在每個系統上,你都會面臨性能問題,要求你對設備提出大量請求,那樣才能獲得很高的設備利用率。」上面這個例子中的成本差異現已縮小到42倍——這個差異很大,但對大多數系統來說還是並不經濟高效。

我強調,需要有大量的I/O請求才能高效利用磁碟驅動器。這對硬碟驅動器性能,以及作業系統、協議文件系統和存儲系統的其他問題來說仍然很關鍵,因為I/O請求常常被分解成小的請求。

其實自2002年以來變化甚小——至於存儲方面,可能自1976年以來就是這樣。固態硬碟出現在世人面前已有將近30年,它與普通硬碟的成本差異現已縮小到42倍,而在早期高達1000倍。30年來已出現了大幅縮小,但是綜觀所有計算技術,從1000倍縮小至42倍還不足以為此做幾個後空翻,以示慶賀。

計算技術變化的步伐在放緩。是的,現在我們有更多的處理器核心和更高的FLOPs(每秒浮點運算次數),但那些是實際有用的FLOPs嗎?內存帶寬有沒有隨著處理器性能的提升而增加?當然,所有這些問題的答案都是否定的。隨著處理器性能和核心數量的增加,內存帶寬卻嚴重滯後,即使英特爾和AMD推出了最新的晶片組,也是如此。存儲方面更糟糕。

唯一的亮點是快閃記憶體驅動器。就算快閃記憶體驅動器的速度極快,存儲仍將是瓶頸。原因何在?我在2002年寫的那篇文章沒有提到的一大方面是軟體。存儲堆棧在過去20年裡沒有發生太大的變化。每當進行讀取或寫入操作,作業系統、文件系統、SCSI驅動程序、網絡驅動程序都參與其中。由於網絡堆棧開銷,這種情況並沒有因CIF或NFS等協議而得到任何改善。

要是存儲堆棧方面不有所變化,我認為存儲會讓位於相變內存、惠普的憶阻器(Memristor)以及實現字節尋址能力(NAND快閃記憶體無法實現)的其他技術;廠商們會改動晶片,以支持包括這些技術的存儲層次體系。

將來總是會需要存儲堆棧和磁碟驅動器,但這並不意味著,I/O操作的大部分會使用這個堆棧——即便過幾年,也是這樣。最後可能會出現這一幕:你把數據讀入到速度不如DRAM,但比快閃記憶體驅動器快得多的某種新的高密度存儲器,而存儲堆棧在系統重啟之前根本不會再讀取數據。

我不知道等這一幕變成實現時,自己是不是還在撰寫存儲方面的文章,或者甚至從事諮詢行業。


相關焦點

  • IBM Spectrum Storage軟體定義存儲未來
    軟體定義存儲攻破數據孤島  據最新ESG 研究表明, 90%以上存儲專業人士預計超融合或雲時代下軟體定義存儲將在未來5年中為存儲領域帶來本質上的變革;其中,超過60%致力於部署軟體定義存儲應用。  那麼,軟體定義存儲為何受此推崇?到底具有多麼強大的能力使其擁有如此之魅力?
  • C+基礎知識篇:C+存儲類
    register存儲類用於定義存儲在寄存器中而不是 RAM 中的局部變量。還應注意的是,定義 'register' 並不意味著變量將被存儲在寄存器中,它意味著變量可能存儲在寄存器中,這取決於硬體和實現的限制。 static 存儲類 static存儲類指示編譯器在程序的生命周期內保持局部變量的存在,而不需要在每次它進入和離開作用域時進行創建和銷毀。
  • AWS雲存儲:彈性塊存儲的靈活性
    雖然並沒有對各種提供商進行比較,但在此提供一個例子,說明如何提高利用雲計算存儲的靈活性和簡單性。 在雲業務中設置了許多基準和標準的一個雲計算提供商顯然是亞馬遜(AWS)。 AWS(以及Azure、Google等其他雲計算提供商)的便利之處在於它們能夠提供易於部署的經濟高效的解決方案。AWS公司的主要產品之一是彈性塊存儲(EBS)。這項服務在過去幾年中有了顯著改善。
  • 軟體定義存儲未來,首屆軟體定義存儲峰會(SDSS)將在深圳舉辦!
    2019年4月23日,國內最專注的軟體定義存儲主題峰會,首屆軟體定義存儲峰會(SDSS)將在深圳舉行,此次峰會將以「軟體定義存儲未來」為主題,在軟體定義存儲發展的新時代,為軟體定義存儲的技術發展、方案應用寫下一個註腳。
  • NVRAM可以消除I / O和內存瓶頸 並為百億億次存儲提供關鍵的推動力
    是一項改變遊戲規則的技術,可以消除許多I / O和內存瓶頸,並為百億億次存儲提供關鍵的推動力。隨著我們節省時間,我們可以運行更複雜的工作流程,進行更多的物理工作,提高模型解析度。根據我們的數據增長(每兩年增長三倍)來推斷,基於此技術的I / O系統將使我適應未來的10-15年。它是改變遊戲規則的人。
  • 網絡存儲的未來發展方向
    在2011年春季的SNW(世界網絡存儲,Storage Network World)大會上,我們大致的了解到儲存網絡的未來發展方向。儘管光纖信道一直統領著儲存網絡領域,然而,雲存儲已經成為業內熱門話題。下面,讓我為大家介紹一下什麼是雲存儲,以及其為啥能成為業內共同關注焦點?在2011年4月7日,星期四,也是SNW大會的最後一天,Facebook宣布將推出開放式計算工程。
  • 或會影響明日存儲 黑體輻射定律被打破
    在物理學中,普朗克黑體輻射定律(也簡稱作普朗克定律或黑體輻射定律)是用於描述在任意溫度T下,從一個黑體中發射的電磁輻射的輻射率與電磁輻射的頻率的關係公式。普朗克沒能為這一量子化假設給出更多的物理解釋,他只是相信這是一種數學上的推導手段,從而能夠使理論和經驗上的實驗數據在全波段範圍內符合。不過最終普朗克的量子化假說和愛因斯坦的光子假說都成為了量子力學的基石。上述資料來源  普朗克的「黑體輻射定律」創定在不同溫度下,此定律在絕大多數情況下都成立,但如何在極微小的距離中穩定控制物體,達成能量傳導的測試有極高的困難度。
  • 天賦異稟,高存儲密度成為海量數據存儲首選
    你以為代表著一個年代的磁帶已成為過去,但其實磁帶從未消失!古老的磁帶從誕生之日起就一直在持續進化,在企業存儲領域發揮著不可或缺的作用。 IBM 從未忘記基於磁帶的存儲的價值和前景,一直保持著基於磁帶的存儲平臺內的強勁創新勢頭,也在為未來進一步幫助企業升級存儲架構而蓄力。
  • 存儲百倍提升! IBM納米技術1比特12原子
    最近IBM的研究人員用納米技術詮釋了這一概念,存儲一比特信息僅需12個原子。該項技術能大大提升了存儲的密度,相比於現在的硬碟,同單位面積能夠存儲的信息量有百倍以上的提升。集成電路的電晶體隨著摩爾定律越來越密集,在電晶體大小越來越達到的物理極限的形勢下,迫使人們尋求新的技術,才能將性能進一步提升。一比特僅需12各原子,存儲性能達到如今硬碟的百倍以上,在資訊時代下大數據的趨勢中無疑將發揮重要的作用。
  • 高功率半導體雷射器的過去與未來
    圖2.大功率半導體雷射器亮度燃料應用(每瓦亮度標準化成本)20世紀80年代:光存儲和最初的小眾應用。光存儲是半導體雷射器行業的第一個大型應用。就在霍爾最初展示了紅外半導體雷射器之後不久,通用電氣公司的Nick Holonyak也展示了第一個可見紅光半導體雷射器。二十年後,光碟(CD)被推向市場,隨後就出現了光存儲市場。
  • 關於示波器的存儲深度
    為滿足大家快閱讀的需求,先將文章的標題摘錄如下: 1,存儲深度的基本概念 2,示波器存儲器的物理介質 3,存儲深度和採樣率的關係 4,最大存儲深度,當前設置的最大存儲深度,存儲深度的疊加使用,可顯示的存儲深度,可分析存儲深度, 5,存儲深度的應用價值-------------------------------------------------
  • DFT 推出新一代SAS 6G存儲—GS5400
    隨著信息技術的高速發展,企業應用應運而生,推動企業信息量呈爆炸式的增長,存儲需求量達到空前,同時企業應用架構日益複雜對存儲提出更高的要求,存儲系統也從簡單的容量存儲發展到現在的集高容量、高性能、高可用性、靈活性、高安全性於一體的存儲解決方案。
  • 杉巖:軟體定義存儲(SDS),存儲新時代
    簡單說來,軟體定義存儲就是,在任何存儲上運行的應用都能夠在用戶定義的策略的驅動下自動工作。軟體定義存儲將存儲服務從存儲系統中抽象出來,且可同時向機械硬碟及固態硬碟提供存儲服務。 這樣定義和虛擬化存儲非常類似,但是並不是虛擬化存儲。存儲虛擬化可以將多個存儲設備或陣列的容量組成一個池,使其看起來就好像在一個設備上,並且虛擬化存儲多數情況下只能在專門的硬體設備上使用。
  • DoSTOR存儲分析 收購EDS 惠普面臨諸多挑戰
    DoSTOR存儲在線 5月14日國際報導–分析師認為:惠普以139億美元收購EDS之後,如何整合EDS可能會是惠普面臨的一個巨大挑戰。分析師突出強調了這位服務巨頭(EDS)最近正在嚴峻的經濟氣候中艱難度日。
  • 華為中標中科院高能物理研究所計算中心存儲集群擴容項目
    近日,全球領先的信息與通信解決方案供應商華為宣布,其高性能計算解決方案中標中國科學院高能物理研究所存儲系統採購項目,標誌著華為IT基礎設施將服務於高能所計算中心,為BESIII>高能物理和大亞灣中微粒子物理實驗提供穩定可靠的高性能計算平臺。
  • 瑞馳NxSDS全融合存儲系統:讓複雜的存儲統一化
    為了滿足不同場景下應用負載的數據存儲需求,企業往往會選擇建設分布式的存儲系統,並且持續引進多種新的設備,這些設備可能來自於不同廠商,搭載了不同的存儲介質,擁有不同的型號配置與功能特性,包括設備本身的架構可能也存在很大的不同。  如此多的「不同」,使整個底層存儲架構的複雜度也開始指數級增長。
  • 雲存儲技術的原理與架構解析
    本文引用地址:http://www.eepw.com.cn/article/201606/293187.htm  相對傳統存儲而言,雲存儲改變了數據垂直存儲在某一臺物理設備的存放模式,通過寬帶網絡(比如萬兆乙太網或Infiniband技術)集合大量的存儲設備,通過存儲虛擬化、分布式文件系統、底層對象化等技術將位於各單一存儲設備上的物理存儲資源進行整合,構成邏輯上統一的存儲資源池對外提供服務
  • 微秒級數據處理,華為雲存儲的「快」節奏
    「從毫秒進入微秒時代,數據中心客戶主要面臨兩大時延瓶頸:一方面是傳統軟硬體協同,特別是網絡傳輸的時延瓶頸;另一方面則是傳統HDD介質的物理能力瓶頸。」華為雲CTO張宇昕介紹道。「傳統硬碟是物理碟片,在提供算法的時候需要考慮到大圈小圈的問題,所以之前的算法都是對於物理磁頭的讀寫性能進行優化,隨機讀寫方面的性能就明顯低得多。」
  • iPhone存儲不夠用?因為應用佔用存儲空間「變大」
    如果你最近發現你的 iPhone 存儲空間不夠用了,那可能是因為部分應用在過去的幾年裡佔用的存儲空間越來越多。應用數據和分析公司 Sensor Tower 的一項新的分析發現,Facebook、Uber、Gmail 以及 Snapchat 等應用的規模 4 年來一直在擴大。
  • 從光譜存儲到光譜套件,軟體定義帶來存儲經濟性
    IBM發布光譜存儲只是硬體部門向存儲軟體傾斜的開始,IBM的存儲在軟體上本來就有很多積累,2014年前三季度,IBM被IDC評為軟體定義存儲平臺領導者。2015年,當此次純軟體存儲產品發布的同時,還宣布將在存儲軟體上投入十億美金,新的雲存儲軟體、對象存儲與包括OpenStack在內的開放標準技術的研發,2015年十月,IBM宣布以十三億美金收購對象存儲初創公司Cleversafe,這是IBM存儲軟體又一個大動作(這次收購是一次存儲和雲計算部門的聯合收購),先知先覺瞄準了企業級對象存儲市場。