什麼是分布式存儲?Filecoin 的深入研究

2020-12-11 IPFS星際視界

2020年分布式存儲以其獨特的姿態湧入我們的視野之中,可是我們好像從來沒有思考過,究竟什麼是分布式存儲?而我們為什麼需要分布式存儲?

實際上採用分布式存儲可以說是「被迫」的,因為面對越發飛速發展的網際網路、整個生態應用不斷創新、用戶數量不斷龐大、數據階梯式增長這些無疑不給現有的本地存儲帶來巨大的壓力。因此,必須通過採用其他分布式存儲系統去緩解相應的壓力,所以分布式存儲和分布式文件系統應運而生。

今天我們這篇文章將對於分布式存儲進行介紹,並對Filecoin進行深入研究。

01

定 義

分布式存儲系統,是將數據分散存儲在多臺獨立的設備上。傳統的網絡存儲系統採用集中的存儲伺服器存放所有數據,存儲伺服器成為系統性能的瓶頸,也是可靠性和安全性的焦點,不能滿足大規模存儲應用的需要。分布式網絡存儲系統採用可擴展的系統結構,利用多臺存儲伺服器分擔存儲負荷,利用位置伺服器定位存儲信息,它不但提高了系統的可靠性、可用性和存取效率,還易於擴展。

02

分布式存儲簡介

現代計算處於高度集中的階段,在過去的十年時間中,一些大型存儲公司通過將傳統計算機系統劃分雲存儲產品獲得了巨大的財富。這側面反映了現代化網絡中心化集中的現象——如果其中一個供應商發生問題時,便會衍生成重大的網際網路事件。比如:2017年Amazon網絡突然中斷;2020年6月Github長時間中斷;2020年10月Microsoft多周雲服務出現問題等等。

而我們託管在這些服務上的內容也值得我們擔心,它們被隱藏在經常斷開的脆弱連結之後面,這對我們構建的計算機系統以及越來越依賴它們的社會具有深遠的影響。集中式架構之所以成功,部分原因在於它們易於構建。為了阻止合併,開發人員需要組成的基礎構建區塊。分布式存儲就是這樣的基石,是分布式Web的前提。

03

分布式存儲的基本特徵

1.彈性

現代網際網路非常脆弱。如今,Web內容隱藏在URL後面,每個URL在任何給定時刻都屬於一臺確定的伺服器,一旦供應商出於原因中斷網絡連接,其指向的內容將不可訪問。集中化會增加這種影響,造成單一節點故障並為審查提供方便。結果,在當今的網際網路中,普遍存在著網際網路連結失效的現象,就好像當一個連結斷開或永久不可用,國家級審查和分布式拒絕服務攻擊破壞可以訪問任何文件。

在理想的分散系統中,運營商的損失不應阻止用戶對先前存儲和服務的內容的訪問。通過將責任分散到網絡的許多節點上,分散式系統還可以自然地抵抗審查制度和其他拒絕服務的嘗試,因為沒有集中的目標可以使攻擊者大量獲取資源。

集中存儲系統易於受到審查的影響,一個典型的案例是當西班牙的17個自治社區之一的加泰隆尼亞,舉行獨立公投時,反對獨立計劃的西班牙政府封鎖了擁有ISP級別投票信息的網站,通過切斷這些關鍵的連結,政府有效地阻止了許多個人訪問這些信息。

然而,許多網站也使用對等存儲網絡星際文件系統(IPFS)進行了鏡像。任何運行IPFS節點的人都可以從網絡上的其他節點下載經過審查的信息,並開始自己分享。IPFS的分散化本質與西班牙政府阻止訪問這些文件的企圖背道而馳——只要一個節點被封鎖,另一個節點就可以輕易地取代它。通常,分布式存儲系統使網絡級阻塞變得更加困難。

2.效率

所有計算系統體系結構都有其優點和缺點,並且沒有單一的解決方案適合所有可能的用例。不幸的是,現代網絡對集中化的重視沒有什麼不同。如今,全球少數城市中的一些集中式數據中心存儲的內容最多。例如,如果同一網絡上的兩個用戶希望彼此發送消息,這些消息通常將發送到其中一個數據中心;如果100個用戶在一個房間裡用他們的設備觀看同一段視頻,他們每個人都會訪問一個中央伺服器並下載100份副本,而不是下載一份副本並在本地網絡上共享它。

最簡單的說法是:分布式存儲使得共享文件變得更容易,而不需要在網際網路上向特定的幾個數據中心發送請求。取而代之的是,節點之間通過儘可能少的中間人建立連接。例如,連接到其他國家的節點仍然需要幾次跳轉,但是同一網絡上的節點可以直接共享文件。分布式存儲的最終目標是建立眾多的節點,從而使每個人都可以通過本地對等的節點來獲取信息。

分布式存儲解決方案可以將基本的新效率引入此類活動。通過繞過數據中心,分布式系統可以使節點放置在比現代內容分發網絡更接近終端用戶的地方,甚至比現代內容交付網絡都更靠近最終用戶,從而大大加快了文件檢索速度。通過本地網絡進行點對點文件共享還可以節省帶寬,特別是在對更廣泛的網際網路訪問有限的地區。

04

分布式存儲的理想特性

儘管彈性和效率是分布式存儲的標誌,但理想的存儲系統可能還具有許多其他特徵:

1.可訪問

理想的分布式系統應該是可訪問的。參與網絡應該很容易,允許儘可能多的節點代表網絡存儲和分發文件。

如果您正在閱讀本文並想知道:我可以是一個節點嗎?答案是:視情況而定。藉助Filecoin,任何相對精通技術的人都應該能夠運行客戶端節點以與網絡進行交互。至於運行存儲礦工節點,並不是所有人都能做的,因為您需要具有滿足特定規格的硬體。

對於IPFS,節點的硬體要求較低,這意味著有可能有更多的用戶通過運行節點,或許通過運行內置的Web瀏覽器,對網絡做出貢獻。雲服務提供商使廉價,可靠的存儲比以往任何時候都更容易使用。它們成功的一個主要方面是能夠通過API通過代碼配置和管理存儲的能力。任何競爭性系統都應該能夠提供相同級別的便利。

2.內容尋址

如前所述,URL體現了一些內在的設計折衷。它們描述的是數據的位置,而不是數據的內容。為了解釋集中式系統是如何使查找數據變得困難的——假設您想下載一隻毛茸茸的小貓的照片。考慮以下兩個URL:

https://example1.com/cat.jpeg

https://example2.com/cat.jpeg

這些URL都引用了一個名為cat.jpeg的文件,但不能保證這兩個文件相同。如果example1.com離線,則無法確定example2.com是否滿足您的需求-cat.jpeg可能完全不同。事實上,它甚至可能是一張狗的照片!URL和它引用的內容之間沒有固有的關係。

因此,你沒有辦法問今天的網際網路,「有人有這個文件嗎?」因為除了它的位置之外,你對文件一無所知。

當您使用URL共享文件時,可能會出現問題。伺服器可能會從該URL開始提供不同的文件,或者有人會執行中間人攻擊並修改文件(奇怪的是,這種攻擊並不少見)。很難確認訪問URL的每個人都收到了他們想要的文件。

相比之下,內容尋址基於內容標識符(CIDs)查找文件,CIDs作為文件的數字指紋。用這種方式尋址文件解決了位置尋址的問題。當客戶端需要一個文件時,他們向網絡中的節點詢問具有特定CID的文件,而不是向一個伺服器詢問URL。客戶端下載文件後,便會自己對其進行指紋識別。

回顧我們前面的例子,就好像所有網站都對輸入cat.jpeg時要交付的文件有共同的理解。因此,雖然不能保證任何節點都具有特定的cat.jpeg,但這些節點將檢查該文件的指紋以嘗試找到匹配項。

儘管像指紋識別這樣的步驟需要比普通人要多的技術知識,但Filecoin和IPFS客戶可以輕鬆地使此過程自動化。這樣一來,客戶就可以保證他們已收到所需的文件-在此系統中,查找數據的備用提供者很簡單。

主要要點:CIDs意味著您可以找到集中式系統中可能丟失的內容,CIDs還可以防止中間人攻擊或伺服器在特定URL處突然更改文件。

3.獨立性

無信任系統允許雙方進行合作,而不需要了解對方或尋求第三方。她認為,系統的激勵促使參與者朝著網絡運行所必需的行為前進。

4.可驗證

理想的存儲系統應該能夠輕鬆地持續證明節點正在存儲它們所承諾的精確數據。這種類型的可審核性是實現不信任的關鍵。如果您總是能夠確定數據被正確地存儲,那麼您就不太需要信任提供存儲的一方。

5.開放性

最後,理想的分布式存儲系統是開放的:它的代碼是開放原始碼的,並且是可審計的。此外,存儲系統不應該是單塊的。相反,它應該公開一個任何人都可以實現和構建的開放協議,而不是鼓勵鎖定。

05

Filecoin如何體現這些特徵

Filecoin項目是一個分布式存儲系統,旨在滿足這些特性。在2014年的描述中,Filecoin協議最初是作為一個激勵層開發的星際文件系統(IPFS),一個對等存儲網絡。與IPFS一樣,Filecoin是一種開放協議,它基於其較早版本的屬性,利用相同的底層對等和內容尋址功能。

Filecoin節點網絡為文件的檢索和存儲提供了一個分散的存儲市場。這個網絡是由一個新的區塊鏈支持的,它記錄了網絡參與者所做的承諾。用戶使用區塊鏈的加密貨幣FIL在網絡上進行交易。

1.檢索市場

在檢索市場上,被稱為檢索礦工的節點競爭將文件儘快提供給客戶端。檢索礦工通過少量的FIL費用獲得獎勵。這使得位於關鍵位置的節點有了加入網絡的動機,並促進了文件的快速分發。它還鼓勵建立一個穩健的網絡來複製和保存急需的文件。

2.存儲市場

在Filecoin的存儲市場中,被稱為存儲礦工的節點被授權在各種特性上競爭,比如價格和位置,為客戶提供指定時間內的文件託管合同。存儲礦工在接受合同前,必須先進行抵押FIL;如果存儲礦工未能履行其對客戶的義務,則此功能可用於自動向客戶償還費用。

當存儲礦工和他們的客戶達成協議時,客戶將他們的數據傳輸給存儲礦工。存儲礦工將其數據添加到一個扇區,扇區是Filecoin中存儲的基本單位。然後礦工執行計算密集型操作(稱為封裝),以創建該扇區數據的唯一副本。

如果客戶希望存儲其數據的多個唯一副本,那麼封裝過程將確保每個副本都具有惟一的指紋,而獲取該指紋所需的計算量將防止節點從基礎數據重新生成指紋,從而避免作弊。數據最終用於向Filecoin區塊鏈發布複製證明。

在存儲交易期間,需要定期要求存儲礦工向區塊鏈提交時空證明。礦工使用隨機性(由區塊鏈本身提供),密封扇區和發布到區塊鏈的複製證明來獲得這些證明。這些證據為客戶端提供了一個強有力的概率論證,即存儲礦工擁有完整,唯一的數據副本。這是一個非常有力的保證-甚至是現代雲存儲提供商也無法提供其客戶。

客戶通過支付FIL作為交易費來獎勵Filecoin存儲礦工。還為存儲礦工提供了為區塊鏈挖掘區塊的機會,這既需要FIL獎勵,也可以向希望在開採塊中包含消息的其他人收取交易費用。Filecoin的證明系統意味著礦工需要一些額外的硬體,但對於技術熟練的個人來說,要求仍然很低。作為客戶端參與網絡的硬體要求是適當的,Filecoin節點還公開了一個用於與網絡進行編程交互的API,允許第三方服務在核心網絡功能之上構建。

06

結 論

分布式存儲提供了一種與傳統的集中式存儲相對應的強有力的選擇。它為開發人員提供了探索設計計算空間的機會,從而強調了內容存儲和交付的穩定性和效率。Filecoin表明,通過分布式存儲可以不僅可以讓數據更加安全;也可以讓Web3.0網絡為更多人使用。

相關焦點

  • ipfs-filecoin是趨勢嗎?新商業模式分布式存儲必將帶來巨大價值
    因此,我們將分布式存儲視為未來的數據產業。同時,IPFsfiecion還是數據房地產的主要位置。分布式存儲賽道filecoin不僅僅是一個網絡,它創造了一個可以自我循環的市場經濟,區塊鏈使這個市場有了一個可靠的環境。用戶需要存儲和檢索數據,購買fil,並向提供數據存儲和檢索的礦工付費。
  • ipfs-filecoin是趨勢嗎?分布式存儲必將帶來巨大商業價值 挖礦囤幣...
    目前,IPFs分布式存儲產業已有36餘家企業,為響應國家號召,推動分布式存儲技術的實施,防範行業風險,正式成立了中國分布式存儲產業聯盟。此外,國內外頂尖企業,如阿里雲、騰訊、京西、華為、華碩、谷歌、福克斯、Netflix等,都在大力投資IPFsFelicion分布式存儲技術,實現商業化實施。
  • Filecoin官網、分布式存儲filecoin一天可以挖多少幣、恆訊雲教你...
    據filecoin官網發布的消息稱,FIL代幣總量20億枚,其中礦工可挖總量佔70%,也就是14億枚。而FIlecoin分配與釋放規則,礦工按70%比例分配,每周遞減、6年減半,上線之後的六年內大約釋放7億枚。
  • 什麼是分布式存儲?(IPFS, FileCoin, Sia, Storj & Swarm)
    在Filecoin ICO後,分布式存儲讓我著迷了一段時間,Filecoin在Y Combinator、Naval Ravikant、Andreessen Horowitz、Union Square Ventures Sequoia和Winklevoss Capital等投資者的領投下籌集了超過2.5億美元的資金。
  • Filecoin/ipfs分布式存儲投資建議與風險分析
    Filecoin官方宣布,太空試驗於8月25日正式啟動後,毫無疑問,Filecoin將是今年夏天最受期待的項目之一。 作為IPFS項目的激勵層,Filecoin無疑是非常重要的。在Filecoin主幹網之後,它將極大地促進IPFS項目的發展,成為塊鏈和Internet網絡存儲的基礎設施。
  • 解讀|以Filecoin為例,談分布式存儲機制的優點
    分布式存儲一躍成為行業內為數不多的熱點概念之一。簡單來講,去中心化存儲通過分布式存儲技術將文件或文件集分片存儲在不同供應方提供的磁碟空間上,成為了分布式技術更好落地的基礎設施之一。在傳統雲存儲服務上,已有了一套邏輯完整的存儲商業模式,這讓一部分傳統領域的投資機構同樣看懂了這一商業邏輯,帶來了增量資金。
  • ipfs正舵者:Filecoin如何支持視頻存儲?
    如今,視頻已成為網絡上交流和內容的重要來源,因此,使用Filecoin構建大量新工具和服務來存儲視頻數據非常有意義。下面為大家介紹一款上傳和共享視頻的新工具,自亮相Filecoin升空周以來集贊無數,快來搶先體驗吧!
  • 去中心化存儲領域除了filecoin外,還有哪些選手?
    ,目前的去中心化存儲領域還是一片藍海,這幾年國內國外湧現的項目不只IPFS+filecoin一個,只是它是呼聲最高的,今天就為大家來盤點下其他值得關注的去中心化存儲選手。filecoinFilecoin之所以受到行業內外的眾多關注,主要跟它的底層傳輸協議IPFS,開發團隊背景,17年的ICO募資記錄有密切關係,當然也包括filecoin主網即將上線的這個時間點
  • FIL是什麼幣?讀懂Filecoin挖礦模型
    filecoin曾因2.57億美元的巨大融資引發關注,如今,filecoin又因上線後經濟模型等問題引發爭議,那麼filecoin究竟如何,我們研究一下。 一、背景 filecoin 出生不凡,僅投資機構便有紅杉資本、DCG集團、A16資本、史丹福大學等國際知名投資機構,而創始人胡安更是獲得了史丹福大學計算機碩士學位,並且是一個連續創業者。從背景來看,filecoin 陣容十分豪華。
  • IPFS和Filecoin什麼關係?IPFS礦商集體停擺的背後原因
    事實上,目前IPFS已經成為了分布式HTTP協議的工業標準。IPFS與區塊鏈是什麼關係?目前大部分公鏈的最大問題是無法存儲大量的數據在自己的鏈上,運用IPFS技術解決存儲瓶頸是可行方案之一。 什麼是Filecoin?
  • Filecoin把分布式存儲推向頂峰 FIL幣價近期必重返千元
    Filecoin把分布式存儲推向頂峰 FIL幣價近期必重返千元隨著5 G商業化進程的推進,邊緣計算已正式進入市場風口,成為不可阻擋的技術潮流。分布存儲項目 Filecoin就能解決這類問題。由於邊緣計算產生了數據存儲需求, Filecoin可以依賴全球化接入節點提供就近存儲服務,按需按量地提供最佳存儲服務,以及距離最近的存儲資源,它所提供的邊緣存儲方案,可以將不同存儲業務的垂直擴展變為水平擴展,減少帶寬消耗,提高存儲響應速度,實現近距離按需優化存儲。
  • IPFS-Filecoin是趨勢嗎?區塊鏈挖礦賺錢是真的嗎?
    傳統的中央存儲,如阿里雲,騰訊雲,在容量和性能之上,都不能滿足大規模數據存儲的要求,末期擴展的難度和成本都非常高。因此,中央存儲系統必須是分散的。IPFS/filecoin分布式存儲和分布式文件系統就會出現,IPFS是主流分布式存儲技術的領導者。在過去的10-20年裡面,人們創造了財富,其中大部分是人類居住的房地產。然而,未來的存儲行業將解決數據駐留的問題。
  • 鏈客Talk|Filecoin易用進階之旅:Venus(go-filecoin)的差異發展
    和大家一起聊聊「Filecoin的易用進階之旅:Venus(go-filecoin)的差異發展」這一話題。嘉賓簡介:李昕,上海焜耀科技副董事長&CTO、IPFS原力區聯合創始人,分布式存儲和Web3.0的推動者和實踐者,深耕分布式存儲20年。曾任思科對象存儲中國區負責人、中國第一代安全路由器核心開發者。
  • Filecoin經濟模型發布了.快來點擊了解
    與傳統的網際網路2.0平臺相比,Filecoin是一種更加實惠又高效的數據存儲方式。Filecoin是由社區主導並且是分布式的,這就意味著各個存儲用戶和存儲礦工將根據價格、信譽、可靠性、可檢索性和延遲度來進行競爭交易。Filecoin區塊鏈可確保文件以安全且可公開驗證的方式存儲。不僅於此,Filecoin的存儲市場還利用了全球未被充分使用的存儲資產。
  • 了解filecoin是什麼必須要知道的 ipfs filecoin官網 挖礦排名網站
    作為一個全新的數據存儲和分發網絡,filecoin網絡的使命是為人類信息打造分布式的、高效且強大的基礎。Filecoin網絡將通過激勵其經濟的持續增長及發展以實現這一使命,總得來說,Filecoin網絡是相對複雜的,並不是那麼容易被理解,今天,我們先來了解Filecoin網絡相關名詞的定義,以便能夠更好地了解Filecoin網絡。 諮詢礦機:fil998Q:為什麼會有基準鑄造?
  • Filecoin的應用場景具體表現在哪幾個方面?
    Filecoin簡介Filecoin是一個去中心化分布式雲存儲網絡,它將雲存儲轉變為一個算法市場,也是IPFS技術的代幣。Filecoin的誕生意味著分布式雲存儲時代的到來。Filecoin最大的特點是存儲和檢索數據,礦工通過提供數據存儲空間和檢索來獲得token (即filecoin),filecoin通過貢獻閒置的硬碟來獎勵礦工。Filecoin網絡允許任何人成為存儲提供商並通過提供其硬碟空間來獲利以實現規模經濟。
  • Filecoin動態:Filecoin進程和8月份路線圖
    我們長達一個月的校準期成功地完成了實際的存儲和檢索交易,並執行了整個行業生命周期,從而幫助礦工為太空競賽做準備。在這期間的過程中,我們看到了礦工上檢索交易達到97%的成功率-和24 / 50礦工達到了100%,其存儲的交易成功率。 礦工。隨著世界各地的礦工將PB級存儲存儲到Filecoin Testnet上,礦工社區繼續快速發展。
  • Filecoin官網更新:挖礦的時刻,到了!
    Filecoin官網(filecoin.io)中,生動形象的視頻、簡潔大氣的界面、圖文並茂的說明等為我們帶來了全新的視覺感受。 Filecoin存儲網絡 Filecoin旨在建設一個存儲人類社會最重要信息的分布式網絡,具有內置的經濟激勵機制,可確保隨著時間的推移可靠地存儲文件
  • Filecoin為何如此與眾不同?胡安分享Filecoin的證明系統
    「共識機制」自上世紀70年代開始研究,並在90年代發展成為一種打擊垃圾郵件的工具,它讓分布式系統中的用戶無需中央仲裁者就能達成協議。Filecoin是建立在空間證明變化上的。它還與權益證明相關,因為權益關係不只是將通證作為權益關係,而是以已證明的存儲量存在,它決定了礦工出塊的概率。在構建分布式存儲網絡時,我們著手構建一個證明結構。
  • 國際經濟陷入低潮 Filecoin或成「救命稻草」?
    據美智庫彼得森國際經濟研究所在2019年底的預測,2020年全球經濟還將維持緩慢增長的態勢,美元區的增長幅度將與往年的2%相接近,歐元區增速也將在1.01%至1.5%之間徘徊……然而突如其來的疫情卻將國際經濟拉入了低谷,四月美股一周內三次熔斷,五月原油期貨價格低至負數……這讓未來的全球經濟前景蒙上了一層陰影。