系統級晶片(SoC)的複雜設計選擇:片上網絡(NoC)

2020-12-23 電子工程專輯

Benoit在互連IP、ASIC工程和半導體IP方面擁有三十年的經驗。 他於2013年加入Arteris，擔任負責全球應用工程的應用總監，並提升為負責FlexNoC產品開發的技術副總裁。 在加入Arteris之前，他曾在歐洲的Sonics和Thomson Multimedia工作。

Benoit擁有七項發明專利，獲得巴黎Pierre et Marie Curie（UPMC）大學微電子學研究生學位。

1.什麼是片上網絡(NoC)？為什麼系統級晶片(SoC)設計需要NoC？

在介紹NoC相關歷史之前，我想提出一個觀點：NoC是一種SoC架構。從字面上看，NoC是SoC架構師在其框圖和平面圖中繪製的IP模塊之間連接的邏輯和物理實例。如此眾多的SoC設計團隊從Arm、Synopsys和Cadence等公司獲得IP模塊的授權許可，SoC設計趨向於同質化。實現SoC差異化設計的關鍵在於架構師如何選擇和連接這些IP模塊以滿足他們的系統級要求。

2.片上網絡(NoC)相比傳統的總線接口通信有什麼優點和缺點？

SoC所包含的IP模塊數量不斷增加，同時片上服務質量（QoS）、仲裁和數據流優化的複雜性越來越高， NoC逐漸取代總線和交叉開關（crossbar），而成為片上互連的行業標準。總線是共享的通信資源，除了最簡單的系統之外，總線無法提供系統所需的帶寬。交叉開關雖然可以提供足夠帶寬，但是其大小隨著所連接的IP模塊數量成倍增長，並且大型的交叉開關根本無法構建。 它們都不能很好地利用布線，而布線可是當今晶片技術中最為昂貴的東西。NoC可以極大地減少裸片面積（尤其是更少的布線），功耗更低，而且可以對片上數據流和服務質量進行微調優化，甚至可以提供數據保護功能以提高整個系統的功能安全性。

總線是系統級晶片發展的早期階段所採用的標準，那時連接的IP模塊（CPU、存儲器和外圍控制器等）可能不超過20個。 然而，隨著更多IP模塊連接到總線，它們開始爭奪優先級和可用的帶寬。總線需要集中的仲裁器和地址解碼邏輯，而隨著主機和從機數量的增加，大家競爭同一條總線資源，這反而成了SoC性能的瓶頸。

另一個問題是，針對總線定義的信令和事務沒有與傳輸通信分開。總線不會區分通常歸類為事務、傳輸和物理層的活動，因此總線結構無法適應系統架構的變化，或不能充分利用晶片工藝技術的迅速發展。

相反，片上網絡（NoC）採用獨立的事務、傳輸和物理層三層通信機制，來實現IP模塊的通信。 事務層可以接受AMBA、OCP甚至用戶定義的事務協議（讀取、寫入、響應等），然後將其發送到傳輸層以便轉換為數據包。數據包轉換可以使用任何能夠支持的事務協議來混合數據流，從而實現SoC的IP「即插即用」 。 此外，數據包轉換還可以靈活地為預期的系統級數據流特性而自定義物理層。 這樣可以針對物理組件（如交換機、防火牆等）及其連結進行帶寬、距離跨度、成本、所需功耗和數據完整性等方面的優化，而不會影響傳輸和事務層。

仍然有一些小型SoC設計會使用總線結構，例如基於Arm Cortex-M的MCU設計，其中集成的IP模塊可能只有10來個。但是我們看到，即使是這些設計也開始往NoC互連轉移，特別是那些有低功耗要求的設計，要求系統具有多個電源和時鐘域，而且相互之間要通信。在處理不同的時鐘和電源域方面，NoC比總線甚至交叉開關都要好得多。

3.高性能的SoC設計在性能、功耗和尺寸方面面臨哪些挑戰？

現在大多數高性能SoC設計均使用10 nm以下的先進工藝節點，其中電晶體的尺寸可縮小到令人難以置信的地步。這樣就可以將數十億個電晶體集成到一顆裸片上，而幾年前同樣尺寸的裸片只能容納幾億個電晶體。然而，金屬線寬還沒有縮小到電晶體那麼小，當系統中添加更多IP模塊時，連接它們所需的金屬線數量卻隨之增加，並且數據在片上傳輸所需的距離也增加了。對於5年前的SoC設計而言，NoC可能佔裸片面積的10％，但在當今的先進高性能SoC中，這一面積比卻在增加。但是，我們也在不斷改進NoC技術，使其能夠在高性能應用的高時鐘頻率和高電壓下運行。而當NoC不需要大帶寬時，我們能夠非常快速、透明地「使之節流」至節能模式。NoC技術提供了很多「槓桿」，SoC架構師可以使用它們針對特定的性能、功耗和面積要求進行優化。

4. 5G、AI和自動駕駛等新興應用對SoC設計提出了什麼特別要求？

所有這些新興應用都在創新的獨特架構中使用人工智慧/機器學習硬體加速器IP。 SoC架構師面臨的首要挑戰是如何為這些加速器提供高帶寬數據流，這就要求優化NoC以提供所需的帶寬而又不能阻塞整個系統其餘部分的通信。

其實最具技術挑戰性的AI / ML實施是在汽車和機器人領域，這些應用會使用神經網絡邊緣推理。但有一個問題，架構師必須同時滿足實時要求（比如在擊中目標對象之前對其進行檢測和分類）和功能安全性（空氣中一點輻射變化可不能導致機器人發瘋或汽車碰撞）。NoC技術提供了基礎技術，可確保整個SoC的通信延遲、帶寬和仲裁優先級，同時還通過ECC、硬體複製和檢查等技術手段來保護數據及避免信令硬體故障。

5.有哪些跟SoC設計相關的先進技術值得關注？

當我們為無人駕駛的自動駕駛汽車開發系統時，必須確保SoC即使出現故障也可以繼續安全運行。在航空系統中，我們用到一些「宏觀」級別的傳統技術，會使用三重模式冗餘和詳盡的檢查來確保安全。這些技術已被應用到「微觀」的半導體級別，納入到SoC設計中。但是，除了簡單地三倍增加邏輯（以及導線和門）以滿足要求之外，我們還需要做更多的事情，我相信在這一領域會有很多創新。

我們認為需要採用新技術的另一個領域是使用芯粒（chiplet）來擴展SoC。我們的客戶已經表示出擔心，對於某些用例，當前的標準（例如CXL和CCIX）對系統有多大的負擔和影響。絕對需要低延遲、高帶寬的芯粒互聯，這種連接可以讓單個NoC透明地跨越多個芯粒。

責編：Amy Guan

相關焦點

  • 系統級晶片(SoC)的複雜設計選擇:內核、IP、EDA和NoC
    而「系統級晶片」這個術語常用來指功能更加強大的處理器，比如可以支持運行Windows或Linux作業系統的處理器晶片。高性能系統級晶片集成了更多更強的功能模塊，一般都配備有外部存儲器，比如快閃記憶體。此外，系統級晶片往往配置有很多外部接口，可以連接各種外部設備。為了更快地執行複雜任務，一些SoC還採用了多個處理器內核。SoC的功能、性能和應用越來越複雜，對晶片設計和晶圓製造也提出了更高的要求。
  • 系統級晶片(SoC)的複雜設計選擇:RISC-V處理器內核
    這也對晶片設計企業提出了更高的要求，在做系統級晶片(SoC)的設計規劃時，我們以應用場景為中心，同時綜合面積、功耗以及性能等需求，選擇相應的工藝節點以及IP。不是功耗最低和性能最高才是最好的，只有最符合特定應用場景實際需求的晶片才是最適合的。這也就是晶片定製化的模式，其特點就是模塊化、快捷、靈活易於開發。
  • 系統級晶片(SoC)的複雜設計選擇:RISC-V及SoC設計平臺
    以CPU為例，是否需要DSP、FPU等處理單元；存儲結構（ICache/DCache，片上指令緊耦合SRAM，片上數據緊耦合SRAM）及容量大小，以及所需要的系統總線結構等。●軟體生態和用戶習慣：軟體生態和用戶習慣是一個看不見摸不著的東西，但對SoC設計來說至關重要。軟體開發環境（IDE，SDK等），基礎工具鏈（編譯器，調試器等），作業系統支持程度...
  • 系統級晶片(SoC)的複雜設計選擇:FPGA
    rMCEETC-電子工程專輯1.在做系統級晶片(SoC)的設計規劃時，需要考慮哪些主要因素？rMCEETC-電子工程專輯我覺得一定是先從市場需求以及相關需求的時間窗口作為起點，然後根據自身的人力與技術資源，結合開發的金錢成本、時間成本和維護成本，考慮工藝和IP的選擇。舉例來說，現在如果還在用40nm的工藝技術來設計SoC，將很難應對市場普遍需要低功耗的趨勢。
  • 車載娛樂系統「心臟」-SOC晶片
    前言 近日，德賽西威與四維圖新旗下傑發科技籤訂合作協議，雙方將在汽車電子領域開展深度合作，德賽西威全新一代產品，將採用傑發科技最新研發落地的、完全自主設計的車規級高性能SoC晶片產品，推動國內自主汽車電子晶片品牌發展。
  • 系統級晶片(SoC)的複雜設計選擇:EDA和IP
  • AMBA片上總線在基於IP復用的SoC設計中的應用
    數字IC從基於時序驅動的設計方法，發展到基於IP復用的設計方法，並在SOC設計中得到了廣泛應用。在基於IP復用的SoC設計中，片上總線設計是最關鍵的問題。為此，業界出現了很多片上總線標準。其中，由ARM公司推出的AMBA片上總線受到了廣大IP開發商和SoC系統集成者的青睞，已成為一種流行的工業標準片上結構。
  • ...業界首個統一平臺3DIC Compiler,以加速多裸晶晶片系統設計和集成
    ，納斯達克股票代碼：SNPS）近日推出其3DIC Compiler平臺，轉變了複雜的2.5和3D多裸晶晶片系統的設計與集成。該平臺提供一個前所未有的完全集成、高性能且易於使用的環境，可集架構探究、設計、實現和signoff於一體，並且優化了信號、功率和熱完整性。憑藉3DIC Compiler，IC設計和封裝團隊能夠實現無與倫比的多裸晶晶片集成、協同設計和更快的收斂。
  • SOC晶片是什麼,它的功能及應用是什麼
    （文章來源：網絡整理） 智慧型手機普及後，人們對智慧型手機的認識也逐步深入。選購手機時，晶片的品牌和型號成為影響很多用戶購買與否的重要因素。但是有些用戶並不清楚SOC是一種什麼概念，那麼就讓我們通過以下內容探討一下！ 什麼是SOC，System on Chip，簡稱Soc，即片上系統。國內外學術界一般傾向將SoC定義為將微處理器、模擬IP核、數字IP核和存儲器(或片外存儲控制接口)集成在單一晶片上，它通常是客戶定製的，或是面向特定用途的標準產品。
  • 音頻系統晶片選擇多項性能參數詳解
    系統設計是一個複雜的過程，不僅僅是有IC拿來用就可以了，還有很多細節需要考慮。本文以高保真音樂重放系統為例介紹如何進行晶片選型，以構建符合市場需求的系統。
  • 採用片上網絡(NoC)的新型FPGA數據架構賦能5G網絡和數據中心智能...
    這些新的系統不僅必須要具備高度可靠性，而且還需要滿足人類思維級別的響應時間，以確保嚴格的性能保證（如圖3所示），這就需要全新的架構。kmBEETC-電子工程專輯儘管可編程邏輯提供了最佳的功能組合，以支持新一代通信和網絡系統的複雜需求，但是傳統的可編程晶片產品無法滿足這些需求。為了平衡片上的處理、互連和外部I / O，必須對整個FPGA架構進行重新考慮。
  • 淺談多核心CPU和SoC晶片及其工作原理
    單裸片封裝、多裸片MCM封裝及多晶片系統的示意圖　　另外，今天的桌面計算機CPU、手機SoC中還集成了許多圖形處理器(GPU)核心、人工智慧處理器(APU)核心等，這些是否也應該算作多核心CPU和SoC中的「核心」呢？我覺得從廣義角度上應該算吧。
  • 瑞薩電子推出R-Car V3U片上系統 可降低系統成本
    蓋世汽車訊 高度自動化駕駛系統需要海量數據，而處理這些數據需要車載計算機具有強大的計算能力。集中化計算平臺的出現也要求高度集成、極其複雜的多核晶片架構。12月17日，瑞薩宣布推出R-Car V3U片上系統（SoC），旨在滿足這些要求。
  • 解決晶片互連卡脖子問題:CMOS片上光電互連速度突破2Tb/s!
    在2020年光纖會議（OFC）上的線上演示中，Ayar展示了其TeraPHY光學晶片技術，該技術已集成到通常使用銅互連的改進型商用IC（英特爾Stratix 10 FPGA）中（圖2）。
  • lol中noc是什麼英雄?lol夢魘為什麼叫noc
    ------------------------------------- 在英雄聯盟中，一些特殊的符號代表一定的意思，而一些特殊的單詞縮寫也有其特殊的含義，就像是賞金獵人被叫做MF，伊澤瑞爾被叫做EZ，烏迪爾又稱UD，那麼lol中的noc
  • 基於CC2420晶片和ARM單片機實現智能交通系統的設計
    無線傳感器網絡具備優良特性，可以為智能交通系統的信息採集提供一種有效手段，可以監測路口各個方向上的車輛，根據監測結果，改進簡化、改進信號控制算法，提高交通效率。無線傳感器網絡可以應用於執行子系統中的控制子系統和引導子系統等方面。例如可以應用該技術改進信號控制器，實現智能公交系統的公交優先功能。
  • 紫光展銳推晶片大禮包!首顆車規級晶片實現釐米級定位,5G NB芯功耗...
    其中，V8811晶片是紫光展銳首顆面向5G R16的工規級NB-IoT晶片，採用22nm工藝，功耗優化提升超50%；A2395是展銳首顆車規級雙頻高精度定位晶片，能提供釐米級的高精度定位。在紫光展銳CEO楚慶看來，數字世界有兩個非常基礎的元素，分別是連接和智能。「連接和智能是未來科技的兩面旗幟，也是展銳產品及技術發展的兩大指向。」
  • 光纖收發器的光電介質轉換晶片選擇性能指標
    選擇介質轉換晶片是乙太網光纖收發器設計的第一步，也是非常重要的一步，它的選擇直接影響和決定了其它元器件的選擇。光電介質轉換晶片（OEMC）是整個收發器的核心。選擇介質轉換晶片是乙太網光纖收發器設計的第一步，也是非常重要的一步，它的選擇直接影響和決定了其它元器件的選擇。接下來就跟隨飛暢科技的小編一起來看看光電介質轉換晶片的主要性能指標有哪些吧！1．
  • 晶片設計實戰篇,射頻識別晶片設計的實現與優化
    晶片設計是每個國家的發展重點之一，而壯大中國晶片設計行業將有利於降低我國對國外晶片的依賴程度。再往期文章中，小編曾對晶片設計的正反向流程、晶片設計前景等內容進行過相關介紹。本文中，小編將為大家介紹帶來晶片設計實戰篇——射頻識別晶片設計中的時鐘樹功耗的優化與實現。1 概述UHF RFID是一款超高頻射頻識別標籤晶片。
  • 華為「梅開三度」:晶片+系統+Mate40,這才是實力!
    中國已經是僅次於美國的世界第二大國家，並且在GDP方面位居世界第二，在國際市場上的影響力不斷提升，話語權也是更重了，按照其他國家的說法，中國當之無愧的世界強國了，並且在製造業方面展現出傲人成績。就拿基建工程來說，中國鐵路裡程數排名第一，也擁有世界上最多的高樓大廈。