黃仁勳:數據中心將成為巨無霸,但 AI 加速計算才是未來

2020-11-22 雷鋒網

相對於前兩年英偉達舉辦的 GTC(GPU Technology Conference) 來說,今年 GTC 在 GPU 技術架構和硬體創新的進展並不明顯。在 Keynote 環節,英偉達創始人兼 CEO 黃仁勳發布了一款定價 99 美元的 Jetson Nano——除此之外,並沒有此前預想中的新架構,或者「大核彈」。

儘管如此,在現場見證了 Keynote 之後,雷鋒網依然感受到了黃仁勳的激情,以及他在打造基於現有的 GPU 技術的應用生態方面的努力。無論是基於圖靈架構和 RTX 技術的 Nvidia Omniverse 和 NVIDIA RTX Servers 伺服器,還是七家世界級的廠商將推出基於 NVIDIA T4 GPU 和 NVIDIA CUDA-X AI 加速庫的伺服器,都讓人體會到英偉達在技術應用生態方面的著力。

實際上,黃仁勳依舊在強調這句話:買的(GPU)越多,省的(Money)越多。

在 GTC 大會正式舉行的第二天,黃仁勳出現在包括雷鋒網(公眾號:雷鋒網)在內的媒體參與的 Q&A 環節,他首先重點強調了本次 GTC 的兩個核心關鍵詞——Ray-Tracing 和 Data Science,隨後回答了眾多外界關注的關鍵問題,比如說未來的 GPU 技術路線、對以色列公司 Mellanox 的收購,數據中心的未來、摩爾定律的終結等。

雷鋒網也針對本次 Q&A 的關鍵內容進行了提取。

一、關於英偉達對於 Mellanox 的收購

在本次 GTC 正式開幕前一周,英偉達宣布了對以色列科技公司收購,這是英偉達歷史上以來最大的一筆收購。對此,黃仁勳提到了以下幾點:

  • 在摩爾定律放緩的時期,網絡軟體堆棧必須儘可能轉移到架構上,為 CPU 減負;現在,CPU 是一種有限的資源,所以必須儘可能地把工作從 CPU 中減負出來。Mellanox 是 CPU 減負領域的一流企業。

  • 在數據中心中,計算架構不再停留在節點上,而是將擴展到網絡。整個網絡都將涉及英偉達的 GPU。英偉達有能力與第一大互聯技術公司 Mellanox 緊密合作,整個行業非常歡迎它。

  • 英偉達對 Mellanox 收購一案獲得監管部門的批准表示樂觀,這將使得英偉達加速創新並推進技術發展,以更好地服務於客戶。因為我們缺乏網絡技術,而我們的目標是推進網絡技術,為數據中心節省成本。而英偉達的客戶普遍表示支持並樂見其成。

  • 英偉達並不經常收購公司,因為它喜歡與別人合作,而英偉達也是一個開放的平臺(比如說 CUDA、DGX),同時英偉達的業務模式必須是開放的。但是之所以收購 Mellanox,是因為雙方之間長達 10 年的合作,而英偉達認為 Mellanox 在高速、高性能計算和網絡設計方面非常擅長。

  • 英偉達為什麼願意以如此高價進行收購呢?因為 Mellanox 值這個價——這不是成本的問題,而是價值的問題。

二、關於 3D 和堆疊技術、7nm 技術

本次 GTC 上,英偉達沒有推出此前被廣泛預測的 7nm GPU 架構,這也引起外界的質疑:在處理技術放緩的情況下,英偉達將如何看待 3D 和堆疊技術?而面的 AMD 已經推出的 7nm CPU,英偉達會否會在 7nm 方面有所動作?

對此,黃仁勳表示:

  • Tesla V100 已經是處理量最大的 3D 封裝矽片,而英偉達也是臺積電最大的晶片堆疊客戶。事實上,3D 堆疊已經有 5 年的歷史了,有些人甚至用它來堆疊手機晶片,這樣可以降低封裝高度。這種技術已經存在一段時間了,它不是新東西。

  • 但是對於英偉達來說,不僅需要 3D 堆疊,也需要 2D 堆疊。而英偉達實現 2D 堆疊的方法就是 NVLink。英偉達也需要一定規模的數據中心,這不再是為了 2D 堆疊,而是為了提升處理量。為此,英偉達需要通過 Mellanox 來實現,將多個 GPU 與大型計算引擎相連。

  • 未來,數據中心將成為一個巨大的計算引擎,而且數據中心的體積也要不斷減小,而計算效果卻非常驚人——這需要具備高性能技術方面的專長,也是 Mellanox 擅長的。

而針對外界關注的 7nm 技術和下一代 GPU 的發展,黃仁勳表示:

實際上 7nm 技術已經公開發售,臺積電也希望能夠賣給我們;我要想買它也非常容易。但是對於英偉達來說,我要考慮的問題是,購買 7nm 的要義和益處是什麼?對 NVIDIA 來說,從臺積電購買 7nm 處理器技術,並不會讓我們成為一家好公司,只會讓臺積電變得更好。而英偉達的與眾不同之處在於,我們在任何時候都能開發最具能效的 GPU,而且利用的是最具成本效益的技術。實際上,我們的工程師也是架構師,他們必須開發最具能效的 GPU,比如 Turing;我們的貢獻是兼顧效率與最佳架構——我們為 Turing 選擇了最佳的技術,即 12 nm。

三、關於軟硬體關係、RTX 的技術應用

對於本次 GTC 來說,最新發布的 CUDA-X 加速庫成為一個亮點,同時數據中心和 RTX 技術成為重中之重,GPU 硬體被提及的次數很明顯少了很多。當被問及為什麼硬體在 GTC 2019 的角色被相對弱化時, 黃仁勳表示:

你之所以會聽到很多關於軟體的內容,是因為:如果我們不為硬體開發軟體,那麼硬體將沒有用武之地;(正是因為有相應的)軟體存在,才使硬體變得出色。如果我們不自己開發軟體,那麼市場上將只有適用於 CPU 的軟體。英偉達的業務是向新市場銷售計算機平臺,如果我們想這樣做,我們必須打造新的軟體架構(比如說 CUDA-X)。在這方面沒人會幫我們,我必須親力親為。 

而面對外界對於基於圖靈架構的 RTX 市場銷售和技術應用情況的質疑,黃仁勳回應稱:

RTX 在最初八周內的增長几乎比 Pascal 快50%。然而,人們為什麼會覺得 RTX的應用放緩?這是因為當我們首次向市場推出該產品時,我們有加密產品的庫存,我們不能推出整個系列——我想這樣做,但是不能。現在,我們已推出了整個系列,它們都表現得很出色。

另外,伴隨著 RTX 伺服器的推出,外界也開始關心 RTX 技術何時能夠納入到 Geforce Now(簡稱為 GFN)中去並面向公眾開放,對此,黃仁勳回應了如下要點:

四、關於摩爾定律的終結和數據中心的未來

在本次 GTC 上,以數據中心為載體的數據科學(Date Science)也是黃仁勳談到的重點內容。當被問及對英特爾最新架構的看法時,黃仁勳表示:

首先我認為英特爾也認識到了加速計算是未來的發展方向。整個行業不再認為 CPU 和 GPU 是互斥的,這當然是件好事,因為那條路已經走不通了。我們要承認,我們需要新的方法去引領行業向前發展。其次,我們僅佔全球 HPC 總量的一小部分在全球超級計算機企業(500 強企業)中,英特爾有充分理由佔據非常大的份額。英特爾是一家競爭力很強的公司。我期待他們奮勇向前,我們也將積極面對挑戰,最後受益的將是全世界的用戶和研究人員。第三,我不太確定,英特爾最新架構是設計本身的成功,還是原有技術的延展。但我認為非常好的是,英特爾這個聲明基本是在討論加速計算;它是在說:「來點真格的吧,加速我們的堆棧」。

而關於目前數據中心發展所受的限制,黃仁勳最後表示:

其實很簡單,目前對數據中心的唯一限制就是:摩爾定律的終結。我們深知,未來計算負荷呈指數趨勢增長。如果摩爾定律已經終結了,唯一的方式將是構建更多的數據中心。我相信,將來的趨勢是增加數據中心的工作負荷,這樣,數據中心的計算能力將會以 10 倍的速度提升,其結果是:軟體創新將會突飛猛漲,計算能力將進一步增強,而這會推動更多的創新。

雷鋒網原創文章,未經授權禁止轉載。詳情見轉載須知。

相關焦點

  • 奇兵併購Arm,且看黃仁勳打破HPC三分天下
    雖然眾所周知,數據中心將會越來越普及,市場越來越大,儘管握有GPU的技術優勢,但Nvidia在此領域還稱不上什麼先驅,不過善於纏鬥的黃仁勳已瞄準了在大趨勢進展中,市場的空白。 未來隨著半導體技術進展,數據中心不再需要那麼大的機房,將越來越商業化,資料科學也會越來越普及,所需要的不同等級產品將越來越多,但市面上還沒有這些解決方案。
  • 英偉達發布新一代GPU架構用於數據中心,遊戲玩家得再等等
    黃仁勳認為,新一代數據中心等級的運算平臺,不僅要有高效能運算處理能力,還要能夠涵蓋網絡、儲存,甚至從上層應用到底層,所有軟體堆棧優化都包含在內,藉此來達到優化的加速運算。「伺服器已不是數據中心的最小運算單元,數據中心本身已成為新的運算單元。」
  • 全球超算風向已變 GPU引領加速計算時代
    本周(11月12日-17日),全球超算大會SC17在美國丹佛舉行,超算大會被看作是全球超算的風向標之一,從超算大會去洞察出全球超算當下及未來的發展趨勢是絕佳的選擇。 在前線參會後的感受是,全球超算市場正式迎來人工智慧時代,在這個巨大的趨勢下,中國勢力與加速計算正在成為兩大主旋律。
  • 黃仁勳親自奉上
    今天,NVIDIA官方宣布,將於北京時間5月14日21點,以錄播的方式,放出創始人兼CEO黃仁勳的GTC 2020主題演講。 NVIDIA表示,在這場原定於3月23日的演講中,黃仁勳會介紹公司在AI人工智慧、HPC高性能計算、深度學習、數據科學、自動駕駛、醫療健康、機器人、專業圖形等方面的創新。
  • AI計算量每年增長10倍,摩爾定律也頂不住|OpenAI最新報告
    從AlexNet到AlphaGo Zero,最先進AI模型對計算量的需求已經增長了30萬倍。英偉達的黃仁勳一直在強調摩爾定律已死,就是沒死也頂不住如此爆炸式的算力需求啊。至於為何發布AI計算量報告?OpenAI說,是為了用計算量這種可以簡單量化的指標來衡量AI的發展進程,另外兩個因素算法創新和數據難以估計。
  • 英偉達扔出20枚「AI核彈」!540億個電晶體的GPU,一個機櫃秒數據中心
    「NVIDIA A100將同時提高吞吐量和降低數據中心的成本。」美國印第安納大學、德國卡爾斯魯厄理工學院、德國馬克斯·普朗克計算和數據中心等高校和研究機構也是A100的早期採用者。ConnectX-6具備IPsec內置加密加速、信任硬體根等加速安全特性,以及10倍的連接跟蹤性能改進,使整個數據中心實現零信任安全。
  • 黃仁勳或將在GTC 2020主題演講中公布新一代安培顯卡
    英偉達公司的官方博客/網頁昨日宣布,公司創始人兼CEO黃仁勳將於5月14日在YouTube上發布其GTC 2020主題演講(演講是事先錄製的)。此次演講中,黃仁勳將重點介紹公司在人工智慧、高性能計算、數據科學、自主機器、醫療保健和圖形顯示方面的創新。對此次演講有興趣的朋友屆時可以前往www.youtube.com/nvidia觀看。
  • 黃仁勳北京激情演講2小時:搞定國內10大科技巨頭 發布最強AI引擎...
    隨著人工智慧與深度學習在近年來的興起,以GPU驅動的計算已經隨處可見,英偉達的AI平臺也支持目前所有深度學習框架、所有雲與數據中心,並設立了Inception深度學習創企計劃,目前已經有1900家企業參與。  而且,CUDA開發人員的數量也在5年裡增長了14倍,超過60萬人,CUDA SDK的下載量也達到180萬。
  • Xilinx收購Solarflare加速數據中心網絡戰略計劃
    Solarflare採用的FPGA是一種可以在運行中進行重新編程以更有效地執行特定計算任務的計算機晶片,可用於構建集成網絡、存儲和計算的智能網絡接口卡。這種名為SmartNICS的接口卡因為不需要在CPU上運行這些工作負載以降低延遲,提高伺服器性能並提供更好的連接。此外Solarflare還為客戶提供專有的加速軟體以幫助客戶使用SmartNICS。
  • 加速企業級AI應用
    超過30萬VMWare客戶將受益於NVIDIA AI軟體對所有應用程式的統一管理功能,並能夠運用NVIDIA BlueField-2 DPU的安全和加速功能。NVIDIA創始人兼執行長黃仁勳表示:「NVIDIA和VMWare將一起幫助客戶把每家企業的數據中心改造成加速的AI超級計算機。
  • 7nm GPU又要等了 NV黃仁勳:沒必要升級Volta及Turing架構
    CEO黃仁勳在上周的財報會議上表示明年支持光追的Super顯卡依然很有市場競爭力,且光追核心資源會越來越豐滿。實際上黃仁勳的表態要比RTX顯卡是否升級更為直接,因為NVIDIA的表態意味著他們不會在短時間內升級Volta及Turing兩款架構,這兩者分別用於數據中心及消費級顯卡,都是12nm FFN工藝,所以期待很快看到7nm GPU的要失望了。
  • NVIDIA 5月14日發布黃仁勳演講
    今天,NVIDIA官方宣布,將於北京時間5月14日21點,以錄播的方式,放出創始人兼CEO黃仁勳的GTC 2020主題演講。NVIDIA表示,在這場原定於3月23日的演講中,黃仁勳會介紹公司在AI人工智慧、HPC高性能計算、深度學習、數據科學、自動駕駛、醫療健康、機器人、專業圖形等方面的創新。
  • OM5光纖將成為數據中心的重要選擇
    5G的建設及應用普及的過程,使我們日常生活中的數據將會呈現指數倍增長,對我們社會的數據計算能力,存儲能力將提出新的要求。雲服務商最終的發展將會是計算能力,伺服器規模以及終端客戶的數量等多方面的比拼。雲計算、虛擬化、流媒體、物聯網…,幾乎所有IT技術的演進都離不開對高速網絡傳輸的依賴。
  • 數據中心網絡壓力及邊緣計算漫談
    隨著5G時代的到來,邊緣計算,物聯網以及AI也將逐步落地,未來將出現星羅棋布的邊緣數據中心,再加上用戶端的各類計算設備,將構成一個雲、邊、端彼此交叉訪問的物聯世界,屆時產生的數據將呈幾何倍數增長,給網絡端帶來的壓力也將進一步擴大。那麼,在未來的邊緣時代,數據中心網絡將出現哪些變化?又如何保障其穩定運行呢?
  • "未來不會編程的人都將成為文盲",AI教育怎麼做?
    「未來,不會編程的人,都將成為文盲。」這個聳動的論斷,有可能將隨著全球人工智慧教育的推進而變成事實。今天我們的工作方式與二十年前計算機普及開來之前,有了翻天覆地的差異:曾經不識字的人被視為「文盲」,而今天,不會使用電腦的人則像當年的「文盲」一樣,面對許多問題時束手無策。
  • 智能醫療:量子計算/人工智慧等將成為未來醫學的重點
    11月2日-3日,「首屆中國醫院能力建設與發展暨健康醫療大數據應用發展大會」在北京召開,本次會議由國家衛生計生委能力建設和繼續教育中心主辦,主要聚焦中國公立醫院院長職業化建設與健康醫療大數據政策設計與制度安排。
  • 光子處理器:為 AI 加速 「變革」AI硬體
    但是,持續增加的數據量在為人工智慧(AI)提供源源不斷的「動力」的同時,也對用於 AI 的電子計算硬體提出了更多的挑戰,無論是在計算速度,還是在功耗方面,都已經成為嚴重製約 AI 發展的主要瓶頸之一。   如今,隨著用於自動駕駛汽車和語音識別等機器學習方法的出現,這種數據增加的上升趨勢仍將繼續下去。
  • 中國數據中心耗電量頂三個三峽水電站!曙光雲計算集團總裁關宏明...
    國家推進「新基建」建設進程,為大數據中心發展帶來利好。如何加快大數據中心建設,大數據中心建設目前面臨哪些挑戰,又如何避免產業發展中的誤區,就這些問題,曙光雲計算集團總裁關宏明日前接受了《中國電子報》記者的採訪。
  • AI幫人類登上火星、抗擊新冠病毒,為倫敦交響樂團譜寫樂曲
    NVIDIA 執行長黃仁勳 GTC 主題演講中所播放的最新「I Am AI」視頻,介紹了科學家、研究人員、藝術家等在 AI 領域所取得的歷史性進步。AI 在全球的影響力到底有多大?根據 Gartner 的預測,這項技術到2021年將創造2.9萬億美元的商業價值。