平頭哥鑄劍,阿里造芯長徵走出第一步

2020-12-05 羅超頻道

在2019年雲棲大會主論壇,阿里巴巴CTO、達摩院院長張建鋒從口袋裡掏出一款看得見、摸得著的晶片:含光800。這是一款AI晶片,重點應用於機器視覺中,如圖片識別、視頻識別等。作為平頭哥半導體公司首顆自主研發的晶片,含光800成為雲棲大會主論壇的熱門話題。

全球最強AI晶片?

一年前的雲棲大會上,平頭哥半導體公司宣告成立,這是阿里首次對外宣告要自主造芯,但事實上,阿里很早就已想要擁有自己的晶片,並為此籌謀許久。阿里當時宣布正在打造內部代號為「Ali-NPU」的晶片,主要針對圖像和視頻的AI任務加速場景,按照設計,Ali-NPU的性能將是同類產品的40倍。對於「40倍」這個數字,當時很多人是不信的。

從定位來看,含光800應該就是一年前所說的Ali-NPU,我注意到在發布會現場,張建鋒數次強調這款晶片很「大」——移動端晶片因為應用場景要求往往都強調體積的小,這意味著含光800的應用場景不是終端,而是雲端伺服器。「大」不是指體積大,而是計算能力強大,其每秒能處理78000張圖片。僅僅是從電晶體數量來看,含光800擁有170億個電晶體就遠超同行。

最能體現出其算力強大的則是一組對比數據。在業界標準的ResNet-50測試中,含光800推理性能達到78563 IPS,比目前業界最好的AI晶片Habana Goya 高4倍;能效比500 IPS/W是其3.3倍。跟一年前市面上的英偉達P4比,性能有46倍的優勢,「Ali-NPU 性能40倍於同類產品」不是吹牛。

含光800算力強大的原因在於面向AI視覺場景自研的架構和定製的算法,以下來自官方新聞稿:

「含光800硬體層面採用自研晶片架構,通過推理加速等技術有效解決晶片性能瓶頸問題;軟體層面集成了達摩院先進算法,針對CNN及視覺類算法深度優化計算、存儲密度,可實現大網絡模型在一顆NPU上完成計算。」

更具體的解釋:平頭哥針對含光800瞄準的機器視覺場景,自研了架構、軟體編譯器、框架、工具鏈等等,並針對INT8數據類型做了大量優化,最終在性能、良率、功耗等指標上均表現良好。比如在架構上,含光800針對深度學習中使用的大量權重參數和張量數據,在支持稀疏壓縮與量化處理的基礎上,通過獨特設計的數據訪存與流水線處理技術,大大減低了I/O需求和數據的搬移,NPU同時深度優化了卷積,矩陣乘,向量計算和各種激活函數,通過高有效的硬體資源調度和全並行的數據流處理,把AI運算的性能和能效雙雙推向極致,整個架構都是創新設計的。

換言之,這是一款軟硬體高度整合的AI晶片,用張建鋒的話說:傳統晶片公司擅長硬體,然而在算法上不具備優勢。我看到在一個媒體社群記者們就「含光800是否全球最強」有不同看法,但毋庸置疑,在視覺這一場景下,在市面上的同類產品中,含光800從算力、能效比來看均絕對領先。

要注意的是,含光800不是一款PPT晶片,其已實現流片量產,應用到阿里商業生態中。對內應用在阿里核心業務上,張建鋒在雲棲大會的現場演示現實,城市大腦實時處理杭州主城區交通視頻場景,原來需要40顆傳統GPU,延時為300ms,使用含光800僅需4顆,延時降至150ms;拍立淘商品庫每天新增10億商品圖片,使用傳統GPU算力識別需要1小時,使用含光800後可縮減至5分鐘。對外,含光800不直接售賣,而是通過雲的形式向阿里雲數百萬客戶售賣AI算力,基於含光800的AI雲服務已正式上線,相比傳統GPU算力,性價比提升100%。

平頭哥一年當立

含光800的「含光」,將是平頭哥系列終端晶片的名稱。含光是上古時代三大神劍之一,《列子·湯問》:「孔周曰:』吾有三劍,惟子所擇。一曰含光,視不可見,運之不知其所觸,泯然無際,經物而物不覺。』」含而不露、光而不耀,意指含光系列晶片將主打無形卻強勁的算力。

百度了一下,另外兩大神劍分別是承影和宵練,這意味著,平頭哥或許還有更多寶劍靜候出鞘。不過,雖然平頭哥目前只有含光800,但其已擁有多款「寶劍」:7月25日,平頭哥在上海阿里雲峰會上發布RISC-V處理器玄鐵910,其是業界性能最強的一款RISC-V處理器IP,就像楊過可以將玄鐵劍鑄成屠龍刀一樣,5G、人工智慧、網絡通信、自動駕駛等領域的開發者可以基於玄鐵定製自有晶片提高性能提高一倍以上,同時將成本降低一半以上,在玄鐵之前則有C-Sky系列,均主打IoT場景;8月29日,在世界人工智慧大會上,平頭哥發布無劍SoC晶片平臺,集成CPU、GPU、NPU等,降低晶片設計門檻。

在含光前,平頭哥發布的「寶劍」是幫助第三方鑄劍,不論是玄鐵還是無劍都旨在幫助企業降低晶片設計門檻,「讓天下沒有難造的晶片」是平頭哥成立的使命之一;含光800則是平頭哥給自己鑄的第一把劍,基於此讓企業擁有高性價比的AI算力。

至此,平頭哥的晶片布局已經有了雛形:SoC平臺、處理器IP和自有晶片形成的自有+開放結合的全棧晶片生態。接下來平頭哥會延續玄鐵、無劍和含光三大系列進行完善,布局雲上AI訓練晶片和端上的AI推理晶片,已經確定的是平頭哥正在研發用於阿里雲神龍伺服器的SoC專用晶片,以滿足更多場景的算力需求。

不論何種形式,平頭哥都將讓算力在AI時代更加普惠,接下來,平頭哥將繼續在端上做晶片基礎設施,在雲端給企業提供普惠算力,助力企業擁抱數位化經濟。

從技術布局來看,平頭哥不是孤立的,它是阿里AI+晶片+雲計算三位一體戰略的一部分,因為有AI算法優勢,含光800作為第一代就擁有全球領先的性能;正是因為有飛天這一阿里自研的高性能雲計算平臺,含光800性能才可以在雲端被充分挖掘轉化為強勁算力;正是因為有雲計算這一強勢業務,含光800才可以不售賣晶片只售賣算力的方式商業化,「晶片即算力,算力即服務」。

阿里巴巴在雲計算上優勢已經確立,阿里雲穩居亞太第一;基於阿里豐富的應用場景和達摩院高端基礎技術的布局,阿里在AI技術上尤其是語音智能、語言技術、機器視覺、決策智能上正在構建優勢,平頭哥基於雲和AI的優勢迎頭直追。阿里已形成「一拖二」的技術戰略格局,雲計算領跑,AI和晶片齊頭並進,三者互相協同,你拉我帶。站在這樣的視角來看,阿里造芯成功有其必然性。

阿里造芯啟示錄

因為自研晶片成功而具備技術長板的例子很多,比如A系列處理器對iPhone的成功居功至偉,再比如麒麟處理器則讓華為成功走向了高端,因為缺乏自主晶片,在技術上體現出短板的公司不勝枚舉。晶片是計算的基礎,對科技公司至關重要,因此2018年以來科技巨頭都在造芯,不過現在看來最新一批「造芯新勢力」的領先者,是阿里平頭哥:

1、有了看得見摸得著的領先型產品,特別是玄鐵和含光;

2、有了全棧的晶片生態;

3、有了大規模的商用,含光已被應用到阿里核心業務並通過阿里雲以算力形式開放。

阿里造芯成功給行業的啟示是什麼?我認為有如下幾點:

1、晶片技術不是研發一個App,心血來潮是做不成的。

晶片技術門檻相當高,一年半載很難有什麼成就。表面上看,含光800是晶片研發領域的一個奇蹟,平頭哥只用7個月就完成了含光800的前端設計,之後僅了3個月就成功流片,一般公司往往要經歷兩次甚至多次流片才可能成功,平頭哥快速成功顯然不是因為「運氣好」,而是厚積薄發。

阿里十年來一直未曾擁有自己的晶片,日益複雜的阿里生態對計算提出的要求越來越高,然而工程師每天跟伺服器打交道時逐步發現,他們正在觸摸算力的邊界,就像當初決定去IOE以強化資料庫底層控制權一樣,阿里意識到一定要有自己的晶片,只有擁有自己的晶片才能擁有最極致的算力。

不過阿里沒有選擇蠻幹,而是步步為營,阿里先是投資寒武紀、深鑑和Barefoot Networks等多家晶片公司,再收購中國大陸唯一擁有自主嵌入式CPU IP Core的公司中天微,有媒體報導稱馬雲已投資中國大半個晶片圈,這一過程花了好些年。在投資收購晶片公司外,阿里2017年成立三年投資千億的基礎技術研究機構達摩院,人工智慧和晶片技術是其重點研究範疇。而在硬體層面,阿里在伺服器、FPGA以及存儲等領域擁有多年研發經驗,此外,平頭哥團隊在體系結構、編譯技術等領域擁有深厚的技術儲備。

在軟硬體上都打好底子後,阿里才正式宣布「造芯」。阿里造芯是深思熟慮的結果,是戰略選擇,不是心血來潮更不是要蹭熱點。

2、對的策略,對的戰術,對的時機。

不論是PC還是移動晶片,發展都已接近極限。五年前PC衰落,晶片「夠用了」很難再有升級動能,Intel大力轉型移動;Intel移動化尚未成功,手機市場又進入下滑周期,移動晶片「夠用了」,智慧型手機的瓶頸不再是計算性能,而是網速、續航和交互,ARM被軟銀收購,2019年第二財季高通營收下降4.6%,晶片巨頭都在尋找新的方向。「18個月性能翻番、成本減半」的摩爾定律,失效了。晶片產業的第三次浪潮是什麼?答案很清晰,就是AI以及AI拉動的IoT、5G等產業浪潮。

2018年是一個非常好的節點:AI普及的趨勢,對算力,對數據能力,對晶片都提出全新的要求,同時創造了大量新的應用場景,這意味著新玩家有新的機會,我們會看到平頭哥做玄鐵是瞄準的IoT,含光則是瞄準了機器視覺這一AI強相關場景,這都體現出差異化競爭的思路,而不是去做手機晶片這樣的毫無勝算的市場,現在再去做手機晶片意義不大了。

瞄準AI和IoT場景是戰術選擇,2018年入場是時機選擇,而在策略上,平頭哥沒有一上來就發布自己的晶片,在含光發布前先發布了處理器IP玄鐵710和SoC無劍平臺,循序漸進。對的策略、對的節奏,對的時機,促成了平頭哥的首戰告捷。

3、全新的普惠模式,是一種戰略選擇。

平頭哥是晶片公司的「新物種」,它不是要做一家賣晶片的公司,做晶片的目的是解決自己問題,再將其開放出來實現技術普惠,這是一種戰略選擇。

阿里巴巴業務場景日益複雜, 對算力提出更高的要求,搜索、推薦、視頻分析、城市大腦、金融科技等等AI場景,存量晶片已難以滿足,這是阿里自主造芯的初心。

不過,只是解決自己的問題是不夠的,就像阿里雲是將在阿里業務場景千錘百鍊的各種技術開放一樣,阿里造芯最終同樣會走普惠路線。

在雲棲大會上,阿里巴巴集團董事長兼CEO張勇在演講時提到一個說法:「如果說大數據是石油,算力就是發動機,它們共同構成面向數字經濟時代的核心能力。」他的邏輯是:當數據在數字經濟時代以幾何倍數增加,能夠與之協同的是同樣幾何倍增的強大算力,讓數據被高效使用。而阿里巴巴商業作業系統正成為數字經濟時代的基礎設施,在這一作業系統中,算力這一發動機要保持高速運轉的根本就是有強大的晶片。平頭哥成立的初心就是要讓算力普惠,不論是SoC和IP模式降低晶片設計門檻,還是在雲端將含光800的算力開放出來,均體現出這樣的理念。

這樣的理念促成了平頭哥獨特的競爭力。PC和移動晶片都是「巨頭+巨頭」模式,比如Intel與Windows的「Win-Tel」聯盟,再比如高通/聯華科與手機巨頭間的聯盟。然而到了IoT時代這樣的模式很難再奏效了,一方面,只要有能力,巨頭都想做自己的晶片;另一方面,AIoT市場一定是碎片化和強應用驅動的,一款晶片賣一年的做法很難再適應如此複雜的晶片需求,晶片一定會走向面向場景定製和基於軟體定義,晶片公司一時之間也難以再找到牽手的巨頭,這時候,平頭哥做晶片基礎設施「讓天下沒有難造的晶片」模式就生逢其時,雖然才面世一年就已展現出強大的生命力。

相關焦點

  • 阿里平頭哥,人狠話不多!
    哥不是在打架,就是在去打架的路上平頭哥對待異性總是各種不服(自帶主角光環,我還怕什麼?)與其它掠食動物不同的地方在於它總是不停的捕食以滿足自己不斷運動所消耗的能量,而其他的掠食動物往往在捕食一次之後進行休息。
  • 阿里造晶片,平頭哥的玄鐵910到底有多強?
    從這個意義上看,阿里平頭哥搞的玄鐵910意義重大,雖然它目前性能還很羸弱,但是萬裡長徵的第一步走出去了。三、 道路曲折,前途光明從歷史看,搞一個新的指令集不難,但是搞一個指令集,還要有競爭力就難了。在美國歷史上,一度所有的大IT公司都有自己的指令集,自己的處理器。
  • 阿里解讀平頭哥造芯,未來作業系統重點在於雲端
    「阿里和平頭哥做晶片,是有我們獨特的平頭哥模式的」,平頭哥半導體公司總經理、全球半導體聯盟諮詢委員會委員戚肖寧表示,「晶片就是需要很長的時間,也需要精力投入,在這方面需要積累。但是阿里巴巴做事情,會有我們新的做法,不會 follow 別人」。
  • 阿里平頭哥落戶上海是怎麼回事?為什麼叫平頭哥?
    今天,阿里平頭哥落戶上海的消息引發了眾多網友的關注,不過還是有部分網友對阿里平頭哥不是很了解,下文跟大家介紹平頭哥具體信息。 今年 9 月 19 日,阿里巴巴CTO張建峰宣布,將阿里在 4 月份收購的中天微與達摩院自研晶片業務進行整合,成立平頭哥半導體有限公司,推進雲端一體化的晶片布局。
  • 馬雲回應「平頭哥」:沒有平頭哥精神晶片怎麼能取得成功
    中興晶片事件以後,馬雲董明珠等一些企業家紛紛擔負起這份責任,開始投巨資造晶片。馬雲把阿里巴巴造晶片的機構被命名為「平頭哥」(社會我平頭哥,人狠話不多)。阿里總是格外鍾情於動物,比如天貓,螞蟻金服,盒馬鮮生,大魚平臺,菜鳥物流等等。至於為什麼要把晶片公司命名為平頭哥,馬雲說:平頭哥(蜜獾)和其他動物打架時從不退縮,不要說有多少人,不要說對方是什麼人,只要說時間和地點就可以了!
  • 平頭哥的首顆 AI 晶片對阿里雲來說意味著什麼
    「去年四五月份,阿里內部設立做晶片的目標並開始做PR的時候,我們實際上一行代碼都還沒寫,壓力非常大。」談及阿里首款AI晶片的誕生,阿里巴巴平頭哥半導體公司研究員驕暘對包括36氪在內的媒體說。9 月25日,平頭哥拿出了第一款AI晶片含光800。
  • 阿里平頭哥的野心:解決晶片卡脖子問題,讓天下沒有難做的晶片
    2018年,馬雲拍板,成立了一家晶片運營公司,叫做「平頭哥」,據說為什麼取這個名字,是因為平頭哥無所畏懼,而製造晶片需要這種無所畏懼的精神。而成立了平頭哥之後,阿里在晶片領域的動作非常頻繁,推出玄鐵910,推出含光800,無劍SoC平臺,近日又與全志科技達成戰略合作,推出國內首款全鏈路智能合約處理器。事實上,對於平頭哥而言,可不僅僅是製造晶片這麼簡單,平頭哥其實有一個大大的野心,那就是解決晶片卡脖子的問題,讓天下沒有難做的晶片。
  • 馬云為何堅持讓阿里晶片公司叫「平頭哥」?原來是有講究的
    並宣布成立一家獨立運營的晶片公司「平頭哥半導體有限公司」。張劍鋒在大會上表示:「希望通過自研的強大技術平臺和生態系統整合能力,推動國產自主晶片的產業化落地。」有趣的是,關於公司名他也解釋道:平頭哥的形象取自「世界上最無所畏懼的動物」蜜獾,希望這家公司學習「不怕」的精神,持續的負重前行。據悉,「平頭哥」和此前的「達摩院」一樣,都是由馬雲拍板決定的。
  • 阿里平頭哥晶片問世,命名玄鐵910,可以應用於5G
    2018年9月19日,阿里巴巴首席技術官張建鋒在雲棲大會上表示,阿里巴巴成立平頭哥半導體有限公司。現在這家公司公司也終於開花結果,於日前推出了第一款智能晶片—玄鐵910(XuanTie910)。阿里雲方面表示,玄鐵910推出的訴求是讓晶片能夠開源/開放,在後期面向全球開發者免費開放處理器的FPGA代碼下載,以快速促進晶片架構的升級。也就是說,晶片將不會是一個閉環,而將受益給全球各大企業,這也就是阿里的「「普惠晶片」計劃,確實有點平頭哥的作風。至於晶片的命名,則應該是來源於金庸武俠小說——玄鐵重劍。
  • 阿里的晶片公司為什麼叫「平頭哥」?有什麼來頭?
    今年杭州的2018雲棲大會上,阿里巴巴宣布成立了一個」平頭哥「半導體公司。由阿里此前收購的中天微公司和達摩院自研晶片業務整合而成。這家半導體公司名字就很奇葩,名喚「平頭哥」。大家十分好奇,「平頭哥」是誰?什麼來頭?怎麼就成了公司名字?
  • 前有「黃山1號」後有「平頭哥」,國內企業發力半導體是蹭熱度還是...
    讓大家吃驚的是,阿里巴巴在雲棲大會上宣布成立平頭哥半導體有限公司,讓業界一片譁然。尤其是對於「平頭哥」這個名字的來源,阿里更是講了一個漂亮的故事。網上甚至有人為平頭哥編了好些段子,」平頭白髮銀披風,非洲大地我最兇「」毒蛇當辣條,虎豹攆著竄「要麼你整死我,要麼我弄死你」。
  • 阿里成立「平頭哥」半導體公司 馬雲談命名:跟人打架從來不怕
    日前,在杭州雲棲大會上,阿里巴巴首席技術官張劍鋒正式宣布,成立晶片公司「平頭哥半導體有限公司」。阿里平頭哥將會主要打造面向汽車、家電、工業等領域的智聯網晶片平臺,計劃在2019年4月發布第一款AI神經網絡晶片,2-3年後打造出一款真正的量子晶片。
  • 阿里晶片公司取名「平頭哥」,人狠話不多
    今天在阿里巴巴雲棲大會上,阿里宣布成立平頭哥半導體有限公司。據商悟社了解,「平頭哥」這個名字是馬雲拍板決定的,這個名字其實最早事廣大網友為了稱讚「蜜罐」而起的暱稱,蜜罐的形象被認為是「世界上最無所畏懼的動物」,因其性格「人狠話不多」,什麼都敢懟,號稱動物界「扛把子」。
  • 曉風棋牌遊戲開發:棋牌行業能從霸氣的「平頭哥」身上學到什麼?
    「平頭哥」?是平頭的大哥嗎?不不不,最近平頭哥可火了,這不阿里就創辦了以平頭哥為名的半導體晶片公司,它可是動物界的槓把子,無所畏懼,勇於挑戰。以它為名無非是想讓企業具備像「平頭哥」一樣無所畏懼,敢於創新的精神,棋牌遊戲開發行業也不例外。那麼有人會問,棋牌遊戲開發行業跟這個「平頭哥」能搭上關係?
  • 阿里達摩院發布十大科技趨勢:模塊化讓造芯像搭積木一樣簡單
    國內的平頭哥、華為、百度、依圖、寒武紀等企業都發布了各自的AI專用晶片,國際晶片巨頭如英特爾等,也正積極布局AI晶片領域。在新的一年,達摩院也給出了新的行業發展動向:模塊化降低晶片設計門檻。他們認為,高科技產業中護城河最深、壁壘最厚的領域——造芯,要簡單起來了。這一斷言放出,瞬間便引起關注與熱議。
  • 馬雲開酒吧取名「HHB平頭哥」 平頭哥什麼意思名字由來介紹
    馬雲開酒吧取名「HHB平頭哥」 平頭哥什麼意思名字由來介紹 自從確認阿里巴巴繼承人之後,馬雲就一心搞「副業」,不但開搞教育事業,還開起了酒吧。
  • 明知故問|阿里巴巴旗下的半導體公司為什麼會取名「平頭哥」?
    7月25日,在上海站阿里雲峰會上,阿里巴巴集團副總裁戚肖寧宣布,阿里旗下的半導體公司「平頭哥」首顆高端智能晶片「玄鐵910」發布,據稱這是目前業界性能最強的一款 RISC-V 處理器。可用於設計製造高性能端上晶片,應用於 5G、人工智慧以及自動駕駛等領域。
  • 世界第一的平頭哥晶片含光800,正式商用
    來源:新浪眾測作者:爆侃數碼日前,在2020阿里雲線上峰會上,阿里雲發布了第七代高主頻雲伺服器ECS和含光800雲伺服器等產品,這標誌著阿里雲自研含光晶片正式大規模商業化。含光800是阿里巴巴平頭哥在2019杭州雲棲大會首日發布的首顆晶片,該晶片性能和能效比均為全球第一,一顆含光800的算力相當於10顆GPU,例如實時處理杭州主城區交通視頻,需要40顆傳統GPU,延時為300ms,使用含光800僅需4顆,延時降至150ms。
  • 阿里平頭哥推首款語音晶片!三核玄鐵架構,專為天貓精靈打造
    智東西9月25日杭州報導,在阿里2019雲棲大會下午的AI Labs分論壇上,阿里推出了兩款智能音箱——天貓精靈CC L、天貓精靈IN糖,並推出了天貓精靈聯合平頭哥打造的定製化語音晶片  聯合平頭哥,打造定製化語音晶片
  • 馬雲:平頭哥跟人打架無所畏懼
    首頁 > 動態 > 關鍵詞 > 馬雲最新資訊 > 正文 馬雲:平頭哥跟人打架無所畏懼