「含光」含著什麼樣的光?

2021-01-18 新浪科技

來源:PingWest品玩

一款高度通用和算力普惠的AI晶片。

2019年9月25日,在阿里巴巴的雲棲大會上,阿里旗下半導體公司平頭哥正式發布了第一顆自研晶片——含光800,這是繼玄鐵和無劍之後阿里在晶片領域的又一重大布局。

一組數據表明,含光800的發布標誌著AI晶片性能史再度被改寫。在業界標準的ResNet-50測試中,含光800推理性能達到78563 IPS,比目前業界最好的AI晶片性能高4倍;能效比500 IPS/W,是第二名的3.3倍。

同時,對比公開數據(針對ResNet50模型一秒能夠處理圖片的數量)得知,含光800展現的性能是是NVIDIA Tesla V100的10倍,NVIDIA Tesla T4的15倍,是應用最廣的NVIDIA Tesla P4的46倍。

不過,阿里巴巴方面表示,「含光800並不會售賣,旨在通過阿里AI雲服務提供算力,可以看作『雲端售賣』。平頭哥致力於做普惠晶片,無劍SoC平臺和玄鐵處理器IP來幫助企業降低晶片設計門檻;含光800通過阿里雲AI雲服務的形式讓企業隨時隨地可以享受高性能計算服務。」

含光800的發布標誌著平頭哥端雲一體全棧產品系列初步成型,其涵蓋處理器IP、一站式晶片設計平臺、以及AI晶片,實現了晶片設計鏈路的全覆蓋。

「在全球晶片領域,阿里巴巴是一個新人,玄鐵和含光800是平頭哥的萬裡長徵第一步,我們還有很長的路要走」,達摩院院長張建鋒這樣評價。

「無形卻強勁」的算力

「平頭哥很硬,含光很強」,這句話從命名方式便顯露無疑。

平頭哥,本名蜜罐,原本是生活在非洲等地區的一種動物,被金氏世界紀錄譽為「世界上最無所畏懼的動物」,其「不要慫就是幹」的性格被馬雲一眼相中,從此平頭哥便成為了阿里晶片公司的代名詞。

而含光則是上古三大神劍之一,該劍含而不露,光而不耀,代表著含光800帶來的無形卻強勁的算力。

含光800採用12nm工藝,擁有170萬電晶體數量,推理性能達78563 IPS,比目前業界最好的AI晶片性能高4倍;能效比500 IPS/W,是第二名的3.3倍,主要應用於雲端視覺處理場景,能夠在1秒內處理7.8萬張圖片。

在杭州城市大腦的業務測試中,1顆含光800的算力相當於10顆GPU,這對於未來智慧城市交通等AI應用落地場景來說,無疑是巨大的源動力。

據悉,平頭哥在非常短的時間內便完成了晶片的設計和流片整個過程,7個月完成前端設計,隨後僅用3個月便成功流片。

要知道晶片設計是一個複雜的系統工程,單純完成設計並不意味著就可以流片成功,這是行業的深水區。而流片失敗就意味著硬體設計需要推倒重來,這比軟體出BUG問題更加嚴重。一般晶片公司需要做兩次(engineering sample、production sample)或多次才能流片成功。

然而,流片成功也並不代表就可以直接商用了,它還需要經過複雜的測試驗證,當各項指標都符合實際場景需求後才能真正商用。

PingWest品玩了解到,平頭哥之所以能夠如此快速研發出如此高性能的AI晶片,可以總結為以下兩方面。

第一,相比基於馮諾依曼結構的傳統通用處理器(比如x86 CPU和GPU),針對某種特定的需求而專門定製的ASIC架構NPU專用加速器對於應用場景更具有針對性。

針對特定場景和算法的定製意味著執行特定算法時能獲得更高的效率和性能,然而這種較為單一的算法也同時意味著打造AI晶片理論上要比打造傳統CPU和GPU門檻低得多,但這並不意味著每個晶片廠商都能像平頭哥一樣做到最強。

目前,市面上很多ASIC架構NPU通常只在非常明確的場景下才能夠表現優異,而在場景的遷移性和算法通用性方面大打折扣。

相比之下,含光800不僅實現了同時兼容海量的圖像搜索、城市大腦領域的視頻識別、以及智慧醫療領域的醫療影像識別等不同計算需求環境,還針對這些豐富的場景挖掘出了極大的計算優化潛能。

值得一提的是,傳統半導體巨頭打造AI晶片,會有開發者生態的包袱,但平頭哥團隊目標專一,即實現最強算力,把硬體能力完全釋放。

第二,儘管這是阿里平頭哥的第一款自主研發的晶片,但是事實上平頭哥研發晶片並非從0開始。

「在阿里達摩院的算法以及阿里巴巴集團硬體基礎設施多年技術沉澱之上,含光800重構了晶片的軟硬體技術棧」,阿里巴巴方面介紹。

「AI晶片的差異化設計主要體現在硬體架構和軟體算法上,二者需要高度適配才能發揮晶片的最大價值」,有業內分析人士指出。

「目前,傳統CPU、GPU在深度學習推理任務上並沒有完全發揮硬體能力,例如GPU架構主要針對圖像處理設計,其硬體結構和軟體生態幾乎固化,因此對AI任務很難有深度優化。」

PingWest品玩發現,含光800的性能突破便是得益於軟硬體的協同創新,突破了硬體架構和軟體算法之間的鴻溝。

具體來看,含光800硬體層面採用自研晶片架構,通過推理加速等技術有效解決晶片性能瓶頸問題;軟體層面則集成了達摩院先進算法,針對CNN及視覺類算法深度優化計算、存儲密度,可實現大網絡模型在一顆NPU上完成計算。

以晶片能耗為例,能耗是AI晶片的行業通病,而平頭哥自研架構可大幅減少對內存的訪問,在保證極致性能的情況下,把晶片功耗降到最低水平。

平頭哥首席科學家、阿里巴巴高級研究員元尊則將平頭哥研發AI晶片的具體優勢歸結為「ABCDE」五方面,即Algorithm 算法、Big Data 大數據、Computing 安全穩定的計算力、Domain knowledge 專業領域知識、以及Ecosystem 生態。

「擁有ABCDE的阿里,比只有C的其他晶片公司,自然更容易更快速站上AI晶片C位」,元尊坦言。

已應用於阿里核心業務

對於阿里AI生態而言,含光800絕不是單純的做晶片,而是為全球排名前三、亞太排名第一的阿里雲提供強大的算力支持,以滿足阿里巴巴集團內部場景的需求,同時含光800也將利用阿里雲對外(企業)輸出其強大的AI算力。

據悉,基於含光800的AI雲服務在發布會當天便正式上線,相比傳統GPU算力,含光800性價比提升100%。

根據云棲大會的現場演示,含光800已經開始應用於阿里巴巴的內部核心業務中,比如城市大腦處理杭州主城區交通視頻、拍立淘商品庫圖片識別、以及優酷視頻修復和分析等。

PingWest品玩了解到,如果使用傳統GPU,城市大腦實時處理杭州主城區交通視頻所需GPU數量約為40顆,延時為300ms;而如果使用含光800,則只需4顆,同時延時降至150ms。

另一方面,阿里電商平臺拍立淘商品庫每天會新增10億商品圖片,如果使用傳統GPU,其識別時間需要1小時;而如果使用含光800,則只需5分鐘,效率提升12倍。

未來,含光800的算力也將滲透至醫療、自動駕駛、智慧城市等各個垂直行業。

含光800將幫助企業以更低的成本獲取高性能算力,推動企業業務創新。對於受限於算力瓶頸的企業而言,含光800可以更高效地運行更複雜、更先進的算法,讓企業再也不會為基礎算力發愁。

PingWest品玩獲悉,為了給應用場景提供更好的算力晶片,平頭哥團隊在過去一年做了很多事情,不斷探索晶片與應用場景之間的融合。

作為全球涉足AI應用最豐富的科技廠商之一,阿里巴巴擁有豐富的AI應用場景,圖像視頻分析、搜索、推薦等業務場景都需要AI專用晶片提供更強大的算力,其中圖像、視頻對算力的需求量最大。

圍繞這一目標,平頭哥針對場景深度定製了晶片的軟硬體,例如自研了架構、軟體編譯器、框架、工具鏈等。

同時,後期也針對INT8數據類型做了大量優化,最終在性能、良率、功耗等指標上均表現良好。

算力也要普惠

含光800的發布標誌著阿里巴巴計算版圖中鐵三角的正式形成,AI+晶片+雲計算將幫助阿里在未來AI行業應用落地奠定夯實的基礎,而這對於阿里來說只是一個開始。

PingWest品玩了解到,作為AI行業的領軍企業,阿里目前正在打造完善的行業生態和開發者生態。

在雲端,全球排名前三、亞太排名第一的阿里云為平頭哥服務企業提供了絕佳平臺,未來企業可以通過阿里雲輕鬆獲取含光800的強悍算力。

在端側,平頭哥已擁有成熟的生態體系, CK801、CK802、CK803、CK805、CK807、CK810、CK860等7款自研嵌入式CPU IP核均已得到大規模量產的驗證,授權客戶超100家,累計銷售超十億顆,廣泛應用於機器視覺、工業控制、車載終端、移動通信和信息安全等領域。

此外,基於RISC-V架構的玄鐵處理器以及無劍SoC平臺也已服務各行業企業,例如人工智慧企業雲天勵飛和老牌晶片商炬芯科技等。

另一方面,平頭哥還將成立晶片開放社區,進一步為晶片產業提供開放協作的平臺。

同時,隨著含光800的發布,平頭哥端雲一體全棧晶片產品家族也已初現雛形,實現了晶片設計鏈路的全覆蓋。

其中基礎單元處理器IP,C-Sky系列、玄鐵系列為AIoT終端晶片提供高性價比IP;一站式晶片設計平臺無劍SoC平臺集成CPU、GPU、NPU等,降低晶片設計門檻;而AI晶片含光800則通過AI雲服務為人工智慧場景提供極致算力。

這三大產品系列將構建端雲一體的晶片生態,將會為企業提供普惠算力。

PingWest品玩了解到,在AIoT時代,由於強應用驅動和場景碎片化等特點,晶片公司按照傳統方式設計晶片很難適應未來的需求,平頭哥希望通過端雲一體晶片生態為行業提供普惠算力。

AIoT場景需要新的計算架構,需要安全、在線和智能等新特性,所有晶片都在面臨升級,這必將在晶片行業引起一波全新技術革命和產業浪潮。

不同於絕大多數晶片商,平頭哥研發晶片的目的絕非賣晶片,而延續了阿里巴巴集團「讓天下沒有難做生意」的願景,開闢了全新的商業模式——平頭哥模式,致力於為企業提供普惠算力,成為了阿里巴巴獨具特色的商業模式。

目前,平頭哥還在研發應用於阿里雲神龍伺服器的SoC專用晶片,以滿足更多場景的算力需求。未來,平頭哥晶片產品形態還將進一步完善,例如雲上AI訓練晶片和端上AI推理晶片。

「阿里在晶片上的定位是端上做晶片基礎設施,雲上為企業提供普惠算力。例如,處理器是所有高端系統晶片都需要的基礎產品,AI晶片是AI場景最高效的算力單元,阿里將投入重金打造好這些技術,同時構建應用生態」,阿里方面告訴PingWest品玩。

「此外,平頭哥還將繼續開發作業系統、軟硬體融合的算法、以及核心的IP等,並把這些共性的技術能夠做好做精做出競爭力,並形成生態,然後開放給晶片廠商設計產品,讓他們基於高質量的基礎設施打造晶片產品,有助於提升整體的產業競爭力」,阿里隨即補充道。

相關焦點

  • 含而不露,光而不耀,低調的80後投資人田含光
    比業界最好的AI晶片性能高4倍,1顆含光800的算力相當於10顆GPU,能夠在1秒內處理7.8萬張圖片,對於未來智慧城市交通等AI應用落地場景來說,無疑是巨大的源動力。消息一出,震驚海內外。2019阿里巴巴雲棲大會但是有一個人,一位80後低調的投資人,絲毫沒有感到意外,流露出會心的微笑,他就是田含光先生,他早期參與該晶片的投資,而後轉手阿里後,唯一堅持的條件之一,就是未來的晶片要以「含光」命名。
  • 許含光 | 思緒藏在海草裡蕩漾
    Part. 1 瞬息萬變是當下 許含光有著歌者的勇敢和灑脫,也有著詩人的氣質和文採,他在不斷沉澱和提煉自己的旅途中踽踽獨行,逐漸走入了我們的視野。許含光說,在第一張專輯之後「人生有非常劇烈的轉變」,除了音樂方面的發片和巡演之外,也經歷了很多的事情。他覺得,這些經歷會讓自己「更知道自己是什麼樣的形狀,也更了解自己怎樣可以更舒適地跟世界去講話。」
  • 暖暖內含光
    暖暖內含光
  • 秦時明月:含光隱藏的劍招能否創傷六劍奴?顏路實力逐步揭曉
    顏路的佩劍含光一出,四座皆驚。這是一把奇特的劍,視之不可見,運之不知其所觸,泯然無際。是《列子,湯問》中所提及的孔周三劍之一,其餘兩劍分別為承影和宵練。這三柄利劍根據劍道心性的不同分為下品宵練、中品承影,而顏路所執掌的含光則位列上品。越是高等的劍越是無形,越是至強的劍客越是無劍。顏路顯然達到了這種境界,不以劍為兇器,進退飄忽,揮灑自如,以一種平和的心態面對充滿嗜血和殺戮的巨闕劍。
  • 許含光:藏不住的詩意,又帶著些許霸道的狂野
    值得一提的是許含光的微笑,如同春風化雨,潤物無聲。糟了,是心動的感覺沒錯了!許含光的光,似乎不是陽光,也不是月光,更像是晴朗夜空裡的點點星光。「我借了的沙,熟記海的顏色,應當在水邊,在我倆之間……下次我們要再去踩沙,輕輕的緩緩的,留下壓深的腳印……但有你在身邊就快樂」詩意中又帶著點點狂野,這就是許含光本光啦~
  • 許含光 | 樂評裡的美好時刻
    天啊 怎麼會有許含光這麼好看的男孩子啊 ——葵己年我想偷偷把你藏起來,可你是光啊——少女吃掉白日夢「你知道深愛一個人是什麼感覺嗎」「就像房間裡黑了你不是先去找燈,而是先去找他。」——joe-kkk聽見斑駁,看見樹影。
  • 《含光君寵羨記121》為了心之所向,雅正的含光君摔了一身汙泥
    「含光君?你是含光君?」門人驚叫一聲,這簡直是天下奇觀,自他有生之年從未見過雅正的含光君有過一絲一毫的不雅正。而眼前的含光君簡直是狼狽不堪,渾身汙泥,腿有血跡,難怪他認不出來。門人通報一聲:「魏先生,含光君回來了。」魏無羨轉過頭來,手裡拈著桂花糕看著門口那個人,傻了眼,張大了嘴巴。下一秒,他扔掉了桂花糕撐起身子直撲向門口,誰知腳下一軟人倒了下去。藍忘機衝了過來想扶住他,誰知左腿一陣劇痛,自己也倒了下去。
  • 《明日之子》許含光:逃避雖可恥但有用
    因為太喜歡許含光,所以害怕自己的倉促誤解了他。一直想再慎重,再慎重,再多了解他一些。卻發現如果再不動筆,他可能就會成為一片遺落的月光,時常記起,又時常模糊不清。第一季的《明日之子》我並沒有看,也並非其粉絲。只不過後知後覺地知道了毛不易,聽了他的歌,看了他的綜藝,對這個節目有些好奇。所以第二季一開播,我便心心念念。
  • 《明日之子2》蔡維澤+許含光:讓indie的音樂態度成為主流
    無論如何,要「維」持自己身上的光「澤」,要繼續保守曖曖內「含光」的赤子之心,到底都不容易。,早在參加這個節目之前,就曾經大讚許含光的音樂:「無意之間,聽見了他的聲音,像是被綁架一般,踏上了無法停止的旅程……聽許含光的歌一定要小心,那其中曖曖,卻異常透明。」
  • Hi 許含光同學,我只想記得你不火的樣子
    我相信青峰的才華和品味,也相信他力推的像一片新誕生的太陽系的許含光。儘管在選新手站的時候,一首民謠風的Midori作為開場似乎遠不及一個太陽系的能量,這種力推像是一種裙帶關係。演唱讓的時候,更像是一種隆重謝幕,他說,在這個舞臺,希望能找到屬於他的,屬於我們的,極致的光。他找到了他的光,明了了自己想要做的事情。再走下去,只是別人的遊戲。
  • 窗含西嶺千秋雪的「窗」是什麼樣?
    「窗含西嶺千秋雪」不僅是詩意描述,2020年1月- 6月,大成都範圍內37次開門見山,讓詩歌變成了肉眼可見的真實。良好天氣,每每觀賞拍攝到雪山勝景,都會刷爆成都人的朋友圈。畢竟杜甫那個時候,沒有高樓大廈遮擋,空氣品質也不錯,看西嶺雪山可能是比較容易的事情。
  • 《陳情續189》魏無羨記在心上的事,含光君知道
    魏無羨一把抓住含光君,詫異地看著他。這明明是自己的夢,含光君怎麼會連細節都知道。「藍湛,難道……你也看見他了?」「是,看上去是剛剛幻化出來時的樣子。」魏無羨垂下眼帘,陷入沉思中。可是含光君也入了夢,這就說明此事不簡單。這夜,魏無羨再也無法入睡,兩個人都打坐看異象。第二日山下的村民上來求助,離雲深不知處不遠的地方出現異動,含光君陪著魏無羨下山去。以往,魏無羨喜歡夜獵,尤其是跟含光君在一起,無論去哪裡都很快樂。
  • 在涅貴不淄 曖曖內含光
    暖暖內含光第一次《暖暖內含光》的時候,就重逢和遇見就在心中埋下了深刻的印象
  • 超犀利趴10 | 8/3、4 讓我們手牽手到南港,一起去看許含光~
    🦖 超犀利趴10 - 8/3 SUMMER STAGE - 許含光 🦖惡世代裡如『光』般燦爛的詩意新世代迷幻音樂詩人
  • 西北工業大學附屬中學含光校區正式掛牌
    6月12日下午,西北工業大學附屬中學含光校區掛牌,標誌著西工大附中「一長多校」委託管理含光中學正式落地實施。碑林區委書記劉其智,西北工業大學黨委常委、副校長楊益新,區委常委、常務副區長王宏聯,區委辦公室主任張博,區教育局黨委書記、局長馮潔及班子成員,西北工業大學附屬中學校長王永智及班子成員,西安市含光中學全體班子成員及教職工代表共同出席了揭牌儀式。揭牌儀式由區教育局黨委書記、局長馮潔主持,區教育局、西北工業大學附屬中學、西安市含光中學籤訂了委託管理三方協議。
  • 魔道祖師:含光君誇羨羨是美男子,魏嬰小臉通紅,網友調侃喝酒了
    羨羨看到走屍跑了,轉頭就對藍湛拍馬屁,一邊鼓掌一邊說:「含光君好厲害啊,光是站著就能震懾走屍」,這賣乖小表情,讓藍湛心情變得很好。不過走屍會被嚇逃跑,並不是因為怕含光君,而是走屍感應到,重生後的羨羨,就是13年前的夷陵老祖,所以才會嚇跑掉的。
  • 《含光君寵羨記141》含光君昏迷不醒,你是否給他發個傳訊報平安
    藍思追發了個傳訊:「魏前輩,含光君都瘦了,你回來看看他吧!」藍景儀也發一個傳訊:「魏前輩,你這樣很不對哦,含光君對你那麼好,他病倒了你也不來看看他?」魏無羨接到他們兩人的傳訊,心頭如撕裂般的痛。他如一隻困獸在房間裡轉來轉去,覺得還是不行,他一下衝出房門路到校場拼命的跑。魏無羨不知道跑了幾圈,終於累了,直接躺到校場上,一動不動。
  • 雲深小劇場:含光君居然誇我們了!
    對於思追、景儀他們來說,今天絕對是玄幻的一天,因為,含光君居然誇了他們!以前,不論他們在夜獵、聽學中表現得再好,得到了藍老先生和澤蕪君的誇獎,卻從未得到含光君的誇獎過,這真真是玄幻至極啊!「含光君,這是這次參加夜獵的門生的夜獵筆記,呈交上來給含光君批閱。」思追答道。「放下吧。」思追和景儀放下筆記後,正欲離開靜室,不料二哥哥叫住了他們。「你們此次夜獵發生了什麼?」
  • 「陳情令番外」醉夢96:含光君一反常態,練功時間要求弟子講故事
    藍景儀終於會意,硬著頭皮走到藍忘機跟前,垂手而立,輕聲喚道:「含光君。」「何事?」啊?含光君此話何意?難不成未聽到我方才在外面說的話?不應該啊。藍景儀一時語塞,剛剛在心裡飛速準備好的認錯說辭似乎派不上用場了,怎麼辦?「魏前輩去哪了?」
  • 《陳情續238》含光君閉關,魏無羨默然不語
    含光君站在父親青蘅君曾經的居所外觀望,滿目枯草積雪,荒蕪蒼涼。這地方弟子們會按時過來打掃,掃除表面的塵埃,永遠除不掉刻畫在史冊裡的一世孤寂。藍氏情種,以痴情鑄造的孤獨感只有一人可解,而那個人事出有因,沒能伴其左右。世事無常,身在紅塵中,註定身不由己,情不由衷。