堅決不碰自動駕駛和雲,耐能的可重組架構AI晶片能在AIoT市場取勝?

AI晶片領域最近幾年迎來了許多新玩家，大部分初創公司都進入了終端AI晶片市場。在中國，自動駕駛和安防應用是最熱門的AI創業方向。2015年在美國成立的耐能表示不碰自動駕駛和雲端AI晶片市場，還在近日推出了物聯網專用AI SoC——KL520，從創業開始就非常看重盈利能力的耐能真的能贏得AIoT市場？可重組架構有何特色？

24小時不間斷開發的創業團隊

耐能創始人兼CEO劉峻誠創業前任職於高通的多媒體研發部門，也是因為在高通的工作經歷促使了他選擇創業。「其實高通早在2011年左右內部就在嘗試做終端AI的方向，我也參與其中，不過當時還看不太清楚具體的應用，因此當時在高通很難得到重視。我非常看好AI和NPU的潛力，最終決定離職創業，在2015年3月在聖地牙哥創立了耐能。」劉峻誠接受雷鋒網專訪時表示。

耐能創始人兼CEO劉峻誠

有意思的是，劉峻誠是和一群比他資深的專家創業。耐能COO是Milkyway Sillcon Technology前COO劉彥甫博士，CCO是高通前開發副總裁Adrian Ong，首席科學家是高通前多媒體研發總監李湘村，首席架構師是金蝶中間件前首席架構師袁紅崗，技術總監是曾長期任職于貝爾實驗室、三星研發部門的陳雲剛。

劉峻誠是靠什麼魅力吸引到多位資深專家的？劉峻誠表示：「我覺得能吸引到這麼多比我厲害的人加入耐能，最主要的是因為我們真的在做事情。」另外，據Adrian Ong的說法，因為耐能美國的辦公室就在高通的旁邊，加上雙方也有一些合作，他留意到在感恩節、聖誕節這樣美國的假期，耐能的辦公室晚上十一二點都是燈火通明，這讓他想起了剛加入高通時大家為一件事情一起打拼的感覺，最終選擇辭職加入耐能。

劉峻誠還特別介紹了耐能跨越的三個障礙讓他們有了另外三個特點。第一個特點是耐能在美國聖地牙哥、臺北、新竹、深圳、珠海兩大洲五地都有辦公司，美國的休息時間亞洲能夠繼續開發，亞洲的休息時間美國又可以繼續開發，因此他們可以進行24小時不間斷開發。另外一個特點就是由於團隊成員的年齡差別非常大，有時候想法不太一樣，這樣就需要跨越年齡的障礙，吵過架之後繼續攜手向前走。最後一個特點就是同時研發軟體和硬體帶來的技術障礙。

從單純賣IP到提供SoC的商業模式改變

雖然如今耐能已經能夠提供從IP、晶片到SoC的硬體產品及配套軟體，不過耐能切入AI市場的產品是自主研發的IP。IP在晶片行業相對而言是投資和風險都相對小的生意，對於AI晶片公司而言，自研IP能夠實現更加個性化的產品，滿足市場差異化的需求。

但並非所有AI晶片公司都擁有自研IP，這主要是因為不同公司的研發能力、商業模式以及技術的特點不同，所以可以看到完全自主研發IP、自主研發IP+使用第三方IP等方法。據介紹，耐能的IP屬於完全自主研發，由於聚集了大量專家，他們花了大概一年半的時間就推出了第一代IP，推出之後還在保持迭代。

去年9月，耐能發布了第二代IP，包括低功耗版KDP 320、標準版KDP 520、高效能版KDP 720。2019年的CES上，耐能展示了最新的3D AI解決方案，並宣布將會在第二季度推出智能物聯網AI SoC。

對於商業模式的改變，劉峻誠表示：「以IP的方式進入市場，是因為敬畏市場，而且我們公司的特點也是踏實做事。公司的目標都是儘快盈利，我們確實也在2017年通過銷售IP產生了營收。提供IP的風險確實比提供晶片小一些，因為不用投入大量的資金進行流片，但是毛利也低一些，同時由於不直接和晶片用戶對接，也會失去一些市場信息。其實從很早我們就想提供晶片，但是基於風險以及資金比較少的考慮，因此選擇先提供IP，當看到我們的IP變為產品，也了解一定的市場信息之後，才推出晶片。」

「我們的IP和晶片都獲得了市場不錯的反饋，但我認為一整套的方案才比較有競爭力。基於我們軟硬體一體的實力，我們最終在今年推出了SoC，這也會成為未來公司營收的主要來源。」劉峻誠進一步表示。

據雷鋒網了解，目前耐能已經與Cadence和Synopsys全球兩大IP提供商合作一起向第三方提供AI IP。那最新推出的SoC競爭力如何？

可重組架構晶片有何不同？

耐能最新推出的KL 520 SoC採用40nm工藝，神經網絡處理器算力最高可達345GOPS (300MHz) ，平均功耗500mW，並且搭配Arm Cortex-M4，既可以分擔主晶片的AI算力作為協處理器，對於輕量級的應用，也可以直接替代主控晶片。劉峻誠強調，AI晶片不能只看算力，成功的終端AI晶片應該同時具備算力、成本、功耗和兼容性的優勢。

最讓劉峻誠感到自豪的就是KL520極高的MAC利用率，據他介紹， KL 520針對ResNet50和GoogleNet的MAC利用率達到73%和74%，相比其它的AI晶片有3.15倍和1.71倍的提升。

另外，這款AI晶片能夠支持ONNX、Tensorflow、Keras、Caffe框架，採用Vgg16、Resnet、GoogleNet、YOLO等主流的CNN模型，在其獨特的壓縮技術下，壓縮精度的損失＜0.5%。

那麼，兼容主流框架和第三方算法帶來的複雜性是否會增加晶片的功耗？劉峻誠表示：「如果是傳統的架構，同時支持多種AI模型確實會帶來功耗的提升，但是我們的有非常獨特的可重組架構。」

所謂的可重組架構，可以理解為這款晶片提供的是一堆樂高積木，當需要支持語音AI的模型時就通過指令集進行組合，需要支持圖像AI模型時，再重新組合，可以很好地支持多種神經網絡模型，並且保持架構的精簡性。由此也就同時帶來了性能和功耗的優勢，更進一步，可以在與級別產品性能相同的情況下，選用更加成熟的工藝製程，降低成本，最終實現高性能、低成本、低功耗、高兼容性的優勢。

更深一層，可重組架構的優勢更本質的是解決了存儲的問題，提升MAC的利用率。劉峻誠透露，他們的巧思是實現了動態存儲DMA（Dynamic Memory Assessment），當處理器對存儲沒有很高的需求時，就預先準備好，當需要使用的時候就直接讀取，實現效率的提升。

不僅如此，可重組架構還能動態支持同一個神經網絡的不同數據精度需求。最終的產品可以根據客戶的需求，可以支持Int8、FP16以及更高的精度。另外，壓縮率也能夠控制在0.5%以內則是來源於耐能獨特的開放平臺，通過這個開放平臺能夠將壓縮率提升40甚至50倍，壓縮率損失則小於0.5%，這是軟體或者說軟硬一體優勢的體現。

耐能稱為可重組的架構研究已經在國際知名的半導體期刊上發布，並且在美國、臺灣都拿到了專利。據悉，如果想要設計AI晶片，有時候不太容易避開這些專利。

對於可重組架構與北京清微智能的可重構架構有何不同，如果繼續用樂高的類比來解釋，耐能的架構是積木層級的可重組，清微智能的可重構則是麵粉層級的可重組，更加底層。

能否搶佔AIoT市場？

既然可重組架構的晶片可以滿足從語音到視覺不同應用領域的需求，為何耐能更看好AIoT市場？劉峻誠表示，耐能堅決不碰自動駕駛市場，因為有車規的要求，想要進入車廠一般有四到五年的周期，這麼長的周期不太適合初創公司。安防行業想要通過晶片直接和海思、海康威視或大華競爭也不太現實，在安防行業我們會選擇以合作的方式。我們選擇AIoT市場，是因為看到了家電廠商使用我們IP的晶片已經量產，並且也確實看到了這個市場的需求。

「更具體地說，智能物聯網市場，包括掃地機器人、智能門鎖、智能家電等市場對於低成本低功耗高性能的AI晶片的需求，最終才慎重的推出智能物聯網專用的AI SoC。「他進一步表示。

但是，為什麼會選擇中端的IP率先推出SoC？劉峻誠表示，我們推出一款產品不希望是賠錢，低端的我們已經推出的是模組，也有了合作夥伴，比如奇景光電。高端的比較擔心市場的需求，因此推出SoC會更加謹慎。

耐能還有一個堅決不碰的就是雲端晶片。劉峻誠表示雲端最終比拼的是生態，很難與已經具備生態優勢的巨頭競爭。雖然終端市場的需求複雜多變，錯估一個產品就可能打垮公司，但同時這種每年變化帶來的營收增長的機會，耐能的團隊習慣了這種節奏，也能打硬仗。

不過，一款晶片即便性能再高，沒有出貨量最終也會歸於失敗。發布會上，大唐半導體研發部技術總監母大學表達了在智能門鎖產業安全問題日益明顯的當下對新款SoC的信心。奧比中光高級戰略BD總監彭勳祿也表達了對與耐能合作推動AI 3D行業發展的期待。

除此之外，格力、搜狗、鈺創科技、全科科技等公司都採用了耐能的IP或晶片。不過劉峻誠指出，還有更多的客戶出於不同的原因，包括手機領域、家電領域的廠商的客戶都不能公開，我們的產品需求比我們人力能支持的更多。

更值得一提的是，耐能有一個更高的願景，這也是他們希望能夠區別於其他終端AI晶片公司的特色——Edge AI Net，具備去中心化、多模輸入、離線本地處理、主動智能、算力共享的特點。

劉峻誠舉例表示，基於可重組晶片可以構建一個邊緣的特別的網絡，這個網絡的規則可以是使用者制定，比如在家庭中構建一個AI智能網，指定的規則是如果小孩靠近危險的物品，就做出相應的反饋，如果小孩靠近廚房，電飯煲就會斷電、燃氣灶不能打開，等等，這些都需要基於語音或視覺的可重組晶片，還能進行算力共享。

雷鋒網(公眾號：雷鋒網)小結

採訪劉峻誠的過程中，能夠很明顯的感受到他把公司踏實做事以及產生營收擺在了最重要的位置。從IP到SoC商業模式的變化，再到專用晶片推向市場，這種變化背後最重要的考量都是營收。同時，劉峻誠表示堅決不進入自動駕駛市場，反而選擇需求非常多樣的智能物聯網市場，原因除了可重組架構的帶來的技術優勢，還因為看到了市場的需求。堅決不碰雲端晶片市場是作為一家初創公司避開與巨頭正面競爭的考量。

通過了解耐能的發展，也能夠感受到這家聚集了多位前高通員工以及技術背景高管的初創公司的風格是很明顯的美國公司風格，成立四年多，一直保持低調，即便在2017年就產生了營收也並未過多渲染，而是直到有一些可以公開的成功案例，才選擇用實際的案例證明自己的實力，這並非是大部分初創公司會選擇的方式。

關於融資，劉峻誠在採訪中透露了他們今年會有一個比較大的規劃，目前還不能更進一步地探討。

耐能是一家團隊文化比較獨特的公司，不過更值得關注的是其可重組架構的技術特色，技術架構的優勢能夠最終轉化為產品的優勢。想要達到商業上最終的成功，有客戶購買產品產生營收是關鍵，我們已經看到了耐能的部分可公開用戶，這是邁向成功的關鍵一步。

AI晶片市場已經吸引了不少巨頭和初創公司的入局，2019年，在摩爾定律放緩的背景下，內存牆的問題更加明顯，同時，AI技術的進步以及資本寒冬讓AI晶片的落地更顯關鍵。CCF-GAIR 2019 AI晶片專場將邀請學術專家解讀AI晶片的發展趨勢，晶片產業鏈上的不同企業也將共同探討AI晶片發展的最新動態。詳情參見活動連結：https://gair.leiphone.com/gair/gair2019

相關文章：

耐能獲1800萬美元A1輪融資，曾投資Facebook的維港投資領投

雷鋒網原創文章，未經授權禁止轉載。詳情見轉載須知。