NPU時代來臨,瑞芯微AI晶片與Paddle Lite完成適配

2020-12-17 電子發燒友

NPU時代來臨，瑞芯微AI晶片與Paddle Lite完成適配

一鳴 發表於 2020-06-01 17:12:17

5月13日，百度飛槳開源深度學習平臺與瑞芯微Rockchip旗下AI晶片RK1808、RK1806正式完成適配，充分兼容飛槳輕量化推理引擎Paddle Lite。此次百度與瑞芯微的合作，旨在為AI行業賦能更多應用場景，加速AI產品落地進程。

在AI時代，深度學習框架和作業系統類似，起著承上啟下的作用，連接晶片與應用。擁有強大算力的AI晶片加持，AI技術將得到更廣泛普及。

NPU時代來臨軟硬結合性能優化

飛槳產業級深度學習開源平臺以百度多年的深度學習技術研究和產業應用為基礎，集深度學習核心訓練和預測框架、基礎模型庫、端到端開發套件、工具組件和服務平臺於一體，2016年正式開源，是中國極具影響力的全面開源開放、技術領先、功能完備的產業級深度學習平臺。Paddle Lite是飛槳推出的一套功能完善、易用性強且性能卓越的輕量化推理引擎，支持多種硬體、多種平臺，具備輕量化部署、高性能實現等重要特性。

瑞芯微RK18xx系列晶片適配Paddle Lite

瑞芯微AI晶片RK1808及RK1806，內置獨立NPU神經計算單元，INT8 算力高達3.0TOPs；採用22nm FD-SOI工藝，相同性能下的功耗相比主流28nm工藝產品降低約30%，在算力、性能、功耗等指標上均有優異的表現。經實測，瑞芯微AI晶片在Paddle Lite中運行MobileNet V1耗時僅為6.5 ms，幀率高達153.8 FPS，二者充分兼容並高效穩定運行。

如下圖所示的實測結果可以看出，與手機等移動端常用的國內外主流CPU相比，RK18系列NPU在MobileNET_v1的耗時表現出色，由此證明在AI相關領域，如圖像分類、目標檢測、語音交互上，專用的AI晶片將帶來更出色的效果。

瑞芯微RK18xx系列晶片在 MobileNETV1上對比主流CPU 性能卓越

通過適配飛槳開源深度學習平臺，瑞芯微晶片將能更好地賦能國內用戶的業務需求，為端側AI提供強勁算力；二者的融合，將充分發揮軟硬體結合的優勢，加快開發部署速度，推動更多AI應用的落地。

國產芯合作升級實操教程詳解

在飛槳上，瑞芯微AI晶片的詳細操作方法可參考Paddle Lite文檔，內容涵蓋支持的晶片、設備列表、Paddle模型與算子及參考示例演示等等。

測試設備

此外，除RK1808及RK1806晶片解決方案外，瑞芯微旗下搭載NPU的AI系列晶片也將陸續升級適配百度飛槳，進一步深化雙方合作關係，攜手助力我國自主可控AI生態的構建。

責任編輯：pj

打開APP閱讀更多精彩內容

聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容圖片侵權或者其他問題，請聯繫本站作侵刪。 侵權投訴

相關焦點

  • 2019年瑞芯微AI晶片三大應用場景盤點
    以上三種場景的爆發性增長就帶來了相關邊緣端AI晶片的需求。而從目前看來，以上場景的需求在未來幾年將會持續攀升，如何打造滿足現在及未來需求的AI晶片，就成為企業必須緊跟的目標。而國內的晶片供應商福州瑞芯微電子（簡稱「瑞芯微」）正是當中的先行者。
  • AI戰「疫」:百度開源業界首個口罩人臉檢測及分類模型
    同時，它做到了模型的極致輕量化，可在大部分端邊雲設備上實現實時處理（海思 3559 晶片耗時僅需 17ms）。百度也將持續更新這一模型，不斷提升效果。百度表示，如此高的準確率是大量數據訓練的結果，新模型採用了超過十萬張圖片的訓練數據，確保樣本量足夠且有效。
  • PaddlePaddle深度學習開源平臺:等待眾人划槳的中國AI大船
    回首這十年，人工智慧可以說經歷了從刀耕火種時代到第二次工業革命這樣的巨變，而我們也正站在新的黎明之前。 一、 PaddlePaddle是什麼 我們說了很多歷史，也提到了一些舞臺上正興的機器學習平臺，而這篇文字，是想介紹一下一個新的選擇：來自百度的paddlepaddle。
  • 深度學習CPU加速方案,飛槳全流程開發工具PaddleX 打通OpenVINO...
    而PaddleX 是飛槳產品矩陣中的一個重要工具組件，它提供了一套極其易用的開發方案，使開發者可以快速完成多種計算機視覺算法的開發、優化、並實現高效部署上線。　　隨著飛槳與英特爾合作的持續深化，支持適配的算法及加速性能將會進一步提升。　　那麼OpenVINO到底是什麼?又為什麼可以提升飛槳的模型性能呢?下面逐一為您解答。
  • 模型壓縮高達75%,推理速度超20%,Paddle Lite v2.3正式發布
    當有人經過閘機時，可以在0.1-0.3秒內完成人臉實時跟蹤，並在0.2秒內完成高安全性的靜默活體檢測及人臉比對，如此高效的響應速度，你知道是怎麼做到的嗎？目前深度學習在各個領域輕鬆碾壓傳統算法，不過真正用到實際項目中卻面臨兩大問題：計算量巨大；模型佔用很高的內存（深度學習模型可能會高達幾百M）。
  • 築造AI抗疫防線,百度開源業內首個口罩人臉檢測及分類模型
    廣大開發者和企業廠商可通過免費開源的AI模型，快速完成軟體開發，為打贏疫情阻擊戰貢獻科技力量！（模型可視化效果，綠框為佩戴口罩的標註，紅框為未佩戴口罩的標註）隨著本周各企業相繼復工，節後經濟開始逐漸恢復，人臉口罩檢測方案成為返工潮中眾多社區、大型廠商、央企的重要需求。
  • 深度學習與PaddlePaddle的應用-個性化推薦
    迭代公式如下：待目標函數收斂時，迭代完成，（0⑴即為推薦系統的期望輸出（用戶）給電影的評分）。 在上述兩種推薦方法中通過學習得到的特徵矩陣^包含了電影的重要數據信息，有時這些信息隱含著某些不易被人讀 懂的屬性和關係，但是依然需要把特徵矩陣^作為重要的電影推薦依據。
  • PaddlePaddle 2.0.0 Beta 發布,API 體系升級,命令式編程完善
    以下為一些特殊的別名關係，推薦使用左邊的名稱： paddle.sigmoid -> paddle.tensor.sigmoid -> paddle.nn.functional.sigmoid paddle.tanh -> paddle.tensor.tanh -> paddle.nn.functional.tanh paddle.remainder -> paddle.mod
  • 飛槳框架高層API,一起輕鬆玩轉AI
    另：文末有福利，一定要看完呦~高層 API，What深度學習作為人工智慧時代的核心技術，近年來無論學術、還是工業領域，均發揮著愈加重要的作用。然而，深度學習理論太難學，開發過程太複雜，又將許多人拒之於深度學習的門外。
  • 七夕節脫單「神助攻」,AI教你寫情話
    我這就把連結交出來，大家快來我們PaddleHub官網上體驗吧：https://www.paddlepaddle.org.cn/hub/scene/aiwriting這是怎麼做到的？這樣炸裂效果的背後，離不開頂尖的ERNIE-GEN 算法加持，什麼？不知道ERNIE-GEN？
  • CAXA CAD/PLM與一銘完成全國產適配
    近日，CAXA CAD電子圖板2020、CAXA PLM協同管理2020分別與一銘桌面作業系統4.0和一銘伺服器作業系統V7.0完成了兼容性互認證。國產應用生態正在步入「無處不在」的活躍時代，此次，CAXA與國產作業系統供應商一銘軟體完成兼容互認證，一方面，加速推進國產應用生態建設日趨完善；另一方面，CAXA積極為用戶提供全國產應用環境下，好用易用、自主可控、持續升級的國產工業軟體產品。
  • 谷歌用AI設計AI晶片,不到24小時設計出Tensor處理單元
    但問題在於，晶片的設計通常需要花費一兩年甚至三五年時間，並且機器學習（ML）算法的發展速度非常快，這麼長的晶片設計周期難以滿足算法更新的需求。理想情況下，你設計出的晶片是能夠很好地滿足當今AI算法的需求，而不是兩到五年前的AI算法。而Google的解決方案是——讓AI設計AI晶片。
  • 公司旗下核心產品已完成國內主要CPU和作業系統廠商適配|顯控|晶片...
    公司於12月10日接待29家機構調研，公司主要從事高可靠電子產品的研發、生產和銷售，產品主要涉及圖形顯控領域、小型專用化雷達領域、晶片領域和其他。在公司業務結構中，圖形顯控是公司現有核心業務，也是傳統優勢業務，小型專用化雷達和晶片領域具有廣闊的發展空間。
  • AI+VSLAM視覺技術 瑞芯微助力第四代掃地機器人升級
    其中，旗艦級RK3399 晶片採用AI+VSLAM定位導航技術，RV1108 及RK3326 支持VSLAM圖像視覺定位導航技術，RK3308 可實現主流雷射導航技術。        採用第四代導航技術的RK3399 在CPU/GPU晶片上，基於視覺識別技術和AI算法，打破原有VSLAM技術對光線條件依賴的局限，不僅可應用於弱光、弱紋理、強光等光線複雜室內場景，更可智能識別室內百種圖像物體、分類記錄、視覺測距和避障，規劃最佳清掃路徑。在人機對話，語音交互方面，支持多麥陣列、遠場語音控制，掃地、拖地都可通過語音控制完成，並且可支持雙目視覺算法。
  • 瑞芯微董事高松濤辭職 因個人工作崗位調動原因
    來源：挖貝網挖貝網3月19日消息，近日瑞芯微（603893）董事會於2020年3月18日收到公司董事高松濤的書面辭職報告。公司將按照相關法律、法規及《公司章程》的規定，儘快完成補選董事、戰略委員會委員的工作，並及時履行信息披露義務。瑞芯微表示高松濤擔任公司董事及戰略委員會委員期間勤勉盡責，為公司的健康發展發揮了積極的作用。在此，公司及董事會對高松濤在任職期間為公司發展所作的貢獻表示衷心的感謝！
  • Adobe Lightroom 已適配蘋果 M1 晶片
    隨著蘋果 M1 晶片的推出，大量 macOS 系統軟體都相繼更新了適配 ARM 架構處理器的版本。畢竟 macOS Big Sur 提供的 Rosetta 2 雖然能夠運行 x86-64 代碼，但是其效率還是要比原生要差一些。
  • PaddleFluid與Kaggle 貓狗大戰
    (        paddle.reader.shuffle(            train_reader, buf_size=5120),        batch_size=args.batch_size        )    batched_test_reader = paddle.batch(
  • 南卡NANK lite Pro 青春再升級音樂響不停
    熟悉的南卡又帶來新作，NANK lite Pro ，明顯這是NANK lite 的升級版。而本次升級為我們帶來哪些升級呢？雖然藍牙晶片還是高通3040晶片，但是將藍牙模塊升級到了5.2，加上陶瓷天線的使用，帶來更遠距離穩定的連接。抗幹擾能力也大大增強。陶瓷天線的使用再也不會有氧化的問題。
  • 身輕音好續航久,南卡Lite Pro真無線耳機評測
    整體設計落落大方，與南卡lite還是有較大區別，也便於區分。南卡lite Pro充電倉開啟採用了霍爾開關設計，拇指輕輕觸推即可開倉取放耳機，開蓋自動連接手機非常方便。南卡lite Pro耳機通體顏色與充電倉的流光白色保持一致，採用獨家的SR密封技術，整個外觀渾然一體，精湛的製作除了工藝和性能需要之外，同樣是一件藝術品。
  • 俚語Paddle your own canoe.不是說獨木舟的事,而是要你自力更生
    canoe最早指的是樹幹挖空了心製成的木船，paddle是一種形狀短寬的槳。paddle one's own canoe指「劃自己的船」，有自立立、不依賴別人的意思，另外還有不多管別人閒事的意思。表示後一種意思的時候相當於mind one's own business.