定製化服務降低模型部署門檻 百度AI快車道解析飛槳EdgeBoard軟硬...

2020-12-23 手機鳳凰網

如今,手機中的AI功能越來越普遍。試問誰手機裡沒裝著幾個修圖軟體?識別人像、摳圖、換背景一氣呵成,「小白」也能瞬間化身「PS大神」;還有種種AR黑科技,例如地圖實景導航,可謂是「小路痴們」的福音。這些讓生活更加便利的應用背後,離不開讓AI能力快速部署到硬體設備的重要工具——端側推理引擎。百度飛槳Paddle Lite能夠提供一套功能完整、易用、高性能面向終端和邊緣設備的端側推理引擎,方便廣大開發者將應用部署到任何端側設備之上。

11月5日,飛槳Paddle Lite 2.0 在Wave Summit+深度學習開發者秋季峰會上正式發布,其具備打通端到端部署全流程的能力,進一步提升易用性,並擁有廣泛的硬體支持,預測性能全面領先,INT8 量化性能亮眼,備受業界關注。11月16日,百度AI快車道——企業深度學習實戰營來到硬體企業雲集的深圳,與當地開發者一起分享和體驗了飛槳Paddle Lite在實際業務中的應用。

百度多位技術大咖在本次活動中擔任講師,詳細解讀了飛槳 Paddle Lite、及其相關的服務工具EasyEdge、硬體產品EdgeBoard的技術特點、使用方法和相關應用。據介紹,Paddle Lite是飛槳產品棧中用於端側高性能輕量化AI應用部署的推理引擎,核心用途是將訓練出的模型在不同硬體平臺場景下快速部署,根據輸入數據,執行預測推理得到計算結果,支持實際的業務應用。而EasyEdge則是基於Paddle Lite的端計算模型生成平臺,把設備兼容等問題進行了封裝,開發者可以非常便捷地進行模型轉換,部署到多種硬體上快速開發。EdgeBoard則是百度大腦面向嵌入式與邊緣部署場景打造的FPGA硬體解決方案,包括多款計算卡、計算盒、抓拍機等系列硬體及軟硬一體定製服務。

在實戰課中,講師帶來了基於Paddle Lite 的移動端目標檢測部署和模型在端上部署的實踐課內容。移動端目標檢測部署的案例是在手機端識別小動物或日常物品,不少學員都順利完成,而在Edgeboard上的部署案例更是讓現場學員「玩得不亦樂乎」。胡蘿蔔、茄子、西紅柿等一兜兜蔬菜被搬上課桌,學員跟隨導師一起動手完成在EdgeBoard計算卡上部署蔬菜識別模型的任務。學員們三四個人圍坐在一起,有人負責模型搭建、有人負責EdgeBoard計算卡與顯示屏、攝像頭等硬體設備的調試, 經過團隊協作短短10分鐘,將攝像頭對準蔬菜,電腦屏幕上立即顯示出蔬菜的名稱,單人操作半小時即可完成整個過程。即使蔬菜外面套有塑膠袋,模擬日常買菜時的自助結算場景,模型也可以準確的識別蔬菜名稱。學員們紛紛表示:「Paddle Lite用起來很順,部署很快。」、「平臺搭建起來很方便,還挺成熟的。」

據了解,集成了蔬菜識別模型的EdgeBoard具備高性能、低成本、使用簡單等三大優點,支持多模型、高精模型部署,同時支持模型可擦寫升級,提供豐富的開發資源,並支持硬體定製,十分適用於智能硬體打造和AI項目部署。EdgeBoard可無縫兼容百度大腦豐富的模型與工具資源,現已上架至百度AI市場,工業中的質檢分揀機器人、零售中的自助電子秤等都是應用EdgeBoard的典型案例。

活動現場,學員們始終保持著極高的熱情,伴隨著課程內容的逐步推進,實際操作中疑問點被拋出、被討論、被解決。談到此次課程,一位從事出境遊產品研發的學員表示:「在AI落地的情況下,需要很多應用部署,包括各種設備的兼容性、適配性方面,聽了這次課後覺得百度在這方面確實做得比較好的,」具體來說,他談到,「比如在模型裁剪方面,我們自己本身也在摸索,今天聽到百度已經做出了開源工具可以直接使用,對開發者而言比較友好。」

百度 AI 快車道企業深度學習實戰營是百度依託自身深厚的深度學習技術實踐經驗,面向有 AI 技術需求企業的算法工程師、架構師群體提供的快速應用扶持計劃。計劃的學習內容囊括了10套工程實施與深度學習技術落地結合的詳細方案,覆蓋百度領先的AI技術和業務應用場景的深入剖析,如OCR、精密儀器質檢、推薦排序經典場景、遙感圖像處理等;源於百度業務實踐的深度學習平臺飛槳的性能優勢、模型優勢、生態優勢的解讀;百度自研和頂級學術會議魁首算法、預訓練模型的詳細介紹,還有與案例和算法緊密相扣的在線實驗,並以「短平快」的課程,進行業務問題定位、框架及算法的快速應用培訓,為更多企業帶去深度學習技術和經驗分享。

此外,AI快車道將持續為開發者準備深度學習技術的乾貨解析與實戰演練。下一站將帶著百度自研的持續學習語義理解框架——百度艾尼(ERNIE)前往上海,在11月23日,為當地開發者帶去一場極具水準的AI知識與實戰課堂。課程將圍繞持續學習語義理解框架ERNIE的詳解和實戰進行,並且新增了11月5日最新發布的ERNIE開發套件介紹。百度的明星講師將通過原理詳解、現場實踐和交流環節,讓開發者得以快速上手,使用ERNIE 解決實際問題。(活動詳情詳見下方流程圖,也可以關注微信公眾號「飛槳PaddlePaddle」查看相關的活動文章參與報名)

看到這裡,是不是有些後悔錯過了這次百度AI快車道的活動?不用擔心,對於想要重溫課程內容、或無法到達現場的開發者們,可以進入「IT大咖說」網站後搜索「AI快車道」收看活動視頻。關注百度飛槳官網、微信公眾號"飛槳PaddlePaddle",如果使用過程中遇到任何問題,大家可通過Paddle Lite官方QQ群與開發人員進行技術交流及問題反饋 ,下次課堂期待有你的參與。

相關焦點

  • 課程實錄:基於EasyDL訓練部署企業級高精度AI模型
    EasyDL 底層基於百度自主研發的飛槳開源深度學習平臺實現。支持圖片、文本、視頻、音頻等輸入數據,依託飛槳核心框架與工具組件,提供數據預處理、模型訓練、部署以及 serving 服務。目前提供的服務方式有4種:公有雲 API:用戶可直接調用百度雲提供的 API 進行使用。設備端 SDK:做移動端、端設備、以及嵌入式的一些同學可以考慮使用設備端的 SDK 進行服務部署。
  • 零門檻的AI開發課程!2020 WAIC開發者日百度公開課核心乾貨
    在基礎平臺之上,百度為智能客服、消費電子、企業服務、車載出行等常見的行業場景包裝了復用度較高的場景方案、行業方案,這些技術和方案都支持公有雲部署、私有化部署,在一些特定的場景下還可以支持嵌入式的部署。在技術和方案的上方,是人才方面的生態服務,包括技術方案的顧問服務、培訓認證服務、質監交互服務以及託管研發服務。
  • 「百度大腦」 放大招了!
    同時,EasyDL 提供圍繞 AI 服務開發的端到端的一站式 AI 開發和部署平臺,包括數據上傳、數據標註、訓練任務配置及調參、模型效果評估、模型部署。EasyDL 基於飛槳深度學習框架構建而成,內置百億級大數據訓練的成熟預訓練模型,底層結合百度自研的 AutoDL/AutoML 技術,基於少量數據就能獲得出色效果和性能的模型。
  • EdgeBoard 中CNN架構的剖析
    百度大腦EdgeBoard嵌入式AI解決方案,以其豐富的硬體產品矩陣、自研的多並發高性能通用CNN(Convolution Neural Network)設計架構、靈活多樣的軟核算力配置,搭配移動端輕量級Paddle Lite高效預測框架,通過百度自定義的MODA (Model Driven Architecture)工具鏈,依據各應用場景定製化的模型和算法特點,向用戶提供高性價比的軟硬一體的解決方案
  • 中國AI看百度已是行業共識 百度AI約等於中國AI的底氣
    諸如在中國AI公司中,百度自研的中國首個也是目前國內唯一開源開放、功能完備的產業級深度學習平臺——百度飛槳,在中國市場份額位居前三,入選世界網際網路領先科技成果,累計服務150多萬開發者,而這一數字約佔中國軟體從業平均人數的1/4,在其定製化訓練平臺上,企業用戶超過6.5萬個,發布模型達到16.9萬個,成為支撐各行各業技術創新和智能化轉型的基礎底座,被稱為是中國自己的「AI作業系統」。
  • 揭秘基於ERNIE的百度飛槳語義理解開發套件5大特色
    昨天,在「WAVE Summit+」2019深度學習開發者秋季峰會上,百度對外發布基於ERNIE的語義理解開發套件,旨在為企業級開發者提供更領先、高效、易用的ERNIE應用服務,全面釋放ERNIE的工業化價值,其中包含ERNIE 輕量級解決方案,提速1000倍!
  • 百度大腦全新發布EasyMonitor軟硬一體方案EM-BOX 邊緣部署易集成
    6 月 18 日,百度大腦開放日舉辦安全生產主題專場活動。會上詳細介紹了百度EasyMonitor視頻監控開發平臺的產品特點、應用方案,全新發布可攜式軟硬一體方案EM-BOX邊緣計算盒,並進行了具體的應用操作演示。特邀合作夥伴清玄科技分享了基於百度大腦平臺開放能力打造的礦業場景智能化安全生產風險監控應用實踐。此次開放日再一次向行業展現了百度大腦軟硬一體化發展賦能產業的決心。
  • EdgeBoard為程式設計師打造的一款深度學習加速套件
    1、PetaLinux 2017.4 edge_board /dev/ttyPS0 2、edge_board login: 輸入用戶名root,密碼root,即可進入系統,出現了終端標識,代表啟動成功。
  • 夏日專刊AI產品上新升級集錦,50餘項軟硬能力加速場景落地
    >>百度 OCR 50餘項服務,了解更多:ai.baidu.com/tech/ocr3.>>查看詳情mp.weixin.qq.com/s/TfUcbbG0xpkIGCR257thxA 百度飛槳與統信作業系統 UOS 完成互認證,共同探索 AI 領域近日,百度飛槳(
  • 百度飛槳助力鐵路車號核對快準穩
    (圖3:通用OCR識別效果)飛槳助力——快速開發、直接落地「多維度對比後,最終我們選擇用百度飛槳。因為飛槳的AI Studio實訓平臺上有很多中文實操案例可以參考,對新手來說不僅大大降低了技術門檻,還能少踩坑,將更多精力投入在產品上。」
  • 百度飛槳發布工業級圖像分割利器PaddleSeg
    Xception:DeepLabv3+原始實現的 backbone 網絡,兼顧了精度和性能,適用於服務端部署。PaddleSeg 提供了 41/65/71 三種不同深度的預訓練模型。Paddle Serving 服務化部署:支持高並發預測,支持單服務多模型,還支持模型熱更新和 A/B Test。
  • 百度AI,走過2019
    Meitron 個性化語音合成降低了技術門檻,僅需20句話就可以製作一個人的專屬聲音。該技術成果已經落地百度地圖,百度地圖發布了「百雀靈計劃」,上線全球首個地圖語音定製功能。基於百度飛槳研發的 AI 控制系統,設計年均 PUE 1.15,基礎設施能耗降低70%,每個可用區每年節電超過2億度,相當於10萬戶居民一年的用電量。百度打造智能經濟時代的新型基礎設施步伐正在加快,支持百度 AI 發揮更大的創新能力和社會經濟價值。
  • 飛槳框架高層API,一起輕鬆玩轉AI
    百度傾心打造飛槳框架高層 API,零基礎也能輕鬆上手深度學習,一起來看看吧?另:文末有福利,一定要看完呦~高層 API,What深度學習作為人工智慧時代的核心技術,近年來無論學術、還是工業領域,均發揮著愈加重要的作用。然而,深度學習理論太難學,開發過程太複雜,又將許多人拒之於深度學習的門外。
  • 一行命令啟動,十分鐘完成部署,PaddleServing開放模型即服務功能
    機器之心發布機器之心編輯部百度飛槳的 Paddle Serving 能夠實現伺服器端快速部署,最近,隨著飛槳更新到 1.7 版本,Paddle Serving 也有了新變化。更新後的 Paddle Serving 有哪些改進?
  • AI嵌入式設備部署如何搞?秘訣在此!
    從科研、金融、零售到工業、農業等越來越多的行業與業務場景正在應用人工智慧提升效率,降低成本。人工智慧在產業升級、改善人類生活等方面發揮著越來越重要的作用。當在實際業務場景中部署AI模型時,會面臨一個部署方案設計的問題:不同的使用場景和業務問題中對模型的部署方式要求也有所差異。
  • 頂級期刊《Nature》盤點中國AI發展 百度飛槳等核心技術是關鍵
    如百度飛槳(PaddlePaddle)等核心技術工具及基礎研究是實現人工智慧長期研發目標的關鍵所在。「過去我們津津樂道說中國的人工智慧的論文發表數量、專利申請數量是全球第一,但是今天我們更多的是要看人工智慧整體這個開發框架上我們有多少話語權。」 2019中國國際智能產業博覽會上,百度創始人、董事長兼CEO李彥宏也表達了類似觀點。
  • 3小時極致學習AI開發,WAIC開發者日有一堂必上公開課
    當前百度飛槳累積開發者數量已超過 190 萬,服務企業數量達到 84000 家,發布模型數量已超過 23 萬個。為了更好的服務廣大開發者,幫助大家快速學習掌握人工智慧技術。課程二:飛槳視覺技術解析與應用講師簡介:杜宇寧博士,百度深度學習平臺飛槳(PaddlePaddle)資深研發工程師。2015 年從清華大學畢業加入百度,從事計算機視覺算法研發和落地至今。
  • 百度AI的2020
    另一方面,百度大腦 「軟硬一體 AI 大生產平臺」升級為 AI 新型基礎設施,更高效地支持 AI 工業化大生產,幫助產業智能化發展提速。雲端通用 AI 處理器「百度崑崙1」,已實現量產和應用部署,量產約2萬片,性能相比 T4 GPU 提升1.5-3倍;二代百度崑崙晶片將在2021年上半年量產,與百度崑崙1相比性能將提升3倍。隨著 AI 的普及,安全問題受到多方關注。
  • CIIS 2019|百度CTO王海峰解讀AI發展趨勢
    而百度人工智慧技術多年積累和產業實踐的集大成——百度大腦,實現了AI能力與應用場景融合創新,已升級為「軟硬一體AI大生產平臺」。據了解,在數據和算力的基礎上,百度大腦「軟硬一體AI大生產平臺」以飛槳深度學習 平臺為基礎技術底座,打通了人工智慧產業化應用落地相關的全部流程,包括深度學習 平臺、通用AI能力、定製化訓練平臺、部署與集成,以及應用的技術解決方案,同時有完整的AI安全體系保障,實現了AI技術的標準化、自動化、模塊化,推動產業智能化。
  • 百度飛槳(PaddlePaddle)開發能力究竟如何
    百度飛槳(PaddlePaddle),是深度學習領域中目前國內唯一的中文開源平臺,依靠百度堅實的AI技術,不斷降低學習門檻,為AI產業化大規模落地貢獻了源源不斷的技術技能與解決方案。縱觀國內深度學習技術領域,飛槳牢牢佔據著領軍位置。