如今,手機中的AI功能越來越普遍。試問誰手機裡沒裝著幾個修圖軟體?識別人像、摳圖、換背景一氣呵成,「小白」也能瞬間化身「PS大神」;還有種種AR黑科技,例如地圖實景導航,可謂是「小路痴們」的福音。這些讓生活更加便利的應用背後,離不開讓AI能力快速部署到硬體設備的重要工具——端側推理引擎。百度飛槳Paddle Lite能夠提供一套功能完整、易用、高性能面向終端和邊緣設備的端側推理引擎,方便廣大開發者將應用部署到任何端側設備之上。
11月5日,飛槳Paddle Lite 2.0 在Wave Summit+深度學習開發者秋季峰會上正式發布,其具備打通端到端部署全流程的能力,進一步提升易用性,並擁有廣泛的硬體支持,預測性能全面領先,INT8 量化性能亮眼,備受業界關注。11月16日,百度AI快車道——企業深度學習實戰營來到硬體企業雲集的深圳,與當地開發者一起分享和體驗了飛槳Paddle Lite在實際業務中的應用。
百度多位技術大咖在本次活動中擔任講師,詳細解讀了飛槳 Paddle Lite、及其相關的服務工具EasyEdge、硬體產品EdgeBoard的技術特點、使用方法和相關應用。據介紹,Paddle Lite是飛槳產品棧中用於端側高性能輕量化AI應用部署的推理引擎,核心用途是將訓練出的模型在不同硬體平臺場景下快速部署,根據輸入數據,執行預測推理得到計算結果,支持實際的業務應用。而EasyEdge則是基於Paddle Lite的端計算模型生成平臺,把設備兼容等問題進行了封裝,開發者可以非常便捷地進行模型轉換,部署到多種硬體上快速開發。EdgeBoard則是百度大腦面向嵌入式與邊緣部署場景打造的FPGA硬體解決方案,包括多款計算卡、計算盒、抓拍機等系列硬體及軟硬一體定製服務。
在實戰課中,講師帶來了基於Paddle Lite 的移動端目標檢測部署和模型在端上部署的實踐課內容。移動端目標檢測部署的案例是在手機端識別小動物或日常物品,不少學員都順利完成,而在Edgeboard上的部署案例更是讓現場學員「玩得不亦樂乎」。胡蘿蔔、茄子、西紅柿等一兜兜蔬菜被搬上課桌,學員跟隨導師一起動手完成在EdgeBoard計算卡上部署蔬菜識別模型的任務。學員們三四個人圍坐在一起,有人負責模型搭建、有人負責EdgeBoard計算卡與顯示屏、攝像頭等硬體設備的調試, 經過團隊協作短短10分鐘,將攝像頭對準蔬菜,電腦屏幕上立即顯示出蔬菜的名稱,單人操作半小時即可完成整個過程。即使蔬菜外面套有塑膠袋,模擬日常買菜時的自助結算場景,模型也可以準確的識別蔬菜名稱。學員們紛紛表示:「Paddle Lite用起來很順,部署很快。」、「平臺搭建起來很方便,還挺成熟的。」
據了解,集成了蔬菜識別模型的EdgeBoard具備高性能、低成本、使用簡單等三大優點,支持多模型、高精模型部署,同時支持模型可擦寫升級,提供豐富的開發資源,並支持硬體定製,十分適用於智能硬體打造和AI項目部署。EdgeBoard可無縫兼容百度大腦豐富的模型與工具資源,現已上架至百度AI市場,工業中的質檢分揀機器人、零售中的自助電子秤等都是應用EdgeBoard的典型案例。
活動現場,學員們始終保持著極高的熱情,伴隨著課程內容的逐步推進,實際操作中疑問點被拋出、被討論、被解決。談到此次課程,一位從事出境遊產品研發的學員表示:「在AI落地的情況下,需要很多應用部署,包括各種設備的兼容性、適配性方面,聽了這次課後覺得百度在這方面確實做得比較好的,」具體來說,他談到,「比如在模型裁剪方面,我們自己本身也在摸索,今天聽到百度已經做出了開源工具可以直接使用,對開發者而言比較友好。」
百度 AI 快車道企業深度學習實戰營是百度依託自身深厚的深度學習技術實踐經驗,面向有 AI 技術需求企業的算法工程師、架構師群體提供的快速應用扶持計劃。計劃的學習內容囊括了10套工程實施與深度學習技術落地結合的詳細方案,覆蓋百度領先的AI技術和業務應用場景的深入剖析,如OCR、精密儀器質檢、推薦排序經典場景、遙感圖像處理等;源於百度業務實踐的深度學習平臺飛槳的性能優勢、模型優勢、生態優勢的解讀;百度自研和頂級學術會議魁首算法、預訓練模型的詳細介紹,還有與案例和算法緊密相扣的在線實驗,並以「短平快」的課程,進行業務問題定位、框架及算法的快速應用培訓,為更多企業帶去深度學習技術和經驗分享。
此外,AI快車道將持續為開發者準備深度學習技術的乾貨解析與實戰演練。下一站將帶著百度自研的持續學習語義理解框架——百度艾尼(ERNIE)前往上海,在11月23日,為當地開發者帶去一場極具水準的AI知識與實戰課堂。課程將圍繞持續學習語義理解框架ERNIE的詳解和實戰進行,並且新增了11月5日最新發布的ERNIE開發套件介紹。百度的明星講師將通過原理詳解、現場實踐和交流環節,讓開發者得以快速上手,使用ERNIE 解決實際問題。(活動詳情詳見下方流程圖,也可以關注微信公眾號「飛槳PaddlePaddle」查看相關的活動文章參與報名)
看到這裡,是不是有些後悔錯過了這次百度AI快車道的活動?不用擔心,對於想要重溫課程內容、或無法到達現場的開發者們,可以進入「IT大咖說」網站後搜索「AI快車道」收看活動視頻。關注百度飛槳官網、微信公眾號"飛槳PaddlePaddle",如果使用過程中遇到任何問題,大家可通過Paddle Lite官方QQ群與開發人員進行技術交流及問題反饋 ,下次課堂期待有你的參與。