開源模型效果體驗,廢話不說,先上圖:
看到如此神奇,是不是手癢現在就想體驗?步驟非常簡單!
Step1:
網頁地址 :
https://ai.baidu.com/easyedge/home
進入百度 EasyEdge 端計算模型生成平臺
Strp2: 點擊 「立即使用」進入操作中心後,選擇「體驗開源模型」,點擊想體驗的模型,拿出手機(安卓蘋果皆可)掃碼,自動安裝,等待幾秒鐘,即可打開 APP 實時體驗各類模型的效果。 這就是 EasyEdge 平臺最近升級給開發者提供的「開源模型體驗」功能,一行代碼不用寫,還支持蘋果手機,妥妥的開發者福利啊! 除了上面演示的 OCR 模型,公開的模型還有菜品識別,能識別8416種菜!
螺螄粉也能識別也是沒誰了。 動物識別,能識別7879種動物:
更有一些通用的物體檢測、人臉識別等模型:
什麼都別說,掃碼就對了。
言歸正傳,下面正式介紹一下 EasyEdge。
EasyEdge 是百度推出的端計算模型生成和服務平臺,可基於多種深度學習框架、網絡結構的模型,快捷生成端計算模型及封裝 SDK,並靈活適配多種 AI 晶片與作業系統, 目前 EasyEdge 的全部功能服務已預置在零門檻 AI 開發平臺 EasyDL、全功能 AI 開發平臺 BML 中,與模型訓練環節緊密配合,提供一站式端到端的 AI 開發及離線推理服務。 隨著人工智慧的不斷發展,越來越多的行業和業務場景在應用人工智慧來提升效率並降低成本。
一方面,現在可以訓練模型的框架非常之多,TensorFlow、PyTorch、飛槳 PaddlePaddle 等等,訓練模型變得越來越容易,對於框架的選擇不同開發者也有各種使用偏好。
而在硬體方面,AI 晶片的種類也越來越多,除了傳統的 CPU、GPU、ARM,各種 AI 的 ASIC 晶片也逐漸被推出,如華為的昇騰、算豐科技的比特大陸 SE、英特爾的 Myraid 計算卡等等。同時大家使用的手機 CPU 中都開始逐漸配備專門的 AI 晶片用於神經網絡計算,如蘋果 A 仿生晶片、海思 NPU、高通 DSP 等等。每一類 AI 晶片都有自己的應用場景與獨特的計算框架,然而不同深度學習框架能適配的晶片往往非常有限,如何將訓練好的模型高效地部署到設備上,最大化利用晶片能力的同時保持精度無損失,是當前很多 AI 開發者遇到的技術難題。
EasyEdge 輸入的是各類深度學習框架訓練好的模型,包括來自零門檻 AI 開發平臺 EasyDL 及全功能 AI 開發平臺 BML 訓練所得的模型,經過轉換、面向設備的兼容和加速、封裝,輸出的是支持各類晶片的端/邊緣計算服務。
EasyEdge 支持目前所有主流的深度學習框架:
PaddlePaddlePyTorchTensorFlowMXNetCaffeDarkNet
同時擁有目前最廣泛的晶片支持:
同時,EasyEdge 支持各類經典的、最新的深度學習網絡,從 ResNet、MobileNet 到 Yolo、FasterRCNN,都可以很好地通過 EasyEdge 部署在不同設備之上。完整的支持列表可以去 EasyEdge 官網查看。 為了能實現多種網絡在不同晶片的高效部署,EasyEdge 後臺提供了非常多的優化,如模型格式轉換、圖優化、晶片優化、模型低精度量化、模型裁剪和壓縮等等。 以模型轉換為例,為適配各類框架和晶片,EasyEdge 會根據需要自動轉換模型格式。
模型轉換
而圖優化中,會完成一些 OP 融合、OP 拆解、常量摺疊、子圖替換等操作。
OP 融合
在模型壓縮過程中,會進行模型的低精度量化、模型通道裁剪等操作,在不降低模型精度的前提下,減少模型的體積,提升模型的運行速度。
模型壓縮
定點量化
完整的 EasyEdge 技術介紹可以去 B 站百度大腦帳號觀看 EasyEdge 的各類講解視頻。 以上能力都是 EasyEdge 後臺根據用戶的選擇自動幫用戶完成的。開發者只需選擇框架,上傳自己本地的模型,或者從 EasyDL 或 BML 中選擇訓練好的模型,選擇需要適配的硬體,即可自動生成適配目標晶片的 SDK 和開發者套件。開發者套件的使用十分簡單便捷,無需關注深度學習、具體硬體等底層邏輯,只需關注輸入圖片和輸出的識別結果即可。 還等什麼!
進入連結點擊「Demo 體驗」,快來試試 EasyEdge 的開源模型吧!
https://ai.baidu.com/easyedge/app/openSource