x86 AI開發工具 - Intel OpenVINO

2022-09-19


      聯強國際元件事業針對開發者提供了一套方便的工具「OpenVINO Demo Kit」,這工具能讓初步要嘗試OpenVINO的開發者可以快速體驗Intel OpenVINO在Open Model Zoo中所提供的各項範例程式以及預訓練模型。

您可以至我們的OpenVINO Demo Kit介紹網站去參考詳細的使用方法,及下載此工具。

 

SYNNEX OpenVINO Demo Kit功能

• OpenVINO安裝

無論是新版本的OpenVINO 2022,還是舊版本的OpenVINO,Demo Kit都能輕鬆協助在裝置上安裝好,並設置好開發環境。

 

• AI模型效能測試

您可以使用自己的OpenVINO IR模型,或是使用Open Model Zoo上的模型,在您的機台上利用Demo Kit做效能測試,並匯出效能測試表單(.csv),方便不同模型間或不同平台間效能比較。

支援多個模型測試,可以方便地驗證手上Intel平台效能,或是自己模型的負載評估,看看軟硬體搭配是否可以符合需求。

 

• Open Model Zoo範例執行工具

Open Model Zoo範例建置之後,就能執行所有Open Model Zoo的範例。 Demo Kit特別針對部分範例整合了方便操作的流程,讓使用者只須要按幾個按鍵,就可以執行範例程式,查看OpenVINO AI的效果與功能,免除輸入冗長指令、路徑或參數的步驟。

目前Demo Kit針對OpenVINO 2022版本已整合下列範例:

  1. 影像分類應用範例 Classification Benchmark C++ Demo
  2. 影像物件偵測應用範例Object Detection C++ Demo
  3. 臉部偵測/年齡性別心情及防偽範例Interactive Face Detection C++ Demo
  4. 人體姿態檢測範例Human Pose Estimation C++ Demo
  5. 三維度人體姿態檢測範例3D Human Pose Estimation Python* Demo
  6. 路口相機行人偵測及特徵分類範例Crossroad Camera C++ Demo
  7. 行人社交距離違反偵測範例Social Distance C++ Demo
  8. 行人路徑追蹤範例Pedestrian Tracker C++ Demo
  9. 影像背景去除/替換範例Background subtraction Python* Demo
  10. 文字偵測範例Text Detection C++ Demo
  11. 動作識別範例Action Recognition Python Demo
  12. 超解析度成像影像處理Image Processing C++ Demo - Super Resolution
  13. 風格轉換影像處理Image Processing C++ Demo - Style Transfer
  14. 影像色彩化處理Colorization Demo
  15. 影像深度推估範例MonoDepth Python Demo
  16. 聲音分類範例Sound Classification Python Demo
  17. 文字轉語音範例Text-to-speech Python Demo

Open Model Zoo提供非常豐富的範例資源

 

• Open Model Zoo模型下載

Open Model Zoo中提供了300多種預訓練深度學習模型,涵蓋了非常多場域,包含臉部辨識、車輛行人偵測、人體姿態檢測、圖像分割、影像處理、聲音偵測、語意分類等等,透過此模型下載功能,可以方便地下載部分或是全部的模型,供後續執行範例、開發或是效能檢測使用。

Open Model Zoo所提供的模型包含了各種場域,非常豐富

 

• Open Model Zoo模型量化

Demo Kit還提供Open Model Zoo模型自動量化功能,可以自動地利用POT工具,將Open Model Zoo上面的模型做量化壓縮,量化壓縮過後的模型。

在大部分的情況下,效能會有非常顯著的提升,模型體積大幅縮小,且模型精確度損失極小,更適合部屬到邊緣裝置上,大幅地節省空間及平台算力資源。

 

Open Model Zoo範例建置

提供自動建置所有Open Model Zoo範例程式的工具,方便使用者建置C/C++等範例程式碼。 建置完成後,即可操作範例執行工具。

 

 

關於OpenVINO

      在先前的技術文章中簡介了免費的Intel AI開發工具OpenVINO Toolkits,是一款用於高性能深度學習的工具套件,它可以幫助開發者能

  1. 更快、更準確地部署到Intel架構平台,無論是在邊緣裝置還是到雲端環境中。
  2. 讓高性能的AI應用及算法,都能夠透過OpenVINO實現在實際的產品上。
  3. 簡化的開發工作流程,開發人員只要編寫一次應用程序或算法,就能部署到不同的Intel架構,包括Intel CPU、iGPU、Movidius VPU 和 GNA。

 

      Intel OpenVINO Toolkits支援多種深度學習框架(包含Tensorflow、Caffe、Pytorch、ONNX、Kaldi、MXnet與PaddlePaddle等等),有易於使用的C/C++及Python API與豐富地開源範例及模型,讓AI開發者能輕易地開發出能在Intel平台發揮極致效能的AI解決方案,迅速地佈署及落地到市場中。

 

若對於Intel產品以及利用Intel OpenVINO解決方案開發有興趣,歡迎來信(CBGIntelFAE@synnex.com.tw)諮詢。

 

若您已經有很棒的Intel OpenVINO軟體開發計畫,並想挑選合適的硬體產品,及更多的合作曝光機會,也歡迎來信(iot.aggregator@synnex.com.tw)諮詢。