Vitis™ AI ver1.2リリース

2020年7月にVitis AI ver1.2がリリースされました。
GitHub内のSee What's Newをみると、アップデートとして

• Vitis AI Quantizer オープンソース化(学習済みモデルコンパイルツール)
• Vitis AI Profiler実装
• PyTorch対応(Alveo™ アクセラレータ カードのみ)

などなど、いろいろなアップデート内容が記載されていました。
その中でも私が一番注目していた、PyTorch対応ですが
残念ながら、エッジデバイスには現在未対応とのこと・・・orz

ただ、サンプルアプリのリストを見てみると、ver1.2で新たに登場したものが複数ありましたのでこちらのサンプルアプリを前回同様Zynq® UltraScale+™ MPSoC ZCU102評価キット上で動作させてみたいと思います。
前置きが長くなってしまいましたが、今回はこちら！！
「Vitis AI ver1.2でVitis AI Libraryサンプルアプリを動かしてみた！！」
をお伝えします！

ザイリンクス社Vitis™ AI　ver1.2で Vitis AI Libraryサンプルアプリを動かしてみた

今回は、

• サンプルアプリのビルド
• サンプルアプリの実行

の２行程となります。
前回行っていた、「学習済みモデルのコンパイル」ですが、ver1.2でガラッと変わっていました。
※前回の記事は、こちらをご参照ください！！

コンパイルについて最初にお話ししたのち、サンプルアプリ実行について紹介したいと思います！

それでは、まいりましょう！！

※以降、前回同様Vitis AI GitHubのページ(https://github.com/Xilinx/Vitis-AI) に沿って解説を行います。Vitis AI GitHubをGitHubと表現しますので、よろしくお願いいたします。

1.学習済みモデルのコンパイル(ver1.2)について

ver1.1では、GitHubに「Tool-Example」というリポジトリに、コンパイルツールと手順が公開されていました。

ver1.2では「Vitis AI Quantizer」という名前でコンパイルツールが公開されています。
READMEにはツールのビルド方法が記載されていましたが、使用手順の記載がなかったため今回は検証に含みませんでした。

Vitis AI Quantizerには、「Pruning」「Quantization」の２step存在しており、
目的は

• Pruning ：ハイパーパラメータの最適化
• Quantization ：INT8量子化による高速演算実装

といった、認識精度はあまり落とさず演算規模を縮小させる機能があります。

※Vitis AI Quantization 処理フロー

その中でも今回のGitHubには、「Quantization」のみ公開されています。
「Pruning」については、別途サポートチームにコンタクトしてくださいと記載されていました。

※Pruningにご興味がある方は　PALTEK WEBサイトよりお気軽にお問合せください！

学習済みモデルのコンパイルは、手順が公開され次第取り組んでみようと思います！
さあ、ではサンプルモデルをZCU102上で動かしてみましょう！！

2.使用機材

• hostPC
  

  OS : Ubuntu18.04 LTS
  →前回同様、開発マシンとしてLinux搭載が必須になります。
  windowsPCでは開発できませんので、ご注意願います！

• windowsPC
  

  OS：windows10
  →今回は、ZCU102 コマンドベース操作用として用います。
  Tera Termを用いてUART,SSH経由で操作するため、用意しました。

• 評価ボード
  

  Zynq UltraScale+ MPSoC ZCU102評価キット

• SDカード
  

  Micron製 industrial micro SD card 32GB
  →ZCU102はSDカード必須なので、今回もmicroSD→SD変換アダプタを用いました。

3.事前準備

◆ hostPC

• Vitis AI GitHubのインストール
  参照しているGitHubのリポジトリをcloneします。
  今回は、hostPCのhomeディレクトリ直下に作業ディレクトリ”Vitis”を作成し、 その中にcloneを行いました。
  

  $ mkdir ~/Vitis 
  $ git clone https://github.com/Xilinx/Vitis-AI

◆ windowsPC

• Tera Termのインストール
  ZCU102をUART,SSH経由で操作すべく、インストールします。
  下記URLをご参照ください。
  

  https://ja.osdn.net/projects/ttssh2/releases/

◆ 評価ボード ZCU102

• imageファイルをSDカードへ書き込み
  参照 : https://github.com/Xilinx/Vitis-AI/blob/master/Vitis-AI-Library/README.md#setting-up-the-target
  

  ZCU102用のimageファイルが、上記GitHubリポジトリに公開されていますので 「ZCU102」をクリックしダウンロードします。
  ※ファイル名：xilinx-zcu102-dpu-v2020.1-v1.2.0.img.gz

※ZCU102用imageファイルダウンロードリンクページ

https://github.com/Xilinx/Vitis-AI/blob/master/Vitis-AI-Library/README.md より抜粋（引用）

 

前回同様、Etcherを用いて、SDカードへ書き込みを行いました。
→https://www.balena.io/etcher/

4.Vitis AI Libraryサンプルアプリのビルド

作業に取り掛かる前に、エッジデバイス上で動かせるサンプルアプリについて簡単に解説します。
GitHub上には

• VART sample
• Vitis AI Library sample
• Vitis AI DNNDK sample

複数存在しており、今回はVitis AI Library sampleを選択しました。

Vitis AI Libraryは、実運用を想定したDeepLearningアプリとなります。
以下が、Vitis AI Libraryのサンプルアプリ一覧です。

https://github.com/Xilinx/Vitis-AI/tree/master/Vitis-AI-Library より抜粋（引用）

 

ver1.1でも存在していましたが、ver1.2になって新たに公開されたものもあります。
では早速、こちらのサンプルアプリをビルドしてみようと思います！

◆ hostPC　ビルド環境の構築

• ビルドtoolインストール
  参照 : https://github.com/Xilinx/Vitis-AI/tree/master/Vitis-AI-Library
  

  提供されているsdkをダウンロードします。
  参照ページにある”sdk-2020.1.0.0.sh”をクリックし、実行します。

https://github.com/Xilinx/Vitis-AI/blob/master/Vitis-AI-Library/README.md より抜粋（引用）

 

※ダウンロード先は任意です。私は、作業ディレクトリ”Vitis”を選択しました
以下コマンドで、インストールを行います。権限操作を忘れずに！！

$ ./sdk-2020.1.0.0.sh

実行すると、toolのインストール先を聞かれます。
任意に決定可能ですが、参照ページでは「~/petalinux_sdk」を推奨していますので 指示どおり、入力をします。

完了後、以下のように出力され、homeディレクトリ直下に「petalinux_sdk」が生成されます。

最後に、以下のコマンドを実行します。

$ source ~/petalinux_sdk/environment-setup-aarch64-xilinx-linux

・追加パッケージインストール
参照 : https://github.com/Xilinx/Vitis-AI/tree/master/Vitis-AI-Library#setting-up-the-host

追加でパッケージをダウンロードします。 参照ページにある”vitis_ai_2020.1-r1.2.0.tar.gz”をクリックし、実行します。

https://github.com/Xilinx/Vitis-AI/tree/master/Vitis-AI-Libraryより抜粋（引用）

※ダウンロード先は、sdk同様、作業ディレクトリ”Vitis”にしました。
以下コマンドで解凍し、インストールします。

$ tar -xzvf vitis_ai_2020.1-r1.2.0.tar.gz -C ~/petalinux_sdk/sysroots/aarch64-xilinx-linux

これにてビルド環境の構築は完了です！
ver1.1と比べて大分簡素化されていますねー！
ビルドはdocker不要なので、サクッと進められます。

◆サンプルアプリのビルド
構築した環境で早速ビルドしていきます！
サンプルアプリのビルドは簡単です！既に用意されているtoolを実行していきます。

ビルドtoolは、「Vitis-AI-Library/overview/samples」に存在する、 サンプルアプリのリポジトリに存在しています。
「Vitis-AI-Library」直下のサンプルアプリのリポジトリには存在していませんので、ご注意を！

以下のコマンドでビルドを行います。例として、classificationのビルドを行います。

$ cd ~/Vitis/Vitis-AI/Vitis-AI-Library/overview/samples/classification
$ sh build.sh

ビルドが成功すると、以下のように無拡張子の実行ファイルが生成されます。
※実行ファイルは緑色でハイライトされているものになります。

その他サンプルアプリについても、同様の手順でビルド可能です。

overview/samples内にあるサンプルアプリをいくつか、別途ビルド用にディレクトリをコピーしてビルドしました。

$ cd ~/Vitis/Vitis-AI/Vitis-AI-Library/overview/
$ cp -r samples samples_pal

※コピーディレクトリ名は、「samples_pal」にしました。

アプリのビルド方法は、各ディレクトリのREADMEに記載されていますので、そちらをご参照ください！
※ありがたいことに、全て「$ sh build.sh」ですけどね！

さあ！
ビルドもできたことですし、早速ZCU102上で実行してみましょう～！

5.Vitis AI Libraryサンプルアプリのインストール

では、ビルドしたサンプルアプリをZCU102上で動かしていきましょう！
動かす前に、ZCU102に必要なパッケージをインストールしていきます。

◆ ZCU102セットアップ

• IPv4の設定
  

  UART経由でZCU102起動後、scpにてファイルを転送できるようIPアドレスを設定します。 /etc/network/interfaceを操作し、各自任意に設定してください。

以下が、interfaceとなります。

私は、dhcpを有効にして社内ネットワークに接続して操作しました！

• AI Model Zooのインストール
  参照：https://github.com/Xilinx/Vitis-AI/tree/master/Vitis-AI-Library#setting-up-the-target
  

  おそらく今回の検証では関係ないかもしれませんが、念のためインストールします。
  hostPCへダウンロードし、その後ZCU102へインストールします。
  参照ページにある”ZCU102 AI Model”をクリックし、ダウンロードします。

https://github.com/Xilinx/Vitis-AI/tree/master/Vitis-AI-Libraryより抜粋（引用）

※ダウンロード先は、作業ディレクトリ”Vitis”です。
以下コマンドで、ZCU102へコピーします。

$ scp xilinx_model_zoo_zcu102-1.2.0-1.aarch64.rpm root@IP_OF_BOARD:~/

※IP_OF_BOARDは、先ほど設定したIPアドレスを入力します。

以下コマンドで、ZCU102上にインストールします。操作は、ZCU102上です。

# rpm -ivh --force xilinx_model_zoo_zcu102-1.2.0-1.aarch64.rpm

※少し時間がかかります。↓の画像が展開完了時の出力です

• Vitis AI Runtimeインストール
  参照： https://github.com/Xilinx/Vitis-AI/tree/master/Vitis-AI-Library#setting-up-the-target
  

  ver1.2のVitis AI Runtimeをインストールします。
  まず、hostPCにパッケージをダウンロードします。
  参照ページにある”Vitis AI Runtime 1.2.0”をクリックし、ダウンロードします。

https://github.com/Xilinx/Vitis-AI/tree/v1.2.1-old1/Vitis-AI-Libraryより抜粋（引用）