DPUにより複数のAIモデルを切り替えて実行可能

DPUはFPGA上に実装するDeep Learning演算アクセラレータIPで、レジスタ情報をもとに演算エンジンを切り替えることができます。
レジスタに設定するファイルをconfigファイルと呼び、Vitis AIという変換ツールで生成されます。Vitis AIは学習済みAIモデルをDPU上で動作できる形式に変換するツールです。
このため、学習済みAIモデルをVitis AIに読み込ませると「DPU上にどのように実行させるか」という情報がconfigファイルとして生成されます。そのconfigファイルをDPUに読み込ませてAIモデルを実行します。

以上から、configファイルを切り替えることで、複数のAIモデルを1つのDPU上で実行することが可能になります。

ビルド済み回路を活用することで、準備不要で環境構築可能

AMD社では、DPUが対応しているFPGA評価ボードのビルド済み回路を無償公開しています。ビルド済み回路は、ハードウェアデザイン、OS、DPUが含まれた、いわゆるサンプルデザインです。imgファイルとして提供されているので、SDカードへの書き込みのみで回路が完成します。

さらに、Vitis AIにより変換済みのAIモデルや推論ソフトウェアも含まれるため、ビルド済み回路を用いることで、準備不要でAIを評価できる環境を構築できます。

まとめ

以上から、DPUを用いることで冒頭のメッセージは、以下のように言い換えられます。

•   1つのFPGA回路で1つのAIモデルしか動かせない
   
    1つのFPGA回路で複数のAIモデルを
  動的に切り替えて動作が可能
•   専門知識がないと評価環境を作れない
   
    ビルド済み回路を活用し、最低限の知識で
  評価環境を構築可能