DRP-AI Extension Pack (枝刈りツール)

RZ/V2HのDRP-AIには枝刈りされたAIモデルを効率的に演算する機能があります。DRP-AI Extension PackはDRP-AIに最適化されたAIモデルの枝刈りを実現するツールです。
本製品をPyTorchまたはTensorFlowで書かれた学習コードと組み合わせることで、DRP-AIに最適化された枝刈り機能を使用できます。

枝刈りとは？

ニューラルネットワーク内のノードは下図のように相互に接続されています。ノード間の重みを削除したりノードを削除したりしてパラメータの数を減らす方法は「枝刈り」と呼ばれます。枝刈りが適用されていないニューラルネットワークは、一般にDenseニューラルネットワークと呼ばれます。また、枝刈りが適用されたニューラルネットワークは、一般にSparseニューラルネットワークと呼ばれます。枝刈りを適用するとモデルの精度がわずかに低下しますが、ハードウェアに必要な電力を削減し、推論プロセスを高速化できます。

画像

枝刈りモデルの組み込み方法

枝刈り後のモデルはDRP-AI TVMを使用して組み込むことができます。
以下のURLからDRP-AI TVMのTVMの詳細をご確認ください。
https://github.com/renesas-rz/rzv_drp-ai_tvm

なお、以下の図に示す通り枝刈りはオプション機能です。(Denseモデルも組み込み可能です。)

画像