R-Car DNN Compiler

深層学習モデルのR-Car V4H向けプログラム最適化を自動で適用するDNN Compiler

深層学習フレームワークで学習した深層学習モデルをR-Car V4H上で高効率に実行しリアルタイム推論処理を実現するためには、プログラムの最適化が必要となります。具体的には、R-Carに搭載されている深層学習向けのアクセラレータの「CNNIP」を用いて高速計算するようなプログラム変換、搭載されている高速・小容量なSRAMを最大限活用するようなメモリ最適化などです。このような最適化を人手で行うのは、対象のハードウェアに対する深い理解が必要なため非常に困難で多大な工数を要します。

本ツールは、学習済み深層学習モデルを入力とし、R-Car V4H向け最適化を自動で適用することで、高速に実行可能なプログラムを生成する機能を提供します。また、本ツールはOSSである「Apache TVM」に対して、R-Car V4H向けのバックエンドを追加することによって開発されているため、CPUやGPU向けへのコンパイルを行うのと同様の手順でR-Car V4H向けの性能最適化を適用することが可能です。