画像
Chris Paterson
Chris Paterson
Engineer

組込み型人工知能(AI)は、AI推論がクラウド上のサーバーではなく、エンドポイントで行われるものです。

ルネサスRZ/G FOSS(フリー&オープンソースソフトウェア)AI BSPは広く知られているオープンソースAIフレームワークの多くをRZ/G2シリーズのリファレンスプラットフォームでネイティブに実行できるようにするYoctoメタレイヤーのコレクションです。これにより、ユーザーはArm Cortex CPUコアとNEONコアを使用して組込みプラットフォームでAIモデルを直接テストできます。

現在サポートされているフレームワークには、ArmNNONNX RuntimeTensorFlow Liteがあります。

AI BSPには、一般に良く知られているいくつかのプレトレーニング済み画像分類モデルの実行パフォーマンスをテストする各フレームワークのサンプルベンチマークアプリケーションも含まれます。

以下の推論時間は、“meta-benchmark” Yoctoレイヤーによって提供されるベンチマークの一部です。 RZ/G2H SoCが最も推論が速く、それにRZ/G2Lが僅差で続くという結果が得られています。

画像
Inference Timings from the RZ/G AI BSP v3.4.0
図1:RZ/G AI BSP v3.4.0からの推論タイミング

メタレイヤーのソースコードはGitHub:https://github.com/renesas-rz/meta-renesas-aiに掲載されています。

他のオープンソースプロジェクトと同様に、コードの貢献とプルリクエストも大歓迎です。

ショッピングバスケット デモアプリケーション

ルネサスはRZ/G AI BSPをベースとして、機械学習を使用して買い物かごの中のアイテムを識別するモックアップのショッピングバスケット デモアプリケーションを開発しました。

画像
Figure 2: RZ/G Shopping Basket Demo Running on the RZ/G2L Evaluation Board Kit Platform
図2:RZ/G2L Evaluation Board Kitプラットフォーム上で実行するRZ/Gショッピングバスケット

このデモはTensorFlow Lite AIフレームワークを使用して、10個の一般的なショッピングアイテムを識別するように訓練されたカスタムのMobileNet v2 SSDモデルを処理します。

このアプリケーションは、識別結果から各アイテムの値段を足し合わせて合計額を表示する、小売店での待ち時間を効率的に短縮する「スマートチェックアウト」を模したものです。

すべてのソースコードをGitHub:https://github.com/renesas-rz/meta-renesas-ai-demosからダウンロードできます。

この記事をシェアする

Log in or register to post comments

この記事をシェアする