組み込みプロセッサ向けのAIモデルの開発には、いくつかの固有の課題があります。 クラウドベースのAIなどの大規模モデルが膨大なデータセットとサーバーグレードの処理能力を活用する事とは異なり、エッジAIには限られたリソース環境下でも高精度な判断が求められます。そのため、エッジAIでは、精度を確保するために最高品質のデータが不可欠です。 メモリ、演算能力、モデルサイズが限られているため、入力データの品質がパフォーマンスに直結します。そのため、効率的なデータ収集、リアルタイムでのモニタリング、そして迅速なオンデバイステストが、エッジAIの成功に不可欠です。
こうしたニーズに応えるため、ルネサスはエッジAI開発をトータルに支援する強力なツールである「 Reality AI™ Utilities」を提供しています。これにより、エッジAIの設計から実装、最適化までをシームレスに実現できます。 これらのユーティリティは、e² studio向けのプラグインとして利用できるほか、CS+、Keil、IARなどの主要なIDEでもスタンドアロンツールとして使用可能です。開発環境を問わず、柔軟なワークフローを実現します。 Reality AI Utilitiesは、次のもので構成されています。
- データストレージツール： ハードウェアからセンサーとマイクの信号をキャプチャし、Reality AI Tools®クラウドプラットフォームにアップロードして、忠実度の高い信号分析とAIモデル開発を実現します。
- AIライブモニター： 生のクラススコアや後処理ロジックなど、デバイス上のリアルタイムの推論を視覚化し、開発者が即座にフィードバックを得てモデルをデバッグおよび最適化するのに役立ちます。
- HIL(Hardware-in-the-Loop) Test： ダウンロードしたテストデータセットを使用して、ルネサスのハードウェア上で直接AIモデルのバッチテストを可能にし、実世界の条件下での迅速かつ正確な検証を可能にします。
e² studioで作業している場合でも、サポートされている他のIDEで作業している場合でも、これらのツールは、精度の向上、テストの高速化、プロトタイプからデプロイまでのパスの簡素化により、エッジAIの開発を加速するのに役立ちます。 このブログでは、各ユーティリティと、それが最初から最後まで忠実度の高い堅牢なエッジAIシステムの構築にどのように貢献するかについて説明します。
Reality AI Utilitiesはどのようにプロセスを効率化するか?
一般的な組み込みAIプロジェクトの開発は、以下のワークフローに従います：
- データを収集するためのファームウェアの書き込み。
- ファイル形式に合わせてデータを前処理し、AIツールで使用します。
- モデルを開発して最適化します。
- ファームウェアを書き込んで精度/推論速度を計算することにより、デバイス上のモデルを検証します。
- モデルを組み込みプロジェクトのワークフローに統合して、フィールドテストを行います。
Reality AI Utilitiesは、上記の主要なステップを自動化することで、これを簡素化します。 エンドツーエンドのワークフロー図を次に示します。
ワークフローの最初のステップは、Reality AI Tools®クラウドプラットフォームからAPIキーを取得し、e² studio内またはスタンドアロンアプリケーションを使用してReality AI Utilitiesプラグインとリンクすることです。 接続すると、ローカル環境とクラウド間でデータをシームレスに転送でき、両方のツールを並べて使用したり、切り替えたりすることができます。 次に、 e² studio または Renesas Smart Configurator を使用して組み込みプロジェクトをセットアップし、データ収集用のローカルワークスペースを作成し、ハードウェア上で直接AI推論モジュールを実行します。
プロジェクトが実施されたら、 Data Storage Tool(DST)から始めて、Reality AI Utilitiesの活用を開始できます。 DSTは、センサーまたはチャネルデータをキャプチャし、ラベル付けして、リンクされたReality AI Tools®プロジェクトにアップロードするためのシンプルでありながら強力なインターフェースを提供します。 このツールは、フォーマットとラベルの一貫性を処理するため、開発者はユースケースに適した種類と量のデータを収集することに集中できます。
内部的には、ルネサスは Data Collector/Data Shipper(DC / DS)と呼ばれる軽量なミドルウェアを提供しています。 これらのモジュールはデータ フローを抽象化するため、コードを書き直すことなく、トレーニング データを簡単に収集して AI 推論モジュールにルーティングできます。 何よりも、DC/DSは、カスタムボードを含むルネサスベースのあらゆるハードウェアで動作します。 UARTまたはUSB接続がある限り、評価キットの使用に限定されません。
モデル開発中、Reality AI Toolsは、モデルの精度、サイズ、複雑さを継続的に推定します。 ただし、コンパイラ ツールチェーンによってさまざまな低レベルの最適化が適用されるため、推論時間やメモリ使用量などの真のモデルのパフォーマンスを正確に検証できるのは、モデルが実際のハードウェアにデプロイされている場合のみです。
これに対処するために、Reality AI Utilitiesには強力な HiL(Hardware-in-the-Loop)テスト 機能が含まれています。 このツールは、ユーザーのReality AI Toolsアカウントに直接接続し、選択したモデルと関連するデータセットを自動的にダウンロードし、Reality AI Utilitiesの「VIEW」環境内のテストプロジェクトに統合します。
ワンクリックでコーディング不要で、システムはプロジェクトを構築し、接続されたルネサスハードウェアでモデルを実行し、推論時間、実際のデータセットでのモデル精度、モデルメモリ要件などの実世界のメトリックを報告します。
モデルが許容できる結果をもたらした場合、次のステップはフィールドテストであり、Reality AI Utilitiesは Live Monitorで威力を発揮します。 AI Live Monitor は、同じ軽量 DC/DS ミドルウェア上に構築されており、開発したモデルのリアルタイムのフィールド テストを可能にします。 これは、エンジニアがモデルの信頼水準について明確な洞察を得る確率スコアや、現在の予測だけでなく以前のデータ傾向も考慮して堅牢性を高める後処理手法である平滑化などの強力な機能を提供します。 すべての機能は、直感的なGUIからアクセス可能で、面倒なコーディングは一切不要。誰でも簡単にエッジAI開発を始められます。 これらの機能により、エンジニアは自信を持って製品展開へと進めるだけでなく、必要に応じてパラメータを洗練し、追加データを用いて再トレーニングを行うことも可能です。
プロジェクトの進行中において、モデルの精度と正確性を維持しながら、開発時間を効率的に短縮することは、成功への鍵となる最優先事項です。 これは、ハードウェア、データ収集、センサー統合などの固有の複雑さにより、組み込みAIシステムを扱う場合、さらに重要になります。しかし、Reality AI Utilitiesは、プロジェクトのワークフローを自動化および簡素化することで、モデルサイズを極限まで最小限に抑えながら、データの忠実度を最大限に高めてターゲットソリューションの開発を加速することができます。
ぜひ、これらのツールを活用して、開発体験をさらに向上させてください。