Physical AI エンジニアリングツール

車載・ロボットVLA 演算・遅延・ストレージ予算計算機

自動運転車・オフロード車・移動ロボットに搭載するVLA(視覚・言語・行動)モデルの1ステップ推論演算量、プリフィル+デコード遅延、メモリ容量、車載SSDストレージ、月間クラウド送信量を一括試算し、ビジョン単独とビジョン+LiDARのコスト差を比較します。

1. シナリオ・パラメータ設定

プリセット選択後、個別の数値を変更すると自動的にカスタムモードに切り替わります。

1. モデル構造
2. ステップごとのセンサー入力(ビジョン & LiDAR)

ストリーミングKV再利用を有効にすると、過去フレームのKVを再計算せず新規1フレーム分のトークンのみプリフィルします。

3. 推論周期 & 車載SoC
40%

メモリ帯域やカーネル起動オーバーヘッドにより、実車での実効利用率は通常 0.30〜0.50 程度となります。

4. イベント記録・車載ストレージ・オフロード
50%

2. オンボード予算算出結果

車載SoC占有率 --
1ステップ推論遅延 --
持続推論演算量 (FP16換算) --
オンボードメモリ (重み+KV+活性化) --
推奨車載SSD容量ティア --
月間データオフロード量 --
リアルタイム動作判定 --
キャッシュ文脈トークン数 --
毎ステップ新規入力トークン --
毎ステップ総トークン(行動含む) --
1ステップ推論FLOPs --
必要INT8 TOPS / 選択SoC --
遅延内訳(Prefill / Decode / 合計) --
メモリ内訳(重み / KV / 活性化 / 合計) --
イベント記録速度 / 1件あたり容量 --

3. ビジョン単独 vs ビジョン+LiDAR 比較(現在設定)

他のパラメータを固定したままLiDARスイッチのみを切り替え、10項目の演算・遅延・ストレージ増分(Δ)を比較します。

評価指標 ビジョン単独 (Vision) ビジョン+LiDAR 増減率 (Δ)

* 注記:本ツールは桁数(±2倍許容)レベルのアーキテクチャ試算用です。安全フォールバック制御モデルの演算マージンは別途確保してください。

車載VLA予算の算出式とエンジニアリングガイド

自動運転車やフィールドロボットに7B〜20BクラスのVLAモデルを搭載する際は、制御周期内の持続TOPS、1ステップのPrefill+行動デコード遅延、重みとマルチフレームKVキャッシュのメモリ容量、さらにイベント収集SSDと通信量を同時に満たす必要があります。

1. 主要な算出式

1トークンあたりの順伝播を約 2N FLOPs とし、INT8/FP8スループットをFP16換算の2倍×実効利用率(η_util)として計算します:

T_ctx = (C_cam × T_cam + I_lidar × T_lidar) × W_win T_new = (C_cam × T_cam + I_lidar × T_lidar) × (1 if KV_reuse else W_win) FLOPs_step ≈ 2 × N × (T_new + T_action) · P_sustained = FLOPs_step × f_Hz TOPS_int8_req = P_sustained ÷ (2 × η_util) · Occupancy = TOPS_int8_req ÷ TOPS_SoC t_step = t_prefill + t_decode = FLOPs_step ÷ (TOPS_SoC × 2 × η_util × 10^12) × 1000 [ms] M_KV = 2 × H_kv × d_head × L × b_kv × T_ctx ÷ 10^9 [GB] · M_total = M_weights + M_KV + M_act

* 重みメモリには5%の量子化メタデータを含みます。車載ストレージにはOTA用A/Bデュアルモデル領域(2 × M_weights + 1.5 GB)とシステム領域(30 GB)を計上しています。

2. ストリーミングKV再利用とマルチモーダルトークンの負荷

複数カメラとLiDAR点群を複数フレーム束ねると文脈トークンは1万を超えます。毎周期すべてのフレームを再Prefillすると高出力SoCでも遅延予算を超過するため、過去フレームのKVを保持して新規1フレームのみを処理するストリーミングKV再利用が不可欠です。

3. イベントトリガー記録と月間オフロード設計

全センサー常時録画ではなく、介入や異常検知の前後60秒をリングバッファから切り出して車載SSDに7〜14日間保持し、一部(例:50%)をクラウドへアップロードすることで通信費とSSD寿命を最適化できます。

4. よくある質問 (FAQ)

必要INT8 TOPSを求める際に持続FLOPsを2で割るのはなぜですか?

2N FLOPs/tokenはFP16基準の演算量であり、車載SoCのINT8/FP8テンソルコアは同一クロックでFP16の約2倍のスループットを持つため、2と実効利用率で割ることで公称INT8 TOPSに換算しています。

LiDAR点群トークンを追加するとどの指標に最も影響しますか?

1フレームあたり2048〜4096トークンが加わることで新規Prefillトークンが35%〜60%増加し、単一ステップ遅延とSoC占有率が上昇します。また約0.5 MB/sの点群データにより車載キャッシュと月間通信量も増加します。

実効利用率を0.30〜0.50に設定する理由は何ですか?

メーカー公称TOPS(Thorの2000 TOPSスパースなど)は理論ピーク値です。実際のオンボード推論ではメモリ帯域律速となりやすく、ピーク比30%〜50%程度の実効性能となるためです。