Outils d'Ingénierie Physical AI

Calculateur de Budget Calcul, Latence & Stockage VLA Embarqué

Dimensionnez les budgets embarqués des véhicules autonomes, engins tout-terrain et robots mobiles exécutant des modèles Vision-Langage-Action (VLA) : puissance TOPS, latence prefill + décodage, mémoire unifiée, SSD embarqué, transfert cloud et comparaison Vision seule vs Vision+LiDAR.

1. Scénario & Paramètres

Sélectionnez un préréglage ou modifiez n'importe quel paramètre ci-dessous.

1. Architecture du Modèle
2. Entrées Capteurs par Pas (Vision & LiDAR)

La réutilisation KV en streaming conserve les trames passées en cache pour ne pré-remplir qu'une seule nouvelle trame par cycle.

3. Fréquence & SoC Embarqué
40%

L'utilisation effective se situe généralement entre 0,30 et 0,50 en raison des limites de bande passante mémoire.

4. Enregistrement d'Événements, Stockage & Transfert
50%

2. Résultats du Budget Embarqué

Occupation du SoC --
Latence par pas --
Calcul soutenu (éq. FP16) --
Mémoire (Poids+KV+Act.) --
Palier SSD embarqué conseillé --
Transfert mensuel de données --
Faisabilité Temps Réel --
Tokens de contexte en cache --
Nouveaux tokens / pas --
Total tokens / pas (actions incl.) --
FLOPs d'inférence / pas --
TOPS INT8 requis / SoC choisi --
Latence (Prefill / Décodage / Total) --
Mémoire (Poids / KV / Act. / Total) --
Débit événement / Taille par clip --

3. Comparaison Vision seule vs Vision+LiDAR

Active/désactive uniquement le LiDAR à paramètres constants pour mesurer l'impact sur 10 métriques.

Métrique Vision seule Vision + LiDAR Écart (Δ)

* Note : Outil d'estimation d'ordre de grandeur (tolérance ±2×). Prévoir une marge supplémentaire pour le modèle de sécurité de secours.

Méthodologie & Guide d'Ingénierie du Budget VLA Embarqué

Le déploiement d'un modèle VLA de 7B à 20B paramètres sur un véhicule ou un robot mobile impose d'équilibrer simultanément la puissance TOPS, la latence par cycle, la mémoire KV et le stockage SSD.

1. Formules de Dimensionnement

La passe avant est estimée à 2N FLOPs par token, avec un débit INT8/FP8 compté à 2× l'équivalent FP16 pondéré par l'utilisation réelle (η_util) :

T_ctx = (C_cam × T_cam + I_lidar × T_lidar) × W_win T_new = (C_cam × T_cam + I_lidar × T_lidar) × (1 if KV_reuse else W_win) FLOPs_step ≈ 2 × N × (T_new + T_action) · P_sustained = FLOPs_step × f_Hz TOPS_int8_req = P_sustained ÷ (2 × η_util) · Occupancy = TOPS_int8_req ÷ TOPS_SoC t_step = t_prefill + t_decode = FLOPs_step ÷ (TOPS_SoC × 2 × η_util × 10^12) × 1000 [ms] M_KV = 2 × H_kv × d_head × L × b_kv × T_ctx ÷ 10^9 [GB] · M_total = M_weights + M_KV + M_act

* Les poids incluent 5 % de métadonnées de quantification ; le stockage embarqué prévoit deux versions A/B OTA (2 × M_weights + 1,5 GB) et 30 GB pour le système.

2. Réutilisation du Cache KV en Streaming

En réutilisant le cache KV des trames précédentes, chaque cycle ne pré-remplit que la nouvelle trame capteur, réduisant fortement la latence.

3. Tampon Circulaire d'Événements & Transfert Flotte

L'enregistrement par clips de 60 secondes autour des événements critiques optimise l'endurance du SSD embarqué et les coûts cellulaires/Wi-Fi.

4. Questions Fréquentes (FAQ)

Pourquoi diviser le calcul FP16 soutenu par 2 pour obtenir les TOPS INT8 requis ?

La formule 2N FLOPs/token correspond au calcul FP16. Les cœurs Tensor INT8/FP8 offrant environ le double de débit par cycle, on divise par 2 et par le taux d'utilisation.

Quel est l'impact principal de l'ajout du LiDAR ?

L'ajout de 2 048 à 4 096 tokens LiDAR par trame augmente le prefill et la latence de 35 % à 60 %, ainsi que la taille des clips d'événements et le volume transféré au cloud.

Pourquoi retenir un taux d'utilisation entre 0,30 et 0,50 ?

Les TOPS annoncés par les fabricants sont des pics théoriques. En pratique, la bande passante mémoire limite l'efficacité réelle entre 30 % et 50 %.