Herramientas de Ingeniería Physical AI

Calculadora de Presupuesto de Cómputo, Latencia y Almacenamiento VLA a Bordo

Dimensione el presupuesto integral a bordo para vehículos autónomos, todoterreno y robots móviles que ejecutan modelos Visión-Lenguaje-Acción (VLA): cómputo TOPS sostenido, latencia de prefill + decodificación, memoria unificada, SSD a bordo y comparativa Solo Visión vs. Visión+LiDAR.

1. Escenario y Parámetros

Seleccione un preajuste o modifique cualquier parámetro para cambiar al modo personalizado.

1. Arquitectura del Modelo
2. Entrada de Sensores por Paso (Visión y LiDAR)

La reutilización KV en streaming conserva los fotogramas previos en caché para procesar solo 1 fotograma nuevo por ciclo.

3. Frecuencia y SoC a Bordo
40%

La utilización real suele situarse entre 0,30 y 0,50 debido a los límites de ancho de banda de memoria.

4. Registro de Eventos, Almacenamiento y Carga
50%

2. Resultados del Presupuesto a Bordo

Ocupación del SoC --
Latencia por paso --
Cómputo sostenido (eq. FP16) --
Memoria (Pesos+KV+Act.) --
Nivel de SSD a bordo sugerido --
Subida mensual de datos --
Viabilidad en Tiempo Real --
Tokens de contexto en caché --
Nuevos tokens / paso --
Total tokens / paso (acciones incl.) --
FLOPs de inferencia / paso --
TOPS INT8 requeridos / SoC --
Latencia (Prefill / Decodif. / Total) --
Memoria (Pesos / KV / Act. / Total) --
Tasa de evento / Tamaño por clip --

3. Comparativa: Solo Visión vs. Visión+LiDAR

Alterna únicamente el interruptor LiDAR manteniendo el resto de parámetros fijos en 10 métricas.

Métrica Solo Visión Visión + LiDAR Cambio (Δ)

* Nota: Estimador de orden de magnitud (±2× de tolerancia). Reserve margen adicional para el controlador de seguridad de respaldo.

Metodología y Guía de Ingeniería de Presupuesto VLA a Bordo

Desplegar un modelo VLA de 7B a 20B parámetros en un vehículo autónomo o robot móvil exige dimensionar simultáneamente los TOPS sostenidos, la latencia por ciclo, la memoria KV y el almacenamiento SSD.

1. Fórmulas de Dimensionamiento

El paso hacia adelante se aproxima como 2N FLOPs por token, con rendimiento INT8/FP8 modelado a 2× el equivalente FP16 escalado por la utilización efectiva (η_util):

T_ctx = (C_cam × T_cam + I_lidar × T_lidar) × W_win T_new = (C_cam × T_cam + I_lidar × T_lidar) × (1 if KV_reuse else W_win) FLOPs_step ≈ 2 × N × (T_new + T_action) · P_sustained = FLOPs_step × f_Hz TOPS_int8_req = P_sustained ÷ (2 × η_util) · Occupancy = TOPS_int8_req ÷ TOPS_SoC t_step = t_prefill + t_decode = FLOPs_step ÷ (TOPS_SoC × 2 × η_util × 10^12) × 1000 [ms] M_KV = 2 × H_kv × d_head × L × b_kv × T_ctx ÷ 10^9 [GB] · M_total = M_weights + M_KV + M_act

* Los pesos incluyen un 5 % de metadatos de cuantización; el almacenamiento a bordo contempla doble ranura A/B OTA (2 × M_weights + 1,5 GB) y 30 GB para el sistema.

2. Reutilización de Caché KV en Streaming

Al reutilizar la caché KV de fotogramas anteriores, cada ciclo solo pre-rellena el nuevo fotograma entrante, reduciendo drásticamente la latencia.

3. Búfer Circular de Eventos y Subida de Flota

Grabar clips de 60 segundos activados por eventos optimiza la vida útil del SSD NVMe a bordo y el ancho de banda celular/Wi-Fi.

4. Preguntas Frecuentes (FAQ)

¿Por qué se divide el cómputo FP16 sostenido entre 2 para calcular los TOPS INT8 requeridos?

La fórmula 2N FLOPs/token mide operaciones FP16. Como los núcleos Tensor INT8/FP8 ejecutan aproximadamente el doble de operaciones por ciclo que FP16, se divide entre 2 y entre la utilización efectiva.

¿Qué sobrecarga añade la fusión LiDAR?

Añadir 2.048–4.096 tokens LiDAR por fotograma incrementa el prefill y la latencia entre un 35 % y un 60 %, además de aumentar el tamaño de cada clip y la subida mensual a la nube.

¿Por qué configurar la utilización efectiva entre 0,30 y 0,50?

Los TOPS publicados por los fabricantes son picos teóricos. En tiempo real, el ancho de banda de memoria limita la eficiencia efectiva al 30 %–50 %.