Physical AI 工程工具

车载/机器人端侧 VLA 算力·延迟·存储预算计算器

面向越野/城区自动驾驶与具身移动机器人的车端 VLA 预算估算工具：实时计算推理算力、预填充与动作解码延迟、显存占用、车上存储分级与数据回传流量，并量化对比纯视觉与视觉+激光雷达方案。

1. 预设方案与参数配置

选择预设方案后，手动调整下方任意参数将自动切换为自定义模式。

1. 模型结构
2. 每步传感器输入（视觉 & 激光）

开启流式 KV 缓存复用后，历史帧特征直接从缓存读取，每步仅对新到达的 1 帧进行 Prefill。

3. 运行频率与车端芯片
40%

受访存带宽与算子调度影响，车端真实利用率通常在 0.30–0.50 之间。

4. 触发采集 · 车上存储 · 数据回传
50%

2. 车端预算评估结果

车端芯片占用率 --
单步推理延迟 --
持续算力 (FP16 等效) --
显存合计（权重+KV+激活） --
车上 SSD 存储建议 --
月度数据回传 --
车端实时可行性评估 --
上下文缓存 Token --
每步新输入 Token --
每步总 Token（含动作） --
每步推理 FLOPs --
所需 INT8 TOPS / 当前芯片 --
延迟拆分（预填充 / 解码 / 合计） --
显存拆分（权重 / KV / 激活 / 合计） --
事件数据码率 / 单事件大小 --

3. 纯视觉 vs 视觉+激光 对比（当前参数）

对比仅切换激光开关，其余参数保持不变，量化评估引入激光点云对算力、延迟与存储回传的增幅（Δ）。

对比指标 纯视觉 (Vision) 视觉+激光 (Vision+LiDAR) 增幅 (Δ)

* 说明：计算结果为数量级工程参考（容差 ±2 倍），不含安全兜底小模型的算力占用，跨厂商芯片对比建议额外预留 10–20% 余量。

车端 VLA 预算计算口径与工程设计指南

在越野或城市自动驾驶车辆及移动机器人上部署 7B–20B 规模的 VLA（视觉-语言-动作）模型时，工程团队必须同时平衡四项强耦合指标：控制帧率下的持续 TOPS 算力、单步预填充与动作解码延迟、权重与多帧 KV 缓存显存，以及车队事件触发存储与回传带宽。

1. 核心计算公式与口径

每 Token 前向计算量按 2N FLOPs 估算；INT8/FP8 吞吐按 FP16 等效的 2 倍乘以实际利用率（η_util）折算：

T_ctx = (C_cam × T_cam + I_lidar × T_lidar) × W_win T_new = (C_cam × T_cam + I_lidar × T_lidar) × (1 if KV_reuse else W_win) FLOPs_step ≈ 2 × N × (T_new + T_action) · P_sustained = FLOPs_step × f_Hz TOPS_int8_req = P_sustained ÷ (2 × η_util) · Occupancy = TOPS_int8_req ÷ TOPS_SoC t_step = t_prefill + t_decode = FLOPs_step ÷ (TOPS_SoC × 2 × η_util × 10^12) × 1000 [ms] M_KV = 2 × H_kv × d_head × L × b_kv × T_ctx ÷ 10^9 [GB] · M_total = M_weights + M_KV + M_act

* 模型权重显存含 5% 量化元数据开销；车上存储按 OTA A/B 双版本（2 × M_weights + 1.5 GB）与 30 GB 系统预留空间计入。

2. 流式 KV 缓存复用与多模态 Token 瓶颈

多路环视相机加激光点云在多帧融合窗口下的上下文动辄超过上万 Token。若每步都对整个时间窗口重新 Prefill，即便 2000 TOPS 级芯片也难以支撑 10Hz 闭环。开启流式 KV 复用后，每步仅预填充新进入的 1 帧传感器 Token，大幅降低延迟。

3. 事件触发环形缓存与车队回传规划

量产车队通常采用环形缓冲区（Ring Buffer）按触发事件录制 60 秒片段，在车端 SSD 留存 7–14 天，并按比例（如 50%）回传云端用于数据闭环训练。

4. 常见问题 (FAQ)

为什么计算所需 INT8 TOPS 时要将持续 FP16 等效算力除以 2？

Transformer 前向公式（2N FLOPs/Token）对应 FP16 基准运算量。车载 SoC 标称的 INT8/FP8 TOPS 在同频下吞吐约为 FP16 的 2 倍，因此除以 2 再除以实际硬件利用率即可得到所需的标称 INT8 TOPS。

引入激光点云 Token 对哪项预算影响最显著？

每帧增加 2048–4096 个点云 Token 会使每步预填充 Token 增加 35%–60%，直接推高单步延迟与芯片占用率；同时激光雷达约 0.5 MB/s 的数据流也会显著增加单事件体积与每月车队回传流量。

为什么实际硬件利用率建议设在 0.30–0.50 之间？

芯片厂商公布的 TOPS 多为包含稀疏特性的理论峰值。实际运行多相机视觉编码、GQA KV 缓存读取与逐 Token 动作解码时受限于显存带宽与算子开销，真实利用率通常在 30%–50% 左右。

Physical AI Portal 相关文章(英文)

参考的一手资料

数据与公式核实日期：2026-10-26 · 运营者：Huni ([email protected])