关于 VLA 与机器人边缘显存计算器

VLA 与机器人边缘显存计算器(vla-vram-calc.physicaiportal.com)是一款免费的浏览器工具,帮助机器人开发者在把 VLA(Vision-Language-Action)模型部署到 NVIDIA Jetson Orin、Thor 等板载计算机之前,估算所需的统一内存和内存带宽。提供韩语、英语、日语、中文(简体、繁体)、德语、法语和西班牙语版本。

1. 计算依据

• 模型权重:参数量 × 所选精度的每参数字节数(FP16 2.0、FP8 1.0、W8A16 约 1.05、W4A16 + FP16 动作头约 0.62、NVFP4 约 0.56)。
• 视觉 token 的 KV 缓存与激活缓冲:与“摄像头数 × 每摄像头 token 数 × 历史帧数”以及模型规模成正比的经验公式。
• 3GB 系统预留:ROS 2 通信缓冲、摄像头缓冲、CUDA/TensorRT 运行时和操作系统余量。
• 带宽与推理频率:推理频率 = 控制频率 ÷ 每个分块执行的动作数;所需带宽 = 每次推理读取量 × 推理频率 ÷ 带宽利用率。
• 硬件数据:来自 NVIDIA Jetson Orin、Thor 官方产品页面的内存、带宽和功耗数值。模型参数量依据各模型的论文、官方仓库或模型卡。

2. 免责声明

计算结果是辅助前期设计和硬件选型的估算值。实际部署机器人,尤其是对安全要求高的控制回路时,请务必核对厂商数据手册以及在目标设备上实测的内存和延迟。详情请参阅免责声明和使用条款(英文)。

3. 纠错与联系

如发现硬件规格变化、公式改进建议、翻译错误或功能故障,请发送邮件至 [email protected]。核实后我们会更新系数和参考数据。