關於 VLA 與機器人邊緣記憶體計算器

VLA 與機器人邊緣記憶體計算器(vla-vram-calc.physicaiportal.com)是一款免費的瀏覽器工具,協助機器人開發者在把 VLA(Vision-Language-Action)模型部署到 NVIDIA Jetson Orin、Thor 等機載電腦之前,估算所需的統一記憶體與記憶體頻寬。提供韓語、英語、日語、中文(簡體、繁體)、德語、法語與西班牙語版本。

1. 計算依據

• 模型權重:參數量 × 所選精度的每參數位元組數(FP16 2.0、FP8 1.0、W8A16 約 1.05、W4A16 + FP16 動作頭約 0.62、NVFP4 約 0.56)。
• 視覺 token 的 KV 快取與激活緩衝:與「攝影機數 × 每台攝影機 token 數 × 歷史影格數」及模型規模成正比的經驗公式。
• 3GB 系統保留:ROS 2 通訊緩衝、攝影機緩衝、CUDA/TensorRT 執行環境與作業系統餘裕。
• 頻寬與推論頻率:推論頻率 = 控制頻率 ÷ 每個分塊執行的動作數;所需頻寬 = 每次推論讀取量 × 推論頻率 ÷ 頻寬使用率。
• 硬體資料:取自 NVIDIA Jetson Orin、Thor 官方產品頁面的記憶體、頻寬與功耗數值。模型參數量依據各模型的論文、官方儲存庫或模型卡。

2. 免責聲明

計算結果是協助前期設計與硬體選擇的估計值。實際部署機器人,特別是對安全要求高的控制迴路時,請務必核對廠商資料表,以及在目標裝置上實測的記憶體與延遲。詳情請參閱免責聲明與使用條款(英文)。

3. 更正與聯絡

若發現硬體規格變更、公式改進建議、翻譯錯誤或功能異常,請寄信至 [email protected]。確認後我們會更新係數與參考資料。