À propos du calculateur de VRAM edge pour VLA & robotique

Le calculateur de VRAM edge pour VLA & robotique (vla-vram-calc.physicaiportal.com) est un outil gratuit dans le navigateur. Il aide les développeurs en robotique à estimer la mémoire unifiée et la bande passante mémoire dont un modèle Vision-Language-Action (VLA) a besoin avant de le déployer sur un calculateur embarqué comme NVIDIA Jetson Orin ou Thor. Il est disponible en coréen, anglais, japonais, chinois (simplifié et traditionnel), allemand, français et espagnol.

1. Ce que le calculateur estime

• Poids du modèle : nombre de paramètres × octets par paramètre selon la précision choisie (FP16 2,0, FP8 1,0, W8A16 environ 1,05, W4A16 avec tête d'action FP16 environ 0,62, NVFP4 environ 0,56).
• Cache KV des tokens visuels et activations : une estimation empirique proportionnelle à caméras × tokens par caméra × images d'historique et à la taille du modèle.
• Réserve système de 3 Go : tampons de communication ROS 2, tampons caméra, runtime CUDA/TensorRT et marge du système d'exploitation.
• Bande passante et fréquence d'inférence : fréquence d'inférence = fréquence de contrôle ÷ actions exécutées par chunk ; bande passante requise = mémoire lue par inférence × fréquence d'inférence ÷ taux d'utilisation.
• Données matérielles : mémoire, bande passante et consommation issues des pages produit officielles NVIDIA Jetson Orin et Thor. Le nombre de paramètres de chaque modèle provient de son article, de son dépôt officiel ou de sa fiche de modèle.

2. Avertissement

Les résultats sont des estimations destinées à la conception préliminaire et au choix du matériel. Pour un déploiement réel, et en particulier pour des boucles de contrôle critiques pour la sécurité, vérifiez toujours les fiches techniques du fabricant ainsi que les mesures de mémoire et de latence sur l'appareil cible. Voir l'avertissement et les conditions d'utilisation (en anglais).

3. Corrections et contact

Si vous constatez une spécification matérielle modifiée, une formule perfectible, une erreur de traduction ou un bug, écrivez à [email protected]. Les coefficients et les données de référence sont mis à jour après vérification.