NVIDIA Jetson AGX Orin 64 Go (Developer Kit)
Le NVIDIA Jetson AGX Orin 64 Go Developer Kit est une station IA embarquée destinée à la robotique, à l’edge, c’est-à-dire au traitement des données près de leur source, et au prototypage d’applications autonomes. Son format d’environ 11 cm la distingue des stations de travail…
Le NVIDIA Jetson AGX Orin 64 Go Developer Kit est une station IA embarquée destinée à la robotique, à l’edge, c’est-à-dire au traitement des données près de leur source, et au prototypage d’applications autonomes. Son format d’environ 11 cm la distingue des stations de travail conventionnelles.
Pour l’inférence locale, elle associe 64 Go de LPDDR5 unifiée, une mémoire partagée entre le processeur et le circuit graphique, dont environ 60 Go sont exploitables par le modèle, à 205 Go/s de bande passante. Son GPU Ampere intégré compte 2 048 cœurs CUDA, des unités de calcul parallèle de NVIDIA, tandis que son enveloppe configurable de 15 à 60 W favorise les déploiements contraints.
Carte d'identité
| Caractéristique | Valeur |
|---|---|
| Constructeur | NVIDIA |
| Catégorie | Stations IA |
| Statut | Disponible |
| Mémoire | 64 Go (LPDDR5 unifiée (bus 256 bits)) |
| Dont exploitable par le modèle | 60 Go (≈) |
| Bande passante mémoire | 205 Go/s |
| Consommation (TDP) | 60 W |
| CPU | Arm Cortex-A78AE, 12 cœurs |
| GPU | Ampere intégré, 2 048 cœurs CUDA |
| NPU | 275 TOPS |
| Format | Dev kit embarqué ~11 cm, 15 à 60 W configurable |
| Extensible | Non |
| Prix constaté | 1 999 $ (SparkFun, 10 juillet 2026) |
| Fiche constructeur | specs officielles |
Quels modèles peut-elle faire tourner ?
| Modèle étalon | Verdict |
|---|---|
| 8 B (Llama 3.1 8B, Q4) | ✅ À l'aise |
| 14 B (Qwen3 14B, Q4) | ✅ À l'aise |
| 32 B (Qwen3 32B, Q4) | ✅ À l'aise |
| 70 B (Llama 3.3 70B, Q4) | ✅ À l'aise |
| 120 B MoE (gpt-oss-120B, MXFP4) | ❌ Trop grand |
Estimation mémoire : environ 0,6 Go par milliard de paramètres en Q4, plus le contexte. « Juste » : le modèle se charge mais le contexte utilisable est réduit.
Performances mesurées
| Modèle | Quantisat° | Lecture | Génération | Runtime | Source |
|---|---|---|---|---|---|
| DeepSeek-R1-Distill-Qwen-7B | W4A16 | n.d. | 180 tok/s | vLLM (débit agrégé, 8 requêtes) | forums NVIDIA Developer (chiffres officiels) (10 juillet 2026) |
| DeepSeek-R1-Distill-Qwen-32B | W4A16 | n.d. | 17 tok/s | vLLM (débit agrégé, 8 requêtes) | forums NVIDIA Developer (chiffres officiels) (10 juillet 2026) |
« Lecture » (prompt processing) : vitesse d'ingestion du contexte. « Génération » : vitesse d'écriture de la réponse, celle que l'on perçoit à l'usage. Deux mesures ne sont comparables qu'à modèle, quantisation et runtime identiques.
Notre analyse
La capacité mémoire permet d’exécuter confortablement Llama 3.1 8B, Qwen3 14B, Qwen3 32B et même Llama 3.3 70B en Q4, une quantification ramenant généralement les poids à 4 bits pour réduire leur empreinte. En revanche, gpt-oss-120B en MXFP4 reste trop volumineux, malgré son architecture MoE, ou mélange d’experts, qui n’active qu’une partie du modèle à chaque calcul. Avec 205 Go/s, le débit dépend fortement de la taille du modèle et de la charge simultanée. Sous vLLM, un moteur d’inférence optimisé pour servir plusieurs requêtes, DeepSeek-R1-Distill-Qwen-7B en W4A16 atteint 180 tok/s en débit agrégé sur huit requêtes, contre 17 tok/s pour la version 32B. W4A16 désigne des poids sur 4 bits et des activations sur 16 bits.
À 1 999 USD constatés chez SparkFun le 10 juillet 2026, le positionnement privilégie la compacité, la mémoire et une consommation plafonnée à 60 W plutôt que le débit maximal. Le NPU de 275 TOPS, un accélérateur dédié aux opérations neuronales, renforce cette orientation vers l’edge. Le processeur Arm impose toutefois de vérifier la disponibilité des logiciels et binaires requis pour cette architecture. Le kit est indiqué comme disponible, mais les faits fournis ne permettent pas d’évaluer son bruit. Il a surtout du sens pour la robotique, les prototypes embarqués et les services locaux à faible consommation, notamment avec des modèles de 8B à 32B.
Sources : specs NVIDIA, forums NVIDIA Developer (chiffres officiels).