NVIDIA H100 PCIe 80 Go
La NVIDIA H100 PCIe 80 Go est un GPU de centre de données destiné aux serveurs, plutôt qu’une carte graphique grand public. Son architecture Hopper GH100, une génération conçue par NVIDIA pour le calcul intensif et l’IA, réunit 14 592 cœurs CUDA et 80 Go de mémoire HBM2e, une mémoire…
La NVIDIA H100 PCIe 80 Go est un GPU de centre de données destiné aux serveurs, plutôt qu’une carte graphique grand public. Son architecture Hopper GH100, une génération conçue par NVIDIA pour le calcul intensif et l’IA, réunit 14 592 cœurs CUDA et 80 Go de mémoire HBM2e, une mémoire très rapide placée au plus près du processeur.
Avec 2 000 Go/s de bande passante mémoire et un TDP de 350 W, soit l’enveloppe de consommation thermique prévue, cette carte cible l’inférence on-prem, c’est-à-dire l’exécution des modèles sur une infrastructure locale. Son format PCIe à deux slots et son refroidissement passif imposent toutefois un serveur doté d’un flux d’air forcé.
Carte d'identité
| Caractéristique | Valeur |
|---|---|
| Constructeur | NVIDIA |
| Catégorie | Cartes graphiques |
| Statut | Occasion (plus produit) |
| Date de sortie | 22 mars 2022 |
| Mémoire | 80 Go (HBM2e) |
| Bande passante mémoire | 2 000 Go/s |
| Consommation (TDP) | 350 W |
| GPU | Hopper GH100, 14 592 cœurs CUDA (114 SM) |
| Format | Carte PCIe (2 slots), refroidissement passif serveur |
| Extensible | Non |
| Prix constaté | 28 000 $ (eBay (marché secondaire), 10 juillet 2026) |
| Fiche constructeur | specs officielles |
Quels modèles peut-elle faire tourner ?
| Modèle étalon | Verdict |
|---|---|
| 8 B (Llama 3.1 8B, Q4) | ✅ À l'aise |
| 14 B (Qwen3 14B, Q4) | ✅ À l'aise |
| 32 B (Qwen3 32B, Q4) | ✅ À l'aise |
| 70 B (Llama 3.3 70B, Q4) | ✅ À l'aise |
| 120 B MoE (gpt-oss-120B, MXFP4) | ✅ À l'aise |
Estimation mémoire : environ 0,6 Go par milliard de paramètres en Q4, plus le contexte. « Juste » : le modèle se charge mais le contexte utilisable est réduit.
Performances mesurées
| Modèle | Quantisat° | Lecture | Génération | Runtime | Source |
|---|---|---|---|---|---|
| Llama 2 7B | Q4_0 | 11 263 tok/s | 281 tok/s | llama.cpp (CUDA) | knightli.com (scoreboard llama.cpp) (10 juillet 2026) |
« Lecture » (prompt processing) : vitesse d'ingestion du contexte. « Génération » : vitesse d'écriture de la réponse, celle que l'on perçoit à l'usage. Deux mesures ne sont comparables qu'à modèle, quantisation et runtime identiques.
Notre analyse
Les 80 Go de HBM2e et leurs 2 000 Go/s permettent d’exécuter confortablement Llama 3.1 8B, Qwen3 14B, Qwen3 32B et Llama 3.3 70B en Q4, une quantification ramenant les poids à quatre bits pour réduire l’empreinte mémoire. La carte accueille aussi gpt-oss-120B en MXFP4, un format numérique sur quatre bits, ce modèle étant un MoE, ou mélange d’experts, qui n’active qu’une partie de ses paramètres à chaque calcul. Sur Llama 2 7B en Q4_0 avec llama.cpp, un moteur d’inférence local, et CUDA, la plateforme de calcul GPU de NVIDIA, elle atteint 281 tok/s, soit 281 fragments de texte générés par seconde. Rapporté au TDP de 350 W, ce test représente environ 0,80 tok/s par watt, sans résumer les performances sur d’autres modèles. Le prix constaté de 28 000 USD sur eBay rend le rapport performance-prix difficile à défendre hors besoins professionnels exigeant 80 Go sur une seule carte. Désormais disponible d’occasion et plus produite, elle dépend du marché secondaire. Son refroidissement passif élimine le ventilateur embarqué, mais exige un châssis serveur à air forcé, avec une contrainte acoustique potentielle. Elle conserve surtout du sens pour l’inférence locale de grands modèles dans un environnement serveur compatible CUDA.
Sources : specs NVIDIA, knightli.com (scoreboard llama.cpp).