Cartes graphiques
Des GPU dédiés pour accélérer l’inférence locale, du PC accessible à la station professionnelle
Les cartes graphiques dédiées sont des composants installés dans une tour et reliés à la carte mère par PCIe. Leur mémoire vidéo, distincte de la RAM système, accueille les poids du modèle et les données nécessaires à l’inférence. Cette architecture se distingue des processeurs généralistes et des solutions à mémoire unifiée par une forte spécialisation dans les calculs parallèles, adaptée aux stations locales évolutives.
Le catalogue réunit 20 modèles AMD, Intel et NVIDIA, couvrant des usages et des budgets très variés. La VRAM s’étend de 12 à 96 Go, tandis que les tarifs vont de 249 à 28 000 selon la carte. Cette amplitude permet d’envisager aussi bien des modèles compacts que des modèles plus volumineux, sous réserve de leur format et de leur quantification. Les meilleurs débits mesurés sont dominés par la GeForce RTX 5090, devant plusieurs cartes GeForce et professionnelles NVIDIA.
| Machine | Géné. 8B | Mémoire | Bande passante | TDP | Prix |
|---|---|---|---|---|---|
| NVIDIA RTX PRO 6000 Blackwell Workstation Edition | 103 tok/s | 96 Go | 1 792 Go/s | 600 W | 11 830 $ |
| NVIDIA A100 80 Go PCIe | n.d. | 80 Go | 1 935 Go/s | 300 W | 4 800 $ |
| NVIDIA H100 PCIe 80 Go | n.d. | 80 Go | 2 000 Go/s | 350 W | 28 000 $ |
| NVIDIA RTX 6000 Ada Generation | 121 tok/s | 48 Go | 960 Go/s | 300 W | 6 800 $ |
| NVIDIA RTX A6000 | n.d. | 48 Go | 768 Go/s | 300 W | 4 650 $ |
| AMD Radeon AI PRO R9700 | 77 tok/s | 32 Go | 640 Go/s | 300 W | 1 299 $ |
| NVIDIA GeForce RTX 5090 | 175 tok/s | 32 Go | 1 792 Go/s | 575 W | 2 999 $ |
| AMD Radeon RX 7900 XTX | 96 tok/s | 24 Go | 960 Go/s | 355 W | 930 $ |
| NVIDIA GeForce RTX 3090 | 96 tok/s | 24 Go | 936 Go/s | 350 W | 1 050 $ |
| NVIDIA GeForce RTX 3090 Ti | 110 tok/s | 24 Go | 1 008 Go/s | 450 W | 1 240 $ |
| NVIDIA GeForce RTX 4090 | 120 tok/s | 24 Go | 1 008 Go/s | 450 W | 1 599 $ |
| AMD Radeon RX 9070 XT | 55 tok/s | 16 Go | 640 Go/s | 304 W | 599 $ |
| Intel Arc A770 16 Go | 39 tok/s | 16 Go | 560 Go/s | 225 W | 349 $ |
| NVIDIA GeForce RTX 4060 Ti 16 Go | 34 tok/s | 16 Go | 288 Go/s | 165 W | 499 $ |
| NVIDIA GeForce RTX 4070 Ti SUPER | 72 tok/s | 16 Go | 672 Go/s | 285 W | 799 $ |
| NVIDIA GeForce RTX 4080 SUPER | 79 tok/s | 16 Go | 736 Go/s | 320 W | 999 $ |
| NVIDIA GeForce RTX 5060 Ti 16 Go | 59 tok/s | 16 Go | 448 Go/s | 180 W | 429 $ |
| NVIDIA GeForce RTX 5070 Ti | 88 tok/s | 16 Go | 896 Go/s | 300 W | 749 $ |
| NVIDIA GeForce RTX 5080 | 95 tok/s | 16 Go | 960 Go/s | 360 W | 999 $ |
| Intel Arc B580 | 35 tok/s | 12 Go | 456 Go/s | 190 W | 249 $ |