Cartes graphiques

Des GPU dédiés pour accélérer l’inférence locale, du PC accessible à la station professionnelle

20 machines12 à 96 Go de mémoire249 à 28000 de budgetjusqu'à 175 tok/s mesurés (NVIDIA GeForce RTX 5090)

Les cartes graphiques dédiées sont des composants installés dans une tour et reliés à la carte mère par PCIe. Leur mémoire vidéo, distincte de la RAM système, accueille les poids du modèle et les données nécessaires à l’inférence. Cette architecture se distingue des processeurs généralistes et des solutions à mémoire unifiée par une forte spécialisation dans les calculs parallèles, adaptée aux stations locales évolutives.

Le catalogue réunit 20 modèles AMD, Intel et NVIDIA, couvrant des usages et des budgets très variés. La VRAM s’étend de 12 à 96 Go, tandis que les tarifs vont de 249 à 28 000 selon la carte. Cette amplitude permet d’envisager aussi bien des modèles compacts que des modèles plus volumineux, sous réserve de leur format et de leur quantification. Les meilleurs débits mesurés sont dominés par la GeForce RTX 5090, devant plusieurs cartes GeForce et professionnelles NVIDIA.

MachineGéné. 8BMémoireBande passanteTDPPrix
NVIDIA RTX PRO 6000 Blackwell Workstation Edition103 tok/s96 Go1 792 Go/s600 W11 830 $
NVIDIA A100 80 Go PCIen.d.80 Go1 935 Go/s300 W4 800 $
NVIDIA H100 PCIe 80 Gon.d.80 Go2 000 Go/s350 W28 000 $
NVIDIA RTX 6000 Ada Generation121 tok/s48 Go960 Go/s300 W6 800 $
NVIDIA RTX A6000n.d.48 Go768 Go/s300 W4 650 $
AMD Radeon AI PRO R970077 tok/s32 Go640 Go/s300 W1 299 $
NVIDIA GeForce RTX 5090175 tok/s32 Go1 792 Go/s575 W2 999 $
AMD Radeon RX 7900 XTX96 tok/s24 Go960 Go/s355 W930 $
NVIDIA GeForce RTX 309096 tok/s24 Go936 Go/s350 W1 050 $
NVIDIA GeForce RTX 3090 Ti110 tok/s24 Go1 008 Go/s450 W1 240 $
NVIDIA GeForce RTX 4090120 tok/s24 Go1 008 Go/s450 W1 599 $
AMD Radeon RX 9070 XT55 tok/s16 Go640 Go/s304 W599 $
Intel Arc A770 16 Go39 tok/s16 Go560 Go/s225 W349 $
NVIDIA GeForce RTX 4060 Ti 16 Go34 tok/s16 Go288 Go/s165 W499 $
NVIDIA GeForce RTX 4070 Ti SUPER72 tok/s16 Go672 Go/s285 W799 $
NVIDIA GeForce RTX 4080 SUPER79 tok/s16 Go736 Go/s320 W999 $
NVIDIA GeForce RTX 5060 Ti 16 Go59 tok/s16 Go448 Go/s180 W429 $
NVIDIA GeForce RTX 5070 Ti88 tok/s16 Go896 Go/s300 W749 $
NVIDIA GeForce RTX 508095 tok/s16 Go960 Go/s360 W999 $
Intel Arc B58035 tok/s12 Go456 Go/s190 W249 $