Serveurs & accélérateurs

Les serveurs et accélérateurs regroupent des systèmes dédiés à l’inférence IA en datacenter ou en rack professionnel. Leur forte densité de calcul, leur capacité mémoire élevée et leur conception orientée vers les charges soutenues les distinguent des ordinateurs personnels. Cette catégorie couvre aussi bien des serveurs CPU que des accélérateurs spécialisés et des configurations réunissant plusieurs GPU.

Le catalogue rassemble quatre machines signées AMD, Tenstorrent et tiny corp, avec une mémoire allant de 32 à 512 Go selon le modèle et un budget débutant autour de 1 399. Cette amplitude permet d’envisager des modèles et des contextes de tailles très différentes, depuis un accélérateur dédié jusqu’à une tinybox équipée de quatre RTX 5090. Les configurations CPU-only EPYC et Threadripper PRO privilégient une importante mémoire système, tandis que le serveur AMD EPYC 9004 atteint le meilleur débit de génération mesuré de la catégorie, à 28 tok/s.