Tenstorrent Blackhole p150a

La Tenstorrent Blackhole p150a est une carte PCIe, un format d’extension pour serveur, destinée à l’inférence on-premises, c’est-à-dire exécutée sur l’infrastructure locale. Son accélérateur dédié réunit 140 cœurs Tensix, des unités de calcul conçues par Tenstorrent, et se positionne…

La Tenstorrent Blackhole p150a est une carte PCIe, un format d’extension pour serveur, destinée à l’inférence on-premises, c’est-à-dire exécutée sur l’infrastructure locale. Son accélérateur dédié réunit 140 cœurs Tensix, des unités de calcul conçues par Tenstorrent, et se positionne comme une alternative à pile ouverte face aux GPU.

Ses 32 Go de GDDR6, une mémoire graphique à haut débit, offrent 512 Go/s de bande passante, avec un TDP de 300 W, soit l’enveloppe thermique nominale. L’interconnexion à 800 Gb/s vise le clustering, qui associe plusieurs cartes. Disponible depuis le 24 février 2025, elle affiche un prix officiel de 1 399 USD.

Carte d'identité

CaractéristiqueValeur
ConstructeurTenstorrent
CatégorieServeurs & accélérateurs
StatutDisponible
Date de sortie24 février 2025
Mémoire32 Go (GDDR6)
Bande passante mémoire512 Go/s
Consommation (TDP)300 W
GPU140 cœurs Tensix (accélérateur dédié)
FormatCarte PCIe, interconnexion 800 Gb/s (cluster)
ExtensibleOui
Prix officiel1 399 $ (Tenstorrent, 24 février 2025)
Fiche constructeurspecs officielles

Quels modèles peut-elle faire tourner ?

Modèle étalonVerdict
8 B (Llama 3.1 8B, Q4)✅ À l'aise
14 B (Qwen3 14B, Q4)✅ À l'aise
32 B (Qwen3 32B, Q4)✅ À l'aise
70 B (Llama 3.3 70B, Q4)❌ Trop grand
120 B MoE (gpt-oss-120B, MXFP4)❌ Trop grand

Estimation mémoire : environ 0,6 Go par milliard de paramètres en Q4, plus le contexte. « Juste » : le modèle se charge mais le contexte utilisable est réduit.

Notre analyse

Les 32 Go permettent d’exécuter confortablement Llama 3.1 8B, Qwen3 14B et Qwen3 32B en Q4, une quantification qui stocke les poids sur 4 bits afin de réduire leur empreinte mémoire. En revanche, Llama 3.3 70B en Q4 et gpt-oss-120B en MXFP4, un format numérique compact sur 4 bits, dépassent cette capacité. Ce dernier est un MoE, ou mélange d’experts, une architecture qui n’active qu’une partie du modèle à chaque calcul. La bande passante de 512 Go/s favorise la circulation rapide des poids, mais aucune mesure indépendante en tokens par seconde n’est référencée. Il reste donc impossible de chiffrer la vitesse perçue, le rapport performance/prix à 1 399 USD ou le rapport performance/watt avec un TDP de 300 W.

La principale contrepartie concerne l’écosystème logiciel. TT-Metal, l’environnement de programmation bas niveau de Tenstorrent, et MLIR, une infrastructure de compilation intermédiaire, demandent davantage d’investissement que llama.cpp, un moteur courant d’inférence locale. L’interconnexion à 800 Gb/s ouvre la voie aux grappes de cartes, mais aucun niveau sonore n’est documenté. La carte est indiquée comme disponible. Elle prend surtout sens pour des équipes techniques visant une infrastructure d’inférence locale ouverte, avec des modèles quantifiés jusqu’à 32 B et une capacité de clustering.


Sources : specs Tenstorrent.