Arcee AI: Trinity Mini

Sorti le 1er décembre 2025, Arcee AI: Trinity Mini est un LLM d’Arcee AI orienté vers le raisonnement. Son architecture MoE réunit 26B paramètres, mais n’en active que 3B lors du traitement, afin de concentrer le calcul sur une partie du modèle.

Trinity Mini compte 128 experts, dont 8 actifs et 1 partagé. Il a été entraîné sur 10T tokens, avec des ajouts consacrés aux mathématiques et au code, et accepte une fenêtre de contexte de 131 072 tokens.

Caractéristiques

Notre analyse

Forces. L’architecture MoE combine une capacité totale de 26B paramètres avec 3B paramètres actifs, ce qui limite la part du modèle mobilisée pour chaque traitement. La sélection de 8 experts parmi 128, complétée par un expert partagé, structure cette spécialisation interne. La fenêtre de 131 072 tokens convient au traitement de longs contenus. L’entraînement sur 10T tokens inclut des données supplémentaires en mathématiques et en code, tandis que le réglage du modèle cible explicitement les tâches de raisonnement.

Limites et points d’attention. La taille totale de 26B paramètres reste à prendre en compte pour le stockage et l’exécution, même si seuls 3B sont actifs à un instant donné. Le fonctionnement en MoE repose aussi sur la prise en charge de l’architecture AfmoeForCausalLM par l’environnement choisi. Trinity Mini peut être exécuté avec Transformers, VLLM, llama.cpp ou LM Studio, et reste également accessible par une API OpenRouter. Il s’adresse ainsi aux usages de raisonnement, de mathématiques, de code et d’analyse de longs contextes.

Sources des données : OpenRouter (openrouter.ai) · LLM-Stats (llm-stats.com).