VBench: Qualité visuelle

VBench: Qualité visuelle est un benchmark conçu par Vchitect et al. pour évaluer les modèles de génération vidéo à partir de prompts textuels en anglais. Il s’inscrit dans une suite structurée en dimensions fines, consacrées à la qualité visuelle et à l’alignement sémantique.

VBench: Qualité visuelle est un benchmark conçu par Vchitect et al. pour évaluer les modèles de génération vidéo à partir de prompts textuels en anglais. Il s’inscrit dans une suite structurée en dimensions fines, consacrées à la qualité visuelle et à l’alignement sémantique.

Ce volet mesure notamment l’esthétique, la qualité d’image, la cohérence visuelle et la fluidité du mouvement. Plusieurs métriques automatiques sont agrégées en un score normalisé, afin de comparer de manière homogène la qualité des vidéos produites par différents modèles.

Carte d'identité

CaractéristiqueValeur
Éditeur du benchmarkVchitect et al.
Capacités mesuréesMesure la qualité visuelle des vidéos générées, notamment l’esthétique, la qualité d’image, la cohérence visuelle et la fluidité du mouvement.
ModalitéVidéo
Type de questionsprompts textuels pour génération de vidéos, évalués par métriques automatiques
Métrique d'évaluationscore agrégé normalisé de qualité visuelle (0 à 1)
AccèsPublic
Languesanglais
Taille du jeuenviron 1 746 prompts
Année de publication2023
RessourcesSite / dépôt officiel · Article scientifique

Métadonnées descriptives pré-renseignées automatiquement, en cours de relecture éditoriale.

Classement des modèles (62)

#ModèleÉditeurLicenceScoreSortieFiabilité
1IPOW▫ n.d.87,8 %6 août 2025✅ Mesuré
2Vidu Q1Shengshu▫ n.d.87,3 %21 avril 2025✅ Mesuré
3JT3.5▫ n.d.87,0 %30 juillet 2025✅ Mesuré
4MiracleVision V5▫ n.d.86,7 %21 janvier 2025✅ Mesuré
5IPOC▫ n.d.86,1 %14 avril 2025✅ Mesuré
6veo-3Google▫ n.d.85,7 %21 mai 2025✅ Mesuré
7Wan2.1Qwen▫ n.d.85,6 %24 février 2025✅ Mesuré
8Wan2.1-T2V-14BQwen▫ n.d.85,6 %25 juillet 2025✅ Mesuré
9soraOpenAI🔒 Propriétaire85,5 %15 février 2024✅ Mesuré
10LanDiff▫ n.d.85,4 %6 août 2025✅ Mesuré
11Wan2.1-T2V-1.3BQwen▫ n.d.85,2 %13 mars 2025✅ Mesuré
12CausVid▫ n.d.85,2 %2 janvier 2025✅ Mesuré
13Hunyuan VideoTencent▫ n.d.85,1 %22 mai 2025✅ Mesuré
14EasyAnimateV5.1▫ n.d.85,0 %22 janvier 2025✅ Mesuré
15Wan2.2-T2V-A14BQwen▫ n.d.85,0 %18 février 2026✅ Mesuré
16Kling 1.6Kuaishou🔒 Propriétaire85,0 %8 mai 2025✅ Mesuré
17MiniMax-Video-01MiniMax▫ n.d.84,8 %1 octobre 2024✅ Mesuré
18STIV▫ n.d.84,8 %19 décembre 2024✅ Mesuré
19MAGI-T2V-24B-distill▫ n.d.84,7 %6 août 2025✅ Mesuré
20AccVideo▫ n.d.84,6 %31 mars 2025✅ Mesuré
21Step-Video-T2V▫ n.d.84,5 %13 mars 2025✅ Mesuré
22Gen-3Runway🔒 Propriétaire84,1 %25 juillet 2024✅ Mesuré
23LTX-2Lightricks▫ n.d.84,1 %4 février 2026✅ Mesuré
24ViduShengshu▫ n.d.83,8 %15 novembre 2024✅ Mesuré
25Vchitect-2.0▫ n.d.83,5 %20 septembre 2024✅ Mesuré
26LumaLuma AI🔒 Propriétaire83,5 %14 janvier 2025✅ Mesuré
27KlingKuaishou🔒 Propriétaire83,4 %1 août 2024✅ Mesuré
28Jimeng▫ n.d.83,3 %15 novembre 2024✅ Mesuré
29Pika-1.0Pika Labs🔒 Propriétaire82,9 %29 juillet 2024✅ Mesuré
30AnimateDiff-V2▫ n.d.82,9 %3 juin 2024✅ Mesuré
31CogVideoX-5BZhipu AI▫ n.d.82,8 %4 mars 2025✅ Mesuré
32CogVideoX1.5-5BZhipu AI▫ n.d.82,7 %15 novembre 2024✅ Mesuré
33RepVideo▫ n.d.82,7 %16 janvier 2025✅ Mesuré
34Pika BetaPika Labs🔒 Propriétaire82,7 %19 janvier 2024✅ Mesuré
35Mochi-1Genmo▫ n.d.82,6 %7 novembre 2024✅ Mesuré
36Vchitect-2.0-2B▫ n.d.82,5 %16 septembre 2024✅ Mesuré
37Gen-2Runway🔒 Propriétaire82,5 %20 mars 2023✅ Mesuré
38AnimateLCM▫ n.d.82,4 %28 juin 2024✅ Mesuré
39LTX-VideoLightricks▫ n.d.82,3 %2 décembre 2024✅ Mesuré
40VideoCrafter-2.0▫ n.d.82,2 %19 avril 2024✅ Mesuré
41CogVideoX-2BZhipu AI▫ n.d.82,2 %3 mars 2025✅ Mesuré
42Open-Sora-2.0HPC-AI Tech▫ n.d.82,1 %31 mars 2025✅ Mesuré
43VideoCrafter-1.0▫ n.d.81,6 %19 janvier 2024✅ Mesuré
44InstructVideo▫ n.d.81,6 %9 juillet 2024✅ Mesuré
45OpenSoraPlan V1.2HPC-AI Tech▫ n.d.81,5 %29 octobre 2024✅ Mesuré
46OpenSora V1.2HPC-AI Tech▫ n.d.81,3 %2 septembre 2024✅ Mesuré
47MAGI-T2V-4.5B-distill▫ n.d.81,0 %10 juin 2025✅ Mesuré
48OpenSoraPlan V1.1HPC-AI Tech▫ n.d.80,9 %17 juillet 2024✅ Mesuré
49Show-1▫ n.d.80,4 %19 janvier 2024✅ Mesuré
50HiGen▫ n.d.80,3 %20 juin 2024✅ Mesuré
51AnimateDiff-V1▫ n.d.80,2 %2 août 2024✅ Mesuré
52OpenSoraPlan V1.3HPC-AI Tech▫ n.d.80,1 %7 novembre 2024✅ Mesuré
53TF-T2V▫ n.d.80,0 %20 juin 2024✅ Mesuré
54Latte-1▫ n.d.79,7 %5 juin 2024✅ Mesuré
55LaVie-Interpolation▫ n.d.79,1 %17 février 2024✅ Mesuré
56Open-SoraHPC-AI Tech▫ n.d.78,8 %20 avril 2024✅ Mesuré
57LaVie▫ n.d.78,8 %23 novembre 2023✅ Mesuré
58Mira▫ n.d.78,8 %17 juillet 2024✅ Mesuré
59ModelScope▫ n.d.78,0 %23 novembre 2023✅ Mesuré
60OpenSora V1.1HPC-AI Tech▫ n.d.77,7 %17 juillet 2024✅ Mesuré
61VideoCrafter-0.9▫ n.d.74,9 %23 novembre 2023✅ Mesuré
62CogVideoZhipu AI▫ n.d.72,1 %23 novembre 2023✅ Mesuré

Classement établi sur 62 modèles évalués, dont 6 de grands éditeurs. Score médian de l'ensemble : 82,7 %.

Notre analyse

Un score élevé indique qu’un modèle produit, sur cet ensemble de prompts, des vidéos jugées solides par les métriques automatiques combinant esthétique, qualité d’image, cohérence visuelle et fluidité. Les résultats sont au moins partiellement mesurés par un tiers, ce qui renforce leur valeur comparative par rapport à des scores uniquement auto-déclarés. Le classement reste toutefois lié à la portée précise de VBench: Qualité visuelle, à ses prompts en anglais et à des mesures automatiques. Il ne résume donc pas toutes les dimensions de la génération vidéo, même si la suite VBench couvre également l’alignement sémantique. Le caractère public du jeu appelle aussi à garder à l’esprit un risque de contamination ou d’optimisation ciblée sur ses prompts. Dans la base, la médiane de 83 % et le meilleur résultat de 88 %, obtenu par IPOW, montrent un écart limité entre le centre du classement et son sommet. Cette concentration suggère une certaine saturation du score parmi les modèles évalués et réduit le pouvoir discriminant des écarts les plus faibles.


Sources des scores : vbench.