VBench: Qualité visuelle
VBench: Qualité visuelle est un benchmark conçu par Vchitect et al. pour évaluer les modèles de génération vidéo à partir de prompts textuels en anglais. Il s’inscrit dans une suite structurée en dimensions fines, consacrées à la qualité visuelle et à l’alignement sémantique.
VBench: Qualité visuelle est un benchmark conçu par Vchitect et al. pour évaluer les modèles de génération vidéo à partir de prompts textuels en anglais. Il s’inscrit dans une suite structurée en dimensions fines, consacrées à la qualité visuelle et à l’alignement sémantique.
Ce volet mesure notamment l’esthétique, la qualité d’image, la cohérence visuelle et la fluidité du mouvement. Plusieurs métriques automatiques sont agrégées en un score normalisé, afin de comparer de manière homogène la qualité des vidéos produites par différents modèles.
Carte d'identité
| Caractéristique | Valeur |
|---|---|
| Éditeur du benchmark | Vchitect et al. |
| Capacités mesurées | Mesure la qualité visuelle des vidéos générées, notamment l’esthétique, la qualité d’image, la cohérence visuelle et la fluidité du mouvement. |
| Modalité | Vidéo |
| Type de questions | prompts textuels pour génération de vidéos, évalués par métriques automatiques |
| Métrique d'évaluation | score agrégé normalisé de qualité visuelle (0 à 1) |
| Accès | Public |
| Langues | anglais |
| Taille du jeu | environ 1 746 prompts |
| Année de publication | 2023 |
| Ressources | Site / dépôt officiel · Article scientifique |
Métadonnées descriptives pré-renseignées automatiquement, en cours de relecture éditoriale.
Classement des modèles (62)
| # | Modèle | Éditeur | Licence | Score | Sortie | Fiabilité |
|---|---|---|---|---|---|---|
| 1 | IPOW | — | ▫ n.d. | 87,8 % | 6 août 2025 | ✅ Mesuré |
| 2 | Vidu Q1 | Shengshu | ▫ n.d. | 87,3 % | 21 avril 2025 | ✅ Mesuré |
| 3 | JT3.5 | — | ▫ n.d. | 87,0 % | 30 juillet 2025 | ✅ Mesuré |
| 4 | MiracleVision V5 | — | ▫ n.d. | 86,7 % | 21 janvier 2025 | ✅ Mesuré |
| 5 | IPOC | — | ▫ n.d. | 86,1 % | 14 avril 2025 | ✅ Mesuré |
| 6 | veo-3 | ▫ n.d. | 85,7 % | 21 mai 2025 | ✅ Mesuré | |
| 7 | Wan2.1 | Qwen | ▫ n.d. | 85,6 % | 24 février 2025 | ✅ Mesuré |
| 8 | Wan2.1-T2V-14B | Qwen | ▫ n.d. | 85,6 % | 25 juillet 2025 | ✅ Mesuré |
| 9 | sora | OpenAI | 🔒 Propriétaire | 85,5 % | 15 février 2024 | ✅ Mesuré |
| 10 | LanDiff | — | ▫ n.d. | 85,4 % | 6 août 2025 | ✅ Mesuré |
| 11 | Wan2.1-T2V-1.3B | Qwen | ▫ n.d. | 85,2 % | 13 mars 2025 | ✅ Mesuré |
| 12 | CausVid | — | ▫ n.d. | 85,2 % | 2 janvier 2025 | ✅ Mesuré |
| 13 | Hunyuan Video | Tencent | ▫ n.d. | 85,1 % | 22 mai 2025 | ✅ Mesuré |
| 14 | EasyAnimateV5.1 | — | ▫ n.d. | 85,0 % | 22 janvier 2025 | ✅ Mesuré |
| 15 | Wan2.2-T2V-A14B | Qwen | ▫ n.d. | 85,0 % | 18 février 2026 | ✅ Mesuré |
| 16 | Kling 1.6 | Kuaishou | 🔒 Propriétaire | 85,0 % | 8 mai 2025 | ✅ Mesuré |
| 17 | MiniMax-Video-01 | MiniMax | ▫ n.d. | 84,8 % | 1 octobre 2024 | ✅ Mesuré |
| 18 | STIV | — | ▫ n.d. | 84,8 % | 19 décembre 2024 | ✅ Mesuré |
| 19 | MAGI-T2V-24B-distill | — | ▫ n.d. | 84,7 % | 6 août 2025 | ✅ Mesuré |
| 20 | AccVideo | — | ▫ n.d. | 84,6 % | 31 mars 2025 | ✅ Mesuré |
| 21 | Step-Video-T2V | — | ▫ n.d. | 84,5 % | 13 mars 2025 | ✅ Mesuré |
| 22 | Gen-3 | Runway | 🔒 Propriétaire | 84,1 % | 25 juillet 2024 | ✅ Mesuré |
| 23 | LTX-2 | Lightricks | ▫ n.d. | 84,1 % | 4 février 2026 | ✅ Mesuré |
| 24 | Vidu | Shengshu | ▫ n.d. | 83,8 % | 15 novembre 2024 | ✅ Mesuré |
| 25 | Vchitect-2.0 | — | ▫ n.d. | 83,5 % | 20 septembre 2024 | ✅ Mesuré |
| 26 | Luma | Luma AI | 🔒 Propriétaire | 83,5 % | 14 janvier 2025 | ✅ Mesuré |
| 27 | Kling | Kuaishou | 🔒 Propriétaire | 83,4 % | 1 août 2024 | ✅ Mesuré |
| 28 | Jimeng | — | ▫ n.d. | 83,3 % | 15 novembre 2024 | ✅ Mesuré |
| 29 | Pika-1.0 | Pika Labs | 🔒 Propriétaire | 82,9 % | 29 juillet 2024 | ✅ Mesuré |
| 30 | AnimateDiff-V2 | — | ▫ n.d. | 82,9 % | 3 juin 2024 | ✅ Mesuré |
| 31 | CogVideoX-5B | Zhipu AI | ▫ n.d. | 82,8 % | 4 mars 2025 | ✅ Mesuré |
| 32 | CogVideoX1.5-5B | Zhipu AI | ▫ n.d. | 82,7 % | 15 novembre 2024 | ✅ Mesuré |
| 33 | RepVideo | — | ▫ n.d. | 82,7 % | 16 janvier 2025 | ✅ Mesuré |
| 34 | Pika Beta | Pika Labs | 🔒 Propriétaire | 82,7 % | 19 janvier 2024 | ✅ Mesuré |
| 35 | Mochi-1 | Genmo | ▫ n.d. | 82,6 % | 7 novembre 2024 | ✅ Mesuré |
| 36 | Vchitect-2.0-2B | — | ▫ n.d. | 82,5 % | 16 septembre 2024 | ✅ Mesuré |
| 37 | Gen-2 | Runway | 🔒 Propriétaire | 82,5 % | 20 mars 2023 | ✅ Mesuré |
| 38 | AnimateLCM | — | ▫ n.d. | 82,4 % | 28 juin 2024 | ✅ Mesuré |
| 39 | LTX-Video | Lightricks | ▫ n.d. | 82,3 % | 2 décembre 2024 | ✅ Mesuré |
| 40 | VideoCrafter-2.0 | — | ▫ n.d. | 82,2 % | 19 avril 2024 | ✅ Mesuré |
| 41 | CogVideoX-2B | Zhipu AI | ▫ n.d. | 82,2 % | 3 mars 2025 | ✅ Mesuré |
| 42 | Open-Sora-2.0 | HPC-AI Tech | ▫ n.d. | 82,1 % | 31 mars 2025 | ✅ Mesuré |
| 43 | VideoCrafter-1.0 | — | ▫ n.d. | 81,6 % | 19 janvier 2024 | ✅ Mesuré |
| 44 | InstructVideo | — | ▫ n.d. | 81,6 % | 9 juillet 2024 | ✅ Mesuré |
| 45 | OpenSoraPlan V1.2 | HPC-AI Tech | ▫ n.d. | 81,5 % | 29 octobre 2024 | ✅ Mesuré |
| 46 | OpenSora V1.2 | HPC-AI Tech | ▫ n.d. | 81,3 % | 2 septembre 2024 | ✅ Mesuré |
| 47 | MAGI-T2V-4.5B-distill | — | ▫ n.d. | 81,0 % | 10 juin 2025 | ✅ Mesuré |
| 48 | OpenSoraPlan V1.1 | HPC-AI Tech | ▫ n.d. | 80,9 % | 17 juillet 2024 | ✅ Mesuré |
| 49 | Show-1 | — | ▫ n.d. | 80,4 % | 19 janvier 2024 | ✅ Mesuré |
| 50 | HiGen | — | ▫ n.d. | 80,3 % | 20 juin 2024 | ✅ Mesuré |
| 51 | AnimateDiff-V1 | — | ▫ n.d. | 80,2 % | 2 août 2024 | ✅ Mesuré |
| 52 | OpenSoraPlan V1.3 | HPC-AI Tech | ▫ n.d. | 80,1 % | 7 novembre 2024 | ✅ Mesuré |
| 53 | TF-T2V | — | ▫ n.d. | 80,0 % | 20 juin 2024 | ✅ Mesuré |
| 54 | Latte-1 | — | ▫ n.d. | 79,7 % | 5 juin 2024 | ✅ Mesuré |
| 55 | LaVie-Interpolation | — | ▫ n.d. | 79,1 % | 17 février 2024 | ✅ Mesuré |
| 56 | Open-Sora | HPC-AI Tech | ▫ n.d. | 78,8 % | 20 avril 2024 | ✅ Mesuré |
| 57 | LaVie | — | ▫ n.d. | 78,8 % | 23 novembre 2023 | ✅ Mesuré |
| 58 | Mira | — | ▫ n.d. | 78,8 % | 17 juillet 2024 | ✅ Mesuré |
| 59 | ModelScope | — | ▫ n.d. | 78,0 % | 23 novembre 2023 | ✅ Mesuré |
| 60 | OpenSora V1.1 | HPC-AI Tech | ▫ n.d. | 77,7 % | 17 juillet 2024 | ✅ Mesuré |
| 61 | VideoCrafter-0.9 | — | ▫ n.d. | 74,9 % | 23 novembre 2023 | ✅ Mesuré |
| 62 | CogVideo | Zhipu AI | ▫ n.d. | 72,1 % | 23 novembre 2023 | ✅ Mesuré |
Classement établi sur 62 modèles évalués, dont 6 de grands éditeurs. Score médian de l'ensemble : 82,7 %.
Notre analyse
Un score élevé indique qu’un modèle produit, sur cet ensemble de prompts, des vidéos jugées solides par les métriques automatiques combinant esthétique, qualité d’image, cohérence visuelle et fluidité. Les résultats sont au moins partiellement mesurés par un tiers, ce qui renforce leur valeur comparative par rapport à des scores uniquement auto-déclarés. Le classement reste toutefois lié à la portée précise de VBench: Qualité visuelle, à ses prompts en anglais et à des mesures automatiques. Il ne résume donc pas toutes les dimensions de la génération vidéo, même si la suite VBench couvre également l’alignement sémantique. Le caractère public du jeu appelle aussi à garder à l’esprit un risque de contamination ou d’optimisation ciblée sur ses prompts. Dans la base, la médiane de 83 % et le meilleur résultat de 88 %, obtenu par IPOW, montrent un écart limité entre le centre du classement et son sommet. Cette concentration suggère une certaine saturation du score parmi les modèles évalués et réduit le pouvoir discriminant des écarts les plus faibles.
Sources des scores : vbench.