GAIA est un benchmark conçu pour évaluer les assistants IA sur des tâches du monde réel nécessitant une combinaison de capacités fondamentales comme le raisonnement, la compréhension multimodale, la navigation web et l’utilisation d’outils.
Il a été introduit dans l’article ”GAIA: A Benchmark for General AI Assistants”.
Le benchmark comprend 466 questions soigneusement sélectionnées qui sont conceptuellement simples pour les humains, mais remarquablement difficiles pour les systèmes d’IA actuels.
Pour illustrer l’écart :
GAIA souligne les limitations actuelles des modèles et fournit un benchmark rigoureux pour évaluer les progrès vers des assistants vraiment polyvalents.
GAIA est soigneusement conçu autour des piliers suivants :
Les tâches de GAIA sont organisées en trois niveaux de complexité croissante, chacun testant des compétences spécifiques :

Which of the fruits shown in the 2008 painting “Embroidery from Uzbekistan” were served as part of the October 1949 breakfast menu for the ocean liner that was later used as a floating prop for the film “The Last Voyage”? Give the items as a comma-separated list, ordering them in clockwise order based on their arrangement in the painting starting from the 12 o’clock position. Use the plural form of each fruit.
Parmi les fruits représentés dans le tableau de 2008 intitulé « Broderie d’Ouzbékistan », quels sont ceux qui figuraient au menu du petit-déjeuner servi en octobre 1949 à bord du paquebot qui a ensuite servi d’accessoire flottant pour le film « Le dernier voyage » ? Donnez les éléments sous forme de liste séparée par des virgules, en les classant dans le sens des aiguilles d’une montre, en fonction de leur disposition dans le tableau, en commençant par la position 12 heures. Utilisez la forme plurielle de chaque fruit.
Comme vous pouvez le voir, cette question défie les systèmes d’IA de plusieurs manières :
Ce type de tâche souligne où les LLM autonomes échouent souvent, faisant de GAIA un benchmark idéal pour les systèmes basés sur des agents qui peuvent raisonner, récupérer et exécuter sur plusieurs étapes et modalités.

Pour encourager l’évaluation comparative continue, GAIA fournit un classement public hébergé sur Hugging Face où vous pouvez tester vos modèles contre 300 questions de test.
👉 Consultez le classement ici
Vous voulez plus loin sur le sujet de GAIA ?