Compar:IA, un comparateur d'IA pour lutter contre les biais culturels
Le ministère de la Culture propose un site gratuit (en version beta) permettant de comparer 15 IA conversationnelles afin de sensibiliser aux enjeux de diversité et de transparence dans le domaine de l’IA générative.
Les grands modèles de langage (LLM) actuels sont entraînés sur des données essentiellement anglo-saxonnes. Le développement extrêmement rapide des audiences et des usages de ces modèles fait peser un risque sur la place des langues et des cultures française, francophone et européenne dans les imaginaires collectifs de demain. En parallèle, les débats sont particulièrement vifs sur le volet juridique de l’entraînement des modèles d’IA, le respect du droit d’auteur et des données personnelles et la répartition de la valeur issue de leurs usages.
La plateforme Compar:IA, arène francophone de classement des modèles par préférences humaines, permet de comparer simplement les réponses générées par différents modèles à une instruction donnée. Un utilisateur pose une question en français et obtient des réponses de deux LLM anonymes. Il vote pour le modèle qui fournit la réponse préférée et se voit ainsi révélée l’identité des modèles.
L’application développée répond à un double objectif:
- Améliorer la qualité des modèles de langage conversationnels sur les usages francophones à travers la mise à disposition de jeux de données de préférence en français pour l’alignement des modèles, ressource actuellement rare pour l’écosystème des acteurs académiques et industriels qui travaillent sur ces sujets.
- Faciliter l’accès aux IA génératives et encourager l’esprit critique des utilisateurs en rendant effectif un droit au “pluralisme des modèles”