Utiliser la Théorie des Jeux pour Améliorer la Fiabilité des Modèles de Langage

Un Nouveau “Jeu de Consensus” pour une IA Plus Intelligente et Fiable

Imaginez jouer à un jeu où votre objectif est de communiquer des messages secrets en utilisant uniquement des phrases cryptiques 🕵️‍♂️. Votre ami doit deviner le message secret en posant des questions oui/non sur les indices que vous avez donnés 🧐. Vous voulez tous les deux vous assurer de bien comprendre le message.

Les chercheurs du MIT CSAIL (Computer Science and Artificial Intelligence Laboratory) ont créé un jeu similaire pour améliorer la compréhension et la génération de texte par l’IA. Ce jeu, appelé “jeu de consensus”, implique deux parties d’un système IA : une partie génère des phrases (comme donner des indices) et l’autre essaie de comprendre et d’évaluer ces phrases (comme deviner le message secret). 💡

Comment Fonctionne le Jeu de Consensus?

Les chercheurs ont découvert qu’en traitant cette interaction comme un jeu, où les deux parties de l’IA travaillent ensemble sous des règles spécifiques pour s’accorder sur le bon message, ils pouvaient améliorer considérablement la capacité de l’IA à donner des réponses correctes et cohérentes aux questions posées. 📈

Traditionnellement, les grands modèles de langage répondent de deux façons : en générant directement des réponses (requête générative) ou en utilisant le modèle pour évaluer un ensemble de réponses prédéfinies (requête discriminative). Cependant, ces deux approches peuvent parfois produire des résultats incompatibles.

Par exemple, à la question “Qui est le président des États-Unis ?”, une requête générative pourrait répondre “Joe Biden”, tandis qu’une requête discriminative pourrait contester cette réponse avec “Barack Obama”.

Réconcilier des Procédures de Scoring Incompatibles

“Imaginez une nouvelle façon d’aider les modèles de langage à comprendre et générer du texte, comme un jeu. Nous avons développé une méthode théorique des jeux, sans besoin d’entraînement, qui traite le processus comme un jeu complexe d’indices et de signaux,” explique Athul Jacob, doctorant au MIT et affilié au CSAIL.

La méthode de Jacob et son équipe cherche à trouver des “équilibres approximatifs”, conduisant à un nouvel algorithme de décodage appelé “classement d’équilibre”. Cette stratégie permet de surmonter certains défis majeurs pour rendre les modèles de langage plus fiables et cohérents. 🌟

Des Résultats Prometteurs 🚀

Lors de tests sur diverses tâches, comme la compréhension de texte, le raisonnement de bon sens, la résolution de problèmes mathématiques et les dialogues, l’algorithme de l’équipe a constamment amélioré les performances des modèles. Utiliser l’algorithme ER avec le modèle LLaMA-7B a même surpassé les résultats de modèles beaucoup plus grands.

“L’idée que nous puissions surpasser un modèle dix fois plus grand était une agréable surprise,” dit Jacob.

Diplomatie et IA : Un Tandem Improbable mais Puissant

Le jeu stratégique “Diplomacy”, qui nécessite des compétences de négociation, de trahison et de manipulation, a récemment été revisité par des scientifiques, y compris Jacob, qui ont développé “Cicero”, un agent IA capable de jouer à un niveau humain. Les mathématiques derrière ce jeu ont en partie inspiré le jeu de consensus.

Le système de jeu de consensus atteint un équilibre, assurant la précision et la fidélité aux insights originaux du modèle. Pour y parvenir, la méthode ajuste les interactions entre les composantes génératives et discriminatives jusqu’à ce qu’elles parviennent à un consensus sur une réponse précise et cohérente.

Défis et Avenir

En pratique, l’implémentation de l’approche du jeu de consensus pour les tâches de question-réponse présente des défis computationnels significatifs. Par exemple, avec des ensembles de données comme MMLU, le modèle doit appliquer le mécanisme à chaque question et parvenir à un consensus pour chaque réponse possible.

Malgré ces défis, cette approche a un potentiel énorme pour améliorer les performances des modèles de base, rendant les réponses plus fiables et factuelles. Cela pourrait révolutionner des outils comme ChatGPT que nous utilisons quotidiennement.

“Les dernières années ont vu des progrès impressionnants dans la prise de décision stratégique et la génération de langage par les systèmes IA, mais nous commençons à peine à combiner les deux,” dit Jacob. “Le classement d’équilibre est une première étape prometteuse dans cette direction.”

Conclusion

Le jeu de consensus développé par les chercheurs du MIT CSAIL montre comment la théorie des jeux peut être appliquée pour améliorer la fiabilité et la cohérence des modèles de langage. Cette innovation ouvre de nouvelles perspectives passionnantes pour l’avenir de l’intelligence artificielle.

Découvrez la suite :
https://youtube.com/@business-ia?si=cFTDtAvLjxVrBhHc
 Revue Hebdomadaire de l’IA : Les Nouvelles de la Semaine !  – (business-ia.com)