Dans une étude récemment déposée, une équipe de chercheurs de l’Université Northeastern et du Massachusetts Institute of Technology (MIT) avance une idée fascinante : les **grands modèles de langage** (LLM) pourraient apprendre de leurs erreurs, tout comme le font les humains.
Les chercheurs estiment que cet apprentissage pourrait entraîner une évolution significative des technologies de l’IA vers une autonomie plus marquée dans la résolution de problèmes.
Dans leur étude, ils expliquent : « La **réflexion personnelle** permet aux humains de résoudre efficacement de nouveaux problèmes grâce à un processus d’essai et d’erreur. Sur la base de recherches récentes, nous proposons Reflexion, une méthode qui dote un agent de **mémoire dynamique** et de capacités d’auto-réflexion pour améliorer ses capacités de raisonnement et de prise de décision spécifiques à une tâche. »
En d’autres termes, la méthode qu’ils ont développée, appelée **Reflexion**, constitue un cadre pour enseigner aux modèles d’IA comment utiliser une approche d’essai et d’erreur sur leurs résultats.
Ainsi, à l’instar des humains, si un modèle d’IA échoue initialement, il aura la possibilité d’essayer à nouveau.
Le test de ce nouveau cadre a été relativement simple. L’agent a été exposé à des tâches de résolution de problèmes et lui a été demandé de s’y atteler ; chaque fois qu’il commettait une erreur, il était guidé par la technique Reflexion pour identifier **l’erreur par lui-même** — un processus qu’ils affirment comparable à l’évolution humaine.
Les chercheurs précisent : « Pour parvenir à une **automatisation complète**, nous introduisons une heuristique simple mais efficace qui permet à l’agent de détecter des cas de **hallucination**, d’éviter la répétition dans les séquences d’actions et, dans certains environnements, de construire une **carte mémoire interne** de son environnement. »
En utilisant une série de **tâches de prise de décision** standardisées, ils ont constaté que leur méthode améliorait considérablement les taux de réussite des modèles.
Il convient de noter que cette recherche a été réalisée sur des IA alimentées par GPT-3 et GPT-3.5 — une donnée essentielle puisque OpenAI a récemment lancé le très puissant GPT-4. Dans un article de blog qui accompagne l’étude, les scientifiques rapportent qu’en appliquant leur méthodologie à GPT-4, un **agent basé sur Reflexion** était correct dans **88 % des cas**, surpassant le taux de 67 % du modèle avant l’application de Reflexion.
Il est crucial de noter que cette étude n’a pas encore été examinée par des pairs, donc il convient de rester prudent face aux résultats présentés par les chercheurs.
Cela dit, les programmes d’IA ont tendance à faire beaucoup d’erreurs ; à mesure qu’ils s’intègrent dans différentes industries et plateformes, des méthodes pour surmonter leurs limites deviennent indispensables. Bien que cette recherche ressemble davantage à un exercice de **conception d’invites** qu’à une véritable solution des problèmes internes, elle pourrait contribuer au développement d’outils capables de vérifier la fiabilité notoirement variable des résultats des modèles de langage IA.
Enfin, une petite **auto-réflexion** ne nuit jamais, que ce soit pour un humain ou une machine.
Pour en savoir plus sur les hallucinations des machines : Les chercheurs découvrent que GPT-4 est nettement moins précis que GPT-3
FAQ
Qu’est-ce qu’une hallucination en IA ?
Les hallucinations en IA désignent les situations où un modèle génère des réponses incorrectes, souvent en créant des faits qui n’existent pas.
Comment l’auto-apprentissage peut-il aider en IA ?
L’auto-apprentissage peut permettre aux modèles de s’améliorer en apprenant de leurs erreurs, ce qui pourrait augmenter leur précision et efficacité dans diverses tâches.
Quels sont les défis actuels des modèles d’IA ?
Les défis incluent le biais, les hallucinations et la difficulté à comprendre des contextes complexes ou ambigus.
Quel rôle joue la rétroaction dans l’amélioration des IA ?
La rétroaction est cruciale, car elle permet aux modèles d’ajuster et d’affiner leurs réponses en fonction des erreurs identifiées.
Pourquoi est-il important que les recherches soient peer-reviewed ?
Le processus de peer-review garantit la validité et la fiabilité des découvertes scientifiques, en permettant à d’autres experts d’évaluer et de critiquer le travail.
