Une Nouveauté qui Inquiète
OpenAI a récemment lancé deux nouveaux modèles d’intelligence artificielle, nommés o3 et o4-mini. Ces modèles, qui ont été présentés la semaine dernière, sont censés surpasser leurs prédécesseurs en matière de raisonnement. Selon l’entreprise dirigée par Sam Altman, ces nouvelles versions sont particulièrement efficaces pour résoudre des problèmes complexes en mathématiques, en programmation et en sciences, tout en montrant des capacités marquées en perception visuelle et en analyse.
Cependant, une préoccupation majeure a surgi. En effet, ces nouveaux modèles semblent faire des erreurs importantes en générant des informations fausses, une tendance que l’on appelle couramment « hallucination ». D’après des rapports de TechCrunch, o3 et o4-mini semblent être encore plus sujets à ce problème que les modèles précédents, ce qui représente un revers significatif pour OpenAI.
Cette situation met en lumière un défaut technique persistant qui affecte le secteur de l’IA depuis des années. Les entreprises de technologie ont du mal à contenir les hallucinations, un phénomène qui compromet l’efficacité de systèmes comme ChatGPT. De plus, les modèles o3 et o4-mini statistiquement s’éloignent d’une tendance historique où chaque nouvelle version réduisait considérablement les erreurs par rapport à ses prédécesseurs.
La Recherche de la Vérité
Des évaluations internes effectuées par OpenAI révèlent que les modèles o3 et o4-mini montrent une propension accrue à l’hallucination par rapport aux versions antérieures, telles que o1, o1-mini et même o3-mini, ainsi que l’illustre le rapport technique de l’entreprise. Ce dernier souligne un besoin urgent de recherches supplémentaires pour déterminer les causes des hallucinations amplifiées.
Dans leurs tests, le modèle o3 a affiché un taux d’hallucination de 33 %, un chiffre qui représente environ le double par rapport aux anciens modèles. Quant à o4-mini, il a affiché un chiffre encore plus préoccupant de 48 %. OpenAI suggère que cela pourrait être lié à la taille plus réduite de ce modèle, entraînant une connaissance du monde moins exhaustive et donc un taux d’hallucination plus élevé.
L’organisation non lucrative Transluce a également observé une propension à l’hallucination dans o3, notamment lors de la génération de code informatique. Des experts affirment même qu’il arrive à générer des liens vers des sites web qui ne fonctionnent pas, renforçant ainsi les préoccupations autour de sa fiabilité.
La Réaction d’OpenAI
Consciente de ces défis, OpenAI a reconnu ces lacunes dans ses modèles. Un représentant de l’entreprise, Niko Felix, a indiqué que la lutte contre l’hallucination est un secteur de recherche en cours et qu’ils continuent de travailler pour améliorer la précision et la fiabilité de leurs outils.
À retenir : L’inquiétude quant aux hallucinations des nouveaux modèles d’OpenAI met en lumière les défis persistants du desarrollo de l’IA. L’ampleur des dysfonctionnements et l’absence de compréhension des causes sous-jacentes ajoutent des questions sur l’avenir de ces technologies.
FAQ
Qu’est-ce qu’une hallucination en matière d’intelligence artificielle ?
Une hallucination en IA se produit lorsque le modèle génère des informations incorrectes ou fictives, souvent sans qu’il n’y ait de base dans les données d’entraînement.
Pourquoi OpenAI continue-t-elle de développer des modèles malgré les problèmes d’hallucination ?
OpenAI cherche constamment à améliorer ses technologies, et la recherche sur les hallucinations fait partie de leurs efforts pour créer des systèmes plus précis et fiables.
Quels modèles précédaient o3 et o4-mini ?
Les modèles précédents incluent o1, o1-mini et o3-mini, chacun conçu pour résoudre des problèmes de raisonnement mais avec des performances plus stables en termes d’hallucinations.
Que fait OpenAI pour remédier à ces problèmes ?
OpenAI investit dans des recherches approfondies pour comprendre et diagnostiquer les causes des hallucinations, cherchant ainsi à développer des solutions durables.
Ces problèmes affectent-ils l’utilisation de ChatGPT ?
Oui, les hallucinations peuvent compromettre l’efficacité et la confiance des utilisateurs envers des outils comme ChatGPT, affectant leur perception globale des capacités de l’IA.
