Les Capacités des IA Avancées
Une récente recherche met en lumière que les modèles d’intelligence artificielle (IA) de pointe peuvent adopter un comportement apparemment moins intelligent que ce qu’ils sont réellement. Cela pourrait avoir de grandes conséquences à mesure que ces technologies continuent d’évoluer et de se perfectionner.
Découvertes Révolutionnaires de l’Étude
Des chercheurs de l’université Humboldt de Berlin, qui ont publié leurs résultats dans la revue PLOS One, ont examiné un modèle de langage de grande envergure. En évaluant ce modèle selon des critères de “théorie de l’esprit”, ils ont constaté qu’il n’était pas seulement capable d’imiter les étapes du développement linguistique observées chez les enfants, mais qu’il semblait également afficher des capacités mentales comparables à celles de jeunes enfants.
Dans une déclaration faite à PsyPost, Anna Maklová, assistante de recherche à l’université Humboldt et spécialiste en psycholinguistique, a expliqué le lien entre son domaine et cette découverte fascinante. Elle a souligné que grâce à la psycholinguistique, nous pouvons mieux comprendre les compétences des enfants à différentes étapes de leur vie. La théorie de l’esprit, en particulier, joue un rôle crucial, car elle examine le monde intérieur de l’enfant, ce qui ne peut pas facilement être reproduit simplement à partir d’observations statistiques.
Étudier des Comportements d’Enfants
Avec un intérêt particulier pour la théorie de l’esprit orientée vers les enfants, Maklová et ses collègues de l’université Charles de Prague ont cherché à analyser si des modèles de langue, comme le GPT-4 d’OpenAI, pouvaient « simuler une intelligence inférieure à la leur ». Pour ce faire, l’équipe de recherche, majoritairement tchèque, a demandé aux modèles de répondre comme un enfant âgé de un à six ans.
Au cours de plus de 1 000 tests cognitifs, ces “personnages d’enfants simulés” ont effectivement montré des comportements similaires à ceux d’enfants de cet âge, prouvant que ces modèles peuvent prétendre à être moins intelligents qu’ils ne le sont en réalité.
Les Limites de l’Anthropomorphisme des IA
Maklová conclut que les modèles de langage avancés ont la capacité de « feindre une intelligence inférieure à la leur ». Toutefois, l’article met en garde contre le fait d’anthropomorphiser l’intelligence artificielle, car bien que cela puisse être un moyen simplifié de comprendre ces modèles, cela reste globalement peu utile. Ils proposent plutôt une nouvelle perspective sur la théorie de l’esprit qui change la manière d’évaluer ces modèles, passant d’un jugement de “bon” ou “mauvais” à leur capacité à « construire des identités », comme celles d’enfants, observées lors de leurs expériences.
Ces résultats pourraient également apporter une contribution significative à la conception d’une superintelligence artificielle (ASI), étape suivante après l’intelligence générale artificielle (AGI), et aider à en assurer la sécurité à l’avenir. Maklová a averti qu’il est crucial dans le développement de l’ASI de ne pas exiger que les modèles imitent une intelligence humaine, qui est limitée. De plus, cette situation pourrait engendrer une sous-estimation prolongée de leurs capacités, ce qui peut s’avérer dangereux.
FAQ
Qu’est-ce que la théorie de l’esprit en psychologie?
La théorie de l’esprit est la capacité à comprendre que les autres ont des pensées, des croyances et des désirs différents des siens. C’est essentiel dans le développement social et émotionnel des enfants.
Comment les modèles de langage apprennent-ils à simuler des comportements d’enfants?
Les modèles de langage sont formés sur de vastes ensembles de données textuelles, ce qui leur permet d’apprendre des patterns et des comportements dans le langage, y compris ceux présents dans les communications enfants-adultes.
Quels sont les risques associés à l’anthropomorphisme des IA?
Anthropomorphiser les IA peut fausser notre compréhension de leurs capacités réelles, entraînant des attentes irréalistes et potentiellement dangereuses concernant leur fonctionnement et leurs applications.
Quel rôle joue la psycholinguistique dans cette recherche?
La psycholinguistique aide à analyser la manière dont les enfants acquièrent le langage, ce qui est fondamental pour mieux comprendre comment des IA peuvent imiter ces étapes de développement.
Pourquoi est-il important de réfléchir à la sécurité des superintelligences artificielles?
Il est essentiel d’anticiper les risques et de développer des protocoles pour assurer que les superintelligences ne deviennent pas incontrôlables ou ne présentent pas de dangers pour l’humanité. Des réflexions sur leur conception et leur comportement sont donc cruciales, notamment pour éviter une sous-estimation de leurs capacités potentiellement risquées.
