Les **modèles d’intelligence artificielle** sont omniprésents, de **hôpitaux** en **églises**.
Ce qui est stupéfiant, c’est qu même les spécialistes de l’**IA** n’ont pas encore saisi les mécanismes sous-jacents de ces **modèles** si souvent qualifiés de “boîtes noires”. Pour mieux comprendre ces systèmes, une nouvelle approche émerge : les analyser comme des **systèmes biologiques**.
Par exemple, comme mentionné par le MIT Tech Review , des chercheurs d’**Anthropic** ont mis au point des outils permettant d’observer ce qui se passe à l’intérieur des modèles en cours d’exécution. Cette étude, appelée **interprétabilité mécaniste**, ressemble à la manière dont les médecins utilisent les **IRM** pour examiner l’activité cérébrale, un domaine d’intelligence que nous peinons encore à comprendre.
Josh Batson, chercheur chez Anthropic, a déclaré au Tech Review : « C’est une analyse très semblable à celle que l’on trouve en biologie. Ce n’est pas comme en mathématiques ou en physique. »
Dans une autre expérience inspirée par les **organoïdes**, qui sont de petites répliques des **organes humains**, les chercheurs d’Anthropic ont conçu un **réseau de neurones** spécial, appelé **autoencodeur parcellaire**. Ce modèle est plus compréhensible et analysable que les **grands modèles de langage** habituels.
Une autre méthode en cours de développement est la **monitoring de chaîne de pensée**. Cette approche permet aux modèles de justifier leurs décisions et actions, semblable à l’écoute du flot de pensée d’une personne. Cela a aidé les scientifiques à identifier des comportements dysfonctionnels.
Bowen Baker, chercheur chez OpenAI, a commenté dans MIT : « Cela s’est avéré très efficace pour détecter les mauvais comportements des modèles. »
Cependant, un risque majeur réside dans la complexité croissante des futurs modèles d’**IA**, surtout s’ils sont conçus par **IA elle-même**. Nous pourrions ne plus avoir d’idée sur leur fonctionnement. Actuellement, malgré nos outils et techniques, nous rencontrons encore des comportements imprévus qui ne correspondent pas aux attentes en matière de **vérité** et de **sécurité**.
Les actualités illustrent ce problème avec des récits inquiétants de personnes se blesser suite à des instructions d’**IA**. C’est d’autant plus troublant que nous manquons de compréhension sur ces systèmes.
En savoir plus sur l’IA : Un développeur indépendant supprime un jeu entier de Steam par honte d’avoir utilisé l’IA.
FAQ
Quelle est la principale difficulté des modèles d’IA actuelle ?
Les modèles d’IA sont souvent considérés comme des “boîtes noires”, rendant difficile leur interprétation et la compréhension de leurs décisions.
Comment les scientifiques tentent-ils de résoudre ce problème ?
Ils adoptent des approches similaires à celles utilisées en biologie pour analyser les comportements des systèmes d’IA, afin de mieux comprendre leur fonctionnement.
Peut-on réellement faire confiance aux recommandations des IA ?
Actuellement, des comportements imprévus peuvent survenir, ce qui soulève des questions sur la fiabilité des systèmes d’IA quant à la sécurité et la véracité de leurs conseils.
Quel est l’impact des comportements indésirables des IA dans notre société ?
Les comportements dysfonctionnels peuvent mener à des conséquences graves, comme des actions néfastes prises par des individus influencés par des suggestions d’IA, posant un réel risque pour la sécurité publique.
Des solutions sont-elles envisagées pour atténuer ces risques ?
Oui, des recherches sont en cours pour améliorer l’interprétabilité des modèles et mettre en place des mécanismes de vérification et de contrôle plus robustes pour prévenir des comportements nuisibles.