Selon Giannis Daras, étudiant en doctorat en informatique à l’Université du Texas à Austin, le système d’IA de génération d’images à partir de textes, **DALL-E2**, semble avoir créé sa propre langue écrite.
Au début de cette année, **DALL-E2** a fait sensation grâce à sa capacité impressionnante à transformer des descriptions textuelles en images photoréalistes ou artistiques. Cependant, il se pourrait qu’il soit encore plus puissant et mystérieux, capable de générer un code secret.
Par exemple, dans un fil de discussion viral sur Twitter, Daras a montré que demander à l’algorithme de créer une image de « **fermiers discutant des légumes** » produisait un texte contenant le mot inconnu « **vicootes** ». Fait étrange, lorsque ce mot est inséré dans le système, **DALL-E2** retourne des images de légumes.
Plus étonnant encore, Daras a ajouté que l’image des fermiers contenait un texte apparemment absurde : « **poploe vesrreaitars** ». En soumettant cela à l’algorithme, on obtient une série d’images d’oiseaux.
Cela a conduit Daras à faire une remarque amusante : « On dirait que les fermiers parlent d’oiseaux pendant qu’ils jouent avec leurs légumes ! »
Dans un article de recherche, encore en attente de validation, coécrit avec un collègue, Daras propose que cette IA avancée ai généré un **« vocabulaire caché »** qui serait intégré à son fonctionnement principal. Cela illustre une fois de plus combien **il est difficile de comprendre les mécanismes de l’IA avancée**.
« **DALL-E2 a une langue secrète** », a affirmé Daras, ajoutant que la découverte de ce langage soulève de nombreuses questions sur la sécurité et l’interprétabilité de l’IA.
Il est toutefois important de noter que les conclusions de Daras peuvent encore être **fragiles**. Comme il le mentionne, les résultats ne sont pas toujours cohérents. Dans certains cas, la requête « **Contarra ccetnxniams luryca tanniounons** » génère des images d’insectes, alors que dans d’autres, cela produit des images « essentiellement d’animaux ».
Toutes ces affirmations ne convainquent pas tout le monde. Benjamin Hilton, analyste de recherche, a exprimé ses doutes, suggérant que tout cela pourrait simplement être le fruit d’un « **hasard aléatoire** ». Il a même avancé que « **poploe vesrreaitais** » pourrait ressembler à un nom binomial pour des oiseaux ou des insectes.
Hilton a déclaré : « Pour moi, cela ressemble plus à un **bruit stochastique**, qu’à un véritable langage secret de DALL-E. »
Il existe aussi une possibilité que l’on cherche trop loin, en découvrant la capacité du système d’IA à créer des raccourcis en transformant des images en code, comme le souligne **Vice**.
Il sera intéressant de voir comment la communauté de recherche réagira à ces déclarations de Daras.
Si ses arguments sont corroborés, nous pourrions assister à une **nouvelle avancée fascinante** dans le domaine de l’IA, ou bien nous pourrions exagérer la portée de cette découverte en cherchant trop de significations sous-jacentes.
FAQ
Qu’est-ce que DALL-E2 ?
DALL-E2 est un système d’intelligence artificielle capable de générer des images à partir de descriptions textuelles, combinant créativité et technologie avancée.
Pourquoi les chercheurs s’intéressent-ils à la langue secrète de DALL-E2 ?
La découverte d’une langue cachée pourrait avoir des implications importantes en matière de sécurité et d’interprétabilité des systèmes d’IA.
Quelles sont les applications potentielles de DALL-E2 ?
DALL-E2 pourrait être utilisé dans divers domaines tels que le design, l’éducation, la publicité et même la recherche artistique.
Y a-t-il des précédents pour des découvertes similaires dans le domaine de l’intelligence artificielle ?
Oui, d’autres systèmes d’IA ont montré des comportements inattendus, soulevant des questions sur leur fonctionnement interne et leur capacité à générer un langage.
Quelle est la réaction de la communauté scientifique ?
La communauté scientifique reste divisée, avec certains chercheurs sceptiques quant aux affirmations de Daras, tandis que d’autres pensent qu’il pourrait y avoir quelque chose d’important à explorer.
