Inscription à la Newsletter
Découvrez le futur dès aujourd’hui
Inscrivez-vous pour explorer les innovations incontournables issues des dernières avancées en sciences et technologies. Ne manquez pas la chance de rester à jour avec ce qui se fait de mieux.
Mode Challenge
Google a récemment mis en service un nouveau réseau de neurones capable de générer des vidéos, mais en raison de problèmes liés à certains contenus, la société choisit de ne pas le rendre public pour le moment. Ce système, connu sous le nom d’Imagen Video, a suscité beaucoup d’enthousiasme, mais certaines préoccupations le retiennent encore dans l’ombre.
Dans un document qui présente ce modèle, Google vante ses remarquables capacités à transformer du texte en vidéo. Cependant, en toute transparence, l’entreprise admet que le lancement est suspendu en raison de défis sécuritaires et éthiques considérables.
Qu’entend-on par contenu problématique ?
Google définit ce contenu problématique comme étant “faux, haineux, explicite ou nuisible”. Cela signifie qu’il est capable de produire des vidéos qui pourraient être sexuelles, violentes, ou racistes, des types de contenu que l’entreprise, soucieuse de son image, souhaite éviter à tout prix.
Les chercheurs de Google déclarent que, bien que les tests internes montrent qu’il est possible d’éliminer une grande partie du contenu explicite ou violent, des biais sociaux et des stéréotypes restent difficiles à détecter et à filtrer. À cause de ces préoccupations, la décision a été prise de ne pas publier le modèle ni son code source tant que ces problèmes ne sont pas résolus.
Les enjeux de l’apprentissage automatique
Dans le cadre de la rubrique dédiée aux biais et limitations, les chercheurs ont noté qu’à bien des égards, même s’ils ont tenté d’entraîner Imagen pour être plus résistant aux données problématiques, il reste encore du chemin à parcourir.
Cela évoque une réalité fascinante : il n’est pas rare que des modèles de machine learning produisent des résultats époustouflants tout en ayant des difficultés à maîtriser leurs sorties potentielles. Bien qu’Imagen offre des performances impressionnantes, contrôler ce qu’il génère reste un défi.
Comparaisons passées
Cette situation rappelle des problèmes rencontrés avec d’autres réseaux de neurones. Par exemple, un IA qui servait de maître de jeu dans des rôles de jeu a été impliquée dans des cas de simulation d’abus sur enfants. De même, le générateur d’images Craiyon (anciennement DALL-E Mini) a montré une tendance à créer des images de drogues de manière réaliste.
La distinction majeure pour Imagen est qu’il génère des vidéos à partir de texte, une capacité qui n’était pas réalisable il y a peu. Regarder une image fixe de contenu sensible est une chose ; voir une vidéo en mouvement en est une autre, ce qui explique la prudence de Google.
Une technologie encore problématique
Un autre exemple d’intelligence artificielle qui soulève des questions est l’application Walmart, qui permet d’essayer virtuellement des vêtements, mais avec la condition de se déshabiller pour que cela fonctionne. Cela semble simplifier la situation, mais cela soulève de nouveaux enjeux éthiques.
FAQ
Qu’est-ce qu’Imagen Video ?
Imagen Video est un modèle de génération vidéo développé par Google qui transforme du texte en vidéos.
Pourquoi Google ne lance-t-il pas Imagen Video ?
Google impose une suspension de la publication due à des préoccupations concernant la création de contenu inapproprié, tel que du contenu violent ou haineux.
Quelle est la nature des contenus problématiques ?
Les contenus problématiques incluent tout ce qui est considéré comme faux, nuisible, ou qui promeut des stéréotypes négatifs.
Quelles sont les implications éthiques de ces technologies ?
Les défis éthiques incluent le risque de produire du contenu inapproprié et les impacts sociaux associés aux biais algorithmiques.
Y a-t-il d’autres exemples similaires d’intelligence artificielle ?
Oui, d’autres applications ont également rencontré des problèmes similaires, notamment des systèmes générant des contenus inappropriés, ce qui alerte sur les précautions nécessaires.
