Un Réveil Mal Adressé
En février dernier, le générateur d’images IA de Google, alimenté par Gemini, a fait parler de lui, mais pas pour les bonnes raisons.
Le géant technologique a dû s’excuser après que son outil ait produit des images de soldats allemands de l’époque nazie, présentant une diversité raciale surprenante. Cet incident est apparu après que Google a tenté de corriger ses problèmes de biais racial persistants liés à sa technologie.
Dans un communiqué à l’époque, Google a reconnu que son générateur d’images était sujet à des inexactitudes dans les représentations historiques, affirmant qu’ils cherchaient à remédier à ce problème “sans délai”. Cependant, leurs promesses se sont heurtées à des mois de passivité durant lesquels ils n’ont pas réussi à instaurer des mesures de sécurité efficaces. Ils ont finalement dû fermer la fonctionnalité, avouant avoir “fait une erreur”.
Aujourd’hui, Google a annoncé que son générateur d’images IA allait faire son retour en ligne, et les utilisateurs sont impatients de retrouver ses défaillances éventuelles.
Améliorations de Gemini
Dans un article de blog, le directeur senior de Gemini Experiences, Dave Citron, a assuré que des améliorations avaient été effectuées dans les capacités de génération d’images créatives grâce à un nouveau modèle, Imagen 3. Ce modèle intègre des “systèmes de protection intégrés” et se conforme aux “principes de conception” établis par l’entreprise.
Une étude non encore évaluée par des pairs, réalisée par les chercheurs de Google DeepMind, a révélé qu’ils avaient employé un processus de filtrage en plusieurs étapes pour garantir la qualité et la sécurité des images générées par Imagen 3. Ce processus débute par l’élimination des images dangereuses, violentes, ou de faible qualité. Ils ont également supprimé les images générées par IA pour empêcher le modèle de reproduire les biais et artefacts fréquemment présents dans ces œuvres.
Les chercheurs ont consulté des jeux de données de sécurité pour veiller à ce que le modèle n’engendre pas d’images explicites, violentes ou trop sexualisées. Google a également précisé qu’ils ne soutiennent pas la création d’images photoréalistes d’individus identifiables ou de scènes excessivement violentes ou sanglantes.
Toutefois, le questionnement demeure : Google a-t-il vraiment pris le temps d’effectuer les révisions nécessaires cette fois-ci ? Reste à voir si Imagen 3 produira, à son tour, des représentations de nazis raciaux diversifiés ou des clowns inquiétants.
Citron a admis que, comme pour tout outil d’IA générative, chaque image créée par Gemini ne serait pas nécessairement parfaite. Cependant, il a assuré qu’ils continueraient à écouter les retours des premiers utilisateurs pour continuer à améliorer l’outil.
FAQ
Quelle est la nature des erreurs initiales du générateur d’images de Google ?
Le générateur a produit des images de soldats allemands de l’époque nazie avec une diversité raciale inattendue, ce qui a suscité des controverses sur les biais raciaux intégrés au modèle.
Comment Google prévoit-il d’améliorer la sécurité des images générées ?
Avec Imagen 3, Google utilise un processus en plusieurs étapes pour filtrer les images non sécurisées et apprend de jeux de données spécifiques pour éviter les contenus indésirables.
Quelles mesures Google a-t-il mises en place pour écouter le feedback des utilisateurs ?
Google s’engage à consulter les commentaires des premiers utilisateurs pour peaufiner et améliorer la performance de son générateur d’images.
Qu’est-ce qu’Imagen 3, et en quoi se distingue-t-il des versions précédentes ?
Imagen 3 est le dernier modèle de génération d’images de Google, qui intègre des systèmes de protection et respecte des principes de conception améliorés pour éviter les dérives précédentes.
Quels types d’images seront prohibés par le générateur ?
Le générateur n’autorise pas la création d’images de personnes identifiables, de mineurs, ou de scènes jugées trop violentes ou sexualisées.