Crédit photo : Getty Images
Un outil controversé retiré par Meta
Après avoir reçu une vague de critiques, Meta a décidé de supprimer une nouvelle fonctionnalité d’Instagram, liée à l’intelligence artificielle. Cette option avait été dénoncée par certains comme un potentiel outil de harcèlement et d’édition d’images sans consentement.
Le contexte de la controverse
Selon les informations rapportées par TechCrunch, cette fonctionnalité permettait aux utilisateurs de générer des images modifiées par l’IA en se basant sur des photos issues de profils Instagram publics. Cette possibilité a suscité immédiatement des préoccupations en termes de sécurité et de consentement.
Au début de juillet, Meta Superintelligence Labs, le département d’IA de l’entreprise, a lancé un nouvel outil nommé Muse Image. Ce générateur d’images IA permettait, entre autres, d’utiliser des photos de comptes publics comme référence pour créer de nouveaux visuels. Rapidement, des critiques se sont intensifiées, notamment parce que les propriétaires des photos n’étaient pas informés que leurs images étaient utilisées.
Cette situation brodait une question fondamentale : qu’est-ce qui empêche quiconque de transformer une photo publique en une image trompeuse ou inappropriée ?
La réaction rapide de Meta
Le 10 juillet, Meta a annoncé qu’elle retire la fonctionnalité en raison d’un vif mécontentement. La décision a été rapportée par Dylan Byers, partner fondateur de Puck News, sur les réseaux sociaux, où il a mentionné qu’elle était prise “sous le regard inquiet des utilisateurs et des agences de talents, y compris CAA“.
Cette réaction rapide de Meta montre qu’elle n’avait pas anticipé l’impact que ce nouvel outil aurait sur la perception des utilisateurs, en considérant que le partage public était un terrain de jeu pour des remixes générés par l’IA.
Pourquoi est-ce important ?
Les générateurs d’images par IA peuvent être utiles dans des domaines comme le design ou l’accessibilité, mais les intégrer directement sur des plateforme sociales peut exposer rapidement à des risques.
Bien que les individus soient en général conscients que leurs photos publiques sont accessibles en ligne, ils ne s’attendent pas à ce que ces images deviennent le socle de modifications faites sans leur consentement.
Cette problématique dépasse le cadre des célébrités ou figures publiques. Un outil comme celui-ci augmente les risques d’usurpation d’identité, de dommages à la réputation, d’harcèlement, et d’images explicites créées sans accord.
Lorsque les barrières sont abaissées, les mauvais usages peuvent se propage rapidement. La plateforme sociale X a déjà été soumise à ce type de critiques concernant la sécurité, en particulier pour les enfants et les femmes.
De plus, les générateurs d’images requièrent des centres de données qui consomment de grandes quantités d’énergie et d’eau, reliant ainsi l’expansion de l’IA aux ressources naturelles.
Bien qu’il existe des utilisations bénéfiques de l’IA pour optimiser la consommation énergétique, les préoccupations demeurent quant à l’augmentation des demandes énergétiques, ce qui peut peser sur les factures d’énergie, ainsi qu’aux enjeux de pollution sonore et de sécurité.
Les mesures prises par Meta
Pour l’instant, la principale action menée par Meta a été la suppression rapide de cette fonctionnalité problématique. Plus généralement, les plateformes sociales ont commencé à mettre en place des politiques de modération et d’autres restrictions pour encadrer les outils liés à l’IA.
Cependant, ces systèmes de contrôle sont souvent en retard, surtout lorsque de nouvelles fonctionnalités sont lancées à un large public avant que les éventuels risques aient été suffisamment pris en compte.
Meta a indiqué que son intention initiale était d’offrir un outil créatif utile, permettant de contrôler si le contenu public pouvait être référencé de cette manière. Dans un communiqué, ils ont reconnu que cette fonctionnalité ne répondait pas aux attentes et a donc été retirée.
Inscrivez-vous à la newsletter gratuite de TCD pour des conseils pratiques, des recommandations et une chance de gagner 5 000 $ pour des rénovations domiciliaires. Pour découvrir d’autres histoires comme celle-ci, modifiez vos préférences Google ici.
FAQ
Qu’est-ce que Muse Image ?
Muse Image était un générateur d’images basé sur l’IA, permettant de créer des visuels à partir de photos de comptes Instagram publics.
Quels étaient les principaux risques associés à cette fonctionnalité ?
Les risques incluaient l’utilisation d’images publiques sans consentement, menant à des abus tels que l’usurpation d’identité et la création d’images trompeuses ou offensantes.
Comment réagit Meta face aux critiques de ses utilisateurs ?
Meta a rapidement supprimé la fonctionnalité après des réactions négatives, soulignant qu’elle n’avait pas prévu l’ampleur de l’opposition.
Quelles sont les implications de l’utilisation de l’IA dans les plateformes sociales ?
L’intégration de l’IA dans les médias sociaux peut accroître les risques de protection de la vie privée et de sécurité des utilisateurs, particulièrement en matière d’usage non consenti des images.
Que fait Meta pour modérer les outils d’IA à l’avenir ?
Meta et d’autres plateformes sociales travaillent à établir des politiques de modération pour encadrer l’utilisation des fonctionnalités basées sur l’IA, bien que cela reste un défi.
