Des escroqueries opportunistes après l’ouragan Helene
Les familles en détresse recherchent des êtres chers disparus, tandis que les communautés sont confrontées à des pertes incommensurables en vies humaines et en biens matériels suite à l’ouragan Helene. Dans ce contexte tragique, des escrocs profitent de la situation pour leurs propres intérêts, notamment à travers des contenus générés par intelligence artificielle.
Un changement de stratégie sur les réseaux sociaux
Un compte Facebook, nommé “Coastal Views”, se distinguait par ses images apaisantes de paysages naturels et de plages. L’image de couverture du compte affichait un panneau indiquant “OBX Live”, une référence aux îles Outer Banks en Caroline du Nord. Cependant, dès ce week-end, la nature du contenu partagé a connu un tournant radical. Les utilisateurs sur X ont déjà signalé ce changement.
Contenu douteux partagé
Plutôt que de proposer des photos de plage ou de dauphins virevoltants, le compte a commencé à diffuser des images de quartiers inondés en montagne, de maisons submergées et de chiens perchés sur des toits. Au lieu de fournir des informations utiles aux personnes touchées par cette catastrophe naturelle, le compte semble exploiter l’attention médiatique générée par l’ouragan.
Sur ce compte, un lien mène à une page Etsy pour une entreprise nommée “OuterBanks2023”, où un individu utilisant le nom “Alexandr” propose des impressions générées par des AI. Parmi les œuvres, on peut trouver des images fantaisistes de chevaux et de tortues de mer, de Santa Claus courant sur la plage avec un renne, ainsi que des couchers de soleil sur des vagues océaniques.
Images de désastre peu convaincantes
Les images partagées, qui prétendent montrer les ravages des tempêtes, essaient d’apparaître réalistes, mais montrent des signes évidents de génération par IA. Par exemple, l’une des personnes censées sauver un chiot semble avoir une main avec six doigts, un détail révélateur d’une manipulation numérique.
La page a aussi commenté une image troublante avec un message comme “Super boulot”, accompagné d’émojis de mains jointes, révélant ainsi un ton désinvolte face à une situation alarmante.
Une dérive inquiétante
Ces publications déplacées révèlent une tendance inquiétante sur les réseaux sociaux. Si vous avez récemment navigué sur Facebook, vous avez sans doute croisé des contenus de mauvaise qualité créés par IA. Ce phénomène, qualifié d’AI slop, est invasif et se manifeste sous différentes formes, touchant divers sujets, notamment des soldats, des forces de l’ordre, des enfants en détresse, et désormais des catastrophes naturelles.
Une enquête menée par 404 Media a mis en lumière que ces contenus étaient souvent conçus pour contourner les algorithmes de Facebook afin de générer des engagements et, par extension, des revenus publicitaires.
Les conséquences de l’escroquerie
Les publications de Coastal Views ne semblent pas atteindre des audiences massives, laissant planer le doute sur les bénéfices générés par le compte. L’objectif principal semble être d’attirer les utilisateurs vers la page Etsy associée, sans jamais indiquer que les images sont créées par IA, mais plutôt en les présentant comme des photos authentiques de zones sinistrées.
Ces fausses représentations de destruction, comme celles d’Asheville, paraissent surtout être une stratégie pour inciter les gens à acheter des images générées artificiellement. Si tel est le cas, cela constituerait une utilisation insidieuse de l’IA, entravant la circulation d’informations précieuses après une catastrophe naturelle tragique.
Conclusion
Malgré nos tentatives de contact avec Coastal Views, nous n’avons pas obtenu de réponse pour éclaircir cette situation.
FAQ
Qu’est-ce que l’AI slop?
L’AI slop désigne des contenus de mauvaise qualité générés par des algorithmes d’intelligence artificielle, souvent utilisés pour capter des clics et des interactions sur les réseaux sociaux.
Pourquoi ces contenus sont-ils problématiques?
Ces contenus, souvent trompeurs, peuvent désinformer les gens et nuire à la circulation d’informations réelles en période de crise, aggravant ainsi le stress des communautés touchées.
Comment reconnaître les images générées par IA?
Les images d’IA peuvent présenter des anomalies, comme des détails incohérents ou des proportions étranges, et manquent souvent de réalisme.
Que faire si je tombe sur un contenu suspect?
Il est conseillé de signaler les contenus douteux sur les plateformes de réseaux sociaux, et de vérifier les sources d’information pour se prémunir contre la désinformation.
Existe-t-il des exemples similaires?
Oui, des cas similaires ont été observés dans d’autres contextes, comme les faux témoignages de soldats ou les images manipulées de situations d’urgence, alimentant la désinformation sur de nombreux sujets d’actualité.