Des vidéos générées par l’IA exploitées pour des escroqueries
Des escroqueries ciblant les acheteurs à travers des vidéos créées par l’IA ont récemment fait surface. Ces vidéos mettent en scène des vétérans blessés réalisant des articles patriotiques à la main, afin de susciter de la sympathie et de stimuler les ventes.
Ce qu’il faut savoir
D’après des informations rapportées par la BBC, des associations caritatives britanniques pour anciens combattants et l’expert en technologie Will Guyatt alertent sur ce phénomène appelé des “escroqueries de pitié”. Ces actions frauduleuses sont visibles sur des plateformes de réseaux sociaux telles que TikTok, Facebook, Instagram et YouTube, induisant les acheteurs en erreur et diminuant la confiance envers des organisations légitimes qui soutiennent les anciens militaires.
Un exemple frappant est l’histoire de Raymond Gilbert, un vétéran de l’armée âgé de 63 ans vivant à Bradenstoke, dans le Wiltshire. Il a confessé avoir dépensé 154,99 £ (soit environ 205 $) pour un drapeau en bois, prétendument fait main, acheté sur un compte TikTok se présentant comme celui d’un ancien combattant. Plus tard, il a découvert que le produit qu’il avait reçu semblait provenir de Chine.
Gilbert raconte : “Je naviguais sur TikTok et je suis tombé sur un homme qui prétendait s’être blessé en fabriquant des drapeaux dans son garage pour arrondir ses fins de mois. C’était touchant, sa femme le soutenait, et le produit final semblait de bonne qualité.”
Cependant, à réception du colis, Gilbert a remarqué que l’enveloppe portait des caractères chinois et que le drapeau n’était qu’une image imprimée sur du contreplaqué.
Guyatt indique à la BBC que ces types d’escroqueries deviennent de plus en plus persuasives, affirmant : “La réalité est que ces vidéos sont réalisées en quelques minutes.” De plus, des bots inondent les sections de commentaires pour encourager les gens à acheter.
La BBC a pu identifier 45 comptes similaires sur TikTok, ainsi que d’autres sur Facebook, Instagram et YouTube, qui vendaient des produits liés à la thématique militaire, tels que des sacs, des planches à découper et des couronnes.
Contexte supplémentaire
Selon la BBC, plusieurs signes d’alerte existent, notamment des récits répétitifs sur différents comptes et des blessures qui varient d’une vidéo à l’autre. Gilbert trouve cela “détestable et insidieux” de tenter d’escroquer quelqu’un de cette manière, soulignant le manque de moralité de telles actions.
Les véritables associations caritatives pour veterans avertissent que de fausses histoires sur des difficultés financières peuvent rendre encore plus difficile pour les groupes légitimes d’établir un climat de confiance. Spencer Bull de l’association Help for Heroes a indiqué que cette tendance nuit à la réputation des organisations caritatives qui travaillent pour soutenir les personnes dans le besoin. De son côté, Faye Tryhorne de Alabaré a souligné le risque que des vétérans ayant réellement besoin d’aide soient laissés pour compte.
Simon Gray, ancien combattant et résident de la maison Alabaré à Bristol, a partagé son émoi face à ces vidéos : “Un de mes bons amis a été victime d’un engin explosif en Afghanistan… J’avais un peu les larmes aux yeux en regardant ces vidéos ; cela semble tellement crédible.”
Que faire ?
En réponse à cette situation, TikTok a confirmé à la BBC avoir supprimé les 45 comptes identifiés, affirmant appliquer des règles strictes contre les contenus générés par l’IA jugés trompeurs ou les escroqueries. Meta a également déclaré avoir retiré des comptes et contenus enfreignant ses règles, tandis que YouTube a suspendu plusieurs chaînes signalées.
Guyatt recommande aux acheteurs de rester vigilants et d’être attentifs aux erreurs visuelles dans les annonces, de se méfier si quelque chose semble trop beau pour être vrai, de consulter un ami ou un membre de la famille familiarisé avec Internet, et de vérifier si le même produit est proposé sur d’autres sites.
Bien que des recours juridiques puissent exister, leur mise en œuvre reste complexe. Daniel Fletcher, avocat senior chez Forbes Solicitors, rappelle aux consommateurs qu’ils “ont droit à un remboursement,” mais que la nature territoriale de ces annonces rend l’exercice de ces droits difficile. Selon Bull, “C’est une véritable honte que nous en soyons arrivés là ; cela détruit la confiance entre les vétérans et les associations qui sont là pour les soutenir.”
Où en apprendre davantage ?
Ces situations illustrent les diverses manières dont l’IA est utilisée pour tromper les internautes. D’autres cas incluent des escroqueries à Massachusetts, l’usurpation d’identité de créateurs, des affiches de films fausses, des messages politiques trompeurs, ainsi que des mises en garde de leaders politiques et technologiques.
- Un homme a perdu 400 000 $ suite à une escroquerie liée à l’IA à Massachusetts.
- Une créatrice a découvert qu’un escroc avait utilisé une IA pour la remplacer dans une vidéo troublante.
- Des images d’affiches de films artificielles ont été diffusées, laissant les spectateurs mal à l’aise.
- En Californie, les autorités ont repéré une opération trompeuse alimentée par l’IA derrière des emails attaquant une proposition essentielle.
- Des leaders politiques et des dirigeants d’entreprise ont prévenu que l’IA pourrait devenir un moteur d’inégalité à l’échelle mondiale.
FAQ
Quelles sont les principales plateformes où ces escroqueries se produisent ?
Les escroqueries liées aux vétérans se rencontrent principalement sur des plateformes comme TikTok, Facebook, Instagram, et YouTube.
Comment puis-je reconnaître une escroquerie de ce type ?
Soyez vigilant aux incohérences dans les vidéos, aux récits répétitifs et à des produits aux prix trop attractifs.
Que faire si j’ai été victime d’une telle escroquerie ?
Contactez votre banque pour signaler la fraude et envisagez des recours juridiques, bien que cela puisse s’avérer compliqué.
Les associations de vétérans font-elles des efforts pour contrer ces escroqueries ?
Oui, des organisations comme Help for Heroes et Alabaré se battent pour maintenir la confiance et sensibiliser le public à ce type de fraude.
Peut-on réellement se faire rembourser après une escroquerie ?
Théoriquement oui, les consommateurs ont droit à un remboursement, mais appliquer cela peut s’avérer difficile en raison des complexités juridiques associées à ces types d’escroqueries.
