Meta autorise la vente de faux traitements proposés par des médecins générés par IA sur ses plateformes.

Des faux médecins et des gourous de la santé générés par l’IA envahissent les réseaux sociaux comme Facebook et Instagram, diffusant des conseils médicaux non prouvés et vendant des suppléments douteux.

Une enquête récente menée par le New York Times a examiné des centaines de ces publicités, révélant qu’elles suivent souvent un schéma spécifique pour attirer l’attention des internautes.

Les vidéos IA mettent généralement en scène des avatars qui se présentent comme des figures crédibles, telles que des médecins ou des experts de la médecine orientale. Beaucoup d’entre elles arborent fièrement le drapeau américain et se déroulent dans des décors suburbains familiers.

Certains avatars ressemblent à des personnes ordinaires qui sont visiblement enthousiastes au sujet des suppléments qu’elles consomment, se filment dans des lieux tels que des parkings, des chambres ou des supermarchés, un peu comme des influenceurs humains. Pendant ce temps, les avatars médecins se trouvent dans un bureau, où leurs faux diplômes sont clairement exposés (l’un d’entre eux portant le nom incroyable de “University of Degree” dans une vidéo identifiée par le NYT).

Dans l’enquête, l’un des avatars, une grand-mère asiatique générée par IA habillée en blouse de laboratoire, déclare : “Dans la médecine chinoise, nous savons exactement comment traiter cela depuis des générations.”

Beaucoup de ces vidéos font des affirmations trompeuses, souvent dangereuses. Par exemple, une vidéo pour un produit nommé “Sculptique” prétend que son supplément à base de plantes traite les maladies rénales mieux que la médecine conventionnelle. La société avance avoir donné son supplément à 100 personnes atteinte de la maladie rénale au stade trois, présentant une vidéo générée par IA où ces faux bénéficiaires lèvent leurs bouteilles de supplément dans un entrepôt.

Pamela Wundrow, une femme de 71 ans, a déclaré au NYT qu’elle avait acheté un supplément appelé moringa pour traiter ses symptômes liés à une maladie auto-immune après avoir vu des publicités sur Facebook pour un produit d’une société nommée Rosabella.

Des mois après avoir commencé à prendre ces pilules quotidiennement, des régulateurs fédéraux ont annoncé un rappel pour le supplément de moringa de Rosabella, car certains de ses pilules contaminées rendaient les gens malades avec de la salmonelle.

Bien que Wundrow n’ait pas ressenti de symptômes de salmonelle, elle a affirmé que sa santé se détériorait en prenant le supplément.

“Ils ciblent des personnes comme nous qui avons des problèmes de santé,” a déclaré Wundrow au journal.

Ces publicités ne surgissent pas de nulle part. Une entreprise chinoise utilise des vidéos IA pour aider des marques à vendre leurs produits sur TikTok – un autre terrain vague d’arnaques par IA – en concevant leurs annonces pour qu’elles paraissent américaines.

“Regarde et apprends, mon pote,” dit un homme généré par IA vêtu d’équipement tactique après avoir sorti un poisson de l’eau dans une vidéo de cette société. Il sort ensuite un gadget qui peut également servir de lampe de poche.

Cette entreprise, que le NYT n’identifie pas, affirme produire 1 200 vidéos IA chaque jour, chacune coûtant seulement 10 dollars à réaliser. Son responsable marketing IA, Vivi Yi, a reconnu que la publicité de produits de santé nécessitait plus de précautions ; “gestion du poids” est utilisé à la place de l’expression “perdre du poids”, a-t-elle expliqué.

Comme le fait remarquer le NYT, ces publicités seraient illégales si elles étaient diffusées à la télévision américaine. Cependant, sur les réseaux sociaux, les règles sont plus flexibles et plus difficiles à faire respecter. TikTok a déclaré au NYT qu’il avait banni des comptes faisant des affirmations de santé trompeuses, et Meta affirme étiqueter le contenu généré par IA. Cependant, le NYT a trouvé certaines vidéos de santé clairement générées par IA qui étaient toujours présentes sur la plateforme, mais qui ont été retirées par la suite.

Cela laisse les personnes âgées, ciblées par ces vidéos IA, à devoir se fier à leur propre jugement – et beaucoup ont du mal à distinguer le vrai du faux.

“J’ai vu d’autres vidéos où on peut clairement dire que c’est de l’IA,” a déclaré Wundrow en regardant la vidéo d’une femme âgée affirmant que leur supplément est soutenu par la médecine chinoise. “Pour moi, ça ne ressemble pas à de l’IA.”

Plus sur l’IA : Spotify intensifie son utilisation de contenus générés par IA alors qu’ils sont inondés de ce type de contenu.