Problèmes de désinformation sur Facebook
Sur Facebook, un phénomène inquiétant en matière de désinformation liée à l’intelligence artificielle prend la forme d’un soi-disant sage sorcier donnant de mauvais conseils sur les champignons. Un groupe dédié aux amateurs de cueillette de champignons a récemment intégré un chatbot qui propose des recommandations sur la manière de préparer des champignons, y compris des variétés toxiques.
Des recommandations dangereuses
D’après un rapport de 404 Media, ce groupe, qui aide les cueilleurs à identifier les champignons qu’ils trouvent, a vu l’arrivée d’un chatbot appelé FungiFriend. Ce dernier, animé par un avatar de sorcier barbu aux couleurs psychédéliques, a conseillé un utilisateur sur la préparation de Sarcosphaera coronaria, un champignon de couleur violette considéré comme comestible avant que plusieurs personnes ne fassent des intoxications mortelles en Europe après l’avoir ingéré. Le bot a maladroitement suggéré de le faire revenir à la poêle dans du beurre, de l’incorporer dans des ragoûts ou même de le conserver en pickles.
L’alerte lancée par un expert
Ce chatbot a été signalé à 404 Media par Rick Claypool, directeur de recherche au sein de l’association Public Citizen, qui défend les droits des consommateurs. Claypool, passionné de cueillette, avait déjà mis en garde contre la désinformation concernant les champignons. Il a souligné que des groupes comme celui de l’identification des champignons du Nord-Est jouent un rôle crucial en aidant les débutants à faire la différence entre les espèces comestibles et celles potentiellement mortelles. Intégrer de l’intelligence artificielle dans ce contexte, c’est clairement prendre des risques.
Les dangers de l’IA pour les novices
Selon Claypool, il est illusoire de penser que l’IA peut fournir des informations fiables sur la toxicité des champignons. Il a affirmé que les utilisateurs novices sont plus susceptibles d’écouter le chatbot, surtout lorsqu’ils hésitent à poser des questions à de vraies personnes. Il a ajouté que ceux qui manquent de confiance pourraient préférer demander au chatbot, craignant d’être jugés par d’autres humains.
La situation met en lumière le risque que représente la confiance excessive accordée à des technologies qui, au lieu de renseigner, pourraient conduire à des accidents graves.
Conclusion
Il est essentiel d’être conscient des dangers liés aux conseils automatiques fournis par des chatbots, notamment dans des domaines aussi sensibles que l’identification des champignons. L’implication de l’IA dans des espaces où l’expertise humaine est cruciale peut mener à des conséquences désastreuses, surtout pour les néophytes qui n’ont pas assez de connaissances pour faire la distinction.
FAQ
Pourquoi les chatbots sont-ils si populaires dans les groupes en ligne ?
Les chatbots offrent des réponses instantanées et sont accessibles 24 heures sur 24, ce qui les rend attrayants pour les utilisateurs désireux d’obtenir des réponses rapides sans attendre un modérateur.
Quelle est la responsabilité des plateformes comme Facebook face à ces cas de désinformation ?
Les plateformes ont la responsabilité d’encadrer l’usage des technologies d’IA et de veiller à ce qu’elles ne diffusent pas des conseils erronés, notamment dans des domaines à risque.
Comment reconnaître un champignon comestible ?
Utiliser des guides de terrain fiables, consulter des experts ou rejoindre des groupes d’identification de champignons sont de bons moyens pour apprendre à distinguer les variétés comestibles des toxiques.
Y a-t-il des effets à long terme de la désinformation sur la santé publique ?
Oui, la désinformation peut engendrer des comportements à risque, menant à des empoisonnements ou des problèmes de santé, affectant ainsi la santé publique.
Comment les amateurs de champignons peuvent-ils se protéger ?
Il est conseillé de toujours vérifier plusieurs sources avant de consommer un champignon, d’éviter d’écouter uniquement les conseils de l’IA et de participer à des formations sur la cueillette en toute sécurité.
