Que vous recherchiez des conseils médicaux ou des astuces pour l’agriculture industrielle, il est crucial de **ne jamais** faire confiance à un chatbot d’IA sans avoir d’abord obtenu un **deuxième avis**, idéalement d’un expert humain dans le domaine concerné.
Ceci est le constat suite à un incident survenu dans la petite ville de Chuzhou, en Chine. Un modèle linguistique a donné des conseils qui ont conduit à la perte tragique de 25 acres de culture.
D’après la publication taïwanaise CTWANT, un agriculteur de 67 ans, nommé Wu, a commencé à consulter un chatbot d’IA pour obtenir des conseils il y a près d’un an. Bien qu’il ait d’abord été **sceptique**, il a progressivement commencé à faire confiance aux recommandations que l’IA lui fournissait.
Au fil du temps, Wu s’est de plus en plus appuyé sur son bot pour tout, depuis des conseils en fertilisation jusqu’à la planification des tâches à la ferme. Après plusieurs mois de consultations productives, il a décidé de suivre un plan de pesticide proposé par l’IA à la lettre, sans jamais vérifier auprès d’un expert ou d’une documentation extérieure.
Le mélange recommandé était une combinaison complexe de produits chimiques, incluant des substances comme le « flupyridine à haute efficacité » et le « flufenazate » pour les mauvaises herbes, accompagnés de « thiaméthoxame » et de « benzoate d’éma-mectine » pour les insectes, selon CT.
Moins d’une journée après l’application, Wu a remarqué que ses jeunes plants de sésame commençaient à dépérir.
Dans une interview vidéo traduite par Tom’s Hardware, l’agriculteur a partagé un conseil issu de son expérience : « Si vous l’appliquez, le lendemain, les plants ne survivront pas. »
« Tant les herbes que les plants vont mourir, et ces derniers périront encore plus vite, » a ajouté Wu avec regret.
Ce cas illustre une fois de plus comment les recommandations d’un LLM peuvent entraîner des conséquences désastreuses pour des professionnels. Wu n’est pas seul ; il fait partie d’un groupe de personnes ayant été induites en erreur par des chatbots d’IA à travers divers secteurs tels que le droit, la médecine, la finance, l’éducation et les médias.
À propos de l’agriculture : Des liens ont été établis entre la société Diarrhea Lettuce et le travail forcé.
FAQ
Quelle est l’importance de valider les conseils obtenus d’un chatbot ?
Il est essentiel de valider les conseils de chatbots, car leurs recommandations peuvent être inexactes. Se fier uniquement à ces systèmes peut avoir des conséquences graves, surtout dans des domaines spécialisés comme l’agriculture ou la médecine.
Quelles sont les erreurs courantes lors de l’utilisation d’IA ?
Une des erreurs fréquentes est de négliger de faire un second avis ou de ne pas consulter des experts humains, ce qui peut mener à de mauvais choix basés sur des recommandations inappropriées.
Comment choisir un bon chatbot pour des conseils ?
Il convient de se tourner vers des chatbots réputés qui offrent des conseils basés sur des données scientifiques et des avis d’experts. Vérifiez les sources et la fiabilité des informations fournies.
Les chatbots d’IA peuvent-ils remplacer les experts humains ?
Non, bien que les chatbots puissent offrir des suggestions, ils ne doivent pas remplacer l’expertise humaine. La supervision d’experts est cruciale pour des décisions informées.
Y a-t-il des réglementations concernant l’usage des IA dans l’agriculture ?
Actuellement, la réglementation sur l’utilisation des IA dans des domaines comme l’agriculture est en cours d’élaboration. Il est préférable de consulter des organismes de régulation locaux pour des conseils adaptés.
