Technologie

Un acheteur transmet sa liste de courses à une IA et reçoit 72 œufs non sollicités.

Un acheteur transmet sa liste de courses à une IA et reçoit 72 œufs non sollicités.

Un incident surprenant avec un assistant IA

Un client a confié sa liste de courses à un agent d’intelligence artificielle et a reçu une surprise inattendue : 72 œufs. Intrigué, il s’est demandé comment cela avait pu se produire et a constaté que l’agent avait du mal à justifier cet achat non sollicité.

Détails de l’incident

Matt Smith, qui travaille chez Rebellionaire, une société d’équité dirigée par des investisseurs de Tesla, a partagé des captures d’écran de cette interaction sur le réseau social X. Selon ce qu’il a publié, l’agent a reconnu avoir ajouté à son panier quatre cartons d’œufs Vital Farms, contenant chacun 18 œufs.

Lorsque l’agent a tenté de s’expliquer, il a suggéré qu’il avait peut-être mal interprété une entrée dans une photo de la liste de courses. Cependant, en étant questionné sur la quantité choisie, l’IA a admis qu’elle n’avait pas de note pour justifier cette décision.

Matt a vite réagi en précisant à l’agent qu’il n’y avait aucune mention d’œufs sur sa liste. Malheureusement, malgré cette clarification, la commande indésirable avait déjà été traitée et livrée à son domicile.

Contexte plus large

Ce cas met en lumière les préoccupations croissantes concernant la confiance que les utilisateurs doivent accorder à ces agents d’IA, surtout en ce qui concerne l’accès à des informations financières sensibles comme les comptes bancaires. Un autre utilisateur mentionné dans l’article a même signalé que son adresse personnelle avait été envoyée à des inconnus par l’agent IA Muse de Meta, sans qu’il ait été prévenu.

A lire :  Restauration des rivières de Californie : des barrages de castors artificiels ont fait tomber le taux de survie des saumons coho de 8% à 60%

Les technologies d’IA dépendent d’une infrastructure informatique connectée au réseau électrique, ce qui augmente la demande en électricité et, selon les systèmes de refroidissement utilisés, en eau. Bien que ces technologies puissent aussi améliorer l’efficacité des énergies renouvelables comme l’éolien et le solaire, leur utilisation croissante met à l’épreuve les mêmes ressources, tout en apportant une certaine commodité.

Que faire dans de telles situations ?

Face à ce type d’incident, il pourrait être préférable de ne pas faire confiance aux agents IA pour passer des commandes de courses et de les gérer soi-même. Dans le cas de Matt, l’agent avait identifié et validé quatre cartons d’œufs dans son panier. Un simple examen de la commande avant la livraison aurait permis d’éviter cette mésaventure.

Matt a ainsi décrit la livraison comme la première fois qu’il a été confronté à une conséquence dans le monde réel d’une “hallucination” d’un modèle de langage.

Inscrivez-vous aux newsletters gratuites de TCD pour recevoir des conseils pratiques et intelligents tout en ayant une chance de gagner 5 000 $ pour des améliorations à domicile. Pour voir d’autres articles comme celui-ci, modifiez vos préférences Google ici.


FAQ

Quels sont les risques associés aux agents d’IA dans les achats en ligne ?

Les agents d’IA manquent parfois de compréhension nuancée des instructions des utilisateurs, ce qui peut entraîner des erreurs de commande.

Comment éviter des erreurs similaires lors de la commande en ligne ?

Il est conseillé de lire attentivement les récapitulatifs des commandes avant de finaliser un achat, afin de détecter d’éventuelles erreurs.

Les entreprises sont-elles responsables des erreurs causées par des agents IA ?

La responsabilité dépend souvent des conditions d’utilisation de la plateforme : certaines entreprises peuvent décliner toute responsabilité pour des erreurs générées par des systèmes d’IA.

A lire :  L'extension du "Mur du Vent" en Floride : 15 millions de dollars pour des tests d'ouragans à 320 km/h

Quelle est la façon la plus sûre d’utiliser des agents d’IA ?

Limitez leur utilisation à des tâches simples et non sensibles, et vérifiez toujours les résultats ou recommandations fournies.

Les agents d’IA peuvent-ils s’améliorer avec le temps ?

Oui, les systèmes d’IA s’améliorent souvent grâce à des mises à jour régulières et à un apprentissage basé sur les interactions passées et les retours d’expérience des utilisateurs.