Tech Crunch
Imaginez une situation délicate : votre grand-mère décède loin de chez vous, et vous devez prendre un vol pour assister à ses funérailles. En parcourant un site aérien, un chat bot amical vous convainc d’acheter un billet au tarif normal, avec l’assurance que vous pourrez demander un remboursement pour un tarif réduit dédié aux décès plus tard.
Cependant, après la cérémonie, lorsque vous essayez de suivre les conseils du chatbot en demandant le remboursement, la compagnie aérienne vous informe que son information était erronée. En fait, le tarif réduits pour les circonstances funéraires ne s’applique pas aux voyages déjà complétés, vous laissant avec une facture inattendue de plusieurs centaines de dollars.
C’est exactement ce qui est arrivé à un Canadien nommé Jake Moffatt. Son histoire a été relayée par la CBC : lors du décès de sa grand-mère à Toronto en novembre 2022, il a dû voyager depuis la Colombie-Britannique pour le service funéraire.
Pour aggraver la situation, Air Canada, la compagnie concernée, a soutenu lors d’une audience au tribunal des petites créances qu’elle n’était pas responsable des informations fournies par le chatbot.
Cette semaine, en réponse à cette affaire, des responsables gouvernementaux ont ordonné à Air Canada de verser à Moffatt un montant total de 812,02 $ pour compenser la différence entre le tarif intégral et le tarif deuil.
En d’autres termes, les autorités ont rejeté l’argument de la compagnie stipulant que le chatbot était un entité juridique distincte responsable de ses propres actions.
Bot Fair
Les entreprises se précipitent pour intégrer des chatbots dans leurs interactions avec la clientèle, même si ces technologies ne sont pas encore prêtes à être utilisées efficacement. Le cas du chatbot d’Air Canada illustre particulièrement bien ce problème.
Ce qui préoccupe également, c’est la question de la responsabilité liée à cette technologie d’intelligence artificielle des chatbots, qui est toujours en évolution. Quand une entreprise essaie de se dégager des responsabilités liées aux actions d’un chatbot, cela crée un précédent problématique pour d’autres entreprises à suivre et soulève la question complexe de la responsabilité : qui est en charge en cas de problème ? Est-ce la société qui utilise l’IA, celle qui a développé l’outil, ou le client lui-même ?
Il est à espérer qu’à l’instar de l’affaire d’Air Canada, la décision judicieuse prévaudra, afin que les citoyens ne soient pas laissés à la merci de tels systèmes.
À savoir sur les chatbots :
Qu’est-ce qu’un chatbot ?
Un chatbot est un programme informatique conçu pour simuler une conversation avec des utilisateurs, souvent utilisé dans le service client.
Quels sont les risques associés aux chatbots ?
Les chatbots peuvent fournir des informations erronées, ce qui peut entraîner des frais imprévus pour les clients ou des complications dans la gestion de situations sensibles.
Comment fonctionnent les chatbots ?
Ils utilisent généralement des algorithmes de traitement du langage naturel pour comprendre et répondre aux demandes des utilisateurs.
Les chatbots remplacent-ils les agents humains ?
Bien qu’ils peuvent automatiser certaines tâches, les chatbots ne remplacent pas entièrement le besoin d’interaction humaine, surtout dans des situations complexes.
Y a-t-il des réglementations sur l’utilisation des chatbots ?
Oui, plusieurs pays commencent à établir des réglementations pour encadrer l’utilisation de l’intelligence artificielle et des chatbots, surtout en ce qui concerne la protection des consommateurs.
