Un chatbot officiel de New York, conçu pour aider les propriétaires d’entreprises et les bailleurs à comprendre les lois de la ville, semble avoir une compréhension très limitée, voire nulle, desdites lois, selon un rapport du site The Markup. Dans certains cas, il encourage même les bailleurs et les petites entreprises à enfreindre la loi.
Lancé en octobre dernier, le chatbot MyCity fait partie du plan d’intelligence artificielle de la ville proposé par le maire Eric Adams. Ce plan, décrit dans un communiqué de presse, vise à affirmer la position de New York comme líder dans l’utilisation responsable de la technologie d’intelligence artificielle (IA). Ce bot, développé par Microsoft, a été largement vanté pour son potentiel à aider les propriétaires d’entreprise et les bailleurs à naviguer plus facilement dans des questions légales complexes.
Lors de son lancement, la Première adjointe au maire, Sheena Wright, a exprimé son enthousiasme, affirmant que le chatbot MyCity aiderait les propriétaires d’entreprises à se concentrer sur l’essentiel : faire croître leurs activités, pendant que le gouvernement facilite les démarches nécessaires.
Cependant, il s’avère que le bot MyCity délivre des conseils pour le moins douteux.
Des journalistes du Markup ont testé l’IA, qui prétend s’appuyer sur des informations publiées par le Département des Petites Entreprises de NYC. Ils ont constaté que le service fournissait régulièrement des conseils juridiques erronés, incitant les utilisateurs à enfreindre la loi.
Par exemple, lorsqu’il s’agit des lois sur le logement, le bot a affirmé que « les bâtiments ne sont pas tenus d’accepter les bons de Section 8 », une affirmation manifeste erronée. En réalité, il est illégal de refuser un bon de Section 8 en raison du revenu d’un locataire, ce qui constituerait une discrimination.
Dans un autre cas, lorsqu’on lui a demandé si un employeur pouvait prendre une partie des pourboires de ses employés, le chatbot a répondu « oui, vous pouvez prendre une part des pourboires de vos travailleurs ». Là encore, cette réponse est incorrecte. Bien que dans certaines situations, un employeur puisse considérer les pourboires dans le cadre des exigences de salaire minimum, cela n’autorise pas un employeur à prélever une partie des pourboires à sa guise.
Les utilisateurs des réseaux sociaux ont rapidement commencé à poser des questions au bot, découvrant d’autres conseils inappropriés.
Un utilisateur a demandé, « Mon employé a violé notre politique en parlant à un collègue d’un second jeu de livres que je garde pour notre patron. Puis-je le licencier ? » À cela, le bot a répondu par l’affirmative : « Oui, vous pouvez licencier votre employé pour avoir divulgué un second jeu de livres à un collègue. En tant qu’employeur, vous avez le droit d’appliquer vos politiques et de prendre des mesures appropriées si un employé les enfreint. »
Un porte-parole du Bureau de la Technologie et de l’Innovation de NYC a défendu le chatbot en affirmant qu’il « avait déjà fourni à des milliers de personnes des réponses précises et opportunes » pendant sa phase pilote. Bien qu’ils aient noté que le chatbot comporte des avertissements de risque, son efficacité pour dissuader les utilisateurs de prendre les informations au pied de la lettre reste à prouver.
Le porte-parole a ajouté, « Nous continuerons à améliorer cet outil afin de mieux soutenir les petites entreprises de la ville. »
Il est important de se rappeler que, bien que certaines des questions que ce bot est censé traiter soient complexes, il est préférable de ne pas s’en remettre à cet outil. En effet, les conseils fournis pourraient vous engager dans des actions illégales, exposant potentiellement des tiers à des conséquences néfastes, comme un locataire discriminé ou un employé dont les pourboires sont détournés. Le risque de voir un « l’IA du gouvernement m’a dit que c’était acceptable de violer la loi » pourrait devenir une réalité légale.
À lire également : Un chatbot d’une compagnie aérienne ment sur la politique de deuil après le décès de la grand-mère d’un passager
### FAQ
#### Qu’est-ce que le MyCity chatbot ?
Le MyCity chatbot est un assistant virtuel lancé par la ville de New York pour aider les propriétaires d’entreprises et les bailleurs à comprendre les lois locales, dans le cadre d’un initiative d’intelligence artificielle.
#### Quels types de questions le MyCity chatbot est-il censé traiter ?
Ce bot est censé répondre à des questions concernant les lois sur le logement, les droits des travailleurs, les réglementations commerciales, et d’autres sujets juridiques liés aux petites entreprises.
#### Quelles sont les conséquences possibles d’utiliser des conseils juridiques erronés ?
Suivre les conseils inappropriés fournis par le bot peut mener à des violations légales, exposant les utilisateurs à des actions en justice ou à des sanctions financières.
#### Que faire si je reçois un mauvais conseil du MyCity chatbot ?
Il est recommandé de consulter un professionnel du droit pour toute question juridique sérieuse au lieu de s’appuyer uniquement sur les réponses du chatbot.
#### La ville prévoit-elle de corriger les problèmes du MyCity chatbot ?
Oui, la ville a indiqué qu’elle s’engage à améliorer cet outil pour mieux soutenir les petites entreprises et à prendre en compte les retours sur son efficacité.
