Un habitant de Pennsylvanie a été surpris de découvrir, en effectuant une recherche en ligne de son nom, qu’une réponse générée par l’IA de Google le liait à un délit de conduite sous l’emprise de l’alcool (DUI) survenu en 2018.
Informations à retenir
Dans son message publié sur Reddit, il a mentionné un petit bouton qui reliait cette réponse de l’IA à un article qui parlait d’une accusation de DUI. Toutefois, bien qu’ils partagent le même nom de famille et la même région, la personne concernée et celle de l’article se distinguaient par des prénoms et noms de milieu différents.
Un des points majeurs du mécontentement de l’auteur était l’utilisation de son nom complet dans la réponse de l’IA. Il a assuré n’avoir jamais eu de problèmes légaux, même pas une contravention pour excès de vitesse, et pourtant, la réponse de l’IA le tenait pour responsable des accusations.
Un utilisateur de Reddit a ensuite demandé s’il y avait effectivement quelqu’un portant le même nom ayant été reconnu coupable de DUI ; l’auteur du message a pris soin de clarifier qu’il était assez rare et qu’il n’y avait qu’une autre personne portant son nom, celle-ci n’ayant également jamais été impliquée dans des affaires liées aux DUI.
Un commentaire a soulevé que les résultats de recherche concernant des homonymes ne devraient pas s’appliquer à l’auteur ; cette personne a partagé son expérience personnelle, ressemblant à celle de plusieurs autres, y compris un skateur et un juge fédéral. De même, un autre intervenant a noté que la confusion venait de l’inadéquation entre le nom complet de l’auteur et celui mentionné dans l’article lié à la réponse de l’IA.
Que peut-on faire ?
Un intervenant a proposé de consulter un avocat comme solution de secours si la première démarche auprès de Google pour corriger l’information ne donnait pas de résultats satisfaisants. Un exemple concret donné par la personne était celui d’une offre d’emploi qui aurait été retirée à cause de cette accusation de DUI générée par l’IA ; dans une telle situation, il est primordial de demander des conseils juridiques.
Une autre personne a fait remarquer que les résultats de l’IA peuvent parfois être perçus comme erronés avec assurance, mais il n’y a pas encore eu de véritable législation pour traiter les cas d’erreurs d’IA.
Où en apprendre davantage ?
Bien que les préoccupations majeures concernant l’IA portent sur la consommation d’énergie et les ressources en eau, les réponses inexactes et potentiellement nuisibles alimentent également la frustration et le doute.
- Une femme du Tennessee a poursuivi en justice pour 10 millions de dollars après avoir été victime d’une erreur d’IA qui a conduit à son incarcération injuste.
- Les liens entre Gmail et Photos de Google peuvent être utilisés pour cibler des publicités à partir d’informations personnelles recueillies.
- Une mère de l’Utah a témoigné que Meta AI avait divulgué des détails de naissance de sa fille après qu’elle ait posté une vidéo d’elle.
- En Floride, une femme a été placée en isolement après avoir été mal identifiée par une caméra Flock.
- Anthropic a rapporté que son IA, Claude, avait rédigé une fausse information sur un homicide qui a été envoyée à la police de Philadelphie.
Inscrivez-vous aux **newsletters gratuites de TCD** pour des conseils pratiques, des idées malines et une chance de gagner 5 000 $ pour des améliorations de votre logement. Pour voir plus d’histoires comme celle-ci, modifiez vos préférences Google ici.
FAQ
Qu’est-ce que la recherche de homonymes et pourquoi est-ce important ?
La recherche de homonymes consiste à vérifier si plusieurs personnes portent le même nom. Cela est crucial pour éviter des erreurs d’identification, comme celles liées aux cas criminels.
Que faire si une erreur d’IA apparaît dans les résultats de recherche ?
Il est conseillé de contacter la plateforme ou le moteur de recherche concerné pour demander la correction. Si cela échoue, consulter un avocat pourrait être une bonne option.
Quels sont les défis juridiques liés aux erreurs d’IA ?
Les défis incluent la difficulté de prouver le préjudice causé par des informations fausses générées par l’IA et l’absence de lois spécifiques sur ce sujet.
Existe-t-il des exemples récents de poursuites liées à des erreurs d’IA ?
Oui, plusieurs cas récents, y compris des poursuites pour faux emprisonnement ou diffusion d’informations personnelles sans consentement, soulignent les risques associés à l’utilisation de l’IA.
Comment l’IA pourrait-elle améliorer ses réponses ?
Pour améliorer ses réponses, l’IA devrait recevoir des mises à jour régulières et des ajustements de ses algorithmes afin de réduire les erreurs et d’apprendre continuellement de nouvelles informations.
