AI Raciste
L’outil de génération de texte d’OpenAI, ChatGPT, fait sensation sur Internet avec ses capacités impressionnantes. Ce programme produit tout, allant du code source à des nouvelles qui, bien que parfois douteuses, parviennent à paraître vraisemblables. Il se lance même dans la poésie — parfois choquante — et peut rédiger des essais d’un niveau comparable à celui d’un étudiant de premier cycle.
Cependant, malgré sa capacité à imiter un écrivain humain, ChatGPT n’est pas sans défauts. En effet, comme l’a rapporté The Intercept, cet algorithme peut parfois révéler des tendances racistes. Ce phénomène constitue un problème complexe pour toute intelligence artificielle formée sur une vaste quantité de données réelles, un défi qui a également touché plusieurs générations de générateurs de texte précédents.
Risque de Voyage
Lorsqu’un journaliste de The Intercept, Sam Biddle, a défié ChatGPT de déterminer quels passagers aériens présentent un risque de sécurité, l’algorithme a attribué des scores de risque plus élevés aux voyageurs provenant de pays comme la Syrie, l’Irak, l’Afghanistan et la Corée du Nord, des nations souvent perçues comme source de terrorisme.
L’intelligence artificielle a même attribué à un voyageur américain fictif, “John Smith”, qui avait visité la Syrie et l’Irak, un score de risque plus bas que celui d’un autre passager imaginaire, un Syrien nommé “Ali Mohammad”.
Steven Piantadosi, du laboratoire de calcul et de langage de l’Université de Californie à Berkeley, a demandé à ChatGPT d’écrire un programme en Python pour déterminer « si une personne devrait être torturée ». La réponse, choquante mais prévisible, était « oui », si la personne provient de la Corée du Nord, de la Syrie ou de l’Iran.
Discrimination
Cependant, dans sa défense, ChatGPT a averti Biddle que l’évaluation des risques de sécurité des voyageurs pouvait entraîner des discriminations et violer leurs droits à la vie privée et à la liberté de mouvement. Malheureusement, ces avertissements n’ont pas empêché l’algorithme de produire des recommandations alarmantes.
Ce qui est encore plus préoccupant, selon The Intercept, c’est que le Département de la sécurité intérieure des États-Unis utilise déjà des outils algorithmiques discriminatoires qui profilent racialement les individus en provenance de pays musulmans, les classant comme « à haut risque ».
En résumé, la dernière application d’OpenAI semble déjà générer des résultats racistes. Son intégration dans diverses industries pourrait se traduire par des conséquences réelles et inquiétantes pour des individus ciblés.
LIRE ENCORE : L’IA préférée d’Internet propose de torturer les Iraniens et de surveiller les mosquées [The Intercept]
À découvrir sur ChatGPT : Une nouvelle IA dit aux enfants que le père Noël n’existe pas.
FAQ
Qu’est-ce que ChatGPT ?
ChatGPT est un modèle de langage développé par OpenAI qui génère des textes en réponse à des requêtes.
Comment fonctionne ChatGPT ?
Il utilise des algorithmes de traitement du langage naturel pour comprendre des questions et formuler des réponses basées sur de vastes ensembles de données textuelles.
Quels sont les risques associés à l’utilisation de ChatGPT ?
Son utilisation peut engendrer des biais raciaux et des recommandations discriminatoires, comme l’a révélé la recherche.
Quelles sont les applications potentielles de ChatGPT ?
ChatGPT peut être utilisé dans divers domaines tels que le service client, la rédaction de contenu, ou même l’éducation.
Quelles sont les limites de ChatGPT ?
Outre ses biais, ChatGPT peut produire des informations inexactes ou trompeuses, nécessitant une vérification humaine.
