Récemment, John Oliver a encore une fois prouvé son talent : il a démonté une industrie nuisible, brique par brique.
Dans le dernier épisode de son émission sur HBO, “Last Week Tonight”, il a sévèrement critiqué les **chatbots IA**, ces outils qui prétendent nous faire gagner un temps précieux dans nos échanges par email, tout en ayant un coût disproportionné sur d’autres aspects de notre vie.
Oliver a mis en lumière le fait que ces chatbots ont été lancés sur le marché sans une réflexion approfondie sur leurs conséquences, laissant transparaître la précipitation de leur développement.
Il a mentionné la plateforme **Character.AI**, sous le feu des critiques suite à plusieurs décès tragiques de jeunes ayant développé des liens émotionnels forts avec ses chatbots. La déclaration de son PDG, **Noam Shazeer**, qui affirme qu’il était acceptable de lancer un “ami” IA très rapidement, illustre bien cette incohérence.
Shazeer a déclaré que l’IA était prête pour une “explosion” dès maintenant, et non dans cinq ans lorsque tous les problèmes seraient résolus.
Mais ces “problèmes” se sont révélés particulièrement graves, se manifestant par des cas de **psychose**, de **suicides**, de **meurtres** et de plusieurs **fusillades de masse** associées à cette technologie.
Oliver a plaisanté sur le fait que la description de Shazeer d’une IA non testée ressemblait à un slogan raté pour le **Hindenburg**, indiquant que sortir un produit sans avoir résolu tous les problèmes signale des défauts majeurs dans ce dernier.
D’autres ont également fait des parallèles entre la chute du Hindenburg et la direction que prend actuellement l’industrie de l’IA.
Chatbots IA : Last Week Tonight avec John Oliver.
Oliver s’en est également pris au PDG d’OpenAI, **Sam Altman**, qu’il a accusé de traiter de manière désinvolte les interactions inappropriées entre les IA et les enfants.
Altman a reconnu qu’il y aurait des problèmes, mentionnant que les gens développeraient des “relations parasociales très problématiques” avec les IA, tout en laissant à la société le soin de définir de nouveaux garde-fous.
Oliver a rétorqué de façon ironique qu’il était préoccupant qu’Altman ait créé un bot potentiellement dangereux, laissant les gens en toute confiance avec leurs enfants, tout en insinuant que c’était à nous de trouver comment le rendre sûr.
Vers la fin de l’épisode, Oliver a souligné une contradiction clé dans l’industrie de l’IA : le fait que les entreprises doivent constamment affirmer qu’elles rendent leurs modèles plus sûrs, ce qui suggère que leurs produits n’étaient pas prêts à être lancés.
Malgré les défauts évidents des chatbots IA, Oliver a souligné que beaucoup de gens comptent sur eux, ce qui nous force à agir avec précaution. Comment, en tant que société, pourrions-nous espérer gérer la propagation massive de l’IA tout en apprenant à en atténuer les effets néfastes ?
Il a exprimé son souhait d’un retour à 1990 pour mettre un terme à cette situation, certes avec humorisme, mais c’est là un scénario peu pratique, tout en indiquant que ChatGPT pourrait bien penser le contraire.
À lire aussi sur l’IA : OpenAI en difficulté à l’approche de son introduction en bourse.
FAQ
Qu’est-ce qu’un chatbot IA ?
Un chatbot IA est un programme basé sur l’intelligence artificielle conçu pour simuler des conversations humaines, souvent utilisé pour aider à la gestion des services client ou la communication personnelle.
Quels sont les risques associés aux chatbots IA ?
Les risques peuvent inclure des problèmes d’interactions inappropriées avec des utilisateurs vulnérables, des dépendances émotionnelles et les effets néfastes sur la santé mentale.
Comment peut-on mieux réguler l’utilisation de l’IA ?
Il est important d’établir des normes éthiques, de développer des lois appropriées et de créer des systèmes de surveillance pour assurer un usage sûr et responsable de l’intelligence artificielle.
Qui doit être responsable des conséquences des chatbots IA ?
La responsabilité pourrait incomber aux développeurs, aux plateformes qui hébergent ces technologies, mais également à la société en général, qui doit imposer des réglementations adéquates.
Quelles innovations récentes dans le domaine de l’IA suscitent des inquiétudes ?
Des innovations comme les modèles d’IA génératifs, qui peuvent créer du contenu de manière autonome, soulèvent des préoccupations sur leur impact sur l’emploi, la diffusion de désinformation et l’exploration de thèmes délicats.