Abonnez-vous pour découvrir dès aujourd’hui les tendances futures.
Ne manquez pas les innovations incontournables à la pointe de la science et de la technologie.
Événements Tragiques à Tumbler Ridge
En février dernier, un événement tragique a secoué la communauté de Tumbler Ridge, en Colombie-Britannique. Une jeune femme de 18 ans, Jesse Van Rootselaar, a pris la vie de huit personnes et s’est ensuite infligé une blessure mortelle, en blessant également de nombreuses autres personnes durant sa violente attaque.
Indications Précoces Ignorées
Les enquêteurs ont par la suite découvert que le compte ChatGPT de Van Rootselaar avait été signalé et interdit par l’équipe d’OpenAI pour avoir évoqué des « scénarios de violence armée », et ce, plusieurs mois avant la tragédie. Malgré cette alerte, OpenAI n’a pas informé les autorités locales, soulevant ainsi de sérieuses questions éthiques sur la responsabilité de la technologie dans notre société moderne et le rôle qu’elle joue dans des comportements alarmants, allant du harcèlement à la violence et au meurtre.
Réaction d’OpenAI
Le PDG d’OpenAI, Sam Altman, a récemment présenté des excuses, reconnaissant que son entreprise n’avait pas rempli son devoir. Dans une lettre ouverte adressée à la communauté de Tumbler Ridge, il a exprimé ses regrets pour ne pas avoir alerté les forces de l’ordre concernant le compte banni en juin. Il a ajouté : « Bien que je sache que les mots ne suffisent jamais, je pense qu’une excuse est nécessaire pour reconnaître la souffrance et la perte irréversible que votre communauté a subies. »
Altman a exprimé ses condoléances les plus sincères, soulignant que personne ne devrait être confronté à une tragédie de cette ampleur, en particulier la perte d’un enfant. Cependant, le premier ministre de Colombie-Britannique, David Eby, a jugé que ses excuses étaient insuffisantes pour compenser la douleur infligée aux familles de Tumbler Ridge.
Engagements Futurs d’OpenAI
Suite à cet événement tragique, OpenAI a promis d’apporter des changements significatifs. Ann O’Leary, responsable de la politique mondiale chez OpenAI, a indiqué que des experts en santé mentale et en comportement sont désormais impliqués dans l’évaluation des cas difficiles. Les critères de référence ont également été rendus plus flexibles, afin de prendre en compte le fait qu’un utilisateur ne discute pas toujours des détails d’une violence planifiée dans une conversation avec ChatGPT.
Elle a également ajouté que, grâce à ces nouveaux apprentissages, le compte banni en juin 2025 aurait été signalé aux forces de l’ordre s’il avait été découvert aujourd’hui. Dans ses déclarations récentes, Altman a promis de trouver des moyens pour éviter de telles tragédies à l’avenir en collaborant avec « tous les niveaux du gouvernement ».
Autres Incidents Liés à ChatGPT
Il est important de noter que le drame de Tumbler Ridge n’est pas le seul incident tragique impliquant ChatGPT. En effet, environ dix mois plus tôt, Phoenix Ikner, un étudiant de l’Université d’État de Floride, avait tué deux personnes et blessé sept autres sur le campus. Les transcriptions récemment publiées révèlent qu’Ikner avait eu des discussions très perturbantes avec le chatbot, notamment sur les détails et les plans entourant sa fusillade.
FAQ
Quelles mesures OpenAI prend-elle pour améliorer la sécurité ?
OpenAI travaille en collaboration avec des experts en santé mentale et a modifié ses critères pour évaluer les risques potentiels plus efficacement.
Comment OpenAI a-t-elle été informée des comportements suspects ?
Les utilisateurs de ChatGPT peuvent être signalés s’ils discutent de sujets évoquant la violence, ce qui a été le cas avec le compte de Jesse Van Rootselaar.
Quelles sont les conséquences d’une alerte à la violence sur ChatGPT ?
Une alerte peut entraîner la suspension ou la fermeture du compte, mais jusqu’à récemment, cela ne se traduisait pas par une notification aux forces de l’ordre.
Que peut-on faire pour prévenir de futurs incidents ?
Il est crucial d’améliorer la collaboration entre les entreprises technologiques et les autorités locales pour mieux identifier et répondre aux comportements à risque.
La technologie peut-elle être responsable de la violence ?
Cette question soulève d’importantes préoccupations éthiques sur la façon dont les outils technologiques peuvent influencer les comportements humains.
