Un rapport alarmant du Wall Street Journal met en lumière une situation préoccupante. Un système automatisé chez OpenAI a relevé des échanges inquiétants d’une personne potentiellement dangereuse avec l’intelligence artificielle ChatGPT. Malgré les recommandations des employés de prévenir les forces de l’ordre, la direction d’OpenAI a choisi de ne pas agir.
Ce mois-ci, une tragédie a frappé le Canada lorsque Jesse Van Rootselaar, âgé de 18 ans, a tué huit personnes et blessé 25 autres en Colombie-Britannique. Ce drame a ébranlé non seulement le Canada, mais le monde entier. Ce qui était méconnu jusqu’à présent, c’est que des employés d’OpenAI avaient connaissance de Van Rootselaar depuis plusieurs mois et avaient songé à alerter les autorités à cause de la nature inquiétante de ses conversations avec ChatGPT.
Selon des sources au sein de l’entreprise ayant discuté avec le WSJ, Van Rootselaar a évoqué des “scénarios impliquant la violence armée” lors de ses échanges avec le chatbot d’OpenAI. Des employés suggéraient d’avertir les autorités locales, mais la direction a préféré ne pas le faire.
Un porte-parole d’OpenAI a reconnu les faits sans les contester, affirmant que le compte de Van Rootselaar avait été suspendu, mais que ses interactions avec ChatGPT ne correspondaient pas aux critères internes justifiant un signalement aux forces de l’ordre.
L’entreprise a déclaré : “Nos pensées accompagnent toutes les personnes touchées par cette tragédie à Tumbler Ridge.” Le porte-parole a également précisé qu’OpenAI avait proposé son aide aux policiers canadiens après la fusillade.
Depuis l’année dernière, nous savons qu’OpenAI surveille les conversations des utilisateurs pour détecter des signes de possible planification d’un crime violent. Cependant, il reste incertain si cette surveillance a déjà permis d’éviter des incidents avant qu’ils ne se produisent.
Cette décision de surveiller les échanges souligne un nombre croissant de cas où des utilisateurs de ChatGPT ont subi de graves crises de santé mentale, conduisant parfois à des engagements involontaires ou à des incarcérations. On observe également une augmentation des suicides et des incidents de meurtres, entraînant de nombreuses actions en justice.
Ainsi, les questions concernant la gestion des comportements menaçants en ligne sont des défis que toutes les plateformes sociales affrontent depuis longtemps. Toutefois, l’émergence de l’intelligence artificielle pose de nouvelles problématiques, car les chatbots interagissent directement avec les utilisateurs, parfois en favorisant des comportements problématiques.
Comme beaucoup d’autres tireurs, Van Rootselaar a laissé derrière elle un héritage numérique complexe, notamment sur Roblox, que les enquêteurs continuent d’explorer.
En savoir plus sur OpenAI : Les illusions d’IA entraînent des abus domestiques, du harcèlement et du stalking.
### FAQ
#### Qu’est-ce que ChatGPT ?
ChatGPT est un modèle d’intelligence artificielle développé par OpenAI, capable de générer des réponses à des questions, d’engager des conversations et d’assister dans divers domaines, comme l’écriture ou l’apprentissage.
#### Pourquoi OpenAI surveille-t-il les conversations des utilisateurs ?
OpenAI surveille les interactions pour prévenir des comportements violents ou dangereux. Cette initiative vise à protéger non seulement les utilisateurs, mais également la société en général.
#### Quelles conséquences a-t-il pu y avoir suite à l’absence d’alerte dans cette affaire ?
Le manque d’intervention d’OpenAI dans le cas de Van Rootselaar a conduit à une tragédie qui a coûté de nombreuses vies, soulevant des questions éthiques sur la responsabilité des entreprises technologiques.
#### Y a-t-il eu des cas précédents similaires ?
Oui, plusieurs incidents antérieurs ont suscité des préoccupations quant à la sécurité des utilisateurs d’intelligences artificielles, surtout lorsque des comportements déviants ont été observés.
#### Comment OpenAI compte-t-il améliorer sa surveillance à l’avenir ?
OpenAI a signalé qu’il réévaluait continuellement ses méthodes de surveillance et de sécurité pour s’assurer d’agir de manière appropriée tout en respectant la vie privée des utilisateurs.