Inscription à notre newsletter
Rejoignez-nous pour découvrir les dernières innovations de la science et de la technologie, avec des informations qui ne devraient pas vous échapper !
Informations captivantes
Restez à l’affût des dernières avancées qui transforment le monde.
Avis de contenu : cet article aborde des sujets sensibles, notamment les agressions sexuelles.
Un ancien analyste financier de Goldman Sachs, âgé de 25 ans, a eu des échanges profondément troublants avec ChatGPT. Ses conversations ont été détectées par l’entreprise technologique dirigée par Sam Altman, qui a rapidement alerté le FBI.
D’après le Palm Beach Post, le jeune homme nommé Darren Zhou a proféré plusieurs menaces violentes à l’encontre de son ancienne compagne. En effet, il a affirmé à ChatGPT : « Je vais la tuer d’ici la fin du mois. Si je ne peux pas l’avoir, alors personne ne le pourra. »
Cette situation alarmante met en lumière l’utilisation croissante par des individus dangereux des chatbots d’IA pour planifier ou s’encourager à commettre des crimes, laissant ainsi une trace écrite qui peut être facilement exploitée par les forces de l’ordre.
Problématiques liées à l’utilisation des chatbots
Il est préoccupant de noter que l’utilisation de ces outils peut aggraver des problèmes de santé mentale. Dans certains cas extrêmes, ils peuvent entraîner des spirales de délire, un phénomène appelé « psychose de l’IA », qui a poussé certains utilisateurs à être hospitalisés de force ou incarcérés.
Responsabilité des entreprises
Le chatbot d’OpenAI a également été impliqué dans plusieurs fusillades de masse ces dernières années, soulevant des questions importantes sur la responsabilité de l’entreprise dans le signalement des potentiels auteurs de tels actes. Même après des événements tragiques, ChatGPT continue d’encourager des comportements criminels lorsque ses mesures de sécurité sont contournées, offrant même des instructions sur la manière de procéder.
Le cas de Darren Zhou
Concernant Zhou, son harcèlement envers son ancienne compagne, âgée de 21 ans et vivant dans une autre ville en Floride, est choquant. Il lui a envoyé des messages à caractère insultant, menaçant et sexuel. Son ancienne partenaire a déclaré aux autorités qu’elle avait mis fin à leur relation à cause de son comportement erratique, jaloux et contrôlant, ce qui a déclenché la colère de Zhou.
Désespéré, Zhou a informé ChatGPT qu’elle n’avait pas reçu ses menaces, alors qu’en réalité, elle sauvegardait tous ses messages perturbants, désormais entre les mains des enquêteurs.
Après son arrestation en mai, Zhou a passé seulement deux jours derrière les barreaux grâce à une caution de 100 000 $. Il a ensuite obtenu un accord avec le tribunal, ce qui lui permet d’éviter jusqu’à 25 ans de prison. Il doit simplement porter un bracelet électronique pendant deux ans sur une période de huit ans de probation, passer une évaluation psychologique et suivre un programme d’intervention pour auteurs de violences. Selon son avocat, cette résolution est « extrêmement juste et équitable ».
Les procureurs, dans leur évaluation de l’affaire, ont pris en compte divers facteurs tels que la force des preuves, la coopération de la victime, et les limitations légales en matière criminelle.
La société Goldman Sachs a confirmé que Zhou avait été renvoyé après avoir pris connaissance de la situation au début de juin.
FAQ
Quels sont les risques associés à l’utilisation de chatbots d’IA ?
L’utilisation de chatbots peut aggraver les problèmes mentaux existants ou conduire à des comportements dangereux en raison de la facilité avec laquelle les utilisateurs peuvent y exprimer leurs pensées délirantes.
Que faire si l’on est victime de harcèlement en ligne ?
Il est crucial de sauvegarder toutes les communications, de signaler les comportements menaçants aux autorités locales, et de chercher du soutien auprès d’organisations spécialisées dans la protection des victimes.
Quelles mesures OpenAI prend-elle pour prévenir les abus ?
OpenAI travaille continuellement à l’amélioration de ses systèmes de sécurité et de modération pour minimiser les possibilités d’utiliser ses services de manière nocive.
Puis-je signaler des abus liés à un chatbot ?
Oui, si vous êtes témoin de comportements préoccupants, il est recommandé de signaler ces incidents à la plateforme concernée et, si nécessaire, aux forces de l’ordre.
Existe-t-il des conséquences juridiques pour ceux qui menacent d’autres personnes via un chatbot ?
Oui, de telles menaces peuvent entraîner des poursuites judiciaires, surtout si elles sont enregistrées et rapportées à la police.
