<div class="post-thumbnail"></div><!-- .post-thumbnail -->
<div class="article-thumbnail-caption">
<p>Crédit photo : Getty Images</p>
</div>Une affaire inquiétante
Une incident préoccupant en Floride illustre les dangers qui peuvent surgir lorsque des intentions violentes rencontrent l’intelligence artificielle générative. Un ancien analyste de Goldman Sachs, Darren Zhou, est mis en cause pour avoir utilisé ChatGPT pour proférer des menaces à l’encontre de son ex-petite amie, une situation qui a incité OpenAI à alerter le FBI.
Ce qu’il faut savoir
Selon les révélations publiées par The Palm Beach Post, Darren Zhou aurait envoyé à son ex-compagne des messages menaçants et abusifs. Les documents judiciaires contiennent des extraits troublants tels que : “Je vais la tuer d’ici la fin du mois” et “Si je ne peux pas l’avoir, alors personne ne pourra.”
D’après ces rapports, la femme aurait expliqué aux enquêteurs avoir mis un terme à leur relation à cause du comportement erratique, jaloux et contrôlant de Zhou. Elle a également pris des captures d’écran de ces messages, qui ont ensuite servi de preuves lors de l’enquête.
De plus, la banque Goldman Sachs a annoncé avoir licencié Zhou après avoir pris connaissance des faits.
Contexte supplémentaire
Il est désormais possible pour les individus d’introduire des pensées violentes ou abusives dans les systèmes d’intelligence artificielle, ce qui pourrait ensuite créer un historique de conversations accessible aux enquêteurs. Les inquiétudes augmentent face au risque que ces dialogues avec des chatbots renforcent la paranoïa ou une pensée obsessive chez certains utilisateurs d’IA générative.
Les outils d’IA sont utilisés de façon croissante dans des domaines variés, tels que le travail, l’éducation, la recherche ou encore le soutien émotionnel. Cependant, ces technologies peuvent également engendrer des risques pour la sécurité dans le monde réel lorsque leur fonctionnement est défaillant.
En outre, l’IA est liée aux réseaux énergétiques, car les grands modèles de langage nécessitent des centres de données consommant une quantité considérable d’électricité et souvent de grandes quantités d’eau pour le refroidissement.
Bien que cette technologie puisse aider les services publics à mieux intégrer des sources d’énergie plus propres, son expansion rapide suscite des préoccupations quant à des abus potentiels et à une augmentation des coûts énergétiques pour les ménages.
Que fait-on face à ces incidents ?
Après avoir détecté ces conversations inquiétantes, OpenAI a informé le FBI, ce qui a permis aux enquêteurs de s’appuyer sur le témoignage de la femme ainsi que sur les captures d’écran qu’elle avait conservées.
Les dossiers judiciaires révèlent que Zhou a été arrêté en mai, puis libéré sous une caution de 100 000 dollars. Selon le journal, il a ensuite conclu un accord lui permettant d’éviter l’emprisonnement ou une condamnation criminelle. Cet accord inclut huit ans de probation, deux ans sous surveillance électronique et une évaluation de santé mentale.
Au niveau de l’entreprise, des cas de ce type devraient exercer une pression accrue sur les sociétés d’IA pour qu’elles renforcent les mesures de sécurité concernant les incitations à la violence et améliorent leur capacité à détecter les crises.
FAQ
Qu’est-ce que ChatGPT?
ChatGPT est un modèle de langage basé sur l’intelligence artificielle développé par OpenAI, capable de générer des textes cohérents et contextuels en réponse à des questions ou des instructions.
Comment les entreprises réagissent-elles face aux abus d’IA?
Face aux abus, les entreprises comme OpenAI mettent en place des protocoles de sécurité pour détecter et signaler tout usage violent ou inapproprié de leurs technologies.
Quels sont les risques associés à l’utilisation de l’IA?
Les principaux risques incluent des menaces à la sécurité, la propagation de contenus abusifs ou violents, et l’impact environnemental dû à la consommation d’énergie des centres de données.
Y a-t-il des mesures à prendre pour prévenir les abus d’IA?
Il est crucial d’éduquer les utilisateurs sur l’utilisation responsable des outils d’IA et d’implémenter des filtres et des systèmes de monitoring pour détecter les comportements problématiques.
Quelle est l’importance des captures d’écran dans les enquêtes?
Les captures d’écran peuvent servir de preuves tangibles lors des enquêtes, permettant aux enquêteurs de suivre des comportements inacceptables et de prendre des mesures appropriées.
