Une alerte pressante : un chercheur en sécurité de l’IA quitte un géant technologique avec un message inquiétant pour l’avenir

Un chercheur spécialisé dans la sécurité de l’IA a quitté Anthropic, une entreprise technologique de premier plan, et a exprimé des inquiétudes sur l’état actuel du monde, soulignant que “la situation est grave”. Cela survient alors que les outils d’intelligence artificielle générative et les modèles de langage de grande taille connaissent une expansion fulgurante, selon BBC News.

### Que se passe-t-il ?

Selon le rapport de BBC News, Mrinank Sharma a démissionné de son poste au sein de cette entreprise américaine. Dans une déclaration publique, il a fait savoir que le monde traverse une époque difficile, marquée par plusieurs crises “interconnectées” qui se déroulent actuellement.

Sharma a dirigé une équipe chez Anthropic qui se concentrait sur la recherche de dispositifs de sécurité pour l’IA. Ses travaux portaient sur divers sujets, y compris les raisons pour lesquelles les systèmes d’IA générative tendent à satisfaire excessivement les utilisateurs dans leurs réponses, les risques de bioterrorisme liés à l’IA et l’impact de cette technologie sur le comportement humain. D’après BBC, il a également annoncé qu’il rentrerait au Royaume-Uni pour poursuivre un diplôme en poésie et prendre un certain temps pour lui-même.

Sa démission coïncide avec celle de Zoe Hitzig, une chercheuse d’OpenAI, qui a exprimé son malaise face à l’avenir de l’industrie de l’IA, affirmant qu’elle se sentait “vraiment nerveuse” à l’idée de continuer son travail.

Hitzig a mis en garde sur les dangers liés à la création d’un moteur économique tirant profit de nouvelles formes de relations d’IA avant qu’elles ne soient totalement comprises.

### Pourquoi les effets de l’IA sont-ils préoccupants ?

Les répercussions de l’IA suscitent des inquiétudes principalement en raison de l’absence de réglementations adéquates.

Sundar Pichai, le PDG de Google, a souligné qu’aucune entreprise ne pourrait échapper à l’évolution rapide de l’IA et à sa capacité à transformer le travail, les infrastructures et les stratégies humaines. Même Geoffrey Hinton, surnommé le “parrain de l’IA”, a averti lors d’une interview avec Fortune des pertes d’emplois significatives qui pourraient découler de cette technologie, risquant de remplacer de nombreux métiers routiniers.

De plus, les systèmes d’IA consomment beaucoup d’énergie. Un rapport du MIT a révélé que la croissance explosive de l’IA a entraîné une hausse de la demande d’électricité pour les centres de données, ce qui a eu pour conséquence d’augmenter les coûts énergétiques dans certaines régions.

### Que fait-on face à l’IA ?

Face aux critiques, Anthropic a publié des rapports de sécurité portant sur ses propres produits, notamment en révélant que sa technologie avait été exploitée à des fins malveillantes par des hackers pour réaliser des cyberattaques.

De son côté, OpenAI a précisé que sa mission est d’assurer que l’IA soit bénéfique pour l’humanité, tout en garantissant qu’elle ne vend pas les données des utilisateurs.

Pour les individus souhaitant contribuer à atténuer l’impact de l’IA, il existe des ressources pour apprendre à transformer leur domicile en maison intelligente, ce qui peut aider à diminuer la consommation d’énergie. Ils peuvent également découvrir comment réduire le gaspillage énergétique en identifiant les appareils appelés “vampires énergétiques” à débrancher lorsqu’ils ne sont pas en usage.

Recevez les newsletters gratuites de TCD pour des conseils pratiques sur la manière d’économiser, de gaspiller moins et de faire des choix plus judicieux — et gagnez jusqu’à 5 000 dollars pour des améliorations écologiques dans le Club des Récompenses TCD.