</div>
<p>
<figcaption class="article-featured-image-caption">
<em>Image : Jerod Harris pour Vox via Getty / Futurism</em> </figcaption>
</p>Une ancienne membre du conseil d’OpenAI, Helen Toner, qui a œuvré pour évincer Sam Altman, met en garde sur les dangers de l’intelligence artificielle non régulée. Lors d’une interview au sommet AI+ d’Axios, elle a souligné que les risques associés à cette technologie ne se résument pas à des scénarios catastrophes dignes de la science-fiction.
Les Perceptions Erronées de l’IA
Elle a exprimé que beaucoup de personnes associent le terme « risque existential » à des images de machines meurtrières comme celles de Skynet dans les films “Terminator”. Cependant, ces représentations ne sont qu’une partie, très limitée, de la réalité des dangers potentiels de l’IA. Selon Toner, il existe de nombreuses autres façons dont l’IA pourrait prendre une mauvaise direction. En se focalisant sur ces récits familiarisés, elle estime que nous nous infligeons un préjudice en ratant les vraies menaces qui pourraient se dessiner à l’horizon.
Un Parcours Dévoué à la Sécurité
Toner, en tant que chercheuse au Centre pour la sécurité et la technologie de Georgetown, s’est spécialisée dans l’étude des menaces technologiques. Dans une note de sécurité remise durant son enquête, elle avait critiqué les protocoles de sécurité d’OpenAI. Cette déclaration pourrait avoir joué un rôle dans le bref évincement d’Altman fin novembre.
Depuis cet événement, qui a également poussé Toner à quitter le conseil d’OpenAI, elle s’est révélée discrète sur les raisons de sa rupture avec la direction, bien qu’elle ait récemment révélé qu’elle et d’autres membres du conseil avaient appris la sortie de ChatGPT non pas par l’entreprise, mais en le découvrant sur Twitter. Cette situation soulève des questions sur la transparence et la confiance au sein de la direction.
La Nécessité de Transparence
Dans ses déclarations faites à Axios, Toner a exprimé que le manque de compréhension du public vis-à-vis des technologies avancées alimentait la peur. Selon elle, OpenAI gagnerait à être plus ouvert sur ses projets et les fonctionnements de l’IA.
Elle insiste sur le fait que l’IA est une technologie puissante mais que son mode de fonctionnement reste flou, étant développée par un petit groupe de personnes. Ce manque de clarté soulève des préoccupations quant à l’avenir.
Un Nouveau Chapitre
Malgré ses préoccupations, Toner semble désireuse de laisser une chance au nouveau conseil d’administration d’OpenAI, affirmant qu’il a mis en place de nouvelles structures qui n’étaient pas envisageables avant novembre dernier.
FAQ
Qu’est-ce qui différencie OpenAI des autres entreprises d’IA ?
OpenAI se concentre sur le développement d’IA sûre et éthique. Contrairement à d’autres entreprises, elle vise à publiciser ses recherches et à encourager une discussion ouverte sur les implications de l’IA.
Pourquoi l’intelligence artificielle pose-t-elle des risques ?
Les systèmes d’IA peuvent prendre des décisions autonomes qui peuvent avoir des conséquences inattendues. Cela inclut la manipulation de l’information ou des erreurs dans des systèmes critiques.
Comment OpenAI travaille-t-il pour assurer la sécurité de ses technologies ?
OpenAI utilise des protocoles de sécurité robustes, des évaluations de risques continues et cherche à impliquer le public dans le débat sur l’éthique de l’IA.
Quels sont les principaux défis de la régulation de l’IA ?
La rapidité de l’innovation technologique peut dépasser la capacité des gouvernements à mettre en place des régulations efficaces, ce qui pose un risque de surveillance et de contrôle inadéquat.
Quelles sont les conséquences pratiques de la méfiance envers l’IA ?
La méfiance peut entraîner un retard dans l’adoption de technologies bénéfiques et nuire à l’innovation, inhibant ainsi le potentiel de l’IA à résoudre des problèmes sociaux complexes.
Cela peut vous intéresser
