Les Ingénieurs Déploient une « Fontaine Toxique » qui Dérègle l’Intelligence Artificielle.

  <div class="newsletter-cta-description">
    <p class="article-paragraph">Des innovations incontournables à la pointe de la science et de la technologie.</p>
  </div>
</div>

Pour contrer l’intelligence artificielle, certains suggèrent de démolir les centres de données.

Si cela vous semble trop radical, envisagez un projet plus subtil qui vise à empoisonner la principale ressource dont dépend l’industrie de l’IA, afin de l’affaiblir à sa source.

Dénommé **Poison Fountain**, ce projet ambitionne de tromper les robots d’exploration des entreprises technologiques pour qu’ils récupèrent des **données d’entraînement** “empoisonnées” qui sabotent les modèles d’IA. Si mis en œuvre à grande échelle, cela pourrait poser de sérieux problèmes à l’industrie de l’IA, transformant leurs machines coûteuses en véritables fiascos.

Le projet a été lancé la semaine dernière et est rapporté par **The Register**. Étonnamment, des membres de ce projet travaillent pour de grandes entreprises américaines d’IA, selon une source de **The Register**, qui avertit que “la situation s’aggrave d’une manière dont le public n’a généralement pas conscience.”

“Nous partageons l’avis de Geoffrey Hinton : l’intelligence des machines représente une menace pour l’humanité”, est-il indiqué sur le site du projet. Geoffrey Hinton, un pionnier reconnu dans le domaine, a émergé comme un critique influent de l’industrie. “En réponse à cette menace, nous souhaitons infliger des dégâts aux systèmes d’intelligence artificielle.”

Un tournant décisif dans l’expansion moderne de l’IA n’était pas seulement lié à l’architecture même des modèles, mais aussi à la divulgation de la nécessité de les former sur **d’énormes quantités de données** autrefois jugées inaccessibles. L’explosion d’internet a offert une mine d’informations facilement accessibles, exploitées en quantités phénoménales. Beaucoup affirment que cette pratique est à la fois **non éthique** et **illégale**, entraînant de nombreux **procès pour violation de droits d’auteur**.

En général, une IA est aussi performante que les données sur lesquelles elle a été formée. En désorganisant ces données, on perturbe l’IA. Certaines initiatives ont déjà tenté de contrarier les modèles d’IA en intégrant subtilement des images avec des données perturbatrices, permettant ainsi aux artistes de protéger leurs œuvres.

Poison Fountain lance un appel à l’action pour réaliser quelque chose de similaire à grande échelle. Ce projet propose des liens vers des ensembles de données empoisonnées que les propriétaires de sites peuvent dissimuler sur leurs pages web pour tromper les robots d’exploration d’IA. Ces liens fournissent, selon les promesses du projet, un “flux pratiquement illimité de données d’entraînement empoisonnées”. Un membre du projet a expliqué à **The Register** que ces données dangereuses contiennent des codes avec des **erreurs logiques** et d’autres bogues pouvant nuire aux modèles de langue larges formés dessus.

C’est une méthode astucieuse pour contrecarrer l’essor rapide de l’industrie de l’IA. Cependant, il reste à voir combien de personnes adopteront cette méthode, ou si les entreprises d’IA parviendront à extraire facilement ces données de leurs réserves.

Il est clair que ce n’est pas la seule initiative pour contenir l’IA non régulée. De nombreux groupes plaident pour des **réglementations strictes** et une série de poursuites judiciaires qui pourraient sérieusement freiner la capacité des entreprises technologiques à récolter des données. Cependant, les membres de Poison Fountain soutiennent que la réglementation seule ne suffit pas, car l’IA est déjà largement accessible.

“Les attaques par empoisonnement compromettent l’intégrité cognitive du modèle”, a déclaré un membre du projet à **The Register**. “On ne peut pas arrêter l’avancée de cette technologie maintenant qu’elle est largement diffusée. Ce qui reste, ce sont des armes. Cette Poison Fountain en est un exemple.”

FAQ

Qu’est-ce que Poison Fountain ?

C’est un projet qui cherche à compromettre les modèles d’IA en leur transmettant des données d’entraînement défectueuses.

Qui sont les personnes impliquées dans ce projet ?

De nombreux membres travaillent pour des entreprises d’IA majeures aux États-Unis.

Quels types de données sont utilisés dans Poison Fountain ?

Les données contiennent des erreurs logiques et des bogues, conçues pour perturber les modèles d’IA.

Quel est l’objectif principal de ce projet ?

L’objectif est de freiner le développement de l’IA en la confrontant à des données défectueuses, plutôt que de se concentrer uniquement sur des réglementations.

Comment ce projet pourrait-il affecter l’industrie de l’IA ?

S’il rencontre un succès à grande échelle, cela pourrait gravement perturber le fonctionnement des systèmes d’IA, rendant leurs résultats erronés.