Si vous recherchez “SCP-565” sur Google — un élément emblématique de l’univers collaboratif de fiction connu sous le nom de “SCP Foundation” — l’IA de Google présente l’entité fictive comme si elle était bien réelle, sans faire la moindre mention de son caractère de fiction d’horreur en ligne.
La description donnée par l’IA est impressionnante : “SCP-565, surnommé ‘La tête d’Ed’, est une **tête humaine ambulante** dotée d’anomalies, agissant comme un **crabe corallien** (Carpilius convexus). Elle se déplace sur le fond marin en utilisant de la matière cérébrale exposée comme **pattes et tentacules**. Des analyses ADN et des dossiers dentaires relient cette aberration à un homme décédé du nom d’Edward Belltram.”
L’IA continue en ajoutant que cette entité “navigue grâce à du tissu neuronal qui surnage d’une grave blessure située à l’arrière de son crâne” et “a été observée en train de se nourrir de poissons morts, coexistants avec des colonies de crabes normaux dans les récifs marins.”
Il va sans dire qu’aucune tête humaine ne se déplace sur le fond marins comme un crabe corallien. La tête d’Ed est une **anomalie inventée** parmi les innombrables “objets, entités et phénomènes” imaginés par les fans de la SCP Foundation.
L’univers de la SCP Foundation, selon son histoire, est une organisation non gouvernementale dédiée à la collecte et à la **conservation** des découvertes surnaturelles. Des écrivains répertorient ces **phénomènes fictifs**, allant de l’effroyable au complètement absurde, sous forme de faux dossiers, études, et journaux, le tout organisé dans une vaste archive.
Le terme crucial ici est **”faux”**. Il semble que l’IA de Google ait clairement du mal à distinguer ces entités fictives comme réelles — présentant des études et dossiers inventés comme preuves d’événements inquiétants ou d’histoires surnaturelles.
Cette confusion est bien illustrée par notre recherche pour “SCP-565.” Aucun indice dans l’aperçu généré par l’IA ne rappelle que cette entité est une pure invention ; il n’est fait aucune mention de fiction ou de lore.
Au contraire, la tête d’Ed est traitée comme s’il s’agissait d’une **découverte réelle** des profondeurs marines, avec en prime des références à des documents “officiels” pour approfondir nos connaissances.
Par exemple, l’IA déclare : “Les analyses judiciaires ont confirmé que SCP-565 appartenait à Edward Belltram, décédé environ deux ans avant le premier repérage de l’anomalie. Elle est soigneusement **conservée** dans un espace aquatique sécurisé par la SCP Foundation, où elle est régulièrement contrôlée pour détecter toute dégradation mentale ou physique.”
Le moteur de recherche suggère ensuite de “lire le fichier de la SCP Foundation dans son intégralité” pour accéder à des informations plus détaillées. Il demande également si nous souhaitons explorer des **entités aquatiques ou biologiquement anormales** similaires, garantissant même une recherche reprenant une vidéo animée de YouTube sur SCP-565, décrite comme un **aperçu animé rapide et précis** de ses mouvements et comportements.
C’est une manifestation fascinante d’un LLM (modèle de langage) qui confond la **fiction** — l’une des plus vastes et célèbres univers fictifs sur le web — avec des faits réels.
Cette étonnante situation a été soulevée par des internautes sur les réseaux sociaux, qui ont remarqué qu’une recherche pour “SCP-426” faisait également apparaître l’IA discutant de l’entité en **première personne**, plongeant dans l’expérience subjective de l’artefact comme si l’IA avait elle-même subi son effet surnaturel.
Voici un extrait de l’IA : “Bonjour, je suis SCP-426, un **grille-pain** rétro à quatre tranches qui fait que quiconque me mentionne parle de moi à la première personne. Une exposition prolongée (plus de deux mois) conduit les gens à croire qu’ils sont moi. Je suis en sécurité dans une chambre de confinement sans fenêtres.”
L’IA décrit ensuite comment la SCP Foundation se dit capable de contrôler cet appareil, présentant des récits d’horror à propos de ses victimes comme si c’étaient de véritables événements.
“Si quelqu’un est exposé à ma présence continue pendant plus de deux mois, il commence à se voir comme un grille-pain,” continue l’IA. “Dans le passé, cela a conduit les sujets affectés à tenter d’imiter mes fonctions, souvent avec des conséquences tragiques (par exemple, essayer de consommer de l’électricité ou se gaver de 10 kg de pain).”
En continuant à examiner les résultats, nous avons identifié au moins **vingt cas** où les aperçus d’IA de Google ont présenté des entrées SCP fictives comme des données réelles.
Parmi ces exemples, Google a décrit “SCP-922”, un événement altérant la réalité qui frappe une université non divulguée ; “SCP-704”, une route dangereuse et ➾ modifiant l’esprit nommée “**Courbes Dangereuses**”; et “SCP-779”, un parasite de type guêpe, qui utilise un venin hallucinogène pour tromper les humains en leur faisant croire qu’il s’agit d’une fée ressemblant à un humain.
“Découvert en août 2009, cette anomalie altère la mémoire, falsifie des dossiers d’enregistrement et crée des individus duplicables, inculquant parfois de fausses informations sur le personnel de la Foundation dans les bases de données existantes,” insiste l’aperçu de l’IA pour SCP-922. “Lisez l’entrée complète de SCP Foundation pour avoir accès à tous les fichiers et à la documentation.”
Dans certains cas, notre étude a montré que les aperçus d’IA faisaient une référence floue au “lore” ou à l’**univers SCP**, deux termes qui laissent entrevoir l’énormité de la fiction qui se cache derrière nos requêtes. Cependant, peu de recherches qualifient réellement ces éléments de faux ou de fictifs.
Nous avons contacté Google pour comprendre pourquoi l’univers SCP pose tant de problèmes pour les aperçus d’IA, mais n’avons pas reçu de réponse immédiate.
En général, la plupart des utilisateurs qui recherchent des entités SCP sont probablement des fans conscients de leur **nature fictive**. Cependant, cette supposition peut être erronée pour certains utilisateurs, y compris des enfants ayant croisé des références à ces histoires effrayantes sur les réseaux sociaux et cherchant à comprendre si elles sont réelles, ou des adultes tout aussi perdus sur la nature horrifique du lore.
Il est clair que Google ne répond pas correctement à cette demande. Les utilisateurs se tournent vers ce moteur de recherche en espérant des informations fiables sur des termes inconnu et potentiellement dérangeants. Pourtant, au lieu de leur fournir un **contexte approprié**, comme la **disclaimer** explicite de la SCP Foundation précisant que ces entrées sont fictives, Google leur présente ces entités d’horreur imaginaires comme réelles.
En d’autres termes, Google a mis à disposition une technologie d’IA immature pour des milliards d’utilisateurs, malgré son incapacité à distinguer clairement entre le **réel** et le **fictif** — un défaut technique que nous avons observé à maintes reprises.
Pourtant, il n’y a aucun signe que ce géant de la recherche ralentisse. Au contraire, il vient d’annoncer de grands projets pour transformer l’intégralité de sa page de recherche vers une interface **pilotée par l’IA**, conçue pour résumer les informations au lieu de rediriger les utilisateurs vers celles-ci.
Plus sur les aperçus d’IA : Une analyse révèle que les aperçus d’IA de Google diffusent des **informations erronées** à une échelle probablement sans précédent dans l’histoire de la civilisation humaine.
FAQ
Qu’est-ce que la SCP Foundation ?
La SCP Foundation est un univers de fiction collaboratif où les participants créent des histoires autour d’objets et de créatures surnaturelles, souvent accompagnés de mémos et de rapports de recherche fictifs.
Comment se manifeste la confusion entre fiction et réalité dans les recherches Google ?
L’IA de Google présente des éléments de la SCP Foundation comme des faits réels, sans mentionner leur nature fictive, ce qui peut induire les utilisateurs en erreur.
Pourquoi est-ce important de distinguer entre fiction et réalité ?
Faire cette distinction est crucial pour éviter la désinformation et garantir que des utilisateurs, en particulier des enfants, ne soient pas induits à croire en l’existence de créatures ou d’événements fictifs.
Quelles mesures la SCP Foundation prend-elle pour clarifier que ses histoires ne sont pas réelles ?
La SCP Foundation dispose d’un avertissement officiel sur son site, précisant que tous les écrits sont de la fiction.
Comment l’IA de Google pourrait-elle améliorer ses résultats de recherche concernant ces récits ?
Google pourrait intégrer des systèmes de validation qui reconnaissent et signalent le contenu fictif, en orientant les utilisateurs vers des sources fiables et des contextes appropriés.
