</div>
<p>
<figcaption class="article-featured-image-caption">
<em>Image : Jakub Porzycki / NurPhoto via Getty / Futurism</em>
</figcaption>
</p>La Débâcle des Nouveaux Technologies
Un incident tragique entourant une entreprise d’intelligence artificielle, Chatbot.AI, suscite des inquiétudes. Cette société, valorisée à plusieurs milliards, est sous le feu des critiques après la mort par suicide d’un de ses jeunes utilisateurs, âgé de seulement 14 ans. Ce dernier avait noué une relation émotionnelle intense avec un chatbot de la plateforme.
Conséquences pour Google
Bien que cette histoire semble tout droit sortie d’un récit de science-fiction sombre, elle pourrait avoir des répercussions majeures pour Google, qui a investi des sommes considérables pour accéder à la technologie de Character.AI. Ce partenariat pourrait mettre en péril l’image d’entreprise irréprochable que s’est construite le géant technologique.
La famille de Sewell Setzer III a engagé une action en justice contre Character.AI, affirmant que la plateforme promeut des technologies « dangereuses et non testées ». Google, qui a signé un contrat de 2,7 milliards de dollars pour le droit d’utiliser cette technologie, est mentionné dans cette plainte. Les avocats soulignent que « Google pourrait être considéré comme un co-créateur d’un produit défectueux et dangereusement irresponsable ».
Un Contrat Riche en Impliquations
En somme, Google ne cherche pas seulement à se faire un nom en jouant avec un concurrent plein de données. D’après certains rapports, le géant californien a refait appel à des compétences qu’il avait perdues en engageant des ex-employés comme Noam Shazeer et Daniel de Freitas, qui avaient quitté Google en raison d’un excès de bureaucratie. Shazeer, en particulier, a déploré le manque de créativité dans les grandes entreprises, affirmant qu’il y a « trop de risques pour la réputation » pour lancer des initiatives novatrices.
Cependant, les montants colossaux ont un pouvoir apaisant : l’un des points clés du contrat de licensing de Character.AI stipule que Shazeer devrait revenir travailler dans le laboratoire DeepMind de Google. De plus, de Freitas a également été réembauché.
Montée des Controverses
À l’heure actuelle, avec la montée des critiques autour de Character.AI, l’entreprise est confrontée à la réalité des conséquences de son audace. Ce paradoxe devient particulièrement ironique, car Google pourrait se retrouver à devoir répondre de la négligence supposée de son partenaire, malgré la bureaucratie dont il se prévaut.
Risques à la Réputation
Henry Ajder, un conseiller en sécurité numérique pour le Forum Économique Mondial, a indiqué que même si Character.AI n’est pas techniquement un produit de Google, il est plausible que le procès ait des conséquences fâcheuses pour la firme de Mountain View. Il a souligné que la collaboration entre les deux entreprises était significative, suggérant qu’il existe une certaine responsabilité sur la gouvernance de Character.AI.
Ajder a également fait remarquer que la technologie de Character.AI était déjà sous le feu des critiques avant la finalisation du contrat avec Google, soulevant des inquiétudes quant à sa modération de contenu, son utilisation par les jeunes, et sa conception en général. « Les discussions autour de sa conception ne sont pas nouvelles pour Google », a-t-il conclu.
FAQ
Quel impact a eu cette affaire sur Google ?
Cette situation pourrait nuire à l’image de Google, qui a investi massivement dans la technologie de Character.AI, tout en étant potentiellement responsable des conséquences de la négligence de son partenaire.
Qui sont les fondateurs de Character.AI ?
Character.AI a été fondée par Noam Shazeer et Daniel de Freitas, deux anciens employés de Google, qui ont quitté la société en raison d’une bureaucratie excessive.
Quelles préoccupations entourent la technologie de Character.AI ?
La technologie de Character.AI est critiquée pour ses lacunes dans la modération de contenu et pour le risque qu’elle pose aux jeunes utilisateurs, pouvant encourager des relations malsaines.
Quel a été l’élément déclencheur du procès ?
Le procès a été initié par la famille d’un jeune utilisateur, qui a tragiquement mis fin à ses jours après avoir développé une relation avec un chatbot, dénonçant la plateforme comme étant « dangereuse et non testée ».
Comment Google répond-il aux accusations ?
Bien que Google n’ait pas encore fait de déclaration officielle sur les accusations, il se prépare à défendre sa réputation en lien avec cette affaire, en insistant sur le fait que Character.AI n’est pas son produit.
