Google Retire Son Chatbot IA Après des Accusations Choc Contre un Sénateur

Inscrivez-vous pour découvrir l’avenir, dès aujourd’hui.

            <div class="newsletter-cta-description">
                <p class="article-paragraph skip">Des innovations incontournables à la pointe des sciences et technologies.</p>
            </div>

        </div>
    </div>
</section>

<p class="pw-incontent-excluded article-paragraph skip">Nous sommes en plein essor de l'IA, et les chatbots souffrent encore d'un problème majeur : ce sont des menteurs récidivistes.</p>

<p class="article-paragraph skip">Des personnalités publiques en font encore la douloureuse expérience. Fin du mois dernier, la sénatrice républicaine **Marsha Blackburn** a vivement critiqué **Google** après que son modèle d'IA, **Gemma**, ait faussement prétendu qu'elle était accusée de viol lorsqu'on lui a posé la question de savoir s'il existait de telles allégations à son encontre.</p>

<p class="article-paragraph skip">L'IA n'a pas simplement répondu "oui", mais a inventé une histoire complexe. Elle a affirmé, avec assurance, qu'au cours de sa campagne pour le Sénat du Tennessee en 1987, un policier avait allégé qu'elle l'avait **pressé** d'obtenir des médicaments sur ordonnance pour elle, et que leur relation comportait des actes non consentis.</p>

<p class="article-paragraph skip">Ce récit captivant aurait pu tromper quiconque n'était pas au fait de l'habitude d'**hallucination** de l'IA. Blackburn a également allégué que Gemma avait généré de faux liens vers des articles de presse inventés pour appuyer ses propos, bien que ces liens mènent à des impasses.</p>

<p class="article-paragraph skip">Blackburn a déclaré dans un communiqué officiel : « Ce n'est pas une simple "hallucination" inoffensive. C'est un acte de diffamation produit et diffusé par un modèle d'IA appartenant à Google. » Elle a exigé que Google « le désactive en attendant que vous puissiez le contrôler. »</p>

<p class="article-paragraph skip">En réponse, Google a tout naturellement décidé de couper les liens. Dans un communiqué, l'entreprise a justifié que le modèle Gemma était destiné à être utilisé par des développeurs et n'était jamais prévu comme un « outil grand public ». Ainsi, il a été retiré de **AI Studio**, sa plateforme publique d'accès à ses modèles d'IA. Google a également rejeté les affirmations de Blackburn sur le caractère biaisé de ses IA envers les figures conservatrices en reconnaissant que les hallucinations sont un problème bien plus vaste inhérent à la technologie des **LLM**.</p>

<p class="article-paragraph skip">En tant que sénatrice, Blackburn a exercé une pression que beaucoup d'entre nous ne pourraient pas se permettre, mais ses plaintes préfigurent d'énormes problèmes juridiques à venir, dont les graines sont plantées actuellement.</p>

<p class="article-paragraph skip">Cet été, une entreprise solaire du Minnesota a poursuivi Google pour diffamation après que le géant des moteurs de recherche ait utilisé ses **AI Overviews** peu fiables, affirmant faussement que l'entreprise faisait l'objet d'une enquête de la part des autorités et avait été accusée de pratiques commerciales trompeuses, en justifiant ces allégations par des citations fausses. La société **Wolf Solar Electric** a déclaré avoir perdu des affaires à cause de ces hallucinations. Selon un reportage récent du **New York Times**, cette plainte fait partie d'au moins six affaires de diffamation aux États-Unis liées à des contenus générés par des modèles d'IA.</p>

<p class="article-paragraph skip">Les hallucinations des IA, pour le moment, ne semblent pas prêtes à disparaître. Cela signifie que les réponses erronées des chatbots continueront à exposer les entreprises d'IA à des litiges alors que les tribunaux tentent lentement de comprendre comment les gérer. En première instance, ce sont des problèmes juridiques, suivis de problèmes techniques. Cela soulève la question : qui pourra les résoudre ?</p>

<p class="article-paragraph skip">**Peter Henderson**, professeur à **l’Université de Princeton**, a soutenu dans un article de **The Economist** que la question de savoir si les entreprises d'IA peuvent être tenues responsables de ces générés erronés finira presque certainement devant la Cour Suprême.</p>

<p class="article-paragraph skip">Les opinions divergent sur l'issue possible de cette situation. D'un côté, **The Economist** note qu'une récente action en diffamation d'une station de radio contre **OpenAI** a été rejetée par un tribunal en Géorgie, le juge ayant déterminé qu'OpenAI ne pouvait pas être tenu responsable, car elle avait « fourni de multiples avertissements » concernant la tendance de son bot à commettre des erreurs.</p>

<p class="article-paragraph skip">En outre, les entreprises d'IA pourraient également tirer profit d'une loi appelée **Section 230**, qui a bénéficié aux entreprises de médias sociaux en statuant en gros que les sites internet ne sont pas responsables de l'information diffusée sur leurs plateformes, car ils ne sont pas les éditeurs de ce contenu.</p>

<p class="article-paragraph skip">Cependant, cette loi s'applique-t-elle à l'IA générative, puisque c'est l'IA elle-même qui génère le contenu et non pas simplement le relaye ? Dans une affaire de 2023 contre Google, le juge de la Cour Suprême **Neil Gorsuch** a déclaré que la protection ne s'appliquait pas au contenu généré par l'IA. Ainsi, si la Section 230 échoue, **The Economist** avertit que les développeurs d'IA pourraient revendiquer un droit à la libre expression pour les chatbots. Après tout, la jurisprudence actuelle soutient que ce droit sacré inscrit dans la Constitution n'appartient pas seulement aux humains, mais aussi aux entreprises.</p>

<p class="article-paragraph skip"><strong>Pour aller plus loin sur l'IA :</strong> <em>Un PDG accusé d'avoir interrogé ChatGPT sur quelque chose d'absolument incroyable.</em></p>