Espérons que vous n’ayez pas besoin d’une ambulance à La Nouvelle-Orléans : les opérateurs 911 sont désormais remplacés par l’IA.

<p class="article-paragraph">Si vous pensiez que les bots de service client alimentés par l'IA étaient problématiques, attendez de devoir prouver à un modèle de langage que vous avez réellement été impliqué dans un accident de voiture.</p>

<p class="article-paragraph">D'après une nouvelle enquête du <em>Shreveport Times</em>, les responsables du District de Communication de la paroisse de la Nouvelle-Orléans, qui gère le <a href="https://www.opcdla.gov/about-us/" rel="noreferrer" target="_blank">service d'urgence</a>, commencent à intégrer des agents de réponse automatique basés sur l'IA dans leur fonctionnement.</p>

<p class="article-paragraph">Cet outil, nommé **AI Emergency Call Triage**, est développé par une entreprise appelée **Carbyne**. Il a pour mission de **classer les appels entrants** destinés aux répartiteurs, priorisant les urgences pour les humains et gérant automatiquement les appels répétitifs liés à des incidents en cours.</p>

<p class="article-paragraph">Depuis avril, la Nouvelle-Orléans a testé l'application de l'IA pour les appels 311, une ligne téléphonique destinée à offrir des informations gouvernementales locales et des services non urgents.</p>

<p class="article-paragraph">L'intégration de l'IA pour trier les appels d'urgence marque un tournant majeur pour l'agence de répartition de la ville. La Nouvelle-Orléans rejoint ainsi d'autres grandes villes comme **Seattle** et **Atlanta**, qui ont également adopté récemment l'IA pour leurs services d'urgence.</p>

<p class="article-paragraph">Bien que les responsables affirment que cette technologie améliorera la gestion des centaines d'appels qui inondent les répartiteurs humains, elle risque également d'introduire une nouvelle barrière entre les appelants en détresse et les opérateurs qualifiés pouvant les aider.</p>

<p class="article-paragraph">Il est également important de souligner que les systèmes de chat vocal basés sur l'IA sont encore très limités, même avec les modèles d'IA les plus avancés. Les erreurs peuvent survenir tant dans le traitement que dans la transmission de l'information. Une étude de **NewsGuard** a révélé que, en mode vocal, des IA comme **ChatGPT** et **Gemini** produisent des affirmations fausses avec un son réaliste jusqu'à 50 % du temps. Les appels d'urgence au 911 sont souvent très désordonnés.</p>

<p class="article-paragraph">De plus, les systèmes vocaux basés sur l'IA sont vulnérables aux cyberattaques. Des chercheurs en cybersécurité ont réussi à manipuler le comportement de ces modèles avec un taux de succès variant entre 79 et 96 %.</p>

<p class="article-paragraph">Les implications de tout cela dans des situations où contacter un répartiteur humain peut faire la différence entre la vie et la mort sont encore incertaines, mais les précédents essais d’IA dans ce domaine ne sont pas encourageants.</p>

<p class="article-paragraph"><strong>En savoir plus sur les premiers intervenants :</strong> <em>Les secours d'urgence se décrivent désormais comme une « assistance routière » non rémunérée pour les Waymos en détresse.</em></p>