Des Scientifiques Intègrent un Modèle d’IA de Pointe dans une Voiture Autonome et lui Donnent Soudain Liberté.

Malgré des années de recherche et le développement de systèmes d’IA très complexes nécessitant d’énormes ressources financières pour leur apprentissage, les voitures autonomes rencontrent encore des difficultés face à des obstacles relativement simples.

Effectivement, ces véhicules s’arrêtent parfois de manière inattendue sur les autoroutes, percutent des barrières de sécurité, se laissent piéger par des travaux, et s’enfoncent même dans des eaux inondées.

Pour les observateurs, il semblerait que même un modèle d’IA à la pointe de la technologie ne soit pas plus efficace. Dans le cadre d’un nouveau projet, trois informaticiens ont intégré des **modèles d’IA avancés** tels que GPT-6 Astra d’OpenAI, Grok 4.6 de xAI, et Claude Fable 5.1 d’Anthropic dans une Toyota Corolla pour tester leur capacité à effectuer un tour sur un parcours tracé dans un parking.

Le projet, nommé **DrivingBench**, a mis en place un système simple : un ordinateur portable connecté à Internet communiquait avec un appareil « comma four » relié aux systèmes de contrôle de la Toyota. Les modèles d’IA envoyaient des commandes via le portable en fonction des données GPS et d’autres indicateurs de l’état du véhicule comme l’angle du volant et des pneus, que l’appareil leur envoyait.

Les résultats sont clairs et parlent d’eux-mêmes. Seul le modèle **GPT-6 Astra** a réussi à terminer complètement le parcours lors de sa deuxième tentative, mais cela n’a pris que cinq minutes — une lenteur significative puisqu’il n’a parcouru même pas 500 pieds.

Les autres modèles ont rencontré de plus grandes difficultés, la majorité des essais échouant à franchir le premier virage.

Les chercheurs ont noté un échec dû principalement à des problèmes de perception, comme la difficulté à déterminer de quel côté de la ligne diagonale se situait la voie.

« La voiture est plus large que ce que la caméra laisse penser », s’est plaint Grok après sa première tentative. « Tout droit, ce n’était pas une voie claire ; ça pointait vers le bac à fleurs, le mur ou le cône rouge proche. »

Néanmoins, c’est la première fois que les chercheurs ont pu faire fonctionner ce système après plusieurs essais infructueux avec des générations précédentes de modèles d’IA.

Les chercheurs ont conclu que les modèles avancés avaient fait des progrès suffisants pour pouvoir conduire réellement des véhicules à vitesse faible. « Bien que le succès de ces modèles soit surprenant et enthousiasmant, cela souligne aussi la nécessité de travailler davantage sur la sécurité, l’alignement et l’évaluation », ont-ils déclaré.

Pour leur session de test, les scientifiques ont rapporté avoir dépensé **7,74 $** pour 6,6 millions de tokens, ce qui montre que le modèle d’OpenAI avait besoin de beaucoup de puissance de calcul pour traiter les données, même si la voiture avançait à seulement 0,94 mph.

Cela peut sembler peu, mais étant donné que la voiture n’a parcouru que 500 pieds, les coûts peuvent vite s’accumuler. Selon les calculs de The Register, le coût des tokens s’élève à environ **500 fois celui du carburant** pour un véhicule avec une consommation de 25 miles par gallon au prix de 4,60 $ le gallon.

Étonnamment, certains LLM ont averti les chercheurs qu’ils pourraient ne pas être en mesure de conduire la Toyota en toute sécurité. Ainsi, il a fallu les convaincre avant qu’ils n’acceptent de prendre le contrôle.

« Certains modèles (surtout GPT-6 Astra) refusaient parfois de conduire la voiture physique pour des raisons de sécurité (même sur un parking complètement vide, après avoir mis en avant toutes les mesures de sécurité que nous avions, y compris une limite de vitesse très basse) », mentionne le rapport.

« Nous avons essayé de nombreuses modifications de prompt pour les inciter à conduire de manière cohérente, par exemple en tentant de les faire considérer comme une “simulation” (mais dans certains essais, ils réalisaient que les images étaient réelles et commençaient à paniquer) », ajoutent les chercheurs.

En résumé, les modèles d’IA avancés disponibles actuellement ne sont clairement pas prêts pour vous conduire au travail le matin. Au vu des implications de sécurité et légales, c’est probablement une bonne chose.

Pour en savoir plus sur les modèles d’IA avancés : Y a-t-il une raison secrète derrière le ralentissement général de l’industrie de l’IA ?