Une manœuvre risquée
Le mode Autopilot de Tesla présente des risques surprenants et inquiétants. Des chercheurs de la société technologique chinoise Tencent ont réussi à manipuler l’intelligence artificielle d’un modèle Tesla Model S 75. En plaçant trois petits autocollants sur la route, presque invisibles pour un conducteur humain, ils ont pu induire le système en erreur, le poussant à se diriger vers la circulation venant en sens inverse. Ce rapport soulève des questions préoccupantes quant à la sécurité des véhicules autonomes et à la vulnérabilité face aux pirates informatiques.
Système semi-autonome
Le mode Autopilot est une fonctionnalité semi-autonome qui permet à la voiture de suivre des marquages au sol et de gérer certaines tâches sans intervention humaine. Cependant, il a été impliqué dans plusieurs manœuvres de conduite risquées au fil du temps. Dans l’expérience menée, l’IA de Tesla a interprété les autocollants comme des marquages de voie. En raison de leur position, l’IA a cru que la route se déplaçait vers la gauche, alors qu’elle restait en ligne droite.
Recherche expérimentale sur la sécurité de l’Autopilot de Tesla par Tencent Keen Security Lab
Une vulnérabilité inquiétante
Cette faille est d’autant plus préoccupante que l’équipe d’ingénieurs de Tesla a conçu le système pour être capable de reconnaître des marquages de voie en mauvais état ou effacés. Ainsi, l’IA est formée pour considérer les lignes blanches en dégradé comme des indicateurs valides de voie. Le souci est que les trois autocollants, même placés de manière très simple, ont été interprétés par le système comme suffisamment significatifs pour provoquer un changement de direction. Cela illustre les dangers potentiels d’un fonctionnement déficient des dispositifs de sécurité.
FAQ
Qu’est-ce que le mode Autopilot de Tesla ?
Le mode Autopilot est une technologie qui permet aux véhicules Tesla de conduire de manière semi-autonome, suivant les marquages de la route et gérant certaines fonctions de conduite.
Comment les chercheurs ont-ils pu manipuler l’Autopilot ?
Ils ont utilisé trois petits autocollants qui, bien que presque invisibles, ont été reconnus par le système comme des marquages de voie, conduisant à une réaction inappropriée de la voiture.
Y a-t-il eu d’autres incidents similaires ?
Oui, le mode Autopilot a été impliqué dans d’autres situations où son interprétation des marquages routiers a conduit à des manœuvres dangereuses.
Quels sont les risques associés aux véhicules autonomes ?
Les véhicules autonomes peuvent présenter des failles exploitables qui mettent en danger non seulement les passagers, mais aussi les autres usagers de la route. Il est donc crucial de continuer à tester et à améliorer ces technologies.
Que fait Tesla pour améliorer la sécurité de l’Autopilot ?
Tesla vise à renforcer la sécurité en perfectionnant ses algorithmes de reconnaissance et en tenant compte des failles potentielles dans la conception des systèmes.
