Au grand dam de Tesla et de son PDG, Elon Musk, le pilotage automatique cause parfois des accidents de la route ou des bugs. En mai, un modèle S est entré en collision avec une voiture de police au nord de Seattle, aux États-Unis. D'après les informations communiquées par les forces de l'ordre, il était activé. Le conducteur a déclaré supposer que tout se faisait sans intervention de sa part, selon NBC News. En mars, une autre Tesla roulant en pilotage automatique a percuté un véhicule de police garé sur la bande d’arrêt d’urgence d’une autoroute.
La société demande aux conducteurs de rester attentifs et de garder les mains sur le volant en permanence. Elle précise que la technologie de conduite autonome actuelle ne peut pas encore se passer de supervision.
Cette fois, un bug de Tesla, qui n’a fait ni victimes ni dégâts, a été découvert. D’après une vidéo publiée le 23 juillet sur Twitter, un automobiliste a enclenché le pilotage automatique. Le véhicule a ensuite ralenti en signalant un feu de signalisation orange sans raison apparente.
Une erreur de perception
Le conducteur a compris en regardant le tableau de bord que le véhicule avait confondu la Lune avec un feu de signalisation.
Hey @elonmusk you might want to have your team look into the moon tricking the autopilot system. The car thinks the moon is a yellow traffic light and wanted to keep slowing down. 🤦🏼 @Teslarati @teslaownersSV @TeslaJoy pic.twitter.com/6iPEsLAudD
— Jordan Nelson (@JordanTeslaTech) July 23, 2021
«Hey Elon Musk, vous devriez demander à votre équipe de regarder si la Lune a trompé le système de pilotage automatique. La voiture pense que la Lune est un feu de signalisation orange et voulait continuer à ralentir!», a-t-il tweeté.
L’aveu d’Elon Musk
Début juillet, le PDG de Tesla avait indiqué sur Twitter que «la conduite autonome généralisée est difficile, car elle nécessite d’intégrer les problèmes du monde réel dans une IA [intelligence artificielle, ndlr]»:
«Je ne m'attendais pas à ce que ce soit si difficile, mais la difficulté est évidente avec le recul. Rien n'a plus de degrés de liberté que la réalité».
Haha, FSD 9 beta is shipping soon, I swear!
— Elon Musk (@elonmusk) July 3, 2021
Generalized self-driving is a hard problem, as it requires solving a large part of real-world AI. Didn’t expect it to be so hard, but the difficulty is obvious in retrospect.
Nothing has more degrees of freedom than reality.