Une voiture autonome de Uber tua une femme traversant une rue à Phoenix, dans la banlieue de Tempe en Arizona, le 20 mars 2018 : un SUV Volvo XC90 de Uber en mode autonome, pourtant avec un opérateur à bord, percuta Elaine Herzberg, 49 ans, et son vélo, à près de 65 kilomètres par heure.

Elle mourut de ses blessures quelques heures plus tard à l’hôpital.

D’après l’enquête de la NTSB (United States National Transportation Safety Board, Conseil national de la sécurité des transports), le code source de la voiture était incapable de détecter un piéton en dehors des passages cloutés.

Herzberg fut détectée par le radar 5,6 secondes avant l’impact, et par le Lidar 5,2 secondes avant.

Mais le système d’apprentissage automatique n’a pas su catégoriser la piétonne et son vélo, modifiant plusieurs fois sa classification avant l’impact – véhicule, vélo, objet inconnu – et hésita sur sa présence ou non sur la trajectoire de la voiture.

Ce n’est qu’une seconde avant l’impact que le système détecta le vélo de la piétonne, et qu’il était bien dans sa trajectoire. A ce stade, il était bien trop tard pour réagir.

L’enquête montre que le pilote humain de secours regardait ailleurs pendant ce temps.

Pire encore, le système de freinage d’urgence du SUV fut volontairement désactivé, car le véhicule fonctionnait de façon erratique d’après Uber quand il était activé.

On peut donc considérer que la tragédie était entièrement évitable, et que la faute en incombe largement aux autorités de régulation, qui ont permis avec bien trop de désinvolture, à des essais grandeur nature de véhicules autonomes d’avoir lieu.

Alors que des entreprises comme WayMo et Uber font continuellement pression sur le Congrès pour le passage d’une nouvelle loi qui accélérerait la libéralisation des véhicules autonomes, et éliminerait l’imposition d’un opérateur humain derrière le volant, les associations américaines de consommateurs demandent un moratoire sur les essais de véhicules autonomes.

L’enquête de la NTSB montra que les véhicules autonomes, avant la mort de Herzberg, furent à l’origine de 37 accidents entre septembre 2016 et mars 2018. Tous en mode autonome, et pour 33 d’entre eux résultant en un crash dans d’autres véhicules.