C’est aux États-Unis que les voitures sans chauffeurs humains auront tué pour la première fois. À Tempe, dans l’Arizona, une voiture intelligente appartenant à la compagnie Uber a renversé une femme alors qu’elle traversait la rue fin mars. Rappel brutal : nous n’en sommes qu’au stade de l’expérimentation.
Un dimanche soir, une voiture autonome opérée par Uber a renversé et tué une femme qui traversait la rue. Un chauffeur se trouvait derrière le volant qui était en mode automatique, c’est-à-dire sans chauffeur : la voiture se conduisait seule. Cette nouvelle a été reprise par de nombreux médias à travers le monde et a été abondamment relayée sur les réseaux sociaux. Au-delà de l’aspect tragique d’un accident de la route, c’est la technologie et nos rêves (ou cauchemars, pour certain·e·s) qui en ont pris un coup.
L’accident a rapidement été pris pour exemple des dangers de la course à la technologie par des détracteurs inquiets. Mais très vite, ingénieurs, scientifiques et même juristes et philosophes ont rappelé que les voitures qui se conduisent seule sont aujourd’hui encore au stade d’expérimentation. Il est tout à fait envisageable que d’autres incidents et accidents potentiellement mortels se produisent à nouveau dans le futur.
L’Arizona, eldorado des voitures sans chauffeurs
Uber, Waymo, Lift et d’autres ont choisi l’Arizona pour faire des tests avec leurs voitures sans chauffeur humain. La raison ? Peu ou pas de restriction.
Le gouverneur de l’État, Doug Ducey, espérant créer un petit bout de Silicon Valley chez lui, a encouragé les compagnies à venir s’installer en Arizona pour tester leurs voitures intelligentes. Et sa stratégie a marché ; de nombreux sites de test sont établis dans l’État, et il n’est pas anormal de voir rouler ces voitures dans les rues. Le fait que le premier accident faisant une victime se soit déroulé en Arizona n’est donc pas anodin.
Un challenge éthique
Le challenge éthique que posent les voitures sans chauffeurs va sans doute occuper une place de plus en plus importante dans les années à venir. Après l’accident, beaucoup se sont demandés : un humain aurait-il pu éviter cet accident ? Et la réponse est sans doute oui : un chauffeur, s’il était concentré, aurait pu éviter la collision mortelle.
Pourtant, la voiture sans chauffeur est présentée par ses concepteurs comme plus sûre, car capable de minimiser les erreurs humaines. Et c’est là que les limites auxquelles nous nous heurtons actuellement sont visibles : les voitures intelligentes peuvent obéir mais ne savent pas réagir. Il faut donc leur apprendre à décider, pour remplacer la réaction naturelle qu’un être humain au volant pourrait avoir. Et cela signifie qu’il faut préméditer et hiérarchiser…l’importance des vies.
Si une voiture intelligente est en situation d’accident, et qu’elle peut sauver soit ses passagers soit des piétons qui traversent, qui doit-elle sauver ? Si elle peut sauver un enfant ou un adulte ? Une femme ou un homme ? Une vieille dame ou un animal ?
Et cette hiérarchisation, en plus de ses évidentes implications morales, a des implications juridiques : qui est responsable de la mort d’un piéton ? L’ingénieur qui avait écrit l’algorithme ?
Si vous étiez en charge de rédiger l’algorithme qui hiérarchise l’importance des vies et choisit quelles vies sauver en priorité en cas d’accident, qui choisiriez-vous ? Pour tâcher de comprendre, le prestigieux Massachusetts Institute of Technology a créé un quiz surnommé “Moral Machine”.
Un challenge éthique lui-même challengé
Et s’il ne fallait pas réfléchir comme ça du tout ? Certaines voix s’élèvent pour critiquer ces exemples de situations extrêmes.
S’il est vrai que ce qui est simple pour des humains peut être difficile pour des machines, et que l’idée qu’une machine pourrait être responsable divise, les voitures sans chauffeurs sont encore très souvent envisagées par rapport aux humains.
Mais si le monde devenait complètement sans chauffeurs, les codes de conduites et de trafic routier actuels n’auraient plus lieu d’être : pourquoi avoir des feux rouges ? Toutes les voitures seraient connectées et sauraient éviter toute collision. C’est en tout cas l’argument de Wanis Kabbaj, un consultant français (cocorico !) spécialisé en stratégie qui l’explique à une audience américaine dans la conférence Ted ci-dessous (en anglais, sous-titré français).
