Les voitures sans chauffeur sont
en passe d’envahir les routes américaines et de détruire des emplois. Et
elles feront aussi des morts, même si ce n’est que par accident.
A l’heure actuelle, leurs
fabricants tentent de convaincre le Congrès qu’ils pourront établir leurs
propres régulations – alors même qu’ils continuent d’établir une liste de
problèmes potentiels.
Le Sous-comité du Sénat pour le
commerce, la science et le transport s’est entretenu avec la roboticienne de
l’université de Duke, Missy Cummings, qui a admis que les accidents seraient
inévitables après l’intégration de voitures sans chauffeur au sein d’une
société peuplée et complexe.
Comme l’explique le Guardian :
La révolution des
voitures-robots a heurté un ralentisseur mardi, après que les Sénateurs et
certains experts du secteur ont émis des avertissements quant au risque
potentiellement fatal que représentent les voitures sans chauffeur. « Il
ne fait aucun doute que certains occupants de cette technologie vont mourir, »
a expliqué Missy Cummings, de l’université de Duke, au Sous-comité du Sénat
pour le commerce, la science et le transport. « La question est de
savoir quand, et ce que nous pouvons faire pour minimiser ce risque ».
Les représentants du secteur et
les législateurs ont discuté de la nécessité potentielle de standards
universels pour les voitures sans chauffeur.
Les Sénateurs Ed Markey et
Richards Blumenthal, qui ont sponsorisé la législation demandant le passage
de tests par les conducteurs de voitures sans chauffeur, pensent que « la
crédibilité de cette technologie sera excessivement fragile tant que les gens
ne pourront pas faire confiance en ses standards ».
Ces standards reflètent la
programmation susceptible de faire des choix mortels dans diverses situations
impliquant des passants innocents et des situations sans issue.
Dans ces situations, existe-t-il
une échelle morale applicable par les humains comme par les machines ?
Les voitures sans chauffeur sont-elles
pensées pour éviter une collision avec un enfant à tout prix, et dans ce
cas-là, sont-elles prêtes à sacrifier leur occupant si un enfant court
soudainement au milieu de la route ? Nous n’avons pour le moment pas de
réponse claire à cette question.
Les standards deviennent déjà
moralement complexes. Chris Urmson, directeur de la branche de développement
de voitures sans chauffeur Google, a expliqué que sa société réfléchit
aujourd’hui à certains problèmes potentiels. Que heurter – l’enfant qui joue
au milieu de la route, ou le côté du pont ?
Google a établi ses propres lois
de robotique applicables aux voitures sans chauffeur : « Nous
essayons de dire ‘faisons de notre mieux pour éviter les usagers les plus
vulnérables, puis les autres voitures, et enfin tout ce qui ne bouge pas’, et
nous serons bien évidemment transparents avec nos clients quant à la manière
dont fonctionneront nos voitures ».
Mais le caractère moral de la
structure de prise de décision du processus informatique et le chaos
inévitable pour un ou plusieurs individus ne sont qu’une facette du problème.
Les véhicules autonomes seront
aussi, chose ironique, vulnérables aux pirates informatiques – les équipements
connectés à internet pourront être manipulés et utilisés pour prendre les
commandes d’un véhicule ou voler les données de son propriétaire. Le problème
deviendra plus important encore à mesure que les voitures sans chauffeur
deviendront populaires.
« Nous savons que de
nombreux capteurs dont sont équipées les voitures autonomes ne sont pas
fiables au soleil ou dans des endroits pour lesquels les cartes ne sont pas
mises à jour, a expliqué Cummings. Nous savons que la détection de mouvement
est un gros problème, notamment dans le monde réel. Nous savons que les gens
s’installeront à l’arrière, pensant que leur voiture est en mode autopilote.
Et nous savons que d’autres tenteront de pirater leurs systèmes. »
« Nous savons que certains,
depuis les cyclistes jusqu’aux piétons en passant par les autres conducteurs,
tenteront de jouer avec les voitures sans chauffeur afin d’éliciter ou d’empêcher
certaines réactions, ou simplement pour s’amuser, » a-t-elle ajouté.
En 2013, un groupe de pirates
informatiques nous a fait preuve de la vulnérabilité
de ces nouvelles voitures. Les possibilités sont terrifiantes – tout peut
être piraté, depuis la stéréo jusqu’aux freins, en passant par les
essuie-glaces – et ce à n’importe quel moment. Imaginez ce qui est possible
en 2016.
Que se passera-t-il lorsque ces
voitures sans chauffeur ne seront pas d’accord avec leur passager quant à
certaines priorités et à ce qu’il est permis de faire en cas d’urgence –
comme échapper à un braquage ou à une poursuite avec la police ?
Il n’est pas difficile de voir
comment notre confiance en la technologie sur les routes pourra compliquer le
futur et restreindre la capacité des humains à prendre des décisions
concernant d’importants facteurs routiers. Espérons que ces machines soient
programmées de manière à être dotées de bon sens.
