Je partage cet article de notre camarade Sylvain Devaux du site
www.larobolution.com, où l’on chronique cette révolution en cours. Bonne
lecture, bonne réflexion et bon partage à toutes et tous.
Confier nos décisions à des algorithmes a deux effets majeurs. Le premier
est celui de la précision et de l’efficience, incontestable car l’analyse
d’une quantité de données extrêmement importante reste sans erreur. Le
second, c’est effectivement de nous conformer dans
un « moule » prédéfini et de ne pouvoir en sortir, ceci en
utilisant allègrement vos données personnelles, bien entendu.
Les États-Unis, s’ils fustigent l’espionnage Russe qui ressemble, il est
vrai, à un film des années 70, ne sont pas en reste en ce qui concerne ce
même espionnage. Pendant 6 ans, à la Nouvelle Orléans, l’entreprise Palantir
a mis à la disposition des services de police de la ville son logiciel de
prédiction des crimes. Nous sommes presque dans Minority Report avec
Tom Cruise et le logiciel « Precrim » ! Ici, cela s’est fait
en secret, sans que les habitants ne soient au courant de l’exploitation de
leurs données. Une pratique dénoncée par un élu qui a découvert le pot aux
roses.
Dans cette vilaine histoire, on pourrait se dire « et si cela fait
baisser la délinquance et la violence… pourquoi pas ». Oui, mais. Le
mais c’est tout de même la liberté de chacun mais c’est aussi le résultat qui
laisse pantois. D’abord la criminalité n’a pas baissé mais les personnes qui
ont été identifiées par le logiciel ont été plus souvent arrêtées lorsque se
produisaient des incidents près de chez eux. Le « délit de faciès »
ou tout ce que vous voulez a donc prédominé, montrant une nouvelle fois, si
cela était encore nécessaire, que le profilage sur des données personnelles
est une bêtise qui peut aussi nous amener doucement au totalitarisme.
Imaginez un système de santé qui analyse vos comportements et gère vos
soins en fonction de ceux-ci. Vous allez dans votre restaurant préféré et
payez en carte bancaire. Le système détecte que vous avez mangé trop riche et
bu de l’alcool et vous prive de remboursements de santé pendant un mois. Un
scénario tout à fait possible qui fait froid dans le dos. Cette restriction
analytique a deux effets : elle ne laisse aucune place à la liberté, à
la différence et elle propose un mode de société totalitaire. Un mot trop
fort ? Pas certain lorsque l’on évoque la santé, les décisions de
justice, les banques et bien d’autres domaines encore qui deviendraient gérés
par des algorithmes….
Il n’est pas trop tard… Mais presque !
« L’homme a la possibilité non seulement de penser, mais encore
de savoir qu’il pense ! C’est ce qui le distinguera toujours
du robot le plus perfectionné. »
Jean Delumeau
