lundi 17 septembre 2018

Daniel Suarez : les robots tueurs, avenir de la guerre, cauchemar pour l’humanité

La conférence TED est souvent accusée d’optimisme débridé pour les capacités de l’être humain et la technologie. Est-ce la force des choses, l’épreuve du temps, le « reality check » ? C’est de moins en de moins en moins le cas. Parmi les 78 interventions, et à côté des scientifiques et entrepreneurs survoltés, il y a de plus en plus de voix, des universitaires, des philosophes, des activistes, des écrivains, qui mettent en doute l’idée, si confortable, que la technologique nous sauverait de tout.

Lors de cette première journée à TED, personne n’a tiré la sonnette d’alarme aussi bien que Daniel Suarez. Son nom vous est peut être encore inconnu. Il est pourtant un expert pointu en technologie (logiciel notamment) de l’armement, expertise qu’il met et dépasse dans ses romans d’anticipation hallucinants : avec Deamon, son premier roman, auto-publié aux Etats Unis puis au succès planétaire (en France au Fleuve Noir), et sa suite Freedom, il anticipe les effets dévastateurs d’une société gouvernée par la technologie. Dans son dernier ouvrage, il se concentre sur l’une d’entre elle : les drones.

Lorsqu’il est monté sur scène, l’auditoire venait d’entendre plusieurs présentations vantant leur utilité : acheminer des biens et/ou des médicaments dans des zones reculées (Andreas Raptopoulos), protéger des espèces animales en voie d’extinction dans des zones reculées, voire empêcher leur chasse illégale (Lian Pin Koh et son travail sur les orangs-outans au Népal). 

Son message était bien moins optimiste. Au delà des drones de combat classiques pilotés et actionnés à distance, comme le Predator ou le Reaper, une nouvelle frange de drones totalement autonomes est sur le point d’émerger. Bardés de capteurs, logiciels et armes à feu, ils seront capables d’identifier une cible, de déjouer les interférences électroniques susceptibles de les dévier de leur mission et surtout de prendre seul la décision de tuer. « Si nous transférons la décision de tuer à un logiciel, nous n’allons pas seulement éliminer toute humanité dans la guerre mais changer profondément nos sociétés » 

Les guerres anonymes
Si la société civile ne se mobilise pas, n’anticipe pas, personne ne pourra contrôler la prolifération ni l’usage des drones armés et ni leur droit de tuer. Alors « la mise à mort deviendra peu onéreuse et anonyme pour le crime organisé, les multinationales, voire même un personnage influent ». Les seigneurs de la guerre pourront agir sans crainte : on peut arrêter un assaillant, identifié son commanditaire. On ne peut rien contre un automate

Les pays occidentaux auraient tendance à se considérer comme protégés. Grave erreur, précise Suarez. Au contraire, big data, la masse de données qui nourrit notre société ultra connectée « rend chaque individu plus indentifiable, visible, traçable pour les machines ». Selon lui, il faut renoncer à ce le fantasme d’une guerre d’automates et créer un système immunitaire autour de la société civile. Les outils sont à portée de main : une plaque d’identification cryptolographique sur chaque drone créé, une carte en temps réel indiquant la présence de drones, des drones « civiques » susceptibles de prévenir les individus quand ils sont tracés. Et une mobilisation internationale contre ces drones de combat et un traité international contre leur prolifération. Car ils ne sont pas moins dangereux que les armes chimiques ou nucléaires. Juste en cours de préparation

Alors seulement si on y fait bien attention, on pourra se contenter de lire les romans vertigineux de Daniel Suarez en se disant qu’il ne s’agit que de science fiction. 

Source