Le robot qui tue !

Dossier ~ mardi 18 novembre 2014

À quelques jours d’intervalle, on a beaucoup parlé dans la presse du thème de la robotique, sous des formes très diverses et souvent interpellantes. L’occasion de rappeler qu’aucun projet scientifique n’est bon ou mauvais en soi, mais que tout dépend de l’utilisation que l’Homme en fait.

Licence to kill

La première information, reprise par la revue Courrier international, nous apprend que depuis plusieurs mois, le gouvernement norvégien finance le développement de robots-missiles qui pourraient équiper des avions de combat. La particularité de ces robots tient dans le fait qu’à terme, ils seraient capables d’identifier eux-mêmes leurs cibles, et de prendre la décision de tuer, sans aucune intervention humaine. La Norvège n’est pas seule dans ce cas : de nombreux pays développent des programmes de recherches sur des armes pouvant opérer sans aucun contrôle humain. Le comble du raffinement de ce développement robotique, confié au groupe Kongsberg par le gouvernement norvégien, c’est que « l’arme devient le combattant »!

Cette thématique n’est pas sans rappeler le rêve du savant fou qu’Hergé met en scène dans le diptyque du Rayon du Mystère, qui ambitionne d’insuffler la vie à son robot. Ce savant, qui n’a pas de nom dans les deux albums de Jo, Zette et Jocko, expérimente la transmission de l’âme, celle de Jo, dans le corps du robot !

C’est le rêve de sa vie : « J’aurai créé un être vivant !... j’aurai insufflé la vie à une machine docile !… Un cœur de caoutchouc va battre dans une poitrine d’acier ! Ah ! toute puissance de la société moderne !... ».

Jo Zette et Jocko - " Le Rayon du mystère "

Le robot et l’éthique

Le « robot-soldat » que développe ce groupe norvégien soulève évidemment bien des interrogations éthiques puisqu’il dépasserait le rôle de simple exécutant. Il deviendrait un véritable agent, avec un « libre arbitre » programmé ! Et il pose évidemment une question grave  : qui assumera les responsabilités en cas d’erreur de ces robots, ou en cas de violation des règles de droit international ? Vaste question qui pourrait entraîner un débat parlementaire, que réclame à cor et à cris la Ligue Norvégienne pour la Paix.

Ce sujet n’est pas sans nous rappeler le film I, Robot ( avec Will Smith ) où, lors d’un accident de voiture, un robot décide de sauver un homme (Spooner) plutôt qu’une petite fille (Sarah) estimant que les chances de survie de cette dernière étaient moindres (13%) que celles de l’adulte (45%) !

I Robot © 2004 20th Century Fox. All rights reserved

La révolution robotique a toujours divisé l’opinion publique : dès l’apparition des robots, des clans se formaient. D’aucuns y voyaient le rédempteur qui libère l’homme de toutes les contingences matérielles. D’autres s ‘opposaient à une telle déviance et traitaient les premiers de doux rêveurs, craignant des conséquences désastreuses pour l’homme !

Robots humanitaires

Une autre information sortie dans les journaux nous reparlait du Darpa Robotics Challenge, cette compétition internationale organisée par une agence américaine en 2012, et dont le but était de lancer un défi aux entreprises et centres de recherches en robotique : celui de concevoir un robot capable de participer à des opérations d’aide humanitaire, en exécutant des tâches en milieu extrême. 17 équipes sur 100 se sont qualifiées pour la suite de la compétition, proposant des robots capables par eux-mêmes de : conduire une voiture sur un parcours d’obstacles, monter une échelle, ouvrir une porte en la tirant ou en la poussant, découper une forme précise à l’aide d’une perceuse, fermer une vanne d’air, traverser à pied un chemin parsemé de débris, etc… Cette conception de la robotique se rapproche indéniablement plus des inventions utilitaires du Professeur Tournesol, comme les patins à moteur, ou le char lunaire…

Mais en définitive, cette affaire du robot norvégien laisse entrevoir toutes sortes de questionnements sur l’avenir de l’humanité… notamment celle que le robot puisse développer une agressivité hypertélique (qui va au-delà de son but) par l’extermination même de ses créateurs.

" On a marché sur la Lune "

Des lois pour les robots ?

La sagesse voudrait que l’on prenne du recul sur cette révolution de la robotique et qu’on évalue de façon indépendante et concertée les risques inhérents à ces évolutions, en encadrant au mieux les promoteurs de ces recherches et de cette industrie. Ceci suppose par exemple un rappel des Trois lois de la robotique énoncées par l’écrivain de science-fiction Isaac Asimov  (dans son roman Runaround , en 1942) :

1. Un robot ne peut porter atteinte à un être humain ni, restant passif, permettre qu’un être humain soit exposé au danger.

2. Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.

3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la seconde loi.

Selon, certains chercheurs, ces lois seraient déjà fondamentalement inapplicables.

La question de ces robots-soldats mettent à mal le droit international et spécialement la question des droits de l’Homme. Il est grand temps de définir une éthique des robots alors que Roger Clarke, expert en robotique explique sans hésitation que : « Il n’est pas possible de limiter de manière fiable le comportement des robots en concevant et en appliquant un ensemble de règles ».

Jo Zette et Jocko - " Le rayon du mystère "

Un robot dans l’espace

Et pendant ce temps, la presse nous rappelle aussi qu’une des missions spatiales les plus importantes de ces dernières années va bientôt arriver à son terme. Il y a dix ans, le Centre européen d’opérations spatiales ( ESOC ) et l’Agence Spatiale Européenne envoyaient dans l’espace la sonde Rosetta, qui après avoir parcouru 6,5 milliards de kilomètres doit maintenant larguer un petit robot au doux nom de Philae sur la Comète Tchouri, à 511 millions de kilomètre de la Terre. Le but de ce projet à 1,3 milliards d’euro, est de recueillir un maximum d’informations sur les origines du système solaire, et qui sait ?, sur l’apparition de la vie sur Terre. Le défi est risqué : ce petit robot, qui pèse 100 kilos sur Terre, mais un seul gramme dans l’espace, parviendra-t-il à s’arrimer correctement à la surface de la comète, sans rebondir sur elle, ni s’enfoncer dans son sol, peut-être très mou ? Si tout se passe bien, il devrait envoyer ses informations vers la Terre avec un décalage de 28 minutes, qui est le délai de transmission avec notre planète, et fonctionner jusqu’en mars prochain, date programmée où il mourra de chaud, quand la Comète Tchouri se rapprochera inévitablement du Soleil.

© ESA/Rosetta/Philae/CIVA

Voilà une information plus positive, qui s’apparente évidemment aux recherches spatiales effectuées par le professeur Tournesol à Sbrodj en Syldavie, ainsi que lors du mythique voyage lunaire de Tintin et de ses amis lors des aventures d’Objectif Lune et On a marché sur la Lune, il y a 64 ans déjà. Et qui nous rappelle qu’un robot, fruit du génie humain, peut aussi œuvrer au progrès de l’Humanité !

" On a marché sur la Lune "
Vos contributions Contribuer
Pas encore de contribution...
Choisissez un pseudo
Entrez votre email
Entrez un mot de passe
Choisissez un pseudo entre 5 et 12 caratères.
Valider mon inscription
Dans quelques secondes vous allez recevoir un email de confirmation.
 
Vous pouvez dès à présent vous connecter avec vos identifiants.

OK