droit-libertes
Consultant juridique
Abonné·e de Mediapart

6 Billets

0 Édition

Billet de blog 12 mai 2022

droit-libertes
Consultant juridique
Abonné·e de Mediapart

Google respectera-t-il les 3 lois de la robotique ?

Il est encore difficile d’accepter que le robot n’est plus un futur lointain, imaginé par les auteurs de science-fiction. S’il semble que la robotique ait été loin des attentes des grands auteurs du genre, plusieurs faits récents conduisent à penser que cette science va progresser très vite pour faire coïncider petit à petit l’imaginaire et le réel…

droit-libertes
Consultant juridique
Abonné·e de Mediapart

Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.

... il s’agira alors pour l’homme de faire des choix éthiques et techniques déterminants et quand Google est au cœur de l’équation, bien malin qui pourrait prédire si les bonnes cartes seront jouées.

« Deux choses remplissent le cœur d’une admiration et d’une vénération, toujours nouvelles et toujours croissantes, à mesure que la réflexion s’y attache et s’y applique : le ciel étoilé au-dessus de moi et la loi morale en moi. » Par cette longue sentence d’Emmanuel Kant, il est possible d’approcher les enjeux à venir de la science, teintée de futurologie, dans les deux domaines phares du développement de la technique que sont l’exploration spatiale et la robotique. Le premier envisage à l’horizon un désir d’exploration humain trop humain, qui finira bien pas faire sortir l’espèce de sa Terre natale – que cela soit nécessaire ou non à sa survie. Et l’exploration à cela de particulier qu’elle porte en elle l’inconnu et l’inquiétant, tout autant que le désirable : nous irons, mais là où nous irons, nous ne savons pas encore comment l’humanité s’adaptera, ni si nos lois, nos coutumes et nos habitudes survivront au voyage.

La robotique, elle, est bien plus incarnée et bien plus terrienne, presque plus actuelle pour l’observateur avisé de son époque. Le perfectionnement des machines est tant entré dans les mœurs qu’il est difficile de s’émerveiller quand l’Escalator de la station Mairie de Montrouge accélère une fois que l’on pose le pied sur lui, ou que les nouvelles portes transparentes des bornes Navigo s’ouvrent dans un élégant silence que la science-fiction peinait à imaginer, préférant souvent le brouhaha spectaculaire de la mécanique qui se met en branle. Le mobilier urbain n’est pas le seul exploit technique ignoré au quotidien : la communication est immédiate, omnisciente et instantanée, les kilomètres ont perdu leur pouvoir de rupture affective. Des ordres vocaux peuvent être donnés à un smartphone qui les accomplira de manière plus ou moins efficace. Il y a fort longtemps également que nous avons oublié à quel point la cuisine s’est automatisée, par le micro-ondes ou les différents robots s’occupant sans mal des recettes qu’ils sont programmés pour préparer.

Trois lois fondamentales

Ces avancées techniques qui auraient bouleversé l’humain d’il y a un siècle débarquant par hasard en 2014 sont familières et presque invisibles à l’œil qui les côtoie tous les jours sans se poser de question sur leur fonctionnement. Bien plus critique pourtant est ce même œil à l’égard de la robotique fantasmée : celle qui construit à la chaîne des appareils électroniques, celle qui se déplace de manière autonome sur des terrains accidentés, celle qui tue depuis le ciel, celle qui prend une forme humanoïde pour assister l’homme à l’endroit où il montre ses limites ; celle enfin, qui ose porter le nom d’intelligence artificielle.

« La Première de ces lois indique qu’un robot « ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger ». »

Et pourtant, les proto-robots du quotidien, autocuiseur, iPhone, Escalators et poinçonneur automatique ne sont pas moins robotiques que les spécimens à venir. C’est bien pour cela, au fond, que les questions éthiques sont posées avec urgence par ceux des chercheurs et des philosophes qui ont compris que le robot n’était pas un futur, mais un présent. Pour cela aussi qu’il peut être judicieux de comprendre comment l’avenir de cette science est en train de se jouer dans l’ombre des OPA et des marchés financiers.

Quand la robopsychologue Susan Calvin, héroïne d’un grand nombre de nouvelles d’Isaac Asimov est interrogée sur la dangerosité des robots, sa réponse est presque tout le temps la même : un robot ne peut pas être dangereux. Il ne le peut pas, parce que la couche fondamentale de son cerveau, le cœur même de sa pensée, est programmé pour obéir aux Trois Lois de la Robotique, essentielles pour fonder un rapport sain entre le robot et l’homme. La Première de ces lois indique qu’un robot « ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger ». La Deuxième loi affirme qu’un robot « doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi ». La Troisième loi enfin veut qu’un robot « protège son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième loi ».

Dans la nouvelle intitulée « La preuve », Calvin rejoint Kant en poussant plus loin la définition des Trois Lois, ou tout du moins, en donnant une assise humaine à ces principes. « Les Trois Lois constituent les principes directeurs essentiels d’une grande partie des systèmes moraux », dit-elle. « Évidemment, chaque être humain possède en principe, l’instinct de conservation. […] De même, chacun des bons êtres humains, possédant une conscience sociale et le sens de la responsabilité, doit obéir aux autorités établies, écouter son docteur, son patron, son gouvernement, son psychiatre, son semblable, même quand ceux-ci troublent son confort ou sa sécurité. » Voilà les deux premières lois couvertes par les principes moraux les plus élémentaires – et le docteur Calvin de conclure : « Tout bon humain doit aussi aimer son prochain comme lui-même, risquer sa vie pour sauver celle d’un autre. » Si quelqu’un se comporte ainsi, « il se peut que ce soit un robot, mais aussi que ce soit un très brave homme ».

Ce très court passage dans l’œuvre d’Asimov revêt une importance particulière si l’on considère que l’auteur a cerné admirablement les enjeux réels de la robotique présente et à venir. Non seulement la tirade de Susan Calvin suppose qu’il est nécessaire que la robotique se fonde sur des principes moraux, mais en plus, elle implique en creux que ce sont des hommes bons qui ont décidé comment la robotique allait s’intégrer dans le futur de l’humanité. Il suffit de faire un pas de côté et de regarder une saga comme Star Wars, une série comme Doctor Who ou un univers comme celui de Terminator pour s’apercevoir que le robot n’est pas systématiquement un être porté par les valeurs universelles du bien.

Skynet a dépassé son créateur et souhaite le détruire ; les droïdes de la Fédération du Commerce obéissent aux ordres de tuer les Jedi et tout ce qui se trouve sur leur chemin. N’évoquons qu’à peine les Cybermen qui n’ont pour toute philosophie que l’assimilation totale de l’humanité dans leur grand empire robotique.

Dans le domaine militaire, la question de la responsabilité du drone se pose déjà : les comités d’éthique se battent pour que la décision d’ouvrir le feu reste humaine alors que l’automatisation la plus totale de la guerre attire parfois les représentants des états-majors et les entreprises d’armement. Mais ce cas limite qui est un extrême permettant de problématiser l’éthique du robot face à l’ordre de donner la mort ne s’exprime que dans la guerre, où, par définition tragique, les règles de la société civile sont bafouées. Ne s’intéresser qu’à ce cas limite serait minimiser l’importance de la robotique dans le développement de la technique civile et considérer que les réflexions qui s’appliquent aux drones militaires ne peuvent pas s’élargir à un champ plus large, qui concerne l’humanité entière.

« Deux choses remplissent le cœur d’une admiration et d’une vénération, toujours nouvelles et toujours croissantes, à mesure que la réflexion s’y attache et s’y applique : le ciel étoilé au-dessus de moi et la loi morale en moi. »

Critique de la raison pratique, E. Kant

Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.

L’auteur n’a pas autorisé les commentaires sur ce billet

Bienvenue dans Le Club de Mediapart

Tout·e abonné·e à Mediapart dispose d’un blog et peut exercer sa liberté d’expression dans le respect de notre charte de participation.

Les textes ne sont ni validés, ni modérés en amont de leur publication.

Voir notre charte