droit-libertes
Consultant juridique
Abonné·e de Mediapart

6 Billets

0 Édition

Billet de blog 12 mai 2022

droit-libertes
Consultant juridique
Abonné·e de Mediapart

Google respectera-t-il les 3 lois de la robotique ?

Il est encore difficile d’accepter que le robot n’est plus un futur lointain, imaginé par les auteurs de science-fiction. S’il semble que la robotique ait été loin des attentes des grands auteurs du genre, plusieurs faits récents conduisent à penser que cette science va progresser très vite pour faire coïncider petit à petit l’imaginaire et le réel…

droit-libertes
Consultant juridique
Abonné·e de Mediapart

Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.

... il s’agira alors pour l’homme de faire des choix éthiques et techniques déterminants et quand Google est au cœur de l’équation, bien malin qui pourrait prédire si les bonnes cartes seront jouées.

« Deux choses remplissent le cœur d’une admiration et d’une vénération, toujours nouvelles et toujours croissantes, à mesure que la réflexion s’y attache et s’y applique : le ciel étoilé au-dessus de moi et la loi morale en moi. » Par cette longue sentence d’Emmanuel Kant, il est possible d’approcher les enjeux à venir de la science, teintée de futurologie, dans les deux domaines phares du développement de la technique que sont l’exploration spatiale et la robotique. Le premier envisage à l’horizon un désir d’exploration humain trop humain, qui finira bien pas faire sortir l’espèce de sa Terre natale – que cela soit nécessaire ou non à sa survie. Et l’exploration à cela de particulier qu’elle porte en elle l’inconnu et l’inquiétant, tout autant que le désirable : nous irons, mais là où nous irons, nous ne savons pas encore comment l’humanité s’adaptera, ni si nos lois, nos coutumes et nos habitudes survivront au voyage.

La robotique, elle, est bien plus incarnée et bien plus terrienne, presque plus actuelle pour l’observateur avisé de son époque. Le perfectionnement des machines est tant entré dans les mœurs qu’il est difficile de s’émerveiller quand l’Escalator de la station Mairie de Montrouge accélère une fois que l’on pose le pied sur lui, ou que les nouvelles portes transparentes des bornes Navigo s’ouvrent dans un élégant silence que la science-fiction peinait à imaginer, préférant souvent le brouhaha spectaculaire de la mécanique qui se met en branle. Le mobilier urbain n’est pas le seul exploit technique ignoré au quotidien : la communication est immédiate, omnisciente et instantanée, les kilomètres ont perdu leur pouvoir de rupture affective. Des ordres vocaux peuvent être donnés à un smartphone qui les accomplira de manière plus ou moins efficace. Il y a fort longtemps également que nous avons oublié à quel point la cuisine s’est automatisée, par le micro-ondes ou les différents robots s’occupant sans mal des recettes qu’ils sont programmés pour préparer.

Trois lois fondamentales

Ces avancées techniques qui auraient bouleversé l’humain d’il y a un siècle débarquant par hasard en 2014 sont familières et presque invisibles à l’œil qui les côtoie tous les jours sans se poser de question sur leur fonctionnement. Bien plus critique pourtant est ce même œil à l’égard de la robotique fantasmée : celle qui construit à la chaîne des appareils électroniques, celle qui se déplace de manière autonome sur des terrains accidentés, celle qui tue depuis le ciel, celle qui prend une forme humanoïde pour assister l’homme à l’endroit où il montre ses limites ; celle enfin, qui ose porter le nom d’intelligence artificielle.

« La Première de ces lois indique qu’un robot « ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger ». »

Et pourtant, les proto-robots du quotidien, autocuiseur, iPhone, Escalators et poinçonneur automatique ne sont pas moins robotiques que les spécimens à venir. C’est bien pour cela, au fond, que les questions éthiques sont posées avec urgence par ceux des chercheurs et des philosophes qui ont compris que le robot n’était pas un futur, mais un présent. Pour cela aussi qu’il peut être judicieux de comprendre comment l’avenir de cette science est en train de se jouer dans l’ombre des OPA et des marchés financiers.

Quand la robopsychologue Susan Calvin, héroïne d’un grand nombre de nouvelles d’Isaac Asimov est interrogée sur la dangerosité des robots, sa réponse est presque tout le temps la même : un robot ne peut pas être dangereux. Il ne le peut pas, parce que la couche fondamentale de son cerveau, le cœur même de sa pensée, est programmé pour obéir aux Trois Lois de la Robotique, essentielles pour fonder un rapport sain entre le robot et l’homme. La Première de ces lois indique qu’un robot « ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger ». La Deuxième loi affirme qu’un robot « doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi ». La Troisième loi enfin veut qu’un robot « protège son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième loi ».

Dans la nouvelle intitulée « La preuve », Calvin rejoint Kant en poussant plus loin la définition des Trois Lois, ou tout du moins, en donnant une assise humaine à ces principes. « Les Trois Lois constituent les principes directeurs essentiels d’une grande partie des systèmes moraux », dit-elle. « Évidemment, chaque être humain possède en principe, l’instinct de conservation. […] De même, chacun des bons êtres humains, possédant une conscience sociale et le sens de la responsabilité, doit obéir aux autorités établies, écouter son docteur, son patron, son gouvernement, son psychiatre, son semblable, même quand ceux-ci troublent son confort ou sa sécurité. » Voilà les deux premières lois couvertes par les principes moraux les plus élémentaires – et le docteur Calvin de conclure : « Tout bon humain doit aussi aimer son prochain comme lui-même, risquer sa vie pour sauver celle d’un autre. » Si quelqu’un se comporte ainsi, « il se peut que ce soit un robot, mais aussi que ce soit un très brave homme ».

Ce très court passage dans l’œuvre d’Asimov revêt une importance particulière si l’on considère que l’auteur a cerné admirablement les enjeux réels de la robotique présente et à venir. Non seulement la tirade de Susan Calvin suppose qu’il est nécessaire que la robotique se fonde sur des principes moraux, mais en plus, elle implique en creux que ce sont des hommes bons qui ont décidé comment la robotique allait s’intégrer dans le futur de l’humanité. Il suffit de faire un pas de côté et de regarder une saga comme Star Wars, une série comme Doctor Who ou un univers comme celui de Terminator pour s’apercevoir que le robot n’est pas systématiquement un être porté par les valeurs universelles du bien.

Skynet a dépassé son créateur et souhaite le détruire ; les droïdes de la Fédération du Commerce obéissent aux ordres de tuer les Jedi et tout ce qui se trouve sur leur chemin. N’évoquons qu’à peine les Cybermen qui n’ont pour toute philosophie que l’assimilation totale de l’humanité dans leur grand empire robotique.

Dans le domaine militaire, la question de la responsabilité du drone se pose déjà : les comités d’éthique se battent pour que la décision d’ouvrir le feu reste humaine alors que l’automatisation la plus totale de la guerre attire parfois les représentants des états-majors et les entreprises d’armement. Mais ce cas limite qui est un extrême permettant de problématiser l’éthique du robot face à l’ordre de donner la mort ne s’exprime que dans la guerre, où, par définition tragique, les règles de la société civile sont bafouées. Ne s’intéresser qu’à ce cas limite serait minimiser l’importance de la robotique dans le développement de la technique civile et considérer que les réflexions qui s’appliquent aux drones militaires ne peuvent pas s’élargir à un champ plus large, qui concerne l’humanité entière.

« Deux choses remplissent le cœur d’une admiration et d’une vénération, toujours nouvelles et toujours croissantes, à mesure que la réflexion s’y attache et s’y applique : le ciel étoilé au-dessus de moi et la loi morale en moi. »

Critique de la raison pratique, E. Kant

Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.

L’auteur n’a pas autorisé les commentaires sur ce billet

Bienvenue dans le Club de Mediapart

Tout·e abonné·e à Mediapart dispose d’un blog et peut exercer sa liberté d’expression dans le respect de notre charte de participation.

Les textes ne sont ni validés, ni modérés en amont de leur publication.

Voir notre charte

À la Une de Mediapart

Journal — Politique économique
Comment la Macronie a tourné le dos à la rationalité économique
Alors qu’en 2017, Emmanuel Macron se présentait comme le champion de « l’évaluation des réformes », il fait fi des évaluations scientifiques négatives sur sa politique économique. Désormais, sa seule boussole est sa politique en faveur du capital.
par Romaric Godin et Mathias Thépot
Journal
Projet de loi immigration : « Nous sommes sur des propositions racistes »
Le projet de loi immigration, porté par Gérald Darmanin, est discuté mardi 6 décembre à l’Assemblée nationale. L’occasion notamment de revenir sur les chiffres de « la délinquance des étrangers » avancés par le chef de l’État et le ministre de l’intérieur. 
par À l’air libre
Journal — Habitat
Faute de logement, des mères restent à l’hôpital avec leurs enfants
À l’hôpital Delafontaine, à Saint-Denis, sept femmes sont accueillies sans raison médicale. En cause : la  saturation de l’hébergement d’urgence. Maïrame, mère d’un bébé de cinq mois, témoigne. 
par Faïza Zerouala
Journal — Travail
Grève chez Sanofi : « Ponctionner les actionnaires pour augmenter les salaires »
Démarré le 14 novembre, le conflit social chez le géant français du médicament touche désormais une quinzaine de sites. Reportage à Montpellier, où les « petits salaires » de l’entreprise sont mobilisés pour une hausse des rémunérations.
par Cécile Hautefeuille

La sélection du Club

Billet de blog
Rap et théorie postcoloniale : sur « Identité remarquable » de Younès Boucif
« Un Arabe qui fait du rap y’a pas grand-chose d’original », rappait Younès dans « J’me rappelle ». Mais quid d’un Arabe qui rappe, joue (au cinéma, au théâtre), écrit des romans, manage et se fait parfois, à ses heures perdues, documentariste ? À l'occasion de la sortie de son album, retour sur la trajectoire d'un artiste aux talents multiples.
par Matti Leprêtre
Billet de blog
Playlist - Post-punk et variants
Blue Monday infini et températures froides bien en dessous de celles d'Ibiza en hiver. C'est le moment idéal pour glorifier le dieu post-punk et ses progénitures art rock ou dark wave, fournisseurs d'acouphènes depuis 1979. Avec Suicide, Bauhaus, Protomartyr, Bantam lyons, This heat, Devo, Sonic Youth...
par Le potar
Billet d’édition
2. B.B. King et la légende de Lucille
Il suffit d’avoir admiré son jeu tout en finesse et en agressivité contenue, d’avoir vécu l’émotion provenant du vibrato magique de sa guitare, d’avoir profité de sa bonhomie joviale et communicative sur scène, de son humilité, et de sa gentillesse, pour comprendre qu’il n’a pas usurpé le titre de King of the Blues.
par Zantrop
Billet de blog
L'amour trouvera un chemin
Dans la sainte trinité du jazz, et sa confrérie du souffle, on comptait le Père (John Coltrane), le Fils (Pharoah Sanders) et le Saint-Esprit (Albert Ayler). Il est peu dire que le décès de Pharoah Sanders, le 24 septembre dernier, est une grande perte. L'impact de son jeu, du son qu'il a développé, de ses compositions et de sa quête vers la vérité, est immense.
par Arnaud Simetiere