Voici une première excellente raison d’adorer 2009 : au moins, nous ne sommes pas en 2084.

C’est du moins ce qu’on se dit en lisant la prose de Noel Sharkey, ci-devant professeur d’Intelligence artificielle et de robotique à l’Université de Sheffield, pas tout à fait le premier illuminé venu donc. Sur sa page web institutionnelle (ici), on trouve notamment un rapport récent (ici) sur les perspectives de robotisation de la Police, avec un point plus que complet sur ce qui se fait déjà dans plusieurs pays et une série de scénarios qui imaginent la situation en 2025, 2050, et finalement 2084. Si vous êtes lycéen, altermondialiste, sans-papier, éco-warrior ou épicier à Tarnac, je vous conseille d’y jeter un coup d’œil pour voir de quoi demain sera fait, mesurer votre bonheur et souhaiter bonne chance à vos successeurs … Pour 2084, c’est disons-le, le cauchemar total : Robots coordonnés, multiformes, allant partout, capables de disperser les manifs mais aussi (gloire à eux) de récupérer les ivrognes dans les rues, amen. Robots pouvant aller au contact de la population, recueillir des informations, bourrés de capteurs biométriques pour reconnaître leur « interlocuteurs » immédiatement, grâce à des liaisons à haut débit, à des bases de données contenant toutes les informations personnelles, notamment judiciaires, bancaires et médicales. Robots pouvant réaliser des tests ADN instantanés, et détecter la probabilité de mensonge grâce au repérage des rythmes cardiaque et respiratoire (là, il faut qu’on m’explique !). Robots pouvant détecter drogues et armes blanches ou explosives à distance… On en restera là, le rapport est une longue progression vers ce futur effrayant, et quand on le referme, on se dit que toutes les photos de robots mignons à la Wall-e qui l’illustrent sont la face présentable d’un monde peu ragoûtant. Les plus téméraires peuvent alors cliquer, toujours à la même page, sur un autre article « Robot War are a Reality » à propos de la robotique actuelle sur les champs de bataille. Un bonheur. Car si l’anticipation comporte toujours sa part de fantasmes (et on soupçonne Sharkey de biberonner gaiement aussi aux films de science-fiction) c’est quand même dans l’analyse du présent que se manifeste aux ignorants comme moi le sérieux ou non d’un tel auteur. Et c’est justement là ou je voulais en venir : Sharkey vient de faire parler de lui en signant dans Science un éditorial remarqué, notamment dans la blogosphère gadgétophile, au sein de laquelle il a légérement cassé l’ambiance. Intitulé « les frontières éthiques de la robotique », ce titre en surprendra plus d’un. L’éthique, on imagine que c’est une discipline philosophique pensée par et pour les hommes. Quand on l’applique aux relations homme animal, on sent qu’on est à la frontière du genre… alors aux robots, quelle idée !

C’est justement cette réflexion que Sharkey veut stimuler. Il met les mains dans le cambouis du présent, et s’intéresse tout particulièrement aux robots, déjà commercialement disponibles, « chargés » de nos bébés et de nos anciens. Car si ça vous avait échappé (j’avoue que moi…) il y en a déjà plus de 5 millions dans la nature, bien plus que le malheureux million de robots industriels dignes de ce nom… et il y en aura 11 millions dans deux ans. Concernant les bambins, les robots disponibles en Corée et au Japon sont en capacité de les surveiller, de les faire jouer à des jeux vidéos, mais aussi à des quizz, de leur raconter des blagues (au secours) et leur faire faire des exercice et même un peu de conversation.

Sharkey souligne deux sujets de préoccupation : le fait que des tests psychologiques aient montré qu’en raison de cette illusion d’interaction, les enfants sont capables de s’attacher aux tas de ferailles et parfois plus qu’à un ours en peluche. Les effets à long terme d’un tel attachement non contrôlé font évidemment froid dans le dos. Par ailleurs, si évidemment des expérimentations sur des enfants sont impensables, il convoque utilement des études menées chez les singes (dont la transposition nécessite donc néanmoins une grande prudence) qui montreraient que des individus « élevés » au contact d’objets inertes par substitution à leur mère biologique souffriraient de graves dysfonctionnement sociaux.

La situation chez les personnes âgées est assez symétrique. Plusieurs robots existent, qui aident à se laver, délivrent des messages et rappellent l’heure de la prise de médicaments. Côté clair : ils aident à maintenir ces gens en autonomie chez eux. Côté sombre, ils peuvent donner aux familles, aux proches et même à la société, l’illusion qu’ils n’ont plus à prendre en charge ce genre de problèmes…

Pour finir, Sharkey conclut cet éditorial fouillé par un parallèle avec les robots militaires, armés jusqu’aux dents mais encore plus impuissants a faire la différence entre civils et combattants que le GI moyen, déjà pas très doué…

Où veut il en venir ? Sa conclusion est assez simple : face à cet envahissement, la réflexion éthico-juridique est indigente. Si Isaac Asimov est universellement connu pour avoir jeté les bases des principes relationnels entre hommes et robots, l’arrivée massive de ces derniers dans divers champs de nos vies change la donne et rend urgente une telle prise de conscience. Quelles limites légales doit-on fixer à l’intrusion d’un robot-nounou, ou d’un robot-garde-malade ? Actuellement, il n’y en a aucune. Quelles interdictions peut on envisager pour les robots militaires ? Rien n’est gravé dans le marbre. Sharkey plaide pour une réflexion urgente, politique, internationale, et publique impliquant le monde de la robotique. Il enjoint à ce dernier d’inclure dans ses développements une réflexion approfondie et structurée sur les limites de leurs utilisations. Qu’est-ce que je vous disais moi, au début ? Vive 2009 ? Hum…

 

Référence :

Noel Sharkey, The Ethical Frontiers of Robotics , Science 19 December 2008 322: 1800-1801

 

crédit image : par ici

Le Club est l'espace de libre expression des abonnés de Mediapart. Ses contenus n'engagent pas la rédaction.