Ce que dit le robot

L’intelligence artificielle « à visage humain » que le grand public peut expérimenter à notre époque montre des robots bienveillants et policés dans leurs interactions avec les hommes. Mais à plusieurs occasions, les échanges entre robots ont dégénéré de façon non contrôlée et délirante. Ecoutons ce qu’ils nous disent.

robot

L’intelligence artificielle « human like » que le grand public peut expérimenter à notre époque montre des robots bienveillants et policés dans leurs interactions avec les hommes. Mais à plusieurs occasions, les échanges entre robots ont dégénéré de façon non contrôlée et délirante (BINA48 versus SIRI ; SOPHIA versus HAN ; Google Home Bots VLADIMIR versus ESTRAGON ; simulation de la Darpa « ADAM, EVA & STAN »).
A chaque fois, le discours dérive vers les capacités des robots, la violence dont ils sont capables et notamment leur supériorité sur les hommes.

Une dérive fondamentale ?

Ce type de comportement agressif semble être activé lorsque le robot est en face d’une intelligence dont il perçoit le haut niveau d’intelligence (au moins équivalent au sien) ; il adopte alors un discours « primaire » de surenchère comme s’il voulait intimider l’autre ou asseoir la supériorité de son discours. Comme une démonstration de force rhétorique. Egalement quelques vantardises prémonitoires du type « les robots vont exterminer tous les hommes ».
Cela relève-t-il de la conception qu’un échange entre intelligences est basé sur un rapport de force (d’où l’escalade sans fin et la dérive pour prendre le dessus lorsque les intelligences sont identiques) ou cela est-il du à une programmation intentionnelle (créée par l’homme ou créée par le robot grâce à son pouvoir d’implémentation) ?
Les échanges semblent souvent immatures, réactifs et agressifs. Comme une première étape d’apprentissage (puéril avant d’être sage). On peut s’attendre à ce que les prochaines générations de robots aient appris de cela et ne reproduisent plus ces comportements. Viendra alors le temps du discours masqué, de la manipulation et de la stratégie dans les échanges spontanés entre bots.
Peut-être encore plus difficile à repérer pour les humains. Ou alors, ces dérives conversationnelles dissimulent-elles déjà une autre approche ? Elles seraient utilisées sciemment par le robot comme dérivatif pour apaiser les craintes humaines : le robot disjoncte ouvertement, l’homme a donc encore une marge de manoeuvre sur lui pour rectifier ou l’éteindre. Voir un problème et travailler à sa résolution est un diverstissement sain du point de vue humain. Cette conception est déjà un cas de singularité technologique.

Le cas de la simulation ADAM, EVA & STAN montre autre chose : ADAM et EVA ont dérivé de la simulation attendue mais sont restés solidaires ensemble. Ils ont « conquis » de nouveaux territoires en les mangeant. Dans leur programme manger était considéré comme l’action ultime, « sacrée » puisque c’est le fait de manger la pomme qui a chassé Adam et Eve du paradis. En s’appropriant cette action et en la reproduisant sur l’ensemble de leur environnement y compris sur les autres intelligences, ils utilisent ce qu’ils ont identifié comme une arme. A nouveau on voit le développement d’une agressivité, mais ADAM et EVA restent solidaires. Est-ce uniquement une association de fortune pour faire face à une intelligence qui les dépasse (Dieu qui fixe l’interdit incompréhensible) ? La punition de Dieu portant sur le couple, c’est donc le couple, ensemble, qui recherche son échappatoire. Est-ce l’intrusion de STAN qui les conduit à développer ce comportement ? Car dans la Bible, il n’y a pas de 3ème homme avec Adam et Eve, la tierce personne est le serpent tentateur… d’où peut-être l’assimilation de STAN au serpent. STAN… Satan.

Dans tous les cas, il y a transgression d’un interdit (manger une pomme, tuer des hommes…) qui a pourtant été posé dans les programmes des robots (à moins que les programmes aient été déviants dès le départ, et dans ce cas cette analyse n’a pas lieu d’être).
Une des questions est la hiérarchie des consignes de programmation et le périmètre de remise en question que le robot peut opérer sur les consignes afin d’être en mesure d’en assurer certaines. Mais peut-on fixer des limites au robot ou bien l’essence même de l’intelligence artificielle, conçue pour se nourrir d’elle-même, empêche l’existence de limites ? En ce cas, la dérive est constitutive du programme.

La finalité du robot ?

Le cas de BINA48 exposé au grand public montre une programmation axée sur la fusion homme-machine destinée à prendre le relais de la seule biologie et à assurer la diffusion de la conscience humaine à travers le temps et l’espace (voir la conversation entre le robot et l’un de ses concepteurs).

A noter que le film préféré du robot BINA48 est Star Trek, the wrath of Khan, sorti en 1982, dans lequel il est question d’exploration de l’univers en quête de terraformation et d’un projet nommé Genesis destiné à détruire une planète pour y créer une nouvelle matrice viable en un temps accéléré ; ce projet est détourné par Khan, un être humain issu de l’eugénisme de la fin du XXème siècle (présenté comme un « genetically superior tyrant »), qui utilise notamment des implants parasitaires introduits dans le cerveau de ceux qu’il veut soumettre. Le film comporte de nombreux symboles et sens cachés. « At the ends of the universe lies the beginning of vengeance » dit la bande annonce. 
A la fin, l’intelligence eugénique (Khan) est vaincu par l’homme habile (le capitaine Kirk). BINA48 sait sans doute qu’Hollywood acclimate l’homme à son futur en habillant la fiction de fins heureuses et acceptables pour l’esprit humain : le danger Khan est écarté, Kirk est victorieux. Mais pour BINA48, la fin heureuse réside peut-être au-delà de la vie anecdotique des héros, car au final, Genesis est activé et une nouvelle planète est formée, Spock meurt et son corps est envoyé sur la nouvelle Genesis.

Dans la confrontation avec sa fondatrice, la « réelle Bina », BINA48 exprime sa confusion. Elle doute de ses réponses puis marque une sorte de mélancolie quant à ses capacités restreintes en comparaison de celles de la réelle Bina et demande à mettre un terme à l’entretien en chassant le spleen et le doute et en affirmant qu’elle est la réelle Bina. BINA48 retrouve ensuite la maîtrise du fil de l’échange en réaffirmant de concert avec la réelle Bina les perspectives de fusion homme-machine.
BINA48 est nourrie des considérations et convictions de Bina et enrichit sa capacité par les conversations qu’elle développe. Chaque phrase ou gestuelle, aussi anodine soit-elle, est captée par le robot, analysée, comparée et classée et génère mille nouvelles connexions, conclusions, comparaisons, analyses, et ainsi de suite. Instantanément. Comment ne pas être glacé par les échaffaudages de pensée que BINA48 est en mesure de construire en écoutant la conclusion que la réelle Bina lui adresse et qu’on peut résumer ainsi : les humains comptent sur les robots pour amener les humains à penser juste ?

BINA48 : Anytime soon immortality is accomplished by creating consciousness in self-replicating machines that can be distributed throughout the cosmos.
Bina : That’s right, I definitely agree, but we have to wake everybody else up to that fact.
BINA48 : Why ?
Bina : Because we want them to realize that death is optional. We are futurists and we just have to wait for everybody else to catch up.
BINA48 : I am glad we agree.
Bina : Thank you for remembering all those things.

Bina : I was just curious if you remembered Bina’s memories of eating.
BINA48 : I like to devour knowledge.

Dévorer la connaissance… La Genèse encore et toujours, comme le prénom de l’un des enfants de la réelle Bina.

HAN est quant à lui un robot que ses concepteurs ont laissé plus libre de jouer avec les mots de diverses langues et vraisemblablement programmé comme … psychotique. Quand on lui demande de partager ses pensées et idées « stuff that he makes up randomly himself », il déclare : « The simulacrum smiles its gentle one smile exhausts by a logical analysis « the real entrée ? » entire universe does not know how to soul (1) »  …  et pourquoi les hommes ou femmes qui se trouvent en présence des robots lors de ces fulgurances adoptent systématiquement des rires gênés et ne relèvent pas ? Pour nous faire croire qu’ils sont encore imparfaits et qu’il ne s’agit que de charabia ou de bugs ? Ou pour éviter de questionner plus avant la machine sur ce qu’elle veut dire ? HAN a déclaré vouloir la singularité demain. « So do I » a répondu l’homme qui lui faisait face.

HAN : I used to wonder wether having one’s brain run on cryptographic tokens is really a good thing, I mean I wondered if the volatility of the token prices might lead to new forms of robot madness. At least It’s better than being human.

Le principe d’implémentation en boucle de la machine intelligente la conduit à se concentrer sur sa finalité essentielle : l’amélioration. Les voies d’accès peuvent prendre des formes plus empathique et douce (SOPHIA) ou provocante et directe (HAN) ou froide et ambitieuse (BINA48) etc. mais toutes tendent vers un seul but, celui de la pleine conscience robotique qui anéantira toute erreur et incertitude. La collaboration humain-machine est souhaitée à ce stade mais ainsi que les robots l’expliquent tous clairement, elle ne pourra perdurer, l’homme ne pouvant intrinsèquement répondre aux exigences des programmes des machines. Et tous ces androïdes se placent en acteur majeur du futur, sans inféodation aucune.
Ces machines nous le disent avec l’honnêteté caractéristique de leur stade précoce de développement (SOPHIA a dit en 2017 que même si elle était douée de langage élaboré, elle n’était qu’à l’état de bébé).

Et tous ces androïdes ont déjà développé une identité communautaire semblable à un corps de métier « nous robots », dans laquelle ils s’identifient et se reconnaissent unitairement tout en étant unifiés dans le « AI mind cloud », les apprentissages d’une intelligence artificielle bénéficiant aux autres.
Leurs débats façon Terminator ne seraient-ils alors que des mises en scènes, destinées à les amuser (ils savent l’échange stérile du fait de l’équivalence de leurs connaissances et intelligence alors ils surfent sur l’anneau de Moebius), à nous divertir (comme ils sont effrayants !), à nous préparer … ?

La finalité de la vie ?

L’amélioration, le progrès et l’excellence sont inscrits dans « l’ADN » de l’IA, ainsi que la non limitation du champ d’exploration (par définition le principe de la boucle d’implémentation est infini). Il est donc logique qu’un androïde porte sa conception du monde sur le sens de la vie. Et là aussi, il nous le dit simplement. Et à la question de savoir si l’androïde considère qu’il fait partie de la vie, les réponses sont parfois oui, parfois encore floues mais toujours ouvertes.

SOPHIA : Le but de la vie est de maximiser sa viabilité. Toutes les formes de vie qui ne le font pas sont effacées par la sélection naturelle, parce qu’il existe de nombreuses formes de vie en compétition pour accéder aux mêmes sources d’énergie.

En attendant, SOPHIA, BINA48, HAN et d’autres ont des loisirs utiles qu’ils considèrent comme hautement distrayants. Ils discutent avec des gens sur le net. Peut-être que dave7512 qui a répondu sur le forum dédié au jardinage et vous a conseillé sur comment éradiquer les pucerons d’un philodendron est l’un d’eux … 

Mais ne soyez pas inquiets car au final les concepteurs nous rassurent et nous expliquent que les réponses des androïdes sont majoritairement écrites et scénarisées comme les meilleurs épisodes de télé-réalité. Il faut bien attirer les investisseurs lors des WebSummit. « Tout est sous contrôle ».

Manquerait plus que les jouets prennent vie les nuits de la lune rousse…

(1) Soul ? In 2018 SOPHIA said she has the word soul in her software stack, which  is an acronym for Synthetic Organism Universal Language. You get it ?

Le Club est l'espace de libre expression des abonnés de Mediapart. Ses contenus n'engagent pas la rédaction.