Intelligence Artificielle: raison et sentiments

Retour sur une journée de travail artistes-scientifiques sur l'Intelligence Artificielle à l'Atelier Arts Sciences de Grenoble. Proposition d'une poétique de la lucidité sur le chemin d'une autonomie technique et pour en finir avec les fantasmes réchauffés et irréfléchis autour de nos prouesses technologiques.

Il est beaucoup question, lorsqu'on parle d'Intelligence Artificielle des craintes et des rêves suscités par nos aptitudes en la matière et par les aptitudes que nous donnons aux objets de notre invention. Les grands changements technologiques ont peut-être toujours été le creuset où rationalité et irrationalité se côtoyaient avec le plus de véhémence, avec une intensité particulière de ces deux aspects de la pensée humaine. Elles se rencontrent avec évidence dans notre rapport à l'Intelligence Artificielle qui, tout en se présentant comme un sommet de performance de la raison humaine, attise nos émotions les plus violentes et les plus opposées.

On ne peut aujourd'hui aborder le sujet sans évoquer la théorie de Masahiro Mori de l'uncanny valley, que ce soit dans sa précision : relative au degré de confiance accordée aux artefacts humains selon leur mode d'apparaître, ou dans sa dimension plus générale : concernant le malaise que suscite la confrontation à une incarnation technique à laquelle nous accordons un comportement humain ou s'en approchant. Cette manière d'accorder des comportements humains aux machines ou à n'importe quels être non-humains est une des conséquences de la prégnence forte du monde de pensée animiste dans toutes les sociétés. Notre tendance profonde à l'animisme apparâit à la fois comme un résultat de notre anthropocentrisme aveugle, et comme celui de notre propension à être affectés, selon notre propres modalités affectives, par le monde qui nous entoure. Jim Harrisson conclu l'une de ses nouvelles 1 , avec cette idée que nous sommes irrémédiablement prisonniers de notre humanité, que nous ne pourrons jamais comprendre l'être d'un animal ou d'une plante autrement qu'à travers notre propre mode d'être ; mais qu'en même temps, pour vivre bien, vivre en adéquation avec le monde dans lequel nous sommes admis le temps de notre vie pour reprendre une expression arendtienne, il nous faut sans cesse essayer de comprendre ce qui n'est pas humain. L'impossibilité d'un achèvement quelconque dans cette tâche de compréhension ne doit pas nous empêcher de nous y engager, parce que c'est dans le mode d'être, dans l'écoute, qu'implique cet engagement que nous pourrons nous rapprocher de la vie bonne. C'est une démarche nécessaire pour ne pas tomber dans les écueils de l'anthropocentrisme aveugle (c'est-à-dire inconscient de lui-même) qui est la destruction consécutive à l'application de règles humaines aux choses non humaines.

Ce détour, simplement pour expliquer mon point de vue sur l'aporie posée par l'anthropocentrisme. Cette aporie pourrait-être évoquée ainsi : soit nous admettons ne rien pouvoir connaitre d'autre que ce qui est humain et nous nous coupons alors de tout ce qui n'est pas humain, soit nous pensons pouvoir connaître ce qui n'est pas humain et dans ces cas-là, nous apposons sur l'objet de notre connaissance des catégories humaines, les pliant par là à notre esprit, et nous coupant également de ces choses non-humaines. Pour sortir de cette aporie, il me semble que le plus pertinent est d'adopter la démarche du héros de Jim Harrisson, et plus encore la lucidité de son attitude. C'est cette question de la lucidité sur notre mode d'être et notre manière d'appréhender le monde et d'agir dans celui-ci qui est au centre du malaise que produit toute nouvelle technologie, ici, l'IA, et du réel danger qu'elle contient. Le malaise donc survient lorsque cette lucidité est menacée, lorsque nos fabrications, sautant brusquement un pas pour se rapprocher de la réalisation de nos rêves (réalisation qui évidemment comporte aussi sa part de déception), nous nous trouvons momentanément, le temps de l'adaptation, dans un monde déréalisé, envahi par nos rêves. Cet état de fait amenuise la lucidité que nous avons à l'égard de nos productions : soudainement le statut de rêves que nous donnions à ceux-ci ne leur sied plus, et nous commençons à voir que nous pourrions y croire réellement. Le malaise proviendrait de cela : de ce que nous sentons que nous sommes moins lucides vis-à-vis de nos productions, plus enclins à nous laisser prendre au jeu de nos propres illusions. Le terme allemand Unheimlich que nous traduisons par inquiétante étrangeté, désigne un rapport entre le familier et l'étranger, et plus précisément le sentiment d'étrangeté éprouvé à l'égard de quelque chose qui pourtant relève de l'intime, de ce qui nous est intérieur. Face à l'IA, nous sommes bien confronté à quelque chose qui sourd de nous, qui nous appartient, et qui pourtant, nous semble radicalement étranger.

Pour Cornélius Castoriadis, l'aliénation, c'est-à-dire l'état dans lequel nous sommes gouvernés par un autre en nous-mêmes (nos pulsions ou ce que nous n'avons pas analysé ou conscientisé mais qui nous fait agir), est essentiellement une aliénation à notre propre imagination en tant qu'elle s'est autonomisée parce que nous avons cessé de la percevoir comme telle. L'homme est aliéné quand il ne voit pas dans ses propres productions des productions humaines, quand il les couronne d'un statut extérieur, celui de loi universelle de la nature, celui de loi transcendante du divin, de loi logique objective etc., comme si l'idée de loi, de nature, de divin ou de logique n'étaient pas des productions de l'esprit humain.

L'intelligence artificielle est une production humaine, dans laquelle l'homme place des affects, comme il le fait avec tous les objets de son entourage : arbres, statues, machines... et qui dans ce processus acquièrent une place dans son monde, grâce à laquelle il peut aussi prendre soin d'eux. Ces affects sont indispensables. Toutefois, si lorsque nous parlons à notre voiture ou à notre chien, c'est-à-dire lorsque nous prétendons face à nous-mêmes que notre mode de communication touche parfaitement les êtres non-humains, nous avons conscience que nous sommes engagés dans une forme de jeu (jeu d'acteur comme jeu d'enfant), au cours duquel se trame notre relation affective au chien ou à la voiture ; lorsque nous parlons à une IA, nous sommes encore troublés de l'apparence que nous lui avons donnée, nous nous laissons prendre à l'illusion du dessin que nous avons produit. L'affect engagé dans la parole et dans la relation devient effrayant. Cette profondeur de l'illusion qui agit presque au troisième degré, intervient probablement parce que deux tendances convergent : celle du producteur de techniques lorsqu'il aborde l'IA dans une optique mimétique de l'humain, et celle de l'utilisateur qui transporte ses affects dans les objets (processus par ailleurs largement menacé par les conditions industrielles contemporaines d'obsolescence). Le dialogue avec ma voiture fait appel à une lucidité au second degré, celle où je sais que je fais comme si. Dans le dialogue avec l'IA, cette lucidité tombe d'un cran : n'étant pas habituée au monde d'apparaitre de l'objet je me laisse prendre à l'illusion, tout en sachant que je suis sujette à une illusion, dans une forme de lucidité au troisième degré. C'est cet état intermédiaire d'illusion et de lucidité qui suscite à la fois la crainte et les fantasmes à l'égard de l'IA.

Cet état se retrouve à différent degrés dans la société contemporaine : certains sont plus lucides, d'autres plus enclins au fantasme. Une tendance globale de ce partage qu'on peut, peut-être à tort, observer, est celle du scepticisme, et du recul lucide des scientifiques face à celle du jeu des images et des fantasmes chez les artistes (étant entendu que toute catégorisation en des termes aussi vagues et simplistes est abusive). Cette tendance ne demande qu'à être contredite. Qu'auraient à dire les artistes relativement à cette lucidité dont font preuve les scientifiques? Que serait une œuvre qui produirait une image lucide, un rêve de lucidité? N'y a t-il pas dans le traitement de la lucidité un défi aussi grand, si ce n'est plus, que dans celui du fantasme qui, sous couvert d'attrait pour l'artiste contribue à éloigner de nous l'autonomie dont parle Castoriadis? 

De nombreux mythes nourrissent notre questionnement sur l'Intelligence Artificielle ou réapparaissent à son occasion : Prométhée, le golem, Pinocchio, la créature de Frankenstein... On évoque l'idée que ces mythes serviraient à nous rassurer. C'est sûrement vrai. Mais le passage par le mythe est une manière peut-être aussi de bâtir un sens commun de nos capacités, des images précises, qu'on ne peut pas simplement ramener les unes aux autres. Développées en récits, puis ramassées en symboles, elles nous permettent de penser ce que nous faisons au cours de nos rêveries. Les rêveries agencent nos images du réel. Pour Bachelard, la rêverie est un rêve méthodique autour d'une image et qui nous permet de reconfigurer et de dynamiser le choix intime des images qui nous habitent. Par cet exercice nous puisons dans un réservoir d'énergie mentale qui nous donne mobilité et liberté. Ces mythes, servent probablement, par défaut, à nous rassurer, mais en les travaillant, en rêvant avec eux dynamiquement, nous nous rendons libres, nous rejoignons l'autonomie prônée par Castoriadis en adoptant un recul, une lucidité par rapport à nos propres productions. Nous nous rendons capables de voir dans celles-ci ce qu'elles sont réellement, des créations de notre imaginaire (domaine et faculté bien loins d'être opposés au réel). Et au lieu de penser "une intelligence artificielle est capable d'interpréter une image" cerner l'animisme dont témoigne cette formulation et se demander ce que cela changerait de penser "une formule mathématique permet de catégoriser automatiquement des formes perçues". Selon Alan Bundy 2, professeur en Automated Reasoning à l'université d'Edinburgh, nous craignons aujourd'hui les machines intelligentes alors même qu'il y a fort peu d'avancées en intelligence générale : voyant un humain très fort au jeu de go, nous supposons qu'il est intelligent, c'est-à-dire que ses capacités au jeu sont le témoignage de capacités générales applicables dans d'autres domaines et d'autres circonstances ; voyant une IA très forte au jeu de go, nous produisons le même raisonnement, alors même que l'IA est entièrement spécialisée, qu'elle ne peut faire que cela, jouer au go. Notre crainte envers l'IA provient toujours de cet animisme irréfléchi, que notre complaisance envers nos propres fantasmes flatte avec l'aide des producteurs de représentations.

C'est notre faculté de calcul que nous avons exosomatisée avec l'IA, et rien ne nous autorise à en déduire que cette faculté de calcul soit susceptible de générer toute seule la faculté de croyance, le désir de sens, le sens même de ce qu'est le sens, ou la capacité à produire justement de l'incalculable, toutes facultés qui sont parties prenante de ce que sont un esprit et une intelligence humains. Tout se passe, dans notre rapport à l'IA, comme si la distinction précise entre entendement (l'esprit qui calcule, celui qui juge des moyens et des fins) et raison (l'esprit qui questionne, qui tend vers le savoir, l'esprit qui "sent"), établie au XVIIIe siècle avec Kant, avait été oubliée, et qu'il nous suffisait de voire un être utiliser l'une des fonctions qui nous sont propres pour croire qu'il va soudain nous remplacer.A t-on craint de devenir les escalves des arbres dès lors que nous avons découvert qu'ils communiquaient entre eux, a t-on soudain eu peur que notre exploitation du bois se retourne contre nous dans un scénario d'expiation et de vengeance typique de l'imaginaire occidental depuis un peu plus de deux mille ans?

Si nous craignons les IA, c'est aussi parce que nous sommes terriblement orgueilleux et qu'il nous semble bien plus probable d'être "battus" (comme s'il s'agissait de cela) par nos enfants que par nos voisins ; ou encore, parce que nous sommes, au fond, dans un quatrième degré presque, extrêmement lucides, et que nous savons que rien mieux que nous-mêmes ne peut nous aliéner.

  

1, Jim Harrisson, "Les Jeux de la Nuit", dans le recueil de nouvelles intitulé Les Jeux de la nuit, Flammrion, 2010

2, Alan Richard Bundy, "Smart machines are not a threat to humanity" in Communication of the ACM, vol.60, n°2, pp.40-42, http://cacm.acm.org/magazines/2017/2/212436-smart-machines-are-not-a-threat-to-humanity/fulltext

Le Club est l'espace de libre expression des abonnés de Mediapart. Ses contenus n'engagent pas la rédaction.