Pascal.Boniface
Directeur de l'Institut de relations internationales et stratégiques
Abonné·e de Mediapart

679 Billets

0 Édition

Billet de blog 8 avr. 2022

« Servitudes virtuelles » - 4 questions à Jean-Gabriel Ganascia

Jean-Gabriel Ganascia est professeur à la faculté des sciences de Sorbonne Université et chercheur au LIP6 (laboratoire d’informatique de Sorbonne Université), où il mène des recherches sur l’intelligence artificielle. Il a été président du comité d’éthique du CNRS de 2016 à 2021. Il vient de publier « Servitudes virtuelles » aux éditions du Seuil.

Pascal.Boniface
Directeur de l'Institut de relations internationales et stratégiques
Abonné·e de Mediapart

Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.

Vous reformuler la formule de Sartre : « La présence en ligne précède et conditionne l’existence sociale »…

La célèbre formule de Sartre « l’existence précède l’essence » signifie d’abord que, pour l’existentialiste, l’être humain ne découvre pas sa nature propre dans les décrets révélés d’un Dieu qui l’aurait conçu, mais au fil de son existence, dans ses actes, sa vie et ce qu’il en a fait. Il s’ensuit, et c’est le second sens que Sartre donne à cette formule, que l’homme est totalement libre parce que le bien et le mal ne résultent pas de la conformité, ou de la non-conformité, des comportements à des commandements divins ou à une morale. L’enfer dans la pièce « Huis clos » vient non d’une torture physique infligée à ceux qui n’ont pas obéi aux injonctions divines, mais d’une existence vouée entièrement aux regards et aux jugements d’autrui.

Dans le monde numérique, cette condamnation à n’exister que sous et par le regard des autres prend une dimension singulière du fait que la plupart de nos activités se déroulent en ligne et se convertissent en flux d’information. Dès lors, les autres nous perçoivent presque uniquement à travers les indices que nous laissons, consciemment ou non, dans ces flux. L’image que nous donnons de nous-mêmes se construit par agrégation des traces de nos actions sur le Web. La réputation s’établit à partir de ce que nous y laissons. Les réseaux sociaux, les moteurs de recherche, les recruteurs et les policiers en font leur miel. En cela, notre présence en ligne, à savoir l’ensemble de nos activités dans l’univers numérique conditionnent et précèdent notre existence sociale.

Au-delà, au plan moral, pour Sartre, nous sommes radicalement libres et pleinement responsables ; nos actes individuels et nos existences nous engagent totalement et engagent l’humanité toute entière. Or, puisque notre présence en ligne précède et conditionne notre existence sociale, elle engage pleinement notre responsabilité individuelle et celle de l’humanité entière. À l’heure actuelle, il convient plus que jamais d’en prendre conscience !

Vous êtes assez optimiste sur le fait que les machines ne prendront pas le pouvoir sur l’humanité…

Un grand écrivain de science-fiction, Ray Bradbury, à qui l’on demandait parfois s’il craignait les robots, avait coutume de répondre qu’il en avait moins peur que des hommes qui se cachent derrière. En tant que scientifique, je souscris totalement à cet argument : rien dans les progrès actuels de l’intelligence artificielle ne laisse entendre que les machines prendront un jour leur essor, s’affranchiront de notre tutelle et s’animeront d’intentions hostiles à notre égard.

Leur fonctionnement résulte de consécutions réglées d’opérations élémentaires. Les progrès récents ont grandement multiplié le nombre de ces opérations. Des ordinateurs dits « exaflopiques » exécuteront bientôt 1018 flops, c’est-à-dire des milliards de milliards de multiplications par seconde… L’intelligence artificielle en tirera un grand parti pour fabriquer des machines capables d’extraire, par apprentissage automatique, la substantifique moelle d’immenses quantités d’exemples annotés par des hommes. Entraînées de la sorte, les machines reproduiront à merveille les comportements humains et automatiseront des tâches quotidiennes.

Pour autant, elles ne possèderont pas de conscience propre. Hans Jonas, le promoteur de « l’heuristique de la peur », à qui l’on avait demandé s’il y avait lieu de craindre l’autonomisation des ordinateurs, expliquait que la conscience se trouve aux deux extrémités, chez ceux qui conçoivent les machines et chez ceux qui les observent et qui projettent sur elles une intentionnalité ; mais jamais dans les machines elles-mêmes…

Il n’en demeure pas moins qu’on laisse très souvent aux ordinateurs le soin de décider à notre place. Songeons à l’établissement automatique des procès-verbaux à partir des alertes données par les radars sur le bord des routes. Cette délégation du pouvoir d’arbitrage à des automates contribue à mettre en place une machinerie sociale autonome qui se déploie d’elle-même, par-devers nous. De cette machinerie-là, j’ai peur et j’invite à se prémunir contre elle ; en revanche, de la machine matérielle elle-même, je crois qu’il n’y a pas lieu de s’inquiéter.

Le projet d’Elon Musk de greffer des dispositifs de stockage d’informations sur le cerveau n’est-il pas inquiétant ? Est-il réalisable ?

Elon Musk prétend qu’il faudra équiper nos cerveaux pour nous aider à rivaliser avec les machines, car sinon, leur essor inexorable mettra l’humanité en péril. Dans cette perspective, la société NeuraLink qu’il a montée en 2017 développe des implants cérébraux destinés à accroître nos capacités mnésiques et à nous connecter directement au réseau, pour nous permettre d’échanger sans parole ni langage, de cerveau à cerveau.

Si elle parvenait à la réalisation de cet objectif, la société NeuraLink prendrait un empire considérable sur l’humanité, puisqu’elle régirait, par l’entremise de ses technologies, tous les contenus de nos têtes et tous les échanges interhumains…

Heureusement, pour de multiples raisons, ce projet n’a aucune chance d’aboutir, du moins à court terme. En effet, il repose sur l’hypothèse simpliste selon laquelle la mémoire, au sens psychologique, se réduirait à un dispositif de stockage d’information — à savoir à une mémoire informatique —. Or, on sait depuis longtemps qu’outre sa fonction de stockage, une mémoire encode l’information, la transforme au cours de multiples phases de consolidation, aide à y accéder, toute chose qu’une simple mémoire informatique ne permet pas de faire.

Mark Zuckerberg, sous prétexte de satisfaire plus rapidement les désirs de chacun, pourrait lui aussi rentrer de nos cerveaux…

Mark Zuckerberg souhaite aussi développer des interfaces cerveau-ordinateur. Il ne recourt pas, comme le fait Elon Musk, à des implants invasifs pour « écrire » dans nos cerveaux et accroître nos facultés cognitives. Son projet est plus modeste : il se contente de nous mettre à nu en lisant dans nos cerveaux avec des électrodes placées sur nos crânes, afin d’identifier nos pensées et, surtout, de détecter nos désirs dans le but, louable s’il en est, de les satisfaire… Mais, là encore, on peut craindre le pire de cette philanthropie consumériste !

Cet entretien est également disponible sur mon blog.

Bienvenue dans le Club de Mediapart

Tout·e abonné·e à Mediapart dispose d’un blog et peut exercer sa liberté d’expression dans le respect de notre charte de participation.

Les textes ne sont ni validés, ni modérés en amont de leur publication.

Voir notre charte

À la Une de Mediapart

Journal
La nomination d’Éric Coquerel suscite une polémique parmi les féministes
Plusieurs militantes ont affirmé que le député insoumis, élu jeudi président de la commission des finances, a déjà eu un comportement inapproprié avec des femmes. Mais en l’absence de signalement, aucune enquête n’a abouti. L’intéressé dément, tout en admettant avoir « évolué » depuis #MeToo.
par Lénaïg Bredoux et Mathieu Dejean
Journal — Parlement
Face au RN, gauche et droite se divisent sur la pertinence du « cordon sanitaire »
Désir de « rediabolisation » à gauche, volonté de « respecter le vote des Français » à droite… La rentrée parlementaire inédite place les forces politiques face à la délicate question de l’attitude à adopter face à l’extrême droite.
par Pauline Graulle, Christophe Gueugneau et Ilyes Ramdani
Journal — France
Extrême droite : la semaine de toutes les compromissions
En quelques jours, le parti de Marine le Pen s’est imposé aux postes clés de l’Assemblée nationale, grâce aux votes et aux lâchetés politiques des droites. Une légitimation coupable qui n’augure rien de bon.
par Ellen Salvi
Journal — Culture-Idées
L’historienne Malika Rahal : « La France n’a jamais fait son tournant anticolonialiste »
La scène politique française actuelle est née d’un monde colonial, avec lequel elle n’en a pas terminé, rappelle l’autrice d’un ouvrage important sur 1962, année de l’indépendance de l’Algérie. Un livre qui tombe à pic, à l’heure des réécritures fallacieuses de l’histoire.
par Rachida El Azzouzi

La sélection du Club

Billet de blog
L’inflation, un poison qui se diffuse lentement
« L’inflation est un masque : elle donne l’illusion de l’aisance, elle gomme les erreurs, elle n’enrichit que les spéculateurs, elle est prime à l’insouciance, potion à court terme et poison à long terme, victoire de la cigale sur la fourmi », J-Y Naudet, 2010.
par Anice Lajnef
Billet de blog
Pourquoi les fonctionnaires se font (encore) avoir
3,5 % d'augmentation du point d'indice, c'est bien moins que l'inflation de 5,5%. Mais il y a pire, il y a la communication du gouvernement.
par Camaradepopof
Billet de blog
Oui, l’inflation s’explique bien par une boucle prix – profits !
Il est difficile d’exonérer le patronat de ces secteurs de l’inflation galopante. C’est pourquoi les mesures de blocage des prix sont nécessaires pour ralentir l’inflation et défendre le pouvoir d’achat des travailleurs. Par Sylvain Billot, statisticien économiste, diplômé de l’Ensae qui forme les administrateurs de l’Insee.
par Economistes Parlement Union Populaire
Billet de blog
Les services publics ne doivent pas être les victimes de l’inflation
L’inflation galopante rappelle que le monde compte de plus en plus de travailleurs pauvres dans la fonction publique. Les Etats ont pourtant les moyens de financer des services publics de qualité : il faut faire contribuer les plus riches et les multinationales.
par Irene Ovonji-Odida