"— La menace, comme pour l’énergie atomique, vient de qui la possède et pour en faire quoi. L’IA est aux mains de partisans d’une idéologie libertarienne, réactionnaire. Pour eux, la réduction drastique du rôle de l’État, la déréglementation, ne suffisent pas : ils posent l’économie comme modèle général pour les rapports sociaux, malade-médecin, enseignant-étudiant, entreprise-populations, citoyen-environnement, en fait pour la société entière. L’individu serait modélisable, un spécimen mû par son plaisir et son intérêt - l’économie expliquerait et conduirait le monde ; tout se calcule, se chiffre.
— Et donc… ?
— Le savant fou des romans n’existe pas – pas comme individu. Mais avec ces moyens à leur service, avec leurs fortunes et les gouvernants de leur côté, ces oligarques du numérique ont la capacité - entre cupidité et ivresse du pouvoir - de noyauter les institutions, de les manœuvrer à leur profit. Leurs plates-formes, où sont enrôlés des milliards d’utilisateurs, sont un levier si puissant qu’ils s’ingèrent de plus en plus dans la marche de la société. Ils pourront bientôt, au nom de l’efficacité, se faire déléguer par des gouvernements ou par des organismes internationaux des activités comme des opérations de vote électronique, l’administration de services publics, le calcul d’allocations, la gestion des systèmes de santé, du spatial, des communications, et finalement prendre de facto le contrôle partiel ou total d’États, en commençant par les plus petits et les plus pauvres. Une sorte de coup de force sans coup de feu.
Je ne répondis pas ; cela semblait intolérable, et malgré tout pas invraisemblable. Double-Six reprit :
— Malheureusement il y a autre chose. Un danger nouveau, peut-être pire.
— Comment cela ?
— Cette pseudo-intelligence aggrave bien sûr les nuisances des réseaux : information orientée, tronquée, falsifications, algorithmes d’addiction et affaissement de l’esprit critique. Des logiciels rédigent des articles de presse, et la proportion de mensonges, racontars, faits distordus, storytelling, augmente… On renonce peu à peu à essayer de savoir le vrai. Les élèves et étudiants se fient presque aveuglément à ces systèmes. Des automates se substituent déjà au personnel qualifié pour interagir avec des malades et des gens âgés. Que leur disent-ils… ? Ce qui a été programmé dans leurs algorithmes par ceux qui les ont créés. Faute d’êtres humains à qui parler, ils acceptent des simulacres comme interlocuteurs, sans se rendre compte qu’une part de leur vie est truquée, dénaturée… et ces occurrences se multiplient comme des virus – l’offre et la demande…
— Partout, à ton avis ? demandai-je.
— Partout où cela augmente leurs profits et leur pouvoir. Pour manipuler plus massivement l’information ou pour améliorer la rentabilité. Pour la surveillance des travailleurs, l’évaluation des performances, le tri des candidats à l’emploi, au logement, à l’université, le contenu des livres scolaires, les investigations policières, l’instruction judiciaire… Sur la foi d’experts choisis, l’algorithme sera bientôt décrété plus équitable que l’homme - puisque l’intelligence artificielle, c’est mathématique, n’est-ce pas… Toutes les représentations de la réalité, fictions et informations, sont aujourd’hui produites et calibrées par ces acteurs privés. Or que veulent-ils nous faire prendre pour vérité ? Il n’y aura plus guère de recours contre les injustices, puisque ces systèmes, vertigineusement efficaces pour certaines tâches, seront demain présentés comme infaillibles partout - oh, toujours sous contrôle humain jurent-ils, et beaucoup croiront que tout cela est dans leur intérêt… C’est encore plus grave que leur mainmise sur l’enseignement, les médias, car ces outils altèrent notre perception des choses, imposent leur réalité – celle de leurs propriétaires. Les références se perdront peu à peu. C’est difficile à comprendre car ce n’est jamais arrivé : une réalité progressivement falsifiée, de plus
en plus habilement - jusqu’à ce qu’on renonce à rechercher et à rétablir la vérité. Sans répondre, je tentai de me figurer la portée de ces propos.
Après un silence, Double-Six reprit :
— Mais, pire encore peut-être que la falsification massive de notre vision du monde…
— Encore pire ? dis-je, prêt à objecter à ce que j’allais entendre.
Se mordant les lèvres, ses yeux clairs un instant masqués par les reflets sur ses verres de lunettes, Double-Six acquiesça.
— Pire. Cette facilité d’obtenir des textes et images à partir de quelques mots-clés, même dans des domaines intimes, pouvoir obtenir des artefacts d’apparence véridique en parlant à un écran, cette banalisation, la profusion de fausses œuvres de l’esprit, créées par automatismes… Cela va normaliser et affadir l’expression des idées personnelles – elles seront reformatées par les logiciels. Une voix qui semble être quelqu’un - peut-être nous - parlera, pour affirmer des choses qu’on croira avoir voulu dire… Tout cela affaiblira l’esprit, diminuera ses défenses et son autonomie.
— À ce point-là ?
— Eh bien, le cerveau a généralement tendance à économiser ses efforts. Des activités mentales essentielles seront affectées : comparer, évaluer, hiérarchiser, discerner des nuances, inférer, douter… les contradictions, l’intuition, les associations d’idées, le scepticisme, la mémoire, nos impulsions, et même la fantaisie… Ce qui est au cœur de la pensée personnelle sera progressivement - par facilité, lassitude, découragement - abandonné au logiciel. Cela va peu à peu atrophier la faculté de jugement, d’imagination, de critique, la capacité de former des idées, de créer de la pensée - ce qui caractérise l’esprit humain ; ils vont leur désapprendre à réfléchir.
J’avais l’impression d’avoir entendu cela, peut-être dans un mauvais rêve, mais le souvenir était vague.
— Cela m’évoque une pièce de théâtre, je crois m’en souvenir, où un serviteur est si efficace qu’il prend peu à peu le pas sur son maître, lequel finit par ne plus savoir rien faire, et se trouve à la merci d’un parasite qui forcit tandis que lui-même s’amenuise…
— C’est assez proche. On vous dit que l’intelligence artificielle est infiniment supérieure à votre cerveau, qui êtes-vous pour contester ? Je ne crois pas exagérer : ceux qui n’ont pas acquis la capacité de s’en défendre penseront de moins en moins par eux-mêmes, leur esprit va s’émousser en se faisant silencieusement coloniser, aliéner. Avec quelle facilité les esprits fatigués, découragés, se laisseront-ils leurrer, s’endormiront dans une mortelle tranquillité – gratuite et si facile ! Et, encore une fois, par qui ces outils sont-ils paramétrés, propagés et pilotés ?
Double-Six me regardait droit dans les yeux, comme par crainte de ne pas avoir parlé assez clair.
— Cette science, ces moyens techniques, dis-je, doivent être socialisés. À tout prix."
(Extrait de "Sonia ou l'avant-garde" - Michel Levy, aux Editions Infimes).