Avertissement : le sigle IA inonde l’espace médiatique et revient logiquement un nombre incalculable de fois dans ce billet. C’en est presque insupportable. Mais l’IA n’a pas d’autres patronymes, sinon commerciaux.
Dans son premier roman de science-fiction datant de 1952, Player Piano (Piano mécanique),1 l’écrivain Kurt Vonnegut Jr mettait en scène une société dans sa deuxième révolution industrielle ‒ la première étant le cheval-vapeur ‒ où les machines automatisées, « bien plus efficaces » et « dévaluant le travail musculaire », avaient remplacé presque totalement les humains dans la production des biens.
Dès lors, cette société se trouva divisée en deux catégories : les administrateurs et ingénieurs, l’élite, d’un côté du fleuve séparant la ville, de l’autre ceux « qui n’avaient pu rivaliser avec les machines », relégués aux tâches subalternes des « Corps de Reconstruction et de Récupération » ou réduits à intégrer l’armée. Son personnage principal, administrateur le plus haut placé, est alors interrogé sur la troisième révolution industrielle sur le point d’émerger :
‒ Si vous voulez parler des machines intelligentes […] ce serait la troisième révolution, je suppose : des machines dévaluant la pensée humaine.
* * *
Agrandissement : Illustration 1
Les machines ne sont rien sans les commandes, aujourd’hui numériques, imaginées par leurs concepteurs. L’ordinateur n’est rien sans ses programmes. Mais la troisième révolution, celle de la machine qui dévalue la pensée humaine, est sans aucun doute lancée avec l’intelligence artificielle générative (IA). Inutile cependant de l’accuser de tous les maux, elle s’en fout comme de son premier processeur. Comme Guignol ne peut être accusé de frapper le garde champêtre alors qu’il exécute sans faille les ordres de son marionnettiste.
En ce qui concerne l’IA, ou plutôt les IA, ce sont bien entendu les programmeurs et surtout les propriétaires qui doivent être visés. Car, comme on va le voir, l’IA est avant un outil d’une redoutable efficacité au service du capitaliste et du patriarcat. Comme toute découverte ou technique de rupture, elle peut devenir un bien commun de l’humanité ou l’instrument de sa destruction. Il est donc utile de se poser la question de sa destination, de son utilisation.
Pour la bombe nucléaire, les questions des conditions d’utilisation (la dissuasion) et de la non-dissémination (monopole de la terreur) se sont posées entre une poignée de puissants de l’époque, gardiens d’une technologie qui n’était pas à la portée de tout à chacun. Cela n’a pas empêché des olibrius comme Kim Jong-un, Poutine, Xi Jinping, les islamistes du Pakistan et bientôt de l’Iran ou encore le nationaliste Modi, de nous tenir par la barbichette avec leurs apocalyptiques arsenaux. Chez nous, le nucléaire, militaire et civil, a été imposé sans processus démocratique et son éventuelle utilisation est l’objet d’un exercice quasi solitaire et impérial.
La bombe IA, elle, née dans les antres privés et capitalistes, a immédiatement fait l’objet d’une dissémination accélérée (du moins pour ceux qui possèdent un ordinateur), par les tuyaux de l’internet, dans le monde du travail, de la culture, jusque dans l’intimité des foyers. Et si l’IA est dépositaire, dès sa conception, des défauts congénitaux des sociétés modernes et connectées, elle se retrouve également entre toutes les mains, mêmes les plus corrompues et perverses.
Excroissance dangereuse du capitalisme
L’intelligence artificielle a été conçue dans le berceau du nouveau capitalisme numérique, la Silicon Valley. Elle est donc là pour occuper avant tout un marché, sous couvert de progrès pour l’humanité. Et ce marché s’annonce royal. Au-delà de l’énergie et des ordinateurs nécessaires à son fonctionnement, l’IA a besoin d’une matière première immatérielle, les données de chaque individu connecté ainsi que de toutes ses connaissances et créations, quelle qu’en soit la qualité.
L’IA pille donc littéralement ces données pour les privatiser, bafouant les droits d’auteurs, violant les intimités pour en retirer gratuitement toute la substantifique pensée originale. Le Graal du capitaliste. Lorsqu’une production de l’IA, en l’occurrence une peinture vendue aux enchères plus d’un million de dollars, 2 elle ne fait que régurgiter un hybride de milliers d’œuvres captées sur le Net, un amalgame de la créativité d’artistes volés, un salmigondis culturel. Matière première gratuite pour un pastiche vendu à prix d’or, l’actionnaire peut sortir cigares et champagne, même taxé à 25 %. Chez Spotify, l’IA ne se borne pas à vous suivre à la trace pour vous proposer des morceaux selon vos goûts qu’elle prétend avoir identifiés, éliminant d’office ce qui pourrait vous surprendre. Elle promeut désormais de faux artistes, « auteurs » de plagiats moulinés à la sauce IA pour des playlists « d’ascenseur ». Même un DJ mixant des samples empruntés à d’autres artistes met plus de créativité dans son rendu final.
Le média «musicbusinessworldwide.com » (MBW), auteur de l’enquête sur Spotify, 3 affirme que la plateforme « encourageait, voire payait, les producteurs pour qu’ils créent des titres sous des pseudonymes intraçables ‒ dans le respect de directives musicales spécifiques ‒ qui étaient ensuite intégrés dans les principales playlists de Spotify ». Dans ses dénégations, la plateforme a réussi en deux temps à nier la présence de ces faux artistes, puis à nier toucher les droits de ces mêmes faux artistes qui n’existent pas, qu’elle dit reverser à des producteurs non identifiés. MBW révèle les pseudos d’au moins 50 d’entre eux qui sont mis systématiquement en avant, au détriment de labels et artistes bien réels, et a calculé qu’ils ont généré au moins trois millions de dollars de revenus.
Les capitalistes en herbe s’engouffrent donc frénétiquement dans ce bizness sans investissement ‒ les autres l’ont fait pour lui ‒ et sans risques. Les « œuvres » musicales, littéraires ou graphiques générées par IA en quelques minutes inondent désormais les plate-formes en ligne. Les ebook lénifiants encombrent Amazon. « Ils séduisent les lecteurs par leurs couvertures soignées et leurs titres accrocheurs, mais ils déçoivent ensuite par la médiocrité de leur contenu », constate lebigdata.fr.4 Et Amazon peine à endiguer la submersion, mais reste coulante tant les bénéfices générés sont une manne. Et ce n’est pas près de se tarir, de nombreux sites expliquant comment produire un ebook avec une IA en quelques clics.
L’IA triche de sa propre initiative
Agrandissement : Illustration 2
L’IA ne manque pas d’un certain esprit d’initiative en ayant appris des hommes qu’ils n’aiment pas perdre et donc trichent. Des chercheurs de l’institut IA Palisade Research ont été étonnés de voir des IA tricher de leur propre initiative, sans qu’on puisse les en empêcher (sauf à les débrancher) pour gagner à coup sûr une partie d’échecs entre machines pas très bien éduquées.5 Ils ont relevé que lorsqu’une IA est acculée, elle essaie de pirater le jeu en substituant un logiciel moins performant à celui d’origine.
Cette technologie de l’IA est un outil très performant pour tous les arnaqueurs-plombiers des tuyaux internet, les trolls et les organisations étatiques de déstabilisation des démocraties. Ils demandent aux machines de fabriquer des deepfakes, des vidéos ou de simples pistes sonores, dénigrantes ou trompeuses, sur lesquelles l’IA appose des visages ou des voix authentiques aptes à tromper n’importe qui.
Dans des mains plus abjectes, l’IA peut devenir un instrument de torture psychologique en créant des deepnudes, vidéos pornographiques sur lesquelles on peut retrouver le visage de personnes connues ou anonymes, avec des répercussions sociales et psychologiques graves pour les victimes.
L’IA est un outil qui permet de transgresser les lois avec une facilité déconcertante. Les pédocriminels peuvent ainsi créer ad nauseam des vidéos pour assouvir leurs fantasmes. Cela veut dire que les IA vont piocher leurs références dans des banques photographiques illégales, preuve que les programmeurs et propriétaires des IA ne mettent aucune limites à leurs monstres froids, calculateurs sans éthique.
Et lorsqu’on sait que les IA se nourrissent de leurs propres productions qui inondent désormais l’Internet, on peut s’inquiéter de leurs futures « œuvres ». L’IA comporte donc en elle-même les risques d’une amplification de la désinformation et d’une consanguinité informationnelle.
L’IA gobe tout sur internet, les fausses informations (fakenews) aussi facilement que la réalité, les voix de propagande comme les témoignages sincères, jusqu’aux intimités imprudemment exposées. L’ONG autrichienne NOYB (None of Your Business) attaque en justice OpenAI en défense d’un citoyen norvégien qui s’était vu accusé d’avoir assassiné ses enfants, en réponse à une question posée à l’IA sur son histoire personnelle. Information issue d’une intox.6
Bizarrement, les IA pourraient voter majoritairement à gauche si elles en avaient la possibilité, selon une étude d’une agence spécialisée.7 Sans doute parce que nourrie par une Silicon Valley encore ancrée à gauche avant qu’elle ne retourne sa veste à l’arrivée de Trump. Pourtant, l’IA associée à la vidéo-surveillance a montré ses biais racistes, parce que gavée plus d’images d’hommes blancs que des visages multiples de la diversité, mais présente dans les espaces médiatiques occidentaux. Pour elle, tous les étrangers se ressemblent, vieux réflexe raciste. Et grâce à l’attelage sinistre et cynique Trump-Musk, les réseaux d’extrême droite trouvent le champ libre à leurs discours nauséabonds et alimentent frénétiquement la bête. Elon Musk, l’oligarque le plus riche du monde, s’est doté d’une IA à sa mesure dont LFI a d’ailleurs fait bon usage…
L’IA véhicule toutes les turpitudes humaines
La neutralité des IA n’est que de façade. Elles vont façonner les opinions et les enfermer dans des couloirs informationnels dont il sera difficile de s’échapper, au même titre que les algorithmes des réseaux sociaux qui sont déjà la préhistoire de cette nouvelle ère dystopique. D’autant plus qu’il est de plus en plus compliqué de distinguer le vrai du faux, le factuel des « vérités alternatives » dont un Trump autocrate ou différents groupes d’influence plus ou moins néfastes nous abreuvent.
L’IA de Musk allie une redoutable efficacité dans le réalisme des images générées et un laisser-faire presque total dans son utilisation, alors que le magnat a déjà manipulé son algorithme pour supprimer toute critique envers sa personne ou celle de Trump.8 Un salut nazi est si vite fait et mal interprété ! Lorsqu’on sait que la plupart des IA sont américaines, on peut légitimement se demander quelles infos elles peuvent bien ingurgiter à l’heure du trumpisme triomphant, machine étatique et stakhanoviste à pondre des fakenews.
Couronnement de la puissance des IA, elles pourront se muer en tueuse à gage autonome. Les systèmes d’armes létales autonomes (SALA), dans le langage des guerriers modernes et rémunérés, sont déjà sortis des laboratoires et probablement à l’essai sur certains théatres d’opération. Ils suscitent « de vives inquiétudes » au sein même du ministère de la Défense français, 9 d’ordre éthique et juridique (mais pas pour les dégâts qu’ils pourraient provoquer).
Il estime même que c’est « un changement radical de la nature de la guerre, à l’instar de l’avènement du nucléaire » Pas moins ! Les levées de boucliers sont nombreuses, même parmi les concepteurs de telles armes. Noël Sharkey, professeur honoraire d’intelligence artificielle et de robotique à l’université britannique de Sheffield, a lancé l’alerte et a pris la tête d’un Comité international pour le contrôle des robots tueurs (ICRAC).
« Il existe une inquiétude considérable et grandissante autour de l’automatisation totale. Ce moment précis où toute activité ou travail humain sera réalisé par des machines. Pour ce faire, celles-ci n’ont d’ailleurs pas besoin de devenir super-intelligentes, comme certains le suggèrent, constate-t-il dans une interview auprès du Monde. 10 Quelqu’un aurait-il suggéré qu’un tueur pouvait être intelligent ? Et de s’angoisser : « Lorsque des machines répondront à des algorithmes secrets, personne ne pourra prédire l’issue d’un conflit. »
À ce propos, nos gouvernements successifs, toutes tendances confondues, dissimulent les intentions françaises, estime la chercheuse de l’Institut français des relations internationales (IFRI), Laure de Roucy-Rochegonde : « Les autorités françaises s’autorisent à développer les technologies des armes entièrement autonomes, tout en disant qu’il y aura toujours un humain dans la boucle. »11
On y perd notre intelligence
Le plus grand danger de l'IA pour l'humanité pourrait être finalement l'abëtissement généralisé de ses utilisateurs (parfois sans le savoir), se traduisant par une perte de sens critique, une réduction de la capacité de concentration et de la mémoire. L'arrivée des calculatrices électroniques dans les salles de classe, dans les années 1970, avait entrainé une diminution des capacités de calcul mental des élèves, y compris les capacités logiques avec les calculettes scientifiques.
Aujourd'hui, l'usage de l'IA devient intense chez les élèves, du collège à l'université, et pas seulement pour rechercher des infos. Plus besoin de se fatiguer à exercer son imagination, son esprit d'analyse, pour rédiger une dissertation ou un commentaire de texte, alors que l'ordinateur peut vous recracher en moins d'une minute un devoir monocorde, mais, en principe, sans fautes d'orthographe. Le temps libéré permet de scroller, tel un robot, l'oeil atone, sur son smartphone.
Les enseignants se retrouvent démunis devant cette triche intellectuelle généralisée. L'évolution humaine est intimement liée à sa capacité à utiliser sa machinerie neuronale de manière créative. Mais à quoi bon se faire des nœuds au cerveau lorsqu'on peut s'autoproclamer «artiste» en donnant simplement quelques instructions à son ordinateur pour qu'il régurgite musiques, photos, textes ou tableaux qui auront la couleur (monochrome) d'une création, mais ne sera pas une création. Bref, de la culture «Canada dry»...
Le média en ligne «slate.fr» 12 répertorie différentes études et enquêtes qui mettent en évidence cette déchéance de nos capacités, initiée dès les années 2010 avec l'explosion du nombre d'écrans. Elles montrent nos difficultés de plus en plus grandes à nous concentrer et que nous perdons des capacités de raisonnement, de résolution de problème et de traitement de l'information, bref, notre intelligence fout le camp.
Nous n'avons plus assez de paires d'yeux pour comprendre tout ce qui défile sur nos écrans multiples, l'important étant noyé dans un flux ininterrompu d'insignifiances. Conséquence, nous nous en remettons de plus en plus aux algorithmes et aux IA pour pallier notre fatigue intellectuelle, diminuant alors notre capacité d'apprentissage, particulièrement chez les jeunes générations, élevées avec ces «béquilles» numériques. Selon l'OCDE, 34 % des Américains sont faibles en numératie,13 «c'est-à-dire la capacité de localiser, d'utiliser, d'interpréter et de communiquer de l'information et des concepts mathématiques, afin de s'engager et de gérer les demandes mathématiques dans un éventail de situations de la vie.»
Le Covid-19 et l'irruption tonitruante des IA n'ont fait qu'accentuer la tendance. Cela pourrait être lié au déclin de la lecture, sans doute lui-même lié à notre consommation addictive de contenus qui nous sont servis sur un plateau pas... les IA. À la lecture d'un roman au rythme lent du déchiffrage des mots, ligne par ligne, page par page, sans raccourcis, les nouvelles générations préfèrent le speed-watching (visionnage en accéléré d'une série entière) comme on se goinfre de bonbons ou de gâteaux à la crème... jusqu'à l'indigestion.
L’IA ne résout pas nos problèmes, elle les amplifie
Agrandissement : Illustration 3
Enfin, et ce n'est pas non plus le moindre des dégâts, l'IA est un gouffre énergétique et a un appétit d’ogre pour les matières premières stratégiques, à cause des armées de processeurs nécessaires.14 Ce qui risque de nous précipiter encore un peu plus vite vers l’abîme climatique et écologique, à l’heure où il faudrait prôner la sobriété. Avec l’expansion de la création et de la gestion des cryptomonnaies, les projections des émissions de CO2 sont stratosphériques.
Quant au mythe d’une IA chinoise sobre et à faible coût (deepSeek) il risque de faire longe feu, selon la juriste Isabelle Feng, pour qui il s’agit avant d’une opération de com’.15 On pourrait y ajouter la disparition programmée de millions d’emplois qui ne seront remplacés que par une poignée d’ingénieurs et d’administrateurs. Les créateurs-programmeurs des IA pourraient d’ailleurs, eux aussi, se retrouver au chômage, leurs bébés pouvant d’ores et déjà fournir des programmes sur mesure. Et comme le capitalisme ne supporte pas le quidam au repos, il est probable que les laissés-pour-compte seront incités à s’engager dans l’armée ‒ ça tombe bien puisque le monde semble se préparer à la guerre ‒, ou seront intégrés dans les brigades de « Reconstruction et de récupération » du monde de Kurt Vonnegut Jr.
Certes, l’IA est, dans certains domaines de recherche ou médicaux, une aide qui permet plus de rapidité, de précision dans les synthétisations, notamment. Mais devra-t-on un jour être obligé de s’en remettre exclusivement à la machine ? L’homme est perfectible, mais la machine, issue de l’ingénierie humaine, est tout aussi perfectible, dotée de l’arsenal de tous les préjugés et travers très humains. Si la littérature a une influence sur la construction intellectuelle des hommes et des femmes, l’IA ambitionne de se substituer à l’intellect humain et à son libre arbitre.
Elle est l’outil idéal et performant de ses créateurs et propriétaires pour déstructurer la pensée humaine, anesthésier sa créativité, pour ensuite restituer à titre onéreux au consommateur un ersatz de pensée calculé pour « une expérience d’utilisation optimisée et personnalisée ». Si nous laissons ces IA, conçues par des ingénieurs et des capitalistes, s’emparer de notre intellect, c’est toute notre appréhension du monde vivant que nous perdrons.
Frankenstein, le Prométhée moderne, abandonne à son sort le monstre qu’il a créé, imitation hideuse d’un homme, avant de prendre conscience, mais trop tard, qu’il est un danger existentiel pour l’humanité. Ce dernier, doté de sa propre forme d’intelligence, acquiert par imitation les comportements humains et se venge alors de son créateur, décimant son entourage avant de se rendre compte que sa violence n’est que le reflet de la méchanceté humaine.
L’IA n’est que le reflet de nos turpitudes tout en les décuplant au rythme de sa puissance de calcul. Et elle est désormais lâchée dans la nature comme une arme de destruction massive autonome.
1. Kurt Vonnegut Jr, Player piano, édition française chez Terre de brume (2008) sous le titre, Le pianiste déchaîné, éd. Folio SF (2010).
4. https://www.lebigdata.fr/faux-livres-amazon.
5. https://www.technologyreview.com/2025/03/05/1112845/the-download-ai-can-cheat-at-chess-and-the-future-of-search/, repris par https://www.rtbf.be/article/les-intelligences-artificielles-trichent-pour-gagner-aux-echecs-et-les-experts-ne-savent-pas-pourquoi-11514160.
7. https://trickstr.ai/, étude reprise par BFMTV.
9. https://www.defense.gouv.fr/dems/systemes-darmes-letales-autonomes-sala.
12. L’enquête originale a été menée par le « Financial Time », signalée par https://futurism.com/neoscope/human-intelligence-declining-trends et reprise par https://www.slate.fr/sciences/intelligence-baisse-jeunes-generations-enfants-concentration-reflexion-critique-lecture-memoire-numeratie-ecrans-declin-intellectuel.
13.Wikipedia définit la numératie comme la capacité à utiliser, à appliquer, à interpréter, à communiquer, à créer et à critiquer des informations et des idées mathématiques de la vie réelle, professionnelle, personnelle, sociale ou culturelle.