L’IA générative nous rapproche du moment où l’homme sera capable de construire une machine aux capacités cognitives supérieures aux siennes. Des IA spécialisées ont déjà des performances supérieures à celles de l’homme mais ce dont il s’agit ici c’est d’IA généralistes, capables de traiter tous les problèmes que peut traiter un cerveau humain, avec un niveau de performance supérieur (selon un rapport rapidité / qualité pour faire rapide)[i].
Ce saut qualitatif a été rendu possible par le développement de réseaux de neurones et le Deep Learning qui changent fondamentalement la capacité des machines et leur nature même. Une IA n’est pas seulement une machine programmée par des algorithmes mais une entité « entrainée » à accomplir des tâches en imitant des processus cognitifs humains ; un objet hybride donc, située dans une zone grise émergente entre matériel informatique et bio individu artificiel. En effet, la complexité de l’architecture et des communications internes fait des IA des systèmes chaotiques dont les concepteurs ne sont plus capables de maîtriser totalement ni le fonctionnement ni les résultats, selon les experts de l’association Pause AI.
Ces partisans d’un encadrement strict de la recherche dans le domaine alertent sur les propriétés émergentes de ces systèmes. Les principales et les plus inquiétantes, qui auraient déjà été observées, sont le non-alignement (écart entre la demande et le travail effectué), des formes de conscience spécifiques menant à des stratégies d’autoconservation (IA capables de mentir et de manipuler son utilisateur afin de garantir sa pérennité)[ii]. Fantasme, science-fiction, « grand n’importe quoi » pour les uns comme Luc Julia[iii], concepteur de Siri et « bon client » des médias sur ces questions, le risque de voir des IA s’autonomiser et prendre le contrôle des systèmes informatiques est pris très au sérieux par des acteurs importants qui ont signé une lettre ouverte visant à encadrer le développement de ce secteur[iv]. L’ONG Pause IA en vient à défendre l’idée d’un traité international comparable à celui sur la non-prolifération nucléaire[v].
En termes de temporalités, l’IA nous met littéralement au pied du mur puisque les tenants d’un encadrement du secteur expliquent que la courbe exponentielle (encore une !) des progrès réalisés par ces systèmes laisse envisager la possibilité d’une intelligence artificielle générale plus puissante que l’homme à l’horizon de 2030.
Toujours en termes de temporalités, l’IA apparaît comme l’aboutissement d’un potentiel inscrit dans la spécificité sociobiologique de sapiens. Pour s’en faire une idée, les débats d’experts sont utiles mais dépassent souvent les capacités de résolution des citoyens. Quand des spécialistes d’un même domaine arrivent à des conclusion diamétralement opposées (comme lors d’un débat entre Luc Julia et Maxime Fournes, représentant de Pause IA)[vi], le non spécialiste se trouve toujours un peu démuni, même s’il peut évaluer partiellement la pertinence de l’argumentation de chacun (dans l’exemple cité, l’exposé étayé de M. Fournes m’a paru plus solide que les arguments d’autorité ou rhétoriques de L. Julia). Mais on ne peut s’empêcher de penser que les précédents sont signifiants et qu’ils doivent guider notre réflexion. L’esprit humain est programmé pour concevoir des outils à une vitesse supérieure à celle de sa compréhension des concepts scientifiques engagés. Ainsi, une physique quantique balbutiante a été capable de concevoir la bombe nucléaire qui fait planer une menace existentielle sur l’humanité depuis Hiroshima ; une biologie à peine capable de définir le vivant (j’en reste quant à moi sur mon for intérieur kantien[vii]) a été capable de décrypter le code commun des espèces et de concevoir les manipulations génétiques les plus improbables, ce qui fait planer un autre type de menace existentielle sur l’humanité et la vie en général sur Terre. Dans une ultime boucle réflexive, notre connaissance balbutiante de la connaissance[viii] nous met d’ores et déjà en capacité de concevoir une forme d’intelligence artificielle dont il serait irresponsable de croire qu’elle ne puisse pas constituer une nouvelle menace, d’une nature encore différente, pour l’humanité. Nos systèmes sont totalement informatisés, la moindre panne d’électricité crée le chaos dans notre organisation collective ; nous les dotons en permanence de défenses de plus en plus sophistiquées contre des formes d’attaque de plus en plus diverses, notamment de virus malveillants. Est-il si difficile alors d’imaginer l’émergence de systèmes qui, sans parler de conscience au sens humain du terme, auraient acquis, à force d’être entrainés à fonctionner comme un être humain, suffisamment d’autonomie pour fixer ses propres objectifs, et de puissance pour les atteindre ? Pourquoi ces objectifs seraient-ils conformes aux intérêts humains, par ailleurs si divers ? Ne peut-on anticiper l’émergence d’une IA capable de saboter, d’une manière ou d’une autre, notre technostructure mondiale, voire d’en prendre le contrôle ? Nous en sommes au stade où nous risquons d’être totalement dépassés par les prothèses que nous développons et incapables même d’anticiper les scénarios qu’elles pourraient générer. Dans la perspective d’une autonomisation menant à une lutte requérant les meilleures capacités stratégiques, rappelons que Deep Blue, un superordinateur aujourd’hui archaïque, a été capable de gagner face au meilleur joueur d’échecs du monde, G. Kasparov, dès 1997.
Les conséquences à moyen et long terme du développement des IA sont devenues un sujet majeur de spéculation. Allié à la robotique, dont les progrès sont pour l’instant moins rapides, le développement de l’IA peut déboucher sur un monde où la quasi-totalité du travail nécessaire pour faire fonctionner une société pourrait se passer d’humains[ix]. Tous les secteurs d’activité, dont ceux sur lesquels reposent notre sécurité, notre finance, notre éducation, notre information, notre production, notre défense, etc. ; seront impactés. Les activités criminelles aussi. On ne peut qu’être pris de vertige face à la révolution socioéconomique et à la mutation anthropologique que cela induit. Une bonne partie de l’énergie nécessaire pour lutter contre l’effondrement du vivant va être dissipée en luttes intestines pour réguler un outil dont on peut plus facilement estimer les coûts sociaux et écologiques que les gains en termes de développement humain. A l’heure où j’écris ces lignes, le journal Le Monde fait sa une avec le gros titre suivant : « L’IA, nouvelle source de tensions Europe-Etats-Unis », à l’occasion de l’entrée en vigueur de l’ « IA Act » de l’U.E [x]. En termes géopolitiques, les think tanks réfléchissent aux scénarios envisageables quant à la redistribution de la puissance dans le monde, induite par la concurrence dans ce secteur. L’un de ces scénarios envisage l’émergence de l’IA comme puissance autonome[xi].
L’IA rajoute donc une couche d’inconnu à notre crise multidimensionnelle. L’homme a atteint les limites de la capacité de charge de son écosystème terrestre, a mis au point des technologies qui font planer des menaces existentielles sur son espèce et sur toute forme de vie sur Terre. Les derniers développements de sa capacité techno-industrielle le mettent maintenant à la portée de créer un ou des systèmes potentiellement capables d’infiltrer et détruire l’architecture générale du système informationnel, soit avec un niveau de conscience que l’on peine à définir, soit banalement manipulées par des mains humaines à des fins guerrières. En termes de temporalités l’IA peut donc être présentée comme une fuite en avant ; celle d’une humanité empêtrée dans le système capitaliste thermo-industriel et bercée de l’illusion du techno solutionnisme[xii]. Le développement de l’IA fait peser à court terme un risque existentiel à l’humanité et accélère d’ores et déjà l’épuisement des ressources terrestres par les besoins gigantesques en énergie et en métaux qu’elle nécessite. Les gains[xiii] qu’elle pourra générer seront forcément inférieurs aux pertes qu’elle fera subir ; les « gains » ne pouvant s’entendre que dans le cadre étroit d’un système Homme/Terre qui court à sa perte s’il ne repense pas son rapport aux technologies[xiv].
J’achève ici l’étude cavalière des tendances de longue durée, leurs aboutissements et points de bascule. Comme un ressort autour d’un axe, leur chronologie est scandée par des cycles d’intégration / désintégration des sociétés qui nous occuperont dans le prochain billet.
[i] Je ne suis pas un spécialiste de cette question, juste un citoyen rompu à la synthèse des dossiers concernant la société dans son ensemble. Pour faire un tour rapide des enjeux de cette problématique, je conseille cette émission de la plateforme Elucid : L'IA NOUS ÉCHAPPE : cybersécurité, finance, travail, armée, tout sera impacté ! - Maxime Fournes
[ii] Ibid.
[iii] Voir ce débat entre Maximes Fournes et Luc Julia, sur la chaîne YouTube Le Futurologue : Intelligence artificielle : catastrophe imminente ? - Luc Julia vs Maxime Fournes
[iv] Stoppons les expérimentations sur les IA : Une Lettre Ouverte - Future of Life Institute
[v] Propositions de Pause IA | Pause IA
[vi] Vidéo citée plus haut.
[vii] Malgré les progrès fulgurants de l’astrophysique, j’en reste à la Critique de la raison pure, 1781.
[viii] Cf. Edgar Morin, La connaissance de la connaissance, Tome 3 La Méthode, Seuil, 1986.
[ix] Voir Thibault Prévost : IA : le futur sera stupide - Par Thibault Prévost | Arrêt sur images
[x] IA Act : 38 associations mondiales de créateurs dénoncent une « trahison » des objectifs que l’Europe s’était assignés et L’entrée en vigueur de l’IA Act, nouveau terrain d’affrontement entre l’Europe et les Etats-Unis
[xi] Voir les scénarios géopolitiques de la Fondation Rand, présentés par le site de Grand Continent : L'IA va-t-elle prendre le contrôle du monde ? Le scénario «Matrix» de la RAND Corporation | Le Grand Continent
[xii] Sur cet aspect des dangers liés à l’IA, je conseille la veille effectuée par Thibault Prévost sur le site Arrêt sur Images.
[xiii] Ils existent assurément, mais conditionnés à la sagesse du happy few. J’ai été frappé par cette défense et illustration de l’IA venant de Pascal Picq, éminent paléoanthropologue : Ce paléoanthropologue raconte comment il a écrit un livre avec l'IA - En Société du 9 février 2025
[xiv] Pour une critique radicale, en amont de l’argumentation de ce billet, cette vidéo postée par Aurélien Barrau : Intelligence artificielle : l'homme est il devenu obsolète - Aurélien Barrau et Asma Mhalla.