Dans des articles à grand succès, on en est venu à soutenir que les données numériques (Big Data) et la recherche de régularités en leur sein, grâce à l'Intelligence Artificielle, peuvent remplacer la pensée scientifique[1]; heureusement, les mathématiques nous disent que plus il y a de données numériques, plus elles contiennent des régularités dues au hasard, donc dénuées de sens, fallacieuses[2] ... L'article d'Anderson de 2008 en note de bas de page (« La fin des théories : le flot de données rend la méthode scientifique obsolète ») donne un aperçu des mythes qui se sont alors déchaîné, malgré la réponse technique de Calude-Longo, également en note de bas de page (« Le flot de corrélations fallacieuse dans le Big Data »). Bien au-delà du projet d'Anderson, l'attente de la « singularité », c'est-à-dire du moment où une machine sera plus intelligente qu'un être humain, s'est répandue dans le savoir commun. Nous devrons nous habituer à interagir avec « quelqu'un de plus intelligent que nous », affirme Y. Le Cun (Facebook), lauréat du prix Turing et père fondateur du « Deep Learning », dans plus d'un podcast[3]. Pourquoi tant de personnes sont-elles enthousiasmées par cette perspective, même si elles ne sont pas directement impliquées dans le « business » de l'IA ? Il ne s'agit pas d'une simple technophilie générique, d'un scientisme ...
Les enseignants s'inquiètent, à juste titre, des devoirs écrits faits par ChatGPT. Mais le message véhiculé est plus profond. La science n'est plus nécessaire, écrit Anderson : les machines, en trouvant des régularités dans les données, « remplacent la connaissance » et prédisent la dynamique à venir. Aujourd'hui, suggère-t-on, il n'est même plus nécessaire d'étudier, d'apprendre, puisque la machine peut répondre à toutes les questions, surpassant notre intelligence en tout. Cela réduit à néant une pratique que beaucoup d'entre nous considèrent comme une partie essentielle de la construction de l'intelligence humaine.
Plus radicalement encore : il n'est pas nécessaire de comprendre – les enseignants, les intellectuels et les chercheurs (sauf dans l'AI) ne sont d'aucune utilité et, en Italie, les écoles peuvent être fermées à chaque menace de pluie (une manière significative de répondre aux irrégularités climatiques croissantes, alternative à la lutte contre les causes de ces désastres). On peut (ou on veut) passer la journée sur le canapé à scroller des fils d’actualité infinis sur Tik Tok ou d’autre « applications » prédatrices de nos attentions, sans ne plus jamais lire un livre, ni essayer de réfléchir à ce qui se passe dans le monde, tout au plus poser des questions, si nécessaire, et donner des ordres à des robots omniscients et omnifacients.
Du point de vue du travail, les conséquences de cette vision et de cette utilisation de l'IA sont déjà évidentes : le mythe du « remplacement » permet de baisser les salaires. Au contraire, la construction coopérative entre l’humain et la machine, l'assistance au travail par l’IA permet d’augmenter la qualification et donc le salaire[4]. Les batailles publicitaires autour des victoires des machines aux échecs (contre Gasparov en 1997) et au Go (contre Lee Sedol, 2016 - cette fois grâce à des idées de programmation vraiment remarquables) ont un but pédagogique : elles expliquent aux nombreux jeunes qui passent leur temps dans les jeux vidéo compétitifs que dans les jeux les plus difficiles – tels que les échecs et le Go – la machine bat de grands champions. Ils sont des moins que rien en comparaison : il est donc bon qu'ils acceptent n'importe quelles conditions de travail et de rémunération, sinon les machines les remplaceront. Au cœur de ce matraquage, qu'il soit naïf ou artistique, il y a l'ignorance des limites des formalismes informatiques et des caractéristiques du cerveau animal – le premier lieu de différence entre les machines numériques et les êtres humains[5].
En politique, ceux qui n'ont pas lu un seul livre de leur vie acquièrent aujourd’hui une nouvelle hégémonie, fédèrent leurs pairs comme jamais, balayent le rôle de l’école comme lieu de construction d’un savoir commun. Pourquoi lire un livre, un article, pourquoi chercher à comprendre ? Les machines le font d’ores et déjà pour nous[6]. Les réseaux sociaux et éventuellement, un peu de sport pour socialiser et maintenir le corps en activité, en compétition, suffisent comme formes d'interactions avec le monde. Ainsi, de plus en plus souvent, les « leaders » politiques, parlant en phrases courtes et violentes, les « tweets » incisifs, ne développent aucun « raisonnement », apprennent à ne pas chercher à comprendre, mais à faire suivre le leader et ses slogans. Ce qui est au cœur de la nouvelle hégémonie se révèle : la valorisation de l'ignorance ; la science, la connaissance, l'intelligence, on les délègue aux machines. Il est inutile de faire de la science, disait Anderson, mais il est aussi inutile d'étudier, suggèrent les enthousiastes de l'imminente singularité. Et Elon Musk, l'un des plus grands promoteurs d'un tel mythe (dont il promet la réalisation depuis 10 ans, tous les 5 ans, dans les 5 ans à venir), finance des hommes politiques, dont l'agressivité des slogans hurlés rappelle Hitler. Les machines apprendront à notre place et répondront à toutes les questions ... elles penseront pour nous. Par des voies différentes, elles ramènent de vieux, terribles, fantasmes.
Giuseppe Longo
CNRS et École Normale Supérieure, Paris
http://www.di.ens.fr/users/longo/
[1] Anderson, C. (2008). « The End of Theory: The Data Deluge Makes the Scientific Method Obsolete ». Wired Magazine.
[2] Calude, C., Longo, G. (2017). « Le déluge de corrélations fallacieuses dans les Big Data ». Dans Foundations of Science Vol. 22, Issue 3, pp 595-612 (téléchargeable ici). Voir aussi G. Longo Mathématiques et sens, Mimesis, 2022.
[3] « Human Level AI : Comment les machines pourraient-elles atteindre l'intelligence humaine? ». Conférence de Yann LeCun, Université de Genève, 11/10/24 (il insiste sur l’abandon des IA génératives pour des méthodes d’optimum généralisées)
[4] « L'IA est plus efficace lorsqu'elle tente d'aider les humains plutôt que de les remplacer », note Erik Brynjolfsson dans le Financial Times, repris dans Alternatives Économiques.
[5] G. Longo, Le cauchemar de Prométhée. Les sciences et leurs limites, Paris, PUF, 2023.
[6] Pour un résumé très bien documenté du processus d'« anéantissement de l'enseignement public et de son remplacement par un logiciel propriétaire », voir cet article de D. Tafani, « Omini di burro. Scuole e università al Paese dei Balocchi dell'IA generativa », dans Bollettino telematico di filosofia politica, 2024