Cette technologie se veut GPT, General Purpose Technology, comme l’électricité avant elle, et encore avant, les pierres taillées, le feu, la roue, la machine à vapeur… On a pu dénombrer 24 ruptures technologiques de ce type dans l’histoire de l’espèce humaine[1], dont 7 le dernier siècle. L’IA est la plus récente manifestation de la révolution de l’information qui a succédé à la révolution de l’agriculture il y a 10 000 ans, et de l’industrie il y a 3 siècles : ça s’accélère !
PSYCHODRAME
Le psychodrame qui s’est déroulé à la mi-novembre 2023 dans la Silicon Valley autour du contrôle de OpenAI la société qui a lancé ChatGPT en novembre 2022, donne un éclairage sur les enjeux en cours. OpenAI est la société la plus symbolique de l’IA générative, c’est-à-dire capable de générer textes ou photos crédibles. OpenAI avec son Conseil d’Administration (CA) de 9 personnes et 770 employés, a été constituée comme une société à but non lucratif avant d’être valorisée aujourd’hui 100 milliards de $. Microsoft, après qu’Elon Musk s’en soit dégagé, avait mis 1 milliard de $ « pour voir », puis 10 milliards avec l’idée que la société donne au moins une filiale à développement commercial. Début novembre 2023 l’une des membres du CA, Mme Helen Toner, publie un article célébrant une autre société de l’IA, Anthropic qui selon elle non seulement garde réellement l’esprit non lucratif, mais exprime des craintes sur l’évolution de l’IA. Sam Altman le dirigeant d’OpenAI, un financier, un manager et non un techno, le prend mal et tente de virer Mme Toner. Malgré le soutien du président du CA, Greg Brockman, Altman y est mis en minorité. Il apprend le 17 novembre en vidéo conférence avec le Dr. Sutskever, le responsable de la technique lui aussi membre du CA, qu’il est viré. Mme Toner n’hésite pas à dire aux employés : « La destruction de la compagnie peut être consistant avec la mission de son conseil d’administration » ! On comprend qu’une bonne partie des employés se rebelle. Le conflit se développe, des intervenants de la Silicon Valley comme Chesky, le patron de Airbnb, et surtout Nadella le patron de Microsoft, interviennent. Des employés comme des cadres de la compagnie changent de position du jour au lendemain. Les deux camps finissent par faire appel à Larry Summers, le gourou des institutions financières internationales, ancien président de Harvard, ancien secrétaire du trésor américain. Oui le même qui a fait pression sur Varoufakis le ministre de l’économie du gouvernement de gauche grec, en exigeant de lui qu’il soit un « insider », un membre du système, et non un « outsider », et qu’il accepte les ordres de la troïka financière. Finalement Nadella propose d’embaucher chez Microsoft non seulement Altman et Brockman, mais 700 des 770 employés, ceux qui ne se sont pas solidarisés avec Toner. Les « lucratifs », les optimistes, les managers, l’emportent, contre les « non lucratifs », les inquiets, les scientifiques. Le 21 novembre le CA est reconstitué à la main de Microsoft. Toner et Altman en sortent. Larry Summers y entre. Sam Altman reprend la direction d’Open-AI. Microsoft contrôle 49% de la société.
Le New York Times du 16 décembre tirait les leçons du psychodrame : « Qui a le pouvoir sur le développement de l’IA ? la tech de la Silicon Valley et les entreprises aux poches profondes ».
LES OPPORTUNITÉS :
On peut considérer que « l’IA n’est qu’une technologie… » ce qui est vrai : elle est dans le prolongement de l’informatique et de la numérisation de la société dont Internet est l’une des manifestations le plus visible, mais ajouter « …comme une autre » serait faux. Elle participe à transformer la société comme la machine à vapeur ou l’électricité l’ont fait avant elle. Elle est disruptive.
En tirant de l’information -et des produits- des données, données personnelles, données utilisateurs, méta données (information sur les données) et des données elles-mêmes, livres, photos, vidéos etc. jusqu’alors peu exploitées, l’IA accroit de façon exponentielle les informations et les interactions entre elles, donc les ressources informationnelles à la disposition de l’espèce humaine. Elle est sans doute la technologie qui permettra au numérique de déclencher ce bond de productivité qui à la surprise des observateurs n’a pas jusqu’ici beaucoup impacté l’économie. « L’informatique se voit partout, sauf dans les statistiques de la croissance ou de la productivité » observait le prix Nobel d’économie 1987 Robert Solow. Se diffusant dans tous les secteurs l’IA lèvera probablement les freins à l’accroissement de la productivité, en particulier parce qu’elle s’applique au secteur des services où les gains de productivité ces dernières années étaient très faibles. Le fait que Kindle publishing le service spécialisé d’Amazon ai limité les publications à un maximum de 3 livres par jour et par personne (!), tellement elles sont facilitées par les services comme ChatGPT, donne une idée du potentiel de la technologie !
Comme toute technologie, surtout aussi générale et disruptive que celle-ci, en même temps l’IA fait peur. Au point qu’une demande de moratoire de 6 mois de son développement a recueilli en mars 2023 plus de 30 000 signatures dont celles de beaucoup de sommités de l’IA et celle d’Elon Musk. Rishi Sunak, le premier ministre britannique, a organisé à Londres en novembre 2023 un « premier sommet mondial en sûreté de l'IA », abordant notamment les risques existentiels qui y sont liés. Sunak propose que soit créé un groupe d’experts internationaux, sur le modèle du GIEC. D’autres proposent que l’IA donne lieu à des COP comme celles qui ont lieu pour le risque climatique.
LES DANGERS:
Il est vrai que les différentes technologies mises en œuvre par l’IA soulèvent chacune leur lot de questions. D’autant plus que l’IA apparait comme une méta technologie. Plus qu’un système, un générateur de systèmes qui se développent eux-mêmes rapidement dans tous les domaines. Dans le développement informatique elle permet de diviser par 2 le temps de codage par exemple. Son couplage avec la robotique, la technologie quantique, ou encore la biologie synthétique qui connait elle aussi un développement exponentiel, est annonciateur d’avancées phénoménales. D’où aussi l’accroissement des craintes. En particulier parce que les réponses de l’IA générative, basées sur des probabilités statistiques, sur des données trop importantes pour être connues individuellement, sur des algorithmes complexes, surprennent leurs propres concepteurs.
Frankenstein : Une des craintes est que le deep learning, le machine learning, les réseaux neuronaux, les Large Language Model, les LLM, les différents algorithmes développés par l’IA ne finissent pas se parler entre eux, échappent aux humains et développent un moderne Frankenstein. En particulier avec la recherche d’une super intelligence, une IA G, une IA Générale qui mènerait à une « singularité », un point de non-retour où l’humain serait dépassé par les machines. Cela relève de la science-fiction, voire de croyances religieuses et du complotisme et devrait être écarté au profit d’une attitude rationnelle. A moins… à moins que cette crainte d’un nouveau Frankenstein ne soit juste l’expression imagée de craintes plus diffuses comme quoi ces technologies peuvent, comme toutes les autres avant elles, entraîner des conséquences inattendues, bonnes ou mauvaises. Et ça c’est vrai !
Pour l’instant en fait le Frankenstein en question est un groupe d’hommes, le plus limité qu’il y a eu dans l’histoire, qui s’accapare tous les avantages de la technologie. Tristan Harris pionnier de l’IA et fondateur de « Center for Humane Technology » affirme dans une interview « jamais auparavant dans l'histoire, 50 concepteurs n'ont pris des décisions qui affectent deux milliards de personnes[2] ». Le développement accéléré de l’IA annonce un accroissement, lui aussi peut être exponentiel, des inégalités. On a vu dans l’histoire récente d’OpenAI que lorsque les choses deviennent sérieuses les « poches profondes » et le système, de Bill Gates à Larry Summers, se mettent en branle pour garder le contrôle.
Accroissement des rivalités : A la suite de la lutte pour le contrôle d’OpenAI et de son produit ChatGPT, les rivalités s’accroissent : Elon Musk après avoir tenté de freiner OpenAI lance Grock, Google lance Bard et Gemini. Amazon a investi des milliards de $ chez Anthropic (comme Google d’ailleurs), et a ses propres « chatbots » comme Q ou Titan pour concurrencer les outils orientés images comme Midjourney et Dalle-e. En Chine ce sont aussi des quasi-monopoles comme Baidu, Tencent, Alibaba qui mènent le bal. L’Europe tente aussi de rivaliser. Le 8 décembre 2023 l’IA Act, le projet de règlement européen est signé à Bruxelles et sera proposé au vote du parlement européen au début de cette année. Le but officiel est de réguler l’IA. Mais les manœuvres de la France et de l’Allemagne pour limiter cette régulation avaient pour but d’ouvrir la voie au développement de la compagnie française Mistral qui vient de lever 385 millions d’Euros, et de la compagnie allemande Aleph Alpha qui en a levé 466. Après la concentration entre quelques mains, l’autre danger est bien là : la rivalité entre monopoles qui prend souvent ensuite la forme de rivalités nationales.
Emplois : Pendant ce temps, à l’autre extrémité de la chaine de production, ce qui est annoncé en raison de la productivité de l’IA ce sont des pertes d’emplois, évaluées à 800 000 pour la France, à 300 millions dans le monde. En particulier parce que l’IA s’applique aux « cols blancs », aux services, administrations, santé etc. Il y a là quelque chose d’ahurissant qu’un gain de productivité phénoménal se transforme en catastrophe pour des millions de gens. C’est une indication que ces technologies s’apprêtent à se diffuser dans des sociétés structurées par un système économique qui n’est pas capable de les intégrer, qu’elles sont en contradiction avec ce système, et qu’elles contribuent à le faire craquer.
Propriété intellectuelle : la collecte des données, le « datascrapping » à l’aide de « crawlers » sur Internet, est une composante de l’IA pour entrainer les algorithmes. L’IA générative déclenche déjà des conflits sur la propriété intellectuelle. En amont : les artistes, journalistes, rédacteurs, écrivains, photographes, vidéastes voient leurs œuvres utilisées comme sources sans être eux-mêmes rémunérés, et alors même qu’en aval la valeur des « œuvres » produites, par exemple les réponses aux chatbots pour l’IA générative, est accaparée par les filiales IA des grands groupes. Cela va donner lieu à de nombreux contentieux. Dans les tribunaux comme trop souvent le pot de fer risque fort de l’emporter sur le pot de terre. Les travailleurs, les producteurs d’œuvres seront dépossédés des fruits de leur travail. C’est cette crainte qui a déclenché la grève des acteurs et scénaristes à Hollywood du 14 juillet au 8 novembre 2023. Le New York Times lui-même vient de porter plainte pour pillage contre OpenAI et Microsoft. A terme cela peut tarir la génération d’œuvres nouvelles et donc finalement appauvrir l’ensemble de l’information et des données culturelles humaines. Si elles sont pillées à quoi bon produire de nouvelles œuvres ?
Le cout énergétique : la collecte, le stockage, l’entrainement de milliards de données coutent très chers en énergie. 100 millions de $ par an en cout électrique pour entrainer le seul ChatGPT parait-il. D’autant que cette technologie encore dans sa petite enfance n’est pas frugale : elle collecte, stocke et manipule des quantités de données dont l’utilité n’est pas évidente pour l’usage même qu’elle en fait. Un peu comme ces chalutiers qui draguent les fonds marins et rejettent l’essentiel de leur prises… gâchis biologique d’un côté, gâchis énergétique de l’autre.
Bien d’autres dangers sont susceptibles d’être générés par l’IA : Les bugs, pardon les « Hallucinations », une telle « Intelligence » ne peut faire de vulgaires erreurs, on parle donc d’hallucinations ! Les biais de genre dus au fait que les femmes ne représentent que 22% des gens qui travaillent dans l’IA. Les biais des réponses en raison des jeux de données-sources elles-mêmes biaisées, comme d’avoir essentiellement des photos de males blancs pour entrainer un algorithme par exemple. L’IA par la facilité donnée à créer des faux crédibles risque de contribuer aux fakes news, risque d’accentuer les lacunes de modération des grandes plates formes de réseaux sociaux, et de renforcer les grandes campagnes de désinformation. Les outils autonomes comme les voitures intriguent, mais les armes autonomes à juste titre inquiètent etc.
« Limiter le risque d’extinction lié à l’IA devrait être une priorité mondiale au côté d’autres risques à l’échelle de la société dont les pandémies et la guerre nucléaire » écrivent Sam Altman, patron d’OpenAI et Denis Hassabis dirigeant de Google Deepmind.
ET POURTANT…
Il s’agit d’une technologie au potentiel tellement grand qu’elle devrait être accueillie et célébrée dans la joie et l’optimisme. D’autant plus qu’elle participera grandement à affronter les défis auxquels fait face notre espèce, comme le réchauffement climatique, la mesure de l’extinction des espèces, le vieillissement, les maladies, la conquête spatiale etc… Le développement technologique apparait nécessaire pour lutter contre les effets pervers des développements techniques précédents : développement de l’éolien ou du solaire pour se passer des centrales à charbon par exemple. L’histoire humaine est rythmée par la lutte pour la production, la lutte de classe dans un système productif donné, et aussi par les développements technologiques et scientifiques. Dans le passé des tentatives ont bien eu lieu pour empêcher la diffusion de certaines technologies. Elles ont toutes échouées. A l’exception peut-être de l’armement nucléaire. Il ne s’est pas encore trop répandu en raison sans doute de l’ampleur des investissements financiers et scientifiques nécessaires. Encore qu’on soit passé de 5 pays nucléaires, membres du conseil de sécurité à 9 pays (en plus : Israël, Inde, Pakistan, Corée du Nord), et que suite à l’invasion de l’Ukraine par la Russie la course aux armements soit repartie.
Comment articuler opportunités et craintes ? comment allier le souci d’Altman et de la grande majorité de ses employés d’aller de l’avant et les craintes de Mme Toner ? Mustafa Suleyman est le co-fondateur de Deepmind, le concepteur d’AlphaGo, la première machine qui a battu le champion du monde de GO, la première grosse entreprise de l’IA rachetée depuis par Google. Fort de son expérience, Suleyman écrit dans son livre[3] très intéressant et très actuel sur l’IA : « Containment is not possible. Containment MUST be possible ». « L’endiguement n’est pas possible. L’endiguement DOIT être possible ». Contradiction de fond. Notons que les Anglo saxons utilisent à ce propos le même terme « containment » que celui utilisé pour contenir l’URSS lors de la guerre froide.
Suleyman souligne la nécessité d’endiguer l’IA en raison même de quatre spécificités qu’il analyse finement : l’asymétrie comme celle qui permet à un étudiant de rédiger comme un professionnel, ou à un « auteur » de proposer plus de 3 livres par jour pour publication. La vitesse de propagation comme les développements de l’année 2023 nous l’ont montré. L’ubiquité des usages. Enfin l’autonomie que l’IA fournit et permet, aussi bien à la voiture qu’aux robots ou aux armes.
QUELLES SONT LES PROPOSITIONS?
La régulation : Mais comment faire pour que la régulation n’entrave pas les innovations ? Comme le dit Thierry Breton le commissaire européen au marché intérieur dans un article du quotidien Le Monde le 16 décembre pour célébrer la signature du projet IA Act européen qu’il a mené: « L’IA Act n’entrave aucunement la révolution en mouvement de l’intelligence artificielle ». On perçoit déjà que ce type de régulation aura le même succès que celle supposée entraver la création des monopoles. Déjà l’IA Act a dégagé la voie pour les quasi-monopoles Mistral, français et Aleph Alpha, allemand, afin de rivaliser avec les monopoles américains et chinois. Il est curieux que Suleyman invoque une solution d’auto-régulation pour l’IA. Auto-régulation dont il a lui-même expérimenté l’échec aussi bien chez Deepmind qu’il a fondé, que chez Google lorsque ce dernier a racheté l’entreprise. Le « profit drive », la motivation du développement de l’IA par le profit sur laquelle Suleyman reste arcbouté, a sa logique propre. Elle fait fi des régulations, que ce soit celles prétendant limiter les monopoles comme celles qui prétendront contenir l’IA.
La transparence : La demande d’explication des tenants et aboutissants des algorithmes utilisés, des biais éventuels des jeux de données etc. se heurtera au sacrosaint secret des affaires, à la sacrosainte nécessité de mettre des « barrières à l’entrée » des concurrents pour sauvegarder la rentabilité des énormes investissements nécessaires. Elle aura autant de succès que la transparence de la stratégie de modération des réseaux sociaux.
La mise en place du « Comité de l'intelligence artificielle générative » auprès de la première ministre Elisabeth Borne en septembre 2023 nous donne déjà une idée de la transparence de l’ensemble du domaine: Ce comité comprend des spécialistes français de la question comme Luc Julia ex concepteur de Siri chez Apple, aujourd’hui chez Renault[4], Yann Le cun Vice-Président et « Chief AI Scientist » chez Meta la compagnie mère de Facebook, Gilles Babinet serial entrepreneur[5], mais aussi Mr Mensch patron de l’entreprise Mistral citée plus haut ainsi que Cédric O, ancien secrétaire d’état au numérique de Macron et lui aussi au capital de Mistral.
La frugalité : Comme toute technologie, au fur et à mesure de son développement l’IA deviendra plus efficace, plus économe en ressources. Cependant les besoins énergétiques resteront énormes. Des arbitrages devront avoir lieu entre les intérêts de l’IA, et on a vu qu’ils sont captés par une très petite poignée de gens, et les ressources énergétiques de la planète. Dans les conditions de transparence qui se dessinent on peut craindre le pire. On ne peut échapper à la nécessité d’une décision collective.
La propriété intellectuelle : la collecte massive des données de tous, l’incapacité de tracer et de pondérer en entrées quelles sont les données, textes, photos, plans etc. utilisées, et dans quelles proportions, l’opacité des algorithmes, l’incapacité de repérer individuellement les auteurs dans une œuvre synthétique produite, une photo IA par exemple, impliquent, outre un partage de la valeur difficile entre les auteurs et les propriétaires des IA, une répartition collective de la valeur attribuée aux auteurs eux-mêmes. Par exemple à travers des sociétés d’auteur. Là encore donc une démarche collective.
L’état nation : Suleyman note que les états nations sont nés et ont été rendus nécessaires avec les nouvelles technologies émergentes au début du capitalisme, aux 15ème et 16ème siècles. Mais curieusement au lieu d’en conclure que cette technologie disruptive qu’est l’IA exige elle aussi de concevoir des entités nouvelles, Suleyman fait appel à ces mêmes états nations du 15ème siècle ! Tout en pointant cependant les limites de ces états face à une technologie d’ores et déjà transnationale. Technologie capable en particulier de s’affranchir du barrage des différences de langues. Il est significatif que la première tentative de régulation de l’IA soit celle d’une entité transnationale, l’Europe avec l’IA Act, et non celle d’un état nation. Un état nation dont le rôle se réduit par le développement même de la mondialisation capitaliste, multi nationales, immigration, vastes zones de libre-échange, contraintes écologiques… et développement de technologies telles que l’IA… Dans ces conditions l’internationalisme semble être une perspective plus réaliste que les nationalismes.
COMMENT RÉELLEMENT CONTRÔLER L'IA?
En fait tout pousse, pour tirer pleinement parti de cette formidable avancée que constitue l’IA, à considérer les données en entrée, ainsi que les « œuvres » en sortie, comme des propriétés collectives communes. Ce qui entraine à envisager sérieusement de faire des monopoles d’IA eux-mêmes, des propriétés collectives.
C’est d’autant plus vrai si on a aussi le souci de réduire les inégalités, de partager le temps sauvé par l’accroissement de productivité entre tous au lieu d’accroitre le chômage, de réduire les conflits par la mise en commun des œuvres, de préserver les ressources énergétiques de la planète…
La solution à la contradiction de fond soulevée par Suleyman à propos de l’IA : « L’endiguement n’est pas possible. L’endiguement DOIT être possible » n’a pas de solution au sein de l’IA elle-même. L’impossibilité de prédire les conséquences d’une technologie, surtout aussi universelle que l’IA signifie que les tentatives de contrôler l’IA de « l’intérieur », ou par une régulation juridique sont vouées à l’échec. La solution exige de passer à l’échelle de la société toute entière. Tant que les motivations restent le profit, l’argent, la satisfaction des egos, il n’y aura pas de solution satisfaisante. Pour atteindre « l’équilibre subtil à trouver entre régulation et innovation » que souhaite Suleyman, c’est l’ensemble de la société qui doit être prêt à réagir à toute conséquence inattendue de la généralisation de cette technologie. Et donc au profit de tous.
L’IA pousse à mettre en commun beaucoup de choses, donc à changer un système mu par la seule cupidité individuelle. A concevoir une société différente. La conclusion du psychodrame d’OpenAI a montré aussi que tenter des ilots de sociétés de « no profit » dans la société actuelle ne peut aboutir. Il faut un contexte général favorable à la mise en commun des idées et des activités pour bénéficier sereinement des bienfaits de l’IA. Il faut une société qui ne soit pas mue par la cupidité pour à la fois tirer toutes les opportunités de l’IA et contenir ses dérives et ses effets pervers éventuels.
C’est du communisme ? Sans doute ! Indépendamment du fait que les tentatives précédentes de communisme n’ont pas été un franc succès mais ceci est une autre question[6].
Dans cette année qui s’annonce désespérante avec la guerre d’invasion russe de l’Ukraine, les crimes de guerre de l’état terroriste d’Israël à Gaza, l’adoption d’une loi anti ouvrière sous « couvert » de combattre l’immigration, la division annoncée des forces de gauche aux européennes, etc. il est positif de percevoir que des forces puissantes, tels que les développements scientifiques, indépendamment des motivations des scientifiques et des managers qui les développent, indépendamment de la conscience dont les politiques en ont, à bas bruit, sont à l’œuvre pour orienter l’espèce humaine vers une société plus juste. Donc bonne année !
[1] Bekar, Carlaw, Lipsey : « Economic transformations » 2005.
[2] Dans le film Derrière nos écrans de fumée, distribué par Netflix.
[3] Mustafa Suleyman : « The coming Wave », « La Déferlante », Fayard, octobre 2023.
[4] Luc Julia : « L’intelligence artificielle n’existe pas » First Edition, 2019.
[5] Gilles Babinet : « Green IA » livre à venir mars 2024.
[6] Jacques Lancier : « Réinventer le communisme : écologique, démocratique, européen, internationaliste » Amazon 2018.