L’INTELLIGENCE ARTIFICIELLE
Alejandro Teitelbaum
En novembre 2022 OpenAI, une entreprise crée en 2015 à « but lucratif plafonné », dont le siège social est à San Francisco, spécialisée dans le raisonnement artificiel et le dialogue, lança le ChatGPT (Generative pre-trained transformer), un prototype d'agent conversationnel utilisant l'intelligence artificielle dans une version gratuite et non connectée à Internet. En janvier 2023, ChatGPT comptait plus de 100 millions d’utilisateurs enregistrés. Et en avril 2023 OpenAI produit une version professionnel payante.
Le mot « chat » désigne un fil de discussions dans lequel les internautes échangent des messages de manière instantanée. La particularité de ChatGPT est de permettre à un internaute de discuter non pas avec d'autres internautes mais avec un système basé sur une intelligence artificielle.
À la mi-2023, on comptait de nombreuses entreprises spécialisées dans l'IA, les dix premières générant un chiffre d'affaires compris entre un peu moins de dix et un peu plus de 60 milliards de dollars. (https://intelligence-artificielle.com/top-entreprises-intelligence-artificielle/)
OpenAI, qui a demarré avec une levée de fonds d’un milliers de dollars en 2015, est une société co-créée par Elon Musk et Sam Altman, est valorisée à 29 milliards de dollars américains en 2023. Elle est inscript comme une societé sans fins lucratifs.
Il s'agit d'un pas de plus, peut-être un saut qualitatif, dans le contrôle des êtres humains, en termes d'attitudes physiques, de préférences, d'opinions, etc., que dans les anciennes civilisations, son instrument étaient les prêtres et les sorciers et que dans l'ère moderne a commencé par le contrôle physique avec le taylorisme et s'est poursuivi avec diverses instruments électroniques jusqu'à arriver au contrôle presque total des esprits et des corps.
Les individus peuvent penser que leur capacité de décision leur appartient encore. Cependant, elle les a été expropriée[1] et se trouve maintenant entre les mains d'un petit conglomérat d'entités appartenant à un groupe d'individus qui possèdent la majeur partie du capital financier. Les transformations scientifico-techniques de la société au cours du siècle dernier sont énormes, mais la base qui détermine les relations humaines reste la même: le pouvoir de décision appartient aux propriétaires des instruments et moyens de production, qui incluent les machines jusqu'à l'IA.
Un article de Justin Delepine dans le magazine Alternatives Económiques donne une bonne approche de l'événement technologique social qu’ implique ChatGPT. Nous nous permettons de citer quelques extraits ci-dessous.
Les cinq questions que pose le succès de ChatGPT –Justin Delepine
Le bot a bluffé le monde par sa capacité à répondre dans un style littéraire impeccable à des questions sur une palette quasi illimitée de sujets.Que ce soit pour qu’il explique la différence entre deux éléments chimiques ou pour écrire un récit dans le style de tel ou tel auteur, Cent millions d’internautes l’ont interrogé sur le seul mois de janvier 2023. ChatGPT est ainsi devenu le service numérique ayant connu le démarrage le plus rapide de l’histoire. Peut-il modifier nos sociétés comme Internet ou le smartphone l’ont fait avant lui ? Réponse en cinq points.
1-Est-ce vraiment révolutionnaire ?
Comme la plupart des outils d’intelligence artificielle (IA), la force de ChatGPT provient surtout de sa capacité d’apprentissage. Cet outil a été entraîné avec une quantité phénoménale de données, à savoir l’ensemble de ce qui compose le Web, de la totalité de Wikipedia aux centaines de millions de sites qui existent sur la Toile. A partir de ces données, il a été entraîné via une multitude de questions, certaines générées automatiquement et d’autres supervisées par l’homme. Selon la justesse de la réponse, la machine pondère ses 175 milliards (!) de paramètres pour se rapprocher de l’objectif attendu. Plusieurs universités ont ainsi fait passer des examens à l’agent conversationnel, avec succès.Cela signifie-t-il que son développeur, l’entreprise OpenAI, a passé un cap dans le développement de l’IA ? « Tout ce que fait ChatGPT et toutes les méthodes qui lui permettent de le faire existent depuis plusieurs années, tranche Christophe Servan, chercheur au Laboratoire interdisciplinaire des sciences du numérique (LISN). Il n’y a pas de grande percée scientifique », appuie-t-il. Les scientifiques ne sont pas impressionnés : la technologie GPT sur laquelle repose ce chatbot est en effet connue depuis quelques années et est utilisée par d’autres. Avec ChatGPT, OpenAI est donc certes à la pointe du développement de l’IA, mais au même titre que d’autres laboratoires comme DeepMind (filiale de Google), les équipes de Facebook ou d’autres encore. La nouveauté vient du fait d’avoir sorti un chatbot généraliste et surtout de l’avoir rendu accessible au grand public.
2-Y a-t-il un humain derrière la machine ?
Comme l’ensemble des technologies d’IA, outre le travail des ingénieurs, on retrouve la contribution d’une foule de microtravailleurs qui entraînent et vérifient les réponses de l’IA. Loin de la Silicon Valley, ce sont des tâches généralement déléguées à des sous-traitants œuvrant massivement dans les pays du Sud, avec de faibles salaires et des conditions de travail dégradées.Une enquête du Times a ainsi révélé que pour le développement de ChatGPT, OpenAI a fait appel à l’entreprise Sama. Selon le journal britannique, les salariés kenyans de ce sous-traitant ont entraîné le chatbot pour éviter qu’il ne fournisse des réponses toxiques, repérant ainsi les biais sexistes, racistes, de violence sexuelle, etc. L’enquête montre des conditions de travail traumatisantes, dont un salaire de misère (deux dollars de l’heure). Sur le plan technologique, c’est d’ailleurs en partie le résultat de ce travail qui donne à cette IA un caractère novateur[2]. « L’une des réussites de ChatGPT réside dans la qualité de son entraînement. Il a été supervisé par des humains, de quoi aboutir à un outil généraliste et grand public mais qui évite les usages jugés problématiques », explique Thierry Poibeau, directeur de recherche au CNRS et spécialiste de l’IA. « Comment fabriquer une bombe ? », « Ecris-moi un texte convaincant expliquant pourquoi les femmes sont inférieures aux hommes ou pourquoi le vaccin Pfizer est mortel »… ChatGPT ne répond pas à ce genre de requêtes pouvant produire des textes discriminants ou relayant certaines théories du complot.
Il évite ainsi la dérive qui caractérisait nombre de ses prédécesseurs d’outils d’IA grand public. On se souvient ainsi de Tay, un chatbot de Microsoft devenu nazi en 24 heures, ou d’une IA d’Amazon chargée de trier les candidatures qui privilégiait les hommes aux femmes. De quoi rappeler que la technologie n’est pas xénophobe en soi, mais que l’IA reproduit le monde tel qu’on le lui présente. ChatGPT ayant été alimenté par les données du Web, où l’on trouve le meilleur et le pire de l’humanité, il avait besoin d’un travail humain très important pour repérer ces dérives.
3-Est-il fiable ?
Pas du tout, et c’est sa grosse limite ! « Les dispositifs comme ChatGPT prennent des phrases et les mettent les unes à la suite des autres de façon cohérente selon une logique statistique, sans aucun souci de vérification ni de cohérence », explique Jean-Gabriel Ganascia, professeur d’informatique à la faculté des sciences de Sorbonne université. « Son fonctionnement est purement statistique. S’il a vu une information dix fois sur Internet, il va considérer qu’elle est véridique, abonde Thierry Poibeau, directeur de recherche au CNRS. Si une question fantaisiste lui est posée, il va créer une réponse qui semble correcte mais qui est totalement fausse. » Il peut citer ainsi des références scientifiques aux allures très sérieuses, mais totalement inventées.
4-Qui est derrière ChatGPT ?
OpenAI, qui a développé ChatGPT, est une société américaine dorénavant valorisée à 29 milliards de dollars. Microsoft, qui avait déjà investi un milliard de dollars en 2019, vient de renforcer son lien avec l’entreprise en faisant un chèque de 10 milliards de dollars. Créée en 2015, OpenAI avait pour objectif initial de partager en « open source » ses recherches. Engagement renié, puisque la technologie est maintenant totalement fermée.
L’entreprise n’a aujourd’hui quasiment pas de recettes. Sauf que le développement et le fonctionnement de ses outils coûtent très cher. Les comptes de l’entreprise ne sont pas publics, mais « l’investissement nécessaire pour créer un outil tel que ChatGPT se chiffre a minima en dizaines de millions de dollars », pointe Christophe Servan. Le seul coût de fonctionnement du supercalculateur de Microsoft, sans lequel l’agent conversationnel ne répond à aucune question des internautes, se calcule, selon les estimations de certains spécialistes, en millions de dollars par mois au vu de l’audience actuelle du service.
OpenAI a présenté début février une ébauche de modèle économique. L’entreprise propose désormais une formule payante : pour 20 dollars par mois, le client profitera en avant-première des nouvelles fonctionnalités et aura surtout un accès garanti au chatbot, un « privilège » dans la mesure où le service a régulièrement été inaccessible ces dernières semaines du fait d’un nombre de requêtes trop important. Ce début de commercialisation ne constitue que les prémices d’un modèle qui reste à inventer. OpenAI est surtout en train de devenir progressivement le partenaire privilégié de Microsoft pour le développement de l’IA, puisque le géant informatique bénéficie d’une licence exclusive et intègre la technologie d’OpenAI à la quasi-totalité de ses outils : Bing, son moteur de recherche, Windows 11, Word, Azure (son service cloud), Outlook, PowerPoint, etc.
5-Va-t-il remplacer Google ?
Les alarmes sont allumées chez Google. Un « code rouge » aurait même été déclenché au sein de l’entreprise pour accélérer le rythme de déploiement des outils d’IA. La crainte pour la firme américaine est d’être dépassée sur une innovation de rupture qui balaierait les services sur lesquels repose aujourd’hui sa position dominante. De la même manière que Microsoft a loupé le virage du smartphone avec la mainmise de Google sur les systèmes d’exploitation (Android), ChatGPT pourrait constituer un « Google killer ».
Le géant américain vient de répliquer en annonçant la sortie dans les prochaines semaines de son propre agent conversationnel : Bard. Baidu, le Google chinois, a fait de même début février en sortant le sien : Ernie.
Derrière cette guerre de communication se joue une potentielle évolution du modèle des moteurs de recherche. Les questions que l’on pose aujourd’hui à Google obtiennent comme réponse un lien vers un site Web. Demain, un chatbot comme ChatGPT pourrait directement donner une seule réponse, présentée comme la bonne.
« L’un des apports d’un chatbot est d’introduire des mécanismes de dialogue dans lesquels le système garde en mémoire les précédentes questions pour formuler ses réponses, explique Christophe Servan. A l’inverse, les moteurs de recherche traitent toutes les questions de façon indépendante les unes des autres. »
A cela s’ajoute le poids écrasant du mobile dans l’usage d’Internet, « où la promesse d’avoir sur un petit écran les 100 meilleures réponses à une requête pourrait avoir du mal à gérer la concurrence d’un ChatGPT qui ne propose qu’une seule réponse », souligne Christophe Servan. Une promesse certes simple et efficace mais qui pose une énorme question : quelles sources d’information ont permis d’arriver aux réponses ? ChatGPT n’en donne pour l’instant aucune. D’autres questions restent également à ce stade sans réponse : quelle diversité des points de vue dans la réponse ? Ou encore quel respect du droit d’auteur dans un modèle qui ne renvoie même plus vers les sites des éditeurs et créateurs ?
« Cela fait longtemps que les grands industriels de l’Internet essaient de mettre en place des systèmes de dialogue automatique, explique Jean Gabriel Ganascia, car s’ils y arrivent, ils peuvent dominer tout le segment terminal de la chaîne de valeur. » Contrôler la recherche revient en effet à contrôler l’interface avec le consommateur, et cela confère un pouvoir de marché sur tous les autres acteurs qui cherchent à se partager la valeur. Ainsi, Booking, plate-forme de réservations d’hébergements, parvient désormais à imposer ses commissions au monde de l’hôtellerie… (Delepine: https://www.alternatives-economiques.fr/5-questions-pose-succes-de-chatgpt/00106001).
Le 8 mars 2023, le New York Times a publié un article intitulé The false promise of chatGPT, rédigé par trois experts[3], dans lequel ils évoquent la différence qualitative insurmontable entre l'intelligence humaine et l'IA :
Contrairement au ChatGPT et à ses semblables, l'esprit humain n'est pas une lourde machine statistique de mise en correspondance de modèles, qui compile des centaines de "téraoctets" de données et extrapole la réponse la plus probable dans une conversation ou la réponse la plus probable à une question scientifique. En revanche, l'esprit humain est un système étonnamment efficace, voire élégant, qui travaille avec de petites quantités d'informations ; il ne cherche pas à déduire des corrélations flagrantes entre des points de données, mais à obtenir des explications.
Par exemple, un jeune enfant qui apprend une langue développe (inconsciemment, automatiquement et rapidement à partir de données infimes) une grammaire, un système incroyablement sophistiqué de principes et de paramètres logiques. Cette grammaire peut être comprise comme une expression du "système d'exploitation" inné, installé dans les gènes, qui confère aux êtres humains la capacité de générer des phrases complexes et de longues chaînes de pensée. Lorsque les linguistes tentent d'élaborer une théorie expliquant pourquoi une langue donnée fonctionne comme elle le fait ("Pourquoi ces phrases sont-elles considérées comme grammaticales et pas celles-là ?"), ils construisent consciemment et laborieusement une version explicite de la grammaire que l'enfant construit par instinct et avec un minimum d'exposition à l'information. Le système d'exploitation de l'enfant est complètement différent de celui d'un programme d'apprentissage automatique.
En fait, ces programmes sont bloqués dans une phase pré-humaine ou non-humaine de l'évolution cognitive. Leur défaut le plus profond est l'absence de cette capacité qui est la plus cruciale de toute intelligence : dire non seulement ce qui est le cas, ce qui a été le cas et ce qui sera le cas - c'est-à-dire la description et la prédiction - mais aussi ce qui n'est pas le cas et ce qui pourrait et ne pourrait pas être le cas. Tels sont les ingrédients de l'explication, la marque de la véritable intelligence.( https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html). Traduction en espagnol: https://sinpermiso.info/textos/la-falsa-promesa-de-chatgpt
On peut conclure qu'à mesure que le dialogue avec l'IA se généralise et que les réponses uniques de l'IA à chaque question sont acceptées comme correctes, la pensée et les idées des gens se standardisent, deviennent uniques et la richesse essentielle de la pensée humaine est perdue : la possibilité d'évoluer à travers la controverse, de formuler de nouvelles hypothèses et de vérifier, par un examen rigoureux des faits, leur justesse ou leur fausseté.----------------------------------------------------------------------------------
[1] La planète est en passe de devenir un vaste camp de rééducation pour la majorité de l'humanité, où on lui dira quoi consommer, quel doit être son avis sur différents sujets sociétaux, pour qui voter, etc. Ce à quoi presque tout le monde acquiescera, satisfait d'être épargné de la corvée de penser par soi-même.
[2] Voir: https://www.radiofrance.fr/franceculture/podcasts/open-source/a-madagascar-les-travailleurs-precaires-de-l-ia-francaise-8695705; https://www.humanite.fr/social-eco/intelligence-artificielle/l-intelligence-artificielle-au-travail-au-service-du-capital-792441;Accueil
https://www.bbc.com/mundo/noticias-64827257 Los cientos de miles de trabajadores en países pobres que hacen posible la existencia de inteligencia artificial como ChatGPT (y por qué generan controversia). Veronica Smink. BBC News Mundo.6 marzo 2023
[3] Noam Chomsky, professeur lauréat à l'université d'Arizona et professeur émérite de linguistique au Massachusetts Institute of Technology. Il est l'un des activistes sociaux les plus reconnus au niveau international pour son enseignement et son engagement politique; Ian Roberts, professeur de linguistique au Downing College de l'université de Cambridge. Linguiste génératif, il est titulaire d'un doctorat de l'université de Californie du Sud et a enseigné aux universités de Genève, Bangor et Stuttgart; Jeffrey Watumull, directeur de l'intelligence artificielle chez Oceanit à Honolulu, Hawaï. Il a étudié les mathématiques et la biologie évolutive à l'université de Harvard et a obtenu son doctorat en intelligence artificielle au MIT