Les débats autour de l’« intelligence artificielle » (IA) sont sans fin. Chacun, compétent ou non, veut donner son avis sur son avenir, sur des applications, sur son coût écologique, sur ses dangers pour l’enseignement et pour l’emploi, etc. Pour ma part, je veux juste ici faire part de quelques idées simples, en partie issues de discussions en ligne.
Le cas le plus favorable à l’usage de l’IA est celui où l’on est capable de distinguer une bonne d’une mauvaise réponse qu’elle produirait à l’aide d’un procédé automatique. Par exemple, il existe des outils qui, lorsqu’on leur donne un texte répondent si oui ou non ce texte est une démonstration mathématique ben rédigée (dans un langage spécialisé et formel permettant d’exprimer des démonstrations mathématiques détaillées). L’outil agit comme une sorte de correcteur inflexible, qui dira à l’IA où elle se trompe et n’acceptera sa production que si elle est effectivement une démonstration du théorème désiré.
Voyons maintenant un cas légèrement différent : l’intelligence artificielle produit un texte visant à être une démonstration traditionnelle, que l’on pourrait retrouver dans un ouvrage ou un article de mathématiques. Une telle démonstration doit être soigneusement relue par un humain expert du domaine mathématique concerné. Et là, rien ne va plus : il est possible de produire avec un effort humain minimal un flux continu de démonstrations « approximatives » (bref, fausses) qu’il faudra un effort humain important pour relire.
Quel rapport entre des usages ésotériques de l’IA pour produire des démonstrations mathématiques, et les IA génératives utilisées par le grand public ? Dans le cas des démonstrations formelles, nous disposions d’une méthode automatique pour distinguer le correct de l’incorrect. Dans le cas d’un texte portant sur le monde réel (comme quand, par exemple, on demande à une IA comment cuisiner tels champignons), cette distinction est la vérité au sens philosophique, l’adéquation du texte à la réalité qu’il prétend décrire. Il n’y a pas de procédé automatique pour vérifier cette adéquation. Nous sommes dans le cas où « rien ne va plus ».