Si cet enthousiasme doit être tempéré en raison des risques de tous ordres qui accompagnent l'intelligence artificielle, le président ne peut qu'engager la France et l'Europe dans cette démarche : en effet, sous peine d'être dépassé sur le plan technique et économique, notre continent ne peut rester en dehors d'une course que nous ne pouvons pas arrêter. Même l'idée d'un moratoire sur l'intelligence artificielle est dépourvue de sens si l'ensemble des pays n'y souscrit pas, tout comme il aurait été illusoire, au cours de la guerre froide, de vouloir assurer la sécurité du pays par un désarmement unilatéral. Il n'en reste pas moins qu'il s'agit d'une innovation dont les dangers étaient déjà pressentis dans les années 50 : dans son livre "la vingt-cinquième heure", Virgil Gheorghiu décrit une nouvelle dialectique du maître et de l'esclave, où ce dernier est devenu "technique". Mais cet esclave n'a pas besoin d'un Spartacus pour, à son tour, réduire ses maîtres en esclavage. Il le fait en suscitant chez l'homme un système de valeurs qui le déshumanise.
Dans des temps plus anciens, on n'aurait pas pu concevoir qu'une intelligence artificielle puisse être plus performante que l'intelligence humaine qui l'a créée. Mais l'intelligence d'un champion d'échecs et celle de l'IA qui lui est opposée ne sont pas de même nature : cette dernière a été nourrie de l'expérience accumulée au cours de décennies de championnats, traduite en algorithmes qui peuvent être exploités avec une temporalité qui n'est pas celle du cerveau humain. C'est cette particularité qui explique l'invincibilité du joueur numérique devant le champion. L'émergence de l'intelligence artificielle redonne actualité à cette parabole de l'esclave technique appelé à dominer son créateur, comme le suggère le débat entre les concepteurs eux-mêmes.
Le dévoiement des réseaux sociaux, conçus pour faciliter la communication entre les hommes et les échanges d'idées, illustre le danger de l'esclave technique en l'absence d'une modération publique : ils sont aujourd'hui un cloaque où prolifère une grande quantité de données fausses, mensongères et souvent malveillantes que beaucoup d'utilisateurs acceptent sans aucune vérification par paresse, par absence d'esprit critique, ou tout simplement parce qu'ils n'ont pas la possibilité de vérifier ces informations. Et surtout, ils sont érigés en outil pour calomnier et harceler, souvent de façon anonyme. En cela, ils accomplissent la prophétie véhiculée il y a plus de cinquante ans par le roman de Virgil Gheorghiu. Le danger est grand que l'intelligence artificielle ne soit qu'un nouvel "esclave technique" qui renforcera cette tendance. Par exemple, la création de "jumeaux numériques" permettra de reproduire l'aspect physique, la voix et même les mimiques de son modèle humain. Il est facile de fabriquer une vidéo qui aura toutes les apparences de vérité et d'y montrer une collégienne dans une séquence de film X pour la pousser au suicide, nous dit Luc Ferry dans son livre "IA : grand remplacement ou complémentarité" (pages 189-190).
Entre ceux qui croient à une mise en service de l'IA au profit des humains et ceux qui mettent en garde contre ses dérives, une espérance fait son chemin dans la tête des plus fous : la quête de l'immortalité, juqu'ici portée par les religions qui promettaient une vie après la mort. serait aujourd'hui assurée par la transposition numérique de notre pensée et sa conservation sur les bases de données, mais que ferons-nous d'une telle immortalité ? Pour beaucoup - dont Luc Ferry et moi-même - cette idée relève de l'absurdité la plus totale car faute de pouvoir reproduire les humains avec leurs souvenirs et leurs sentiments, les "doubles numériques" ne seront jamais que des contrefaçons . De plus, ceux qui auront été ainsi créés seront conservés sur de gigantesques bases de données, très gourmandes en énergie et en eau de refroidissement. Il suffira d'une rupture sur l'un ou l'autre de ces paramètres pour provoquer la "mort" numérique de la contrefaçon. Enfin, en raison de la limitation même des ressources nécessaires, cette pseudo-immortalité ne sera jamais généralisable à l'ensemble de l'Humanité. Il convient donc de se demander si c'est vraiment ça que nous voulons. Cette croyance de l'immortalité numérique peut-être érigée en secte par des gourous influents et puissants qui y voient avant tout leur intérêt. Après tout, les religions sont-elles autre chose que l'institutionalisation de sectes qui ont réussi ?