À San Francisco on se fait scanner l’iris pour établir son identité, scène digne de la série Black Mirror mais qui n’est pas de la science-fiction. Une fois muni de ce sésame, les titulaires d’une identité numérique grâce à la World App peuvent verser ou recevoir de l’argent, acheter, jouer et bien sûr communiquer. Douze millions de personnes se sont enregistrées, il existe 7.000 serveurs aux États-Unis (les Orbs), 1.500 dans vingt-trois pays, le nombre d’utilisateurs grimpant en flèche.
Les « pionniers » (Early Adopters) se voient offrir des incitations financières sous forme de token, une monnaie virtuelle. La World Foundation (Fondation mondiale) derrière cette opération espère que ce « mécanisme unique en son genre aboutira à long terme (…) à une acceptation très étendue ».
Les lois européennes protègent les données personnelles mais ce n’est pas le cas de l’autre côté de l’atlantique ni sur la plus grande partie de la planète. Les perspectives de croissance sont donc florissantes. Une seule certitude : cela devrait changer notre quotidien plus radicalement que le smartphone.
La course à la "super-app"
Car derrière cette idée – en échange de votre identité vous accédez à des services variés, et bientôt vous ne pourrez plus vous passer d’un tel confort -, pilotée par Sam Altman, patron d’OpenAI et de ChatGPT, sous le nom de Tools for Humanity (Des outils pour l’humanité), il y a, selon le quotidien autrichien Der Standard, une compétition féroce entre lui et deux autres géants du numérique : Elon Musk et Mark Zuckerberg.
Musk travaille à transformer son réseau social X en « super-app » capable de concurrencer le chinois WeChat, un portail unique avec lequel on pourrait au choix échanger avec autrui, faire des transactions et son shopping, accomplir des démarches administratives. Zuckerberg, qui parade avec ses Ray-Ban connectées et ne veut plus pianoter sur un clavier mais « parler » sans intermédiaire à l’intelligence artificielle, table sur les nombreux utilisateurs de Facebook pour propulser sa « Meta AI App » - déjà active à l'échelle embryonnaire, comme le savent trop bien ceux qui emploient Whatsapp.
On ne sait pas encore qui gagnera cette course, dont l’enjeu commercial est comme d’habitude de s’approprier nos données pour les vendre ensuite. Mais ce n’est pas seulement une compétition technique ou une rivalité entre requins capitalistes. Celui qui contrôlera cette application polyvalente contrôlera sans doute le monde de demain, dont l’intelligence artificielle, l’IA, sera indissociable.
Bien que le terme agace beaucoup d’experts, qui soulignent que l’IA est foncièrement « bête » et procède jusqu’à présent par calcul de probabilités, ses avancées sont vertigineuses, dopées par la concurrence avec la Chine.
Le spectre d'une IA générale
Le spectre d’une IA générale (IAG) autonome, qui ouvrirait une nouvelle ère en rupture qualitative avec les progrès cumulés depuis trois siècles, n’est pas un pur fantasme. Musk lui-même, décidé à coiffer les autres au poteau, nourrit des doutes. Il a signé deux textes alertant sur les risques de l’IA, dont l’un demandait un moratoire de six mois.
Tout cela est dépassé de toute façon, seule l’emporte désormais la course entre d’un côté la grande puissance technologique qu’est encore la côte ouest du Pacifique, plus le Texas, avec l’appui de Washington, de l’autre la puissance montante qu’est la rive orientale de l’Asie, avec celui de Pékin.
C’est à cette lumière qu’il faut décrypter le premier entretien du nouveau pape avec les cardinaux. Il s’est effectué à huis-clos et d’après la communication officielle l’IA était l’un de ses points saillants. Le Vatican a pris soin de préciser que l’élu avait pris le nom de Léon XIV parce que l’Église catholique veut accompagner la nouvelle « révolution industrielle » comme son prédécesseur Léon XIII avait accompagné la première.
Les commentateurs se sont référés à la « doctrine sociale » du catholicisme, par laquelle, après avoir longtemps refusé le progrès ou l’idée d’une égalité entre individus, cette religion s’est efforcée à la fin du 19ème siècle de répondre à l’essor du capitalisme et du communisme.
Mais il est intéressant de lire la note publiée par le Vatican le 28 janvier 2025 sur les « relations entre l’intelligence artificielle et l’intelligence humaine » et intitulée en latin Antiqua et nova (qu’on pourrait traduire par : Des choses anciennes et nouvelles, référence transparente à l’encyclique de Léon XIII acceptant la modernité en 1891 : Rerum novarum).
Rédigé par deux « dicastères » (ministères), celui pour la Doctrine de la Foi et celui pour la Culture et l’Éducation, ce texte se garde de condamner en bloc l’IA qui peut apporter « une aide à la décision » et beaucoup de bienfaits.
Une nouvelle religion ?
Il pointe pourtant « un certain optimisme » parmi « certains cercles de scientifiques et de futurologues » quant à l’avènement d’une intelligence artificielle générale (IAG). Surtout il met en exergue le principal risque aux yeux du catholicisme : que « certains soient tentés de se tourner vers l’IA en quête de sens et d’épanouissement » et développent ainsi « des désirs qui ne peuvent trouver leur véritable satisfaction que dans la communion avec Dieu ».
En clair, le Vatican identifie le danger de voir émerger une religion concurrente. Sa tâche s’avère d’autant plus complexe que la notion de hiérarchie – entre hommes et femmes, entre hétérosexuels et homosexuels – qui reflète celle entre l’instance divine et le croyant, est au cœur de la foi religieuse.
De fait les conditions semblent réunies pour qu’une partie de l’humanité choisisse de révérer l’entité supérieure que serait une IAG. Même si cette dernière est le produit de notre travail, comme le rappelle la note, personne ne sait au juste comment elle se comporterait avec des êtres humains, souvent guidés par leurs émotions autant que par leur intellect. Pour les pessimistes, comme nous avec nos cousins les singes.
Deux films, Ex Machina d’Alex Garland et Under the Skin (Sous la peau) de Jonathan Glazer, indiquent que des êtres intelligents d’une autre espèce que la nôtre n’auraient pas la même logique ni la même empathie. L’androïde qui s’échappe grâce à un humain amoureux le laisse emprisonné avec une parfaite indifférence, et la créature venue d’une autre planète regarde impavide se noyer un couple près d’une plage, puis la marée recouvrir son bébé.
Il y a une bonne décennie l’historien des sciences George Dyson relevait dans une interview que l’une des questions qui revenaient dans le public de ses conférences était de savoir quand les machines auraient gagné. « Ma réponse est : elles ont déjà gagné ». Peut-être que les générations futures, disait-il, trouveront que nous avons eu une chance inouïe d’assister à la naissance d’un nouveau monde, « comme d’observer le Big Bang ». Mais peut-être aussi, ajoutait ce fils d’un physicien de Princeton dont la baby-sitter était la secrétaire d’Einstein, que « le Diable attend » - notion étonnamment religieuse.
Biais optimiste
Tel Dyson, auteur de La cathédrale de Turing où il explorait les liens entre développement informatique, armement atomique et recherche biologique, nous sommes partagés entre fascination et inquiétude. Et comme pour l’environnement, dont trop d’entre nous refusent de voir la dégradation, nous avons un biais optimiste sans lequel notre espèce n’aurait pas prospéré depuis des milliers d’années.
Souvenons-nous aussi que le nazisme (Glazer lui a consacré un autre film, La zone d’intérêt), avec lequel le catholicisme a tenté de composer, ne tolérait pas les organisations qui ne lui étaient pas directement liées et a fini par interdire toutes les autres. Bien des fidèles ont quitté à l’époque les églises pour sacrifier au culte hitlérien. L’ultime manifestation publique à Vienne juste après l’Anschluss fut celle de jeunes catholiques, leur mot d’ordre était « Christ ist unser Führer » (Notre chef c’est le Christ – sous-entendu, pas Hitler). Le lendemain, les nazis ont envahi l’archevêché, dévastant les bureaux, brutalisant et même défenestrant les employés.
Cette expédition punitive ne saurait faire oublier la complicité des églises avec le régime et la persécution. Un antisémitisme structurel, qui accusait les Juifs de ne penser qu’à « l’Argent » et d’avoir « tué le Christ », y a fortement contribué. Environ un tiers des catholiques et deux tiers des protestants luthériens ont soutenu le nazisme en Allemagne comme en Autriche. Il faudra attendre l’assassinat de malades incurables et autres « déficients » mentaux pour que les églises élèvent la voix, obligeant les nazis à stopper "l'opération T4".
Préoccupations eugénistes
Aujourd’hui on voit ressurgir des préoccupations eugénistes, certes pas avec cette radicalité. Musk, grâce à son entreprise Neuralink, veut « augmenter » l’intelligence des humains qui pourront se le permettre financièrement. Il sème ses gènes soi-disant de meilleure qualité : il a une bonne douzaine d’enfants. Il faut prendre au sérieux son projet d’améliorer intellectuellement (jusqu’alors les animaux greffés par Neuralink sont morts) les élites d’homo sapiens, qui émane de l’homme le plus riche du monde, un allié de Trump.
Le 21 mai doit être annoncé un projet sportif ouvertement transhumaniste, celui de "jeux améliorés" admettant le dopage. On pourrait croire que son promoteur, l'Australien Aron D'Souza, qui assure qu'il s'agit d'un projet scientifique dont les retombées en matière d'allongement de la vie seront juteuses, est un "Dr Folamour" sorti d'un film de Kubrick. Mais il a réussi à se faire financer entre autres par Peter Thiel, l'un des grands investisseurs de la tech, et par Donald Trump Junior, le fils aîné du président. Sans compter un partisan déclaré de l'amélioration de l'espèce humaine, le généticien George Church, professeur à Harvard. Il n'est pas surprenant que ce genre d'entreprise "disruptive" nous vienne des États-Unis, beaucoup plus libéraux sur le plan éthique, ni qu'elle s'inscrive de façon assumée dans le contexte MAGA.
"Mon corps, mon choix" : le slogan féministe - qui a porté depuis les années 70 l'émancipation de catégories longtemps dominées comme les femmes, les homosexuels et les trans, la revendication du droit d'interrompre une grossesse non désirée - se voit ainsi détourné par M. D'Souza.
Nous avons désormais face à nous des nihilistes, des gens qui ont l’ambition d’engloutir des ressources, d’amasser encore plus d’argent et de pouvoir. L’humain ? C’est leur moindre souci. Ils survivront ailleurs si la Terre doit périr.