Depuis les premiers jours de la numérisation, les théoriciens parlent d'un nouveau milieu de mémoire, c'est-à-dire d'un changement radical dans la perception de la mort en raison de la présence sociale que les gens conservent en ligne même après leur mort. Gibson[1] a ainsi déclaré que « l'internet imite notre expérience métaphysique des morts, qui ne sont ni ici ni là, mais en quelque sorte partout et nulle part en particulier ». Aujourd'hui, alors que la technologie de l'intelligence artificielle (IA) transforme rapidement de nombreux aspects de la vie humaine, l'un de ses impacts les plus profonds réside dans la manière dont elle remet en question et transforme les frontières traditionnelles entre la vie et la mort. Les outils de l'IA ne se contentent pas de brouiller ces frontières, ils offrent également un moyen de les transcender entièrement. Le concept de clonage numérique de personnes décédées n'est plus une vision issue de la science-fiction, mais une réalité croissante, de nombreuses startups et entreprises technologiques ayant adopté cette forme de « résurrection numérique ». À mesure que cette technologie se répand, elle soulève des questions cruciales sur les implications éthiques, psychologiques et sociétales de la simulation des personnes décédées.
Le développement des avatars numériques posthumes
L'idée d'avatars numériques posthumes a fait son chemin ces dernières années. Si cette notion est depuis longtemps présente dans la fiction spéculative, les progrès récents de l'IA l'ont transformée en un service viable. En 2021, le « Projet Décembre », qui promet de simuler une conversation textuelle avec n'importe qui, avec l'aide de l'IA profonde, a présenté la possibilité d'interagir même avec les personnes décédées[2]. Au fil des ans, les produits existants se sont adaptés à ce projet d'immortalité assistée par la technologie. De nombreuses start-ups promettant la « résurrection numérique » ont été créées dans le monde entier, et de grandes entreprises technologiques ont déposé des demandes de brevet pour les logiciels concernés. Des entreprises comme « Replika », « StoryFile » ou « Eternos » aux États-Unis et « Fu Shou Yuan International Group »[3] en Chine proposent désormais des services d'IA qui permettent aux gens d'interagir avec des recréations numériques de leurs proches décédés, à des prix raisonnables. Ces « deadbots »[4] peuvent permettre au bénéficiaire du service d'interagir avec le défunt en imitant, par exemple, le style d'envoi de textos de ces personnes ou même en effectuant des appels vidéo. Dans d'autres cas, ils permettent aux défunts eux-mêmes d'assister virtuellement à leurs propres funérailles grâce à des vidéos alimentées par l'IA. Grâce à ces services, ces entreprises s'adressent même aux familles en deuil en créant, à un prix abordable, des portraits numériques de leurs proches disparus. Toutefois, il convient de mentionner que, pour l'instant, la plupart de ces entreprises en sont encore aux premiers stades de la production d'avatars. Elles couvrent certains aspects de la communication (messagerie, représentations virtuelles basées sur des vidéos enregistrées, appels vidéo) et ne sont pas encore en mesure de reproduire entièrement la personne décédée. Le processus technique qui sous-tend ces simulations d'IA est basé sur le récit de la vie et la description des souvenirs fondamentaux et des expériences importantes vécus par ces mêmes personnes avant leur décès ou par leurs proches. Ensuite, il s'agit d'insérer les données personnelles de la personne décédée, y compris les messages publiés sur les médias sociaux, dans les systèmes d'IA. En utilisant l'empreinte numérique d'une personne, les entreprises créent des avatars qui peuvent communiquer avec les membres de sa famille. Dans certains cas, ces entreprises requièrent l'autorisation préalable du défunt, ou au moins le consentement des bénéficiaires du service. Cette pratique a toutefois suscité un débat sur les complexités éthiques entourant ce type de technologie, en particulier lorsque le consentement n'a pas été explicitement donné avant la mort ou lorsqu'il est donné par des proches qui traversent un processus de deuil.
Les défis éthiques, psychologiques et réglementaires de la résurrection numérique
Malgré le succès commercial de ces services de résurrection par IA, la réaction du public reste prudente. Beaucoup s'interrogent sur l'impact émotionnel à long terme de l'interaction avec une version numérique du défunt. Les critiques font valoir que si ces technologies apportent du réconfort, elles risquent aussi d'imposer une manière standardisée de traiter le deuil, limitant ainsi l'autonomie de chacun[5]. Dans le même temps, on se demande si les personnes profondément endeuillées sont dans un état d'esprit qui leur permette de décider en toute connaissance de cause d'utiliser ou non ces services.
Outre les effets psychologiques, de graves problèmes de protection de la vie privée sont en jeu. Dans la plupart des juridictions, les lois sur la protection des données ne s'appliquent pas aux personnes décédées, ce qui laisse place à des zones d'ombre éthiques et juridiques. Les entreprises qui créent des clones d'IA de personnes décédées peuvent exploiter ces lacunes dans la réglementation pour commercialiser des données personnelles, violant potentiellement les droits de propriété intellectuelle ou portant atteinte à ce que certains appellent la « vie privée post-mortem », c'est-à-dire le droit d'une personne à contrôler sa réputation et sa mémoire après sa mort[6].
La commercialisation des vies numériques après la mort soulève également des problèmes d'exploitation. Les populations vulnérables, notamment les enfants, les personnes souffrant de troubles mentaux et les personnes ayant des difficultés d'apprentissage, peuvent être particulièrement sensibles à ces services. En outre, les motivations financières des entreprises technologiques pourraient éroder davantage l'autonomie des utilisateurs, en poussant les personnes en deuil vers des services payants sans en mesurer pleinement les conséquences éthiques[7]. Les « grief bots » peuvent également être utilisés en dehors du contexte thérapeutique, ce qui soulève d'autres questions.
À mesure que le secteur de la résurrection numérique se développe, la demande de surveillance réglementaire s'accroît. Certains experts estiment que les chatbots d'IA conçus pour aider les gens à faire face à une perte devraient être classés comme des dispositifs médicaux[8], soumis à des exigences de transparence strictes, à des protocoles de protection de l'utilisateur et à des limites d'âge. Le consentement mutuel, la transparence et l'utilisation responsable des données devraient être les fondements de tout service d'IA traitant de questions liées à la mort. Parmi les solutions viables, il a été proposé de ne s'engager que par l'intermédiaire de plateformes dédiées, avec des limites d'âge appropriées, des mécanismes d'exclusion, le droit spécial d'être laissé tranquille et la communication adéquate des risques potentiels aux utilisateurs. En outre, l'essor de la conception « thanatosensible » - une approche de la conception des interactions qui tient compte de la nature délicate de la mort et du deuil - sera essentiel pour façonner l'évolution de ces technologies[9].
En résumé, si l'IA a ouvert de nouvelles portes sur la façon dont nous abordons la mort, elle exige également une réflexion approfondie. Alors que les entreprises technologiques repoussent les limites de ce qui est possible dans le domaine de la résurrection numérique, les décideurs politiques doivent agir rapidement pour s'assurer que ces services soient non seulement sûrs, mais aussi respectueux de la dignité personnelle et de la vie privée. Les recherches en cours sur l'influence de la technologie sur les normes sociétales entourant la mort sont essentielles pour comprendre ses implications plus larges sur le deuil et la commémoration. Seules une réglementation responsable et une conception éthique permettront aux simulations de défunts alimentées par l'IA de soutenir véritablement le processus de deuil sans causer de dommages involontaires et, au contraire, d'offrir des condoléances à ceux qui souffrent et un hommage post mortem respectueux à ceux qui sont déjà partis[10].
Anastasia Nefeli Vidaki, chercheuse doctorante à la Vrije Universiteit Brussel, Cyber & Data Security Lab, LSTS, pour Carta Academica (https://www.cartaacademica.org/).
Les points de vue exprimés dans les chroniques de Carta Academica sont ceux de leur(s) auteur(s) et/ou autrice(s) ; ils n’engagent en rien les membres de Carta Academica, qui, entre eux d’ailleurs, ne pensent pas forcément la même chose. En parrainant la publication de ces chroniques, Carta Academica considère qu’elles contribuent à des débats sociétaux utiles. Des chroniques pourraient dès lors être publiées en réponse à d’autres. Carta Academica veille essentiellement à ce que les chroniques éditées reposent sur une démarche scientifique
[1] Gibson, M. (2007). Death and mourning in technologically mediated culture. Health Sociology Review, 16(5), 415-424.
[2] Lindner, M. (2024). Personne ne sait combien de défunts ont déjà retrouvé la vie sous forme d’IA interactive, https://www.lesoir.be/615013/article/2024-08-08/personne-ne-sait-combien-de-defunts-ont-deja-retrouve-la-vie-sous-forme-dia.
[3] Feng, E. (2024). Chinese companies offer to 'resurrect' deceased loved ones with AI avatars. https://www.npr.org/2024/07/18/nx-s1-5040583/china-ai-artificial-intelligence-dead-avatars.
[4] Hollanek, T., Nowaczyk-Basińska, K. (2024). Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry. Philos. Technol. 37, 63. https://doi.org/10.1007/s13347-024-00744-w
[5] McCartney, M. (2024). China Using AI to Bring People Back From Dead. https://www.newsweek.com/china-using-ai-bring-back-dead-1928853.
[6] Edwards, L., & Harbinja, E. (2013). Protecting post-mortem privacy: Reconsidering the privacy interests of the deceased in a digital world. Cardozo Arts & Entertainment Law Journal, 32, 84–126. https://doi. org/ 10. 2139/ ssrn. 22673 88.
[7] Lodhi, A. (2024). ‘Never say goodbye’: Can AI bring the dead back to life?. https://www.aljazeera.com/news/2024/8/9/never-say-goodbye-can-ai-bring-the-dead-back-to-life.
[8] Lindemann, N. F. (2022). The Ethics of ‘Deathbots.’ Science and Engineering Ethics, 28(60), 1–16. https://doi. org/ 10. 1007/ s11948- 022- 00417-x.
[9] Massimi, M., Charise, A. (2009). Dying, death, and mortality: towards thanatosensitivity in HCI. In CHI ’09 Extended Abstracts on Human Factors in Computing Systems (CHI EA ’09). Association for Computing Machinery, New York, NY, USA, 2459–2468. https:// doi. org/ 10. 1145/ 15203 40. 15203 49.
[10] Wilson-Bushell, A. (2024). Using AI for digital resurrections and the potential legal ramifications. https://www.simkins.com/news/using-ai-for-digital-resurrections-and-the-potential-legal-ramifications.