Plus de 150 millions d’unités d’Alexa, l’assistant intelligent d’Amazon, ont été vendues dans le monde depuis son lancement. Rien qu'aux États-Unis, près de 69% des américains utilisent Amazon Echo. Chacune des petites évolutions du service a donc un impact profond et insoupçonné. Dernière actualité en date, Amazon souhaite implémenter un service de deep-voice permettant de personnaliser Alexa avec la voix d’une personne décédée.
Suite à la pandémie mondiale de Covid-19, beaucoup d'entre nous ont perdu un proche. Amazon s’est donc mis en tête de permettre à ses utilisateurs de continuer à interagir avec leur proches partis prématurément. Ce qui n’est encore à ce stade qu’une expérience pourrait devenir réalité dans les prochains mois. Rohit Prasad, le chef scientifique d’Alexa AI a montré une démo du service envisagé à la conférence annuelle MARS tenue sur les questions d’intelligence artificielle et de conquête spatiale, les deux chevaux de bataille de Jeff Bezos, le patron d’Amazon.
Le système serait capable d’apprendre à reproduire n’importe quelle voix à l’aide d’un échantillon d’une minute. En premier lieu, l’usage des données pose question. Où vont être stockés ces échantillons, pour combien de temps, seront-ils uniquement destinés à cet usage ou à d’autres buts ? Pourra-t-on supprimer cet échantillon définitivement de tous les serveurs d’Amazon ? Quelles autorisations seront nécessaires ? Normalement en France les droits de la personne disparaissent à la mort, rien ne semble donc interdire l’usage d’une voix après le décès. Mais qu’en est-il des vivants ? Pourra-t-on donner à Alexa la voix de son ex-petite amie, de son ex-mari, de son enfant décédé ? Quels seront les effets sur les mécanismes du deuil ? Comment tourner la page quand celui qui nous manque reste à chaque instant présent ?
Ce type de services exploite les fantasmes et les pulsions les plus élémentaires comme le deuil ou le manque de la personne aimée pour attirer les utilisateurs. Ils n’ont que très peu souvent un rapport direct avec un quelconque « bénéfice utilisateur », celui-ci ne faisant partie que d’une stratégie marketing formulée pour améliorer l’acceptabilité du produit. La force de frappe d’Amazon permet d’imposer ce service dans des millions de foyers sans effort et de récolter des centaines de milliers voire des millions d’échantillons gratuitement pour entrainer une intelligence artificielle spécialisée. Une fois le dispositif déployé et activé, Amazon dispose d’un outil qu’aucune autre entreprise ne peut mobiliser (sauf Google, Apple et Meta qui sont comparables en taille et en moyen) et se positionne donc de facto parmi les leaders de la voix synthétique.
Difficile par la suite de faire émerger de puissantes entreprises capables de rivaliser avec Amazon (ou Apple) dans ces conditions de déséquilibre concurrentiel. Difficile surtout d’assurer aux utilisateurs un respect total de leur vie privée, du secret de leurs données et de les prémunir contre les effets collatéraux que créeront sans aucun doute ces doudous numériques.