geraldholubowicz
Journaliste de formation, maintenant chef de produit spécialisé en innovation éditoriale, j'étudie l'impact des médias synthétiques (deepfakes) sur la fabrique d'une culture visuelle numérique.
Abonné·e de Mediapart

26 Billets

0 Édition

Billet de blog 2 mai 2021

Leonid Volkov a-t-il été victime d'un deepfake?

Leonid Volkov a-t-il été victime d’un deepfake ? Il semble que non, mais cette allégation pointe les limites de la détection des deepfakes.

geraldholubowicz
Journaliste de formation, maintenant chef de produit spécialisé en innovation éditoriale, j'étudie l'impact des médias synthétiques (deepfakes) sur la fabrique d'une culture visuelle numérique.
Abonné·e de Mediapart

Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.

Les journaux du monde entier ont relayé l’histoire. Le Premier ministre Néerlandais et d’autres représentants européens du Royaume Unis, de Lettonie, Lituanie et d’Estonie se seraient entretenus sur zoom avec un deepfake de Leonid Volkov. Le chef de cabinet d’Alexei Navalny principal opposant de Vladimir Poutine aujourd’hui en prison, aurait démenti avoir eu cette conversation tandis que d’autres contacts affirmaient avoir discuté avec un deepfake. Alors, Leonid Volkov a-t-il été victime d’un deepfake ?

Passé les gros titres, le lecteur avisé décèlera rapidement la prudence des journalistes néerlandais qui couvrent cette affaire depuis quelques jours. Pour rappel, l’histoire se déroule entre mars et fin avril de cette année ou différents représentants de parlements européens (Lettonie, Lituanie, Estonie, Pays-Bas) affirment avoir eu une conversation avec un individu se faisant passer pour Leonid Volkov. La manipulation aurait été réalisée à l’aide d’un filtre Zoom, similaire à celui employé pour le filtre d’Elon Musk 1 qui a tant fait parler de lui à sa sortie.

© Gerald Holubowicz

Pendant quelques jours, déclarations contradictoires et fausses preuves se sont étalées sur les réseaux sociaux. Volkov parlant lui-même d’une supercherie montée à l’aide d’un deepfake 2. Mais la blague n’aura pas tenu longtemps et c’est avec les révélations publiées dans « The Verge » 3 que la supercherie prend fin. Vladimir Kuznetsov et Alexei Stolyarov (l’homme qui ressemble à Volkov) ont confessé avoir réalisé la supercherie avec du simple maquillage et un angle de caméra suffisamment bien choisi pour tromper les interlocuteurs de la conférence Zoom. La technique ressemble à celle des Yes Men 4 et repose sur une simple ressemblance avec la cible de la manipulation.

L’excuse du « deepfake »

L’affaire avait également fait grand bruit en 2019, le Wall Street Journal rapportait qu’une compagnie assurée par Euler Hermes avait été victime d’une extorsion de 243 000 $ par une personne utilisant un deepfake audio 5. Le nom de la compagnie n’avait pas été divulgué à l’époque et cette révélation avait relancé le débat sécuritaire autour de l’usage frauduleux des deepfakes.

The liar dividend » ou l’excuse du menteur permet d’invoquer les deepfakes pour échapper à ses responsabilités.

« The liar dividend » ou l’excuse du menteur permet d’invoquer les deepfakes pour échapper à ses responsabilités.

Or, compte tenu de l’état de la technologie à l’époque pour créer des deepfakes audio, il y avait lieu de s’interroger sur la véracité des déclarations de la compagnie extorquée. À l’occasion d’une interview avec Nicolas Obin, maître de conférences à la Faculté des Sciences de Sorbonne Université et chercheur dans l’équipe Analyse et Synthèse des Sons à l’Ircam, dans le cadre de mes recherches, nous avions évoqué l’affaire. Il m’avait alors fait part de ses doutes quant à l’utilisation d’un deepfake audio et penchait davantage sur l’imposture téléphonique.

D’autres allégations à l’usage de deepfakes se sont avérées fausses. Le président Ali Bongo au Gabon 6, le musicien Ouïghour Abdurehim Heyit 7, le président algérien Abdelmadjid Tebboune 8, les allégations concernant l’usage de deepfakes à fins politiques s’intensifient.

Les deepfakes deviennent l’alibi parfait des manipulations, que ce soit pour minimiser la responsabilité des crédules, pour souligner la perfidie des opposants, soutenir les thèses de complot les plus folles ou plus prosaïquement appuyer la légitimité d’une action politique douteuse. Les deepfakes n’ont pas fini de jouer un rôle dans la communication politique. Objectif principal : brouiller les pistes, perturber la lecture des évènements, instiller le doute des deux côtés de l’argument, soutenir une stratégie de polarisation du débat à des fins politiciennes. ⚠️ 9

La caisse de résonance que constituent les médias en ligne amplifie par ailleurs les allégations et — le rythme de l’information aidant à faire oublier les articles correctifs — cristallise dans l’esprit du public une ligne narrative anxiogène autour des médias synthétiques et de leur rôle délétère sur la démocratie. Résultat, une image très imprécise et polarisée de la question des deepfakes et de leur usage imprègne la sphère publique jusqu’aux responsables politiques qui — en réaction — imaginent des solutions législatives approximatives ou inutiles 10.

L’approche technocentrée des contre-mesures des deepfakes, soutenue par une sorte de solutionnisme technologique poussée par des acteurs tels que Facebook ou Microsoft, ne répond pas à cet immense défi qui exploite la « prime au menteur ». Il semble illusoire de chercher dans les dispositifs techniques, les détecteurs de deepfakes vendus ici ou là, une réponse transversale aux problématiques que soulèvent les médias synthétiques.

Le développement de l’éducation aux médias et particulièrement à l’impact de ces nouveaux types de contenus semble davantage porter ses fruits 11 en donnant les outils intellectuels d’analyse et de contextualisation nécessaires aux citoyens pour correctement appréhender l’environnement numérique dans lequel ils évoluent.

L’encapacitation qui en résulte permet de libérer les individus d’un filtre technique principalement maitrisé par des entités privées et favorise l’émergence d’une conscience collective des enjeux liés aux médias synthétiques et à l’usage des techniques d’intelligence artificielle.

Cet article a été publié pour la première fois sur deepfake.media

Références



1. « DeepFake Elon Musk bombs a Zoom call » https://www.youtube.com/watch?v=JiJKXCkWH3w

2. la publication Facebook où Leonid Volkov suggère lui-même que son double pourrait s’inscrire dans l’ère des deepfakes  https://t.co/RlInLtDAhm?amp=1

3. “Deepfake” that supposedly fooled European politicians was just a look-alike, say pranksters, The Verge, 30 avril 2021

4. The Yes Men, Framer Framed, dans “Doe does the right thing” 2004

5. « Thieves Used Audio Deepfake of a CEO to Steal $243,000 », Vice, 2019

6. « Les “deepfakes”, arme de désinformation massive », Jeune Afrique, 11 avril 2019

7. Abdurehim Heyit Chinese video “disproves Uighur musician’s death,” BBC, 11 février 2019

8. Le « vrai » Président Tebboune aurait fait « une apparition » surprenante !, le 7 TV, 13 décembre 2020

9. Sur ce point, lisez la précieuse étude de Kaylyn Jackson Schiff, Daniel Schiff et Natalia Bueno. Schiff, Kaylyn J, Daniel Schiff, and Natalia Bueno. 2021. “The Liar’s Dividend: The Impact of Deepfakes and Fake News on Trust in Political Discourse.” OSF. April 29. doi:10.17605/OSF.IO/QPXR8.

10. Olivia Grégoire a-t-elle raison de craindre que les deepfakes influencent les présidentielles en 2022 ? 16 avril 2021

11. Hwang Y, Ryu JY, Jeong SH. Effects of Disinformation Using Deepfake: The Protective Effect of Media Literacy Education. Cyberpsychol Behav Soc Netw. 2021 Mar; 24(3):188–193. doi: 10.1089/cyber.2020.0174. Epub 2021 Mar 1. PMID: 33646021.

Bienvenue dans le Club de Mediapart

Tout·e abonné·e à Mediapart dispose d’un blog et peut exercer sa liberté d’expression dans le respect de notre charte de participation.

Les textes ne sont ni validés, ni modérés en amont de leur publication.

Voir notre charte

À la Une de Mediapart

Journal
#MeToo : Valérie Pécresse veut faire bouger la droite
Mardi, Valérie Pécresse a affiché son soutien aux victimes de violences sexuelles face au journaliste vedette Jean-Jacques Bourdin, visé par une enquête. Un moment marquant qui souligne un engagement de longue date. Mais, pour la suite, son équipe se garde bien de se fixer des règles.
par Ilyes Ramdani
Journal — Violences sexuelles
L’ancien supérieur des Chartreux de Lyon, Georges Babolat, accusé d’agressions sexuelles
Selon les informations de Mediacités, trois femmes ont dénoncé auprès du diocèse de Lyon des attouchements commis selon elles lors de colonies de vacances en Haute-Savoie par le père Babolat, décédé en 2006, figure emblématique du milieu catholique lyonnais.
par Mathieu Périsse (Mediacités Lyon)
Journal — Asie
Clémentine Autain sur les Ouïghours : « S’abstenir n’est pas de la complaisance envers le régime chinois »
Après le choix très critiqué des députés insoumis de s’abstenir sur une résolution reconnaissant le génocide des Ouïghours, la députée Clémentine Autain, qui défendait la ligne des Insoumis à l’Assemblée nationale, s’explique.
par François Bougon et Pauline Graulle
Journal
Sondages de l’Élysée : le tribunal présente la facture
Le tribunal correctionnel de Paris a condamné ce vendredi Claude Guéant à huit mois de prison ferme dans l’affaire des sondages de l’Élysée. Patrick Buisson, Emmanuelle Mignon et Pierre Giacometti écopent de peines de prison avec sursis.
par Michel Deléan

La sélection du Club

Billet de blog
Notre plan B pour un service public de l'énergie
[Rediffusion] Pour « la construction d’un véritable service public de l’énergie sous contrôle citoyen » et pour garantir efficacité et souveraineté sur l’énergie, celle-ci doit être sortie du marché. Appel co-signé par 80 personnalités politiques, économistes, sociologues, historiens de l’énergie dont Anne Debrégeas, Thomas Piketty, Jean-Luc Mélenchon, Aurélie Trouvé, Gilles Perret, Dominique Meda, Sandrine Rousseau…
par service public énergie
Billet de blog
Électricité d'État, non merci !
La tension sur le marché de l’électricité et les dernières mesures prises par l’Etat ravivent un débat sur les choix qui ont orienté le système énergétique français depuis deux décennies. Mais la situation actuelle et l'avenir climatique qui s'annonce exigent plus que la promotion nostalgique de l'opérateur national EDF. Par Philippe Eon, philosophe.
par oskar
Billet de blog
Le nucléaire, l'apprenti sorcier et le contre-pouvoir
Les incidents nucléaires se multiplient et passent sous silence pendant que Macron annonce que le nucléaire en France c'est notre chance, notre modèle historique.
par Jabber
Billet de blog
Fission ou fusion, le nucléaire c’est le trou noir
Nos réacteurs nucléaires sont en train de sombrer dans une dégénérescente vieillesse ; nos EPR s’embourbent dans une piteuse médiocrité et les docteurs Folamour de la fusion, à supposer qu’ils réussissent, précipiteraient l’autodestruction de notre société de consommation par un effet rebond spectaculaire. Une aubaine pour les hommes les plus riches de la planète, un désastre pour les autres.
par Yves GUILLERAULT