geraldholubowicz
Journaliste et chef de produit spécialisé en innovation éditoriale, j'étudie l'impact des médias synthétiques (deepfakes) sur la fabrique d'une culture visuelle numérique.
Abonné·e de Mediapart

35 Billets

0 Édition

Billet de blog 4 mars 2022

geraldholubowicz
Journaliste et chef de produit spécialisé en innovation éditoriale, j'étudie l'impact des médias synthétiques (deepfakes) sur la fabrique d'une culture visuelle numérique.
Abonné·e de Mediapart

La cyberguerre passe-t-elle par les deepfakes ?

Le 24 février dernier, Vladimir Poutine déclenchait une offensive contre l’Ukraine. Ce nouveau théâtre d’opérations verra-t-il la montée en force des deepfakes ? Les médias synthétiques vont-ils jouer un rôle dans la guerre de désinformation qui se joue sur le terrain ?

geraldholubowicz
Journaliste et chef de produit spécialisé en innovation éditoriale, j'étudie l'impact des médias synthétiques (deepfakes) sur la fabrique d'une culture visuelle numérique.
Abonné·e de Mediapart

Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.

Putin deepfake: #StandWithUkraine © Bestwishes AI

Les deepfakes inquiètent depuis 4 ans. Quatre ans pendant lesquels, médias et experts se sont relayés pour alerter sur le potentiel néfaste des médias synthétiques. La vidéo de Jordan Peele 1 mettant en scène un deepfake de Barack Obama insultant Donald Trump a engrangé des millions de vues sur YouTube et déclenché une panique tenace chez tous les acteurs et les observateurs de la vie politique en occident.

Depuis, journalistes et organisations non gouvernementales observent le terrain de la désinformation à l’affut du moindre signe d’un deepfake politique capable de créer la fameuse Infocalypse promise par Nina Schick 2. Certaines vidéos ont bien provoqué quelques soubresauts locaux. Au Gabon, aux Philippines, en Inde, certains acteurs du monde politique ont, soit utilisé les deepfakes à leur avantage, soit été victimes de pressions à leur encontre orchestrées à l’aide de ces vidéos manipulées, mais rien qui n’ait jusque là ressemblé à une catastrophe démocratique. Pourtant les occasions d’expérimenter ces nouveaux objets de désinformation n’ont pas été des moindres : élections aux États-Unis, au Brésil, en Allemagne, en Europe…

À la guerre comme À la guerre

Le conflit qui oppose la Russie à l’Ukraine pourrait s’illustrer comme le premier véritable évènement mettant activement en scène des deepfakes dans le cadre d’une campagne de désinformation avérée. D’ores et déjà, le camp des soutiens ukrainiens a créé de très évidents deepfakes satyriques pour appeler à soutenir le président Zelensky et la population ukrainienne. Les fondateurs de l’app Reface 3 qui permet de réaliser des faceswaps à l’aide de son téléphone portable ont passé l’icône de l’app aux couleurs du drapeau ukrainien et ajouté une fonctionnalité permettant d’apposer son visage sur un clip de soutien reprenant les vidéos tournées par Zelensky dans les premiers jours de l’invasion.

La vidéo de soutien exportée avec mon visage pour l’occasion du test © Journalisme Design

D’autres vidéos circulent sur YouTube, notamment celle d’un extrait du film de Quentin Tarrentino, Inglorious Bastard que le créateur de deepfakes Crtl-Shift-Face a détourné pour réserver à Vladimir Poutine un sort peu enviable 4. En dépit du message qu’elles véhiculent, ces vidéos ne peuvent être confondues avec de véritables documents. On reste bien dans le registre de la parodie, de la manipulation évidente et il ne semble pas que le camp ukrainien ait produit de deepfakes dont l’objectif était de servir un message de propagande aux forces russes.

Propagande plus sérieuse

Tweet émanant du ministère de la défense ukrainien mettant en garde contre la possible diffusion de deepfakes faisant état d’une capitulation

Côté Russe, la réalité est tout autre et on rapporte déjà un certain nombre de tentatives destinées à démobiliser les forces militaires ukrainiennes. Dans un tweet datant du 2 mars, le ministère de la Défense ukrainienne met en garde les populations et les militaires contre la diffusion de deepfakes faisant état d’une capitulation de Zelensky.

Pour le moment aucune vidéo n’a fait surface, mais la menace semble suffisamment sérieuse pour qu’un communiqué officiel soit émis.

Dans le même temps, Meta a annoncé avoir banni les profils d’une quarantaine de comptes opérés depuis la Russie et ciblant des attaques contre différents intérêts ukrainiens.

La correspondante de Time corrobore les déclarations du ministre de la Défense Reznikov.

« Au cours des dernières 48 heures, nous avons découvert un réseau relativement petit d’environ 40 comptes, pages et groupes sur Facebook et Instagram

. Ils ont été exploités depuis la Russie et l’Ukraine et ont ciblé des personnes en Ukraine sur plusieurs plateformes de médias sociaux et via leurs propres sites Web. Nous avons supprimé cette opération, bloqué le partage de leurs domaines sur notre plate-forme et partagé des informations avec d’autres plates-formes technologiques, des chercheurs et des gouvernements. Lorsque nous avons interrompu ce réseau sur notre plate-forme, il y avait moins de 4 000 comptes Facebook qui suivaient l’une ou plusieurs de ses pages et moins de 500 comptes qui suivaient un ou plusieurs de ses comptes Instagram. » 5.

Irina Kerimova de Kharkiv est un profil généré par une IA
Vladimir Bondarenko est un blogger pro russe basé à Kiev. C’est aussi une pure fiction dont le visage a été généré par un GAN.

Ces comptes, rapporte Ben Collins 6, le correspondant de NBC News, disposaient de profils générés à l’aide d’un service du type « ThisPersonDoesNotExist.com » qui permet de créer des portraits synthétiques en quelques clics. D’autres cas de faux profils avaient fait parler d’eux comme ceux en 2020 de Maisy Kinsley et Katie Jones 7 ou encore celui d’Oliver Taylor 8.

La prolifération de faux comptes animés par des organes de renseignements privés ou sous contrat avec des états étrangers pose de plus en plus de problèmes notamment dans le cadre des secrets défense et du secret des affaires. Dans le cas du conflit Russo-Ukrainien, on assiste à une montée en puissance de l’effort de désinformation et de propagande dans lequel les deepfakes trouvent une place tout à fait pertinente. Les prochaines semaines permettront de voir si les peurs nourries au sujet des médias synthétiques s’avèrent justifiées ou si, pour cette fois-ci encore, leurs effets resteront marginaux.

Références

1. Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News, Cristian Vaccari et Andrew Chadwick, Mars 2020 | La vidéo: You Won’t Believe What Obama Says In This Video!, Jordan Peele/Buzzfeed News, le 17 avril 2018
2. Infocalypse : la propagation des hypertrucages menace la société, Nadia Naffi, Ann-Louise Davidson, François Berger, The Conversation, le 20 avril 2021

3. https://hey.reface.ai/

4. Inglorious Bastard [Deepfake], Ctrl-Shift-Face, le 2 mars 2022

5. Updates on Our Security Work in Ukraine, Meta, 27 février 2022

6. le thread de Ben Collins en date du 28 février 2022 sur Vladimir Bondarenko et Irina Kerimova

7. Cybersécurité et deepfakes, une menace sérieuse, journalism.design, le 21 mars 2020

8. Oliver Taylor, étudiant modèle et pure fiction, journalism.design, le 28 juillet 2020

Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.

Bienvenue dans le Club de Mediapart

Tout·e abonné·e à Mediapart dispose d’un blog et peut exercer sa liberté d’expression dans le respect de notre charte de participation.

Les textes ne sont ni validés, ni modérés en amont de leur publication.

Voir notre charte

À la Une de Mediapart

Journal — Services publics
RER B : voyage sur la ligne qui déraille
Le RER B est la deuxième ligne de train la plus chargée d’Europe, et pourtant elle souffre de nombreuses tares : quatre terminus, un tunnel partagé avec le RER D et, surtout, un sous-investissement chronique de la part de la région et de l’État. Les usagers souffrent, les conducteurs aussi.
par Khedidja Zerouali
Journal — Migrations
Étrangers sous OQTF : la justice recadre la préfecture de Seine-Maritime
Le tribunal administratif de Rouen vient de débouter la préfecture qui demandait aux gestionnaires de centres d’hébergement d’urgence d’exclure de leur dispositif « insertion » les étrangers en situation irrégulière faisant l’objet d’une obligation de quitter le territoire exécutoire. Une décision qui vient contredire les circulaires et les récents engagements du ministère de l’intérieur.
par Manuel Sanson
Journal
La précarité étudiante s’enracine et le gouvernement répond à côté
Le gouvernement vient de débloquer 10 millions d’euros pour soutenir les associations qui agissent en faveur des étudiants précaires. Seulement, les principaux acteurs considèrent que la réponse est insuffisante et attendent des mesures structurelles pour endiguer la pauvreté des étudiants.
par Faïza Zerouala
Journal — Europe
À Mykolaïv, les morts hantent civils et militaires
La ville de Mykolaïv subit depuis des mois le manque d’eau potable et les coupures d’électricité. La région a été bombardée sans relâche par l’armée russe jusqu’à la mi-novembre 2022 et plus de la moitié des habitants a quitté les lieux. Civils et militaires restés sur place racontent leur « cauchemar ».
par Mathilde Goanec

La sélection du Club

Billet de blog
Des chênes (français) pour la Chine
Fric-frac dans les forêts françaises. Voler du bois n’est pas une mince affaire. Et pourtant, dans les Pyrénées, en Moselle, en Vendée, dans le Nord, le brigandage se multiplie. A l’heure des drones, GPS et autres trackers… (Gilles Fumey)
par Géographies en mouvement
Billet de blog
Incendie de forêt : les causes ne sont pas que climatiques
[Rediffusion] Les forêts du Sud en particulier demandent beaucoup d'attention pour ne pas prendre feu. Coupe feu, garde-forestiers, défrichages, surveillances, pompiers de proximité, les moyens sont-ils encore là ou ces incendies sont-ils causés par l'impéritie des pouvoirs publics ?
par lecteurfid
Billet d’édition
Reboiser les forêts brûlées est favorisé par une niche fiscale
Si l'investissement forestier offre des possibilités de rendement limitées, il constitue en revanche une niche fiscale qui permet de réduire le montant de son impôt sur le revenu. L'investissement forestier réalisé par une personne domiciliée en France lui permet de bénéficier d'un avantage fiscal, que ce soit au titre de l'impôt sur le revenu ou de l'IFI (impôt sur la fortune immobilière).
par Patrick Cahez
Billet de blog
Vidéo - le gouvernement empêche les débats sur les forêts publiques par 49-3
Il y a un mois, nous avons publié ici une tribune signée par plus de 40 parlementaires, demandant un débat sur l’avenir de l'Office National des Forêts dans la loi de finances avant le 49-3 du gouvernement. Devinez quoi : les débats devaient avoir lieu le 2 novembre à 17h05. Le 49-3 a été activé le 2 novembre à 17h00. Mais tout n'est pas perdu : la suite se joue au Sénat dès mercredi.
par Pour des forêts vivantes