geraldholubowicz
Journaliste et chef de produit spécialisé en innovation éditoriale, j'étudie l'impact des médias synthétiques (deepfakes) sur la fabrique d'une culture visuelle numérique.
Abonné·e de Mediapart

35 Billets

0 Édition

Billet de blog 30 janv. 2022

geraldholubowicz
Journaliste et chef de produit spécialisé en innovation éditoriale, j'étudie l'impact des médias synthétiques (deepfakes) sur la fabrique d'une culture visuelle numérique.
Abonné·e de Mediapart

Les créateurs de deepfakes s’organisent

Fin octobre 2021 se tenait la première conférence en ligne du groupement Synthetic Futures créé par Chris Umé et Henry Ajder entre autres. L’un a réalisé le deepfake @DeepTomCruise l’autre, après avoir travaillé pour Sensity.ai et rédigé un rapport sur les médias synthétiques, travaille désormais pour Metaphysic.ai qu’a justement créé Chris Umé… un petit monde.

geraldholubowicz
Journaliste et chef de produit spécialisé en innovation éditoriale, j'étudie l'impact des médias synthétiques (deepfakes) sur la fabrique d'une culture visuelle numérique.
Abonné·e de Mediapart

Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.

Tout avance très vite dans cet univers synthétique en formation. À peine quatre ans après leur apparition, les deepfakes deviennent un objet de concorde professionnelle. Des startups ont surfé sur la vague des médias synthétiques pour ensuite disparaitre, d’autres ont déjà changé de nom et légèrement pivoté 3 pour trouver de nouveaux débouchés commerciaux. La petite histoire qui se construit autour des médias synthétiques s’appuie — comme toutes les histoires autour des nouvelles technologies — sur le succès de créateurs capables d’organiser l’engouement autour d’un sujet et de l’imposer dans les médias grand public pour le faire connaitre largement.

Depuis 2017, la communauté des créateurs de médias synthétiques s’est développée et a vu quelques « stars » apparaitre 4, des techniques se consolider, des discussions s’organiser sur les questions de l’éthique, des pratiques et de la régulation. Il ne restait donc plus qu’à regrouper tout ce petit monde au sein d’une organisation — même informelle — pour permettre à tous d’engager le dialogue. Synthetic Future 5 réunit donc autour d’un groupe Discord, près de 225 membres 6 venant principalement du monde de la Tech numérique, mais aussi des universitaires et des journalistes.

Chris Umé, co-fondateur du studio Metaphysics, a lancé avec l’aide d’Henry Ajder entre autres le groupe Synthetic Future.

Individus, organisations et entreprises partageant le même enthousiasme pour les médias synthétiques se retrouvent donc autour d’une même cause : redorer le blason des deepfakes, largement terni par près de 4 ans de couverture presse défavorable. En insistant sur le potentiel « positif » de ces créations tout en défendant une approche déontologique de ce type de création, le groupe espère mettre en place les conditions nécessaires pour que l’activité se développe. Un effort qui plait aux investisseurs puisque Metaphysics a récemment levé près de 7,5 millions d’euros 7 après que Synthesia a levé près de 50 millions d’euros 8.

La conférence en ligne qui a eu lieu fin octobre 2021 servait donc de grand lancement à ce mouvement d’éducation positive et de réflexion éthique sur les hypertrucages. Comme je le disais, l’éthique tient une place centrale dans le discours et les actions qu’entend mener le groupe. Une leçon certainement apprise de l’observation d’autres entités du numérique moins prompts à embrasser ces questions 9.

Ainsi, tout au long d’un livestream qui aura duré plus de 7 h, les spectateurs ont pu approfondir des sujets aussi variés que la montée en puissance des apps de création de médias synthétiques, les questions de copyright appliquées aux médias synthétiques, la fabrication du métavers ou encore le rôle de la satire dans les actions militantes contre les responsables politiques 10. Parmi eux, je retiendrai la question posée au sujet de l’éthique et de la régulation à l’occasion du panel « How to Copy Right: Synthetic media, creativity and the Law » 11 et celle au sujet de l’enjeu de classification des deepfakes — entre satire, activisme et commentaire politique à l’occasion de la discussion « Just Joking? Deepfake, satire and the politics of synthetic media » 12.

Une question de point de vue

Le point de vue résolument anglo-américain a marqué la totalité des débats bien évidemment. Doute vis-à-vis des pouvoirs publics et de leur capacité à réguler le secteur sans en entraver la bonne marche. Appels à légiférer pour protéger le droit des personnes, mais surtout permettre le bon épanouissement du marché. Promotion des initiatives privées, à travers notamment le développement du standard C2PA permettant de tracer la provenance de certains types de médias. Au cours des discussions, nulle question de remettre en cause la pertinence des médias synthétiques dans l’écosystème numérique. Finalement, on s’intéresse peu aux effets qu’ils produisent. Les femmes victimes de deep-porns apparaissent seulement quelquefois dans la discussion. Un des rares rapports sur le sujet 13 annonce pourtant des chiffres accablants : près de 95 % des deepfakes seraient des deep-porns. Cela ne suffit pas aux conférencières et aux conférenciers pour examiner les conditions d’accès aux codes sources des logiciels de production ou à certaines recherches, ni d’évaluer les externalités négatives des médias synthétiques sur tous les secteurs d’activité concernés.

Reste pour le moment, à voir les projets et les idées que cette nouvelle organisation va porter dans les mois à venir. S’il s’agit d’un catalyseur d’affaires pour les membres qui la compose ou d’un détecteur de startups pour les investisseurs qui gravitent autour, le groupe risque vite de péricliter ou de se transformer en un succédané de Linkedin. Si une véritable production de pensée collective, inclusive et responsable est menée autour de l’éthique des médias synthétiques et des questions fondamentales que soulèvent leur création et leur usage, alors Synthetic Futures sera sur la bonne voie pour remplir sa mission. L’animation d’un groupe de ce type est sans aucun doute un véritable défi, et pour le moment le Discord semble relativement vide de toute activité significative.

NOTES


1- lancé à la rentrée de septembre 2021, le site est hébergé sous l’adresse syntheticfutures.org

2- Chris Umé : le deepfake @deeptomcruise doit alerter le public, journalism.design, 5 mars 2021

3- en langage d’entrepreneur, « pivoter » veut dire changer de pied, c’est dire revoir son modèle d’affaires. Le pivot peut s’effectuer après un échec commercial ou après une découverte interne à l’entreprise, mais mène toujours à un nouveau type de prestation

4- pour ne citer qu’eux, Ctrl-Shift-Face, Sham00k et Chris Umé en font partie

5- dont je suis membre à titre d’observateur

6- Information au 8 novembre 2021

7- The startup behind the viral Tom Cruise deepfake just raised $7.5 million. Here’s the 15-slide pitch deck Metaphysic used to attract investment from the Winklevoss twins, CodeList, 27 janvier 2022

8- Synthesia raises $50M to leverage synthetic avatars for corporate training and more, TechCrunch, Jordan Crook, 8 décembre 2021

9- Cf Google qui licencie Timnit Gebru, chercheuse spécialisée dans l’éthique de l’intelligence artificielle. Cf Facebook qui fournit des données incomplètes aux chercheurs étudiant les interactions utilisateurs sur la plateforme

10- les replays sont visibles sur le site ici sur le site de Synthetic Future

11- « How to Copy Right: Synthetic media, creativity and the Law », Synthetic Futures, septembre 2021

12- « Just Joking? Deepfake, satire and the politics of synthetic media”, Synthetic Futures, septembre 2021

13- celui de Deeptrace, devenu Sensity, dont Henry Adjer est l’auteur

Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.

Bienvenue dans le Club de Mediapart

Tout·e abonné·e à Mediapart dispose d’un blog et peut exercer sa liberté d’expression dans le respect de notre charte de participation.

Les textes ne sont ni validés, ni modérés en amont de leur publication.

Voir notre charte

À la Une de Mediapart

Journal
En France, une nouvelle menace plane sur Deliveroo
Déjà condamnée cette année, la plateforme de livraison de repas est à nouveau en « discussions » avec l’Urssaf, qui pourrait lui réclamer une ardoise potentiellement fatale. Le parquet de Paris étudie le versant pénal du dossier. L’entreprise a missionné Jean-François Copé et un administrateur judiciaire.
par Dan Israel
Journal
La COP biodiversité tentée par la marchandisation des écosystèmes
À la COP15 de la biodiversité de Montréal, qui s’ouvre le 7 décembre, les Nations unies pourraient promouvoir un mécanisme global de compensation des atteintes à la biodiversité par leur marchandisation. Un mécanisme illusoire et dangereux.
par Romaric Godin
Journal — Agriculture et alimentation
L’UE interdit l’importation de produits issus de la déforestation
Le Parlement européen et les États membres de l’Union européenne ont trouvé un accord dans la nuit de lundi à mardi pour interdire l’importation de plusieurs produits, comme le cacao, le café ou le soja, lorsqu’ils contribuent à la déforestation.
par La rédaction de Mediapart avec AFP
Journal
YouTube songe à sanctionner les vidéastes accusés de viol
Après l’ouverture d’enquêtes préliminaires pour viol visant deux célèbres créateurs de contenus, Norman et Léo Grasset, YouTube n’exclut pas de « prendre des mesures » pour sanctionner des comportements qui auraient eu cours en dehors de la plateforme.
par Yunnes Abzouz

La sélection du Club

Billet de blog
L'amour trouvera un chemin
Dans la sainte trinité du jazz, et sa confrérie du souffle, on comptait le Père (John Coltrane), le Fils (Pharoah Sanders) et le Saint-Esprit (Albert Ayler). Il est peu dire que le décès de Pharoah Sanders, le 24 septembre dernier, est une grande perte. L'impact de son jeu, du son qu'il a développé, de ses compositions et de sa quête vers la vérité, est immense.
par Arnaud Simetiere
Billet de blog
Rap et théorie postcoloniale : sur « Identité remarquable » de Younès Boucif
« Un Arabe qui fait du rap y’a pas grand-chose d’original », rappait Younès dans « J’me rappelle ». Mais quid d’un Arabe qui rappe, joue (au cinéma, au théâtre), écrit des romans, manage et se fait parfois, à ses heures perdues, documentariste ? À l'occasion de la sortie de son album, retour sur la trajectoire d'un artiste aux talents multiples.
par Matti Leprêtre
Billet de blog
Anne Sylvestre : manège ré-enchanté
Tournicoti-tournicota ! On savait l'artiste Anne Sylvestre facétieuse, y compris à l'égard de ses jeunes auditeurs, fabulettement grandis au rythme de ses chansons, alors qu'elle ne cessa pas de s'adresser aussi aux adultes irrésolus que nous demeurons. Presque au point de la croire ressuscitée, grâce à l'initiative de la publication d'un ultime mini album.
par Denys Laboutière
Billet d’édition
2. B.B. King et la légende de Lucille
Il suffit d’avoir admiré son jeu tout en finesse et en agressivité contenue, d’avoir vécu l’émotion provenant du vibrato magique de sa guitare, d’avoir profité de sa bonhomie joviale et communicative sur scène, de son humilité, et de sa gentillesse, pour comprendre qu’il n’a pas usurpé le titre de King of the Blues.
par Zantrop