geraldholubowicz
Journaliste et chef de produit spécialisé en innovation éditoriale, j'étudie l'impact des médias synthétiques (deepfakes) sur la fabrique d'une culture visuelle numérique.
Abonné·e de Mediapart

35 Billets

0 Édition

Billet de blog 13 févr. 2022

geraldholubowicz
Journaliste et chef de produit spécialisé en innovation éditoriale, j'étudie l'impact des médias synthétiques (deepfakes) sur la fabrique d'une culture visuelle numérique.
Abonné·e de Mediapart

Deepfakes racistes et NFT, combo sordide sur Opensea

Les NFTs (1) gagnent en popularité et font l’objet de toutes les spéculations. Opensea, une plateforme dédiée à la vente de ces NFT, abrite un certain nombre d’entre eux dont les références racistes font froid dans le dos.

geraldholubowicz
Journaliste et chef de produit spécialisé en innovation éditoriale, j'étudie l'impact des médias synthétiques (deepfakes) sur la fabrique d'une culture visuelle numérique.
Abonné·e de Mediapart

Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.

Le succès de Thispersondoesnotexist 2 s’est étendu à la sphère des NFT, et pour le coup, de la pire des manières. Début février 2022, un compte repéré sur twitter nommé @Slavesbaby 3 a fait la promotion d’images synthétiques de jeunes enfants intitulés « Baby Meta Slaves » vendus pour une fraction d’éther 4. L’auteur de ce compte a par ailleurs alimenté un autre compte nommé « Meta Slaves » listant 1865 NFTs 5 de visages synthétiques de personnes noires, provoquant l’indignation et de nombreux signalements auprès de Twitter et d’Opensea.

Une capture d’écran du compte Twitter @Slavesbaby (désormais désactivé)

Le compte impliqué 6, qui a rapidement changé de nom pour s’identifier sous le nom de « Meta Humans » 7, a présenté ses excuses 8 indiquant qu’aucune mauvaise intention ne se cachait derrière le projet. Un tweet plus récent, datant du 11 février montre pourtant que l’auteur de ces NFTs se plaint de la censure appliquée au hashtag #whitepower sur Instagram – autre lieu de diffusion des portraits synthétiques du projet – par rapport au hashtag #blackpower, faisant l’impasse plus ou moins volontairement sur la nature raciste du mouvement des suprémacistes blancs derrière le mot clef en question 9.

D’autres NFT d’images synthétiques en relation avec le décès de Georges Floyd ont pu être repérées sur la plateforme de vente de NFTs Opensea ainsi que de nombreux NFTs présentant des thèmes néonazis comme le rapporte récemment Vice 10

Ce nouvel usage à visée raciste n’est pas en soi étonnant, une technologie peut toujours être dévoyée d’une façon ou d’une autre pour porter un message de haine ou heurter les sensibilités. Elle met cependant en lumière les difficultés qui s’annoncent pour les plateformes et les minorités fréquemment ciblées par des attaques racistes, antisémites, homophobes ou xénophobes.

Pour les plateformes hébergeant des NFTs, il s’agit de contrôler davantage les contenus téléversés sur leurs serveurs. Leur thématique et leur nature — notamment lorsqu’il s’agit de médias synthétiques — peuvent être à l’origine de casse-têtes moraux et légaux insurmontables. Les CGU d’Opensea indiquent par exemple que la plateforme pourra héberger du contenu « controversé », mais qu’une sorte de modération est en place pour éviter de publier des contenus « inappropriés ». Reste à définir ce que sont des contenus « controversé » et « inappropriés » pour Opensea. Ce flou délibérément entretenu autorise des décisions à l’emporte-pièce, inconsistantes basée sur des contextes médiatiques plutôt que sur des standards éditoriaux correctement établis.

Pour les minorités, il s’agit de pouvoir identifier les contenus directement dirigés contre leurs intérêts et d’être en capacité d’agir pour faire retirer les NFTs incriminés. Réfugiés derrière le paravent légal de la section 230 qui distingue le rôle de plateforme de celui d’éditeur de contenus 11, les hébergeurs de contenus offensants peuvent jouer la montre ou nier toute responsabilité légale, ralentissant enquêtes ou recours.

Malheureusement ce type de NFTs exploitant les pires aspects de la technologie combinés aux pires motivations humaines ne risque pas de disparaitre de si tôt, d’autant plus qu’ils évoluent dans un univers où le vol de propriété intellectuelle et la spéculation sont monnaie courante. Sans régulation universelle, ces écosystèmes continueront de se développer et de poser de nombreux défis.

Cet article a été publié pour la première fois sur Journalism.design

Références


1. Les NFT pour Non Fongible Token sont des jetons chiffrés permettant d’acquérir un certificat de propriété d’un bien numérique

2. Un générateur aléatoire de visages synthétiques. Le générateur de visage d’IA est alimenté par StyleGAN, un réseau de neurones de Nvidia développé en 2018.

3. le compte est désormais suspendu

4. l’éther est une cryptomonnaie liée à l’ethereum, un protocole d’échange décentralisé au coeur de ce qu’on appelle le web 3 avec le bitcoin et la blockchain

5. L’esclavage aux États-Unis a été aboli en 1865

6. Les tweets sont encore trouvables sur wayback machine

7. @MetaHumanWorld

8. “We apologize to those who have been offended by our project, but we are here only with good intentions.

9. « Aux Etats-Unis, on assiste à une lame de fond massive du militantisme white power », le Monde, le 6 janvier 2022

10. OpenSea Sure Has a Lot of Hitler NFTs for Sale, Vice, le 6 octobre 2021

11. Publisher or Platform? It Doesn’t Matter, EFF, le 8 décembre 2020

Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.

Bienvenue dans le Club de Mediapart

Tout·e abonné·e à Mediapart dispose d’un blog et peut exercer sa liberté d’expression dans le respect de notre charte de participation.

Les textes ne sont ni validés, ni modérés en amont de leur publication.

Voir notre charte

À la Une de Mediapart

Journal — Outre-mer
Karine Lebon, députée : « Ce qui se passe à La Réunion n’émeut personne »
La parlementaire de gauche réunionnaise dénonce le désintérêt dont les outre-mer font l’objet, après une semaine marquée par le débat sur les soignants non vaccinés et le non-lieu possible sur le scandale du chlordécone. 
par Mathieu Dejean et Pauline Graulle
Journal — Migrations
À Paris, de jeunes exilés campent devant le Conseil d’État pour réclamer leur mise à l’abri
Depuis six mois, plus de trois cents jeunes exilés vivent sous les ponts à Ivry-sur-Seine. Alors que le froid s’installe, des associations alertent sur la situation de ces adolescents qui manquent de tout. Vendredi, ils ont dressé un camp devant les grilles du Conseil d’État pour faire entendre leur voix.
par Yunnes Abzouz
Journal
Loi « anti-squat » : le gouvernement se laisse déborder sur sa droite
En dépit de la fronde des associations de mal-logés et l’opposition de la gauche, l’Assemblée a adopté la proposition de loi sur la « protection des logements de l’occupation illicite » à l’issue d’un débat où le texte a été durci par une alliance Renaissance-Les Républicains-Rassemblement national.
par Lucie Delaporte
Journal
Tarifs des transports franciliens : Valérie Pécresse et le gouvernement se renvoient la balle
La Région Île-de-France, dirigée par Valérie Pécresse, a annoncé que le pass Navigo passerait de 75 à 90 euros si l'État ne débloquait pas des financements d’ici au 7 décembre. Alors que les usagers craignent la déflagration, la Région et l’État continuent de se rejeter la responsabilité.
par Khedidja Zerouali et Ilyes Ramdani

La sélection du Club

Billet de blog
Y-a-t 'il encore un cran à la ceinture ?
Elle vide le contenu de son sac sur toute la longueur du tapis roulant de la caisse, réfléchit, trie ses achats, en fait quatre parties bien séparées, un petit tas de denrées alimentaires, un livre, un vêtement. Elle montre un billet de 20 euros à la caissière et lui parle. « Tiens » me dis-je, elle a bien compris la leçon du Maître : « Finie l'abondance ».
par dave.tonio
Billet de blog
Merci pour ceux qui ont faim
Aujourd'hui, samedi, je me rends au centre commercial pour quelques courses. Il est dix heures, et celui-ci est déjà plein de monde : des jeunes gens surtout, des filles entrant, sortant des boutiques de mode, quelques-unes les bras chargés de sacs.
par cléa latert
Billet de blog
Péripéties ferroviaires en territoire enclavé
Destination France Déchéance, ou Manifeste sur un service public en érosion. Il s'agit dans ce court billet de faire un parallèle entre le discours de la Région Occitanie, celui de vouloir désenclaver des territoires ruraux, comme le Gers, et la réalité que vivent, voire subissent, les usagers du réseau ferroviaire au quotidien.
par camilleromeo28
Billet de blog
« Je vous écris pour témoigner de ma peine de prison qui n'en finit pas »
Rentré en prison à 18 ans pour de la « délinquance de quartier », Bryan a 27 ans lorsqu’il écrit à l’Observatoire International des Prisons (OIP). Entre les deux, c’est un implacable engrenage qui s’est mis en place qu’il nous décrit dans sa lettre.
par Observatoire international des prisons - section française