Facebook et Co : donneurs de séné par désir de rhubarbe

Trois articles publiés récemment au sujet de Facebook me donnent l'occasion de revenir sur la notion d'algorithme et l'importance qu'ils ont dans la diffusion des fausses informations ou des « vérités épurées ».

Vache © Le Petit Bretteur Vache © Le Petit Bretteur

D'après un article de Molly Killeen publié sur Euractiv : "une nouvelle étude sur la désinformation concernant les vaccins sur Facebook montre que l’algorithme de recommandation de contenu de la plateforme peut conduire les utilisateurs vers des contenus conspirationnistes dangereux, plutôt que de les en éloigner". Dans un autre rapport publié sur le site Medium par un groupe de citoyens militants : The Real Facebook Oversight Board, le rôle des algorithmes de Facebook dans la diffusion de fausses informations est également pointé du doigt.

Dans le même temps un article du journal huffington post, nous informait que "Google et Facebook n'accepteront que des employés vaccinés contre le Covid dans leurs locaux". Autrement dit, ladite société se montrerait plus moraliste et vigilante envers ses salariés que lors du développement de ces algorithmes. Si à première vue cela peut sembler contradictoire, en vérité cela est tout à fait logique quand on se pose deux questions :

Quel est le but principal d'une société comme Facebook ? Naïvement nous pourrions dire : informer et divertir; mais en vérité Facebook - pardon d'enfoncer cette porte ouverte - n'est qu'une société à but lucratif. Faire de l'argent, être rentable voila sa principale mission. Mais pour atteindre cet objectif elle utilise un outil numérique qui en soi n'a rien de malveillant, mais peut le devenir : des algorithmes.

Quel est le rôle des algorithmes ? les algorithmes sont aux numériques ce que les recettes de cuisine sont à la gastronomie - ou en l’occurrence au secteur agro-industriel. Ce sont des formules mathématiques développées par des "chefs" qu'on appelle des développeurs. Elles permettent d'automatiser les tâches que doit accomplir un ordinateur. Par exemple, si Monsieur X a aimé une vidéo incitant à ne pas se faire vacciner, alors l'algorithme va lui proposer d'autres vidéos sur le même sujet.

Mais pourquoi diable faire une telle chose ? Rappelez-vous que l'intérêt principal de notre société en exemple est de faire de l'argent. Or, pour faire de l'argent avec le numérique sans faire payer le service, il faut utiliser...la publicité. Et qu'est-ce qui fait qu'une publicité rapporte de l'argent ? l'audience. Plus il y aura de spectateurs (d'utilisateurs), plus le prix de l'encart publicitaire sera élevé. Facebook a donc tout intérêt de proposer à Monsieur X des contenus qui l’intéresse, afin de le maintenir le plus longtemps possible face à son écran, sur lequel s'affiche à côté des vidéos anti-vaccins, des publicités. 

Pour résumer, Facebook ne cherche pas (à priori) à promouvoir tel ou tel discours, mais juste à maintenir les utilisateurs le plus longtemps connectés pour générer le plus de profit possible. Le documentaire "derrière nos écrans de fumée" développe de manière plus précise ce point.

Il faut également savoir que l'algorithme a pour mission de connaître le mieux possible chacun des utilisateurs, car mieux il les connaît, plus les publicités sont susceptibles de l’intéresser et donc de générer de l'argent. Aussi, cet algorithme va enregistrer de nombreuses données (personnelles) laissées par les utilisateurs : temps de connexion, publications aimées, nombre d'amis, commentaires postés, etc. Plus nous laissons des "traces" plus l’algorithme nous connaît et plus Facebook & co sont en mesure de faire du profit. C'est ce que Shoshana Zuboff appelle le "capitalisme de surveillance". En effet, il s'agit de faire de l'argent grâce à un système d'espionnage auquel nous consentons lorsque nous acceptons les conditions d'utilisation en créant notre compte sur tel ou tel service numérique.

Le problème est qu'un algorithme est une recette secrète, protégée par le secret des affaires, une sorte de boîte noire comme l'explique Frank Pasquale dans son livre. Autrement dit, Facebook n'a aucune obligation de la dévoiler et peut donc être assez libre dans les "ingrédients" utilisés et le "plat" escompté. En conséquence, il dévient difficile de lutter contre des effets pervers induits par ces algorithmes mystérieux.

Au-delà de cette recherche de profit qui met à mal notre vie privée et stimule la diffusion de fausses informations ou de "vérités épurées", c'est-à-dire stylisées et désignées pour faire le buzz en oubliant certains faits, un tel système conduit à : polariser l'opinion publique en deux camps, à créer des bulles égocentriques d’informations où chacun est persuadé de détenir la vérité. Dans un tel contexte, toute tentative de débat est vouée à l'échec. Parmi les autres problèmes on peut aussi citer les troubles de l'attention, la désensibilisation à certaines informations, l'addiction aux écrans, l'anxiété et la surcharge cognitive générées par une abondance d'informations et la perte de qualité de l'information.

C'est à chaque utilisateur de se faire sa propre opinion. Mon intention n'est pas de faire le procès de Facebook & co, mais d'expliquer comment le système numérique est organisé aujourd'hui. Et ainsi être en capacité de se demander s'il mérite ou non notre consentement (éclairé). Aussi, nous pouvons exiger de Facebook d'être plus "éthique" et responsable en l'obligeant à faire la chasse à certains contenus, en limitant la publicité ou en prélevant moins de données sur nous; mais dans ce cas il faudra probablement accepter de payer le prix du service que nous utilisons (ou ne pas l'utiliser).

Notre législation, en particulier le RGPD, nous "protège" théoriquement des abus de ces sociétés du numérique; mais en pratique, il est difficile de le faire respecter. Notamment à cause d'un manque de moyens, mais aussi parce que la survie d'une société comme Facebook dépend de cette monétisation. Et autant vous dire qu'ils ne vont arrêter du jour au lendemain. Sauf à trouver une autre façon de faire du profit.

Force est de constater, que depuis plusieurs années, avec le développement des applications numériques et sous l'effet du choc de la crise économique, du terrorisme et récemment de la pandémie, nous entrons doucement mais sûrement dans une époque de surveillance que nous acceptons et à laquelle nous nous accoutumons par indifférence ou par ignorance et dans un silence assourdissant. Pourtant il est possible d'agir.

Pour commencer, il est important de se demander : pourquoi la vie privée est précieuse ? Afin de sortir du déni qui consiste à ce dire que ce n'est pas grave, que nous n'avons rien à cacher ou que nous ne pouvons rien y faire. Il est possible de s’astreindre à de petits efforts (en voici 7) pour résister et inventer une autre société. Et il est possible de vivre en sécurité sans vivre sous surveillance.

En outre, comme l'affirmait Shoshana Zuboff : "si l'avenir numérique doit être notre chez-soi, c'est à nous de faire en sorte qu'il le soit. Nous avons besoin de savoir. Nous avons besoin de décider. Nous avons besoin de décider qui décide. C'est notre combat pour un avenir humain."

Le Club est l'espace de libre expression des abonnés de Mediapart. Ses contenus n'engagent pas la rédaction.