Hebdo #99: le monde sous algorithmes, réflexions et contre attaques

La pandémie a accéléré le «virage numérique» de tous les secteurs, privés comme publics, de l'enseignement et de la vie sociale, sans que les citoyens n'aient leur mot à dire. Heureusement dans le Club, les récalcitrants n’ont pas attendu l’autorisation pour se faire entendre. Du bras de fer avec les algorithmes de la CAF, aux moyens de faire un pas de côté pour échapper au face-à-face mortifère avec « la machine », quelques pistes de résistance se dessinent.

Le système est zombie, mais notre dépendance fait que la plupart d’entre nous n’ose plus le remettre en cause, et puis c’est fun le numérique, c’est moderne… Ça va vite ! Avec la crise sanitaire et la nécessité des gestes barrières, le «virage tout numérique» s'est imposé comme une évidence. En dehors de lui, point de salut, ni de télétravail, ni d'éducation, ni de relations sociales, ni de services publics. C'est marche ou crève ! Pour ceux qui ont perdu leur boulot, la réponse est aussi toute trouvée, lundi dernier, sur les ondes de France inter, la ministre Elisabeth Borne plaçait le numérique dans le top 3 des secteurs pour se reconvertir, avec les métiers du soin et la transition écologique, sachant que la dématérialisation accélérée à un impact sur tous les secteurs, du privé comme du public

Avec le confinement, on le sait, le débat démocratique, déjà bien en souffrance, a pris un sacré coup dans l’aile. Les citoyens sont complètement hors-jeu, le monde sera de plus en plus numérique, un point c’est tout, circulez, y'a rien à voir ! 

Heureusement dans le Club, les récalcitrants n’ont pas attendu l’autorisation pour se faire entendre. Ce n’est pas nouveau, mais ces derniers jours, ils ont élevé le ton. Pour raconter l’horreur des algorithmes de la CAF, l’envie de faire un pas de côté pour échapper au face-à-face mortifère avec « la machine » et (pépite !) pour expliquer de l’intérieur le rôle dévastateur de la big data et de l’intelligence artificielle dans le ravage écologique et social. 

La bataille démocratique semble bien mal engagée, comme l’explique la docteure en psychologie sociale, Shoshana Zuboff dans le numéro du Courrier international consacré au « Coup d’Etat numérique » : « L’insoutenable vérité sur la situation actuelle, c’est que les États-Unis et la plupart des autres démocraties libérales ont abandonné la propriété et l’exploitation des données numériques aux acteurs du capitalisme de surveillance, qui, mus par des intérêts politico-économiques, concurrencent désormais la démocratie sur la question des droits et des principes fondamentaux qui définiront l’ordre social de ce siècle. » 

Les Etats ont baissé les bras, mais l’intelligence collective n’est peut-être pas obligée de capituler devant l’intelligence artificielle.

Algorithme, c’est quoi ce bazar ? 

Pour commencer, revoyons les bases avec les articles de Jérôme Hourdeaux publiés en 2018 (une éternité !) sur la société face aux algorithmes.

« Algorithme » est devenu un des principaux mots-totems de notre société, un terme mystérieux dont peu de gens sont capables de donner une définition claire mais investi d’un fort pouvoir symbolique. L’algorithme est censé être partout dans notre quotidien. C’est lui qui oriente nos recherches sur Internet, qui nous dit quoi écouter, quoi regarder, quels articles lire, quels livres acheter. Bientôt, c’est grâce à lui que nous trouverons un emploi, que la police arrêtera les criminels et, plus globalement, c’est lui qui guidera les politiques publiques. C’est également lui qui se trouve au centre des principales critiques contre le développement des nouvelles formes de contrôle, le « capitalisme de surveillance » ou encore la « gouvernementalité algorithmique ». Il est lié aux grandes craintes contemporaines : celles d’un développement incontrôlé des intelligences artificielles et d’une « dictature des algorithmes ».

Dans cette interview de Dominique Cardon, il concluait par un appel à combattre « la sécession des excellents » et à défendre les médiocres et les moyens, cher au sociologue.

Le billet publié cette semaine de Lucieinland, journaliste, photographe et féministe à Rennes en donne une parfaite illustration. Elle y relate ses mésaventures avec le « robot à dettes » de la CAF suite à la réforme des APL, la machine algorithmique de la CAF ayant momentanément classé son dossier comme « à risque », puisque célibataire, puisque précaire… Le billet explique comment elle a réussi à gagner ce bras de fer et rappelle les droits de chacun. « La loi pour une République Numérique, votée en 2016, oblige les administrations à indiquer aux personnes concernées lorsque leur dossier a fait l'objet d'un traitement automatisé (article 4). (Les mails que j'ai reçu de la CAF étaient muets à ce sujet.) Contactée, la CNIL n'a pas répondu à mes questions. » Vous pouvez lui écrire, si vous avez rencontré des difficultés similaires. Car comme toujours, l'union fait la force !

Quand les insiders se rebiffent

Un monde découpé en winners et losers est propre à la logique algorithmique qui elle-même renforce les polarisations et les discriminations. C'est moche et mortifère, mais il n’est peut-être pas si inéluctable que ça. 

Alors que certains essaye encore de « Repenser la technologie en gardant la durabilité à l'esprit » en réduisant son empreinte carbone et en recyclant le plus possible, d’autres ont perdu foi dans la vertu de nos petits gestes et préfèrent quitter le navire.

C’est le cas de Paul Platzer qui a préféré déserter l’ingénierie et nous raconte avec moult témoignages à l’appui pourquoi les ingénieurs (dans le numérique mais pas que !) préfèrent déserter faute de pouvoir changer les choses de l’intérieur. 

« Je vois, tu fais partie des gentils. [...] Tu n’es pas comme les autres salariés de cette institution, eux qui couvrent ce système oppressif. Toi, tu mènes le combat de l’intérieur, avec des cours de théâtre. Très bien. Si c’est ce que tu dois te dire pour survivre. Mais désolée, je n’ai pas envie de perdre mon temps à entretenir l’illusion que tu vas pouvoir changer quoi que ce soit. J’ai déjà mes propres mensonges à gérer. »
    
Alex Vause, détenue, à Berdie Rogers, agent carcéral. Orange Is the New Black, S3E3 (traduction personnelle).

Dans ce billet très riche, on découvre un monde insoupçonné de déserteurs et de réflexions sur le sens du travail de ces insiders. Un monde qui s’organise en différents collectifs et compte bien ne pas se laisser faire !

Le billet fait également référence à Pourquoi j'ai quitté «le job le plus sexy du XXIè siècle» de Romain Boucher, un data scientist revenu du monde enchanté du big data et de l’intelligence artificielle qui avait réjoui et beaucoup fait réagir notre agora début avril. Une contribution publiée dans le blog du collectif Vous N'êtes Pas Seuls, « une association à but non lucratif, née d’une forte solitude face aux injustices et aux ravages indissociables de notre civilisation. Elle a pour but d’accompagner des salariés souffrant d’une fracture entre leur travail et leurs valeurs, d’accumuler des connaissances d’initiés sur les nuisances de leurs secteurs, de diffuser les témoignages de leur rupture, tout en s’inspirant des alternatives prometteuses existantes. Sa raison d’être est de créer des passerelles vers les archipels de résistances écologiques et sociales. » Résistances qui vont de l'esquisse d'un rapport adressé à la hiérarchie au lancement d'alerte

La contribution de Romain Boucher explique quant à elle, les ravages du techno-libéralisme sur l’écologie et le social, les pseudos commissions parlementaires et d’analyses stratégiques sur le sujet (notamment le rapport Villani !) et clou du spectacle : « la démolition progressive des services publics, à laquelle la santé, on l'aura noté en 2020, n'a certainement pas échappé. Si les budgets consacrés aux missions de service public n'ont pas nécessairement diminué ces dernières années, ils sont en fait de plus en plus dédiés à des prestations de réorganisation à base d'IA qui produisent bien souvent à l'inverse de l'effet annoncé. Dans le même temps, par le rôle de catalyseurs qu'ils jouent dans l'auto-conviction du marché au mythe de la machine, ce sont des cabinets de conseil qui raflent la mise. »

Logiquement, le data-scientist converti au potager corse, invite à faire un pas de côté : à nous désinvestir du monde des machines et à nous réengager dans le monde réel. Machines qui ne nous libèreront jamais du « fardeau de devoir nous engager, nous prononcer à chaque instant, car cette mise en jeu de notre responsabilité constitue le sel de la vie humaine. »

A la fin de son rapport accablant et très détaillé sur les mirages technologiques, Romain Boucher finit en musique avec « Débranche » de France Gall.

Cela faisait des lustres que je ne l’avais pas réécouté, mais il faut avouer, cela tombe assez bien ! Revenons à nous...

*****

Pour découvrir les autres temps forts du Club et les tribunes de la semaine, inscrivez-vous à la newsletter hebdomadaire du Club. Ça se passe ici !

Le Club est l'espace de libre expression des abonnés de Mediapart. Ses contenus n'engagent pas la rédaction.