Traçage en temps de pandémie: design imitatif ou design centré citoyen?

La nécessité du traçage numérique s’est installée dans les débats. Trois argument clés : la tyrannie du retard, le solutionnisme technologique et la sécurité à tout prix. Or le medium (l'application qui trace) devient ainsi le message : toute technique de surveillance est inévitable. Une méthode de design citoyen partirait, elle, d'une véritable définition clinique des objectifs sanitaires.

La nécessité du traçage numérique s’est désormais installée dans les débats et, sondage d’opinion à l’appui, dans les esprits aussi. Trois argument clés : 1/ la Corée et Singapour l’ont fait (évitons de parler de la Chine, le modèle fait un peu repoussoir), pourquoi pas nous ? 2/ il existe des techniques pour suivre qui on veut où l’on veut, pourquoi ne pas les utiliser ? 3/ La priorité, c’est la sécurité entendue comme la protection contre le virus, il faut savoir relativiser les enjeux de liberté et de toutes façons nous l’avons déjà accepté avec la traçabilité installée par les plates-formes.

Arguments classiques que j’ai entendus depuis les débuts de la vidéosurveillance et la reconnaissance faciale par exemple et pour toutes les technologies, même la 5G. Arguments en trois temps :

  • la tyrannie du retard ( courons derrière les autres pour ne pas être distancés et donc copions les, ce qui est la meilleure façon d’être dépassés) ;
  • le solutionnisme technologique: Les solutions techniques peuvent résoudre tout type de problèmes, nous devons les utiliser (sans s’occuper de l’origine ni du type de problème) ;
  • la sécurité ne doit jamais freiner la liberté du business mais le business peut sans problème s’affranchir de la liberté de choix et de privacy des personnes (il sera toujours temps de revenir en arrière).

Dans le cas des applications de traçage imaginées pour le coronavirus, le processus peut être détaillé pour montrer que ce qui est en jeu pour l’instant n’est pas un traitement sérieux du problème ( et quel est-il d’ailleurs ?) mais un cadrage a priori, un infra message qui prépare les esprits à des technologies de traçabilité. Le medium est le message, disait Mc Luhan : l’installation de l’application sera le véritable message, à savoir une banalisation de la traçabilité. Et le seul fait de débattre d’un problème sanitaire, social et organisationnel en termes techniques installe une réponse fatale à toutes ces situations : la surveillance numérique.

Commençons par le suivisme imposé par ce que j’appelle la tyrannie du retard. Dans ce cas précis, il s’agit plutôt d’ailleurs de la tyrannie de l’urgence pour les gouvernements mais aussi de la compétition pour des firmes et même pour des laboratoires académiques (cf. mon ancien collègue de l’EPFL Marcel Salathé). Voyons comment s’inspirer des pratiques des autres est nécessaire mais souvent illusoire si la bonne distance n’est pas trouvé pour relancer la créativité locale (voir l’article de A. Courmont de la CNIL pour les informations précises sur les dispositifs). Prenons le suivi des patients mis en place par la Corée et Singapour (qui n’est pas identique techniquement d’ailleurs). L.es solutions techniques de géolocalisation sont extraites de leur contexte d’organisation des soins et de stratégies de dépistage. La Corée du Sud a fait le choix du ciblage des patients contaminés, par détection massive précoce, avec tests, et par confinement radical de ces patients, plutôt que d’un confinement généralisé. Cela veut dire que l’individualisation numérique du suivi se fait dans un cadre de soin, dans un protocole pour lequel les moyens ont été mis en place (y compris des drive-in pour les tests ou des cabines sans contact). Ce design organisationnel, comme je l’appelle, est extrêmement sophistiqué, cohérent et peut être expliqué clairement à toute la population, ce qui renforce ses chances d’être accepté (d’autant plus qu’il s’appuie sur des expériences d’épidémies récentes). Il fait partie d’une stratégie. Il faut aussi noter que la Corée est le pays le mieux connecté au monde et il n’en est pas peu fier d’ailleurs, mais cela crée les conditions de faisabilité étendue. Cela n’en pose pas moins des questions de liberté, de prédation de traces de comportement, car les méthodes sont très intrusives avec les patients contaminés tout au moins, mais on voit que la solution technique vient au service d’une stratégie de soin et est alignée avec elle.

Prétendre vouloir s’inspirer de la Corée n’a donc à peu près aucun sens en France, dès lors que la stratégie française a été totalement différente, puisque notre pays n’a pas testé massivement, et a adopté un modèle ancien de confinement pour des raisons de capacités hospitalières déficientes, ce qui dès lors explique la difficulté à imaginer la justification de la sortie d’un tel confinement. Le débat se porte alors sur les détails (Bluetooth plutôt que GPS ou bornage des antennes) présentés comme vertueux du point des libertés, alors que personne n’est capable de dire quelle stratégie va être adoptée pour sortir du confinement, et quels moyens seront alloués au design organisationnel qui va l’accompagner. Comment les personnes contaminées sauront-elles qu’elles le sont puisqu’aucune stratégie de tests de masse n’est mise en place ? Que devront faire ces personnes détectées puisque jusqu’ici on leur a conseillé de rester chez elles pour ne pas encombrer les urgences ? Qui traitera toute la chaine d’informations une fois que quelqu’un est détecté jusqu’à son signalement sur l’application et quels sont les principes de cet affichage et quel est le contrôle effectué ? La tyrannie du retard (faire comme les autres) s’est donc associée étroitement au solutionnisme technologique. Ce faisant, on oublie les spécificités du modèle français, qu’on aurait pu vouloir différent, certes mais il est trop tard de toutes façons. Ce n’est pas une raison pour ne pas l’assumer et chercher des solutions propres à ce système. Rappelons que la stratégie du confinement de masse est elle-même un effet d’imitation de la stratégie chinoise qui a elle aussi répliqué une pratique mise en œuvre en 2015 au Vietnam avec succès contre le virus MERS. Et que tout cela n’est pas si loin des confinements des époques du choléra au XIXe ou de la peste au XVIIe et plus anciennes encore.  Nous ne faisons en fait qu’imiter et que propager des stratégies observées ailleurs mais une fois une stratégie adoptée, il n’est plus possible d’en changer au milieu du gué et il faut donc innover avec ses propres ressources. Bref, la question posée dans plusieurs médias sous la forme : « à quoi ça sert ? » est essentielle et doit être poussée jusqu’à expliciter toute la stratégie qui l’accompagne.

Deuxième aspect de l’argument : le solutionnisme technologique (Morozov). Les techniques de surveillance sont certes disponibles et finalement n’attendent que l’opportunité pour se propager, elles aussi. Elles parviennent au moins à gagner les esprits très rapidement. Le milieu dans lequel elles se propagent est déjà bien préparé par des années de campagne pour le tout technologie d’une part et le tout surveillance d’autre part. Et l’on sait ainsi que la propagation de ce modèle combiné bénéficie alors d’un score de fitness plus élevé, d’adaptation au milieu plus aisée. Puisqu’on peut tracer les comportements avec une forme ou une autre de géolocalisation, « donc » on doit trouver une utilisation de cette technique, quand bien même on ne sait pas encore qu’elle est la stratégie de soin et de déconfinement adoptée et quand bien même on sait tous les problèmes techniques et légaux.

Prenons par exemple les déclarations de Yoshua Bengio, chercheur en intelligence artificielle à l’Université de Montréal, plein de bonnes intentions à coup sûr dans un article récent de Médiapart. « Pour faire ça efficacement, la seule manière, c’est d’utiliser la technologie. »C’est un effort international, précise Yoshua Bengio. Pour quelqu’un qui comprend un peu la technologie, c’est assez évident qu’il faut aller dans cette direction-là. » « Tant que l’on n’utilise pas des méthodes de traçage, je ne pense pas qu’on puisse se débarrasser du virus, juge M. Bengio. C’est une urgence qu’on installe ce genre d’application un peu partout sur la planète. ». Cette confiance absolue, a priori et exclusive dans la technique est un bel exemple de solutionnisme technologique.

Or, aucun problème ne peut se résoudre par de la technique seule mais par des assemblages socio-techniques  (Callon, Latour) adaptés à une certaine définition du problème. Comme le disait Lessig, Code is Law, le code encapsule des solutions politiques et légales sans l’expliciter et agit puissamment sur ce qu’on peut faire ensuite, voire nous empêche de le réviser par le seul fait d’être embarqué dans une solution, ce qu’on appelle la dépendance de sentier. Il ne faut pas oublier que la dépendance de sentier permet d’expliquer à la fois la propagation de certaines innovations et la durée de vie de certaines solutions devenues totalement inadaptées (cf. le clavier Qwerty). Il importe donc de refaire de la politique à chaque fois et de rouvrir les possibles. On semble vouloir le faire avec la proposition d’utiliser le Bluetooth (version singapourienne Trace Together) et en verrouillant tout stockage de données et toute transmission à des tiers. Cependant, si cela semble couvrir ses arrières sur le plan des données personnelles, le principe même selon lequel la solution est technique, lui, peut continuer à se diffuser et le virus de la surveillance progresser un peu plus dans la contagion des esprits et des politiques publiques. Les leçons de la vidéosurveillance ne sont pas retenues à l’évidence. Pire même, dans ce domaine, le maire de Nice en redemande encore alors que son système le plus performant de France a failli avec l’attentat de 2016. Mais l’histoire se répète dans ces effets de tunnel cognitif, les échecs ne sont pas causés par la technique et le design organisationnel souvent absent qui l’accompagne, il suffit au contraire renforcer la puissance de la technique. On passe donc à la reconnaissance faciale, ce qui devient quelque peu ironique au temps des masques (mais « l’intelligence artificielle » n’a besoin que du front apparemment !) alors que, dans notre pays, la police est mise en branle dès que l’on cache son visage (voile ou manifestations). Là aussi, les notions de proportionnalité, de design précis des chaines opératoires, de définition du problème que l’on veut vraiment résoudre, sont évacuées. Il n’est donc pas étonnant de voir les mêmes réflexes en situation d’urgence, qui ne sont pourtant pas les meilleures occasions pour délibérer sereinement.

Troisième dimension : sécurité contre liberté. Le refrain habituel consiste à dire qu’il faut accepter de sacrifier un peu de notre liberté pour gagner de la sécurité, ici sous la forme d’une sortie maitrisée du confinement. On conçoit bien que toute annonce de sortie du confinement après plusieurs semaines est de nature à influencer l’opinion qui sera prête à tout accepter du moment qu’on arrête cette épreuve. Le consentement éclairé que l’on peut attendre des citoyens n’a guère de chances d’être trouvé sur ce point comme le montrent les sondages. Mais le problème est toujours aussi mal posé. Car la question est bien de trouver un compromis entre deux sécurités : sanitaire et citoyenne. Or, les habitudes prises avec les réseaux sociaux et les plates-formes sont en fait des transactions à double fond : croyant gagner des services gratuits (une liberté ?), les utilisateurs y perdent une sécurité quant à leurs données sans réellement s’en rendre compte. Car toutes les méthodes qui encouragent « l’engagement » sur les plates-formes sont faites pour générer des traces qui seront revendues. Et la géolocalisation n’est pas la moindre de ces traces. Pourtant, dans le même temps, on sait que les investissements dans la sécurité du réseau ont été réduits à l’extrême au profit de la vitesse, ce qui explique l’augmentation continue des hacks, des data breaches, aux conséquences de plus en plus graves, jusque dans les hôpitaux (NHS, hôpital de Rouen et récemment attaque contre le SI de l’AP-HP). Mais cette absence de fiabilité du réseau qui devrait être un prérequis à toutes les décisions semble passer au-dessus de la tête des utilisateurs tant ils sont bien pris en charge par les plates-formes mais aussi de celles des décideurs. Cette banalisation de la captation des données et du risque devient un appui pour les politiques des gouvernements et des agences de renseignement. Il est même possible de raffiner et de trouver des solutions plus ou moins intrusives ou respectueuses du RGPD. Mieux même, de laisser place au volontariat (qui est l’équivalent de l’attrait de la gratuité) et de promettre que tout cela ne durera pas plus longtemps que la crise sanitaire, dont on ne sait pas d’ailleurs quand elle finira. Sans doute aussi rapidement que le terrorisme qui a motivé les mesures liberticides de l’état d’urgence qui sont désormais passées dans la loi ordinaire. La manœuvre est un peu grossière puisque même en cas de protocole organisationnel et sanitaire bien conçu, ce qui n’est pas le cas actuellement, l’opération n’a d’intérêt qu’en obtenant une large participation du public (à un seuil qu’il faudrait encore déterminer d’ailleurs). N’oublions pas enfin que tout développement d’un tel code avec une sensibilité élevée nécessite des tests et ensuite un contrôle permanent (on l’a même vu avec ParcoursSup). Or, pour effectuer tout cela, il faut constituer un corps de contrôleurs, d’auditeurs des algorithmes, au sein de la CNIL de préférence ou dans une autre agence mais dans tous les cas avec une expertise élevée.

Bref, toute approche générale qui se contente de pousser une technologie sans design organisationnel complet rend la discussion impossible mais a pour effet de programmer les esprits pour la suite, pour une solution qui sera devenue naturelle alors que son utilité n’aura pas été démontrée ni les garanties apportées.

Est-ce à dire que rien n’est possible ? En fait, tout dépend de la question posée, de la visée et de la stratégie. Si l’on sait où l’on va (vision), si les moyens sanitaires sont mis en place (ressources), si les procédures sont clarifiées du point de vue sanitaire (design organisationnel) avant même de penser une solution technique, alors on peut aller chercher dans les technologies ce qui pourrait servir. Pensez aux cabines de tests en Corée : ce ne sont pas des solutions hi tech mais une innovation qui exploite au mieux les ressources de l’environnement, les contraintes sanitaires strictes. Mais elle s’appuie alors sur le numérique pour programmer des rendez-vous, pour éviter que les personnes restent stationnées dans des files d’attente à risque. Voilà un usage très limité du numérique mais très bien inséré dans un design organisationnel qui répond à une stratégie claire.

Une fois que ces conditions de stratégie seraient réunies, il serait alors possible d’aller faire son marché pour trouver maillon par maillon, articulation par articulation (Strauss), ce qui peut aider à réaliser la stratégie de sortie du confinement au mieux. Non pas LA solution mais des petites briques de solution, bien encastrées dans des designs organisationnels particuliers et sans doute très différents selon les types de patients, voire selon leur situation familiale ou professionnelle et selon les ressources de la région pour les reconfiner ou pas, etc. La prolifération actuelle des offres de la part des laboratoires est une chance de ce point de vue et il ne faut surtout pas se priver de cette diversité (contrairement à ce que semblent croire des initiatives comme le Pan European  Privacy-Preserving Proximity Tracing). Cela supposera de trouver toujours plusieurs solutions à chaque maillon de la conception en les comparant et en ne disqualifiant pas a priori certaines. J’ai développé une méthode d’analyse fonctionnelle (la boussole) pour cet objectif, méthode que pratiquent plusieurs générations de mes étudiants.

A ce moment, il faudra entrer dans la conception de l’application et non avant cela, contrairement à toute l’idéologie du développement agile qui veut que le code court, sans savoir pour quelle valeur ajoutée réelle, en produisant les lignes quitte à tout jeter à la poubelle ensuite (je passe ici sur les méthodes d’itération). Et il sera alors possible de tester, oui de tester avant de mettre en fonction. J’ai créé dans les années 2000 plusieurs laboratoires d’usages dont l’un au moins est toujours actif, le Lutin à la Cité des sciences. Nous savons organiser des tests, non seulement des interfaces (car il faut qu’ils soient les plus conviviaux possibles mais aussi les plus explicites pour générer de la confiance et pour redonner du contrôle aux patients), mais aussi toute la chaine d’interactions pour vérifier les comportements possibles selon des scénarios multiples. Comment faire si certains ne sont pas connectés ? Peut-on obliger ses contacts à se connecter à l’application ? Que se passe-t-il si la confiance disparait à un endroit du réseau ? etc. Une cohorte de 150 personnes peut servir de tests, soit à partir de leur situation réelle (non contaminés, contaminés guéris, symptomatiques faibles, malades déclarés). Oui, il est possible de construire des protocoles pour valider tout cela et identifier ainsi 80 % des problèmes. D’autres pourraient aussi proposer des simulations avec des systèmes multi-agents en les dotant de certains attributs et compétences pour tester plusieurs scénarios, et vérifier des effets systémiques sur de plus grands nombres. Evidemment, l’effet de modélisation réduirait les dimensions du problème au point de le rendre non réaliste mais l’intérêt est de mettre en évidence des effets pervers possibles, des dérives ou des atouts, bref de produire des alertes. Tout cela relèverait d’un design centré citoyen et permettrait d’éliminer la plus grande partie des risques. Et une fois toutes ces conditions réunies, il sera alors possible de décider exactement avec le plus de clarté et de contraintes possibles les conditions pour que cette application reste d’un usage temporaire et d’une conformité totale avec le RGPD, en inspectant en détail toutes les possibilités du code et en tentant de casser ses sécurités.

Voilà le cahier des charges d’un développement d’application responsable et démocratique qui, comme on le voit, ne part pas de la solution mais du cadrage du problème pour ensuite en construire tous les chainons des solutions possibles, dont la partie numérique ne constitue qu’une part et dont la performance dépendra avant tout de son intégration avec la stratégie et le design organisationnel adopté.

 

Je publie un article dans mon blog sur les propagations à propos des dispositifs de traçage. "Traçage en temps de pandémie : design imitatif ou design centré citoyen ?" L'histoire semble se répéter pour ceux qui comme moi ont suivi de près l'émergence des techniques de surveillance. Mais il est possible de penser un autre design de ces applications à condition de mettre la stratégie de déconfinement explicitement au centre avec tout le design organisationnel AVANT de penser applications à partir ce que l'on a sur l'étagère.

 

Le Club est l'espace de libre expression des abonnés de Mediapart. Ses contenus n'engagent pas la rédaction.