L’application Stop-Covid est morte née. Attention au retour de flamme.

Techniquement pas aboutie, médiatiquement malmenée, politiquement avortée, l’application stop-covid ne verra certainement pas le jour. Une vraie réflexion IA, éthique et relative au droit du numérique s’impose plus que jamais au pays des gaulois réfractaires.

Les débats relatifs à l’application Stop-Covid mettent en évidence les tensions entre les tenants d’un usage intensif du numérique sans souci des libertés fondamentales, imposant des nouveaux rapports à la vie privée, personnelle et intime que cela entraine, et ceux qui refusent radicalement toute surveillance, évoquant un outil dangereux vers le totalitarisme technologique avec tout retour en arrière impossible.

La mauvaise approche du gouvernement qui a d’abord programmé un débat sans vote sur l’utilisation de l’application stop-covid, puis un vote sans quasiment de débat, puis une déclaration du PM évoquant le sujet, repoussé à un autre jour finalement etc etc… Bref ! Pour une fois, on ne saurait être plus reconnaissant de la médiocrité de cet exécutif à n’avoir pas su quelle voie emprunter pour imposer à tous un truc fabriqué à quelques-uns sans concertation. On disposera de la sorte d’un peu plus de temps pour prendre des décisions fortes sur un sujet jusqu’ici bien trop éludé.

L’application Stop-Covid n’est qu’un énième avatar dans la controverse sur la possibilité d’une intelligence artificielle éthique. Le terme "éthique" vient du grec éthos qui fait référence aux mœurs. L'éthique a pour fonction de transposer la morale dans le fonctionnement et la dynamique de la société. Bien évidemment, l'IA en santé doit respecter des principes éthiques. C’est préférable. Mais l'IA et toutes les formes numériques appliquées à nos vies ne doivent-elle pas aussi et surtout respecter la loi ? (La loi est l’expression de la volonté générale : on considère que chaque citoyen participe, directement ou par l’intermédiaire de ses représentants, à l'élaboration de la loi). En effet, la violation d'un principe éthique n'équivaut pas à celle d'un principe juridiquement obligatoire. Or, fort logiquement, le droit est encore très jeune concernant les dernières avancées technologiques.

Pour l’application Stop-Covid, la technicité du dispositif n’étant pas suffisamment fiabilisée et en capacité de répondre à des grands principes juridiques, il y a fort à parier qu’elle ne verra pas le jour. De plus, le politique s’est embourbé... Mais cela est provisoire et la prochaine application pour la prochaine crise (ou celle là) aura à être reconsidérée à la mesure d’un vrai débat de société. 

Faute d’un débat démocratique incluant toutes les composantes de notre société, la digue des libertés finira par céder devant les coups de boutoir de quelques ensorceleurs du numérique ayant su séduire des politiques peu éclairés. Sur le modèle de celle pour le climat, une convention citoyenne du numérique aurait du sens. A condition que ses conclusions soient suivies d’effet...

La meilleure solution découlera de l’acceptation de règles définies collectivement, donc selon des processus démocratiques -débat, conflit, dialogue, concertation, information publique, va-et-vient entre politiques et citoyens...

Ce qui suit ne tranche pas le débat. C’est aller du local à l’international - mais tout est lié – avant d’observer l’état du droit et de confronter quelques points de vue qui méritent d’être introduits dans le débat.

1. A TOULOUSE : c’est au plus près du terrain dans des formes diverses et collaboratives que se joue demain.

Les outils dont nous disposons pour changer le Monde – pour le meilleur ou pour le pire - n’ont jamais été aussi puissants. L’énergie nucléaire, l’intelligence artificielle ou les manipulations du génome, pour ne citer qu’elles, sont entre nos mains des outils remarquables et redoutables. Les réflexions de nature éthique sont donc essentielles pour nous aider à tracer des frontières entre ce qui est souhaitable, utile, dommageable ou funeste parmi tout ce qui est possible et faisable. Issues de ces nombreuses réflexions, les recommandations d’ordre éthique sont légion. Mais peuvent-elles être mises en œuvre ? A quelles conditions ? Comment ? Peut-on réguler les technosciences et leurs applications ? Si oui, comment ? Début de réponse ici : colloque du GREP, Toulouse, avril 2020

2. En FRANCE : des gaulois réfractaires en ordre dispersé.

En 2018, le député - mathématicien Cédric Villani a remis un rapport intitulé "Donner du sens à l'intelligence artificielle : pour une stratégie nationale et européenne". La partie 5 traitait de l'éthique. Quelques pages peu développée mais c’est mieux que rien... Les textes législatifs français découlent pour l’essentiel des textes européens et ne sont pas très avant-gardistes… Il s’agit essentiellemement de petites niches dans des textes de nature très varié et l’on a bien du mal à en faire ressortir des points de doctrine affirmés – sauf rétrécissement des libertés pour des motifs de lutte contre le terrorisme. On peut donc s’attendre logiquement à ce que le risque sanitaire fasse pencher du même côté le bateau législatif du numérique français que l’argumentaire sécuritaire habituel.

 3. L’EUROPE : une bonne échelle pour traiter le sujet mais a-t-on encore un projet commun ?

A l’évidence, et même s’il n’aborde pas tous les sujets du numérique, le Règlement Général sur la Protection des Données de 2016 (RGPD) est le texte de référence. 

La proposition de la Commission européenne sur une "IA digne de confiance", publiée en avril 2019 propose 7 éléments essentiels pour parvenir à une IA digne de confiance. La confiance...

Le Conseil de l’Europe s’est également penché depuis plusieurs années sur les impacts sociétéaux de l’IA et propose une réflexion spécifique à l’IA en temps de coronavirus.

 4. Et ailleurs ?

Il y a les monstres GAFAM américains et toutes leurs chartes de respect d’on ne sait pas trop quoi… Il y a aussi le modèle chinois… Mais c’est plutôt en regardant ailleurs qu’on pourrait avoir envie de réfléchir ensemble.

Au QUÉBEC :

la Déclaration de Montréal pour une IA responsable est une déclaration de principes éthiques qui s’articulent autour de 7 valeurs fondamentales : bien-être, autonomie, justice, vie privée, connaissance, démocratie et responsabilité. Ces valeurs, proposées par un groupe d’experts de l’éthique, du droit, des politiques publiques et de l’intelligence artificielle, ont été enrichies par un processus délibératif. Cette délibération a pris la forme de consultations qui se sont échelonnées sur trois mois, dans 15 lieux publics différents et ont suscité des échanges avec plus de 500 citoyens, experts et parties prenantes de tout horizon. 

- Un document collaboratif a été proposé récemment par certains membres l'Observatoire international sur les impacts sociétaux de l'IA et du numérique (de l’université de Laval au Québec) et de l’université catholique de Lille : « Élaboration et gouvernance des solutions technologiques pour une sortie de crise sanitaire - Aide à la décision relative aux initiatives prises dans le cadre du Covid-19 ».

Au ROYAUME-UNI : l’Université d’Oxford a initié une recherche sur le tracking - coronavirus et propose un horizon pragmatique pour sortir du déconfinement.

Aux ETATS-UNIS : il existe toute une littérature dont il est parfois difficile de savoir qui est derrière et quels intérêts commerciaux peuvent se trouver derrière. JMIR mHealth and uHealth propose une solution qui préserve la vie privée tout en effectuant un traçage utile : « Peer-to-Peer Contact Tracing: Development of a Privacy-Preserving Smartphone App ».

Sur l’application Stop-Covid, vous avez besoin de forger votre propre opinion ? Voici le « kit français » :

D’abord pour savoir de quoi on parle vraiment : le projet Stop-Covid est ici. De son côté, l’ANSSI apporte son expertise sur les aspects techniques du projet. Les travaux du Comité Consultatif National d’Ethique (CCNE) sur les sciences de la vie et de la santé apportent une réflexion de fond :

https://www.ccne-ethique.fr/fr/actualites/la-contribution-du-ccne-la-lutte-contre-covid-19-enjeux-ethiques-face-une-pandemie

https://www.ccne-ethique.fr/fr/actualites/comite-national-pilote-dethique-du-numerique-bulletin-de-veille- ndeg1

La publication de l’avis de la Commission Nationale Informatique et Liberté (CNIL) sur le projet d’application mobile « StopCovid » souligne que le dispositif est conforme au Règlement général sur la protection des données (RGPD) si certaines conditions sont respectées. La CNIL relève qu’un certain nombre de garanties sont apportées par le projet du gouvernement, notamment l’utilisation de pseudonymes. La CNIL appelle cependant à la vigilance et souligne que l’application ne peut être déployée que si son utilité est suffisamment avérée et si elle est intégrée dans une stratégie sanitaire globale. Le Conseil National du Numérique, placé auprès du Premier ministre, est favorable au principe de StopCOVID, en tant que brique d’une stratégie plus globale.La CNCDH alerte les pouvoirs publics sur les dangers pour les droits fondamentaux de toute application de suivi de personnes et des contacts, en particulier sur le droit à la vie privée.

La Quadrature du Net fournit d’excellents arguments en travers du projet Stop-Covid et donne au débat une richesse basée sur l’expertise. On adhère ou pas mais la critique est fondée.

 

Le Club est l'espace de libre expression des abonnés de Mediapart. Ses contenus n'engagent pas la rédaction.