Pénologie prédictive et big data : de ¨Minority Report¨ aux Gilets Jaunes

L’état sécuritaire recourt de plus en plus à une « pénologie prédictive » : il ne s'agit plus seulement de punir les délits et les crimes, il faut également empêcher leur survenue. Il utilise pour cela les outils de l'intelligence artificielle, mais se sert également du terrorisme et des mobilisations sociales pour se justifier. Petit panorama du "Big Brother virtuel" en train de se construire.

justice-c-de-alexander-supertramp-shutterstock-730047334

 L’état sécuritaire recourt de plus en plus à une « pénologie prédictive » : il ne s'agit plus seulement de punir les délits et les crimes, il faut également empêcher leur survenue. Il utilise pour cela les outils de l'intelligence artificielle, mais se sert également du terrorisme et des mobilisations sociales pour se justifier. Petit panorama du "Big Brother virtuel" en train de se construire. On connait les transformations du libéralisme depuis les trente dernières années d'une version se voulant plutôt "progressiste" (au moins sur le plan des mœurs et de ce qu'on a appelé le "sociétal") à une déclinaison autoritaire ou la notion de sécurité prend une place déterminante.

Il n'est donc pas étonnant que les dispositifs de surveillance et de répression se soient multipliés en bénéficiant d'une absence de réponse relative mais significative de beaucoup de courants critiques du libéralisme tel qu'il existe mais ne remettant pas la course au tout répressif tel qu'il s'est mis en place dans la perspective d'un "libéralisme autoritaire".

Or la multiplication de ces mesures qui prennent le plus souvent la forme de dispositifs techniques est une donnée lourde de la situation : le bracelet électronique (en particulier sa version la plus évoluée dotée d'un GPS permettant des déplacements fixé par le juge) les systèmes de plus en plus perfectionnés de vidéo surveillance dessinent un paysage marqué par le panoptisme électronique et la gestion actuarielle de la délinquance (rappelons que la science actuarielle se rapporte a un ensemble de méthodes mathématiques permettant de mesurer les risques dans le domaine des assurances et de la banque)

Nos sociétés sont dominées par une nouvelle utopie, celle de la surveillance numérisée, supposée capable d’éradiquer le crime et la délinquance. Vidéosurveillance et utopie ? Le rapprochement de ces termes pourrait paraître curieux et problématique. Comment de prosaïques caméras de surveillance pourraient-elles bien relever de l’utopie ? Aucune caméra n’a jamais fait rêver quiconque. Il n’empêche, l’effet global provoqué par la multiplication et le croisement des points d’observation renvoie à une problématique qui relève de l’utopie moderne de la société et de l’homme transparents à eux-mêmes, au travers desquels on pourrait lire directement les intentions ou les intérêts, une transparence qui serait au fond le moyen idéal de s’assurer des personnes, de les conduire dans leurs actions sinon dans leurs pensées, et d’apporter aux individus et à la société une pleine et entière sécurité. (Christian Laval 2012)

Une nouvelle utopie tend a renforcer l'ancienne, celle de l'utilisation de nouveaux moyens informatiques regrouper sous le vocable d'"intelligence artificielle" censé permettre une pénologie prédictive traitant la source des problèmes avant même qu'ils se produisent. Ces utopies signifient une transformation en profondeur de nos sociétés inscrites dans la notion de "sociétés de surveillance et de contrôle", notions qu'elles transforment en même temps que celles-ci entrainent une mutation irrésistible.

Les nouveaux paradigmes de la société de contrôle

Dispositif Panoptique en Prison © C Marc Tertre Dispositif Panoptique en Prison © C Marc Tertre

 Pour penser la situation présente, quelques outils du passé peuvent nous être d'une grande utilité. L'analyse du passage d'une société de surveillance à une société de contrôle autour des travaux convergents de Gilles Deleuze et de Michel Foucault en constituent l'une des prémisses essentielles. Tous deux ont dénoncé des « sociétés disciplinaires » et ont donné des outils pour la combattre et la remise en cause. 

Alors que la société disciplinaire est entièrement construite autour de la notion de répression et de violence directe, la société de contrôle module ses interventions autour des moyens d'observation constante et de violence médiée autour d'impératifs présentés comme "humaniste" Comme le rappelait Karl Marx "Ce qui distingue principalement l'ère nouvelle de l'ère ancienne, c'est que le fouet commence à se croire génial."

Cela dit, un des éléments de leur analyse semble faux : alors que ces deux grands penseurs estimaient assister au remplacement d'une société de surveillance par une société de contrôle, c'est plus à une fusion des deux modes de pouvoir auquel nous assistons.

Deleuze dans son entretien avec Toni Negri nous donne une première clé pour comprendre le devenir de ces techniques prédictives dans le domaine du traitement pénal. 

Nous entrons dans des sociétés de contrôle, qui fonctionnent non plus par enfermement, mais par contrôle continu et communication instantanée. Boroughs en a commencé l’analyse. Bien sûr, on ne cesse de parler de prison, d’école, d’hôpital : ces institutions sont en crise. Mais, si elles sont en crise, c’est précisément dans des combats d’arrière-garde. Ce qui se met en place, à tâtons, ce sont de nouveaux types de sanctions, d’éducation, de soin. Les hôpitaux ouverts, les équipes soignantes à domicile, etc., sont déjà apparus depuis longtemps. On peut prévoir que l’éducation sera de moins en moins un milieu clos, se distinguant du milieu professionnel comme autre milieu clos, mais que tous les deux disparaîtront au profit d’une terrible formation permanente, d’un contrôle continu s’exerçant sur l’ouvrier-lycéen ou le cadre-universitaire. On essaie de nous faire croire à une réforme de l’école, alors que c’est une liquidation. Dans un régime de contrôle, on n’en a jamais fini avec rien. Vous-même, il y a longtemps que vous avez analysé une mutation du travail en Italie, avec des formes de travail intérimaire, à domicile, qui se sont confirmées depuis (et de nouvelles formes de circulation et de distribution des produits). A chaque type de société, évidemment, on peut faire correspondre un type de machine : les machines simples ou dynamiques pour les sociétés de souveraineté, les machines énergétiques pour les disciplines, les cybernétiques et les ordinateurs pour les sociétés de contrôle. Mais les machines n’expliquent rien, il faut analyser les agencements collectifs dont les machines ne sont qu’une partie.(Deleuze 1990)

De ce point de vue, Deleuze et Foucault interprètent ces phénomènes d'une manière distincte (mais au final convergente) Deleuze parle de "machine de guerre" et   d'agencements, Foucault lui préfère utiliser les concepts de dispositifs et de stratégies mais tous les deux parlent au fond de "techniques" instanciées par des discours qui les justifient et les rendent opérationnels. Ce billet reprendra cette méthode adaptée a l'heure de la pénologie prédictive et des dispositifs d'intelligences artificiels permettant de punir l'intention du crime a l'instar d'une moderne inquisition.

Ce billet prend aussi sa source dans une série de réflexion d'Olivier Razac, moderne disciple de Foucault et infatigable analyste des dispositifs de controles que sont le GPS le bracelet électronique, Les politiques de probation en "milieu ouvert"

 La prison est apparue humaine face aux supplices de même qu’aujourd’hui le milieu ouvert semble plus humain que la prison. Pour de nombreux petits délits, la prison paraît inadaptée et disproportionnée et les peines de substitution deviennent incontournables. [Mais] le milieu ouvert peut être compris comme un perfectionnement du dispositif carcéral plutôt que comme un progrès « humain ». Car, à chaque fois, derrière la douceur, derrière la réclamation d’humanité, se cachent des considérations d’un autre ordre, économiques, stratégiques et fonctionnelles. C’est pourquoi il faut aller au-delà des impressions émotionnelles et des affects pour se rappeler sans cesse que « ce qu’il y a de plus dangereux dans la violence, c’est sa rationalité (Razac 2008)

La aussi la "pénologie prédictive" se donne comme "humaniste" (et vise à mettre en avant deux catégories "indéfendables" de crimes : les crimes pédophiles et les crimes terroristes pour tenter de limiter la résistance à  son totalitarisme pénal.

L’effet « Minority Report » et l’Amérique sur écoute de "The Wire" : panorama télévisuel

Le film Miroity Report de Stephen Speilberg Le film Miroity Report de Stephen Speilberg

 

Tirée d'une nouvelle de l'écrivain Philip K Dick dont les géniales anticipation ont nourri tout un imaginaire contemporain, la nouvelle "Minority Report" avait marqué l'imagination et été l'objet d'une adaptation par Stephen Spielberg. Cette adaptation avait fait suite à une autre adaptation de science fiction de Steven Spielberg, "Intelligence artificielle" (ce dernier film étant tiré d'une adaptation d'une nouvelle de Brian Aldiss, écrivain réputé de science fiction a mi chemin de la "hard science" qui l'a précédé et de la nouvelle science fiction (dont  Philip K Dick et JC Ballard constituent les membres les plus éminents) mais "Minority Report" avait été un succès populaire et critique éclatant, qui avait permis a Spielberg de renouer avec les spéculation de la science fiction

Il n'est donc pas étonnant que cette nouvelle soit constamment rappelé pour rappeler les promesses ou les dangers de l'intelligence artificielle en matière de découverte précoce de velléités criminelles.. Ce qui est par ailleurs assez paradoxal, si on se souvient que la technique qui permet la "précognition" des crimes n'est pas due à de l'intelligence artificielle mais a des êtres humains "dégénéré"

Mais cela n’empêche pas ce film d’être régulièrement utilisé pour rappeler les possibilités de punir le crime ou de l’arrêter avant même qu'il ne soit commis. Il est vrai que La problématique de nos relation avec les technologies digitales est explicité dans le film précédent de Stephen Spielberg nommé par un hasard prémonitoire "intelligence Artificielle" ou AI (en prenant les initiales anglaises) Tiré d'une nouvelle de Brian Aldiss (écrivain britannique situé a mi chemin entre la science fiction "traditionnelle" de Van Voght et et la "New Wave" de Michael Moorcook (il a écrit pour la revue "news Words" dont ce dernier était rédacteur en chef) et   JG Ballard)

Une autre source possible de fictions mettant en scène ce qui est en train de se jouer dans l'aventure de la "pénologie prédictive" n'utilise absolument pas l'enjeu des techniques informatiques comme utopies est la série policière "The Wire" : sur écoute

143-the-wire-season-1-tv-show-image

C'est en effet une des série télévisée  qui rend le mieux compte des questions de criminalités,de leur raison et de la façon dont la société le gère dans un contexte néo libéral prononcé   rend compte des combats d'une équipe d’enquêteur à Baltimore confronté à la criminalité de la ville, marquée par la bataille pour le contrôle de différents trafics, a commencer par celui de drogue.

Car si la série ne parle absolument pas des utopies techniques qui bercent la montée en puissance de la notion de pénologie prédictive, elles en explicitent parfaitement le fond actuel fait d’idéologie néo libérale marquée par l'idéologie sécuritaire : chômage de masse, désespoir dans les quartiers relégués, misére des quartiers et trafics en tout genre, désindustrialisation massive de pans entiers de l'économie (et leurs conséquences sociales lourdes de conséquence)

Cette police de Baltimore est vraiment le symbole même de l'impuissance grandissante des "vieilles méthodes" : l'enjeu qui court sur les cinq saisons que compte la série consiste a essayer de réduire ou a tout le moins de contrôler un des grands "gangs" de trafiquants de drogue de Baltimore, marqué par la confrontation entre son leader "naturel"  Avon Randolph Barksdale  et son premier lieutenant "Stringer" Bell D'un coté, un truand "classique" "à l'ancienne". De l'autre un adepte des "nouvelles méthodes", qui prend des cours de gestion a l'université. Mais le trafic de drogue dans les rues de Baltimore n'est pas aussi tranquille qu'une société cotée en bourse, et le "moderne" Stringer Bell" se fait éliminer par le "vieux et traditionnel Avon Barksdale. 

Si la série n'utilise pas de technologies d'avant garde, les policiers qui sont les héros de la série utilisent cependant massivement des techniques d'écoute (d'ou le titre de la série "The Wire", le fil désignant par l'opération d'écoute , Et en effet, les policiers de Baltimore ne cessent pas d'espionner les trafiquants, de noter leurs déplacements, leurs conversation, de suivre de façon fine le tissus complexe de leurs multiples relations.

Il faut bien comprendre comment la question de la technologie s'articule à la question politique pour comprendre l'enjeu de ce qui se joue actuellement, alors même que les algorithmes censés justifier ce changement de politique ne sont pas vraiment au point. Evidemment, ces récits, qu'ils soient de science fiction ou purement policier n'ont qu'un rapport vague avec le réel des pratiques (même si "the Wire" est justement cautionné du "réalisme" des faits qui y sont rapportés), mais il ont un puissant effet de prescription populaire et d'injonction paradoxales sur le crime et sa nécessaire éradication. Il suffit d'ailleurs de constater combien les références qu'elles proviennent du cinéma mais aussi de la télévision sont nombreuses, avec une importance dans l'imaginaire de l'opinion publique loin d’être négligeable. C'est par ce canal que passe pour les vastes masses l'essentiel du discours écrit pour eux. 

Le nouveau job d’Ibm et les impensés de l'IA

Les techniques policières utilisent des outils informatiques depuis que leurs fichiers ont été numérisés, c’est-à-dire pour les états unis depuis le début des années 60. Cela a suscité des rapports privilégiés entre les différents services de police et l’industrie informatique, en particulier « Big Blue », IBM qui a tenu un rôle considérable dans l’établissement de systèmes de fichiers policiers puissants sur l’ensemble du territoire des états unis.  

Depuis qu’IBM s’est largement recentré dans le conseil et la mise au point de « nouvelles technologies » (sans oublier « le libre » auquel ils consacrent un budget non négligeable) il ne s’agit plus uniquement de vendre des ordinateurs et le logiciel associé, mais aussi du conseil et des « solutions » de préférence sur des technologies a haut impact sur l’imaginaire de celles et ceux auquel la firme prétend s’adresser.

 C’est pour cette raison que les techniques policières mettant en avant l’utilisation de l'informatique sont mise en avant par IBM. En même temps, elles constituent un outil privilégié pour examiner et évaluer l’impact et l’état d’avancement desdites technologies.

justice-predictive

On peut lire d’ailleurs une présentation de ces activités dans un site web dédié tout a fait intéressant pour témoigner à la fois de la conception de son rôle par la firme informatique, mais aussi de son impact dans les activités policiéres

Dans les années 1980, les services de police ont noté une avancée simple, quoique marquée dans la façon d'aborder le crime. Lieutenant affecté au service de transport de la Ville de New York, Jack Maple en avait assez de réagir après le crime — il voulait agir avant qu'il ne se produise. Sur un espace mural de près de 17 mètres, il a cartographié chaque train et chaque gare de New York. «Puis, j'ai utilisé des crayons pour marquer chaque crime violent, ainsi que chaque vol au premier degré et à main armée. Sur les cartes, j'ai indiqué les crimes résolus et ceux qui ne l'étaient pas.» En 1990, Jack Maple a fait une carte complète de la situation à New York à l'aide de punaises de couleurs. Nommées «cartes de l'avenir», elles lui ont permis, entre 1990 et 1992, de réduire les crimes dans le métro de 27 %, et les vols, du tiers.

Piquer des punaises sur une carte peut sembler rudimentaire, voire plutôt simple, mais c'était la première fois que les policiers et les fonctionnaires municipaux avaient une vue d'ensemble de l'activité criminelle récente dans leur ville. À l'aide de ces cartes, les policiers pouvaient savoir dans quels quartiers les crimes se produisaient, et ainsi adapter les patrouilles et l'assistance en conséquence dans ces zones. C'était une étape importante vers le regroupement des données policières dans un outil voué à l'analyse et à la prévention des crimes.

En 1994, l'intérêt pour les «cartes de l'avenir» déboucha sur CompStat (statistiques comparatives), une approche policière basée sur les données et où des commandants de quartier sont tenus responsables de la performance de la police dans leur secteur. Parce que CompStat était basée sur des données brutes, IBM faisait office de collaborateur naturel — et a rapidement mis ses connaissances de l'analytique à profit dans le nouveau monde de la prévention de la criminalité sous la forme de la solution CIW (centrale d'informations sur le crime).

Évolution naturelle de CompStat, CIW numérise les punaises sur la carte utilisée au cours des années précédentes et intègre des outils web évolués, comme des logiciels d'imagerie géographique et des flux de vidéos en direct, pour voir en détail un secteur. Plutôt que de réagir, les services peuvent utiliser ces informations instantanées afin de redéployer et de reconfigurer les ressources en fonction des tendances en criminalité. Les utilisateurs ont accès à toutes les informations entreposées afin de préparer des rapports, d'analyser et de comprendre les statistiques sur les crimes par rapport à un certain nombre de facteurs différents.

L’utilisation de moyens prédictifs n’est pas une nouveauté pour IBM qui l’utilisait déjà en 2011 pour permettre aux officiers chargés de probation (les libérations conditionnelles etc) un meilleur choix de bénéficiaires de ces mesures

En fonction d’un certain nombre de paramètres – comme l’âge, l’environnement familial, le casier judiciaire ou les fréquentations –, il fait office d’«  aide à la décision  » pour l’officier de probation, en fonction du risque de récidive. Ainsi, l’administration peut « orienter plus efficacement les adolescents vers les meilleurs programmes de réhabilitation  », précise IBM.

Mais ce qui est frappant, c’est l’explication de l’utilité d’un tel programme Tout d’abord la firme rappelle les contraintes fortes d’un tel dispositif (la probation) dans un contexte de société libérale sécuritaire

« Beaucoup d’administrations américaines, y compris la nôtre, font face à de sévères coupes budgétaires. Ce système nous permet de mieux allouer nos ressources. »

Dit par exemple le responsable de l’administration fédérale utilisateur de ce système. Il rappelle également la neutralité apparente de la « machine » contrairement à l’aspect forcément plus subjectif de l’individu dans le cas de critères permettant d’octroyer ou non des ressources. Or si ce critére devient subitement plus important, c’est qu’on est dans un contexte de diminution de ressources. Celles-ci devenant plus rare, l’attribution de celles-ci devient un enjeu encore plus problématique.

Il est remarquable que la présentation de cette technique joue du caractère « scientifique » et « neutre » du dispositif ainsi constitué Mais cette présentation montre aussi les limites de l’exercice… Une autre série de dispositif montré dans le même article de 2011 permet d’en montrer les non-dits et les approximations.

A New York, Edmonton, Minneapolis, Los Angeles, Memphis ou Santa Cruz, la police utilise des logiciels pour prédire le lieu et la date d’un crime... avant qu’il ne soit commis.

La ville de Santa Cruz a mis en pratique depuis le 1er juillet un algorithme développé à Los Angeles par un mathématicien de 29 ans, basé sur les formules utilisées pour étudier les tremblements de terre et leurs répliques. Là aussi, l’algorithme « digère  » de grands amas de données sur la criminalité, et fournit aux policiers des tendances, des probabilités, des intervalles temporels et des zones géographiques où les crimes ont une forte probabilité d’être commis. Le programme, qui tourne sur un banal ordinateur, est d’une simplicité désarmante et utilise des outils grand public, notamment Google Maps, pour afficher les données et les informations calculées. Les patrouilles utilisent ces cartes pour renforcer leur présence dans les zones désignées.

Le système proposé résulte nous dit-on de développements logiciels proposés en application de prévisions de séismes sur la région californienne. On peut douter alors de l’exactitude d’un logiciel qui émane de propositions qui n’ont pas jusqu’à preuve du contraire montré une grande efficacité. Mais le fait de montrer cette provenance permet d’en montrer le côté «scientifique »  et délimité, loin des sciences sociales et historique

C’est que l’utilisation de ces nouvelles technologies a des fins prédictives est problématique a la fois pour des raisons éthiques et morales, mais pose également des question sur sa simple efficacité. Sommes-nous prêt à abandonner toute liberté au profit d’une sécurité par ailleurs illusoire ? Devons-nous abandonner toute « humanité » dans le traitement des « illégalismes » quels qu’ils soient ? Mais surtout, peut-on vraiment faire confiance à ces algorithmes ?

Mais surtout quels sont les dangers induits par ce genre de procédure. On sait que les régimes « autoritaires » sont confrontés au problème de la dissimulation. Les couches inférieures en effets tendent à se dissimuler dans le cadre de ces société, décision par ailleurs tout a fait rationnelle quand sincérité égal danger.  Un spécialiste des questions chinoises rend compte de ce phénomène par une formule qui nous concerne aussi : « le problème fondamental réside dans le fait que le centre ne comprend pas ce qui se passe aux niveaux inférieurs ni dans l’ensemble de la société », affirme Deborah Seligsohn, politologue et spécialiste de la politique chinoise à la Villanova University à Philadelphie. Comment recueille-t-on suffisamment de renseignements pour vraiment prendre des décisions ? Et comment un gouvernement qui n’invite pas ses citoyens à participer au débat autrement que pour justifier les décisions qu’il a déjà prise peut-il encore susciter la confiance et modifier le comportement du public sans ingérence policière ? Ll est indéniable que le régime chinois est un exemple quasi parfait de régime fonctionnant sur un mode autoritaire, mais sommes nous en Europe ou en France si épargné par ce type de fonctionnement ? 

Le terrorisme comme terrain de jeu, les fichiers S comme cobayes, les Gilets jaunes comme victimes collatérales 

La mise en surveillance de l’ensemble de la population a toujours suscité craintes et réactions justifiées. Les gouvernements successifs et l’appareil d’état se sont bien rendu compte qu’ils ne pouvaient faire passer une série de mesures au potentiel virtuellement dévastateur sur le plan des libertés démocratiques qu’en les justifiant par des mesures d’exception. C’est toute la différence entre un fascisme qui n’a pas à se justifier et le « libéralisme autoritaire » qui doit tenir compte (même si c’est finalement pour passer outre) de l’opinion publique.

C’est dans ce contexte qu’il faut comprendre les mesures prises par les services de polices dans l’affaire Tarmac puis l’instrumentalisation des dangers bien réels du terrorisme dans l’objectif de promulguer une série de loi requérant une suspension « temporaire » des libertés démocratiques (ce qui est la définition même de l’état d’urgence) et de mettre en avant tout des équipes spécialisées dans la recherche de renseignement sans les contraindre à une sujétion au judiciaire. Evidemment, on le sait bien, « l’état d’urgence » prétendument temporaire a vocation à durer et les équipes policières à agir pour leur propre compte.  

La première « affaire » permettant ces manœuvres dilatoires en vue de la mise en place d’un système de surveillance et de contrôle est la fameuse « affaire Tarnac » On sait maintenant que Le modèle antiterroriste français s’est doté d’outils juridiques pour neutraliser les terroristes et leurs réseaux sur la base de l’intention de commettre un acte… et non après coup. La dénonciation de la « mouvance « anarcho-autonome » a permis une première mise en place d’un dispositif de surveillance et de contrôle qui servira beaucoup quand une menace réelle et sérieuse remplacera celle mise en avant par la ministre de l’époque, menace qui s’est avérée totalement illusoire et manipulée par les « services de renseignements »

Mais cette atmosphère a permis l’adoption d’une législation ad hoc et justifié par avance les politiques extrêmement intrusives utilisées par les services de l’état. D’autant que la menace en voie de disparition a été judicieusement remplacée par la peur de « l’islamisme radical » à partir de faits biens réels, même si on peut considérer que l’efficacité de ces mesures est tout à fait illusoire.  

Par exemple, de nombreux doutes ont accompagné le vote d’une législation antiterroriste en 2006 prolongée deux fois, qui permet « à titre expérimental » le contrôle des données de connexion aux services de télécommunication. Ces doutes touchaient en même temps le caractère liberticide de cette législation mais aussi son efficacité réelle qui a été mise en cause par des intervenants compétent du domaine. Les chiffres sont importants puisque par exemple, en 2011, les policiers et gendarmes habilités ont ainsi effectué 34 000 demandes de données aux opérateurs. Sans compter 197 000 autres demandes, pour la plupart d’identification d’un numéro ou d’un abonné, transmises, elles, dans le cadre de la loi de 1991. Au-delà de l’objectif annoncé, le but était aussi une généralisation des moyens de surveillance électronique et le dépassement d’un cadre juridique étroit et protecteur

 

Caméras "intelligentes" utilisées à Marseille : ces caméras utilisent des procédés d'IA Caméras "intelligentes" utilisées à Marseille : ces caméras utilisent des procédés d'IA

Comme cela s’était déjà passé pour la collecte de l’ADN, celle-ci commencée dans le cadre de crimes sexuels particulièrement ignobles s’est ensuite élargie à d'autres crimes, pour enfin s'ouvrir aux délits les plus divers. Cet élargissement continuel n’est pas sans poser de problème de libertés démocratiques et de refus de la surveillance.  On assiste d’ailleurs régulièrement à des refus de prise de l’ADN par des citoyens retenus par la police pour de tout autres motifs, en particulier des motifs peu ou prou « politiques » (c’est par exemple le cas de militants arrêtés dans le cadre d’une manifestation)

On assiste désormais à une généralisation d’écoutes sans le cadre légal qui en fixait autrefois les limites  Désormais, les agents du ministère de l’intérieur, de la défense et du budget (et non plus seulement policiers et gendarmes) y auront accès avec des motifs bien plus larges : « pour sauvegarder des éléments essentiels du potentiel scientifique et économique de la France, assurer la sécurité nationale, prévenir la criminalité et la délinquance organisées, ou encore éviter la reconstitution de groupements dissous »

La réapparition d’un terrorisme islamique aux opérations particulièrement traumatisantes pour la société par l’importance des dégâts qu’elle a fait subir et par son caractère apparemment incontrôlable a produit une véritable inflexion dans les politiques sécuritaires en direction des « quartiers » : alors que jusque-là il n’était question que de la misère sociale et des révoltes qui l’ont toujours accompagnée, la police du temps s’est muée en instrument de contrôle et de surveillance des dérives islamiques. C’est maintenant l’affaire des « fichés S » et la recherche systématique des « radicalisés » en particulier dans les prisons mais aussi dans les structures de contrôles du travail social que les « radicaux islamiques Rappelons les chiffres : selon « Le Monde », près de 20 000 personnes sont fichées S dont près de 12 000 pour un lien avec l'islamisme radical en 2015. Devant l’importance de la tache (il ne suffit pas de rentrer des noms dans les fichiers, il faut aussi suivre et évaluer les individus concernés sous peine d’aboutir comme pour Mohamed Merah dont la surveillance a abouti à un énorme fiasco) on envisage de plus en plus de recourir aux moyens nouveaux fournis par l’intelligence artificielle.

Il n’y a pas d’ailleurs que les services centraux de l’état qui recourent à de telles méthodes. On parle beaucoup de la mise en place d’un service de caméra « intelligentes » destinée à des fonctions de surveillance, tant pour la problématique du terrorisme islamique, qu’à celui des trafics en tout genre qui font de Marseille un moderne Chicago.

Dans Les Échos, Marc Darmon, directeur général adjoint de Thales, en charge des activités systèmes d’information et de communication sécurisés, explique : « Ce qui importe ce n’est pas le nombre de caméras, mais l’intelligence qu’il y a derrière. En effet, l’intelligence artificielle permet, entre autres, à la caméra, après quelques jours d’apprentissage, d’analyser un comportement anormal par rapport à la situation habituelle, comme par exemple si une même personne revient plusieurs fois au même endroit. Mais surtout l’opérateur sait en temps réel ou sont les secours (police, pompiers, ambulances) et peut les diriger, ce qui a nécessité dans Mexico une refonte totale de la chaîne de commandement. »

Mais le terrorisme fût-il islamique ne permet que la surveillance de milieux déterminés : la « mouvance anarcho-autonome » ne compte que quelques centaines d’individus, et le « biotope islamiste » quelques milliers. C’est bien dans ce cadre qu’il faut comprendre l’élargissement jamais constaté des « arrestations préventives » des gilets jaunes dans le cadre du mouvement social inédit qui secoue la France depuis quelques mois…  Evidemment, il y a d’autres raisons pour prendre ce chemin hyper répressif et affirmer une « violence d’état » sans fard, ne serait ce que l’absence réelle de réponse de la part du pouvoir politique et de l’appareil d’état. Mais ce déchainement est aussi à double détende : il permet d’envisager une surveillance approfondie « large », bien au-delà des milieux militants constitués. De ce point de vue, l’ethos des « gilets jaunes » est idéal : le refus des « corps constitués » (partis politiques, syndicats, associations) et des discours idéologiquement marqués est idéal pour justifier une surveillance « bande large » ou par exemple l’ensemble des conversations sur les médias sociaux est surveillé.  

De ce point de vue, la mise en avant par des « pénologues » intéressés de la question des « signaux faibles » rentre en résonnance avec la nécessité d’un contrôle Ces « signaux faibles » font partie d’un nouveau « paradigme sécuritaire » mis en place par des « experts » (souvent autoproclamés) du secteur de la sécurité tel Alain Bauer, mais aussi par les spécialistes des techniques numériques liées aux réseaux de neurones artificiels qui permettent la détection précoce des crimes. Voyons par exemple Alain Bauer nous expliquer l’utilité et la pertinence des « signaux faibles » dans la détection précoce des menaces terroristes :

La base c’est avant tout le renseignement, l’information et l’échange d’informations entre les services, nationaux comme internationaux. Il faut qu’on travaille aussi sur ce qu’on appelle les signaux faibles plutôt que les signaux forts. C’est du comportemental, ce sont les voisins qui vont voir quelque chose.... Toute la population doit être mobilisée. On espère que la police de sécurité du quotidien, qui va ramener du lien entre la police et la population, pourra aussi, entre autres, nous ramener ces signaux faibles

Alain Bauer, entretien sur BFM TV  le 25/03/2018du site https://rmc.bfmtv.com/emission/attaques-dans-l-aude-le-terrorisme-de-proximite-c-est-ce-qu-il-reste-a-l-etat-islamique-1404020.html Site consulté le 23/01/2019

Mais il ne s’agit pas uniquement d’un spécialiste appointé comme consultant par de grandes firmes de sécurité ou par l'état lui même. Des universitaires se sont eux aussi montré intéressés et démontrent  également la pertinence de cette notion :

Les signaux faibles, ces données fragmentaires, ambiguës, incertaines et peu répétitives sont les meilleurs outils d’anticipation (Junghans, 2017). Si le concept de signal faible est globalement partagé, sa définition et son traitement font encore débat. Défini en 1975 par Ansoff, un signal faible (weak signal) est « une information d’alerte précoce, de faible intensité, pouvant être annonciatrice d’une tendance ou d’un événement important » (Ansoff, 1975). Dans la littérature actuelle, ces signaux font l’objet d’un champ sémantique riche. Les termes «signaux faibles», «signal d’alarme», «signal avant-coureur», «signal précoce» sont parfois utilisés de manière interchangeable, ou sans distinction de sens.

La notion de « signaux précurseurs » a émergé de l’analyse de grands accidents technologiques. En 1978, Turner propose l’hypothèse des précurseurs. La plupart des accidents sont liés à des enchaînements d’erreurs et de défauts, parfois complexes, mais presque toujours détectables au cours d’une période dite d’incubation (Turner et al., 1997). Vaughan (1996) reprend l’idée que des signaux précurseurs sont disponibles dans l’organisation mais que ceux-ci ne sont pas traités. Elle appelle cette dynamique de l’organisation jusqu’à l’accident « normalisation de la déviance ». Le mouvement des organisations hautement fiables a également mis en avant l’importance de la prise en compte des signaux faibles dans la sécurité des systèmes. Le maintien des opérateurs à un niveau élevé de vigilance, appelé « conscience situationnelle », permet de détecter les problèmes naissants et d’apporter des ajustements immédiats, ce qui peut permettre d’éviter l’évolution de la situation vers des conséquences plus dramatiques (Weick et al., 2008).

  1. Delatour, P-H. Richard et P. Laclémence, « Sécurité globale, anticipation, initiative : le rôle des signaux faibles » Site https://www.geostrategia.fr/securite-globale-anticipation-initiative-le-role-des-signaux-faibles/» consulté le 21/01/2019

On remarquera le nombre conséquent de références bibliographiques qui sur signifient la puissance et le sérieux du concept mis en avant de façon bien plus opérationnelle par Alain Bauer. Pour autant, le statut « scientifique » de la notion de « signaux faible » dans ce contexte est mis en doute par bien des intervenantes et des intervenants du secteur, sans d’ailleurs qu’il s’agisse de critiques venant obligatoirement de « secteurs critiques » face à l’inflation sécuritaire.  

Les "signaux faibles" ont beau être à la mode, ils n'en suscitent pas moins de fortes  Il y a déja la résistance "classique" de certains philosophes contre les raisonnements "inductifs" (qui passent "naturellement" du singulier au plurien, du particulier au collectif") comme la "parabole de la dinde inductiviste" présentée par Bertrand russel :

“Dès le matin de son arrivée dans la ferme pour dindes, une dinde s’aperçut qu’on la nourrissait à 9h00 du matin. Toutefois, en bonne inductiviste, elle ne s’empressa pas d’en conclure quoi que ce soit. Elle attendit donc d’avoir observé de nombreuses fois qu’elle était nourrie à 9h00 du matin, et elle recueillit ces observations dans des circonstances fort différentes, les mercredis et jeudis, les jours chauds et les jours froids, les jours de pluie et les jours sans pluie. Chaque jour, elle ajoutait un nouvel énoncé d’observation à sa liste. Elle recourut donc à un raisonnement inductif pour conclure : ” je suis toujours nourrie à 9h00 du matin “. Or, cette conclusion se révéla fausse quand, un jour de noël, à la même heure, on lui tordit le cou.”

On voit ainsi les lacunes de  l’élargissement continu du « secteur de pertinence » de ce qui ressort de ce qu’on appelle la « pénologie prédictive » sous le triple critère (qui convoque la notion de dispositif chère à Foucault) d’une notion idéologique, d’une technologie associée et d’une question stratégique » qui transcende l’ensemble des problématiques ouvertes par ledit dispositif  

 

La reconfiguration de la justice et la fin de la distinction entre crimes et délits

6903260

On pourrait penser que l’institution la plus affectée par ces changements, ces nouvelles technologies et l’irruption massive de l’intelligence artificielle comme outils privilégiée d’une police modernisée aux rôles redéfinies serait justement l’institution policière. Il n’en est rien, et c’est au contraire la justice dont les rôles et les moyens sont profondément redéfinis  

Si le rôle de la police n’est plus d’obéir aux injonctions judiciaires, cela implique une profonde remise en question de l’importance de la justice dans le pacte républicain qui fonde notre société. Ce n’est pas par hasard que les syndicats policiers mènent une campagne quasi permanente contre le « laxisme » de la justice et remettent en cause de façon extrêmement poussées les décisions prises par les juges. On aurait tort de ne considérer que l’appel a encore plus de politique répressive et « sécuritaire » du coté de la police (même si cet aspect des choses a aussi son importance) et de ne pas oublier qu’il s’agit aussi d’enjeu de pouvoir entre deux institutions et deux ministères (le ministère de l’intérieur et celui de la justice)

Cette reconfiguration est d’ailleurs largement en cours, avec l’importance croissante du maintien de l’ordre dans le panel de missions dévolues à la police. C’est aussi l’apparition de « polices spécialisées » largement indépendantes de l’échelon judiciaire. Dans les missions de polices « classique » on a une plainte (devant la justice) qui abouti a une série de demandes de recherches judiciaires de la part d’un juge qui fait mener de façon pratique par la police une enquête qu’il contrôle en large part. Les nouvelles polices ne fonctionnent pas de la même façon : elles font ce qu’elles appellent du « saute dessus », de l’arrestation de coupables en situation de flagrant délits, sans mener d’enquêtes (ces polices sont largement des polices de patrouilles) Les juges (dans une situation de « flagrance ») n’ont plus qu’a accepter ou pas les explications de la police qui leur apporte tout menottés les supposés coupables. C’est une police et une justice d’abattage, cherchant a coller au plus prêt aux obligations d’une société libérales sécuritaires, avec en particulier une diminution drastique des moyens dévolus au service public.

Mais cette diminution pour être sensible n’est pas suffisante dans le cadre d’une société en crise permanente de légitimité et de débouché. C’est pour cela que le paradigme de l’intelligence artificielle dévolue à une « justice prédictive » voir même se substituant a elle prend autant d’importance Cela entraine une société de surveillance a une échelle encore jamais rencontrée : si combattre le crime implique de mesurer en permanence les « signaux faibles » détectés par les logiciels d’apprentissage artificiels, alors qui peut refuser de combattre le crime ? Si le paradigme numérique est si puissant, qui peut refuser de le voir s’immiscer dans tous les aspects les plus quotidiens comme les plus intimes de notre vie personnelle ?

Conclusion : big Brother est il déjà parmi nous ? 

big-brother
 

La réponse est dans la question : Big brother n’est pas encore parmis nous, mais sa présence se rapproche de plus en plus : déjà des réseaux de caméras partout, déjà un suivi jamais rencontré dans l’histoire de nos nombreuses traces numériques. Et cela ne fait que commencer, puisqu’on envisage la connexion de l’ensemble de nos données numériques, de plus en plus exaustives. Il faut résister, cela est un impératif démocratique, voir même plus fondamental encore : c’est en tant qu’humain, doté de libre arbitre et d’un pouvoir de décision en partie libre que nous sommes menacés. Reste a trouver une solution qui reste à déterminer. Une seule certitude : la solution sera collective.

Bibliographie :

Livres consultés :

Nicolas Bourgoin Surveiller et prévenir L'ére de la pénalité prédictive L'harmattan logiques sociales 2018 256 pages

Olivier Razac Avec Foucault, aprés foucault Disséquer la société de contrôle L'harmattan 2008 176 pages

Gilles Deleuze Pourparlers Les éditions de minuit 1990

Marion Vacheret et Estibaliz Jimenez (dir.) La pénologie : réflexions juridiques autour de la peine Presses de l'Université de Montréal 2013 193 pages

Revues et articles de revue consultés :

Revue Réseau Machine prédictives Numéro 36/211 2018

Bruno Gravier, Valérie Moulin et Jean-Louis Senon L'évaluation actuarielle de la dangerosité : impasses éthiques et dérives sociétales Revue  L'information psychiatrique 2012/8 (Volume 88), pages 599 à 604

Christian Laval Surveiller et prévenir. La nouvelle société panoptique Revue du MAUSS 2012/2 (n° 40), pages 47 à 72

Site web consultés :

Thibaut Slingeneyer, « La nouvelle pénologie, une grille d’analyse des transformations des discours, des techniques et des objectifs dans la pénalité », Champ pénal/Penal field [En ligne], Vol. IV | 2007, mis en ligne le 15 octobre 2007, consulté le 26 janvier 2019. URL : http://journals.openedition.org/champpenal/2853 ; DOI : 10.4000/champpenal.2853

Olivier razac la matérialité de la surveillance électronique https://www.cairn.info/revue-deviance-et-societe-2013-3-page-389.htm site consulté le 12/01/2019

Gilles deleuze Post scriptum sur les sociétés de controle https://infokiosques.net/imprimersans2.php3?id_article=214 Site consulté le 2/01/2019

Gilles Deleuze : entretien avec Toni Negri sur les sociétés de controle  http://lesilencequiparle.unblog.fr/2009/03/07/controle-et-devenir-gilles-deleuze-entretien-avec-toni-negri/ site consulté le 2/01/2019

Compte rendu du livre d'Oliver Razac sur le barbelé et la société de controle https://journals.openedition.org/methodos/2941 site consulté le 12/01/2019

 Grégory Salle Rouvrir la question carcérale  http://1libertaire.free.fr/QuestionCarcerale.html site consulté le 15/01/2019

Delatour, P-H. Richard et P. Laclémence, « Sécurité globale, anticipation, initiative : le rôle des signaux faibles » Site https://www.geostrategia.fr/securite-globale-anticipation-initiative-le-role-des-signaux-faibles/» consulté le 21/01/2019

Alain Bauer, entretien sur BFM TV  le 25/03/2018du site https://rmc.bfmtv.com/emission/attaques-dans-l-aude-le-terrorisme-de-proximite-c-est-ce-qu-il-reste-a-l-etat-islamique-1404020.html Site consulté le 23/01/2019

Site d'ibm sur ses solutions prédictives pour le grand public : https://www.ibm.com/ibm/history/ibm100/fr/fr/icons/crimefighting/ site consulté le 18/01/2019

Le site d'IBM présentant ses solutions pour la police : https://www.ibm.com/analytics/fr/fr/industry/government/law-enforcement/ site consulté le 18/01/2019

Sophos (firme présent dans l'ensemble des aspects de la "sécurité informatique") analyse les procédés d'intelligence artificielle utilisés dans la détection prévisionnelle  des crimes et la recherche des fausses déclarations  https://news.sophos.com/fr-fr/2018/11/05/lintelligence-artificielle-utilisee-police-predire-crimes-detecter-mensonges/ site consulté le 18/01/2019

Le Club est l'espace de libre expression des abonnés de Mediapart. Ses contenus n'engagent pas la rédaction.