L’acte juridictionnel sous le feu des IA
Avant de commencer cette petite intervention, je tiens à remercier la compagnie des experts de Montpellier, qui me permet d’intervenir sur ce thème.
D’abord quelle légitimité ai je pour vous parler des IA et du droit, d’autres personnes estampillées spécialistes me dénieraient toute parole à ce sujet…
Bon, sur l’acte juridictionnel, après 40 ans à motiver des jugements et arrêts civils ou pénaux, il va être dur de me contester une certaine connaissance à ce sujet..
Mais sur les IA, les jeunes générations pourraient me dire : OK boomer, c’est à dire ferme là et retourne à ta place.
En réalité, ce serait oublier un peu l’histoire des travaux sur l’information juridique et les IA..Car tout le monde l’ignore sans doute, une équipe transdisciplinaire existait à la faculté de droit de Montpellier, équipe du CNRS, l’IRETIJ, qui après avoir mis au point une méthodologie pour la création de banques de données juridiques s’est intéressé aux premiers instruments des IA : les systèmes experts. Et en, avant d’entamer ma carrière dans la magistrature, en 1986 je soutenais une thèse sur l’utilisation de systèmes experts en matière de droit de l’urbanisme. Cet travail scientifique était aussi soutenu par l’INSA de Lyon ( Robert Laurini)….Il a nécessité des heures rivés à l’écran de Cray installé au CNUSC et une réflexion méthodologique, aussi bien informatique, juridique que linguistique.
Il faut que je rende hommage à ce sujet au professeur Pierre Catala , pionnier en ce domaine et père des banque de données et notamment Lexis Nexis-Juriclasseur et Michel Vivant mon directeur de thèse..
Pour la petite histoire : ce travail salué à l’époque et qui m’avait permis d’écrire des articles dans les revus scientifiques comme l’AFCET, le fut en pure perte pour ma carrière dans la magistrature. Dans ce ministère l’informatique est descendante, et il faut être un happy few pour pouvoir être convié à des réunions à ce sujet..
Il faut dire que l’on a vu les magnifiques réussites de l’informatique judiciaire et pendant 40 ans j’ai pu en observer ses lenteurs et les dérives..
En 1986, ce travail était aussi semble t-il trop précurseur..
Au cours de cette carrière de magistrat je fus donc essentiellement un observateur et utilisateur, actuellement je continue bien sûr d’utiliser le rudimentaire WINCI, le non compatible Word perfect mais aussi le RPVA et les bases de données juridiques bien concurrencées par Google et autres
Mais aujourd’hui sous la ferveur des applications d’IA, la justice va plonger, sauter sans parachute dans l’expérimentation sociale et juridique avec les IA associés à l’Open Data.
Pourtant il ne faut pas être dans le déni, cette venue des applications surtout des IA generatives va bouleverser l’acte juridictionnel.
Pour vous rassurer complètement, je vous donne les conclusions du rapport « sommet pour l’avenir de l’ONU de fin septembre 2024 , en ligne bien sûr sur le site ONU :
« Parce que « personne » ne peut aujourd’hui prédire l’évolution de ces technologies, et ceux qui prennent les décisions ne rendent pas de comptes lors du développement et de l’utilisation de systèmes « qu’ils ne comprennent pas ».
Dans ces circonstances, « le développement, le déploiement et l’utilisation d’une telle technologie ne peuvent être laissés seulement aux caprices des marchés », insistent-ils, soulignant le rôle « crucial » des gouvernements et des organisations régionales.
Ce sont de belles recommandations, mais le coup est parti
Quelques éléments de définitions des IA :
Comme Cédric Vilani le souligne et rappelle que les outils d'IA générative s'inscrivent dans une continuité, marquée, en 2012, par une percée des réseaux de neurones dans le déchiffrement de l'écriture manuscrite. Même si cette technique existait déjà, portée notamment par les travaux de Yann Le Cun. ChatGPT et l'actuelle vague de LLM ( Large Language Model) ne sont, en définitive, que le prolongement de cette histoire, le fruit d'une dernière avancée issue des travaux des ingénieurs de Google. « Leur idée clef par rapport aux autres techniques de génération, c'est de ne plus se contenter de considérer simplement ce qui précède - le début de la phrase par exemple -, mais s'intéresser potentiellement à toutes les connexions d'un endroit du texte à un autre - le début du paragraphe d'avant, le premier mot de ce texte, etc. Ce n'est donc pas une révolution scientifique. Ça marche ou, plus exactement, ça semble marcher. Car, dans l'IA générative, l'illusion de la véracité est plus importance que la véracité elle-même. Un texte en apparence érudit produit par un LLM peut renfermer des références farfelues, les fameuses hallucinations. « De la même façon qu'un stagiaire remplit un texte à trou par analogies à partir d'un corpus de références, sans comprendre le sens, ChatGPT et les autres ont été conçu pour dire le plausible, délivrer un résultat moyen qui sonne bien », résume le mathématicien et de conclure : « des risques inhérents à leurs principes de fonctionnement, mais aussi liés aux corpus de données d'entrainement ou à leur concepteur. « Les LLM sont des objets éminemment politiques, car ils censurent telle ou telle nature d'informations ».
Pour résumer, il existe deux grands type d’outil d’IA :
Les systèmes experts et leurs successeurs qui vont puiser dans une base de connaissance préalablement établie
Les IA génératives, auto apprenants en temps réels.. ChapGPT et consorts. Generative AI, ou IA Générative en français désigne des algorithmes d’Intelligence Artificielle et de Machine Learning qui utilisent des contenus existants au service de leur apprentissage pour en générer de nouveaux. Il peut s’agir de la génération de textes, de sons, d’images, … Ainsi, en se basant sur des modèles stockés dans une base de données, la Generative AI est en capacité de produire son propre modèle similaire.
A partir de ce constat, certes rapide comment ces IA vont impacter la décision juridictionnelle ?
Alors que l’on parle encore en jargon de logiciel métier ( plateforme intégrée conçue pour adresser les besoins précis d’un secteur d’activité donné), les applications d’IA vont impacter le cœur de la décision de justice.,
Mais Déjà,
A quoi sert la justice civile ? Si ce n’est que tous le justiciables puissent accéder dans un délai raisonnable à une décision pertinente rendue de manière contradictoire et en toute transparence.
Face à cet enjeu, l’informatique, la numérisation, la communication et maintenant les diverses techniques d’intelligences artificielles nous proposent des aides et certaines envisagent même de se substituer à l’avocat, au juge.
Pour résumer les technologies en réseau type plateforme Opalexe ouvraient la voie aux Intelligences Artificielles, plus encore IA générative et le machine learning versus ChatGpt qui vont envahir l’espace professionnel d’abord des avocats puis des magistrats...
Mais avant d’explorer rapidement avec un regard contemplatif, enthousiaste ou critique cette évolution envisageons la méthode actuelle de résolution judiciaires des affaires ou en terme plus branché le « problem solving. »
A) rappel succinct des principes fondamentaux juridictionnels.
1) Retour primordial sur les principes de procédure civile.
La procédure est mère de la liberté aussi de l’équité au cœur duquel un principe essentiel le contradictoire (en laissant à sa juste place les procédures de médiation )
Contradictoire ce qui implique de la transparence :
- dans les échanges de pièces et conclusions
- de la loyauté dans la communication de pièces et dans l’obtention de celles-ci
- de la précision ( respect des délais) et de la motivation juridique
2) la Civil Law le droit civil comme principe d’interprétation et de raisonnement juridique
Comme l’on doit toujours se définir par rapport à un autre système il est courant de mettre en parallèle, le droit civil français et la Common Law :
Pour la Common Law, les décisions judiciaires ont une force exécutoire et les juges ont un rôle prépondérant dans la création du droit. La jurisprudence a toujours été l’élément fondamental du système de la Common Law. C’est incontestablement un système fondé sur le précédent. Par conséquent, les décisions antérieures s’imposent aux tribunaux de la Common Law (stare decisis).
Le droit civil français sous le système droit civil, les décisions judiciaires n’ont pas de force exécutoire sur les tiers au procès et ce droit est caractérisé par un fort élément de codification. La doctrine en droit civil est indéniable mais ce sont principalement des jurisprudences de la Cour de Cassation qui ont un rôle d’unification non impérative mais pertinente de la jurisprudence. Le raisonnement est descendant : la loi puis les jurisprudences puis l’analyse de la doctrine juridique.
Le syllogisme judiciaire du juge français c’est d’abord l’application in concreto de la loi que l’on trouve dans un code puis un élément réflexif qui est la consultation de la doctrine et de la jurisprudence (la sienne et celle de la Cour de Cassation de la CEDH et des normes supra nationales qui s’imposent en France) avec un résultat souvent hybride : les cas n’étant jamais identiques. Raisonnement descendant de la loi vers le cas à interpréter. Le principe étant l’égalité devant la loi, et nul n’est censé ignorer la loi.
Ces systèmes politiques, qui ont fait des articles de loi la source principale de leur droit sont très largement majoritaires en Europe et dans les pays historiquement contrôlés par des puissances européennes. Dans cette approche, les juges sont théoriquement considérés comme des « bouches de la loi » et leurs décisions ne sont pas créatrices de droit.
La Common Law est avant tout un raisonnement ascendant en utilisant la jurisprudence antérieure.
La Common Law, par contraste avec le droit civil, est beaucoup plus récente, puisqu’elle proviendrait d’une tradition apparue en Angleterre suite à la conquête normande de 1066, remplaçant le droit coutumier germanique qui lui préexistait. Le terme désigne les systèmes de « droit coutumier », dans lequel la majorité du cadre juridique est créé par précédent jurisprudentiel et non pas par législation. L’information circulant mal, et la formation étant inégale, les magistrats avaient tendance à se prononcer selon leur bon sens plutôt qu’une quelconque règle de droit. Les décisions de justice ont donc été collectées pour former un socle commun. L’idéal sous-tendant la règle du précédent normatif est donc principalement celui de stabilité et de sécurité juridique. Ce système perdure en Grande Bretagne, aux États-Unis, au Canada, en Alaska et en Australie.
3) les principes de l’acte juridictionnel.
Ces principes s’imposent normalement à toute Cour de justice en France :
-précision et motivation (explicabilité de la décision)
-Transparence & collégialité
- délai
- décision exécutoire
Nous voyons tout de suite que ces principes d’une bonne justice sont battus en brèche par le productivisme judiciaire et la clochardisation de la justice en France (expression d’un passé Garde des Sceaux)
Ainsi la majorité des décisions pénales de première instance ne sont pas motivées sauf quand il y a appel. La plupart des décisions civiles et pénales sont rendus en juge unique et 60 % d’entre elles sans même de publicité des débats, je fais allusion au nombre croissant de décisions rendues par les parquets et leurs délégués du procureur avec parfois l’intervention d’un juge du siège qui valide.
Ne parlons pas des délais....
Enfin la notion de décision exécutoire a vécu :
- Les juges des enfants ont toutes les peines du monde a voir exécuter leur décisions par
les services éducatifs par faute de moyen mais aussi d’imbroglio administratifs
- Au pénal il en va de même pour les JAP
- Au civil, Cf les difficultés classiques d’exécution d’un plaideur gagnant, si bien que l’on a créé un juge de l’exécution.
Etc...
B) La révolution numérique
1) Open Data
Les citoyens doivent avoir accès aux décisions de justice : c’est la base d’un Etat de droit. Ces droits d'accès et de réutilisation s'inscrivent dans la pensée qui considère l'information publique comme un bien commun dont la diffusion est d’intérêt public et général. L'ouverture des données est ainsi à la fois une philosophie de l'accès à l'information, un mouvement de défense des libertés et une politique publique.
Certains pays ont été pionniers, dont les USA, le Royaume Uni, l’Australie, la Canada et la France.
L'article 15 de la DUDH de 1789 mentionne que la société a le droit de demander des comptes à tout agent public de son administration. Cet article constitue le fondement juridique du droit d'accès aux informations publiques
L’objectif de l’open data des décisions de justice est de favoriser l’accès au droit et de renforcer la transparence de la justice avec la mise en ligne à terme de 300 000 décisions administratives et de 3 millions de décisions judiciaires chaque année.
Selon l'arrêté du 28 avril 2021, la consultation des décisions de justice en ligne sera possible progressivement d'ici décembre 2025 comme l'indique également le calendrier diffusé sur le site du ministère de la justice. Les dates de mise à disposition au plus tard des décisions de justice sont :
• septembre 2021 pour les décisions du Conseil d’État et de la Cour de cassation ;
• mars 2022 pour les cours administratives d'appel, avril 2022 pour les cours d’appel en matière civile, sociale et commerciale et juin 2022 pour les tribunaux administratifs ;
• juin 2023 pour les conseils de prud'hommes ;
• décembre 2024 pour les tribunaux de commerce et les décisions en première instance en matière pénale ;
• septembre 2025 pour les décisions en première instance en matière civile et décembre 2025 pour les procédures criminelles et les cours d'appel en matière pénale.
Cet élément va être fondamental et révolutionner le conseil juridique et conduire à un nouveau traitement de l’information jurisprudentielle et judiciaire.
En effet, cet Open DATA va permettre des traitements algorithmiques, c’est à dire permettre à des industriels de la jurisprudence d’enraciner des pratiques aventureuses :
- Le forum shopping
- le traçage des juges et des jurisprudences.
- la création de tarifications majoritaires et par-delà un risque de cristallisation de la jurisprudence
Pour certains auteurs, ces innovations remettent en question la notion même de jurisprudence, puisque « pour les big data, le droit et la jurisprudence sont des faits au même titre que les caractéristiques du dossier ou le tempérament d'un juge » (Garapon, Antoine, « Les enjeux de la justice prédictive », JCP G. 2017. Doctr. 31, n°14). Pour d’autres et malgré les garde-fous, il subsiste un risque que la justice prédictive devienne une « prophétie auto-réalisatrice » (Croze, Hervé, « La factualisation du droit », JCP G 2017, 175, n° 5).
2) les techniques d’IA juridiques
L’intégration de l’IA générative dans ce traitement grâce une révolution technologique, notamment celle des algorithmes d’apprentissage automatique (machine learning), et plus spécifiquement du traitement automatique du langage (natural langage processing). Ces algorithmes, qui ne fonctionnent pas uniquement sur la base d’instructions descriptives, mais apprennent par l’exemple, sont ainsi capable de lire et de comprendre le sens à une vitesse de deux millions de décisions de justice par seconde avec une fiabilité de 96%.
Cela provoque un changement de taille : « car ils analysent, compilent puis synthétisent une immense quantité d’information, ils sont certes un vecteur d’information, mais aussi un créateur de contenu. Les algorithmes sont devenus un medium ».
Ces technologies ont donné naissance, de façon presque concomitante aux États-Unis et en France aux outils dit de justice prédictive.
Le terme de « justice prédictive » désigne, selon le rapport Cadiet , « l’ensemble d’instruments développés grâce à l’analyse de grandes masses de données de justice qui proposent, notamment à partir d’un calcul de probabilités, de prévoir autant qu’il est possible l’issue d’un litige ».
Principalement à destination des professionnels du droit, ces outils servent en réalité d’abord à se repérer dans l’information. Ce sont des super-moteurs de recherche, qui autorisent le tri en fonction de filtres sémantiques (par sens de la décision, ou par caractéristiques spécifiques, comme le montant du salaire, le taux de dépendance économique...). Ils permettent ensuite, en s’appuyant sur un panel de décisions similaires à celui qui est soumis, de calculer le taux d’acceptation ou de rejet d’une demande ainsi que le montant d’indemnité et de faire varier ces calculs en fonction de plusieurs paramètres, comme la juridiction.
Cette ouverture s’accompagne partout de la diffusion des outils technologiques permettant de les analyser., déjà des start up se sont emparés de ce marché : Prédictice, Ordalie.IA...
Cette conjonction de deux phénomènes va modifier l’équilibre et le fonctionnement des systèmes juridiques et in fine entraîner une convergence : Le passage rapidement vers un système mixte civil law / common law, certains avancent l’expression droit isométrique.
Du big data judiciaire et des outils de compréhension du langage naturel naît une force centrifuge rapprochant la civil law et la common law vers un nouveau système : l’isometric law; système qui présente des risques et des avantages.
Le système juridique et judiciaire devient un système de droit dans lequel l’intégralité des décisions de justice est mesurée de façon égale par un programme informatique, dont la synthèse finit par devenir la norme. L’open data allié aux technologies d’analyses quantitative des décisions de justice créerait donc un pouvoir normatif du fait des décisions du fond. Cette idée puise évidemment ses racines dans « cet imaginaire cybernétique (qui) conduit à penser la normativité non plus en termes de législation mais en termes de programmation. ». Pour reprendre la formulation d’Antoine Garapon, qui est un des premiers auteurs à avoir perçu le glissement, « l’informatisation du droit modifie les moyens de diffusion de celui-ci mais également son élaboration. C’est une source alternative de normativité juridique ».
Ce changement de paradigme a plusieurs prérequis :
- la collecte et la diffusion de l’intégralité des décisions de justice, ce qui va être le cas en France
- l’acceptation tacite de la fin de l’individualisation la décision de justice, la création d’un homo juridicus moyen et la supériorité de la norme arithmétique sur l’individu. Le droit se prête bien à cette fusion entre normalité et normativité.
Pour Alain Supiot en effet, « le qualificatif de « loi normale » marque l’émergence d’une normativité induite de l’observation des faits, qui aura vocation à se substituer ou à s’imposer à la légalité du système juridique ».
Selon certains auteurs optimistes, l’effet collatéral, le droit isométrique échapperait en partie à l’arbitraire politique, pour devenir plus démocratique puisque produit par les magistrats et ceux qui les influencent, au premier rang desquels les avocats et la doctrine, qui eux-mêmes doivent apprendre à maîtriser les outils de la justice prédictive. Plus transparent, plus démocratique, plus équitable, plus souple et en apparence plus objectif, le droit isométrique constituerait une réponse à l’aspiration citoyenne de renouvellement de la justice, globalement considérée comme fonctionnant mal.
L’hybridation des deux systèmes juridiques étudiés, sous l’influence de la justice prédictive, aboutirait à l’émergence d’un système dit isométrique garantissant à la fois une meilleure connaissance de l’application de la règle de droit, une homogénéisation de la justice qui renforce la confiance des citoyens, et une stabilité de la norme par une prise en compte de la pensée collective des magistrats.
Je nuancerai cet optimisme :
- Par les dangers connus d’une attitude techno solutionniste: A force de vouloir automatiser tout et n’importe quoi les systèmes automatiseront aussi la bêtise naturelle et pourront donc se revendiquer de la bêtise artificielle, je veux parler là de la notion de biais en matière de programmation algorithmique.
Exemple en matière pénale aux USA ou avec le deep learning, les chercheurs ne fournissent aucune indication de ce genre. Google l'a découvert à ses dépens en 2015, lorsqu'un utilisateur afro-américain s'est plaint sur twitter que Google Photos avait identifié un cliché de lui et une amie en tant que gorilles g... L'erreur provient très certainement d'un manque de diversité dans les photos de visage utilisées pour l'apprentissage. Google a corrigé l'erreur... en retirant les termes gorille, singe et chimpanzé du service d'identification automatique. Les biais ne se limitent pas uniquement aux minorités, mais apparaissent également au niveau du genre, de la classe sociale, de la politique...
Voir aussi, exemple sur la notion de dangerosité au US et des résultats en terme de racisme intégré.
- Il y a aussi les dangers de croire à une intelligence supra-naturelle et de voir émoussé l’esprit critique tant nécessaire en matière judiciaire, la recherche de la vérité serait oblitérée par l’usage routinier des solutions proposées par l’IA.
Lorsque le connaît le contentieux civil, on sait que l’information d’un procès civil peut être empoisonnée par des pièces incomplètes par une rapidité d’examen du juge, il en sera de même sur une base de données et un traitement IA qui reposera sur un corpus sujet à caution et par des contre-sens sciemment introduits par piratage par exemple. La question se pose actuellement concernant Wikipedia assaillie par la sphère complotiste et leur utilisation détournée de ChatGPT.
Enfin,l’hypothèse de plus en plus réaliste que la technologie soit aux mains de puissants monopoles (les Gafa), ce qui indubitablement pose un problème de souveraineté s’agissant de compétences régaliennes.
C) sel expert
pour terminer je ne vais rater de vous dire de ce que je pense de selexpert :
Ce système se définit ainsi :
« Dans le cadre d’une procédure judiciaire, 40 % des missions sont refusées par les experts, faute de disponibilité ou d’adéquation avec leurs domaines de compétence. En résultent une charge de travail supplémentaire pour les magistrats et les greffiers, et donc des retards importants sur le démarrage des procédures pour le justiciable.
Un outil permettant la sélection éclairée et la désignation rapide des experts judiciaires grâce à :
Une recherche plus efficace des experts compatibles et disponibles
Une pré-sélection dématérialisée garantissant l’accord de principe de l’expert en un temps précis
Une solution élaborée en co-construction avec les utilisateurs
Une interface ergonomique, simple et rapide d’utilisation
Des informations fiables et mises à jour en temps réel »
Dans un premier temps je vais vous dire le choix de l’expert est un acte juridictionnel, et Sel expert propose de le déléguer à un système.. Il est vrai que l’on voit de plus en plus d’experts désignés par mails !!!!
Puis, en charge de la liste des experts sur la Cour d'appel , je vais vous dire qu’il y a encore du travail pour que :
Toutes les nomenclatures soient pourvues
Les experts inscrits soient encore performants..
Enfin ce qui concerne les retards ce n’est pas au niveau de la désignation que je vois l’étranglement mais plutôt au niveau de la consignation par les parties et surtout la véritable prise en charge par des juges charges du contrôle des expertises et qu' un temps de travail soit dédié à cette fonction…
Enfin en ce qui concerne la consultation des utilisateurs, il ne me semble pas avoir vu une consultation sur la cour de Montpellier à ce sujet et je ne vais pas lire le mail de refus poli que j’ai reçu quand j’ai voulu m’y intéresser..
La start up d’état devra aussi rendre compatible Sel expert avec Opalexe….
Tout cela me semble manquer d’analyse systémique sur la procédure et relever du techno solutionnisme hâtif.
Pour conclure, je ne vais pas conclure, car la réalité les techniques IA conduisent à la fusion de l’algorithmique avec le droit ou plutôt l’information juridique et judiciaire et la confrontation de l’analyse quantitative avec le cas d’espèce.. « Vaste sujet » pour paraphraser le général de Gaulle,( mais il parlait d’un autre domaine de la pensée humaine)... en tout cas nous allons en voir rapidement les conséquences en terme judiciaire. Il faut aborder cette période, loin d’un catastrophisme qui sent souvent le complotisme mais en restant les yeux ouverts en ne transigeant pas sur les principes qui fondent l’Etat de droit.
Il faut noter le début d’étude sociologique et systémique sur les ateliers d’anonymisation et d’annotation de la Cour de Cassation qui a aboutit à une thèse celle de Camille Girard-Chanudet soutenue en 2023 dont certains fragments sont en ligne
https://www.radiofrance.fr/franceinter/podcasts/le-code-a-change/le-code-a-change-6-5342040
Montpellier le 15 novembre 2024
Gilles Sainati