Carta Academica
Carta Academica est un collectif d'universitaires belges qui a décidé d’intervenir dans le débat public
Abonné·e de Mediapart

83 Billets

0 Édition

Billet de blog 8 sept. 2022

Carta Academica
Carta Academica est un collectif d'universitaires belges qui a décidé d’intervenir dans le débat public
Abonné·e de Mediapart

Les algorithmes comme outils d’égalité face à la loi ?

Malgré l’importance fondamentale du principe d’égalité des citoyens face à la loi, sa mise en pratique n’est pas constante et, par conséquent, certains citoyens sont jugés plus sévèrement que d’autres. L’une des causes de cette inconstance proviendrait de l’erreur humaine. Pour y remédier, les algorithmes en matière judiciaire pourraient-ils contribuer à plus d’égalité? Par Benjamin Jan

Carta Academica
Carta Academica est un collectif d'universitaires belges qui a décidé d’intervenir dans le débat public
Abonné·e de Mediapart

Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.

N’est-il pas souhaitable que des personnes dans une même situation soient traitées de manière identique en matière judiciaire ? Cette question concerne l’un des fondements d’un État de droit démocratique qui est le principe d’égalité. Son importance se comprend au regard de ses implications : les citoyens sont égaux devant la loi ce qui permet d’éviter, en théorie, qu’une personne ne se trouve dans une position d’infériorité ou de supériorité par rapport à d’autres dans les mêmes conditions. Malgré l’importance fondamentale de ce principe, sa mise en pratique n’est pas constante et, par conséquent, certains citoyens sont jugés plus sévèrement que d’autres.

L’une des causes de cette inconstance proviendrait notamment de l’erreur humaine. Les citoyens ne seraient en réalité pas égaux devant la loi à cause des erreurs de jugement des humains qui constituent nos cours et tribunaux. Selon le prix Nobel d’économie et psychologue Kahneman et ses co-auteurs dans le livre « Noise »*, les erreurs  de jugement sont issues des biais cognitifs et du « bruit ». D’une part, certaines erreurs surviendraient à cause de biais cognitifs, c’est-à-dire des déviations systématiques. Par exemple, un juge raciste qui discrimine toutes les personnes de couleur. D’autre part, les erreurs proviendraient également du bruit. Ce dernier étant entendu comme la variabilité indésirable dans les jugements humains qui peut être due à des facteurs tels que l’humeur, la fatigue, la faim ou l’effet de groupe. C’est le cas, par exemple, lorsqu’une peine prononcée est différente pour le même crime par deux juges indépendants ou par le même juge à diverses occasions. En d’autres mots, le bruit, « c’est quand deux jugements sont différents alors que l’on aurait souhaité qu’ils soient identiques », ajoute l’un des auteurs.

Même les experts sont sujets au bruit

Bien que la nécessité de s’attaquer aux biais dans le monde judiciaire soit évidente, réduire le bruit est tout aussi nécessaire si l’on souhaite que les citoyens soient égaux devant la loi pour des cas similaires. Sans pour autant douter de l’expertise des juges, ces derniers restent néanmoins des êtres humains et de nombreuses études ont souligné le fréquent manque de cohérence dans les décisions rendues.

En effet, qu’importe l’endroit du globe où une décision judiciaire est prononcée, il existe des écarts intolérables issus du bruit. Aux États-Unis, les juges seraient par exemple plus sévères dans les peines qu’ils prononcent la semaine qui suit la défaite de l’équipe locale de football. Toujours au sein du même pays, la température extérieure influencerait les décisions au détriment des demandeurs d’asile. Plus il fait chaud, au moins la décision est favorable. D’autres facteurs à une affaire judiciaire semblent également jouer un rôle quant à l’issue d’une décision. En Belgique, la localisation géographique semble influencer le risque de détention préventive puisqu’elle est plus élevée lorsque l’on se retrouve face aux juges d’Anvers que ceux de Bruxelles. Enfin, la clémence des juges varie également en fonction de facteurs complètement étrangers au dossier présenté devant ceux-ci. En France, les juges seraient plus cléments si le jour du prononcé de la condamnation est aussi celui du jour de l’anniversaire de l’accusé.

Bien qu’il convienne de souligner que le bruit existe au sein de toutes les organisations, par exemple au sein des compagnies d’assurance, des hôpitaux ou de l’administration en général, le bruit est toutefois particulièrement intolérable dans le monde judiciaire au regard du principe d’égalité et des implications potentielles sur la vie des citoyens. Il semble évident qu’en aucun cas un élément tel que l’anniversaire d’un accusé ne doive jouer un quelconque rôle dans une décision judiciaire. Au regard du rôle crucial des juges dans notre société, n’existe-t-il pas des outils pour réduire le bruit au sein des institutions judiciaires ?

L’intelligence artificielle comme solution ?

Afin de réduire le bruit, les auteurs de « Noise » évoquent les possibilités qu’offrent les algorithmes, ceux-ci ayant l’avantage d’être insensibles à la victoire d’une équipe de football ou à la température extérieure, leur permettant dès lors de ne pas produire de bruit. En matière de liberté provisoire aux États-Unis, une étude démontre la grande disparité due au bruit quant aux chances de bénéficier de la liberté provisoire, certains juges l’octroyant dans neuf cas sur dix alors que d’autres ne l’octroient qu’une fois sur deux. La même étude démontre d’ailleurs la meilleure aptitude des algorithmes à prédire les risques de récidive. Dans les situations concernant la liberté provisoire, une solution pourrait-elle dès lors être l’usage d’algorithmes ? Ceux-ci contribueraient potentiellement à réduire le bruit inadmissible tout en ayant une meilleure capacité à prédire la récidive. En aucun cas la liberté provisoire ne devrait dépendre de la personnalité d’un juge ou d’autres éléments étrangers à l’affaire. Si les algorithmes peuvent dans certains cas faire mieux que les juges quant à la détermination d’un risque, peut-on pour autant confier une partie d’une décision judiciaire à des systèmes d’intelligence artificielle ?

Sans tomber dans le piège technosolutionniste, c’est-à-dire penser que l’usage de l’intelligence artificielle est un remède miracle au bruit au sein des institutions judiciaires, déployer des algorithmes dans ces institutions pourrait être bénéfique aux citoyens. L’honnêteté intellectuelle impose toutefois de souligner que ceci reste hypothétique ; bien que l’usage d’algorithmes ne produise pas de bruit, leur utilisation peut être malheureusement créatrice de nouveaux biais. Si les systèmes d’intelligence artificielle sont entrainés sur des données biaisées, par exemple des décisions judiciaires systématiquement discriminantes envers certaines minorités ethniques, les algorithmes reproduiront les biais humains. Malgré ce risque, investir dans la recherche pour déterminer l’ampleur du bruit au sein des cours et tribunaux et en réduire l’impact notamment par le déploiement d’algorithmes mérite d’être entrepris s’il existe une réelle volonté politique d’appliquer le principe d’égalité.

Investir dans la recherche et déterminer la pertinence des algorithmes

Étudier le bruit dans les institutions judiciaires n’aurait pas pour but de réduire le pouvoir discrétionnaire des juges mais de supprimer au mieux les injustices commises à cause du bruit et des limites du cerveau humain. Dans le même sens, il ne s’agirait pas d’automatiser la justice mais simplement de bénéficier de la puissance analytique et de la consistance des algorithmes pour, par exemple, aider à la détermination d’un risque, à la fixation de la durée d’une peine ou au montant d’une pension alimentaire.

Dans l’idéal, une fois l’étendue du bruit établie, il conviendra de déterminer la pertinence des algorithmes dans le monde judiciaire. Ceci aurait un double avantage dont il serait préjudiciable de se priver. D’une part, les algorithmes pourraient potentiellement contribuer à une meilleure application du principe d’égalité ; et d’autre part, les recherches nécessaires pour déployer des algorithmes pourraient mettre en lumière, en plus de l’impact du bruit dans les décisions judiciaires, des biais insoupçonnés qui pourraient être corrigés ultérieurement. Ensuite, au cas par cas et en fonction de la pertinence de l’usage d’algorithmes, ceux-ci doivent être déployés au sein des matières judiciaires où le bruit est le plus problématique au regard du principe d’égalité.

Déployer les algorithmes en concertation

À l’avenir, l’étude du bruit ainsi que le déploiement d’algorithmes pour le réduire ne pourra se faire qu’au travers d’un travail commun avec des juges, des ingénieurs, des éthiciens et des psychologues. C’est par la mise en commun de leur expertise respective que l’on pourra combiner au mieux l’intelligence humaine avec la puissance analytique des algorithmes afin de tendre vers des décisions judiciaires plus cohérentes entre elles. De plus, il conviendra d’inclure la société civile afin que les personnes qui sont directement concernées par les décisions judiciaires où des algorithmes sont utilisés aient confiance quant à leur fonctionnement. Bien que réduire le bruit des décisions judiciaires par des algorithmes soit un projet ambitieux, c’est un chantier qui mérite d’être examiné au regard de l’importance du principe d’égalité dans une démocratie.

En attendant l’usage des algorithmes dans le monde judiciaire, si un jour vous vous retrouvez devant un tribunal, faites en sorte de vous faire condamner le jour de votre anniversaire, d’éviter une journée caniculaire et croisez les doigts pour que l’équipe de football locale gagne son match la semaine précédente.

Benjamin Jan – Doctorant à l’Université de Liège, pour Carta Academica (https://www.cartaacademica.org/).

*Cet article s’inspire largement des dizaines d’études répertoriées dans le livre passionnant « Noise – Pourquoi nous faisons des erreurs de jugement et comment les éviter » de D. Kahneman, O. Sibony et C. Sunstein.

Les points de vue exprimés dans les chroniques de Carta Academica sont ceux de leur(s) auteur(s) et/ou autrice(s) ; ils n’engagent en rien les membres de Carta Academica, qui, entre eux d’ailleurs, ne pensent pas forcément la même chose. En parrainant la publication de ces chroniques, Carta Academica considère qu’elles contribuent à des débats sociétaux utiles. Des chroniques pourraient dès lors être publiées en réponse à d’autres. Carta Academica veille essentiellement à ce que les chroniques éditées reposent sur une démarche scientifique.

Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.

Bienvenue dans le Club de Mediapart

Tout·e abonné·e à Mediapart dispose d’un blog et peut exercer sa liberté d’expression dans le respect de notre charte de participation.

Les textes ne sont ni validés, ni modérés en amont de leur publication.

Voir notre charte

Les articles les plus lus
Journal — Qatar : le Mondial de la honte
Journal — À Saint-Étienne, le maire, la sextape et le chantage politique
Journal — À Saint-Étienne, le maire, la sextape et le chantage politique

À la Une de Mediapart

Journal — Moyen-Orient
Des Russes désertent vers la Turquie pour ne pas « mourir pour Poutine »
Après que le président russe a décrété la mobilisation partielle des réservistes pour faire face à la contre-offensive de l’armée ukrainienne, de nombreux citoyens fuient le pays afin de ne pas être envoyés sur le front. 
par Zafer Sivrikaya
Journal — Politique
La justice dit avoir les preuves d’un « complot » politique à Toulouse
L’ancienne députée LR Laurence Arribagé et un représentant du fisc seront jugés pour avoir tenté de faire tomber une concurrente LREM à Toulouse. Au terme de son enquête, le juge saisi de cette affaire a réuni toutes les pièces d’un « complot » politique, selon les informations de Mediapart.
par Antton Rouget
Journal — Exécutif
Retraites, chômage, énergie : Macron attaque sur tous les fronts
Le président de la République souhaite mener à bien plusieurs chantiers d’ici à la fin de l’année : retraites, chômage, énergies renouvelables, loi sur la sécurité, débat sur l’immigration… Une stratégie risquée, qui divise ses soutiens.
par Ilyes Ramdani
Journal
« L’esprit critique » cinéma : luxe, érotisme et maternité
Notre podcast culturel débat des films « Sans filtre » de Ruben Östlund, « Les Enfants des autres » de Rebecca Zlotowski et « Feu follet » de João Pedro Rodrigues.
par Joseph Confavreux

La sélection du Club

Billet de blog
Éolien : vents contraires !
[Rediffusion] Mal aimées parmi les énergies renouvelables, les éoliennes concentrent toutes les critiques. La région Provence Alpes-Côte d'Azur les boycotte en bloc sans construire d'alternatives au « modèle » industriel. le Ravi, le journal régional pas pareil en Paca, publie une « grosse enquête » qui ne manque pas de souffle...
par Le Ravi
Billet de blog
Les sulfureuses éoliennes de la baie de Saint-Brieuc en débat
[Rediffusion] A l’initiative d’Ensemble ! deux débats ont été organisés les 24 et 25 septembre autour du projet de parc éolien dans la baie de Saint-Brieuc. En voici le compte rendu vidéo, avec mon intervention, présentant mes enquêtes sur Mediapart, et les prises de parole de Katherine Poujol (responsable de l’association « Gardez les caps !) ou encore de Lamya Essemlali (présidente de Sea Shepherd France).
par Laurent Mauduit
Billet de blog
Saint-Jean-Lachalm, un village qui a réussi ses éoliennes, sans s'étriper
Saint-Jean-Lachalm, un village de la Haute-Loire qui a trouvé le moyen de ne pas s’étriper lorsque l’idée d’un champ d’éoliennes a soufflé dans la tête de son maire, Paul Braud. En faisant parler un droit coutumier ce qui, de fil en aiguille, a conduit… au chanvre.
par Frédéric Denhez
Billet de blog
Le gigantisme des installations éoliennes offshore en Loire Atlantique et en Morbihan
Un petit tour sur les chemins côtiers en Loire Atlantique et en Morbihan pour décrire et témoigner du gigantisme de ces installations offshores, de la réalité de l'impact visuel, et de quelques réactions locales.
par sylvainpaulB