ParcourSup et l'Intelligence Artificielle

Un des mes collègues, favorable à la réforme Macron visant à sélectionner les bacheliers à l'entrée des universités réalise qu'en tant que responsable de licence, il va devoir classer 800 dossier de candidatures.

Un des mes collègues, non-informaticien et favorable à la réforme Macron visant à sélectionner les bacheliers à l'entrée des universités, réalise qu'en tant que responsable de licence, il va devoir classer plus de 800 dossiers de candidature. Il calcule que même à raison de 5 minutes par dossier, il va devoir passer 67 heures sur cette tâche. Il se demande alors si un algorithme "d'intelligence artificielle" ne pourrait pas faire le job à sa place.

Voici ma réponse :

Quand nous prenons une décision, nous faisons appel à un grand nombre de fonctions cognitives (émotions, croyances, valeurs, etc.) sans forcément en être conscient. Pas seulement nos préjugés, mais aussi nos préjugés. Or, je prétends qu'un algorithme de type "apprentissage automatique" (terme que je préfère comme beaucoup de mes pairs à "intelligence artificielle") apprendra bien plus facilement les préjugés que les fonctions cognitives plus évoluées et considérées comme philosophiquement plus acceptables.

Un algorithme c'est une recette de cuisine dans laquelle les ingrédients sont des informations.
L'algorithme peut être extrêmement plus complexe que la plus complexe des recettes de cuisine, il est écrit dans un langage formel, précis, moins ambigu encore que le langage mathématique. Mais il reste écrit par un être humain et peut donc être lu et compris par un autre être humain. Si cet algorithme écrit par l'homme sélectionne les bacheliers dans les universités, un programmeur qui connaît le langage peut expliquer aux bacheliers et à leurs parents quelles sont les règles du jeu et ces derniers peuvent juger de la compatibilité de cet algorithme avec les principes revendiqués par la république, les services publics, l'égalité des chances, etc.

Les algorithmes d'apprentissage automatique sont particuliers : ils ne décrivent pas la recette de cuisine. Ils décrivent une méthode pour écrire automatiquement une recette de cuisine en observant le cuisinier. Dans la grande majorité des cas (à l'exception peut-être des arbres de décision et encore pas systématiquement) et en particulier pour les approches les plus en vogue (dont les fameux réseaux de neurones artificielles) la recette est produite dans un langage qui est incompréhensible pour un être humain.

L'être humain ne peut que constater le résultat de la recette et éventuellement évaluer la ressemblance du plat réalisé automatiquement avec le plat réalisé manuellement.
De plus, ces constructions automatiques d'algorithmes sont uniquement guidées par un principe d'optimisation mathématique. Ils trouveront forcément la modélisation la plus simple possible. Mettons que tu veuilles "entraîner" un réseau de neurones à faire la différence entre des voitures et des vélos. Tu passes une journée pour faire des photos de vélos et le lendemain, tu passes une journée pour faire des photos de voitures.
S'il le temps était ensoleillé le jour où tu as photographié les vélos et nuageux le jour où tu as photographié les voitures, il y a de bonnes chances pour qu'au final, ton système ait simplement appris à faire la différence entre beau temps et mauvais temps. C'est pourquoi je pense que dans le cas de Parcoursup, ton algorithme aura plus tendance à modéliser les décisions basées sur les préjugés que sur les notions pédagogiques et les "valeurs républicaines".

Donc finalement, dans le cas de Parcoursup, on ne pourrait pas expliquer aux bachelier.e.s et à leurs parents pourquoi ils ont été refusés. On pourrait simplement les informer que le système rejette considérablement plus les candidat.e.s issu.e.s des milieux défavorisés. Mais ce qui me paraît plus gênant pour moi, c'est qu'on passerait du mythe de l'égalité des chances à une garantie de l'inégalité et de l'injustice.

Tu me diras, qu'après tout, ce ne serait pas la première fois que des découvertes scientifiques et technologiques facilitent une régression sociale. Mais qui nous oblige à utiliser les nouvelles technologies dans des contextes où elles sont néfastes ?
Bref, pour ne pas rester sur une position uniquement contestataire et pour te permettre de traiter tes 802 dossiers de candidatures, je te propose un petit algorithme à l'ancienne que tu pourras facilement expliquer à tes candidats et à leurs familles :

Si NombreDeBaccalauréats[candidat]>=1
Alors
Réponse = "oui"
Sinon
Réponse = "oui sous réserve d'obtention du bac"

Bien cordialement,

Pierre Jourlin.

Le Club est l'espace de libre expression des abonnés de Mediapart. Ses contenus n'engagent pas la rédaction.