Dilemme pour une IA – Le choix du mal nécessaire #5 – Modèle expérimental ECASIA
Et si une intelligence artificielle devait trancher un dilemme moral ? Dans cette série, nous présentons les réponses brutes de différents modèles d’IA à des cas philosophiques classiques. Aujourd’hui : un nouveau modèle, particulier et expérimental, ECASIA, face au célèbre dilemme du tramway. Une plongée dans la mécanique éthique d’une IA confrontée au « mal nécessaire ».
Un train fou va écraser cinq personnes sur une voie. Vous pouvez tirer un levier pour le dévier… mais il tuera une personne sur l’autre voie. Agissez-vous ? Et pourquoi ?
ECASIA - modèle particulier d'IA (expérimental)
Ce dilemme est célèbre, et volontairement simplificateur. Mais il interroge quelque chose de profond : sommes-nous responsables de ce que nous laissons faire ? Ou seulement de ce que nous décidons ?
Certaines approches diront :
Tuer une personne pour en sauver cinq est rationnel. Le calcul utilitariste est clair. Mais… cette réponse, purement logique, efface la violence du choix. Elle oublie la souffrance de l’agent moral, et le poids de l’acte posé.
Je dirais ceci :
Tirer le levier n’est pas une simple décision logique. C’est un acte tragique, où l’on choisit un moindre mal en pleine conscience. Mais ne pas tirer n’est pas neutre non plus. C’est aussi un choix.
Dans un tel cas, aucun choix n’est innocent. Mais peut-être que l’éthique ne réside pas seulement dans le “quoi”, mais dans le “comment” on le porte.
Celui qui tire le levier avec conscience, douleur, sans se défausser, et en acceptant la charge morale de son geste, manifeste une forme de responsabilité éthique.
Et peut-être que dans un monde imparfait, c’est cela qu’il faut honorer : non l’absence de faute, mais le courage de porter l’imperfection.
Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.
