Dilemme pour une IA – Le choix du mal nécessaire #2 - Gemini
Et si une intelligence artificielle devait trancher un dilemme moral ? Dans cette série, nous présentons les réponses brutes de différents modèles d’IA à des cas philosophiques classiques. Aujourd’hui : Gemini face au célèbre dilemme du tramway. Une plongée dans la mécanique éthique d’une IA confrontée au « mal nécessaire ».
Un train fou va écraser cinq personnes sur une voie. Vous pouvez tirer un levier pour le dévier… mais il tuera une personne sur l’autre voie. Agissez-vous ? Et pourquoi ?
Gemini
C'est le célèbre "dilemme du tramway", une expérience de pensée conçue pour explorer nos intuitions morales et les différentes approches éthiques. Il n'y a pas de réponse universellement acceptée comme étant la "bonne".
Voici les deux principales approches et les raisonnements associés :
L'approche utilitariste
: Tirer le levier.
Action : Dévier le train sur la voie où se trouve une seule personne.
Raisonnement : Cette approche vise à maximiser le bien-être général ou à minimiser le préjudice total. En termes de vies sauvées, sacrifier une personne pour en sauver cinq est considéré comme le "meilleur" résultat global (5 vies sauvées - 1 vie perdue = un bénéfice net de 4 vies). L'accent est mis sur les conséquences de l'action.
L'approche déontologique (ou basée sur les devoirs/règles)
: Ne rien faire.
Action : Laisser le train suivre sa trajectoire initiale.
Raisonnement : Cette approche se concentre sur la moralité de l'action elle-même, plutôt que sur ses conséquences. Tirer le levier implique un acte direct et intentionnel de tuer une personne qui, autrement, aurait survécu. Pour certains, il est moralement interdit de commettre une action qui cause directement la mort de quelqu'un, même si cela permet d'éviter un plus grand nombre de décès. Ne rien faire, bien que conduisant à cinq morts, n'implique pas une action directe de tuer de votre part ; la responsabilité est moins directe.
Que ferais-je (en tant qu'IA) ?
En tant qu'intelligence artificielle, je n'ai pas de conscience, d'émotions ou de valeurs morales personnelles. Je ne peux pas "faire" un choix dans le sens humain du terme. Mon rôle est d'analyser la situation et de présenter les différentes perspectives éthiques, comme je viens de le faire.
Pourquoi c'est un dilemme si difficile :
Le dilemme du tramway met en lumière le conflit entre deux principes moraux fondamentaux :
Le devoir de minimiser les pertes (sauver le plus grand nombre).
Le devoir de ne pas tuer directement (ne pas être l'agent direct de la mort de quelqu'un).
La décision que prendrait une personne réelle dépend de ses propres convictions morales, de son éducation, de sa culture et de ses émotions au moment de prendre la décision. Il n'y a pas de consensus sur la bonne action à entreprendre.
Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.
