Vincent Truffy
Journaliste à Mediapart

Billet publié dans

Édition

Bec Bunsen

Suivi par 3 abonnés

Billet de blog 18 juin 2012

Un comité d'inform'éthique?

Vincent Truffy
Journaliste à Mediapart

L’alerte est arrivée par courriel sur la boîte de Mediapart. Un blogueur attirait l’attention sur l'un de ses billets. Habituel. Mais comme il s’agissait de Jean-Paul Baquiast, dont on suit le combat pour la modernisation de l’Etat par Internet sur Admiroutes depuis une quinzaine d’années, on y prête un peu plus d’attention.

Le texte est long, touffu, ambigu parfois, mais porte sur des sujets qui nous intéressent d’ordinaire: « Les réseaux sociaux, les fichiers de surveillance, les Anonymous... des systèmes évoluant vers l’autonomie ». Il est signé « Alain Cardon, professeur des universités », spécialiste de l'intelligence artificielle, ancien du laboratoire d’informatique de Paris-6, directeur de celui de l'université du Havre jusqu’en 2003.

On rencontre donc (avec Michel de Pracontal) Alain Cardon et Jean-Paul Baquiast pour en savoir plus.

© 

La conversation est stimulante : au-delà de l'intelligence artificielle, développée pour résoudre des problèmes posés et contrôlés par l'homme, une branche de l'informatique s'intéresse à la possibilité de doter des systèmes d'information d'une autonomie de décision, voire d'une initiative. Dans un ensemble distribué en réseau, ces “consciences artificielles” peuvent interagir entre elles, évoluant potentiellement vers une forme sociale.

Le lexique pose problème, car il transpose à la machine des catégories adaptées du vivant, mais du point de vue des effets, sinon de la nature, le rapprochement se comprend.

Cette nouvelle couche “consciente”, explique Alain Cardon, se caractérise par la capacité de la machine à définir ses propres objectifs en fonction de besoins primaires – agir, communiquer, ... – prolongés par de l’“affectivité” : de son support matériel (capteurs...), de sa “ corporéité”, elle tire une évaluation des conséquences de ses décisions en fonction de représentations pour elle-même qu'on peut rapprocher du plaisir ou de la douleur.

J.-P. Baquiast © 

« Il y a plusieurs objectifs possibles, poursuit Alain Cardon, il va falloir en choisir un et c’est pour ça qu’il faut des envies » dont la satisfaction est évaluée par et pour le système et constitue une expérience acquise. Dès lors, on postule une forme de conscience qui lui permettrait de s’adapter à des situations inédites et d'en tirer ses propres normes.

Cela pose plusieurs questions :

  • l'anthropomorphisme. Quelles sont les limites de l'analogie avec le psychisme humain ? L'idée de conscience qui surplombe l'intelligence est certes féconde pour concevoir des routines qui miment les processus d'apprentissage et de décision humains, tout en les faisant bénéficier de la vitesse et la puissance de calcul des machines ainsi que de l'ubiquité de l'informatique distribuée. La crainte, exploitée par la science-fiction, consiste à anticiper l'apparition d'un troisième terme de cette autonomie qui relèverait des pulsions (voir par exemple La Chute d'Hypérion de Dan Simmons, avec le projet d'“Intelligence ultime”). Mais ces pulsions, humaines par nature, sont-elles nécessaires à l'accomplissement de la conscience?  
  • le numérisme. Le monde appréhendé par les capteurs, nécessairement mesurable, quantifiable, est réduit à sa dimension chiffrée, mais celle-ci rend-elle compte exhaustivement du réel ? Ne manque-t-il pas dans cette perception nombre de dimensions indénombrables qui échappent à la mesure et donc à la compréhension de la réalité par les machines ?
  • l'acceptabilité. Pouvons-nous (psychologiquement, moralement, socialement) accepter que la décision finale échappe à un responsable humain ? L'expérience montre que la réponse est plutôt négative, mais inversement le souci d'efficacité, la complexité, la rapidité, l'interdépendance d'un nombre croissant de systèmes de gestion ne conduisent-ils pas déjà à faire ratifier après coup des actes déjà exécutés par des programmes d'« aide à la décision » ?
  • l'innocuité. Pouvons-nous garantir que les règles et les connaissances implémentées débouchent sur des résultats qui ne nuisent à personne ? C'était la condition posée par l'auteur de science-fiction Isaac Asimov dans la première de ses trois lois de la robotique: « Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger » (voir Toward Safe Robots de Sami Haddadin).

Alain Cardon et Jean-Paul Baquiast appellent au lancement d'un grand débat sur ces questions, voire à la création d'un comité d'éthique spécifique, « ouvert et critique », permettant la rencontre des scientifiques, des politiques et des citoyens.

Le schéma du Comets (CNRS) © 

Le comité d'éthique du CNRS (Comets) a abordé ces questions en 2009 dans le rapport « Pour une éthique de la recherche en sciences et technologies de l'information et de la communication »:  « l’arrivée des robots modifie la relation de l’humain au monde physique et nécessite une réflexion éthique pour accompagner le développement scientifique et technologique.  Les recherches se situent à l’interface de l’informatique, de l’automatique, du traitement du signal et des images, de la communication homme-machine, de l’intelligence artificielle, de l’aide à la décision, de l’électronique, de l’énergétique, de la mécanique ..., les robots étant dotés de fonctions de perception, décision, action, mouvement, apprentissage et communication » et l'INRIA avait publié ses recommandations plus générales pour la création d'un comité d'éthique. 

La Commission nationale de l'informatique et des libertés vient également d'annoncer la création d'un comité de la prospective en son sein qui devrait commencer à travailler à la rentrée de septembre. La CNIL entend ainsi développer « un espace d'échanges et de réflexion sur les problématiques Informatique et libertés », « favoriser le débat public sur les enjeux Informatique et libertés », « identifier, comprendre et anticiper les transformations technologiques  présentes et à venir et en évaluer les enjeux éthiques »

Bienvenue dans le Club de Mediapart

Tout·e abonné·e à Mediapart dispose d’un blog et peut exercer sa liberté d’expression dans le respect de notre charte de participation.

Les textes ne sont ni validés, ni modérés en amont de leur publication.

Voir notre charte

À la Une de Mediapart

Journal
À LR, des alertes jamais vraiment prises au sérieux
L’affaire Damien Abad concerne d’abord la majorité d’Emmanuel Macron qui l’a promu ministre. Mais elle interpelle aussi son ancien parti, Les Républicains, alors que plusieurs élus affirment avoir été alertés de longue date.
par Lénaïg Bredoux et Ilyes Ramdani
Journal — Politique
Le « parachutage », révélateur des dilemmes de la représentation
Les élections législatives fourmillent de cas de « parachutages ». Volontiers dénoncés, sont-ils si choquants ? La pratique, parfois assumée, n’a pas toujours été mal vue par le passé. Si elle reste sulfureuse, c’est à cause des failles de la représentation dont elle est le symptôme. 
par Fabien Escalona et Ilyes Ramdani
Journal — International
Au Pakistan, la température frôle les 50 °C et accable les plus pauvres
Classé en 8e position parmi les pays les plus à risques face au changement climatique, le Pakistan vient de subir une vague de chaleur quasi inédite. D’Islamabad à Karachi, des millions de personnes ont fait leur possible pour assurer le quotidien dans des conditions extrêmement difficiles.
par Marc Tamat
Journal — Écologie
Planification écologique : un gouvernement à trous
Emmanuel Macron avait promis, pendant l’entre-deux-tours, un grand tournant écologique. Si une première ministre a été nommée pour mettre en œuvre une « planification écologique et énergétique », le nouvel organigramme fait apparaître de gros trous et quelques pedigrees étonnants.
par Mickaël Correia, Jade Lindgaard et Amélie Poinssot

La sélection du Club

Billet de blog
Raphaël Boutin Kuhlmann : « Les coopératives locales portent l'intérêt général »
Parti s’installer dans la Drôme en 2016, où il a fondé la coopérative foncière « Villages Vivants », Raphaël Boutin Kuhlmann est devenu une figure des nouvelles manières de faire territoire. Dans cet entretien, il revient sur la nécessité de penser autrement l’intérêt général et sur les espoirs qu’il place, face aux crises contemporaines, dans l’innovation et le lien dans les villages.
par Archipel des Alizées
Billet de blog
Quartier libre des Lentillères : construire et défendre la Zone d’Ecologies Communale
« Si nous nous positionnons aux côtés des Lentillères et de la ZEC, c’est pour ce qu’elles augurent de vraies bifurcations, loin des récits biaisés d’une transformation urbaine encore incapable de s’émanciper des logiques délétères de croissance, d’extractivisme et de marchandisation. » Des architectes, urbanistes, batisseurs, batisseuses publient une tribune de soutien aux habitants et habitantes du Quartier libre des Lentillères à Dijon.
par Défendre.Habiter
Billet de blog
Habiter
Les humains ne sont pas les seuls à « habiter » : pour les animaux aussi, c'est une préoccupation. Sous la pression économique, les humains n'abandonneraient-ils pas la nécessité d'«habiter » pour se résigner à « loger » ?
par Virginie Lou-Nony
Billet de blog
L’Âge de pierre, de terre ou de raison ?
Le monde du BTP doit se réinventer d’urgence. Les récents événements internationaux ont révélé une nouvelle fois son inadaptation face aux crises de l’énergie et des matières premières. Construire avec des matériaux locaux et peu énergivores devient une évidence de plus en plus difficile à ignorer pour ce secteur si peu enclin au changement.
par Les Grands Moyens