Mon smartphone ami du quotidien

Nous sommes, nous expliquent les média, entrés de plain pied dans la 4ème révolution industrielle. Les trois précédentes nous ont amené une quantité fantastique de connaissances acquises sur l'univers, de la cosmologie à la physique quantique, avec le développement d’outils et de richesses dont nos ancêtres des siècles précédents n’auraient même pas imaginé la possibilité.

Pour les scientistes1 qui sont hélas nombreux chez ceux qui vivent de la science, il n’est pas très important que le processus de développement des activités humaines liées à la connaissance ait affecté gravement les conditions de vie dans la biosphère pour les générations futures. Le scientisme, une idéologie laïque, née au XIXe siècle, appuyée sur la marchandisation du monde, voit la solution de ces menus inconvénients dans l’adaptation de l’être humain et oriente la recherche sur des solutions comme le transhumanisme, la manipulation génétique et l'intelligence artificielle, qui seraient l'avenir de l’humanité.

Cette croyance en la « science réalisée » , se réclamant des sciences cognitives, s’appuie sur les connaissances mathématiques, physiques et biologiques du moment et leurs progressions. Elle est soutenue par le développement de la culture de l’informatique et du progrès dans un public dont la vie est transformée par les écrans du quotidien.

Il n’est pas très étonnant que les GAFAM, les multinationales qui soutiennent cette évolution, soient parmi les plus grosses capitalisations boursières de la planète : la matière est porteuse.

Ce qu'on appelle la 4ème révolution industrielle repose sur deux piliers dont l'un est plus connu que l'autre qui, pourtant, est sans doute  plus signifiant pour l'avenir de l'homo sapiens.

Les développements de l'après guerre, avec la création de nouveaux instruments d'investigation scientifiques ont fortement influencé (et continuent à le faire) un développement industriel accompagnant l'offre néolibérale jusqu’à présent considérée comme devant être illimitée.

Le second aspect moins médiatisé mais que certains chercheurs comme Eric Sadin analysent en profondeur2 montre dans l’évolution logicielle un facteur inquiétant de dépossession du pouvoir de décision humain.

A partir du moment où l’humain en a inventé l’usage et jusqu’au XXe siècle de notre ère,les outils ont été considérés comme des amplificateurs du travail humain, physique, puis intellectuel avec leur extension philosophique et scientifique. L’artéfact utilitaire, sous forme matérielle ou dématérialisée, est longtemps resté un accessoire, important certes mais toujours subordonné à la volonté humaine. Le développement industriel apportant de nouvelles contraintes organisationnelles, l’homme est devenu ensuite plus dépendant de ses outils .

L’outil informatique, au coeur de la 4ème révolution a d’abord été comme tout outil un instrument d’appoint ouvrant de nouveaux horizons à certaines activités humaines mais progressivement il s’est inséré dans une partie plus invasive de l’organisation de nos sociétés.

Il est d’abord un support de mémoire et d’imitation : à partir de la mise en algorithmes et de la conservation de la connaissance qui ne figurait jusqu’alors que dans les livres, il permet de retrouver et reproduire aisément une quantité considérable de situations qu’autrement il fallait à chaque occurrence traiter à nouveau en en reconstruisant le contexte. Le travail de l’ingénieur qui s’appuie au quotidien sur les connaissances acquises en les adaptant aux évolutions des techniques, en a été considérablement modifié.

Le développement des systèmes « experts » permettant à l’ordinateur d’apprendre de son environnement – c’est à dire du nôtre – des éléments qui peuvent être hors des limites de notre perception (pression, température, pollution…) et de rechercher par itération la solution la mieux adaptée à un contexte donné a ouvert la voie au rêve scientiste de l’intelligence artificielle.

On aurait tort de ne pas prendre au sérieux ce rêve, cette utopie qui dans un monde capitaliste hautement spéculatif, se mesure en centaines de milliards de dollars de capitalisation boursière au NAZDAQ et sur d’autres places boursières.

Le concept de l’intelligence artificielle, aussi vieux que la légende du Golem fait partie des objectifs plus ou moins affichés des cinq entreprises multinationales dites GAFAM, américaines et d’influence mondiale qui bâtissent leur fortune sur la manipulation sociale au travers notamment des réseaux sociaux et investissent énormément sur des recherches d’avant garde. Les objectifs affichés sont l’immortalité, l’homme augmenté par le transhumanisme, et l’exploitation intensive des nanotechnologies, entre autres. La base légendaire de leur développement est dans la Silicon Valley mais les GAFAM sont en réalité présents dans tous les « pôles d’excellence » répartis dans le monde par le biais multinational qu’ils contrôlent et les marchés qu’ils dominent.

Y aurait-il un danger pour la démocratie ? Certains le pensent et ne manquent pas d’arguments. Essayons d’y voir plus clair.

Nous arrivons à un niveau d’intelligence artificielle tel que, dotant la machine d’un nombre suffisant de mémoire, de capteurs sensitifs et de circuits réflexes, la machine évalue elle-même ses algorithmes et est en mesure de les auto corriger pour le meilleur résultat possible, qui deviendra alors sa propre base d’évaluation. Le système expert (dont l’homme ne sera plus à même de contester les résultat, n’en ayant plus la compétence) ne sera plus alors une assistance mais un guide vite incontournable, comme le GPS dans votre voiture qui guide votre trajet : « tournez à droite, prenez la 2ème sortie au prochain rond point ... »

Nous ne sommes plus très loin de la conception d’un dispositif devenu autonome prenant lui-même ses propres décisions d’action, pour l’instant dans le cadre imposé d’une programmation, mais il en est de même la plupart du temps pour un individu conduisant ses actions dans le cadre de son éducation, de son entraînement… et de qui le commande.

Verra-t-on dans un avenir plus ou moins lointain un robot suffisamment « éduqué » en mesure d’élaborer ses propres programmes d’action sans le concours d’un « maître » ?

Sans vouloir entrer dans un schéma complotiste ou simplement paranoïaque, nous ne sont plus très loin du drone tueur choisissant sa cible dont le projet circule dans certains états-majors militaires, ni du frigo qui passe ses commandes de menus-repas lui-même en fonction de votre taux de cholestérol contrôlé par un capteur placé dans votre salle de bain, sujet pas si lointain qui a déjà fait l’objet d’articles dans une presse qui n’est pas de science fiction et qui fait saliver d’avance les chercheurs de Stanford et de Berkeley.

Cette vision d’une société cocon dans laquelle l’humain serait privé progressivement de toute initiative par un environnement de machines pilotées par l’une ou l’autre des GAFAM a de quoi inquiéter, et mériterait qu’on se penche un peu plus sur le statut de l’IA dans une société humaine en cours de lobotomisation.

Pour autant, ce n’est pas le seul aspect inquiétant de cet appui de plus en plus marqué des comportements humains à des relations dépersonnalisées avec des machines.

La plus représentative de ces machines est le smartphone que l’on extrait de plus en plus de sa poche pour s’en servir comme de la canne de l’aveugle dans toutes les démarches quotidiennes.

Il n’est pas question de dénier l’utilité de cet « ami du quotidien » doté de tant de possibilités qui nous aide à survivre sans coup férir à la brutalité d’une vie moderne trépidante, nous maintient en permanence en contact avec l’ensemble de la planète, nous rappelle nos rendez-vous, nous fournit un environnement musical nous éloignant de la promiscuité de la foule du métro et finalement nous plonge dans une solitude que jamais Robinson seul sur son ile n’a dû ressentir, entouré des manifestations de la vie sauvage autour de lui. Il ne s’agit plus de « cocooning », mais au contraire d’une activation ne laissant plus aucun répit, la marque d’une efficacité individuelle toujours questionnée et qui dissuade de céder au caractère empathique de la vie en société en même temps qu’a l’expression de la solidarité qui pourrait en découler. La notion de solidarité n’est pas morte, on la retrouve généralement dans les catastrophes où, leur environnement conditionné balayé par la tornade, les humains doivent s’appuyer l’un sur l’autre, ou encore dans les classes sociales marginalisées d'une société ou la solidarité aide à survivre. Elle est étouffée au quotidien par l’efficacité contrôlée des machines qui nous aident et nous soutiennent, un peu comme la corde soutient le pendu. Plus besoin des autres, la machine est là, pour le plus grand bien … de qui, au fait ?

Voilà le point important : ce n'est pas du conservatisme : Il est bien naturel que l’imagination humaine nous amène du progrès technique améliorant nos conditions de vie et ouvrant de nouvelles portes vers l’avenir … à la condition de ne pas détruire notre humanité dans le processus.

C’est la raison pour laquelle, dans le contrat implicite dont nous convenons avec le système économique, conduisant la 4ème révolution industrielle, il va falloir que nous prenions la peine de lire en détail les clauses écrites en tous petits caractères et même celles non écrites.

_________________________

1 Le scientisme est la confiance parfois aveugle et confinant à la foi religieuse dans la capacité des méthodes et principes de la science moderne à résoudre tous les problèmes que la nature ou le développement peuvent poser à l’humanité ou à son environnement.

2 L’intelligence artificielle ou l’enjeu du Siècle : 2018, Eric Sadin, ed. L’échappée

Le Club est l'espace de libre expression des abonnés de Mediapart. Ses contenus n'engagent pas la rédaction.