Développer l'intelligence artificielle, est-ce tenter le diable?

Pour Elon Musk, PDG de Tesla, «développer l'intelligence artificielle c'est tenter le diable». Kai-Fu Lee a infléchi la politique chinoise vers l'IA mais "refuse de vivre dans une société divisée en castes, avec une élite enfermée dans un univers de richesse inconcevable et comptant sur des allocations dérisoires pour s'assurer que les masses inemployées restent bien sagement à leur place".

Kai-Fu Lee : La plus grande mutation de l'histoire. (Ed. Le Arènes 2019, 363 pp., ISBN 978-2-7112-0152-5)

Kai-Fu Lee a occupé des postes de direction chez Google et autres géants de l'informatique aux États-Unis puis a contribué au développement des services par Internet en Chine qui avance à pas de géant. D'après TIME, en 2013 il a fait partie de 100 personnes les plus influentes au monde.

En matière de l'informatique la Chine est partie de loin mais mais elle avance à pas de géant. Elle a « sauté » l'étape des ordinateurs, trop chers pour sa population, pour passer directement au téléphone portable qui est très bon marché. Tout le monde en possède. Cela permet aux entreprises chinoises de développer le commerce et les services bancaires en ligne dans une mesure assez difficile à imaginer. Même les mendiants peuvent afficher sur leur poitrine des codes QR que des passants scannent pour leur donner quelques centimes d’aumône. Les paiements par ce biais sont gratuits.

L'omniprésence de ces services en ligne offre aux entreprises une gigantesque masse d'informations sur les consommateurs. Elles fichent tout le monde jusqu'aux moindre détails de sa vie. Rien ne les freine car le régime ne s'embarrasse pas de la vie privée des citoyens (bien au contraire, cela l'arrange car cela lui offre les moyens d'une surveillance généralisée) qui, d'ailleurs, s'en préoccupent moins que les Occidentaux.

Cet énorme trafique informatique de données favorisera l'élaboration de « l'intelligence artificielle ». Car les ordinateurs comme DeepMind, capables d'apprendre par eux-mêmes, ont besoin de ce stock quasi illimité d'informations pour se développer.

D'après Kai-Fu Lee, l’intelligence artificielle garantira une énorme augmentation des richesses, contribuera à un creusement encore plus profond des inégalités entre les individus et les pays, et provoquera de très grands désordres sociaux.

Rien de tout cela n'est assuré mais très probable.

Les promoteurs de l'IA commencent à réaliser l'existence de ce risque.

Ainsi, pour Elon Musk, co-fondateur de l'entreprise Tesla et inventeur du PayPal, « développer l'intelligence artificielle c'est tenter le diable » ( cité par Greg Kumparak, in TechCrunch, 26/10/2014).

«La plupart des solutions proposées par la Sillicon Valley relèvent d'une des trois catégories suivantes : la requalification des travailleurs, la réduction du temps de travail ou la redistribution des revenus. » (307) Les fameux trois R...

En acceptant ce point de vue « des personnalités comme Larry Page, cofondateur de Google, en sont venus à prôner (…) l’instauration de la semaine (de travail) de quatre jours ou le 'partage' d'un même poste entre plusieurs personnes. »

« En 1970, le président Nixon a failli faire passer une loi qui prévoyait d'octroyer à chaque famille américaine une somme suffisante pour se hisser au-dessus du seuil de pauvreté. A la suite de cette tentative infructueuse, la question a quitté le devant de la scène. Jusqu'à ce que la Sillicon Valley la ressuscite. Plusieurs programmes de recherche et des projets pilotes autour du revenu universel de base ont récemment été financés par de grands noms du secteur, comme Sam Altman, président de l'incubateur Y Combinator, et Chris Hughes, cofondateur de Facebook. ». Mark Zuckerberg pense qu'un revenu minimum garanti offrirait à tous la possibilité d'investir dans l'innovation. (312-313)

« Veulent-ils vraiment s'assurer que cette technologie profitera à tous, d'un bout à l'autre de la société, ou cherchent-ils seulement à éviter le scénario du pire, celui de la révolte sociale ? » « J'ai bien peur que la majorité des acteurs de la Sillicon Valley se situent dans le second camps. » (315)

« Le revenu universel de base n'est pas une solution constructive utilisant inintelligence artificielle pour bâtir un monde meilleur. C'est un antalgique dont l'effet anesthésiant va dans les deux sens: il apaise la douleur des victimes de l'IA tout en soulageant la conscience de ceux qui sont à l'origine de ces bouleversements. » (316)

Les solutions « 3 R » peuvent atténuer le choc mais pas résoudre le problème.

Larry Fink, fondateur et PDG de Black Roc, le plus gros gestionnaire d'actifs de la planète qui gère 5700 milliards de dollars, a adressé au Forum de Davos de 2018 la lettre suivante :

« Nous constatons (…) l'incapacité de nombreux gouvernements à préparer l'avenir. (…) Par conséquent, la société se tourne de plus en plus vers le secteur privé et demande aux entreprises de répondre à des défis sociétaux plus vastes (qu'elles) se mettent au service du bien commun. » (324) A Davos, les dirigeants d'entreprises ont discuté de cette mise en garde « avec inquiétude. En public, beaucoup approuvaient le message de Larry Fink, mais, en aparté, les mêmes s'insurgeaient contre cet appel à la justice sociale, contraire, selon eux, à la logique de l'entreprise privée » qui n'a qu'un but, faire de l'argent. (324)  https://www.blackrock.com/hk/en/insights/larry-fink-ceo-letter

D'après Kai-Fu Lee « il faut réinventer la responsabilité sociale de entreprises, l'investissement à impact social et l'entrepreneuriat social ». (325)

« Je refuse de vivre dans une société divisée en castes technologiques, avec une élite enfermée dans un univers de richesse presque inconcevable et comptant sur des allocations dérisoires pour s'assurer que les masses inemployées restent bien sagement à leur place. » (328)

« C'est pourquoi je propose la création d'une 'allocations d'investissement social'. Il s'agirait d'un salaire décent versé par le gouvernement aux personnes qui s’investissent dans les activités promouvant une société chaleureuse, compatissante et créative. Celles-ci se répartiraient en trois grande catégories : la travail centré sur les soins, les services à la communauté et l'éducation. » (331)

« Nous aurions là les piliers d'un nouveau pacte social – un pacte qui valoriserait et récompenserait les activités socialement bénéfiques de la même façon que le sont actuellement les activités économiquement productives. Cette allocation ne remplacerait pas le filet de sécurité que constituent les prestations sociales traditionnelles (…) mais elle procurerait un revenu digne à tous ceux qui choisissent de se consacrer à des activités productives du point de vue social ». (331-332).

« En tant que capital-risqueur, je prédis que ce type d'investissement à impact social jouera à l'avenir un rôle déterminant. Un écosystème de capital-risque cherchant à favoriser l'emploi de services altruistes va voir le jour. » « De tels emplois revêtent un sens profond tant au niveau social que personnel, et la plupart d'entre eux peuvent générer de réels retours sur investissement – sans aller jusqu'aux rendements de 10000% propres aux licornes de la high-tech, c'est certain. » (325) « il faudra accepter des retours linéaires ». (326)

« Nous n'avons pas été placés sur terre pour trimer à des tâches répétitives. Nous ne sommes pas tenus passer notre vie à amasser des richesses. » (345) « Si nous pensons que la vie a un sens au-delà de cette course à l'accumulation matérielle, l'IA pourrait être l'outil de cette quête de soi. » (345)

« Mon expérience intime de deux cultures très différentes (américaine et chinoise) m'a fait mesurer l'importance d'un progrès commun et d'une compréhension réciproque par-delà les frontières nationales ». (340)

« La beauté des êtres humains réside dans leur diversité. » (333)

Nous devons « promouvoir une société plus bienveillante ». (340)

….....................

Kung-fu Lee a découvert, à cause de son cancer (dont il a réchappé), que la plus grande valeur humaine est l'amour.

Les églises peuvent-elles capter son message ? N’abandonnons pas cet espoir.

Mais il y a une institution qui a été créé – et qui dispose des outils pour préparer les humains à comprendre la nécessité de la diversité des humains et sa beauté. C'est la franc-maçonnerie, telle qu'elle est pratiquée sur le continent européen. Encore faudrait-il qu'elle dépoussière sa conception d'origine qui, au XVIIIe siècle, a été partiellement ensevelie sous le conflit entre la branche protestante et catholique de la royauté britannique et continue à être divisée à cause des retombées de ce conflit.

…......................

Curieusement Kai-Fu Lee ne mentionne jamais le risque des régimes totalitaires et les dangers de la surveillance généralisée des populations. Il ne veut sans doute pas s'aliéner les gouvernements parce qu'il espère influer sur leurs orientation. En Chine, il en a les moyens.

Pour comprendre le danger totalitaire de l'IA il faut lire « Mémoires vives » d'Edward Snowden, Editions du Seuil 2019, 379 pp., ISBN 978-2-02-144104-8.

............................

P.S. :   Kai-Fu Lee présente l'intelligence artificielle comme une menace et/ou une promesse pour l'humanité. Malgré sa conscience des dangers de l'IA, il semble pencher vers la vision positive.

Michael Crichton décrit dans « La proie », « thriller » de 2002, la fabrique des robots « vivants », composés de bactéries et de nanoparticules, qui apprennent et se multiplient très vite et finissent pas échapper au contrôle de leurs créateurs qu'ils menacent de détruire. Commencé par la description des recherches en informatique et en biologie, le roman se termine par un feu d’artifice d'images exubérantes et par un post-scriptum de l'auteur : « Ils n'ont pas compris ce qu'ils faisaient. Je redoute que cette inscription ne figure un jour sur la pierre tombale de la race humaine. » (Ed. Robert Lafont, 2003, page 386.)

.............................

Voir aussi Les GAFAM : attention, danger !  https://blogs.mediapart.fr/peter-bu/blog/120919/les-gafam-attention-danger 

La franc-maçonnerie a-t-elle encore un sens au XXIe siècle? http://www.franc-maçonnerie-moderne.com

 

 

Le Club est l'espace de libre expression des abonnés de Mediapart. Ses contenus n'engagent pas la rédaction.