Jean-Paul Baquiast
Editeur du site Europesolidaire.eu et co-éditeur du site Automates Intelligents.com
Abonné·e de Mediapart

2901 Billets

0 Édition

Billet de blog 2 nov. 2016

Jean-Paul Baquiast
Editeur du site Europesolidaire.eu et co-éditeur du site Automates Intelligents.com
Abonné·e de Mediapart

Des réseaux neuronaux de Google inventent leurs propres systèmes d'encryptage.

Les recherches récentes sur les systèmes d'intelligence artificielle (AI) dits évolutionnaires, c'est-à-dire capables de s'adapter pour survivre à un environnement complexe changeant, font de plus allusion au fait qu'ils pourraient se doter progressivement de capacités cognitives analogues à celle d'un humain.

Jean-Paul Baquiast
Editeur du site Europesolidaire.eu et co-éditeur du site Automates Intelligents.com
Abonné·e de Mediapart

Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.

Celles-ci leur permettraient de se donner des représentations d'eux-mêmes et mettre en place des aptitudes au langage et à l'invention – le tout évidemment aujourd'hui encore sous des formes très primitives. Alain Cardon, dont les principaux ouvrages sont disponibles en accès libre sur ce site, explore en détail ce thème.

La littérature spécialisée n'a pas encore donné d'exemples concluants montrant que cette capacité est déjà à l'oeuvre dans des systèmes d'AI existants, sauf peut-être dans le cas d'algorithmes utilisés dans la gestion des marchés financiers, dits « à haute fréquence ». La pratique a montré que ceux-ci pouvaient prendre en quelques millisecondes des décisions d'achat et de vente plus pertinentes que celles des meilleurs traders humains.

Nous mentionnons par ailleurs le fait que Google, ambitionnant de mettre au point un « cerveau global artificiel » ou Google Global Brain, susceptible de se substituer aux cerveaux humains, avait racheté récemment la plupart des laboratoires d'AI travaillant sur ce thème. Il est clair que son intention, très largement partagée avec le Pentagone américain, est de mettre au service de son projet mondial des systèmes d'AI évolués, capables de prendre eux-mêmes des décisions en faveur des intérêts de Google, sans que celui-ci perde pour autant le contrôle d'ensemble de ces logiciels évolutionnaires.

Un progrès décisif

Or une publication sur ces capacités d'auto-décisions dont seront dotés les algorithmes de demain au service de Google vient d'être produite par des chercheurs de Google travaillant sur leprojet Google Brain. Elle montre que des machines capables d'apprentissage profond ou « deep learning » sont capables d'inventer des systèmes de cryptologie leur permettant d'échanger des messages qu'elles seraient seules à déchiffrer.

On objectera que l'objectif est loin de celui intéressant les capacités de décision autonome d'un cerveau humain. Mais quand on connait l'importance sur les sujets dits sensibles qu'ont pris les outils de cryptologie, le fait que des machines puissent communiquer entre elles de façon inaccessible aux humains fait réfléchir.

On trouvera in fine la référence à l'article de ces chercheurs, publié par arXiv. Martin Abadi et David Andersen y montrent que des systèmes dits neuronaux (neural nets), basés sur des architectures de neurones artificiels, ont pu mettre au point par eux-mêmes un système cryptographique n'empruntant pas aux techniques humaines déjà en service. Le système est très basique, mais rien n'interdira aux neurones artificiels de le complexifier ensuite, toujours de leur propre chef.

L'expérience a utilisé trois réseaux neuronaux indépendants, classiquement nommés Alice, Bob et Eve. Alice devait envoyer un message secret à Bob, message que Bob devait décoder. Eve devait s'y efforcer de son côté,à l'insu d'Alice et de Bob. Pour écrire ce message, Alice et Bob devaient produire un texte crypté faisant appel à un certain nombre de « clefs » inconnues d'Eve.

Initialement, les réseaux neuronaux se sont montrés peu efficaces dans cette tâche, mais après 15.000 tentatives menées par Alice pour produire un texte crypté, Bob s'est montré capable de le comprendre. Eve qui ne disposait que d'un petit nombre des clefs nécessaires, n'a pas pu le faire,

Les chercheurs précisent qu'ils n'ont pas à ce jour bien compris comment les réseaux neuronaux Alice et Bob ont procédé pour produire des textes cryptés. Il s'agissait manifestement d'une initiative autonome dans laquelle aucun humain n'était intervenu. Certes les recherches concernant la réalisation de machines capables d'échanger des messages qui ne seraient accessibles qu'à elles-mêmes sont encore dans l'enfance. Mais le projet Google Brain est désormais en bonne voie pour le faire

Référence: https://arxiv.org/abs/1610.06918

Abstract
We ask whether neural networks can learn to use secret keys to protect information from other neural networks. Specifically, we focus on ensuring confidentiality properties in a multiagent system, and we specify those properties in terms of an adversary. Thus, a system may consist of neural networks named Alice and Bob, and we aim to limit what a third neural network named Eve learns from eavesdropping on the communication between Alice and Bob. We do not prescribe specific cryptographic algorithms to these neural networks; instead, we train end-to-end, adversarially. We demonstrate that the neural networks can learn how to perform forms of encryption and decryption, and also how to apply these operations selectively in order to meet confidentiality goals.

Ce blog est personnel, la rédaction n’est pas à l’origine de ses contenus.

Bienvenue dans le Club de Mediapart

Tout·e abonné·e à Mediapart dispose d’un blog et peut exercer sa liberté d’expression dans le respect de notre charte de participation.

Les textes ne sont ni validés, ni modérés en amont de leur publication.

Voir notre charte

Les articles les plus lus
Journal — Qatar : le Mondial de la honte
Journal — À Saint-Étienne, le maire, la sextape et le chantage politique
Journal — À Saint-Étienne, le maire, la sextape et le chantage politique

À la Une de Mediapart

Journal — Europe
Le jour où le post-fascisme a pris le pouvoir en Italie
Le parti de Giorgia Meloni a largement dominé les élections italiennes du 25 septembre. La coalition de droite devrait obtenir une majorité absolue au Parlement. Le résultat de décennies de confusionnisme et de banalisation du fascisme dans lesquels se sont fourvoyés tous les mouvements politiques de la péninsule.
par Ellen Salvi
Journal — Europe
« La droite fasciste n’a jamais disparu de la société italienne »
L’historienne Stéfanie Prezioso explique ce qui a rendu probable l’accès d’une post-fasciste à la tête du gouvernement italien. De Berlusconi en « docteur Frankenstein » au confusionnisme propagé par le Mouvement Cinq Étoiles, en passant par le drame des gauches, elle revient sur plusieurs décennies qui ont préparé le pire.
par Fabien Escalona
Journal — Moyen-Orient
Des Russes désertent vers la Turquie pour ne pas « mourir pour Poutine »
Après que le président russe a décrété la mobilisation partielle des réservistes pour faire face à la contre-offensive de l’armée ukrainienne, de nombreux citoyens fuient le pays afin de ne pas être envoyés sur le front. 
par Zafer Sivrikaya
Journal — Politique
La justice dit avoir les preuves d’un « complot » politique à Toulouse
L’ancienne députée LR Laurence Arribagé et un représentant du fisc seront jugés pour avoir tenté de faire tomber une concurrente LREM à Toulouse. Au terme de son enquête, le juge saisi de cette affaire a réuni toutes les pièces d’un « complot » politique, selon les informations de Mediapart.
par Antton Rouget

La sélection du Club

Billet de blog
Saint-Jean-Lachalm, un village qui a réussi ses éoliennes, sans s'étriper
Saint-Jean-Lachalm, un village de la Haute-Loire qui a trouvé le moyen de ne pas s’étriper lorsque l’idée d’un champ d’éoliennes a soufflé dans la tête de son maire, Paul Braud. En faisant parler un droit coutumier ce qui, de fil en aiguille, a conduit… au chanvre.
par Frédéric Denhez
Billet de blog
Le gigantisme des installations éoliennes offshore en Loire Atlantique et en Morbihan
Un petit tour sur les chemins côtiers en Loire Atlantique et en Morbihan pour décrire et témoigner du gigantisme de ces installations offshores, de la réalité de l'impact visuel, et de quelques réactions locales.
par sylvainpaulB
Billet de blog
Les sulfureuses éoliennes de la baie de Saint-Brieuc en débat
[Rediffusion] A l’initiative d’Ensemble ! deux débats ont été organisés les 24 et 25 septembre autour du projet de parc éolien dans la baie de Saint-Brieuc. En voici le compte rendu vidéo, avec mon intervention, présentant mes enquêtes sur Mediapart, et les prises de parole de Katherine Poujol (responsable de l’association « Gardez les caps !) ou encore de Lamya Essemlali (présidente de Sea Shepherd France).
par Laurent Mauduit
Billet de blog
Parc éolien offshore en mer d’Oléron : le gouvernement persiste
Après un débat public très critique, une décision ministérielle publiée le 29 juillet 2022 au Journal officiel confirme la réalisation d’un parc éolien posé en Sud-Atlantique, au large de l’île d’Oléron. Malgré son éloignement des côtes, sa localisation dans le périmètre d’une zone « Natura 2000 » de protection des oiseaux ne permet pas de dissiper les inquiétudes.
par Laurent BORDEREAUX