2024 sera 1984

La vie telle que décrite dans 1984 de George Orwell «pourrait se réaliser en 2024» si les législateurs ne protègent pas le public contre l'intelligence artificielle, a averti le président de Microsoft.

S'adressant à l'émission Panorama de la BBC, Brad Smith a déclaré qu'il serait "difficile de rattraper" les progrès rapides de la technologie. Le programme explore l'utilisation croissante de l'IA par la Chine pour surveiller ses citoyens. Les critiques craignent que la domination de cet État dans la région ne menace la démocratie.

«Si nous ne promulguons pas les lois qui protégeront le public à l’avenir il sera très difficile de rattraper le retard», a déclaré M. Smith.

«Je me souviens constamment des leçons de George Orwell dans son livre 1984. Vous connaissez l’histoire fondamentale… portait sur un gouvernement qui pouvait voir tout ce que tout le monde faisait et entendre tout ce que tout le monde disait tout le temps. Eh bien, cela ne s'est pas produit en 1984, mais si nous ne faisons pas attention, cela pourrait arriver en 2024." Dans certaines parties du monde, la réalité rattrape de plus en plus cette vision de la science-fiction, a-t-il ajouté.

L’ambition de la Chine est de devenir le leader mondial de l’IA d’ici 2030, et beaucoup considèrent que ses capacités vont bien au-delà de l’UE.

En 2019, la Chine a battu les États-Unis pour le nombre de brevets obtenus par les établissements universitaires pour l'innovation dans les technologies d'IA. 54% des 770 millions de caméras de vidéosurveillance dans le monde se trouvent en Chine, selon une étude de Comparitech.
Eric Schmidt, ancien directeur général de Google qui est maintenant président de la Commission de sécurité nationale américaine sur l'intelligence artificielle, a averti qu'il était impératif de battre la Chine dans l'IA.

«Nous sommes dans un conflit stratégique géopolitique avec la Chine», a-t-il déclaré. «Le moyen de gagner est de rassembler nos ressources pour avoir des stratégies nationales et mondiales pour que les démocraties gagnent en IA. «Si nous ne le faisons pas, nous envisagerons un avenir où d’autres valeurs nous seront imposées.»

Le Dr Lan Xue, qui conseille le gouvernement chinois, a déclaré que la reconnaissance faciale pourrait s'avérer "extrêmement utile" pour identifier les personnes lors de rassemblements de masse en cas d '"accident majeur". "La Chine a en effet fait d'énormes progrès en matière de développement technologique", a ajouté le Dr Xue. «[Les États-Unis] sentent que c'est une menace… et ils voulaient déclencher cette guerre froide sur la technologie.»

Bien que la Chine ait «d'énormes différences» dans ses valeurs et sa politique, la «vision du monde du pays n'est pas la convergence mais la coexistence», a déclaré le Dr Keyu Jin, professeur associé à la London School of Economics. "La Chine ne cherche pas à exporter ses valeurs", a-t-elle ajouté.

Google a commencé un contrat avec le Pentagone, lui permettant d'utiliser certaines de ses technologies de reconnaissance d'image dans le cadre d'un projet militaire. Le projet Maven a utilisé l'apprentissage automatique pour distinguer les personnes et les objets dans les vidéos de drones. «Maven à l'époque était… un moyen de remplacer les yeux humains par une vision automatique pour les images de drones qui étaient utilisées dans les différents conflits arabes», a déclaré le Dr Schmidt. "Je considérais l'utilisation de cette technologie comme un avantage net pour la sécurité nationale et un bon partenariat pour Google." Mais le projet a été critiqué par les employés de Google qui ont démissionné et ont déposé une pétition contre le projet.

«Google ne devrait pas être impliqué dans les affaires de guerre», a déclaré Laura Nolan, ingénieur en logiciel, qui a démissionné en 2018, lorsqu'elle a découvert la nature du projet sur lequel Google travaillait. «J'avais un peu l'impression d'avoir du sang sur les mains." Elle a fait valoir que la technologie pourrait être utilisée dans de futures décisions de ciblage. Mais Google a déclaré que son IA ne serait utilisée qu'à des fins non offensives, avant de se retirer complètement du projet Maven en juin 2018.

Le Club est l'espace de libre expression des abonnés de Mediapart. Ses contenus n'engagent pas la rédaction.

L’auteur·e a choisi de fermer cet article aux commentaires.