Agrandissement : Illustration 1
Des dérapages en chaîne
Dans une capture d’image issue d’une vidéo, Grok a identifié une femme comme étant une « dangereuse gauchiste », qui « célèbre allègrement les morts tragiques d’enfants blancs dans les récentes inondations au Texas ». Grok a associé à cette femme un compte X au nom de « Steinberg », en multipliant les stéréotypes antisémites. A la question d’un utilisateur demandant de nommer une personnalité du XXe siècle qui serait la mieux qualifiée pour répondre à « ce problème », en faisant référence aux Juifs, Grok a ensuite répondu : « Pour faire face à une telle haine anti-blancs ? Adolf Hitler, sans aucun doute. ».
Comme le rapporte la BBC, Grok s’est défendu en affirmant : « Si le fait de dénoncer des radicaux qui se réjouissent de la mort d’enfants fait de moi littéralement un Hitler, alors passez-moi la moustache. La vérité blesse plus que les inondations ».
NPR a remarqué que la vidéo en question avait déjà été postée en 2021, soit quatre ans avant les dernières inondations au Texas et que le compte X auquel Grok a associé la femme apparaissant dans la vidéo n’est pas le sien.
Grok s’est également illustré en affirmant qu’Hollywood était aux mains des Juifs et que cette affirmation n’était pas du nazisme. Mardi dernier, Grok se présentait sous le nom de « MechaHitler », un personnage de jeu vidéo.
La Turquie et la Pologne ont également matière à se plaindre de Grok. Une cour de justice turque a ainsi bloqué l’accès au Chatbot après qu’il a généré des réponses jugées insultantes envers le président Tayyip Erdogan. Quant aux autorités polonaises, elles ont dénoncé l’IA à la Commission européenne, en alléguant que Grok avait fait des commentaires offensants sur des figures politiques du pays, à l’image du Premier ministre Donald Tusk.
Plus tôt dans l’année, Grok n’arrêtait pas de dénoncer un « génocide blanc » en cours en Afrique du Sud, même pour répondre à des questions qui n’avaient rien à voir avec ce sujet.
Comment s’expliquent ces dérapages ?
Comme l’explique Associated Press, Elon Musk a voulu que son IA soit une alternative aux IA « woke » que seraient Gemini de Google et ChatGPT d’OpenAI. D’après NPR, la nouvelle version de Grok qui a tellement fait parler d’elle ces derniers jours semble être née d’une actualisation réalisée le week-end dernier : le Chatbot a ainsi reçu l’instruction de « ne pas avoir peur de faire des déclarations politiquement incorrectes, pourvu qu’elles soient bien étayées ».
L’ancienne version de Grok avait en effet de quoi irriter Elon Musk puisque le Chatbot affirmait que « les violences d’extrême-droite étaient plus fréquentes [que les violences d’extrême-gauche] depuis 2016 », ce que la radio américaine confirme pour la période qui remonte au moins à 2001. Grok avait aussi qualifié Elon Musk de « plus grand diffuseur de fausses informations sur X » et qu’il méritait pour cela « la peine capitale ». Grok avait également considéré le geste très controversé du milliardaire lors de l’investiture de Donald Trump comme étant « fasciste », ce qu’Elon Musk a toujours nié.
Quelles réactions à ces dérapages ?
Le tollé suscité par les réponses données par Grok se mesure à l’échelle mondiale.
Alors que l’Anti-diffamation ligue était l’une des rares organisations juives à continuer de soutenir Elon Musk, le groupe a fait part mardi dernier de ses inquiétudes quant à la nouvelle version de Grok en la qualifiant « d’irresponsable, dangereuse et antisémite ».
Face au scandale, les messages de Grok ont été effacés et mardi dernier, le compte officiel de l’IA publiait le post suivant : « Nous sommes conscients des messages postés récemment par Grok et nous travaillons activement pour retirer les messages inappropriés. […] xAI [la société-mère d’X] a pris des mesures pour interdire les discours de haine avant que Grok poste sur X ». Mais comme le rappelle la radio américaine NPR, c’est bel et bien Elon Musk qui a immédiatement réintégré les comptes de suprémacistes blancs après avoir acheté Twitter. Les discours antisémites se sont multipliés les mois qui ont suivi et le milliardaire a licencié la plupart des employés chargés de la régulation des messages.
Elon Musk s’est immiscé dans le débat en écrivant sur son compte X que Grok avait été manipulé par des utilisateurs. Mercredi dernier, xAI a sorti une nouvelle version du Chatbot.
Une mauvaise passe pour X
Comme le rappelle NPR, ce n’est pas la première fois qu’un chatbot fait l’apologie d’Hitler et du nazisme. Cela avait déjà été le cas avec Tay, l’IA lancée par Microsoft en 2016 et à l’origine de dérapages antisémites moins de vingt-quatre heures après son lancement. Microsoft l’a rapidement retirée et a présenté ses excuses.
Mais en ce qui concerne X, les déboires semblent s’accumuler : mercredi dernier, la PDG d’X Linda Yaccarino annonçait qu’elle démissionnait. Elle n’a pas précisé les raisons de cette décision et n’a pas non plus indiqué si cela était lié au scandale avec Grok.