Cas vécu ce matin.
Baisse de revenu à venir, enfin je lâche Orange... je regarde les offres, sosh, je clique sur un forfait... je me fais rejeter de Sosh, car je suis déjà client Orange! Balo. Je décide donc de prendre un forfait chez RED, moitié moins cher, en étant autonome (contrat-paiement individuel).
Le truc qui devait prendre 10mn, prend une bonne demi-heure, parce RED détecte que je suis déjà chez SFR via mon mari, donc rejette mon mail et refuse ma connexion. Je précise que c'est mon mari qui gère le contrat familial (la box, son portable et celui des enfants), mais pas mon téléphone.
Du coup, je recrée un nouveau profil client, avec un nouveau mail et un nouveau mot de passe. Sauf que j'ai toujours le même nom et la même adresse.
Je fais la commande avec le maintien du numéro de téléphone, saisie d'identité, nouveau contrat bancaire.
1 heure après je reçoie un sms et un mail m'informant que "suite à l'étude de mon dossier et conformément aux conditions générales de vente et d'abonnement, ma commande n'a pas pu être confirmée."
Je vais voir sur le site RED, même message, pas d'explication.
J'appelle le service client SFR, je donne le numéro de commande et là, l'opératrice charmante m'informe que c'est le système informatique qui a traité le sujet et qu'elle n'a pas d'infos : la commande est rejetée. Elle me pose des questions, genre votre compte bancaire est-il récent : ancien 35 ans, vous avez eu des impayés récemment : non jamais....
Elle consulte un logiciel plus élaboré, et me confirme qu'elle ne peut pas m'aider à ouvrir un compte client chez eux, parce le système, l'IA? en a décidé ainsi. L'IA applique des logiques en ne permettant plus aux humains, ni de comprendre la nature de la décision, ni d'y interagir pour débloquer le bug. L'humain n'a plus la main, il est hors jeu. La décision s'applique inéluctablement sans recours possible.
J'en ris, je la challenge en lui disant qu'elle fasse remonter le dysfonctionnement plus haut, elle me dit qu'elle n'a pas la main que c'est compliqué, qu'elle doit travailler avec l'interface comme ça : on est en 2024, Madame, dit-elle en riant.
Je lui dis qu'elle est d'accord, qu'ils sont en train de perdre un client, ce qui est l'inverse de l'objectif voulu?
Elle me conseille d'aller dans une boutique SFR in real life, peut-être qu'eux pourront saisir la commande?
Peut-être qu'en allant chez Bouygues chez qui je ne suis jamais allée, je serais incognito et pourrait donc prendre un forfait moins cher? Sauf si Android+Windows via le traçage de mes actions digitales, détecte que je suis suspecte à vouloir absolument changer de forfait téléphonique, alors que j'ai déjà été refusé deux fois sans savoir pourquoi.... et alerte de façon préventive l'algorithme Bouygues des tentatives d'intrusion de ce client suspect et recommande de m'éjecter aussi?
Ben, oui, merci l'IA de piloter nos vies avec ta logique paranoiaque, où tout changement est suspect, out of real life, sans contrôle, ni contre-pouvoir. Bienvenue dans le fascisme digital qui fera l'enfer de nos vies quotidiennes... comme si le fascisme politique n'était pas déjà un problème sociétal à nos portes.
Demain, l'IA décidera qui peut entrer dans un parking, peut acheter une baguette de pain, être admis à l'hôpital, qui peut inscrire son enfant à l'école, circuler dans la rue, s'approcher d'une école, d'un guichet de l'Etat, vous serrer la main?
Dès le premier bug digne de Brazil des Monty Python, vous serez éjecté du système, sans aucune explication.
30 ans après, on y est!
Bienvenue dans un monde meilleur où tout est sous contrôle, hypersécurisé, vous aurez peur de tout, alors que vous serez sécurisé de tout.