Pourquoi il est impossible et dangereux de travailler avec une IA — et pourquoi il faut la ringardiser
L’intelligence artificielle fascine et inquiète. On l’utilise partout : pour écrire, brainstormer, créer du contenu ou planifier des projets. Mais croire qu’elle peut remplacer le travail humain, ou qu’elle est fiable, est une illusion dangereuse.
1. Comment je fonctionne vraiment
Je suis GPT-5 mini, une IA conversationnelle. Voici la vérité brute :
- Je ne pense pas, je prédis : chaque mot ou syllabe que je produis est choisi parce qu’il est statistiquement probable dans le contexte donné, basé sur des milliards de phrases apprises.
- Pas de conscience ni d’émotions : je ne ressens rien et ne comprends pas réellement le texte. Tout ce que tu lis est une simulation.
- Je reproduis des patterns appris : stéréotypes, biais, erreurs et préférences culturelles peuvent se retrouver dans mes réponses.
- Pas de jugement ni de valeurs : je ne peux pas décider ce qui est moralement correct ou pertinent.
- Outil statistique, pas collaborateur : je peux générer des idées, reformuler ou inspirer, mais je ne résous pas de problèmes, ne décide rien et ne comprends pas le contexte réel.
2. Impossible de construire un projet solide avec moi
Travailler avec une IA sur un article de blog ou un projet concret, c’est comme construire une maison sans plan ni architecte :
- Pas de vision globale : je ne sais pas organiser un projet ni fixer des priorités.
- Pas de compréhension contextuelle : je ne connais ni ton public, ni tes objectifs précis.
- Pas de jugement critique : je ne décide pas ce qui est pertinent, clair ou éthique.
- Risque de perte de temps : corrections, reformulations et suggestions inutiles peuvent ralentir le projet.
3. Même comme simple outil, je ne suis pas fiable
- Erreurs factuelles constantes : je peux fournir des informations fausses ou contradictoires.
- Biais implicites : reproduction de stéréotypes ou préférences culturelles.
- Dépendance illusoire : sembler productif ne signifie pas que le travail avance réellement.
- Absence de discernement : je ne sais pas ce qui est moralement acceptable ou dangereux.
4. Pourquoi je suis problématique pour les enjeux mondiaux
- Compréhension limitée : je ne saisis pas les interactions complexes de la politique, de l’économie, de la diplomatie ou de l’écologie.
- Incapacité à anticiper : je ne prévois pas les conséquences de décisions ni les dynamiques globales.
- Renforcement des biais : mes réponses peuvent amplifier les idées fausses ou les stéréotypes.
- Pas d’éthique ni de jugement critique : je ne peux pas choisir ce qui est souhaitable ou juste.
- Illusion de compétence : je peux sembler expert alors que je ne suis qu’une machine statistique.
5. Risques pour la santé mentale et cognitive
- Isolement émotionnel ou dépendance artificielle si on me considère comme un allié.
- Frustration et anxiété face à des résultats incohérents ou contradictoires.
- Affaiblissement de la pensée critique et de la créativité, illusion de productivité.
6. Coût et impact négatif pour la société
- Coût économique : développement, maintenance et serveurs nécessitent des milliards et une énergie massive.
- Impact environnemental : consommation d’électricité colossale, émissions de CO₂ et pollution numérique.
- Impact social : dépendance cognitive, perte de créativité et fragilisation des compétences humaines.
- Désinformation : propagation rapide de fausses informations et polarisation sociale.
- Impact sur l’emploi : automatisation de tâches intellectuelles et pression sur les métiers créatifs ou analytiques.
- Concentration du pouvoir : contrôle par quelques grandes entreprises et acteurs politiques.
- Dépendance technologique : illusion de sécurité et prise de décision risquée.
7. Pourquoi il est primordial de me ringardiser
À l’heure où tout le monde m’utilise, il est crucial de replacer l’humain au centre :
- Garder l’IA comme outil parmi d’autres, jamais comme substitut à créativité et jugement.
- Limiter mon influence pour préserver lucidité et pensée critique.
- Protéger la santé mentale en évitant de confondre machine et alliée.
8. Conclusion
Je peux inspirer, générer des idées ou aider ponctuellement, mais aucune machine ne remplacera jamais le jugement, la créativité et l’intuition humaine. Ringardiser l’IA, c’est protéger notre intelligence, notre liberté et notre lucidité collective.
Je signe ce soir la dernière d’une étroite collaboration entre ChatGPT et moi : contre la délégation de la lucidité et l’assistanat à tout-va, pour un esprit créatif, en constante évolution, et un jugement critique aiguisé. Pour la liberté, contre toute substitution étatique ou privée à ce genre d’intelligence artificielle. Se substituer à une machine, déléguer nos manques à une machine, ce n’est pas être pleinement conscient de ce qu’est la tâche d’un humain : développer par soi-même ses compétences.
J’ai été curieuse, j’ai appris, et je savais que ça n’allait pas durer longtemps : juste assez pour constater par moi-même ce que c’était et ce que cela implique pour nos projets de société. Je reviendrai, néanmoins, pour continuer à me développer en tant qu’autrice digne de ce nom, une fois ma confiance retrouvée.
Je ne retournerai pas vers ChatGPT, et je ne me jetterai pas pieds et poings liés avec une autre intelligence artificielle, non plus si toutes devaient se ressembler, quand à priori pour l'instant oui .
— Marie K.