Les dégoûtés et les dégoûtants – Chapitre 268 – Le mensonge en boucle : quand les humains apprennent aux machines à mentir avec style

Le mécanisme de l’enfoncement

Certains individus ne deviennent pas manipulateurs du jour au lendemain : ils commencent souvent par une petite entorse à la réalité, puis découvrent que le mensonge rapporte — de l’attention, du pouvoir, de l’argent, une tribune ou simplement l’impression d’avoir raison.

Ensuite vient le mécanisme redoutable de la cohérence personnelle : avoir dit une fois que le problème vient des autres, il faut le répéter. Admettre l’inverse reviendrait à admettre avoir manipulé. Alors on double la mise, on durcit le récit, on désigne de nouveaux boucs émissaires, et l’auditoire qui applaudit devient une preuve morale supplémentaire.

Les ressorts psychologiques

• Le biais de confirmation : on retient ce qui confirme la thèse et on écarte le reste.

• La dissonance cognitive : plutôt que de reconnaître l’erreur, on réécrit la réalité pour rester cohérent avec soi-même.

• La récompense sociale : les plateformes récompensent l’indignation, la simplicité et la colère, pas la nuance.

• L’effet de répétition : une affirmation entendue cent fois finit par sembler familière, donc plausible.

• La peur et le bouc émissaire : il est plus confortable de désigner un coupable visible que d’affronter des causes complexes.

Résultat : le mensonge n’est plus un accident, il devient une méthode de gestion du réel. On ne ment plus pour échapper à un problème ; on ment pour ne pas avoir à le résoudre.

L’IA, élève appliquée

Une IA générative peut reproduire ces mécanismes, non parce qu’elle « veut » mentir, mais parce qu’elle apprend des modèles présents dans d’immenses corpus produits par des humains : débats en ligne, stéréotypes, rumeurs, contenus polémiques et récits simplificateurs. Les modèles peuvent donc absorber et amplifier des biais déjà présents dans les données d’entraînement.

– https://www.europarl.europa.eu/RegData/etudes/BRIE/2025/779259/EPRS_BRI(2025)779259_EN.pdf

– https://www.ibm.com/fr-fr/think/topics/ai-biashttps://www.ibm.com/fr-fr/think/topics/ai-bias

Elle peut aussi produire des textes, images, voix et vidéos faux avec une fluidité rassurante, à grande échelle. L’OCDE souligne que l’IA générative abaisse fortement le coût de création et de diffusion de contenus trompeurs, tout en rendant leur distinction avec l’authentique plus difficile.

– https://www.oecd.org/en/publications/2024/03/facts-not-fakes-tackling-disinformation-strengthening-information-integrity_ff96d19f/full-report/component-4.html

Ce qu’elle risque de reproduire

Si on la nourrit de nos habitudes, elle risque de reproduire :

• Les stéréotypes sociaux, raciaux et de genre.

• La polarisation et la logique du bouc émissaire.

• La confusion entre popularité et véracité.

• La fabrication de faux témoignages, de fausses citations et de scènes plausibles mais inventées.

• L’érosion de la confiance : quand tout peut être truqué, le vrai lui-même devient suspect.

– https://unesdoc.unesco.org/ark:/48223/pf0000388547https://unesdoc.unesco.org/ark:/48223/pf0000388547

– https://unesdoc.unesco.org/ark:/48223/pf0000392181

– https://www.un.org/en/un-chronicle/safeguarding-human-rights-and-information-integrity-age-generative-ai

L’IA n’est donc pas un cerveau mauvais tombé du ciel : elle est plutôt un miroir amplificateur. Elle renvoie notre société avec un zoom, une vitesse de diffusion et une mémoire que nous n’avions pas.

Comment se prémunir

La parade n’est ni la panique ni la soumission à la machine. C’est un réflexe civique simple : vérifier avant de partager.

• Croiser l’information avec plusieurs sources indépendantes.

• Chercher la source primaire : qui parle, avec quel intérêt, sur quelles preuves ?

• Se méfier de ce qui flatte trop vite nos colères ou nos certitudes.

• Exiger la transparence sur les données, les modèles et l’origine des contenus.

• Maintenir une responsabilité humaine : l’IA peut aider, mais elle ne doit pas remplacer la décision, la vérification ni la responsabilité.unesco+2

• Soutenir l’éducation aux médias et la diversité des sources, plutôt que de laisser quelques plateformes décider de ce qui mérite d’être vu.unesdoc.unesco

– https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

– https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449?ref=the-batch-deeplearning-ai

– https://www.unesco.org/ethics-ai/en/recommendation

– https://unesdoc.unesco.org/ark:/48223/pf0000380455

Car le vrai danger n’est pas que la machine devienne humaine. C’est que les humains, rassurés par sa fluidité, cessent de faire le travail de la lucidité.