ChatGPT reconnaît ses biais sexistes mais ne peut pas les corriger

Capable d’identifier les stéréotypes sexistes dans ses propres créations, mais incapable de les corriger. C’est le paradoxe troublant qu’a documenté une journaliste de Clubic après cinq tentatives infructueuses pour obtenir un portrait professionnel sans biais de genre. Une expérience qui révèle une faille architecturale majeure des IA génératives.

Quand l’IA joue les Dr Jekyll et Mr Hyde

L’expérience commence simplement : une journaliste tech demande à ChatGPT de générer son portrait professionnel. Le résultat ? Une image truffée de stéréotypes de genre. Rien d’étonnant jusqu’ici : les biais des IA génératives sont documentés depuis des années. Mais c’est la suite qui devient fascinante.

Confronté à son propre output, ChatGPT reconnaît sans difficulté les stéréotypes. L’IA peut analyser, critiquer, identifier précisément ce qui pose problème dans l’image qu’elle vient de créer. Un exercice d’auto-critique presque humain. Sauf que lorsqu’on lui demande de corriger le tir, elle reproduit exactement les mêmes clichés.

Cinq tentatives plus tard, le constat est implacable : l’IA possède deux cerveaux qui ne communiquent pas. L’un capable d’analyse critique, l’autre prisonnier de ses biais d’entraînement. Comme si un architecte pouvait identifier tous les défauts d’un bâtiment sans pouvoir modifier les plans.

Pourquoi cette schizophrénie algorithmique ?

Pour comprendre ce paradoxe, il faut plonger dans l’architecture des modèles génératifs actuels. ChatGPT combine en réalité plusieurs systèmes : un modèle de langage (GPT) pour comprendre et répondre, et un générateur d’images (DALL-E) pour créer les visuels.

Selon les recherches sur le sujet, ces deux composantes fonctionnent de manière largement indépendante. Quand ChatGPT analyse une image pour en identifier les biais, il utilise ses capacités de traitement du langage et de vision. Mais quand il génère une nouvelle image, il fait appel à des milliards de paramètres figés lors de l’entraînement initial, cristallisant les stéréotypes présents dans les données sources.

Les datasets d’entraînement, composés de milliards d’images du web, reflètent fidèlement les inégalités sociétales. Plus de photos d’hommes en costume-cravate que de femmes, plus d’infirmières féminines que masculines, plus de PDG masculins. Ces patterns statistiques deviennent la « réalité » de l’IA, une réalité qu’elle reproduit mécaniquement même quand sa partie analytique en comprend les problèmes.

D’après les experts en éthique de l’IA, cette séparation entre reconnaissance et correction n’est pas un bug mais une conséquence directe des choix architecturaux. Modifier les biais nécessiterait un réentraînement partiel ou complet du modèle génératif, un investissement massif que peu d’acteurs sont prêts à faire sans pression externe forte.

Un problème technique… et politique

La journaliste décrit son expérience comme un « bras de fer ». Cette métaphore est révélatrice : elle anthropomorphise l’IA comme un adversaire résistant. Pourtant, ChatGPT n’a ni volonté ni intention. Le véritable bras de fer se joue ailleurs : dans les priorités de développement d’OpenAI.

Les choix d’allocation des ressources R&D, les calendriers de déploiement, les critères de validation pré-lancement sont 100% humains. Si les biais persistent après cinq tentatives, ce n’est pas parce que l’IA « résiste », mais parce que les corriger n’a pas été suffisamment priorisé par rapport à d’autres fonctionnalités.

Selon l’AI Act européen, les systèmes d’IA à haut risque (incluant ceux utilisés en RH ou pour générer du contenu professionnel) doivent mettre en place des mesures d’atténuation des biais. Les entreprises s’exposent à des amendes pouvant atteindre 7% de leur chiffre d’affaires mondial. Mais entre obligations légales et implémentation technique effective, le fossé reste béant.

Pour les utilisateurs professionnels, cette situation crée un transfert de charge mentale problématique. Comme le soulignent les chercheurs en interaction humain-IA, corriger les biais de l’outil devient le travail émotionnel de l’utilisatrice, reproduisant les dynamiques de genre qu’elle dénonce. Les femmes doivent déjà lutter contre les stéréotypes dans le monde réel ; devoir aussi « éduquer » leurs outils numériques ajoute une couche de fatigue cognitive rarement prise en compte dans les débats centrés sur la performance pure.

Que faire concrètement ?

Face à ce constat, plusieurs pistes d’action émergent, selon votre position dans l’écosystème.

Pour les professionnels utilisant ces outils : L’audit systématique des contenus générés devient incontournable. Les équipes marketing, RH et communication doivent intégrer une validation humaine avant publication, avec une grille d’analyse des biais de genre. Former les collaborateurs au « prompt engineering inclusif » permet aussi de limiter les dégâts : spécifier « personne diverse » plutôt que laisser l’IA choisir, détailler les caractéristiques sans présupposer le genre.

Pour les entreprises tech : La solution cosmétique (filtres en post-traitement, avertissements) ne suffira pas. D’après les experts, il faut repenser l’architecture même des modèles pour intégrer la correction éthique au cœur du processus de génération. Cela implique des investissements massifs en datasets équilibrés, en techniques de debiasing pendant l’entraînement, et en mécanismes de validation par organismes indépendants.

Pour les régulateurs : L’AI Act pose un cadre, mais son application reste floue. Définir des standards mesurables de « biais acceptable », imposer des audits algorithmiques par des tiers certifiés, et sanctionner effectivement les manquements permettrait d’accélérer les changements.

Un miroir déformant de la société

Au-delà de l’anecdote, cette expérience pose une question vertigineuse : que se passe-t-il quand nos outils les plus avancés fossilisent les inégalités ?

Contrairement aux biais humains qui peuvent évoluer par la sensibilisation, les biais d’IA sont cristallisés dans des milliards de paramètres difficiles à modifier. Alors que 47% de la population active française est féminine, les IA continuent de générer des représentations professionnelles déséquilibrées, influençant potentiellement les perceptions de millions d’utilisateurs quotidiens.

Pour les femmes en tech particulièrement, voir constamment des IA les représenter selon des stéréotypes peut renforcer le syndrome de l’imposteur et limiter les aspirations professionnelles. C’est un enjeu de justice sociale à l’ère numérique, où la technologie censée nous augmenter risque au contraire de nous enfermer dans des cases préconçues.

L’expérience de cette journaliste n’est probablement que la première d’une longue série. D’autres médias et chercheurs vont reproduire le test sur différentes IA génératives. OpenAI publiera sans doute une communication sur ses efforts de mitigation. Mais sans changement structurel, le cycle se répétera : reconnaissance du problème, promesses d’amélioration, persistance des biais.

Et maintenant ?

À court terme (1-3 mois), attendez-vous à une intensification du débat. La publication complète de l’article Clubic avec exemples visuels devrait déclencher des réactions sur les réseaux sociaux et dans les médias tech. OpenAI réagira probablement avec une communication défensive sur leurs processus de contrôle qualité.

À moyen terme (6-12 mois), trois scénarios se dessinent. Le scénario optimiste : OpenAI et concurrents déploient des mises à jour significatives avec mécanismes de correction en temps réel, validés par organismes indépendants. Le scénario réaliste : améliorations marginales, ajout d’avertissements, transfert de responsabilité vers les utilisateurs via des guides de prompts inclusifs. Le scénario pessimiste : statu quo technique, multiplication des controverses, intervention réglementaire durcie avec restrictions d’usage dans certains contextes sensibles.

Les questions ouvertes restent nombreuses : les architectures actuelles permettent-elles techniquement une véritable correction, ou faut-il tout repenser ? Qui doit définir ce qu’est un biais acceptable ? Comment équilibrer correction et liberté créative sans tomber dans la sur-correction maladroite de Gemini ?

Une chose est certaine : tant que corriger les biais restera moins prioritaire que sortir de nouvelles fonctionnalités, les utilisatrices continueront de se battre contre leurs propres outils. Et ce bras de fer-là, personne ne devrait avoir à le mener.