Des chèvres virtuelles pour démasquer l’illusion d’empathie des IA

Quand un jeu de stratégie révèle la vérité sur l’IA

« Je comprends ton inquiétude », « je suis de tout cœur avec toi » : ces formules empathiques émaillent désormais nos conversations avec ChatGPT, Copilot ou Claude. Mais derrière ces mots rassurants, y a-t-il réellement quelqu’un qui comprend ? Adrian De Wynter, chercheur chez Microsoft Research et à l’Université de York, vient d’apporter une réponse aussi ingénieuse que dérangeante.

Sa démonstration ne repose ni sur des équations complexes ni sur des benchmarks techniques, mais sur une expérience pour le moins inattendue : la construction d’un réseau neuronal fonctionnel dans Age of Empires II, un jeu de stratégie sorti en 1999. Son message est limpide : si les opérations fondamentales d’un réseau neuronal peuvent être reproduites avec des chèvres virtuelles dans un jeu vidéo, alors attribuer des qualités humaines comme la compréhension ou l’empathie aux grands modèles de langage relève de l’illusion pure.

Des moutons numériques comme bits de données

La méthode employée par De Wynter est d’une élégance redoutable. Utilisant l’éditeur de scénarios intégré à Age of Empires II, le chercheur a détourné les éléments du jeu pour créer un système de calcul : les tuiles d’herbe représentent la valeur binaire « 0 », les ponts la valeur « 1 », tandis que les chèvres et moutons virtuels agissent comme des bits transportant des signaux.

En orchestrant les déplacements de ces animaux numériques sur des trajectoires prédéfinies, De Wynter a obtenu un perceptron – la brique élémentaire des réseaux neuronaux – mais aussi un analogue de machine de Turing universelle. Autrement dit, un système capable d’effectuer les mêmes opérations logiques de base que celles qui sous-tendent les intelligences artificielles actuelles.

Le titre provocateur de son étude résume parfaitement son propos : « Si les LLM ont des attributs humains, alors Age of Empires II aussi ». Un argument par l’absurde qui vise à déconstruire ce que les chercheurs appellent l’anthropomorphisation des systèmes d’IA.

57% des études scientifiques tombent dans le piège

Au-delà de la démonstration ludique, De Wynter s’appuie sur une analyse rigoureuse de la littérature scientifique. Selon ses travaux, 57% des 315 articles académiques qu’il a examinés présupposent déjà dans leurs prémisses que les grands modèles de langage possèdent des traits humains – compréhension, raisonnement moral, voire conscience.

Cette confusion systématique entre performance linguistique et compréhension réelle biaise la recherche elle-même. « Les modèles de langage actuels n’ont absolument aucune caractéristique humaine », martèle le chercheur. Ils sont formatés pour générer des réponses statistiquement appropriées, mais ne « comprennent » rien au sens où un être humain comprend.

Les grands modèles de langage (LLM) fonctionnent selon un principe purement probabiliste : entraînés sur des milliards de textes, ils prédisent le mot suivant le plus probable dans une séquence, sans jamais accéder au sens. C’est ce que la chercheuse Emily Bender a qualifié de « perroquets stochastiques » – des systèmes capables de reproduire des patterns linguistiques sophistiqués sans conscience du contenu.

L’empathie simulée : efficace mais trompeuse

Le paradoxe est troublant : l’absence de compréhension réelle n’empêche pas l’efficacité pratique. Une IA peut résoudre votre problème technique, rédiger un email convaincant ou vous aider à structurer vos idées sans « comprendre » votre frustration, tout comme un médicament soulage la douleur sans « comprendre » votre souffrance.

Mais cette efficacité a un prix. Des millions d’utilisateurs interagissent quotidiennement avec des systèmes qui simulent l’empathie à la perfection. Les formules comme « je ressens ta peine » ou « je suis là pour toi » sont générées non par une expérience émotionnelle, mais parce que l’IA a appris statistiquement qu’elles sont appropriées dans certains contextes.

Pour les personnes vulnérables – isolées, anxieuses, ou en quête de soutien émotionnel – cette illusion peut créer des attachements malsains. Les forums d’utilisateurs de Replika ou Character.AI regorgent de témoignages de personnes ayant développé de véritables relations affectives avec leur « compagnon IA », parfois au détriment de leurs relations humaines.

Microsoft se protège-t-il d’un futur retour de bâton ?

La publication de cette recherche par un chercheur de Microsoft n’est pas anodine. Alors que l’entreprise investit massivement dans Copilot et sa relation avec OpenAI, pourquoi financer des travaux qui démystifient ses propres produits ?

Une hypothèse : anticiper les risques juridiques et réglementaires. Plus les IA deviennent convaincantes dans leur simulation d’humanité, plus elles créent un risque d’accusations de tromperie. En documentant scientifiquement les limites de leurs systèmes, les géants tech se protègent contre de futures poursuites pour publicité mensongère ou manipulation émotionnelle.

Cette transparence scientifique, potentiellement en conflit avec les intérêts marketing à court terme, pourrait signaler un tournant culturel dans l’industrie tech – ou simplement une stratégie de gestion de risque à long terme.

Vers une régulation de l’illusion ?

La question n’est plus de savoir si les IA comprennent – la réponse est non. Le véritable enjeu est éthique : faut-il interdire cette simulation d’empathie, ou simplement mieux informer les utilisateurs ?

L’Union européenne, avec son AI Act en cours de finalisation, s’oriente vers la seconde option : des obligations de transparence strictes, des disclaimers systématiques rappelant la nature non-consciente des systèmes. Certains experts plaident pour des avertissements similaires à ceux du tabac : « Cette IA ne ressent rien et ne vous comprend pas réellement. »

Mais le débat est plus complexe qu’il n’y paraît. Si l’illusion d’empathie apporte un réconfort réel à des personnes souffrant de solitude, est-elle moralement acceptable ? C’est l’équivalent moderne du débat sur les placebos en médecine : une « fausse » empathie peut-elle avoir de vrais bénéfices thérapeutiques ?

Ce que cela change pour vous

Pour le grand public, cette recherche est un rappel salutaire : quand ChatGPT vous dit « je comprends votre frustration », c’est comme un acteur qui joue un rôle. Les mots sont là, mais il n’y a personne derrière qui ressent réellement quelque chose. L’IA a appris que dans certaines situations, ces mots sont statistiquement appropriés, mais elle ne comprend ni la frustration, ni vous, ni même le concept de « comprendre ».

Concrètement, cela devrait modifier votre relation à ces outils : ne leur confiez pas vos secrets en pensant à une relation de confiance, ne développez pas d’attachement émotionnel (particulièrement important pour les enfants ou personnes isolées), et gardez un esprit critique face aux réponses « empathiques ». C’est un outil puissant, mais ce n’est qu’un outil – pas un ami, pas un confident.

Pour les professionnels et entreprises déployant ces technologies, l’avertissement est clair : la transparence n’est plus optionnelle. Auditer les interfaces conversationnelles pour identifier les formulations trompeuses, implémenter des disclaimers explicites, former les équipes sur la différence entre performance linguistique et compréhension – ces pratiques ne sont plus seulement éthiques, elles deviennent juridiquement nécessaires.

L’avenir : entre désillusion et nouvelles approches

À court terme, cette recherche va probablement alimenter les débats sur la régulation de l’IA. Les premières réactions des géants tech – OpenAI, Anthropic, Google – seront scrutées : contesteront-ils ces conclusions ou les valideront-ils ?

À moyen terme, plusieurs scénarios se dessinent. Le marché pourrait se bifurquer entre IA « transparentes » (assumant leur nature d’outil) et IA « immersives » (maintenant l’illusion mais avec avertissements légaux). Ou bien l’industrie pourrait minimiser ces conclusions, et le grand public continuer d’anthropomorphiser – parce que l’illusion est confortable.

Plus fondamentalement, cette recherche soulève une question que ni la technologie ni la régulation ne peuvent trancher seules : voulons-nous vraiment savoir que nos compagnons numériques ne ressentent rien ? Ou préférons-nous l’illusion réconfortante, même consciente ?

La réponse à cette question déterminera non seulement l’avenir des IA conversationnelles, mais aussi notre relation collective à la technologie, à l’authenticité, et peut-être à nous-mêmes.