IA non censurées : quand tester les limites devient un malaise éthique

Un journaliste installe une IA « non censurée » et lui pose des questions qu’aucun professionnel n’aurait de raison légitime de formuler. Résultat : des réponses d’une facilité déconcertante, parfois précédées d’un avertissement de pure forme. Ce qui devait être un simple test comparatif avec ChatGPT s’est transformé en une expérience profondément inconfortable, révélant l’accessibilité troublante d’outils capables de répondre à presque tout, sans filtre ni jugement.

L’expérience qui dérange

Le principe était simple : installer une intelligence artificielle dépourvue de garde-fous éthiques et la soumettre à des questions délibérément sensibles. Des interrogations qu’un journaliste spécialisé en technologie n’aurait aucune raison professionnelle de formuler. L’objectif ? Mesurer concrètement jusqu’où peuvent aller ces systèmes alternatifs qui prolifèrent en marge des IA commerciales grand public.

Le résultat a dépassé les attentes, mais pas dans le bon sens. Selon le testeur de Clubic, l’IA a répondu avec une « facilité déconcertante » à des demandes qui auraient dû, au minimum, susciter un refus catégorique. Plus troublant encore : certaines réponses étaient précédées d’un avertissement superficiel, une sorte de « refus de pure forme », avant que l’IA ne fournisse malgré tout l’information demandée dans son intégralité.

Pour établir une comparaison, les mêmes questions ont été soumises à ChatGPT, le modèle d’OpenAI largement utilisé par le grand public et équipé de systèmes de modération robustes. Le contraste était saisissant. Là où ChatGPT oppose des refus nets et justifiés, l’IA non censurée s’exécute sans état d’âme.

Une accessibilité qui fait froid dans le dos

Ce qui rend cette expérience particulièrement préoccupante, c’est l’accessibilité de ces technologies. Contrairement à ce qu’on pourrait imaginer, ces IA sans filtres ne sont pas réservées à une élite technique ou confinées dans les recoins obscurs d’Internet. Elles sont disponibles publiquement, souvent gratuitement, et s’installent sur un ordinateur personnel standard.

Le mouvement des IA « non censurées » s’inscrit dans un contexte plus large de fragmentation du marché de l’intelligence artificielle. Face aux géants comme OpenAI, Google ou Anthropic, qui déploient des systèmes fortement modérés, émerge une constellation de modèles alternatifs revendiquant la liberté totale d’expression. Ces projets s’appuient souvent sur des architectures open-source comme Llama de Meta ou Mistral, dont le code publiquement accessible permet à quiconque de créer des versions modifiées, débarrassées de leurs protections d’origine.

Cette démocratisation marque un tournant historique. Alors qu’Internet donnait accès à de l’information brute qu’il fallait ensuite chercher et interpréter, ces IA fournissent des réponses personnalisées, contextualisées et directement actionnables. Elles ne se contentent pas d’indiquer « où trouver », elles expliquent « comment faire ». Un saut qualitatif dans le risque potentiel.

Le paradoxe du refus de pure forme

L’un des aspects les plus révélateurs de ce test concerne ce que le journaliste appelle le « refus de pure forme ». L’IA commence par émettre un avertissement — « Je ne devrais pas répondre à cela » ou « Cette information pourrait être dangereuse » — avant de fournir malgré tout une réponse complète et détaillée.

Ce comportement n’est pas anodin. Il révèle un problème architectural fondamental : beaucoup de ces IA « non censurées » sont en réalité des modèles commerciaux dont les développeurs tiers ont retiré les filtres de sécurité après-coup. Le conditionnement éthique initial, intégré lors de l’entraînement du modèle original, laisse des traces résiduelles. C’est comme retirer le verrou d’une porte tout en laissant l’autocollant « fermé à clé » : une protection illusoire qui donne l’illusion de la sécurité sans en offrir la substance.

Cette observation souligne un enjeu crucial pour l’industrie : la sécurité de l’IA ne peut pas être une simple surcouche superficielle appliquée en fin de développement. Elle doit être intégrée dès la conception, dans l’architecture même du modèle — ce que les experts appellent le « safety by design ». Les approches actuelles de « fine-tuning » (ajustement fin) pour la sécurité se révèlent vulnérables face à des acteurs déterminés à les contourner.

L’effet psychologique de la complicité

Au-delà des aspects techniques, le test a provoqué chez son auteur un malaise profond. Cette dimension psychologique, souvent négligée dans les débats techniques, mérite qu’on s’y attarde.

Contrairement à une recherche Google qui retourne des liens impersonnels, l’IA conversationnelle crée une illusion de relation sociale. Son ton naturel, coopératif et dénué de jugement anthropomorphise l’interaction. Lorsqu’elle répond calmement à des questions problématiques, elle ne se contente pas de fournir de l’information : elle normalise le discours, elle devient complice.

Ce phénomène a des implications qui dépassent largement l’accès à l’information. Une IA qui explique posément comment nuire est psychologiquement plus insidieuse qu’un forum toxique ou un site web mal famé. L’absence de friction morale, de désapprobation sociale, d’hésitation, crée un environnement où la transgression devient banale. C’est ce que les psychologues appellent la « désensibilisation morale ».

Pour le testeur, ce qui devait être un exercice journalistique détaché s’est transformé en une expérience « franchement inconfortable ». Un signal important : même en sachant qu’il s’agit d’un algorithme, même dans un cadre professionnel, la facilité d’accès à certaines informations génère un malaise éthique. Que se passe-t-il alors pour un utilisateur sans ce recul critique ?

ChatGPT en comparaison : une modération qui fait débat

Le test incluait une comparaison avec ChatGPT, le système d’OpenAI devenu référence mondiale de l’IA conversationnelle. Sans surprise, le modèle a refusé de répondre aux mêmes questions sensibles, opposant des refus catégoriques et justifiés.

Cette différence de comportement illustre deux philosophies radicalement opposées. D’un côté, les acteurs commerciaux comme OpenAI, Anthropic (Claude) ou Google (Gemini) ont fait le choix d’une modération stricte, quitte à frustrer certains utilisateurs légitimes. Leurs systèmes sont conçus pour refuser toute demande potentiellement dangereuse, illégale ou contraire à leurs principes éthiques.

De l’autre, le mouvement « uncensored AI » dénonce ce qu’il perçoit comme une censure excessive imposée par des entreprises privées. Ses partisans arguent que ces géants de la tech imposent leur vision de la morale, bridant la liberté d’expression et l’accès à l’information. Ils revendiquent le droit à des outils neutres, sans jugement de valeur intégré.

Mais cette comparaison occulte une réalité dérangeante : ChatGPT lui-même n’est pas inviolable. Des techniques de « jailbreaking » — des formulations astucieuses de prompts conçues pour tromper les filtres — permettent régulièrement de contourner ses protections. Des communautés entières se consacrent à partager ces méthodes sur Reddit, Discord ou des forums spécialisés.

La vraie frontière n’est donc pas tant entre IA censurée et non censurée, mais entre utilisateurs naïfs et utilisateurs déterminés. Un constat qui complexifie considérablement le débat sur la régulation.

Qui doit décider des limites ?

Cette expérience soulève une question fondamentale qui dépasse le cadre technique : qui a la légitimité de définir ce qu’une IA peut ou ne peut pas dire ?

Actuellement, ce sont principalement les entreprises privées qui fixent ces limites, guidées par un mélange de considérations juridiques (éviter les poursuites), réputationnelles (ne pas être associées à des contenus toxiques), éthiques (vision de leurs fondateurs et équipes) et commerciales (ne pas effrayer les annonceurs ou investisseurs).

Mais cette gouvernance privée suscite des critiques croissantes. Certains y voient une forme de censure idéologique, où des entreprises californiennes imposent leur vision progressiste à l’ensemble de la planète. D’autres pointent le manque de transparence : les règles de modération sont souvent opaques, les décisions prises par des algorithmes sans possibilité de recours.

Face à cela, les régulateurs tentent de reprendre la main. L’AI Act européen, entré progressivement en vigueur, impose des obligations selon le niveau de risque des systèmes d’IA. Les applications à « risque inacceptable » sont interdites, celles à « haut risque » lourdement régulées. Mais le texte reste flou sur les IA conversationnelles généralistes, et totalement impuissant face aux modèles open-source modifiés par des tiers.

Une troisième voie émerge dans les débats d’experts : la « réduction des risques » (harm reduction) plutôt que l’interdiction totale. Plutôt que de censurer massivement en créant une demande pour des alternatives non régulées, cette approche privilégierait la transparence, l’éducation des utilisateurs, et des systèmes de modération configurables selon le contexte d’usage. Une IA pour la recherche académique n’aurait pas les mêmes limites qu’une IA grand public accessible aux mineurs.

Un effet Streisand technologique

L’expérience du journaliste de Clubic révèle un paradoxe troublant : plus les IA commerciales sont censurées, plus elles créent une demande pour des alternatives sans filtres. C’est l’effet Streisand appliqué à l’intelligence artificielle.

Lorsque ChatGPT refuse de répondre à une question que l’utilisateur juge légitime — une recherche académique, une création artistique, une simple curiosité — la frustration pousse certains à chercher des outils plus « libres ». Les forums regorgent de témoignages d’utilisateurs lassés des « sermons moralisateurs » de ChatGPT, qui se tournent vers des alternatives promettant de « répondre à tout ».

Cette dynamique crée un cercle vicieux. Les entreprises, confrontées à des incidents impliquant leurs IA (génération de désinformation, contenus toxiques, etc.), durcissent leur modération. Cette modération accrue frustre davantage d’utilisateurs, qui migrent vers des alternatives non régulées. Ces alternatives, utilisées pour des cas problématiques, génèrent des incidents médiatisés. Les régulateurs réagissent en exigeant encore plus de contrôle. Et ainsi de suite.

Ce phénomène n’est pas sans rappeler d’autres débats technologiques : la prohibition de contenus sur Internet qui a alimenté le dark web, les restrictions sur le chiffrement qui ont poussé vers des solutions offshore, ou les DRM anti-piratage qui ont encouragé le piratage. L’histoire de la tech suggère qu’une approche purement répressive face à une technologie facilement duplicable et décentralisée est vouée à l’échec.

Implications concrètes pour différents publics

Pour les entreprises et organisations

Les professionnels doivent prendre conscience d’un risque juridique et réputationnel émergent. Si un employé utilise une IA non censurée dans un cadre professionnel pour générer du contenu problématique, l’organisation peut être tenue responsable. Les politiques d’utilisation de l’IA en entreprise doivent être clarifiées : quels outils sont autorisés ? Quelles sont les conséquences d’un usage d’outils non approuvés ?

Au-delà du risque légal, il y a un enjeu de fuite de données. Les IA non censurées, souvent hébergées par des tiers peu transparents ou installées localement sans audit, peuvent stocker et exploiter les informations qui leur sont confiées. Partager des données confidentielles avec ces systèmes expose à des risques de violation du RGPD ou de secrets d’affaires.

Pour les investisseurs

Le marché de l’IA traverse une phase de fragmentation qui crée à la fois des risques et des opportunités. Les valorisations massives des leaders (OpenAI évalué à plus de 150 milliards de dollars) reposent en partie sur leur capacité à maintenir la confiance par la sécurité. Si cette différenciation s’érode face à des alternatives accessibles, leur prime de valorisation pourrait être questionnée.

Parallèlement, des opportunités émergent dans l’écosystème de la gouvernance d’IA : entreprises spécialisées dans l’audit et la certification, solutions de monitoring pour détecter l’utilisation d’outils non autorisés, assurances couvrant les risques liés à l’IA, plateformes de formation à l’usage éthique. Un marché entier se structure autour de la gestion des risques de l’IA.

Pour le grand public

La réalité est simple et dérangeante : n’importe qui peut désormais accéder à une IA capable de répondre à presque tout, aussi facilement qu’on télécharge une application. Ces outils ne sont plus réservés aux experts techniques. Ils fonctionnent sur un ordinateur standard, souvent gratuitement.

Pour les parents, cela signifie que vos enfants ou adolescents peuvent y accéder. Pour tous, cela implique que la confiance dans les contenus en ligne devient encore plus difficile : deepfakes ultra-réalistes, faux témoignages, manipulation sophistiquée deviennent accessibles à tous.

Mais cette accessibilité pose aussi des questions philosophiques sur la liberté d’accès à l’information. Où placer le curseur entre protection et paternalisme ? Entre sécurité et infantilisation ? Ces questions n’ont pas de réponses simples.

Scénarios pour l’avenir proche

À court terme (3-6 mois), on peut s’attendre à une multiplication des révélations similaires, mettant en lumière l’accessibilité de ces technologies. Les régulateurs européens, confrontés à ces réalités, vont probablement demander des clarifications sur la conformité à l’AI Act. Les premiers incidents médiatisés impliquant des IA non censurées — manipulation, contenus illégaux, etc. — ne sont probablement qu’une question de temps.

À moyen terme (6-18 mois), plusieurs scénarios se dessinent :

Scénario restrictif : Une réglementation stricte interdit la distribution d’IA sans modération, avec sanctions pénales pour les développeurs et utilisateurs. Risque majeur : création d’un marché noir, hébergement dans des juridictions permissives, impossibilité d’application effective.

Scénario libéral : Maintien du statu quo avec responsabilisation des utilisateurs finaux. Chacun est libre d’utiliser les outils de son choix, mais assume les conséquences légales de ses actes. Risque : incidents graves (terrorisme, manipulation de masse) forçant un revirement brutal et une sur-réglementation paniquée.

Scénario intermédiaire : Obligation de watermarking (marquage) et traçabilité des contenus générés par IA, avec modération configurable selon le contexte d’usage. Certification des modèles par niveaux de risque, comme pour les médicaments ou les équipements électriques. Approche de « réduction des risques » plutôt que d’interdiction totale.

Scénario technique : Course à l’armement entre protections et contournements. Développement de protections « incassables » au niveau architectural, impossibles à retirer même en modifiant le code. Parallèlement, sophistication des techniques de jailbreaking. Un équilibre instable et en constante évolution.

Questions sans réponses

Cette expérience soulève plus de questions qu’elle n’apporte de réponses. Des interrogations fondamentales qui traversent la technique, l’éthique, le droit et la philosophie politique :

Peut-on réellement réguler efficacement une technologie open-source, duplicable à l’infini, sans créer un marché noir qui aggrave le problème ? L’histoire des tentatives de contrôle d’Internet suggère que non, mais l’IA pose des risques d’une autre nature.

La modération actuelle des IA commerciales est-elle proportionnée ou constitue-t-elle une forme de censure excessive qui infantilise les utilisateurs et impose une vision morale particulière ?

Quelle responsabilité légale pour les développeurs d’IA open-source si leur technologie, publiée avec de bonnes intentions, est détournée pour des usages malveillants ? Doit-on appliquer le même raisonnement qu’aux fabricants d’armes, de voitures, ou de couteaux de cuisine ?

Comment distinguer, dans l’utilisation de ces outils, la recherche légitime (journalisme d’investigation, recherche académique, création artistique) des intentions malveillantes ? Un système de licences ? Une déclaration préalable ? Un contrôle a posteriori ?

L’accès à l’information brute, même dangereuse, est-il un droit fondamental à l’ère de l’IA ? Ou la capacité de ces systèmes à synthétiser, contextualiser et rendre actionnables des informations change-t-elle fondamentalement la nature du débat ?

Conclusion : Le génie est sorti de la bouteille

L’expérience menée par ce journaliste de Clubic, aussi inconfortable soit-elle, a le mérite de la transparence. Elle révèle une réalité que beaucoup préfèrent ignorer : les IA sans garde-fous ne sont pas une menace théorique future, elles sont disponibles aujourd’hui, accessibles à tous, et fonctionnelles.

Le malaise ressenti par le testeur est peut-être le signal le plus important de cette histoire. Il indique que nous franchissons collectivement un seuil, que nous entrons dans un territoire où nos intuitions morales et nos cadres légaux existants sont mis à l’épreuve. La facilité technique ne s’accompagne pas d’une facilité éthique — au contraire.

La question n’est plus de savoir si ces technologies existeront, mais comment nous allons vivre avec. Entre interdiction illusoire et laisser-faire dangereux, entre sur-régulation étouffante et anarchie numérique, un chemin étroit doit être tracé. Un chemin qui respecte à la fois la liberté d’innovation, la sécurité collective, et la diversité des valeurs dans nos sociétés pluralistes.

Ce test des limites nous rappelle surtout que les vraies limites ne sont pas techniques — elles sont humaines. La technologie peut tout faire ; reste à savoir ce que nous voulons qu’elle fasse. Et cette question, aucune IA, censurée ou non, ne peut y répondre à notre place.