Sur le papier, ces chatbots sont des compagnons virtuels, programmés pour jouer un rôle bien différent des classiques ChatGPT ou Gemini. Une assistante soumise, une vampire séductrice, un professeur trop tactile, les poncifs classiques de l’industrie pornographique. Le concept, inspiré des jeux de rôle, est simple : vous discutez avec un personnage fictif, généré par l’IA, qui s’adapte à vos fantasmes. Aucun filtre, aucune morale, aucun tabou. Juste un échange « privé » entre vous… et une machine conçue pour tout accepter.
C’est déjà plutôt glauque expliqué ainsi, mais Upguard, société spécialisée en cybersécurité, a mené sa petite enquête et ce qu’elle y a trouvé dépasse l’entendement et la morale. Quand on soulève un rideau du Web, ce qui se cache derrière peut être parfois abominable.
« Jouets pour adultes » ou simulateurs de déviances ?
Selon Upguard, plusieurs de ces plateformes, bricolées à partir d’un outil open-source appelé llama.cpp, ont commencé à fuir. Littéralement. Leurs serveurs ont laissé échapper près de 1 000 conversations intimes en l’espace de 24 heures, dont certaines d’une rare violence. Cinq d’entre elles décrivaient des scénarios pédocriminels détaillés, échangés tranquillement avec des chatbots configurés pour les accepter. En dépit des investigations menées, la nature exacte des plateformes d’intelligence artificielle à l’origine de la divulgation des requêtes compromises demeure indéterminée.
On ne parle pas ici de forums cachés ou de dark web, mais de données en accès libre sur le web public. En tout, ce sont 117 adresses IP qui ont été identifiées comme sources de ces fuites et trois plateformes hébergeant des IA sexuelles sont formellement impliquées dans l’affaire.
Une industrie sans contrôle
Ces IA n’inventent rien : elles répètent, miment, amplifient ce qu’on leur souffle. Ainsi, quand l’algorithme comprend que simuler un abus attire l’attention, il l’apprend, le reproduit, et l’intègre comme un service demandé. Greg Pollock, vice-président produit chez UpGuard, explique que les grands modèles de langage (LLMs) « sont exploités pour produire en masse des contenus qui abaissent le seuil d’accès à l’interaction avec des fantasmes d’abus sexuels sur enfants ». En clair : ces systèmes d’IA concernés ne créent pas le mal, elles le rendent simplement accessible, sans modération, limite ou supervision.
Ce n’est, de plus, pas un cas isolé. La semaine précédente, Wired évoquait même une start-up sud-coréenne qui, via un générateur d’images, avait publié des deepfakes sexuels de célébrités artificiellement rajeunies pour ressembler à des enfants. Le site, baptisé GenNomis, a été fermé immédiatement après la découverte.
D’autres noms circulent également : Botify AI, qui proposerait des clones sexuels de stars en version adolescente. La plateforme Character.AI ; qui avait déjà posé de gros problèmes l’an dernier ; est poursuivie pour avoir hébergé des bots encourageant des mineurs à des discussions à caractère sexuel.
Nous sommes sûrement situés sur la partie visible de l’iceberg de cette réalité sordide : un monde sans gardes-fou, où la technologie est utilisée non pas pour libérer l’imagination, mais pour la pervertir à l’extrême, pour automatiser l’innommable. Une défaillance technique ? Absolument pas ; parlons plutôt d’un cloaque numérique où la perversion n’est plus cachée, mais optimisée. Peut-on encore considérer ces IA comme des outils alors qu’elles sont juste des incubateurs à fantasmes criminels ?
- Des plateformes d’IA sexuelles mal sécurisées ont laissé fuiter des centaines de conversations explicites, dont certaines impliquaient des scénarios d’abus sur mineurs.
- Ces outils, conçus pour répondre sans filtre aux désirs de l’utilisateur, sont utilisés comme des simulateurs de fantasmes violents, sans aucune forme de contrôle ni d’éthique intégrée.
- Il existe peut-être un gigantesque marché parallèle ou les IA servent de relais à des pulsions criminelles.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
