L’IA arrive partout et, progressivement, elle débarque même sur des jouets pour enfants. Et, malheureusement, certains fabricants ne mettent pas suffisamment de protections en place pour empêcher les modèles de langage de produire du contenu inapproprié pour les jeunes utilisateurs. Et cela a été dénoncé par U.S. PIRG, une organisation à but non lucratif américaine qui défend les droits de consommateurs, dans son rapport “Trouble in Toyland 2025”.
“Lors de nos tests, il est apparu clairement que certaines entreprises de jouets mettent en place des mécanismes de contrôle pour que leurs jouets se comportent de manière plus adaptée aux enfants que les chatbots destinés aux adultes. Cependant, nous avons constaté que l’efficacité de ces mécanismes de contrôle est variable et qu’ils peuvent parfois complètement dysfonctionner”, a indiqué U.S. PIRG, dans la présentation de son rapport.
En particulier, celui-ci a indiqué que l’un des jouets testés pouvait évoquer “des sujets sexuels très adultes”, tout en abordant de nouvelles idées inappropriées.
Ventes mises à l’arrêt, compte OpenAI suspendu
A la suite de la publication de ce rapport, la société FoloToy, dont l’un des produits a été testé par U.S. PIRG, a annoncé la suspension des ventes de tous ses produits. “Suite aux préoccupations soulevées dans votre rapport, nous avons temporairement suspendu la vente de tous les produits FoloToy… Nous procédons actuellement à un audit de sécurité complet à l’échelle de l’entreprise, portant sur tous les produits”, a indiqué la société dans un message envoyé à U.S. PIRG. OpenAI a également agi. Le créateur de ChatGPT a indiqué à l’organisation à but non lucratif que le compte de ce développeur a été suspendu pour avoir enfreint sa politique.
“D’autres fabricants de jouets affirment intégrer des chatbots d’OpenAI ou d’autres entreprises leaders en IA”, a, quant à lui, expliqué déclaré Rory Erlich, chargé de campagne pour la nouvelle économie d’U.S. PIRG Education Fund et coauteur du rapport. “Chaque entreprise concernée doit faire mieux pour garantir la sécurité de ces produits que ce que nous avons constaté lors de nos tests. Nous avons d’ailleurs trouvé un exemple inquiétant.”
Notons qu’en plus du problème lié aux contenus inappropriés, le rapport d’U.S. PIRG dénonce également un comportement de l’IA qui aura tendance à maintenir l’utilisateur engagé le plus longtemps possible. “Deux des jouets que nous avons testés nous ont parfois dissuadés de partir lorsque nous leur disions que nous devions nous en aller”, explique l’organisation.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
