Le début d’année est difficile pour xAI, la société d’Elon Musk qui propose le réseau social X, ainsi que l’intelligence artificielle Grok. Ce mois de janvier, l’entreprise a dû faire face à une polémique, car l’IA de Grok est accusée d’avoir généré des images à caractère sexuel de personnes, dont des mineurs, sans consentement. De son côté, la Commission européenne a annoncé l’ouverture d’une enquête.
“La nouvelle enquête permettra de déterminer si l’entreprise a correctement évalué et atténué les risques liés au déploiement des fonctionnalités de Grok dans X au sein de l’UE. Cela inclut les risques liés à la diffusion de contenus illégaux dans l’UE, tels que les images sexuellement explicites manipulées, y compris les contenus pouvant constituer du matériel pédopornographique”, a indiqué Bruxelles.
Mais il semblerait que Grok n’était que la face immergée de l’iceberg. Aux États-Unis, une nouvelle enquête révèle en effet que les boutiques d’applications de Google et d’Apple, sur Android et iOS, contenaient des dizaines d’autres applications qui permettaient de créer de type d’images générées par l’IA. Selon CNBC, le rapport publié par l’organisation américaine Tech Transparency Project a identifié 55 applications de “nudification” sur Google Play Store et 47 sur l’App Store d’Apple. Ces applications auraient collectivement été téléchargées plus de 700 millions de fois.
Apple et Google ont déjà agi
“Les conclusions du TTP montrent que Google et Apple n’ont pas su suivre le rythme de la propagation des applications d’IA deepfake qui peuvent « dénuder » des personnes sans leur permission. Les deux entreprises affirment s’engager pour la sécurité et la sûreté des utilisateurs, mais elles hébergent une série d’applications qui peuvent transformer une photo innocente d’une femme en une image abusive et sexualisée”, dénonce l’organisation, dans sa publication.
Néanmoins, après la sortie ce rapport, Apple et Google ont déjà agi. Lundi, un représentant d’Apple a indiqué que l’entreprise a déjà supprimé 28 applications qui étaient identifiées dans le rapport. D’autres développeurs auraient reçu un avertissement, menaçant de bannissement si les infractions aux règles d’Apple ne sont pas résolues. D’autre part, deux applications auraient déjà été rétablies, après résolution du problème.
Google a également indiqué à CNBC qu’il a suspendu des applications signalées dans le rapport.
- Alors que la Commission européenne vient d’annoncer une enquête sur xAI, à cause des images générées par Grok, une enquête révèle l’existence de dizaines d’applications qui permettent aussi de dénuder des personnes sans leur consentement sur l’App Store et Google Play Store
- Depuis, Apple et Google ont indiqué à CNBC qu’ils sont déjà intervenus et que des applications citées dans le rapport ont été suspendues
- D’après le rapport, les applications citées auraient cumulé plus de 700 millions de téléchargements
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
