L’intelligence artificielle peut être un outil redoutablement pratique, ou extrêmement effrayant. Alors que l’IA s’immisce de plus en plus dans notre quotidien, certains usages ne sont pas sans nous donner la sensation de vivre dans un épisode de Black Mirror.
Sur X (ex-Twitter), l’IA Grok fait de l’ombre à ChatGPT, Claude et compagnie. Le chatbot de xAI, qui se positionne comme un concurrent direct d’OpenAI, tente de simplifier la vie des utilisateurs du réseau social, et de les amuser. Contrairement à d’autres, il est capable de reproduire les visages de personnalités publiques ou même de personnages protégés par des droits d’auteur. Et c’est déjà un véritable problème.
Aujourd’hui, les utilisateurs de X (ex-Twitter) ne semblent plus être en capacité de penser par eux-mêmes. Effectivement, ceux-ci sollicitent Grok pour un oui ou pour un non, notamment pour vérifier si une information est avérée et éviter, de fait, les fake news.
Mais ces derniers temps, les utilisateurs ont trouvé une nouvelle utilisation à Grok et elle fait froid dans le dos. Des hommes demandent à Grok de déshabiller des femmes, sans leur consentement, et le chatbot s’exécute…
Grok, outil d’humiliation
Si Grok peut passer outre les droits d’auteur, il peut passer outre le consentement. Ainsi, les utilisateurs masculins de X (ex-Twitter) font appel au chatbot et lui demandent de remplacer les vêtements par de la lingerie et un string ou un bikini. Ni une, ni deux, Grok obtempère et répond à la demande.
Parfois, l’image générée est publiée dans le fil des réponses, d’autres fois, Grok envoie simplement un lien pour télécharger la fameuse photo. Dans les deux cas, l’IA se retrouve complice d’un abus affligeant.
Bien sûr, il ne s’agit pas du véritable corps des victimes. L’IA génère un corps aux proportions similaires et garde le visage ainsi que l’arrière-plan de la photo originelle. Légalement, il n’y a rien à redire. Mais cela n’en reste pas moins révoltant et perturbant. Le véritable problème est que les personnes touchées ne peuvent pas les effacer. De plus, leurs photos se retrouvent enregistrées sur des serveurs, ce qu’elles n’ont jamais demandées.
En théorie, il est possible de demander à Grok de déshabiller n’importe qui. Mais, évidemment, les utilisateurs masculins en profitent pour rabaisser les femmes du réseau social.
Pour le moment, xAI semble encore tolérer cette pratique qui prend de l’ampleur. À force de recevoir des plaintes, il y a bon espoir pour que l’intelligence artificielle d’Elon Musk bannisse ce type de requêtes.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
