Suivez-nous

Tech

Ce bot a publié des centaines de commentaires sur Reddit avant d’être repéré

Les spécialistes de l’intelligence artificielle font part leur préoccupation à l’idée que ces outils tombent entre de mauvaises mains.

Il y a

  

le

 
Rachat de Reddit par Tencent
© Reddit

Il y a un mois, le quotidien britannique The Guardian a surpris en publiant un éditorial entièrement rédigé par une IA. L’initiative a été plutôt critiquée pour son manque de transparence mais elle n’en demeure pas moins intéressante. Pour réaliser cette prouesse, les équipes du journal ont fait appel à GPT-3, un outil développé par OpenAI. Ce générateur de langage est capable de rédiger des textes relativement clairs et d’échanger avec des humains dans le cadre de discussions écrites.

Ce bot a justement été utilisé sur Reddit pendant près d’une semaine avant d’être démasqué. Il opérait sous le nom de u / thegentlemetre et interagissait avec des personnes sur le très populaire subreddit / r / AskReddit. Ce qui surprend ici, c’est que la plupart des utilisateurs n’y ont vu que du feu, tant les expressions employées dans les centaines de commentaires postés semblaient humaines.

Une affaire qui incite à la prudence

Si la plupart des commentaires ne portaient pas à conséquences, certains abordaient des sujets sensibles tels que les théories du complot ou encore le suicide. On ne sait donc pas vraiment comment GPT-3 se serait comporté sur le long terme.

L’IA a fini par attirer l’attention de certains utilisateurs qui l’ont démasqué. Ainsi, Philip Winston a remarqué l’écriture de u / thegentlemetre était très proche d’un outil développé précédemment du nom de Philosopher AI. Ce dernier répond aux questions des internautes sur des sujets philosophiques. Son créateur n’a aucune intention de voir son service utilisé de manière automatisée et le bot a donc été bloqué sur Reddit.

Cette affaire pose en tout cas question. Comme le rappelle la MIT Technology Review, OpenAI a par le passé indiqué que son précédent GPT-2 était trop dangereux pour être divulgué au public. En ce qui concerne GPT-3, sa politique est aussi assez stricte et l’entreprise ne donne accès à sa technologie qu’à des personnes triées sur le volet.

Newsletter 🍋 Inscrivez-vous à la newsletter tout juste sortie du four, rien que pour vous

Cliquez pour commenter

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Les bons plans

Partenaire : Samsung

Dernières news

Newsletter 🍋 Inscrivez-vous à la newsletter tout juste sortie du four, rien que pour vous

Les tests