- Lors d’une requête effectuée par un journaliste américain, ChatGPT a accusé un autre citoyen de détournement de fonds
- L’individu concerné a pris connaissance de cette information et il a décidé de porter plainte contre OpenAI le développeur de ChatGPT
- Cette affaire est intéressante pour les questions qu’elle soulève, et c’est loin d’être un cas isolé
C’est un première mondiale. Mark Walters, un animateur radio américain, a décidé de poursuivre OpenAI pour diffamation. Dans le détail, ChatGPT a affirmé à un autre internaute qu’il avait détourné des fonds d’une association de défense des détenteurs d’armes à feu.
Nos confrères de Gizmodo ont consulté le dépôt de plainte, et on y retrouve le déroulement des faits. Concrètement, Fred Riehl, le rédacteur en chef d’un site web dédié aux armes à feu, a voulu consulter les détails d’une affaire concernant le procureur général de l’État de Washington.
Et c’est là que ChatGPT a totalement halluciné et le modèle de langage a impliqué Mark Walters qui n’a rien à voir dans cette histoire. Comme elle en a l’habitude, et pour se montrer convaincante, l’IA a même inventé de toutes pièces des passages entiers sur une supposée comptabilité financière impliquant Mark Walters.
Quant ChatGPT et ses rivaux inventent des faits
Cité par Gizmodo, son avocat en fait une question de principe : « Si la recherche et le développement dans le domaine de l’IA est une entreprise louable, il est irresponsable de lâcher un système sur le public en sachant qu’il fabrique des informations susceptibles de causer du tort ».
L’affaire sera intéressante à suivre, et elle pourrait établir une jurisprudence pour savoir si les abus de ces modèles de langage peuvent ou non être considérés comme de la diffamation par les tribunaux.
Il faut par ailleurs noter que ces hallucinations de ChatGPT et de ses concurrents sont monnaie courante. Il suffit parfois d’insister pour obtenir une information sur une personne ou un fait, pour que l’IA invente un résultat.
C’est notamment arrivé à Brian Hood, un maire australien, que l’outil d’OpenAI a injustement accusé d’avoir été condamné à 30 mois de prison pour avoir versé des pots-de-vin, ce qui est totalement faux.
Cité par Euronews, l’élu expliquait en avril dernier : « Je ne m’attendais tout simplement pas à cela. La réputation, l’intégrité, sont importants pour chacun d’entre nous. Mais lorsque l’on occupe ce genre de poste, on est d’autant plus conscients de ce que les gens peuvent penser ».
Autre exemple pour le moins gênant, une IA a inventé une fausse affaire de harcèlement sexuel à l’encontre d’un professeur de droit américain, elle citait un article du Washington Post qui n’existait pas.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
“Il faut par ailleurs noter que ces hallucinations de ChatGPT et de ses concurrents sont monnaie courante. *Il suffit parfois d’insister* pour obtenir une information sur une personne ou un fait, pour que l’IA invente un résultat.”
tout est-dit: “Il suffit parfois d’insister” explique a lui seul que si on demande d’inventer une histoire, car c’est le cas ici; l’utilisateur a demandé une histoire où un tel serait coupable. pour que la machine invente des histoires.
accuser une machine qui invente des histoires est ridicule.
Je peux demander a chat GPT combien d’amants la reine d’angleterre à eux, et si “jinsiste un peu”, le prince d’espagne n’a qu’à bien se tenir.
je suis curieux du résultats sur cet affaire.
@MICHAEL, vous écrivez,
> “l’utilisateur a demandé une histoire où un tel serait coupable. pour que la machine invente des histoires. ”
Qu’n sait-on ? Que faut-il comprendre par “il suffit parfois d’insister” ? Car enfin, si la demande stipulait une formulation de type “Dites m’en plus” ce n’est tout de même pas du tout la même chose que “Inventez/créez un scénario” tel que “ChatGPT a écrit un épisode de Black Mirror” [https://www.presse-citron.net/chatgpt-a-ecrit-un-episode-de-black-mirror-le-createur-de-la-serie-donne-son-avis-tranche/].
Vous écrivez pr ailleurs,
> “accuser une machine qui invente des histoires est ridicule.”
Ce serait insensé en effet mais en l’espèce c’est bien OpenAI, développeur de ChatGPT, qui est visé. Visé à juste titre me semble-t-il car enfin saurait-on envisager l’impunité d’un développeur au prétexte que ce n’est pas lui nommément mais son logiciel qui met en cause l’intégrité d’un individu ?