Le New York Times rapportent l’histoire d’une étudiante noire d’une université publique de Floride qui se dit “accusée à tort de malhonnêteté académique par un algorithme” – après un examen à distance au cours duquel une IA (et un panel d’humains) a jugé qu’elle a triché. Avec la pandémie et le développement de l’enseignement à distance, plusieurs startup américaines ont lancé des solutions pour lutter contre la triche aux examens. Un problème très compliqué à adresser à distance.
En effet, dès lors que l’examen a lieu à domicile, il est possible de cacher des notes de cours hors du champ de la webcam, par exemple, ce qu’il est impossible de faire lors d’examens en présentiel. L’une de ces startup s’appelle Honorlock, et c’est elle qui est, en partie, responsable de l’accusation contre l’étudiante. Mais on peut également citer d’autres noms comme ExamSoft, ProctorU et Proctorio. Pour passer un examen avec le système Honorlock, il faut avant tout respecter un ensemble de règles.
Identifier la triche grâce à l’IA… une fausse bonne idée ?
Il faut notamment s’installer dans une pièce, seul, ne pas manger ou boire, utiliser un téléphone, faire en sorte de rester seul pendant tout l’examen, ne pas regarder ailleurs que l’écran, ou lire ses notes. L’étudiante a dû ensuite poser devant la webcam de son ordinateur pour prendre un selfie avec sa carte étudiante. Puis prendre un panorama à 360° de la pièce avec la webcam de l’ordinateur pour prouver à Honorlock et ses professeur que rien dans la pièce n’est susceptible de favoriser la triche.
Tout allait bien jusqu’ici pour l’étudiante, qui a d’ailleurs eu le sentiment sur le moment d’avoir réussi l’examen sans problème. Quelques jours plus tard elle reçoit pourtant un email de sa professeure : “vous avez été signalé par Honorlock. Après visionnage de votre vidéo, nous vous avons observé à de multiples reprises en train de regarder vers le bas et hors de l’écran avant de répondre aux questions”. Le tout avec une vidéo de 50 secondes à l’appui… et un zéro pointé à l’examen.
Et le mail d’ajouter : “Si il apparaît que vous êtes responsable de malhonnêteté académique, la note de zéro sera maintenue”. L’étudiante aurait alors répondu à sa professeure (qu’elle n’a jamais rencontrée physiquement) qu’il “doit s’agir d’une erreur […] je n’étais pas en train de faire preuve de malhonnêteté académique. Regarder vers le bas n’indique pas qu’il y a malhonnêteté académique”. Le New York Times qui a pu consulter l’enregistrement intégral de l’examen explique que le moment litigieux intervient environ 1 minute après le début.
On la voit lire les questions et baisser les yeux à chaque fois, dont une occurence d’une dizaine de secondes – elle ne répond à aucune question pendant ce laps de temps. Or, cette vidéo ne permet pas à elle seule de conclure quoi que ce soit. L’étudiante a d’ailleurs plus tard affirmé à sa professeure qu’elle avait ce comportement lorsqu’elle réfléchissait – mais qu’elle n’était aucunement en train de tricher. La professeure a pourtant décidé de la déclarer “responsable” et a maintenu la note de zéro tout en ajoutant une mention à son dossier académique.
En cause, sans doute, une certaine confiance dans l’outil Honorlock. Quand bien même ce dernier n’a fait que signaler que l’étudiante regardait hors de l’écran. Ce genre de décisions, identifées par une IA, puis validée par des intervenants humains soulèvent de nombreuses questions, très bien résumées par Cooper Quintin de l’Electronic Frontier Foundation, cité par le quotidien : “qui reste les yeux fixé sur un test 100% du temps ? C’est ridicule, les humains ne fonctionnent pas comme ça”, lance ce défenseur des droits.
Lire aussi – Entretien d’embauche : la visio pousse de nombreux candidats à tricher avec cette méthode
Et d’ajouter “les comportements normaux sont punis par ce logiciel”. Ce dernier rapporte que les cas litigieux comme celui-ci se multiplient à mesure que l’IA s’invite dans la surveillance des examens : “les écoles semblent traiter le diagnostic de l’IA comme parole d’évangile. Si l’ordinateur dit que vous trichez, c’est que vous trichez”.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
