Filmée aux toilettes par son aspirateur, les images finissent sur Facebook

Dans un article publié cette semaine, le MIT Technology Review fait des révélations embarrassantes au sujet de la société iRobot, qui produit les robots aspirateurs Roomba. Le média indique avoir pu accéder à une série d’images, filmées par les aspirateurs de cette marque, et qui ont été partagées en ligne. Les images les plus embarrassantes sont celles d’une jeune femme assise sur les toilettes, qui auraient fini sur Facebook. Sur une partie de ces images, le visage de la femme serait visible.

Flippant ! Néanmoins, avant de paniquer, sachez que l’aspirateur qui a filmé n’était pas un appareil ordinaire. iRobot a confirmé que les images découvertes par le MIT Technology Review ont bien été filmées par ses robots aspirateurs Roomba. Néanmoins, il s’agissait de “robots de développement spéciaux avec des modifications matérielles et logicielles” qui ne sont pas commercialisés. L’entreprise explique que ces robots spéciaux ont été distribués à des collecteurs et des employés qui ont été rémunérés.

Pour vous rassurer (un peu)

Ces personnes ont signé un contrat avec iRobot et ont accepté que les données provenant de ces aspirateurs, incluant les vidéos, soient envoyées à l’entreprise pour entraîner une intelligence artificielle. De plus, les robots utilisés dans ce processus auraient une lumière verte qui s’allume pour indiquer clairement qu’il est en train de filmer. iRobot ajoute que c’est le rôle de ces participants rémunérés de “retirer tout ce qu’ils jugent sensible de tout espace dans lequel le robot opère, y compris les enfants.”

En d’autres termes, iRobot a obtenu les images avec le consentement des personnes concernées, qui ont signé un accord, et qui sont rémunérées. Mais malgré cela, ces images n’auraient pas dû finir sur un réseau social. Cet incident “rare” (selon iRobot) serait survenu à cause de l’un de ses prestataires. En effet, si iRobot a besoin des enregistrements vidéos d’aspirateurs, c’est pour entraîner son intelligence artificielle, de vision par ordinateur, pour reconnaître les objets de la maison et les humains.

Pour entraîner ou améliorer son IA, iRobot a besoin d’images sur lesquelles les objets sont étiquetés. Et au lieu de confier cette tâche d’identifier et d’étiqueter les objets présents sur les images à des employés en interne, l’entreprise utilise des prestataires. Et c’est à cause de ce prestataire que la fuite a eu lieu.

Comment des images aussi privées ont-elles fini sur Facebook ?

En substance, le prestataire en question utilise des travailleurs à travers le monde. Et apparemment, c’est l’un de ces travailleurs qui a partagé les images découvertes par la revue du MIT, dans un groupe Facebook. L’objectif ne semble pas être la divulgation, puisqu’il s’agirait d’une sorte de groupe fermé d’entraide entre personnes travaillant sur des projets similaires.

Cité par le média, un représentant de iRobot assure que l’entreprise prend toutes les précautions pour protéger les données personnelles et que le partage de ces images a été fait “en violation d’un accord de non-divulgation écrit entre iRobot et un fournisseur de services d’annotation d’images”. Son PDG, Colin Angle, a déclaré que “iRobot met fin à sa relation avec le fournisseur de services qui a divulgué les images, enquête activement sur la question et prend des mesures pour aider à prévenir une fuite similaire par tout fournisseur de services à l’avenir”.

Le problème, ici, est que l’annotation des images pouvant contenir des infos sensibles a été confiée à une autre entreprise. Et celle-ci employait des travailleurs difficiles à contrôler. iRobot assure qu’il s’agit d’une situation qui se produit rarement, mais l’article du MIT Technology Review remet en question toute une pratique pour l’entraînement des IA (qui peut être utilisée par d’autres entreprises, et pas seulement dans l’électroménager connecté).

📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.