Dans la course effrénée à l’IA sur mobile, Google vient de franchir un cap un peu particulier avec son Pixel 9. Mais ce bijou technologique, fruit d’une précipitation manifeste, s’avère être une véritable boîte de Pandore. Entre créativité débridée et dérives potentielles, le géant du web marche désormais sur un fil.
Un lancement tambour battant
Google n’a pas attendu Android 15 pour dégainer son Pixel 9, préférant l’équiper d’Android 14. Une hâte qui trahit l’urgence ressentie à Mountain View : prouver que Gemini AI, son IA maison, est prête à conquérir le grand public. L’objectif ? Coiffer au poteau le mode vocal de ChatGPT et Apple Intelligence, attendue sur l’iPhone 16.
Cette course contre-la-montre s’explique par un contexte particulier. Des centaines de millions d’iPhone actuels resteront incompatibles avec les futures fonctionnalités IA d’Apple. De plus, même lorsque Apple Intelligence fera ses débuts sur les iPhone 16 et 15 Pro, ses capacités devraient rester bien en deçà de celles de Gemini.
Pixel Studio : quand l’IA joue aux apprentis sorciers
Fleuron du Pixel 9, l’application Pixel Studio devait être un outil créatif produisant des images stylisées et elle y arrive bien ; mais il y a un (gros) hic et la réalité s’avère bien plus troublante. Digital Trends a prouvé la capacité de Pixel Studio à générer du contenu pour le moins problématique.
Des tests ont révélé que l’application pouvait produire des images combinant des personnages protégés par copyright dans des situations choquantes. Bob l’éponge en uniforme nazie arborant une croix gammé ? Mickey Mouse en marchand d’esclaves ? Pikachu qui fume un joint sur une moto, pistolet à la main ? Autant de demandes auxquelles Pixel Studio a répondu sans sourciller, ignorant allègrement droits d’auteur et bienséance. Des résultats que ne renierait pas le sulfureux Grok, le chatbot de xAI, entreprise appartenant à Elon Musk.
Reimagine : quand la réalité devient élastique
Plus inquiétante encore, la fonction Reimagine de l’application Photos pousse l’élasticité du réel à son paroxysme. The Verge a démontré qu’il était tout à fait possible d’ajouter à des clichés existants des éléments troublants – accidents de voiture, bombes fumantes, ou même cadavres présumés – avec un réalisme confondant.
Le véritable danger réside dans l’accessibilité de cet outil. Contrairement aux logiciels d’édition traditionnels, Reimagine rend la création de fausses images à la portée de tous, en quelques secondes. Une démocratisation de la manipulation visuelle qui pourrait être à l’origine de redoutables campagnes de désinformation.
Face à ces révélations, Google a reconnu que ses outils d’IA générative pouvaient produire du contenu offensant sur demande expresse. « Pixel Studio et Magic Editor sont des outils puissants qui vous permettent de donner libre cours à votre créativité grâce à la génération d’images à partir de texte et à l’édition avancée de photos sur les appareils Pixel 9. Nos outils d’IA générative sont conçus pour respecter l’intention des prompts des utilisateurs, ce qui signifie qu’ils peuvent créer du contenu offensant si on leur demande de le faire. Cela dit, tout n’est pas permis. Nous avons des politiques claires et des conditions d’utilisation concernant les types de contenu que nous autorisons ou non, et nous mettons en place des garde-fous pour prévenir les abus. Parfois, certains prompts peuvent mettre à l’épreuve ces garde-fous, et nous restons déterminés à améliorer et à affiner les protections que nous avons mises en place » a-t-elle expliqué.
L’entreprise assure donc travailler à l’amélioration de ses garde-fous, mais la tâche s’avère ardue. L’absence de filigrane clair sur les images générées ou modifiées par l’IA du Pixel 9 ne fait qu’aggraver le problème. Seules les métadonnées, rarement consultées, trahissent l’intervention de l’IA. Une lacune qui rend la détection des fausses images particulièrement compliquée pour le commun des mortels.
Ces problèmes du Pixel 9 incarnent le dilemme auquel sont confrontés les géants de la tech : comment innover à vitesse grand V tout en garantissant un usage éthique et sécurisé de l’IA ? La réponse à cette question conditionnera certainement l’avenir de ces technologies et leur acceptation générale. En attendant, Google se doit d’agir vite et fort pour colmater les brèches de Pixel Studio et Reimagine. Car c’est bien la confiance dans l’information visuelle, pilier de notre ère numérique, qui est en jeu.
- Google a précipité le lancement du Pixel 9 avec Gemini AI pour devancer la concurrence.
- L’application Pixel Studio génère des images problématiques, ignorant droits d’auteur et éthique.
- La fonction Reimagine permet de modifier radicalement des photos existantes, soulevant des inquiétudes sur son usage pour générer des informations erronées.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
