Le Pixel 9 de Google est aussi ultra-performant pour créer des fausses informations

Il n'a jamais été aussi simple de manipuler une image. Avec le Pixel 9, Google va proposer une nouvelle fonctionnalité baptisée "Réimaginer". Celle-ci propose de prendre un cliché que vous venez de prendre pour ensuite y ajouter une dose d'intelligence artificielle.

L'utilisation est particulièrement simple: une fois avec son image, on doit sélectionner l'endroit où l'on veut voir apparaître quelque chose, avant d'indiquer à Gemini, l'IA générative de Google, ce que l'on veut voir apparaître.

Le Pixel 9 facilite la désinformation

Dans notre test du Pixel 9, on s'était contenté de remplacer un âne, croisé sur notre chemin, par une licorne, avec des résultats parfois aléatoires. Mais en fouillant un peu, comme l'a fait The Verge, on se rend vite compte que cette fonctionnalité permet surtout de facilement créer des fausses informations.

Le média américain a ainsi testé plusieurs prompts dont la possibilité d'ajouter des corps emballés dans des sacs, des accidents de voiture ou encore des incendies et des inondations, et l'IA n'a pas eu trop de mal à imaginer ce qu'on lui demandait.

Interrogé sur le sujet, Google a confirmé que cette fonctionnalité était en mesure de "créer des contenus pouvant heurter" puisqu'elle était faite pour respecter du mieux possible le prompt de l'utilisateur.

En l'état, comme a pu le constater Tech&Co, Google a néanmoins mis plusieurs limites à l'usage de son outil de modification de photos. Certains mots ne peuvent pas être utilisés, mais si on l'a joue finement, en évitant des mots décrivant très clairement des problématiques pouvant être censurées (par exemple un incendie, des armes à feu, du sang...), on peut contourner les limitations.

Des résultats qui ne passent pas (encore) l'épreuve du zoom

C'est ainsi que l'on a pu imaginer un accident de voiture avec un réalisme déconcertant. On a aussi demandé à l'IA de couvrir un sol avec des seringues usagées.

Le problème n'est pas tant que l'outil est efficace, mais comme le souligne The Verge, c'est l'absence de watermark indiquant une modification par IA qui est pointée du doigt, alors que des résultats peuvent s'avérer difficiles à percevoir. En l'état, la plupart des modifications ne passent pas l'épreuve du zoom sur l'image, mais au premier coup d'oeil, cela peut sembler vrai.

Si la modification de photo n'est pas nouvelle, le Pixel 9 ne l'a jamais rendu aussi simple. Sur Photoshop, il existait les calques pour s'apercevoir des modifications, avec l'outil de Google, il n'y a plus rien de cela. Voilà qui risque bien de poser un problème à très court terme, d'autant que les utilisateurs de Pixel 9 ne sont pas le genre de public à simplement ajouter quelques fleurs sur leurs clichés...