Le plan de Google pour lutter contre l'IA est… l'IA

AVIS : Google a dévoilé cette semaine sa 9e génération de smartphones Pixel, avec une gamme 2024 comprenant le Pixel 9Pixel 9 Pro, Pixel 9 Pro XL et Pixel 9 Pro pliable. Au cours d'une année au cours de laquelle les entreprises s'affrontent avec l'IA la plus intelligente, Gemini a volé la vedette aux fans de Pixel alors que Google a consacré beaucoup de temps à la façon dont l'assistant IA améliorera les expériences sur ses derniers smartphones.

Cependant, il existe un outil d'IA qui est passé inaperçu lors de l'agitation des annonces et c'est ainsi que Google Gemini peut désormais identifier le contenu créé par l'IA.

« Pixel vous aide à vous protéger contre le spam, les escroqueries et autres menaces, et veille également à votre sécurité », a écrit un porte-parole de Google dans les communiqués de presse des Pixel 9 et Pixel 9 Pro Fold.

« Il peut désormais vous aider à vérifier l'arrière-plan et le contexte d'une image que vous rencontrez en ligne, en affichant des informations, lorsqu'elles sont disponibles, qui peuvent indiquer si elle a été créée avec l'IA. Encerclez simplement l'image sur votre écran pour la rechercher et affichez la fonction « À propos de cette image » ».

Cette nouvelle capacité semble être une extension de la fonction Circle To Search de Google, une fonctionnalité qui encourage les utilisateurs à encercler le contenu à l'écran pour en savoir plus. Les utilisateurs peuvent encercler les produits pour les acheter, les points de repère pour obtenir un itinéraire, les plantes pour les identifier et même les acteurs pour se diriger directement vers leurs pages IMDb et savoir d'où ils pourraient les reconnaître.

L'outil a été annoncé pour la première fois aux côtés du Samsung Galaxy S24 en janvier de cette année, mais s'est depuis étendu pour inclure davantage de téléphones, y compris la gamme Pixel de Google.

Désormais, dans le cadre d’un test de Turing inversé, les utilisateurs peuvent encercler les images pour savoir si elles ont été créées ou non à l’aide de l’IA.

Ce concept présente dès le départ quelques défauts. Premièrement, presque toutes les photos traitées sur les smartphones modernes sont soumises à une forme d’IA. Les téléphones Pixel, par exemple, sont dotés d'outils d'édition d'IA allant de Magic Eraser et Best Take à la toute nouvelle fonctionnalité Add Me qui fusionne deux photos pour garantir que personne n'est exclu d'une photo de groupe.

Pixel 9, ajoutez-moi
Ajoutez-moi sur le Pixel 9

Ely Greenfield, CTO d'Adobe Digital Media Business, a souligné quelque chose de similaire concernant l'iPhone lorsque je l'ai interviewé sur l'art de l'IA et le signalement du contenu plus tôt cette année.

« Si nous voulions signaler toute image dans laquelle l'IA a été utilisée dans la création de l'image et y mettre une grande étiquette d'avertissement, chaque photo provenant d'un iPhone serait signalée car l'IA est utilisée dans le rendu, dans la capture de l'image. Ce ne sont pas réellement les valeurs brutes de luminosité que le capteur voit. Apple a en fait une IA, à merveille. Il détecte les visages et les éclaircit, car c'est ce que les gens veulent voir sur leurs photos », a-t-il déclaré.

En tant que concept, l’idée de signaler les images générées par l’IA peut sembler une étape évidente pour réduire la propagation des fausses nouvelles catapultées par les images et vidéos deepfake. Cependant, l'identification du contenu de l'IA et les intentions derrière les cas de manipulation d'images ne seront probablement pas aussi simples, en particulier pour un autre robot comme Gemini.