Truepic est un nom que vous ne connaissez pas encore, mais ça va être important

TL;DR

• Une société appelée Truepic s'est associée à Qualcomm pour apporter un filigrane au niveau du système pour les images IA sur les appareils Snapdragon.
• Cela permettra aux utilisateurs de voir facilement si une image a été entièrement générée par l’IA ou même augmentée avec des outils d’IA.
• Cependant, la technologie Truepic devra être adoptée à grande échelle pour être réellement efficace.

De nos jours, générer une image grâce à l’intelligence artificielle est trivial. Il existe de nombreux systèmes gratuits disponibles pour cela, y compris ceux intégrés directement aux téléphones Android, comme via Gemini de Google ou le générateur de fond d'écran AI de Samsung. De plus, les outils d'IA générative deviennent un moyen populaire d'éditer des photos, le Magic Editor de Google étant un leader clé dans ce domaine.

Le problème, cependant, est qu’il est désormais difficile pour quelqu’un de dire si une image est réelle, entièrement générée par l’IA ou simplement manipulée à l’aide d’outils d’IA. Cela ouvre la porte à des vagues de désinformation qui pourraient dévaster la société.

Une société appelée Truepic tente de maîtriser ce problème depuis quelques années maintenant. Elle propose un logiciel qui ajoute des métadonnées cryptographiques aux images, identifiant et traçant les manipulations de l'IA. Il s'agit essentiellement d'un système de tatouage numérique qui « étiquette » de manière sécurisée une image comme générée ou manipulée par l'IA, puis permet à quiconque de vérifier ces étiquettes. Ainsi, vous avez un moyen simple de vérifier une image et de dire : « Ah, ce n'est pas réel », ce qui vous empêche de croire qu'une fausse image est une représentation fidèle de la réalité. J'ai déjà beaucoup parlé de l'importance d'un tel système.

Lors d'un récent événement Qualcomm axé sur les progrès de l'IA, j'ai pu voir le système de Truepic en action. Adam Kerin – vice-président du marketing chez Truepic et ancien employé de Qualcomm – a démontré qu'il prenait une photo puis vérifiait son étiquette avec Truepic. Il a ensuite ajouté une augmentation IA à une photo et l'a revérifiée. Vous pouviez voir à la fois les informations de l’image originale et les informations liées à la manipulation de l’IA, vous permettant de savoir non seulement que l’IA avait joué avec l’image, mais aussi exactement ce qu’elle avait fait. Kerin a déclaré que cela pourrait durer indéfiniment, vous donnant essentiellement un journal des modifications sécurisé d'une photo.

Honnêtement, c'était vraiment cool à voir et m'a fait sentir, pour la première fois, que la manipulation des images par l'IA pourrait ne pas entraîner la chute de l'humanité (je plaisante un peu). Malheureusement, aussi géniale soit cette démo, elle est accompagnée d'un astérisque géant.

Truepic a un chemin difficile à parcourir

L’obstacle auquel Truepic est confronté est la large disponibilité. Pour qu'une image reçoive une balise sécurisée, l'appareil et/ou l'application qui crée/manipule/capture cette image doit prendre en charge Truepic. De plus, le système vérifiant cette balise aussi doit prendre en charge Truepic.

Heureusement, Truepic et Qualcomm ont travaillé ensemble pour surmonter cet obstacle. Dans le Snapdragon 8 Gen 3, le logiciel de Truepic fonctionne dans l'environnement d'exécution de confiance de la puce. Cela permettrait à une image créée/manipulée sur un téléphone Snapdragon 8 Gen 3 d'être étiquetée par la puce et à un autre téléphone équipé de cette puce de lire ensuite cette étiquette.

Il s’agit d’une étape importante, étant donné que Qualcomm détient une énorme part de marché sur des milliards de téléphones Android. Cependant, il existe encore des limites importantes. Par exemple, si vous capturez une photo avec un téléphone Snapdragon, puis téléchargez cette photo sur Instagram (qui ne prend actuellement pas en charge Truepic), vous n'aurez aucun moyen de vérifier l'intégrité de cette photo sur Instagram. En d’autres termes, presque toutes les grandes plates-formes devraient prendre en charge Truepic pour que cela fonctionne, ce qui est un défi de taille.

Le point positif ici, cependant, est que Truepic est basé sur un protocole open source. Cela signifie que si les créateurs de matériel et de logiciels ne souhaitent pas travailler avec Truepic, ils peuvent toujours adopter le protocole open source et préserver les métadonnées de Truepic. Il s’agit d’une tâche légèrement moins ardue, mais qui pourrait accélérer l’adoption.

Le partenariat entre Qualcomm et Truepic n'est pas nouveau, mais l'intégration du système Truepic est assez récente dans le Snapdragon 8 Gen 3, n'ayant été déployé que sur des pressages récents. Espérons qu'au fil du temps, Truepic deviendra omniprésent sur toutes les puces de Qualcomm, ce qui devrait avoir un effet en cascade sur les puces concurrentes de sociétés comme Samsung, Google, MediaTek et peut-être même Apple.