L'IA d'Adobe détecte les images truquées

L'intelligence artificielle modifie en profondeur notre rapport à l'image, notamment avec l'apparition des deepfakes qui permet de créer de fausses images difficiles à distinguer de la réalité. Cependant, un logiciel bien particulier s'était déjà fait connaître pour les altérations qu'il permet sur les images, quasi impossibles à détecter lorsqu'elles sont bien réalisées. Le logiciel Photoshop a connu un tel succès qu'il est même passé dans le langage courant, donnant lieu au verbe « photoshoper ».

L'éditeur Adobe a décidé de lutter contre les fausses images, et a donc créé une équipe qui travaille sur la question, avec la collaboration de chercheurs de l'université de Californie à Berkeley. Leur recherche porteporte notamment sur l'utilisation de l'intelligence artificielle et les techniques du deep learning pour détecter les signes spécifiques, comme des artéfacts, laissés par le logiciel. Adobe avait déjà fait appel à l’intelligence artificielle pour détecter des modifications opérées par son logiciel, notamment lorsque des images sont raccordées, ou des parties clonées ou remplacées. Cette fois, l'étude porte sur l'outil « Modification des traits du visage ».

Un réseau neuronal qui identifie 99 % des images trafiquées

Le logiciel Photoshop est capable de détecter automatiquement différents traits du visage et de proposer des modifications à l'aide d'un simple curseur, comme la forme du visage, du neznez, l'espacement ou la taille des yeuxyeux, etc. Cet outil est donc à la portée de tous les utilisateurs. Les chercheurs se sont appuyés sur un réseau neuronal convolutif (CNN), entraîné sur des paires d'images, avec l'original et une version traitée avec Photoshop. Le matériel d'entraînement inclut des milliers d'images prises sur Internet puis éditées automatiquement avec l'outil de Photoshop, mais également des images modifiées par un artiste pour plus de diversité.

Les chercheurs ont également présenté des paires d'images à des volontaires humains, qui après une phase d'entraînement ont tenté de détecter les images altérées. Leur taux de réussite a été de seulement 53 %, à peine mieux que le hasard. L'intelligence artificielle créée par l'équipe a réussi à détecter jusqu'à 99 % des images photoshopées.

Les dernières innovations s'inscrivent dans le cadre d’un projet plus général mené par Adobe pour mieux détecter les manipulations d’images, de vidéos, mais aussi de sons et de documents. © UC Berkeley

L’IA parvient même à annuler les modifications

L'outil ne s'arrête pas à la détection des modifications. Grâce aux informations sur l'outil utilisé, et l'entraînement sur les paires de photos, avec l'original et la version modifiée, l'IA est capable d'estimer l'apparence de l'image de départ. L'algorithme calcule les effets de l'outil et recrée l'image originale, avec une précision qui a même étonné les chercheurs, créant ainsi une véritable fonction « annuler », qui peut être utilisée sur n'importe quelle image altérée avec l'outil « Modification des traits du visage » de Photoshop.

Adobe indique souhaiter démocratiser l'analyse forensique d'images. L'un des chercheurs de la firme, Richard Zhang, a indiqué que « l'idée d'un bouton annuler magique et universel pour supprimer les modifications sur les images est encore loin de la réalité. Mais nous vivons dans un monde où il devient de plus en plus difficile de faire confiance aux informations numériquesnumériques que nous consommons, et il me tarde de continuer à explorer ce champ de recherche ».