au sommaire
Les pupilles générées par algorithme présentent un contour irrégulier ou bosselé. © Hui Guo et al., arXiv, 2021
Les fausses photos et vidéos de personnes créées par intelligence artificielle sont de plus en plus réalistes, et il est parfois bien difficile de distinguer une image truquée. Un indice est pourtant susceptible de vous mettre la puce à l'oreille, selon des chercheurs de l'Université d'Albany et de Buffalo, aux États-Unis : les yeuxyeux. Siwei Lyu et ses collègues ont développé un modèle informatique identifiant l'emplacement des yeux dans un visage, et extrait leurs pupilles pour analyser leur forme.
Ils ont alors constaté que les pupilles générées par les réseaux antagonistes génératifs (GAN), le type d'algorithme utilisé pour générer des faux visages, ne sont pas parfaitement rondes. Et alors que les vrais yeux sont exactement symétriques, ceux créés par l'intelligence artificielleintelligence artificielle présentent une forme légèrement bosselée ou irrégulière. « Les modèles GAN ont beau être très puissants, ils ne comprennent pas la morphologiemorphologie humaine », atteste Siwei Lyu.
Cet indice constitue ainsi un moyen fiable de détecter une deepfake, indiquent les chercheurs dans leur étude pré-publiée sur le serveurserveur arXiv. Il n'est toutefois pas totalement infaillible : certaines maladies ou infections affectent la forme des pupilles, ce qui pourrait amener à classer une image d'un vrai visage en fausse image.Nul doute également que les GAN ne vont pas tarder à résoudre cette faille identifiée par nos chercheurs.
On assiste, en fait, au petit jeu du chat et de la souris entre les algorithmes chargés de fabriquer de fausses images et ceux chargés de les détecter. En juin dernier, FacebookFacebook a ainsi annoncé un nouvel outil d’intelligence artificielle chargé de détecter les images créées par deepkake. Les modèles de deepfakedeepfake les plus courants comportent cependant des défauts relativement visibles, comme une bouche asymétriqueasymétrique, des irisiris de couleurcouleur différentes ou des anomaliesanomalies dans le reflet sur le visage.
