Deepfake : qu'est-ce que c'est ?

Si vous êtes actif sur certains réseaux sociauxréseaux sociaux, vous avez probablement dû voir certains trucages numériques qui ont fait grand bruit : le pape François vêtu d'une doudoune blanche, celle de l'ancien président américain Donald Trump interpellé à la dure par des forces de police, ou encore une vidéo de Mark ZuckerbergMark Zuckerberg évoquant la situation d'un homme en contrôle de millions de données volées.

Souvent étonnantes par leur véracité apparente, ces images, vidéos et aussi contrefaçons audio sont ce que l'on appelle des deepfakes, un phénomène qui a soulevé une forte inquiétude quant aux possibilités de pouvoir manipuler l'opinion à partir de séquences truquées ou encore d'exploiter l'image de certains artistes au mépris de leurs droits.

L’artiste Eliot Higgins a créé plusieurs deepfakes célèbres de Donald Trump aux prises avec des forces de police. © Eliot Higgins

La signification du terme deepfake

Le terme « deepfake » est dérivé de la combinaison de « deep learning » (apprentissage profondapprentissage profond) et de « fake » (faux). 

Comment est apparue la technologie ?

La technologie des deepfakes s'appuie sur des techniques de deep learning, notamment les réseaux antagonistes génératifs (GAN). Le deep learning est une branche de l'intelligence artificielle, qui se concentre sur la résolution de problèmes complexes, en émulant l'activité du mental humain. Deux innovations ont rendu les deepfakes possibles :

• en juin 2014, le chercheur Yann Lecun qui œuvre chez FacebookFacebook a dévoilé un système de reconnaissance faciale, DeepFace dont les performances sont patentes. Lorsque l'on charge une photographiephotographie dans le réseau social, DeepFace est en mesure de proposer des noms pour les personnes figurant dans le cliché. L'applicationapplication a été entraînée à identifier des clichés d'acteurs tels que Sylvester Stallone ou Calista Flockhart (Ally McBeal). Sa précision a été estimée à 97,25 %. Dès cette époque, une telle technologie a commencé à inquiéter les défenseurs de la vie privée ;
• puis, chez GoogleGoogle Brain, la filiale IAIA de Google, le chercheur Ian Goodfellow a créé les réseaux antagonistes génératifs ou GAN (Generative Adversarial Networks)).

Les GAN fonctionnent de la manière suivante. Deux réseaux sont placés en compétition :

• l'un crée la meilleure réplique possible d'une image ou d'une vidéo réelle ;
• l'autre détecte si la réplique est fausse et, si c'est le cas, signale les différences avec l'original.

Chaque fois que le deuxième algorithme détermine que la réplique est incorrecte, le premier ajuste l'image pour la rendre plus crédible. Cette séquence est répétée jusqu'à ce que le deuxième algorithme ne détecte plus la moindre anomalieanomalie.

En 2016, à l'université Erlangen-Nuremberg, cinq chercheurs présentent « Face2Face », un programme à même d'incruster les expressions du visage d'un individu sur un avatar numérique généré en temps réel. Des exemples fort convaincants sont proposés avec des célébrités telles que Arnold Schwarzenegger, Daniel Craig ou Donald Trump.

Cette même année, Disney sort Rogue One, un préquel de la franchise Star Wars, avec une Carrie Fisher rajeunie numériquement. Mieux encore, le personnage maléfique de Tarkin a été intégralement recréé par ordinateur : l'acteur original, Peter Cushing a disparu en 1994. Une fois de plus, le débat se développe quant à l'éthique d'une telle pratique.

Première apparition

C'est sur le réseau social Reddit, en novembre 2017, qu'apparaissent les premiers deepfakes créés et diffusés par de simples individus. Dans un groupe baptisé r/deepfake, un usager anonyme poste de courtes vidéos sulfureuses mettant en scène, à leur insu, des actrices comme Emma Watson, Scarlett Johansson ou encore les chanteuses Taylor SwiftSwift et Kary Perry.

Dès la fin de l'année 2017, des médias d'envergure tels que le New York Times, le Washington Post ou Wired se font écho du phénomène, exprimant leurs craintes quant à ces trucages très réalistes.

Assez vite, Reddit mais aussi d'autres plateformes, comme DiscordDiscord et TwitterTwitter, vont bannir les deepfakes à caractère scabreux. Toutefois, des sites tels que Mr Deepfake vont prendre le relais.

Certains acteurs vont faire l'objet de deepfakes assez réussis, notamment Tom Cruise sur TikTokTikTok à partir de mars 2021. C'est le spécialiste en effets spéciaux Chris Umé qui a engendré ces vidéos deepfake. Elles ont été tournées avec un comédien du nom de Miles Fisher, dont le visage a été remplacé par l'acteur de Mission Impossible. Fisher a créé un compte TikTok, DeepTomCruise, et les vidéos transformées deviennent rapidement virales. Et de fait, Umé a souhaité sensibiliser le public au risque des deepfakes.

L’artiste Chris Umé explique comment ont été générées les deepfakes de Tom Cruise. © YouTube

Applications grand public

Si le phénomène a progressivement atteint une autre échelle, c'est suite à l'apparition de plusieurs applications qui mettent de tels outils à la portée du grand public : FaceApp, Deepswap, Reface, Wombo, etc. Avec plusieurs d'entre elles, une vidéo de soi-même peut aisément être transformée en son équivalent avec les célébrités de son choix.

Abus et manipulations

Par la force des choses, certains ont vu là la possibilité d'user de tels outils à des fins de propagande et de manipulations. En septembre 2020, peu avant l'élection présidentielle américaine, un groupe de pressionpression, Representus, a diffusé deux campagnes publicitaires deepfake, l'une avec Vladimir Poutine et l'autre avec le dirigeant coréen Kim Jong-un, suggérant que la démocratie américaine serait en train de s'effondrer. 

Et en mars 2022, peu après l'invasion russe, une fausse vidéo a fait apparaître le président ukrainien Zelensky, haranguant ses soldats et les exhortant à déposer les armes, mais avec une voix grave de piètre niveau. Le véritable Zelensky s'est empressé de dénoncer la supercherie.

Utilisations louables

Pourtant, il est possible d'envisager des usages louables des deepfakes. Ainsi, dans le domaine éducatif, certains discours historiques pourraient être restitués en situation par les protagonistes de l'époque, ce qui renforcerait leur impact auprès des élèves. Et en médecine, la possibilité d'entraîner les étudiants sur des simulations ultra-réalistes est une piste qui mérite d'être suivie.