Pour lutter contre les deepfakes et la désinformation, Microsoft a dévoilé deux nouveaux outils. Le premier est une IA capable de détecter les vidéos trafiquées et affiche un indice de confiance image par image. Le second est un outil pour certifier les contenus.
au sommaire
La désinformation est devenue un véritable fléau ces dernières années, notamment grâce aux réseaux sociauxréseaux sociaux, mais aussi l'intelligence artificielle (IA). Dans le cadre de son programme de défense de la démocratie (Democracy Defending Program), MicrosoftMicrosoft s'engage dans la lutte contre la désinformation. La firme a ainsi développé un nouvel outil capable de détecter les deepfakes, ces fausses vidéos et images créées par l'IA.
Microsoft Video Authenticator analyse les photos et vidéos et affiche si elles sont authentiques ou trafiquées, ainsi qu'un indice de confiance. Sur une vidéo, l'évaluation est effectuée image par image et permet donc de repérer précisément les passages modifiés. Pour créer cet outil, Microsoft a entraîné son IA sur la base de données FaceForensics++ qui contient plus d'un million et demi d'images deepfake créées avec différentes méthodes, tirées de 1.000 vidéos. L'outil a ensuite été validé sur la banque d'images DeepFake Detection Challenge Dataset créée par FacebookFacebook.
Un nouvel outil pour certifier les contenus
Microsoft note toutefois que son outil n'est pas infaillible, et une validation ne garantit pas que la vidéo n'est pas trafiquée. De plus, les intelligences artificielles s'améliorent sans cesse, rendant les deepfakes de plus en plus difficiles à détecter. La firme propose donc un second outil en deux parties. La première partie, intégrée à Microsoft Azure, permet d'ajouter une certification à un contenu sous la forme de métadonnées. Le second composant est une visionneuse ou une extension de navigateurnavigateur qui vérifie le certificatcertificat et permet à l'internaute de savoir si le contenu est authentique, ou s'il a été modifié.
Microsoft a aussi détaillé d'autres initiatives pour éduquer le public sur le sujet de la désinformation. La firme cite notamment Spot the Deepfake Quiz, un questionnaire pour sensibiliser aux médias trafiqués. Microsoft a également annoncé sa participation à une campagne d'informations pour encourager le public américain à faire une pause et à réfléchir à la source d'information avant de les partager sur les réseaux sociaux.
