Face à la grogne, Meta va finalement « euthanasier » ses milliers de profils générés par IA

Elle s'appelle Aitana Lopez, elle est mannequin, voyage beaucoup et poste sur son compte InstagramInstagram des photos d'elle au travers le monde. Quelque 350 000 personnes suivent Aitana. Mais, dans ce nom d'Aitana, il y a un indice : Ai, comme intelligence artificielle... Car Aitana Lopez n'existe pas. Elle est le fruit d'une IA, tout comme ses photos. Il en est de même pour Kimochii, une influenceuse également en vogue sur Instagram. Ces deux personnages fictifs permettent à leurs créateurs de générer plusieurs milliers de vrais dollars par mois avec leurs photos et publications qui n'existent pas en réalité.

Ce type de compte généré par IA inonde Instagram et FacebookFacebook et, jusqu'à la semaine dernière, c'était parfaitement assumé par Meta. « Était », car, à partir du moment où les utilisateurs des réseaux de Meta ont pu constater que ces centaines de milliers de personnages virtuels existaient effectivement et que Meta comptait amplifier le mouvementmouvement pour augmenter les interactions, les critiques ont fusé.

Ces comptes générés par IA font effectivement partie des produits proposés par Meta. Il est donc possible de créer un profil de ce type pour publier des publicités et des contenus générés par IA. Ce genre d'outil sert surtout à créer des chatbots, mais comme ils sont associés à un profil d'utilisateur, c'est bien souvent l'équivalent d'un véritable compte.

Les contenus créés par IA doivent être clairement indiqués, sur toutes ses plateformes, mais les risques de désinformation, de tromperies restent tout de même importants. Ils engendrent parfois de véritables drames. Mais il y a pire encore, de son côté depuis 2023, Meta gérait également sa propre horde de profils générés par IA.

Liv, une maman noire et homosexuelle, était très active et populaire sur Instagram. Elle n’existait pas et n’existe désormais plus. C’était un bot géré par IA et créé par Meta, tout comme Brian, le grand-père idéal, ou encore Carter, la spécialiste du coaching relationnel… © Capture Instagram

L’euthanasie des bots

Ce développement des profils IA en était arrivé à inquiéter l'un des dirigeants de la firme. Dès juillet, il imaginait que ces bots allaient finir par devenir l'avenir de Meta. Il faut dire qu'il y a un peu plus d'une semaine, Futura relatait cette intention clairement exprimée par Connor Hayes, le vice-président produit de Meta pour l'IA générative. Lors d'une interview au Financial Times. Il avait déclaré que ces comptes générés par l'IA « auraient des bios et des photos de profil, et seraient capables de générer et de partager du contenu alimenté par l'IA ». De quoi créer un universunivers rempli de bots alimentant pour d'autres bots des contenus générés automatiquement, autrement dit.

Confronté aux critiques, à l'inquiétude des utilisateurs et à leur migration vers Bluesky et Reddit en raison de l'invasion de bots, Meta a subitement décidé de supprimer ces profils gérés par l'IA. Une sorte d'euthanasieeuthanasie massive de ces faux profils dérangeants, autrement dit.

Mais Meta affirme avoir été mal compris sur ses intentions avec ces profils IA. Il s'agissait à l'origine d'un test lancé dès 2023 et ces profils étaient de toute façon gérés par des humains selon Meta. Quoi qu'il en soit, expérimentation ou pas, cette histoire de profils IA, ressemblant de près ou de loin aux fameuses fermes à trolls de Saint-Pétersbourg, restait suffisamment inquiétante pour que Meta ne puisse poursuivre l'aventure. Pour ce qui est des comptes comme Aitana Lopez gérés par des particuliers ou des entreprises, ils devraient continuer à peupler les plateformes de Meta, et poursuivre leurs interactions avec des individus du monde réel.