Et si vous pouviez continuer de discuter avec vos proches disparus grâce à l'IA ? Si ce sujet a été traité à plusieurs reprises, avec plus ou moins de réalisme, par différents auteurs, aujourd’hui, il quitte le domaine de la fiction pour entrer dans nos vies ! Ceux qu’on appelle les ghostbots, les bots fantômes, commencent à hanter nos appareils, et avant d’appeler un exorciste ou de les inviter chez nous, il importe de prendre un peu de recul sur le sujet pour considérer ses ramifications.
au sommaire
Ramener les défunts à la vie est une préoccupation qui habite l'humanité depuis les débuts de son existence. Día de los muertos, Samhain, Famadihana, Qingming, spiritisme : à travers le monde, nombreux sont les rituels et les croyances destinés à préserver le lien qui nous unis à ceux qui nous ont quittés. Mais avec les récents perfectionnements de l'intelligence artificielle, la communication avec l'au-delà semble prendre une toute nouvelle dimension. Si l'idée n'est pas toute jeune, ce n'est que très récemment que les premières tentatives de « réanimation » des morts ont été mises en œuvre.
Pas le temps de lire ? Découvrez cette news au format audio dans notre podcast Vitamine Tech. © Futura
Des premiers ghostbots à l'émergence de la grief tech
On pense par exemple à cet androïde, double de Philip K. Dick, créé par Hanson Robotics. Nourri de milliers de pages de fiction, de journaux intimes et de correspondances, le robot, doté d'un visage capable d'un panel d'expressions, se veut une extension digitale de l'esprit de l'auteur, et répond aux questions avec autant d'humour que de profondeur. Autre exemple : en 2017, un journaliste et développeur, John Vlahos, a appris que son père, atteint d'un cancercancer, n'avait plus que quelques mois à vivre. Armé d'un dictaphone, il a mené de longs entretiens avec lui afin de créer une sorte capsule sonore et de développer un chatbot, DadBot, qui lui permettrait de continuer de converser avec lui. Mais c'est plutôt vers la Chine qu'il faut se tourner pour témoigner de l'explosion du marché des ghostbots.
John Vlahos a développé un chatbot grâce aux conversations entretenues avec son père avant son décès. © Wired, YouTube
En 2019, Sun Kai, un homme qui avait récemment perdu sa mère, s'est tourné vers la firme Silicon Intelligence pour lui demander de créer un double numérique de la défunte. À partir de photos, de vidéos et d'enregistrements, l'entreprise est parvenue à fabriquer une copie digitale suffisamment convaincante de la femme disparue, avec qui Sun Kai discute désormais depuis des années sur sa tablette. La demande grandissante ainsi que l'explosion récente des deepfakesdeepfakes et des grands modèles de langage, qui permettent aux IA de discuter de manière toujours plus naturelle et intuitive, ont incité plusieurs compagnies chinoises à se lancer dans la grief tech, le secteur des technologies consacrées au deuil. Et petit à petit, ces technologies sont devenues de plus en plus accessibles pour le grand public.
Aujourd'hui, elles commencent à émerger dans d'autres pays, et à mesure que leur usage se démocratise se posent des questions toujours plus pressantes quant aux implications éthiques d'une telle avancée. L'intelligence artificielle ainsi créée peut-elle être considérée comme dotée de conscience ? Et si oui, est-il juste de la confiner à un smartphone ou une tablette ? Pour les chercheurs, à l'heure actuelle, il ne semble pas y avoir d'ambiguïté sur ce sujet. Ces recréations digitales sont de simples deepfakes, des catalogues d'anecdotes, d'images et de sons dont les capacités sont au final relativement limitées et confinées. Mais vient alors la question suivante : les utilisateurs de ces technologies sont-ils vraiment capables de faire la différence entre le réel et le digital ? Et si non, quelles sont les ramifications philosophiques et psychologiques de cette abolition symbolique de la mort ?
Quel impact psychologique ?
Pour Nigel Mulligan, psychothérapeutepsychothérapeute et enseignant à l'université de Dublin, les ghostbots n'ont malheureusement pas que des avantages. Dans une tribune publiée dans la revue The Conversation, il affirme que ces derniers pourraient faire plus de mal que de bien, en renforçant un sentiment de confusion, en générant du stressstress, de la dépression, voire de la paranoïa ou de la psychosepsychose. À défaut de servir de solution à la personne endeuillée, le bot pourrait tout au mieux jouer le rôle de béquille temporaire, et, bien plus souvent, perturber le processus de deuil. Il souligne également le risque que le chatbot transmette de fausses informationsfausses informations à la personne endeuillée, se comporte de manière inappropriée ou révèle des informations intimes, glanées au fil des conversations qui ont servi à construire le ghostbot, mais qui n'étaient pas vouées à être révélées à certains membres de son entourage.
Une mère sud-coréenne « reconnecte » avec sa petite fille décédée via la réalité augmentée. © Global News, YouTube
Charlotte Jee, journaliste pour le site MIT Technology Review a voulu mieux comprendre le phénomène de ces robots fantômes et a commandé une copie digitale de ses deux parents, toujours en vie. Alors qu'elle discutait un jour avec son père virtuel, celui-ci lui a demandé comment elle allait. La journaliste lui a répondu qu'elle se sentait triste ce jour-là, ce à quoi son père lui a répondu un « Tant mieux ! » enthousiaste. Si Charlotte Jee ne se trouvait pas dans l'état de détresse accompagnant le deuil au moment de leur conversation, les utilisateurs-cibles de ce type de technologie en ont, en toute logique, le plus besoin alors qu'ils sont également les plus vulnérables. Dans ce contexte, il conviendrait donc de redoubler de vigilance, d'attention et de précision au moment de concevoir le double numérique. Mais à ce jour, aucun chatbot n'est infaillible, et, s'il devient nécessaire d'en produire en grande quantité et rapidement pour satisfaire une demande en hausse, il y a fort à parier qu'aucune firme n'aura d'intérêt financier à consacrer trop de temps à chacune des itérations qu'elle produit.
Quid du droit des défunts ?
Autre inquiétude, soulevée également par Jee : le risque que ces technologies soient exploitées pour créer des doubles virtuels de personnes vivantes ou défuntes sans leur consentement. Pensez par exemple à un ou une ex-petite amie qui se servirait des innombrables photos, vocaux et vidéos que vous avez compilés pour fabriquer une copie numérique de votre personne, plus docile et adaptée à ses attentes. Dans un article publié dans la revue Springer, les chercheurs Tomasz Hollanek et Katarzyna Nowaczyk-Basińska mettent en avant plusieurs recommandations à l'adresse des entreprises de la grief tech afin de protéger la dignité et le droit à l'image des défunts d'une part, mais également les personnes qui pourraient être manipulées à l'aide de ces technologies.
Toutefois, ils ne se leurrent pas. Aujourd'hui, les meilleurs garde-fousgarde-fous sont issus des réglementations auxquelles sont soumises ces entreprises. Si ces réglementations, et notamment la réglementation de l'Union européenne, peuvent constituer des protections redoutables contre les abus, leur mise en place est toutefois très longue et demande de nouveaux moyens de supervision afin de s'assurer que tous les acteurs s'y tiennent. En attendant que de nouvelles règles soient élaborées et mises en vigueur, il faudra donc s'attendre à ce que l'utilisation abusive de ces bots fasse couler de l'encre.
Pour conclure, il est essentiel de rappeler ce qui peut sembler évident. La mort et le deuil font partie de notre existence depuis toujours. Comme on l'a dit, de nombreux rituels ont été créés au fil des millénaires afin de maintenir un lien avec nos défunts. Mais il est important, lorsque nous les pratiquons, de penser à garder les deux pieds dans le monde des vivants. Bots, ou non, un deuil sain doit trouver son aboutissement dans l'acceptation du départ de nos proches. Certains deuils sont plus difficiles à faire que d'autres, mais dans tous les cas, ils doivent se caractériser par une progression vers l'avant et non une stagnation. Si vous traversez actuellement une période de deuil, veillez à vous entourer de soutien, qu'il provienne de vos proches, de lignes d'écoute, de groupes de parole ou de professionnels de la santé. Où que vous vous trouviez, il existe sûrement un humain capable et disposé à vous écouter.
