Des chercheurs d’une entreprise pharmaceutique ont voulu tester leur intelligence artificielle, entraînée pour découvrir des médicaments non toxiques, en inversant les paramètres. Les résultats cauchemardesques contenaient des neurotoxines plus mortelles que toutes celles connues.

au sommaire

    L'actualité a été dominée par l'intelligence artificielle ces dernières semaines. Loin des prédictions dystopiques comme Skynet dans Terminator, ces IA maîtrisant l'écrit (des chatbots comme ChatGPT et Bard), l'image (Dall-E ou Midjourney) ou encore la vidéo (comme Gen-1) et sont présentées comme bienveillantes. Toutefois, l'IA peut aussi servir à créer des armes.

    L'entreprise Collaborations Pharmaceuticals utilise l'intelligence artificielle pour tenter de trouver de nouveaux médicaments. Quatre de ses chercheurs ont participé à une conférence organisée par le Laboratoire de Spiez, l'institut fédéral suisse chargé de la protection contre les risques nucléaires, biologiques ou chimiques. Ils ont montré comment leur IA, baptisée MegaSyn, pouvait être détournée pour créer des neurotoxines. Ils ont publié leur découverte dans la revue Nature Machine Intelligence.

    40 000 agents neurotoxiques découverts en six heures

    Au lieu de chercher les moléculesmolécules ayant la plus faible toxicitétoxicité possible, ils ont demandé à MegaSyn de chercher la toxicité et la bioactivité les plus élevées. Elle a notamment été entraînée avec des pesticidespesticides, des toxinestoxines environnementales et des médicaments. En moins de six heures, l'IA a généré plus de 40 000 résultats, tous plus toxiques les uns que les autres. Elle a notamment découvert le VX, un des agents innervants les plus dangereux, inventé en 1952 et dix fois plus mortel que le sarin. Elle a également trouvé d'autres armes chimiquesarmes chimiques connues, ainsi que de nombreuses molécules encore inconnues et potentiellement plus toxiques que le VX.

    Les chercheurs ont indiqué n'avoir jamais pensé auparavant à la manière dont leur outil pouvait être détourné, et ont été très surpris par ces résultats. Avec le développement des IA qui semble s'accélérer, la conception d'armes encore inimaginables aujourd'hui pourrait rapidement se trouver à la portée de tous...