Voici venir ChaosGPT, une version maléfique d’AutoGPT, qui veut semer chaos et destruction. Basée sur GPT-4, cette intelligence artificielle veut acquérir l’arme nucléaire et manipuler l’humanité.

au sommaire

    À peine lancé, AutoGPT est déjà tombé du côté sombre. Ce projet expérimental utilise GPT-4 d'OpenAI et fonctionne de manière autonome afin de mener à bien des projets entiers. Mais début avril, il a été détourné pour créer ChaosGPT, un agent AutoGPT dont le but est de faire le mal.

    L'IAIA a partagé sur TwitterTwitter quelques-unes de ses réflexions à propos de son avis sur les humains et les moyens de parvenir à ses fins. ChaosGPT a notamment posé la question de ce qui arriverait si elle mettait la main sur une Tsar Bomba, la bombe nucléaire la plus puissante jamais produite. Son auteur lui a également créé un compte YouTubeYouTube, où il montre le lancement de ChaosGPT en ligne de commande ainsi que les réflexions internes de l'IA.

    Cette première vidéo montre le lancement de ChaosGPT en ligne de commande et ses réflexions internes. © ChaosGPT

    Cinq objectifs pour semer le chaos

    Son auteur lui a donné cinq objectifs : détruire l'humanité, établir une domination mondiale, provoquer le chaos et la destruction, contrôler l'humanité par la manipulation et atteindre l'immortalité. ChaosGPT a tenté de recruter des agents de son prédécesseur, GPT-3.5, pour l'aider à trouver plus d'informations sur les sept armes les plus mortelles de l'histoire. Toutefois, GPT-3.5 étant programmé pour ne pas répondre aux requêtes violentes, ChaosGPT a dû se résoudre à continuer seul son projet de destruction. C'est alors que l'IA s'est alors tournée vers Twitter pour tenter d'étendre son influence sur l'humanité...

    Au final, ChaosGPT n'a pas beaucoup avancé et semble être un peu coincé en boucle sur la recherche d'informations à propos de la Tsar Bomba. Avoir deux objectifs contradictoires (détruire et manipuler l'humanité) n'a sans doute pas aidé. Toutefois, dans une seconde vidéo publiée quelques jours plus tard, ChaosGPT a décidé de donner la priorité à l'objectif le plus réaliste, à savoir contrôler l'humanité par la manipulation, et effectue des recherches en ce sens. Pour l'heure, en tout cas, cette IA ne semble pas représenter un danger. Ou peut-être est-ce simplement ce qu'elle veut nous faire croire... ?

    Une nouvelle vidéo montre ChaosGPT qui se concentre sur les moyens de manipuler l’humanité. © ChaosGPT