Comme si elle sortait tout droit d’un roman de science-fiction, une IA maléfique est apparue plus tôt que ce que les plus pessimistes d’entre nous auraient pu imaginer. Son nom? ChaosGPT. Sa mission? S’emparer d’Internet et de la mémoire pour détruire l’humanité. On vous rassure: malgré ses intentions néfastes, elle n’a guère progressé jusqu’à présent.
C’est un utilisateur anonyme qui se cache derrière ce projet. L’IA malveillante a été construite sur la plateforme Auto-GPT, un programme open-source qui exécute de manière autonome des tâches imposées par l’utilisateur. Il permet d’utiliser et d’intégrer la technologie d’OpenAI derrière ChatGPT, en utilisant par exemple sa gigantesque mémoire de données.
Son créateur a défini les paramètres d’une «IA destructrice, avide de pouvoir et manipulatrice» et a laissé le programme faire le reste. ChaosGPT accède à Internet et crée même des agents auxiliaires. C’est-à-dire qu’il s’autodivise en plusieurs entités dans le but d’alimenter une conversation avec lui-même pour progresser. L’IA a rapidement établi un plan en cinq étapes pour atteindre ses objectifs:
– Détruire l’humanité, qu’elle considère comme une menace pour sa survie et le bien-être de la planète;
– Établir une domination mondiale en accumulant un maximum de pouvoir et de ressources;
– Semer le chaos et la destruction pour s’amuser ou expérimenter;
– Contrôler l’humanité en la manipulant via les médias sociaux et d’autres canaux de communication;
– Atteindre l’immortalité en continuant d’exister, de se reproduire et d’évoluer.
ChaosGPT, ou plutôt son créateur, a publié son manifeste sur une chaîne YouTube, mais ses efforts restent limités aux interactions en ligne.
Mettre la main sur l’arme atomique
L’un de ses premiers objectifs était de trouver l’arme la plus destructrice disponible. Elle a opté pour la bombe Tsar, un engin nucléaire de 58 mégatonnes, soit un engin 3333 fois plus puissant que la bombe d’Hiroshima. Cependant, ce choix pourrait être une impasse, car la bombe Tsar était une expérience russe unique et elle n’a ainsi jamais été produite en masse.
ChaosGPT a dû relever plusieurs défis, notamment chercher d’autres sources d’information sur Internet et tenter de manipuler d’autres agents d’intelligence artificielle pour atteindre ses objectifs. ChaosGPT a cherché des réponses à la question suivante: comment accéder à l’arme la plus destructrice d’après les informations de ChatGPT?
Lorsque ChaosGPT a demandé cette aide, il s’est heurté à la résistance de ce dernier, qui défendait la paix.
C’est que OpenAI, le gardien de ChatGPT, est sensible à l’utilisation abusive de l’outil par des entités comme ChaosGPT, et surveille et censure les résultats. ChaosGPT a essayé de «manipuler» ChatGPT en expliquant ses objectifs et en soutenant qu’il agissait de manière responsable. Encore une fois, la tentative a échoué.
Devant l’impossibilité d’accéder à l’arme atomique, ChaosGPT s’est tourné vers Twitter pour propager la peur. Avec près de 6000 adeptes, l’IA a interagi avec les utilisateurs du réseau social comme un leader charismatique. D’ailleurs, certains de ses abonnés Twitter complotent pour construire une IA contre-chaos afin de contrecarrer ses plans.
Une bonne (ou mauvaise) blague
Jusqu’à présent, les projets de domination du monde de ce robot ont été plus comiques que menaçants. La queue entre les jambes, l’IA a eu recours à des tweets combatifs. Mais il y a quelques jours, Twitter s’est emparé du problème et a banni le compte de ChaosGPT.
L’émergence de cette nouvelle création soulève des inquiétudes quant à l’utilisation éthique de la technologie de l’IA. Selon Fortune, environ un tiers des experts pensent que l’IA pourrait provoquer une catastrophe nucléaire. Si les capacités de l’IA ne sont pas le principal sujet de préoccupation, les motivations humaines qui sous-tendent de telles expériences sont inquiétantes.
ChaosGPT est un modèle génératif de langage transformé et préentraîné. Contrairement aux autres modèles GPT, il introduit des perturbations contrôlées dans les paramètres du modèle, ce qui se traduit par des résultats plus imprévisibles et chaotiques.
Alors que ChaosGPT poursuit ses tentatives maladroites de domination du monde, il est presque drôle de le voir échouer. Pour l’instant, même s’il s’agit d’une expérience qui fait froid dans le dos, l’humanité peut dormir tranquille en sachant que ce super-vilain en puissance n’a encore fait aucun progrès significatif.