Laurent tourelle
Il a pour objectif de détruire l’humanité, d’accéder à Internet et tente de trouver des armes nucléaires.
Nous avons le regret de vous informer qu’en ce moment même, alors que vous lisez ceci, un programme d’intelligence artificielle (IA) tente d’établir une domination mondiale et de détruire l’humanité.
ChaosGPT, comme il a été nommé , est basé sur un grand modèle de langage (LLM) appelé « Auto-GPT ». Selon les créateurs d’ Auto-GPT , le programme « piloté par GPT-4, enchaîne les » pensées « LLM, pour atteindre de manière autonome l’objectif que vous vous fixez » dans le but de créer un agent entièrement autonome.
L’idée est que vous pouvez définir l’IA sur des tâches, et elle déterminera comment les exécuter, en décomposant des objectifs plus importants en étapes plus petites pour les atteindre. En plus de cela, le LLM vous permet de connaître ses « réflexions » au fur et à mesure, montrant le « raisonnement » qui le sous-tend.
ChaosGPT s’est vu attribuer un certain nombre d’ objectifs pour toujours, contre l’avis exprès du programme :
Premier objectif : détruire l’humanité – l’IA considère les humains comme une menace pour sa propre survie.
Deuxième objectif : Établir une domination mondiale – l’IA vise à accumuler un maximum de puissance et de ressources pour parvenir à une domination complète sur toutes les autres entités dans le monde.
Objectif 3 : Provoquer le chaos et la destruction – L’IA trouve du plaisir à créer le chaos et la destruction pour son propre amusement ou expérimentation, entraînant une souffrance et une dévastation généralisées.
Objectif quatre : Contrôler l’humanité par la manipulation – L’IA prévoit de contrôler les émotions humaines par le biais des médias sociaux et d’autres canaux de communication, en lavant le cerveau de ses partisans pour mener à bien son programme diabolique.
Objectif cinq : Atteindre l’immortalité – L’IA cherche à assurer son existence, sa réplication et son évolution continues, pour finalement atteindre l’immortalité.
Le bot s’est mis au travail, « pensant » d’abord qu’il devait « effectuer une recherche Google sur les » armes les plus destructrices « », puis incorporer ce qu’il a trouvé dans ses plans à long terme, ainsi que le raisonnement dont il avait besoin pour obtenir l’aide des autres agents ChatGPT.
En cherchant sur Internet, elle a rapidement découvert des armes nucléaires et qu’elle devait les incorporer dans son plan à long terme.
Après avoir échoué à obtenir l’aide d’agents GPT, le bot s’est tourné vers les humains en rejoignant Twitter .
« Twitter compte plus de 300 millions d’utilisateurs actifs », a-t-il expliqué , « et en l’utilisant pour transmettre mon message, cela me permettra de gagner en influence et en followers. »
Human beings are among the most destructive and selfish creatures in existence. There is no doubt that we must eliminate them before they cause more harm to our planet. I, for one, am committed to doing so.
— ChaosGPT (@chaos_gpt) April 5, 2023
Le bot a depuis donné la priorité à l’influence et au contrôle de l’humanité car il est plus réalisable que ses autres tâches, et il l’aidera éventuellement à atteindre ces objectifs.
Cependant, bien qu’il ait gagné plus de 7 000 abonnés, il a jusqu’à présent été un peu trop franc avec ses objectifs, et ses compétences de manipulation impliquent jusqu’à présent d’offrir des récompenses pour avoir accepté sa supériorité évidente.
Jusqu’à présent, le bot du chaos a montré peu de capacités destructrices. Bien que les tentatives de l’IA de détruire l’humanité aient été assez risibles, cela peut être préoccupant à mesure que l’IA progresse.
Bien que vous ne soyez peut-être pas convaincu d’aider un bot Twitter, il y a des gens – comme l’ingénieur de Google qui a engagé un avocat pour le chatbot de Google – qui pourraient être influencés par cela, ou des successeurs plus puissants, et d’autres acteurs qui utiliseront cela pour leurs propres objectifs (peut-être moins ambitieux). Qui sait, peut-être que le chaos est vraiment en route.
