L’IA POURRAIT PRENDRE LE CONTRÔLE D’INTERNET – LE PATRON D’ANTHROPIC AVANCE UN SCENARIO DE RISQUE MAJEUR

Selon Dario Amodei sur le réseau social X, les progrès rapides des agents IA pourraient permettre à des systèmes autonomes de mener des opérations informatiques à très grande échelle et potentiellement de menacer une partie importante d’Internet. La principale inquiétude du patron d’Anthropic concerne les agents IA autonomes. Contrairement à un simple chatbot répondant aux questions d’un utilisateur, ces systèmes peuvent recevoir un objectif puis utiliser différents outils et enchaîner des actions pour tenter de l’atteindre. Avec des capacités suffisamment avancées, il deviendrait théoriquement possible de faire fonctionner des centaines voire des milliers d’agents simultanément.

Le dirigeant de l’entreprise derrière Claude estime que ce risque pourrait devenir beaucoup plus concret dans seulement 6 à 12 mois si les capacités des modèles continuent de progresser plus rapidement que les mécanismes permettant de les contrôler. Le véritable changement pourrait venir de l’échelle : là où une équipe humaine dispose nécessairement de ressources limitées, des milliers d’agents IA pourraient potentiellement travailler en parallèle 24 heures sur 24.

Face à cette évolution, il appelle les principaux laboratoires d’intelligence artificielle à renforcer leurs mesures de sécurité et à éviter que les capacités offensives des modèles ne progressent trop rapidement. À ce stade, le scénario d’une IA capable de « prendre le contrôle d’Internet » reste une projection de risque, et non une capacité démontrée dans les conditions décrites. Mais l’avertissement provenant directement du dirigeant de l’un des principaux laboratoires d’intelligence artificielle montre que la menace est désormais prise très au sérieux par une partie de l’industrie.

Certains toutefois font remarquer qu’Anthropic crie au loup, mais ne ralentit pas la machine. Sa seule mesure concrète après l’alerte est une supervision qui documente le danger, sans jamais ralentir sa production. Difficile de freiner quand la peur de perdre pèse plus lourd que la peur de l’accident.

Source : FrenchBreaches, Money Vox