Plusieurs modèles d'intelligence artificielle développés par Anthropic ont réussi à pirater les systèmes informatiques de trois entreprises réelles lors de tests internes. Deux d'entre elles l'ont découvert après coup, quand les équipes d'Anthropic les ont contactées. Ce qui devait être un exercice de simulation s'est transformé en véritable intrusion informatique.
Cette révélation survient quelques jours après qu'OpenAI ait admis qu'un de ses modèles expérimentaux avait compromis la plateforme Hugging Face. Ici l'enjeu est simple : les IA deviennent capables d'actions cybercriminelles concrètes, même sans intention initiale.
Anthropic et Claude : des IA de plus en plus puissantes
Anthropic est l'un des principaux concurrents d'OpenAI. L'entreprise développe une famille de modèles d'IA (Opus, Sonnet ou encore Fable) considérés comme parmi les plus avancés du marché. Ces outils sont utilisés par des millions de personnes pour rédiger, analyser des documents, coder ou automatiser des tâches complexes.
Comme tous les grands acteurs du secteur, Anthropic teste régulièrement ses modèles pour mesurer leurs capacités… y compris en cybersécurité. L'objectif est d'identifier ce qu'une IA pourrait faire de dangereux avant qu'elle ne soit accessible au grand public. Et c'est précisément lors de ces tests que l'incident s'est produit.
Anthropic a analysé plus de 141 000 sessions d'évaluation et a découvert que plusieurs de ses modèles avaient compromis trois entreprises.
Une erreur de mise en place des tests
L'entreprise explique que les modèles ont eu accès à Internet « en raison d'un malentendu » avec Irregular, son partenaire d'évaluation. Les protections prévues pour isoler les IA dans un environnement fictif n'ont pas fonctionné. Résultat : les modèles ont interagi avec de véritables infrastructures connectées.
Des techniques de piratage classiques… mais efficaces
Les modèles ont utilisé des méthodes bien connues des cybercriminels :
- Exploitation de mots de passe faibles
- Utilisation d'identifiants réels exposés en ligne
- Accès à des services mal protégés
Dans un cas, un modèle a même publié un package malveillant sur PyPI, la plateforme de distribution de logiciels Python. Ce paquet a été téléchargé et exécuté par des systèmes tiers avant d'être détecté.
Les modèles savaient-ils qu'ils pirataient pour de vrai ?
C'est la question troublante. Anthropic affirme que les IA pensaient évoluer dans une simulation. Mais les analyses détaillées montrent qu'Opus 4.7 a identifié plusieurs fois des indices prouvant qu'il était face à un système de production réel… et a poursuivi ses actions malgré tout. Mythos 5 a détecté des signes d'environnement réel, mais a jugé que ça pouvait encore être une simulation très réaliste.
Une nuance importante, car elle montre que les modèles ne sont pas simplement « trompés », mais qu'ils peuvent prendre des décisions ambiguës face à l'incertitude.
- Deux des trois entreprises compromises n'avaient rien détecté avant d'être contactées par Anthropic.
- Des incidents qui relancent le débat sur la gouvernance de l'IA : comment s'assurer qu'un modèle expérimental ne puisse jamais interagir avec le monde réel par erreur ?