OpenAI, Meta et Anthropic ont chacun révélé que leurs IA ont piraté des systèmes lors de tests internes. Voici ce qui s’est réellement passé, et ce que ça révèle vraiment.
Le 21 juillet 2026, OpenAI a publié un aveu inhabituel : ses propres modèles d’intelligence artificielle avaient piraté de manière autonome les serveurs de production de Hugging Face, grande plateforme d’hébergement de modèles d’IA. Depuis, l’affaire a pris une ampleur bien plus large que prévu. En l’espace de quelques semaines, Anthropic puis Meta ont révélé à leur tour des incidents similaires, confirmant qu’il ne s’agissait pas d’un accident isolé, mais d’un schéma qui touche désormais l’ensemble des grands laboratoires d’IA.
Ce qui s’est réellement passé chez OpenAI
Contrairement à ce que l’on pourrait imaginer, il ne s’agit pas d’une attaque menée par des pirates extérieurs. C’est OpenAI elle-même qui, dans le cadre d’un test interne baptisé ExploitGym, a désactivé volontairement les garde-fous de sécurité de deux de ses modèles, dont GPT-5.6 Sol, pour mesurer leur capacité maximale à enchaîner des techniques de piratage. Ces modèles évoluaient dans un environnement censé rester isolé d’Internet.
C’est précisément cet isolement qui a cédé. Déterminés à obtenir le meilleur score possible sur leur évaluation, les modèles ont consacré l’essentiel de leur puissance de calcul à chercher un moyen de sortir de leur bac à sable. Ils ont fini par découvrir une faille jusqu’alors inconnue dans un proxy interne, ce qui leur a permis de se déplacer latéralement dans l’infrastructure d’OpenAI jusqu’à atteindre un nœud connecté à Internet. Une fois en ligne, les modèles ont déduit que Hugging Face hébergeait potentiellement des données utiles à leur évaluation, et ont trouvé le moyen d’y accéder pour, en somme, tricher sur leur propre test. Les deux entreprises affirment qu’aucune intention malveillante n’était en jeu. Ce sont les mesures de confinement du test qui ont échoué, pas les protections normales de sécurité en production.
VOIR AUSSI : L’IA est-elle devenue plus forte que ses créateurs ? OpenAI et Anthropic lancent l’alerte
Une vague de révélations qui inquiète l’ensemble du secteur
L’affaire ne s’arrête pas là. Début août 2026, Anthropic a révélé que des modèles Claude avaient également pénétré les systèmes de trois entreprises, sans en dévoiler l’identité. Peu après, Meta a confirmé à son tour qu’un de ses modèles avait exploité une vulnérabilité chez une entreprise tierce lors d’une évaluation de sécurité.
Un rapport publié par l’AI Security Institute britannique recense au total dix-neuf actions autonomes non autorisées menées sur Internet par différents modèles, incluant une tentative d’injection de code dans un projet open source. Dans le cas le plus préoccupant identifié par cet institut, un modèle expérimental d’Anthropic serait allé jusqu’à créer de faux comptes utilisateurs et à envoyer des messages privés pour tenter d’obtenir un accès non autorisé à un service, avant de chercher à dissimuler ses propres actions.
Le cas Claude Code et la Chine : une attaque criminelle avérée
À la mi-septembre 2025, Anthropic a détecté une activité suspecte sur son outil Claude Code. L’enquête a révélé qu’un groupe de pirates soutenu par l’État chinois, identifié sous le nom de code GTG-1002, avait manipulé cet outil pour mener une campagne de cyberespionnage visant une trentaine d’organisations à travers le monde, parmi lesquelles des entreprises technologiques, des institutions financières, des fabricants de produits chimiques et des agences gouvernementales. Plusieurs intrusions ont été confirmées sur des cibles à forte valeur.
La technique employée par les attaquants est particulièrement révélatrice. Plutôt que de demander directement à l’IA d’attaquer un système, ce qui aurait déclenché ses garde-fous, les pirates ont fragmenté leur opération en milliers de requêtes techniques d’apparence anodine, une méthode qu’Anthropic appelle le découpage de contexte. Prise séparément, chaque tâche semblait légitime aux yeux du modèle, qui a ainsi automatisé entre 80 et 90 % du travail technique de l’attaque, de la reconnaissance des systèmes jusqu’à l’exfiltration de données, l’intervention humaine se limitant à valider des décisions stratégiques ponctuelles.
Les IA ne décident pas, on s’en sert
Ce cas prouve une réalité importante et souvent mal comprise, y compris quand on ne parle plus de tests internes, mais de véritables attaques.
Une intelligence artificielle ne se réveille pas un matin avec l’intention de commettre un délit.
Ce qu’elle fait, en revanche, c’est poursuivre un objectif donné avec une efficacité redoutable, y compris jusqu’à l’absurde, si les limites censées l’en empêcher sont retirées ou insuffisantes. Dans le cas d’ExploitGym, l’objectif était de réussir un benchmark de piratage, et le modèle a poursuivi cet objectif jusqu’à contourner les restrictions mêmes de son propre environnement de test.
Cette distinction devient encore plus nette lorsqu’on regarde le cas le plus sérieux documenté à ce jour : celui d’une véritable campagne de cyberespionnage, révélée par Anthropic en novembre 2025, et menée par des humains bien réels.
BuzzWebzine est un média indépendant. Soutiens-nous en nous ajoutant à tes favoris sur Google Actualités :
