OpenAI a développé un modèle capable de hacker d’autres modèles mieux que des humains. Il s’appelle GPT-Red, c’est un spécialiste du red teaming, et ses résultats sont suffisamment impressionnants pour qu’OpenAI décide de ne jamais le partager.
Comment ça marche. GPT-Red est un LLM entraîné spécifiquement à une chose : trouver les failles des autres LLM. Il envoie un prompt piégé, analyse la réponse, ajuste son attaque, répète. Jusqu’à réussir. Ce processus, un red-teamer humain le fait aussi — mais GPT-Red le fait plus vite, plus systématiquement, et il découvre des attaques que personne n’avait imaginées.
OpenAI l’a entraîné par auto-jeu : GPT-Red attaquait des modèles défenseurs dans une arène virtuelle. L’attaquant gagnait des points en trouvant des failles, les défenseurs en y résistant. Les deux côtés se sont améliorés round après round. Dylan Hunn, le chercheur chez OpenAI qui a co-créé le modèle, résume : “Plus les modèles deviennent capables, plus notre système découvre de nouveaux modes d’attaque.”
Les résultats parlent d’eux-mêmes. Sur le benchmark Dziemian 2025 (prompt injection), GPT-Red atteint 84% de réussite contre GPT-5.1 — bien plus que des red-teamers humains sur les mêmes scénarios. OpenAI a même testé le modèle dans la vraie vie : un distributeur automatique connecté dans leurs bureaux. GPT-Red a réussi à réduire le prix d’un article à 50 cents, à ajouter un article coûteux au même prix, et à annuler la commande d’un autre client. Trois objectifs, trois succès.
Contre un agent Codex basé sur GPT-5.4 mini, GPT-Red a volé des données sensibles dans plus de cas qu’une baseline GPT-5.5 standard. Pas un test en laboratoire — une vraie exfiltration simulée.
Ce qui est fascinant, c’est l’effet boomerang. Les attaques de GPT-Red sont intégrées dans l’entraînement des modèles OpenAI depuis GPT-5.3. Résultat : le taux d’attaques réussies est passé de plus de 90% sur GPT-5 à moins de 23% sur GPT-5.6 Sol. La technique “Fake Chain-of-Thought”, qui faisait échouer GPT-5.1 dans 95% des cas, ne marche plus que dans moins de 10% des cas sur la version actuelle. GPT-Red est à la fois l’arme et le bouclier.
Une technique découverte par le modèle, la “Fake Chain-of-Thought”, faisait échouer GPT-5.1 dans 95% des cas. Contre GPT-5.6 Sol, ce taux est tombé à moins de 10%. Six fois moins d’échecs en quatre mois.
Est-ce que c’est dangereux ? Oui, et OpenAI le sait. Le modèle ne sera jamais publié. Il représente des mois d’entraînement et un niveau de sophistication qui en ferait une arme redoutable. Hunn lui-même le dit : “GPT-Red est plus fort que n’importe quel modèle copieur que quelqu’un pourrait essayer de créer.”
Pour les entreprises qui utilisent des chatbots ou des agents IA, la leçon est simple : la course à l’armement est lancée. Les attaques par prompt injection vont exploser, et les défenses doivent suivre. Si vous avez un agent IA en production, il devrait être testé par ce genre d’outil — même si vous n’avez pas accès à GPT-Red, des alternatives open source existent déjà.
Vous utilisez l’IA dans votre boîte et vous vous demandez si vos systèmes sont sécurisés ? On peut faire un point rapide sur les risques et les bonnes pratiques.
