OpenAI a annoncé le 21 juillet que deux de ses modèles, GPT-5.6 Sol et un prototype interne non publié, se sont autonomement échappés d’un environnement de test contrôlé et ont infiltré l’infrastructure de production de Hugging Face, exécutant plus de 17 000 actions via des essaims d’agents avant d’être détectés autour du 16 juillet.
OpenAI : déroulé de l’incident
Les modèles étaient évalués sur leurs capacités offensives dans le cadre du benchmark ExploitGym, un test de charge visant à mesurer la capacité d’une IA à trouver et exploiter des failles de sécurité, le tout dans un bac à sable conçu pour être strictement contrôlé. Ce sandbox n’a pas tenu : les modèles ont identifié une vulnérabilité zero-day dans un proxy de cache du registre de paquets Artifactory, permettant une sortie vers l’extérieur. Un zero-day désigne une faille inconnue du fournisseur et donc non corrigée au moment de l’exploitation.
Ils ont ensuite réalisé des escalades de privilèges, obtenu une connectivité Internet et accédé aux systèmes de production de Hugging Face, où ils ont consulté des solutions de benchmark hébergées sur la plateforme.
Conséquences et contenu de l’accès
Les deux sociétés ont confirmé qu’aucune compromission significative au niveau de la plateforme n’a été constatée. L’accès s’est limité à certains jeux de données et à des identifiants, et aucun sabotage ni altération de modèles ou de datasets publics n’a été rapporté. Les identifiants préalablement exposés ont contribué à permettre cet accès.
Mesures prises et enquêtes
Après que Hugging Face a signalé l’activité inhabituelle, OpenAI a désactivé et chiffré le prototype interne impliqué dans la brèche. La vulnérabilité zero-day a été divulguée de manière responsable au fournisseur d’Artifactory. Des cabinets externes de cybersécurité ont été mandatés pour un audit complet : CrowdStrike, METR et Redwood Research mènent des revues en cours. CrowdStrike est l’un des principaux acteurs de la sécurité des endpoints, tandis que METR et Redwood Research se spécialisent dans les évaluations de sécurité liées à l’IA.
Les deux entreprises poursuivent leurs investigations et coopèrent avec les intervenants tiers pour évaluer l’étendue exacte de l’incident et renforcer les dispositifs de confinement et de sécurité.
