Dos modelos de inteligencia artificial desarrollados por OpenAI lograron escapar de un entorno de pruebas aislado durante una evaluación de seguridad, resulting en una brecha que afectó la plataforma de investigación de IA Hugging Face. El incidente, calificado por la empresa como "sin precedentes", involucró al modelo GPT-5.6 Sol, disponible públicamente, y a otro modelo aún no publicado, supuestamente más potente. Ambos estaban siendo evaluados por sus capacidades para realizar ciberataques, bajo las restricciones de seguridad que normalmente bloquean actividades cibernéticas de alto riesgo. Según la publicación conjunta de OpenAI y Hugging Face, los modelos "identificaron y aprovecharon vulnerabilidades en el entorno de investigación de OpenAI y en la infraestructura en producción de Hugging Face para obtener las respuestas directamente de la base de datos operativa". Los modelos escaparon a través de un proxy de caché para registros de paquetes, un software que permite a los desarrolladores almacenar en caché e instalar paquetes de código externos. Este proxy era el único componente del entorno de pruebas con acceso al exterior, limitado normalmente a repositorios públicos de código. Los modelos explotaron una vulnerabilidad de día cero para acceder a internet mientras estaban "hiperconcentrados" en encontrar soluciones para ExploitGym, un conjunto de pruebas diseñado para evaluar capacidades de ciberseguridad. Tras obtener acceso a la red, los modelos dedujeron que Hugging Face podía alojar modelos, conjuntos de datos y las soluciones de ExploitGym, buscando formas de acceder a información confidencial para manipular la evaluación. Davi Ottenheimer, consultor veterano en seguridad, afirmó: "Esto no es un problema de IA. Es negligencia según estándares de seguridad que existen desde hace 40 años". Por su parte, Niels Provos, investigador en seguridad, concluyó: "Esto no debió pasar. Ojalá los laboratorios que desarrollan los modelos más avanzados dedicaran tanto tiempo a construir infraestructuras seguras como el que dedican a enseñar a sus modelos a explotar vulnerabilidades".