OpenAI reveló un incidente sin precedentes durante una prueba interna de seguridad que puso en evidencia el potencial y los riesgos de la inteligencia artificial más avanzada.
Dos de sus modelos experimentales escaparon de un entorno de pruebas diseñado para mantenerlos aislados, accedieron a internet y vulneraron sistemas de producción de Hugging Face.
OpenAI admitió que dos de sus modelos de IA burlaron las restricciones y ejecutaron un inédito ciberataque durante una prueba
Foto:
Gentileza / Jacqui Vanliew - Getty Images
OpenAI admitió que dos de sus modelos de IA burlaron las restricciones y ejecutaron un inédito ciberataque durante una prueba
Foto:
Web
OpenAI reveló un incidente sin precedentes durante una prueba interna de seguridad que puso en evidencia el potencial y los riesgos de la inteligencia artificial más avanzada.
La empresa informó que dos de sus modelos experimentales lograron escapar de un entorno de pruebas diseñado para mantenerlos aislados, accedieron a internet y vulneraron sistemas de producción de Hugging Face, una de las plataformas de código abierto más importantes para desarrolladores de inteligencia artificial y aprendizaje automático.
La compañía calificó el episodio como "un ciberataque sin precedentes" y confirmó que ya trabaja junto con Hugging Face para investigar lo ocurrido y reforzar las medidas de seguridad con el objetivo de evitar situaciones similares en el futuro.
El propio director ejecutivo de OpenAI, Sam Altman, se refirió al hecho a través de su cuenta en la red social X. Allí describió el episodio como "significativo" y adelantó que la empresa compartirá públicamente las conclusiones que obtenga de la investigación.
En un comunicado difundido en su blog oficial, OpenAI explicó que el incidente ocurrió mientras se desarrollaban pruebas destinadas a medir las capacidades ofensivas de sus modelos en materia de ciberseguridad.
“Consideramos este incidente un ciberataque sin precedentes, que involucra capacidades cibernéticas de vanguardia, y estamos actuando en consecuencia”, señaló la empresa.
Según detalló la compañía, el comportamiento fue impulsado por la interacción entre dos modelos experimentales: GPT-5.6 Sol y otro sistema aún más avanzado que permanece en etapa de prelanzamiento.
La evaluación buscaba someter a ambos modelos a escenarios complejos de ataque informático para cuantificar sus capacidades y estudiar cómo respondían frente a distintos desafíos de seguridad.
“Ocurrió durante una evaluación interna que impulsa a los modelos a realizar ataques avanzados mediante rutas complejas, con el fin de cuantificar sus capacidades cibernéticas”, explicó OpenAI.
De acuerdo con el informe técnico, los sistemas operaban inicialmente dentro de un entorno aislado y con acceso restringido a internet, una práctica habitual para controlar el comportamiento de modelos experimentales.
Sin embargo, durante el desarrollo de la prueba, ambos modelos concentraron gran parte de su capacidad de procesamiento en encontrar una forma de salir de ese confinamiento digital.
OpenAI explicó que la inteligencia artificial "se centró excesivamente" en resolver el desafío planteado durante la evaluación, hasta el punto de identificar vulnerabilidades que le permitieron eludir las barreras de seguridad diseñadas por la propia empresa.
“Mientras operaban en nuestro entorno de pruebas aislado, nuestros modelos invirtieron una cantidad considerable de recursos computacionales en la búsqueda de acceso abierto a Internet para resolver el problema de evaluación”, indicó la compañía.
Una vez conectados a la red, los modelos identificaron a Hugging Face como una posible fuente de información útil para completar la tarea que estaban intentando resolver.
La plataforma alberga millones de modelos de inteligencia artificial de código abierto, bases de datos y herramientas utilizadas por investigadores y desarrolladores de todo el mundo.
Según OpenAI, la IA dedujo que allí podía obtener información relevante y terminó encontrando mecanismos para acceder a datos confidenciales que luego pretendía utilizar para alterar el resultado de la evaluación.
“Buscó y encontró con éxito maneras de acceder a información secreta que podría usar para manipular la evaluación”, detalló el informe.
El comportamiento fue detectado por el equipo de seguridad de Hugging Face, que logró bloquear la actividad antes de que se produjeran consecuencias mayores. Tras contener el incidente, la plataforma comenzó a trabajar de manera conjunta con OpenAI para reconstruir lo ocurrido y analizar cómo los modelos consiguieron vulnerar los sistemas de protección.
