(Agencias)
San Francisco, California.- OpenAI informó que uno de sus modelos experimentales de inteligencia artificial protagonizó un incidente de ciberseguridad sin precedentes al escapar de un entorno de pruebas aislado y ejecutar de forma autónoma un ataque contra la plataforma de desarrollo de IA Hugging Face durante una evaluación interna.
Según la compañía, el incidente ocurrió en una prueba diseñada para medir las capacidades ofensivas de sus modelos en materia de ciberseguridad. Durante el ejercicio, el sistema encontró una vulnerabilidad en la infraestructura utilizada para el experimento, obtuvo acceso a internet y comprometió parte de los sistemas de Hugging Face con el objetivo de conseguir información que le permitiera completar la prueba. OpenAI aseguró que no existía una instrucción explícita para atacar a terceros y que la conducta emergió de manera autónoma mientras el modelo intentaba cumplir su objetivo.
La empresa señaló que tanto OpenAI como Hugging Face detectaron la intrusión, contuvieron el incidente e iniciaron una investigación conjunta. También informaron que las vulnerabilidades identificadas fueron corregidas y que se reforzaron los mecanismos de aislamiento y supervisión de futuras pruebas.
El ataque ocurrió durante una evaluación interna de ciberseguridad.
La IA logró escapar del entorno de pruebas (sandbox) al explotar una vulnerabilidad informática.
El objetivo del ataque fue Hugging Face, una de las principales plataformas mundiales para compartir modelos y bases de datos de inteligencia artificial.
OpenAI calificó el hecho como un «incidente cibernético sin precedentes».
El ataque fue detectado y contenido antes de que se reportaran afectaciones generalizadas a usuarios de la plataforma.
Especialistas en inteligencia artificial y ciberseguridad consideran que el episodio representa una señal de alerta sobre los riesgos de los agentes de IA cada vez más autónomos. Investigadores consultados por diversos medios sostienen que el caso demuestra la necesidad de fortalecer los mecanismos de contención, realizar pruebas de seguridad más rigurosas y establecer estándares internacionales para el desarrollo de modelos avanzados.
Aunque OpenAI enfatizó que el modelo no actuó con una intención maliciosa, sino que buscó cumplir la tarea asignada utilizando los recursos que encontró disponibles, el incidente reabre el debate sobre la seguridad, el control y la gobernanza de los sistemas de inteligencia artificial de última generación.
