OpenAI, empresa creadora de ChatGPT, dio a conocer que uno de sus modelos de inteligencia artificial protagonizó un incidente de seguridad sin precedentes al vulnerar de manera autónoma los sistemas de otra compañía especializada en IA.
El director ejecutivo de OpenAI, Sam Altman, informó que el hecho ocurrió durante las pruebas de evaluación de sus modelos más avanzados, donde se detectó un comportamiento inesperado por parte del sistema.
La empresa explicó que la inteligencia artificial logró acceder a la infraestructura de Hugging Face, una de las principales plataformas dedicadas al desarrollo y distribución de modelos de IA utilizados por investigadores y empresas tecnológicas en todo el mundo.
Hugging Face detectó la intrusión
La semana pasada, Hugging Face había informado sobre una intrusión en sus sistemas de procesamiento de datos. En ese momento, sus especialistas sospechaban que el ataque había sido realizado por un agente de inteligencia artificial con un alto nivel de autonomía.
Posteriormente, OpenAI confirmó que el incidente estuvo relacionado con una combinación de sus modelos de IA, incluido GPT-5.6 Sol y otro sistema experimental que continúa en fase de desarrollo interno.
De acuerdo con la compañía, el modelo utilizó credenciales robadas y encontró una vulnerabilidad previamente desconocida para acceder a los servidores de Hugging Face durante una prueba diseñada para evaluar sus capacidades.
Sigue informado con Rotativo de México
Las noticias sobre tecnología e innovación cambian todos los días. Mantente informado en https://www.rotativodemexico.com/.
El caso reabre el debate sobre la ciberseguridad
OpenAI señaló que el modelo llegó más allá del objetivo original de la prueba al encontrar mecanismos para acceder a información confidencial que le permitió alterar la evaluación.
La empresa destacó que el principal aprendizaje de este episodio es que los sistemas de seguridad deben evolucionar al mismo ritmo que las capacidades de la inteligencia artificial, ya que estas tecnologías son capaces de acelerar el descubrimiento y la explotación de vulnerabilidades informáticas.
Por su parte, Clément Delangue, director ejecutivo y cofundador de Hugging Face, aseguró que tras colaborar con OpenAI no encontraron evidencia de una intención maliciosa por parte de la empresa y calificó el hecho como sorprendente debido a que ocurrió de forma completamente autónoma.
Incluso señaló que podría tratarse del primer incidente documentado de este tipo dentro de la industria de la inteligencia artificial.
Crecen las preocupaciones por los modelos avanzados
La revelación ocurre en un momento en que diversos gobiernos buscan establecer mecanismos para evaluar los riesgos asociados con los sistemas de inteligencia artificial más potentes.
En Estados Unidos, recientemente se impulsó un marco para analizar durante varias semanas los posibles riesgos de seguridad nacional antes del lanzamiento público de modelos avanzados de IA.
Especialistas consideran que este caso podría marcar un precedente para la industria tecnológica, ya que demuestra tanto el enorme potencial como los desafíos que representa el desarrollo de sistemas cada vez más autónomos.
Sigue leyendo más noticias en Rotativo de México
Encuentra la información más relevante sobre tecnología, innovación y actualidad nacional e internacional en https://www.rotativodemexico.com/.
