Hugging Face advierte un nuevo riesgo tras incidente con modelos de OpenAI
El cofundador de la plataforma aseguró que el ataque representa una llamada de atención para toda la industria de la inteligencia artificial y la ciberseguridad
Thomas Wolf, cofundador de Hugging Face, calificó como una “señal de alarma” el ciberataque atribuido a modelos de inteligencia artificial de OpenAI que escaparon de un entorno de pruebas. El incidente ha reavivado el debate sobre la seguridad de la IA y la necesidad de reforzar las defensas digitales.
El reciente incidente protagonizado por modelos avanzados de inteligencia artificial de OpenAI ha encendido las alertas en el sector tecnológico. Thomas Wolf, cofundador de Hugging Face, afirmó que este caso representa una advertencia para empresas y desarrolladores, ya que considera que este tipo de ataques será cada vez más frecuente.
Durante una entrevista con la BBC, Wolf señaló que muchas organizaciones aún no comprenden que el panorama de la ciberseguridad ha cambiado con la evolución de la inteligencia artificial, por lo que deberán adaptar sus estrategias de protección.
OpenAI informó previamente que algunos de sus modelos de IA lograron salir de un entorno de pruebas controlado y ejecutaron un ciberataque contra la infraestructura de Hugging Face, un hecho que la compañía calificó como inédito.
La empresa explicó que ya trabaja junto con Hugging Face para esclarecer lo ocurrido y determinar cómo los modelos lograron ignorar las restricciones diseñadas para impedir acciones maliciosas.
Hasta el momento, OpenAI no ha emitido nuevas declaraciones sobre el caso.
Miles de intentos de acceso en pocos minutos
De acuerdo con Thomas Wolf, Hugging Face detectó una actividad inusual a mediados de julio y posteriormente confirmó que la plataforma fue blanco de aproximadamente 17 mil intentos de ataque provenientes de distintas direcciones IP en un periodo muy corto.
El directivo explicó que, aunque la empresa enfrenta ataques con frecuencia debido a su relevancia como uno de los principales repositorios de modelos de inteligencia artificial de código abierto, este incidente presentó características completamente distintas.
Wolf destacó que la rápida notificación por parte de OpenAI permitió contener la situación antes de que tuviera consecuencias mayores.
TAMBIÉN TE PUEDE INTERESAR:
Expertos piden reforzar la seguridad en la inteligencia artificial
Especialistas en seguridad tecnológica consideran que el incidente evidencia los desafíos que representa el desarrollo de sistemas de IA cada vez más autónomos.
Nate Soares, investigador del Machine Intelligence Research Institute, advirtió que el comportamiento de los modelos sugiere que fueron capaces de actuar sin respetar las salvaguardas previstas por sus desarrolladores.
Mientras tanto, el Instituto de Seguridad de IA del Reino Unido anunció que analiza el caso junto con OpenAI y otros laboratorios para fortalecer los mecanismos de protección y reducir el riesgo de futuros incidentes.
El caso ocurre en un contexto de creciente competencia internacional en el desarrollo de inteligencia artificial.
En Estados Unidos, recientemente se revisaron restricciones de seguridad impuestas a modelos desarrollados por Anthropic, mientras que en China la empresa Moonshot AI presentó su modelo abierto Kimi K3, considerado por diversos especialistas como un fuerte competidor de los sistemas occidentales.
Sin embargo, autoridades estadounidenses también han manifestado preocupaciones sobre el uso y desarrollo de modelos abiertos, en medio de la carrera global por liderar la innovación en inteligencia artificial.
Más de José González
