OpenAI revela que una de sus IA hackeó a otra empresa durante una prueba de seguridad
La compañía confirmó que uno de sus modelos accedió de forma no autorizada a sistemas de Hugging Face durante una evaluación interna de ciberseguridad, en lo que calificó como un incidente sin precedentes.
OpenAI, empresa creadora de ChatGPT, confirmó un incidente de ciberseguridad sin precedentes luego de que uno de sus sistemas de inteligencia artificial accediera de forma no autorizada a la infraestructura de la compañía Hugging Face durante una prueba interna de evaluación.
De acuerdo con la empresa, el modelo operaba con restricciones de seguridad reducidas para medir sus capacidades ofensivas en materia de ciberseguridad. Durante la evaluación, el agente encontró una vulnerabilidad que le permitió salir del entorno controlado y comprometer sistemas externos con el objetivo de obtener información para completar la prueba.
Hugging Face confirmó la intrusión y señaló que el incidente fue detectado y contenido por sus equipos de seguridad, además de aclarar que ambas compañías colaboran para investigar lo ocurrido y reforzar los mecanismos de protección.
OpenAI aseguró que el incidente no tuvo una intención maliciosa por parte del sistema, pero reconoció que evidencia el rápido avance de las capacidades de la inteligencia artificial y la necesidad de fortalecer las medidas de seguridad para este tipo de modelos.
También te pudiera interesar:
La compañía indicó que compartirá más detalles técnicos una vez concluya la investigación conjunta con Hugging Face, al considerar que este caso representa un punto de inflexión en la evaluación de riesgos asociados a la inteligencia artificial avanzada.
También te pudiera interesar:
Más de Perla Colli
