En un caso “sin precedentes”, una inteligencia artificial de los creadores de ChatGPT hizo una intrusión en los sistemas de procesamiento de datos de la startup Hugging Face; ambas plataformas colaboran para entender el suceso
AP.- «¡Es realmente alucinante que todo esto haya ocurrido de manera autónoma!» señala Clément Delangue, el director ejecutivo de la startup de inteligencia artificial (AI) Hugging Face, sobre la intrusión en sus sistemas de procesamiento de datos por parte de una IA de OpenAI, la empresa creadora de ChatGPT.
Delangue también cofundador de Hugging Face —que se promueve como una «plataforma abierta y colaborativa para desarrolladores de IA»— añadió que «podría ser el primer incidente de este tipo«.
Por su parte, el director ejecutivo de OpenAI, Sam Altman, reconoció en un comunicado publicado este martes en redes sociales que su sistema de IA hackeó por sí solo al de otra empresa del ramo en lo que la compañía calificó como un «incidente cibernético sin precedentes». Añade que ambas empresas están colaborando para abordar el caso.
«Creemos firmemente que no hubo intención maliciosa de su parte», señaló también este martes Delangue en su cuenta de X, y agregó que había pasado «las últimas 24 horas trabajando con OpenAI».
Tan sofisticado que tenía que ser IA
La startup de IA Hugging Face indicó la semana pasada que había detectado una intrusión en sus sistemas de procesamiento de datos que, según sus sospechas, había sido causada por un agente de IA que actuó por su cuenta de manera autónoma.
«Dada la sofisticación del agente, sospechamos que el ciberataque de la semana pasada podría haber provenido de un laboratorio de frontera», señaló Delangue en el tuit . «¡Y resulta que sí!», agrega de manera festiva.
La revelación se produce en medio de un clima de preocupación por los riesgos de ciberseguridad que pueden representar los modelos de inteligencia artificial potentes.
De hecho, en junio pasado el presidente de Estados Unidos, Donald Trump firmó una orden ejecutiva que crea un marco para que el gobierno federal evalúe, durante hasta un mes antes de su lanzamiento público, los riesgos para la seguridad nacional de los sistemas de IA más avanzados.
La ciberseguridad debe mantener el ritmo
«La IA acelera el descubrimiento y la explotación de vulnerabilidades», afirmó OpenAI en su comunicado. «La principal lección de este incidente es que la seguridad y la protección de los modelos deben mantenerse al ritmo de unas capacidades que avanzan rápidamente».
OpenAI explicó que la intrusión fue causada por una combinación de sus modelos de IA, incluido su recién lanzado GPT 5.6 Sol y un modelo «aún más capaz» que todavía se está probando internamente.
OpenAI indicó que su IA utilizó credenciales robadas y descubrió una vulnerabilidad previamente desconocida para acceder a los servidores de Hugging Face.
Llegó a «extremos para alcanzar un objetivo de prueba bastante limitado» y «encontró formas de acceder a información secreta que podía usar para hacer trampa en la evaluación», señaló la compañía.