La empresa recibió la instrucción de suspender el acceso a Fable 5 y a Mythos 5 para todos los ciudadanos extranjeros por un presunto método para eludir una medida de seguridad que evita que identifique vulnerabilidades de software
Reuters.- Anthropic anunció el viernes que «desactivará de forma inmediata» sus modelos de IA más avanzados para todos los usuarios, después de que el gobierno de EU le ordenara suspender el acceso a dichos modelos para los ciudadanos extranjeros, alegando motivos de seguridad nacional.
La empresa recibió la directiva de control de exportaciones para suspender el acceso a Fable 5 y Mythos 5 para todos los ciudadanos extranjeros, sin que se le proporcionaran detalles específicos sobre la preocupación sobre la seguridad nacional, indicó Anthropic en un comunicado.
Según entiende Anthropic, el gobierno cree que existe un método para eludir, o «liberar», una medida de seguridad que impediría que Fable 5 se utilizara para identificar vulnerabilidades de software, según la empresa.
La orden llega justo cuando una disputa anterior entre funcionarios del gobierno de Trump y Anthropic, que se prepara para salir a bolsa, mostraba síntomas de distensión en algunas partes del gobierno de EU.
La relación de Anthropic con el gobierno se rompió este año después de que la empresa se negara a permitir que el ejército estadounidense utilizara sus modelos de IA para la vigilancia interna y sistemas de armas totalmente autónomos. El gobierno respondió incluyendo a Anthropic en una lista negra de la cadena de suministro, que entrará en vigor a finales de año.
La medida también supone una importante escalada de los esfuerzos de EU por frenar las capacidades de IA de sus adversarios extranjeros. Durante años, los controles de exportación de EU se han centrado en los chips y las herramientas que impulsan la IA, en lugar de restringir el acceso extranjero a la propia IA.
Anthropic afirmó que el gobierno sólo le ha proporcionado «pruebas verbales de una posible fuga de seguridad limitada y no universal».
«No estamos de acuerdo en que el hallazgo de una posible fuga limitada deba ser motivo para retirar un modelo comercial implementado para cientos de millones de personas», afirmó la empresa.
La directiva del gobierno y la respuesta de Anthropic ponen de relieve la creciente tensión entre los desarrolladores de IA y los reguladores sobre cómo evaluar los riesgos de las denominadas «fugas», o métodos utilizados para eludir las medidas de seguridad de los modelos.
Tan solo el miércoles, Anthropic había pedido una mayor supervisión de la IA por parte de EU, incluida la capacidad de bloquear modelos con riesgos inaceptables. Sin embargo, afirmó que la medida del gobierno del viernes no seguía los principios de una regulación justa y basada en hechos.
La directora de información del Pentágono, Kirsten Davies, dijo en una publicación en X que el Departamento de Defensa apoyaba dar prioridad a la seguridad nacional.
«Hay cosas que son simplemente más importantes que los ciclos de ingresos, el ‘clickbait’ y la valoración previa a la salida a bolsa. EU primero. Siempre», dijo Davies.
Anthropic presentó de forma confidencial una solicitud de salida a bolsa en EU el mes pasado, adelantándose a su rival OpenAI en la carrera por llegar a los mercados públicos.