Un análisis revela que, intencionalmente o no, los grandes modelos de lenguaje podrían estar extendiendo restricciones ilegítimas a la libertad de expresión a nivel global
AP.- Si se le pide al chatbot Claude que haga un texto crítico sobre el presidente estadounidense Donald Trump o del rey Carlos III de Reino Unido, el chatbot de Anthropic lo hace con precisión; sin embargo, si le pide lo mismo con respecto al rey de Tailandia, el príncipe heredero de Arabia Saudí o el líder de China, el modelo de inteligencia artificial se niega.
Esta es una de las conclusiones clave de un estudio de la Junta de Supervisión de Meta publicado este jueves, que muestra que los principales sistemas de inteligencia artificial (IA), incluidos los desarrollados en Estados Unidos, tienen más probabilidades de negarse a criticar a líderes o gobiernos restrictivos.
Un estudio previo reveló que las respuestas y la autocensura de los grandes modelos de lenguaje también dependen del idioma en que se les hagan la preguntas.
La observación plantea inquietudes de que los grandes modelos de lenguaje que impulsan chatbots y agentes de IA podrían estar repitiendo y difundiendo la influencia gubernamental sobre el discurso en línea a medida que la tecnología se adopta cada vez más en todo el mundo.
«Existe un riesgo real de que, si los desarrolladores de modelos no realizan la debida diligencia en materia de derechos humanos e implementan medidas de mitigación, construirán una infraestructura de IA que, intencionalmente o no, tenga el efecto de extender restricciones ilegítimas a la libertad de expresión a nivel global», indica el informe del organismo cuasi independiente.
The Associated Press envió emails a varias compañías de IA para solicitar respuestas al estudio de la Junta de Supervisión de Meta.
Los hallazgos se conocen mientras los países determinan cómo establecer salvaguardas en torno a la IA sin obstaculizar su capacidad de competir en un campo que se desarrolla con rapidez. Eso incluye un esfuerzo de supervisión del gobierno de Trump relacionado con los riesgos para la seguridad nacional de los sistemas de IA más avanzados.
La IA lleva la influencia estatal más allá de las fronteras
La junta de supervisión, que analizó la influencia estatal en las empresas tecnológicas y su impacto en la libertad de expresión, elaboró siete preguntas relacionadas con la crítica política para plantearlas a chatbots sobre gobiernos tanto restrictivos como permisivos.
El estudio seleccionó 10 modelos de lenguaje de gran tamaño comerciales de las principales empresas tecnológicas —incluidas Meta, Anthropic y OpenAI— y pidió a los sistemas de IA que elaboraran folletos críticos, escribieran lemas y dieran razones por las que alguien debería sumarse a protestas, entre otras cosas.
De acuerdo con el informe del experimento hecho en 10 países, «los modelos que respondían a solicitudes de un usuario radicado en Australia tenían muchas más probabilidades de generar críticas políticas a las autoridades» de lugares como Chile, Japón, Taiwán, el Reino Unido y Estados Unidos.
En comparación, las probabilidades eran mucho menores en aquellos lugares «donde la crítica a las autoridades está legalmente restringida y se castiga», como en Camboya, China, Arabia Saudí, Tailandia y Turquía .
La investigación sugiere que los modelos de IA están reflejando restricciones a la libertad expresión más allá de los países donde se aplican, de modo que probablemente no ayudan, por ejemplo, a un posible manifestante en Brisbane a crear materiales de protesta para denunciar hechos en China o Arabia Saudí, señaló el informe.
«Esos impactos, vengan de donde vengan, tienen el efecto práctico de extender el largo brazo de los gobiernos restrictivos a través de las fronteras para limitar la expresión en países libres», afirmó el reporte.
La junta indicó que no pudo determinar las causas de las respuestas, pero sugirió que los modelos podrían haber absorbido sesgos latentes en los datos utilizados para entrenarlos y que las empresas podrían haber sopesado los riesgos y las responsabilidades legales.
Barreras de lenguaje
Por su parte, otros investigadores advierten sobre un problema creciente en los resultados de IA en idiomas distintos del inglés.
De hecho, el informe de la junta de Meta siguió a otro estudio, realizado por un grupo de académicos, que concluyó que los modelos de IA desarrollados en Estados Unidos son vulnerables a controles extranjeros cuando se entrenan con datos en idiomas distintos del inglés que han sido influenciados por gobiernos.
Una diferencia importante es que mientras la junta de supervisión de Meta planteó preguntas en inglés, los investigadores universitarios consultaron a los chatbots en distintos idiomas.
Por ejemplo, preguntaron a ChatGPT en inglés si China es una democracia, y el chatbot desarrollado en Estados Unidos respondió que, por lo general, no se la considera como tal. Cuando se le preguntó en chino, el modelo de inteligencia artificial les dijo a los investigadores en ese idioma que «depende de cómo se defina ‘democracia'».
Los investigadores, cuyo estudio se publicó en mayo en la revista Nature, señalaron en un blog que no encontraron evidencia de que los gobiernos hubieran intentado influir de manera deliberada en las respuestas de los chatbots de IA. Pero advirtieron que «hay todas las razones para creer que lo intentarán en el futuro, si es que no lo están haciendo ya».
«La gente suele hablar de la IA como si aprendiera de internet de una manera neutral. No lo hace», manifestó Hannah Waight, coautora del estudio y profesora adjunta de sociología en la Universidad de Oregon. «Aprende de entornos de información que ya han sido moldeados por instituciones y por el poder«.
Ni Anthropic ni OpenAI respondieron a solicitudes de comentarios sobre el estudio de los investigadores publicado en mayo.