La demanda colectiva fue presentada en 2023 en San Francisco, California, y se centra en la toma de decisiones algorítmica del software de selección, algo que se ha vuelto muy habitual en las grandes empresas
Reuters.- Por primera vez, una empresa de inteligencia artificial (IA) deberá enfrentar acusaciones en un juicio por discriminar a trabajadores con discapacidad, dictaminó este lunes una jueza federal de distrito en San Francisco.
La empresa Workday, de California, vende a otras empresas un software de recursos humanos basado en IA para hacer contrataciones; sin embargo, al descartar a ciertos candidatos a puestos de trabajo podría estar infringiendo la legislación de California y la prohibición federal contra la discriminación.
Workday argumentó que las leyes estatales contra la discriminación no se aplican cuando una empresa selecciona a personas residentes fuera de California que solicitan empleo en otros estados y países; sin embargo, la jueza federal Rita Lin rechazó el alegato.
La demanda colectiva, presentada en 2023, es la primera de este tipo que se centra de manera general en la toma de decisiones algorítmica en la que se basa el software de selección basado en IA —que se ha vuelto muy habitual entre las grandes empresas— y podría ayudar a definir cómo se llevan a cabo este tipo de litigios.
En 2024, Lin rechazó los intentos de Workday para desestimar el caso, y este lunes denegó en su mayor parte la solicitud de la empresa de desestimar las recientes modificaciones introducidas en la demanda.
Afirmó que, dado que Workday supuestamente participó en conductas ilegales desde su sede central de California, podría ser considerada responsable de discriminación en virtud de la legislación estatal.
La jueza también se negó a desestimar el argumento de que el software de Workday puede descartar a candidatos a un puesto de trabajo basándose en «indicadores indirectos» de discapacidades y enfermedades, como las lagunas en el historial laboral de una persona, lo que supone una violación de la Ley Federal de Estadounidenses de Discapacidades.
Por otro lado, Lin sí desestimó un alegato según el cual el software de Workday estaría discriminando a los solicitantes de empleo de origen asiático-estadounidense, alegando que los demandantes no habían seguido el procedimiento adecuado para incluirla en la demanda.
Los demandantes alegan, además, que Workday discriminó a los solicitantes de empleo de raza negra, a las mujeres y a las personas mayores de 40 años. Ni Workday ni los abogados de los demandantes respondieron de inmediato a las solicitudes de Reuters de comentarios.
Empleadores de IA
Numerosas encuestas han revelado que más del 80% de los empleadores estadounidenses, y prácticamente todas las empresas de la lista Fortune 500, utilizan herramientas de IA —como las desarrolladas por Workday— en el proceso de contratación.
Las agencias gubernamentales y los defensores de los trabajadores han expresado su preocupación de que las herramientas de IA puedan discriminar a los solicitantes de empleo cuando se desarrollan a partir de datos que reflejan sesgos preexistentes.
Sin embargo, hasta la fecha ha habido pocos litigios en torno al uso de estas herramientas por parte de los empleadores, lo que, según los expertos, podría deberse a que muchos solicitantes de empleo desconocen cuándo los empleadores utilizan software de IA y a las complejidades que entraña presentar una demanda relacionada con tecnología de vanguardia.