iTutorGroup, una plataforma de tutoría en línea con sede en China, ha llegado a un acuerdo para resolver una demanda presentada por la Comisión para la Igualdad de Oportunidades en el Empleo (EEOC) de Estados Unidos, que alegaba que la empresa utilizaba un software de contratación basado en inteligencia artificial (IA) para discriminar ilegalmente a los solicitantes de empleo de más edad, según informó Reuters el 10 de agosto. La demanda, iniciada en 2022, afirmaba que en 2020 iTutorGroup programó su software de contratación en línea para filtrar a las mujeres solicitantes de 55 años o más y a los hombres solicitantes de 60 años o más. Para resolver estas alegaciones, iTutorGroup ha acordado pagar un total de 365.000 USD a más de 200 solicitantes de empleo que sufrieron discriminación por motivos de edad durante el proceso de contratación.

Esta demanda supone el primer caso de la EEOC en el que se aborda la utilización de IA por parte de una empresa para tomar decisiones laborales. La agencia puso en marcha una iniciativa en 2021 destinada a garantizar que el software de IA empleado por los empleadores de EE.UU. se adhiera a las leyes contra la discriminación. La EEOC también ha indicado su intención de examinar de cerca a las empresas que hacen un uso indebido de la IA en sus prácticas de contratación. Investigaciones recientes indican que al menos 85% de los principales empleadores estadounidenses incorporan IA en diversos aspectos de sus procesos de contratación. Esto incluye programas informáticos que preseleccionan a los candidatos antes de la evaluación humana, "chatbots" de recursos humanos y sistemas que intervienen en las evaluaciones del rendimiento y las recomendaciones de ascensos. Además, en una demanda colectiva pendiente ante un tribunal federal de California, la empresa estadounidense de gestión de capital humano Workday [WDAY:US] también se enfrenta a acusaciones de desarrollar software de contratación para muchas grandes empresas que excluye sistemáticamente a solicitantes negros, discapacitados y de edad avanzada.

Snuestrasces:

https://www.reuters.com/legal/tutoring-firm-settles-us-agencys-first-bias-lawsuit-involving-ai-software-2023-08-10/

https://www.scmp.com/tech/article/3230722/chinese-tutoring-firm-settles-us-agencys-first-bias-lawsuit-involving-ai-software

https://interestingengineering.com/culture/in-a-first-us-penalizes-chinese-firm-using-ai-recruitment-tools