Una demanda colectiva acusa a Microsoft, Bayer, PayPal y Salesforce de usar sistemas de IA discriminatorios en sus procesos de contratación para filtrar candidatos, generando sesgos en la selección de personal.

La inteligencia artificial llegó a nuestras vidas hace relativamente poco y el interés por esta es tan grande que la mayoría de empresas tecnológicas e incluso otras que no se dedican a ese sector invierten, desarrollan y usan la IA en todo tipo de tareas. Para muchos es una herramienta de trabajo y productividad muy útil y para otros puede ser la que acabe con la humanidad, pues si esta se sale de control no sabemos qué ocurrirá. Por ahora no hemos llegado a ese punto, pero si que tenemos una demanda sobre los sistemas de contratación por IA de Microsoft y Salesforce, pues si no lo sabías, ya se usa inteligencia artificial para clasificar a los candidatos en vez de tener a humanos leyendo los CV con detenimiento uno a uno.

Uno de los aspectos negativos de la IA es que esta iba a reemplazar a los humanos en todo tipo de trabajos y esto es algo que hemos comentado en varias ocasiones. Hay análisis y predicciones que hablan de los trabajadores que tienen más peligro de ser reemplazados y luego tenemos al CEO de OpenAI diciendo que habrá una AGI en 2030 que hará el 40% de los trabajos a nivel mundial. No sabemos lo que nos depara en un futuro, pero si sabemos que en el presente la IA ya está en todas partes, pues está involucrada a la hora de ver a quién contratan en una empresa.

Demandan a Eightfold AI, un algoritmo con IA que usan empresas como Microsoft para clasificar y elegir candidatos a un puesto de trabajo

Imagínate que eres de los que ha enviado su CV a cientos de empresas y ni siquiera ven tu currículum, pues es algo que ya asumes cuando tardan en contestar. Luego tenemos otras compañías que usan un algoritmo IA que se encarga de clasificar los candidatos. La plataforma de contratación por IA cuestión es Eightfold AI, la emplean compañías como Microsoft y PayPal y hace poco recibió una demanda. Esta acusa al sistema de contratación de generar informes sobre las características de las personas que solicitaron el empleo sin consentimiento, por lo cual infringe la ley federal del consumidor del estado de California, denominada FCRA.

La FCRA o Ley de Informes Crediticios Justos se implementó en 1970 para proteger a los consumidores de datos inexactos o de compañías que crean informes de características de personas con fines laborales. Según la demanda colectiva presentada al Tribunal Superior del condado de Contra Costa y el bufete de abogados Outten & Golden, estos sistemas de clasificación automatizados con IA son equivalentes a las agencias de "rating" que ponen notas y evalúan la solvencia de empresas y sus trabajadores.

Eightfold AI se defiende diciendo que solo usan los datos proporcionados por candidatos y empresas y no hacen "scraping" en redes sociales y otras webs

Básicamente lo que los datos de los candidatos a trabajo son usados y modificados sin consentimiento y ellos no saben que acaban perteneciendo a una base de datos con perfiles que describen todo sobre ellos. Aquí no solo se conoce la formación académica y la experiencia laboral, sino también se tienen en cuenta los rasgos de personalidad, fortalezas y debilidades. Si el trabajador encaja con un puesto de trabajo concreto, entonces se evalúa si están dispuestos a hacerle una entrevista personal. Eightfold AI ha respondido a la acusación mencionando que ellos solo disponen de los datos que les proporcionan los candidatos y los empleadores.

Niegan así modificar los currículums y perfiles usando otros datos como los que se encuentran en redes sociales y aseguran que son totalmente transparentes. Aquí hay que tener en cuenta que este tipo de plataformas suelen aprovechar cualquier información adicional para hacer las clasificaciones, así que no descarta que Eightfold no haya dicho toda la verdad.