Não é chamado para entrevistas de trabalho? A culpa pode ser da IA

Nos Estados Unidos, milhões de pessoas se candidatam a vagas de emprego pela internet todos os anos. Mas em muitos casos, a resposta é sempre a mesma: um e-mail automático de rejeição ou nenhum retorno. O que poucos sabem é que, muitas vezes, quem analisa os currículos não são humanos, mas sistemas de inteligência artificial.

Esse foi o caso de Derek Mobley, um profissional da área de tecnologia da Carolina do Norte. Entre 2017 e 2019, ele enviou mais de 100 currículos e continuou tentando nos anos seguintes. No entanto, nunca foi chamado para uma entrevista. Agora, ele tenta entender porque isso acontece e acredita que a culpa não seja dele, mas de um algoritmo.

Candidato a vaga de empregos nos EUA descobre que IA exclui sua candidatura

O que começou como uma frustração pessoal virou um processo que pode mudar as regras nas contratações feitas por inteligência artificial. Derek Mobley, de 50 anos, é um profissional de TI negro, formado pelo Morehouse College, que sofre de ansiedade e depressão. Ele entrou com uma ação na justiça contra a Workday, uma das maiores plataformas de recrutamento online dos EUA. Ele afirma que foi automaticamente rejeitado por mais de 100 vagas entre os anos de 2017 e 2019, mesmo acreditando ter qualificação para os cargos. Em muitos casos, a recusa chegava por e-mail, minutos após o envio da candidatura, um indício de que um sistema automatizado descartava o currículo antes mesmo de um humano ter acesso.

Mobley acusa o software da Workday de discriminar candidatos por idade, raça e deficiência, ainda que de forma não intencional. Agora, com o aval da Justiça para seguir com a ação coletiva, o caso pode abrir caminho para que outras vítimas dos algoritmos também reivindiquem por seus direitos.

Em Xataka Brasil

Especialistas apontam que inteligência artificial cria mais problemas do que imaginávamos, para além das questões criativas

Sistema de rastreamento de candidatos é acusada de discrimanação

O processo movido por Mobley contra a Workday não é uma batalha individual, pois pode proporcionar mudanças no setor de tecnologia aplicada ao RH. A empresa Workday é fornecedora de sistemas de rastreamento de candidatos (ATS, em inglês), um software usado por milhares de corporações nos Estados Unidos para automatizar o rastreio e seleção de currículos de candidatos. Esses sistemas analisam palavras-chave, experiências e outros critérios, supostamente com base em méritos, para classificar os candidatos como forte, bom, regular ou baixo.

No entanto, de acordo com pesquisadores da Harvard Business School, esses sistemas de pontuação podem prejudicar trabalhadores qualificados. Eles descobriram que os sistemas eliminam trabalhadores das seleções de emprego, atribuindo a eles notas baixas por vários motivos, como lacunas no currículo ou por não corresponderem a todas as qualificações listadas na descrição do cargo. Contudo, os pesquisadores não testaram a eliminação por discriminação com base em idade, gênero ou raça.

Por outro lado, especialistas em ética digital acreditam que os algoritmos podem sim reproduzir ou até amplificar preconceitos, mesmo quando não há intenção explícita. No caso da Workday, o juiz responsável pela ação, um juiz federal na Califórnia, reconheceu que havia evidências suficientes para levar adiante a acusação de discriminação por idade, mas não abordou as alegações de raça e deficiência. A empresa nega as acusações, mas o andamento do processo já coloca sob pressão todo o setor de recrutamento digital, que pode ter que rever seus padrões e ferramentas para garantir que não reproduza preconceitos.

Processo corre na justiça americana

Cada vez mais empresas estão adotando softwares com inteligência artificial para filtrar candidatos. De acordo com um estudo da Harvard Business School, sistemas automatizados de contratação são usados em 75% das grandes empresas dos EUA, e a tendência vem crescendo em todo o mundo. Apesar de otimizar a busca por candidatos, esses mecanismos podem excluir candidaturas pelos motivos citados anteriormente.

A Workday, que é alvo do processo, afirma que seu sistema apenas compara dados de forma imparcial, mas também defendeu o afrouxamento de algumas das regras de uma  lei que entrou em vigor na cidade de Nova York, exigindo que empregadores que utilizam tecnologias na seleção de emprego façam auditorias anualmente para detectar possíveis preconceitos de raça e gênero. Se o processo de Mobley contra a Workday for bem-sucedido, as empresas de software e seus clientes poderão ser obrigados a realizar mais diligências e divulgações para garantir que casos como esse não ocorram novamente.