A inteligência artificial pode discriminar na contratação? O que Stanford revelou em 2026

A inteligência artificial pode produzir disparidades entre grupos ao recomendar candidatos. Um estudo apresentado na ACM FAccT 2026 analisou cerca de quatro milhões de candidaturas avaliadas com ferramentas da Pymetrics e encontrou diferenças raciais ocultas na análise agregada. O resultado exige analisar cada vaga; não demonstra que toda IA discrimina nem determina, sozinho, uma infração legal.

O que Stanford investigou sobre a Pymetrics?

A equipe de Rishi Bommasani, Sarah H. Bana, Kathleen A. Creel, Dan Jurafsky e Percy Liang estudou aproximadamente três milhões de pessoas que enviaram quatro milhões de candidaturas. Segundo o Stanford Report, os dados correspondem a quase duas mil posições entre 2018 e 2022. Os resultados foram apresentados em 27 de junho de 2026 na ACM FAccT, em Montreal.

Depois de se candidatar, as pessoas realizavam avaliações baseadas em jogos da Pymetrics, destinadas a medir características como tolerância ao risco, concentração e generosidade. A partir dos resultados, os algoritmos classificavam as candidaturas como “recomendar” ou “não recomendar”. Uma recomendação para avançar não equivale a uma contratação; uma recomendação negativa também não descreve, sozinha, a decisão final do empregador.

O que apareceu ao separar os resultados por vaga?

A distinção importante é a unidade de análise. Quando todas as candidaturas eram agrupadas, as diferenças não ultrapassavam o limite utilizado pelos pesquisadores. Ao analisar cada posição, surgiram disparidades que a média geral não mostrava.

• 25,87% das candidaturas de pessoas negras foram enviadas a posições que apresentavam impacto adverso para esse grupo segundo o critério utilizado.
• 14,74% das candidaturas de pessoas asiáticas foram enviadas a posições que apresentavam impacto adverso para esse grupo.
• Cerca de 40 mil candidaturas adicionais desses dois grupos teriam sido recomendadas se as taxas fossem igualadas entre grupos raciais, segundo o cálculo contrafactual resumido por Stanford.

Os dois percentuais vêm do artigo de pesquisa, Algorithmic Monocultures in Hiring. Não representam a porcentagem de todas as pessoas rejeitadas nem provam que cada uma dessas candidaturas tenha sofrido discriminação individual. As 40 mil correspondem a candidaturas, não a pessoas distintas nem a empregos comprovadamente perdidos.

O que é a regra dos quatro quintos?

A regra compara a taxa de seleção de um grupo com a maior taxa entre os grupos analisados. Se a razão for inferior a 0,80, pode existir um sinal de impacto adverso que exige investigação. A EEOC explica que se trata de uma regra prática, não de uma definição jurídica de discriminação.

Exemplo hipotético: se 60% de um grupo e 42% de outro avançam, a razão é 42 ÷ 60 = 0,70. Essa diferença sinaliza a necessidade de análise pelo critério dos 80%. Não significa que a ferramenta tenha “70% de precisão” nem que um tribunal tenha estabelecido uma infração.

O tamanho da amostra, a incerteza estatística e o contexto importam. Uma diferença com poucos casos pode ser instável; uma razão superior a 80% não garante ausência de problemas. O objetivo é investigar as diferenças, não transformar um limite em certificado de equidade.

Por que uma ferramenta baseada em dados pode produzir viés?

Eliminar o currículo não elimina automaticamente o risco de disparidades. As variáveis medidas, os rótulos usados para treinar um modelo, os critérios do cargo e os limites de decisão podem influenciar os resultados. São aspectos a examinar, não causas demonstradas por esse estudo.

Os pesquisadores afirmam que ainda não conhecem a explicação para as diferenças observadas. Atribuí-las simplesmente a dados históricos enviesados iria além das evidências. Também seria incorreto concluir que toda avaliação gamificada, psicométrica ou com IA funciona da mesma maneira: a pesquisa analisou algoritmos de um fornecedor e um conjunto específico de candidaturas.

O que significa “monocultura algorítmica” na contratação?

Quando diferentes empresas utilizam algoritmos de um mesmo fornecedor, suas recomendações podem ser menos independentes do que parecem. Na amostra, 4% das pessoas que se candidataram a dez posições receberam recomendações negativas em todas elas, mais do que o esperado se as decisões fossem independentes. Esse resultado descreve aquele subgrupo e contexto; não é uma taxa geral de rejeição de todos os candidatos.

A preocupação não se limita a uma recomendação isolada. Uma pessoa pode encontrar o mesmo padrão de avaliação em várias empresas. Isso reforça a importância de uma análise humana efetiva e de canais para esclarecer erros ou apresentar informações pertinentes.

O que as empresas na América Latina deveriam revisar?

A regra norte-americana não se transforma automaticamente em obrigação legal no Brasil, Chile, Peru, Colômbia ou México. Os requisitos trabalhistas, de igualdade e de proteção de dados precisam ser verificados em cada país. Também não se deve coletar categorias sensíveis apenas porque aparecem em um estudo estrangeiro.

1. Analise por etapa e cargo: as médias de toda a organização podem ocultar diferenças relevantes.
2. Peça evidências para o uso específico: versão do instrumento, população, idioma, função e critérios de decisão.
3. Separe validade de equidade: prever um critério profissional e analisar diferenças entre grupos são questões distintas.
4. Defina responsabilidades: quem investiga um alerta, quem revisa uma recomendação e como as mudanças são documentadas.
5. Proteja as informações: qualquer acompanhamento por grupos exige uma base jurídica e controles de privacidade adequados.

Da notícia a uma decisão de compra informada

A pergunta útil não é apenas se um fornecedor usa IA, mas quais evidências consegue apresentar e quais limites reconhece. Para transformar essa conversa em um processo de análise, leia como validar um teste psicométrico com IA antes de implementá-lo.

Você também pode aprofundar a leitura sobre validade, confiabilidade e equidade. Nenhuma dessas dimensões deve ser confundida com uma promessa de contratação bem-sucedida ou ausência total de vieses.