¿Puede la inteligencia artificial discriminar al contratar? Lo que reveló Stanford en 2026

La inteligencia artificial puede producir disparidades entre grupos al recomendar candidatos. Un estudio presentado en ACM FAccT 2026 analizó cerca de cuatro millones de postulaciones evaluadas con herramientas de Pymetrics y encontró diferencias raciales que el análisis agregado ocultaba. El hallazgo exige revisar resultados por vacante; no demuestra que toda IA discrimine ni determina por sí solo una infracción legal.

¿Qué investigó Stanford sobre Pymetrics?

El equipo de Rishi Bommasani, Sarah H. Bana, Kathleen A. Creel, Dan Jurafsky y Percy Liang estudió aproximadamente tres millones de personas que enviaron cuatro millones de postulaciones. Según Stanford Report, los datos corresponden a casi dos mil puestos entre 2018 y 2022. Los resultados se presentaron el 27 de junio de 2026 en ACM FAccT, en Montreal.

Tras postular, las personas completaban evaluaciones basadas en juegos de Pymetrics, destinadas a medir características como tolerancia al riesgo, concentración y generosidad. A partir de los resultados, los algoritmos clasificaban las postulaciones como “recomendar” o “no recomendar”. Una recomendación de avanzar no equivale a una contratación; una recomendación negativa tampoco describe por sí sola la decisión final del empleador.

¿Qué encontraron al separar los resultados por vacante?

La distinción importante es la unidad de análisis. Al agrupar todas las postulaciones, las diferencias no superaban el umbral utilizado por los investigadores. Al revisar cada puesto, aparecieron disparidades que el promedio general no mostraba.

• 25,87 % de las postulaciones de personas negras se enviaron a puestos que mostraban impacto adverso para ese grupo según el criterio usado.
• 14,74 % de las postulaciones de personas asiáticas se enviaron a puestos que mostraban impacto adverso para ese grupo.
• Unas 40.000 postulaciones adicionales de ambos grupos habrían sido recomendadas si las tasas se hubieran igualado entre grupos raciales, según el cálculo contrafactual resumido por Stanford.

Los dos porcentajes proceden del artículo de investigación, Algorithmic Monocultures in Hiring. No representan el porcentaje de todas las personas rechazadas, ni prueban que cada una de esas postulaciones haya sufrido discriminación individual. Las 40.000 corresponden a postulaciones, no a personas distintas ni a empleos perdidos demostrados.

¿Qué es la regla de las cuatro quintas partes?

La regla compara la tasa de selección de un grupo con la tasa más alta entre los grupos analizados. Si la razón es menor que 0,80, puede existir una señal de impacto adverso que requiere investigación. La EEOC explica que es una regla práctica, no una definición jurídica de discriminación.

Ejemplo hipotético: si avanza el 60 % de un grupo y el 42 % de otro, la razón es 42 ÷ 60 = 0,70. Esa diferencia activa una señal de revisión bajo el criterio del 80 %. No significa que la herramienta tenga “70 % de precisión” ni que un tribunal haya establecido una infracción.

El tamaño de muestra, la incertidumbre estadística y el contexto importan. Una diferencia con pocos casos puede ser inestable; una razón superior al 80 % no garantiza ausencia de problemas. El objetivo es investigar las diferencias, no convertir un umbral en un certificado de equidad.

¿Por qué una herramienta basada en datos puede producir sesgo?

Eliminar el currículum no elimina automáticamente el riesgo de disparidades. Las variables medidas, las etiquetas usadas para entrenar un modelo, los criterios del puesto y los umbrales de decisión pueden influir en los resultados. Son aspectos a examinar, no causas que este estudio haya demostrado.

Los investigadores señalan que todavía no conocen qué explica las diferencias observadas. Atribuirlas sin más a datos históricos sesgados excedería la evidencia. También sería incorrecto concluir que toda evaluación gamificada, psicométrica o con IA funciona igual: la investigación analizó algoritmos de un proveedor y un conjunto de postulaciones concreto.

¿Qué significa “monocultura algorítmica” en contratación?

Cuando distintas empresas utilizan algoritmos de un mismo proveedor, sus recomendaciones pueden ser menos independientes de lo que parecen. En la muestra, el 4 % de quienes postularon a diez puestos recibieron recomendaciones negativas en todos ellos, más de lo esperado si las decisiones fueran independientes. Este resultado describe ese subgrupo y ese contexto; no es una tasa general de rechazo para todos los candidatos.

La preocupación no es solo una recomendación aislada. Una persona puede encontrar el mismo patrón de evaluación en varias empresas. Eso refuerza la importancia de una revisión humana real y de canales para aclarar errores o aportar información pertinente.

¿Qué deberían revisar las empresas en Latinoamérica?

La regla estadounidense no se convierte automáticamente en una obligación legal en Chile, Perú, Colombia, México o Brasil. Los requisitos laborales, de igualdad y de protección de datos deben revisarse en cada país. Tampoco corresponde recopilar categorías sensibles únicamente porque aparecen en un estudio extranjero.

1. Revisa por etapa y puesto: los promedios de toda la organización pueden ocultar diferencias relevantes.
2. Pide evidencia del uso concreto: versión del instrumento, población, idioma, rol y criterios de decisión.
3. Separa validez de equidad: predecir un criterio laboral y analizar diferencias entre grupos son preguntas distintas.
4. Define responsabilidades: quién investiga una alerta, quién revisa una recomendación y cómo se documentan los cambios.
5. Protege la información: cualquier seguimiento por grupos requiere una base jurídica y controles de privacidad adecuados.

De la noticia a una decisión de compra informada

La pregunta útil no es solamente si un proveedor usa IA, sino qué evidencia puede mostrar y qué límites reconoce. Para convertir esa conversación en un proceso de revisión, lee cómo validar una prueba psicométrica con IA antes de implementarla.

También puedes profundizar en validez, confiabilidad y equidad. Ninguna de estas dimensiones debe confundirse con una promesa de contratación exitosa o ausencia total de sesgos.