En este artículo+
En Gestión Humana hay una diferencia que conviene tener clara antes de comprar cualquier herramienta: automatizar una tarea y automatizar un criterio son cosas muy distintas, aunque desde fuera se vean parecidas.
Hay tareas que consumen mucho tiempo y que podemos dejar en manos de una herramienta sin problema: responder preguntas frecuentes, organizar información, generar borradores, dar seguimiento a candidatos, preparar reportes, ordenar datos.
Hay otras que, aunque técnicamente se puedan automatizar, deberían hacernos pensar antes. ¿Una herramienta debería decidir qué candidato es "mejor"? ¿Interpretar sola una entrevista, o decirnos quién tiene potencial y quién merece una oportunidad?
Ahí el problema ya no es tecnológico, es de criterio.
Una tarea se corrige; un criterio se multiplica
Piensa en una semana normal de reclutamiento. Puedes tener varias vacantes abiertas, decenas de CV por revisar, entrevistas que coordinar con gerentes que cambian la agenda a última hora y un reporte de time to hire que alguien te va a pedir el viernes. Si una herramienta te agenda las entrevistas y te consolida el reporte, y en algún momento se equivoca, el error se ve rápido: alguien llega a una entrevista que no estaba confirmada o un número no cuadra con el del mes pasado, y lo corriges esa misma tarde.
Con un criterio pasa otra cosa. Si configuras un filtro que descarta a quien tiene más de seis meses sin trabajar, o a quien no estudió en ciertas universidades, ese filtro va a aplicar la misma regla a cada persona que se postule, todos los días y sin que nadie mire a quién dejó fuera. Los candidatos descartados tampoco se quejan, porque casi nunca saben por qué no los llamaron.
Y no es que los reclutadores no tengamos sesgos. Los tenemos, y por eso existen las entrevistas estructuradas y las rúbricas de evaluación. La diferencia es que el sesgo de una persona se puede conversar en una reunión de calibración, y muchas veces sale a la luz cuando dos entrevistadores califican distinto al mismo candidato. Cuando ese sesgo queda metido dentro de una herramienta, deja de verse como una opinión y pasa a verse como el procedimiento.
El caso que todo el mundo cita
En octubre de 2018, Reuters publicó que Amazon había abandonado una herramienta experimental de reclutamiento con IA. Un equipo de la empresa llevaba desde 2014 construyendo programas para revisar currículos y darle a cada candidato una puntuación de una a cinco estrellas, como se califican los productos en la tienda. Los modelos aprendieron a partir de los CV que la empresa había recibido durante diez años, que en su mayoría eran de hombres.
Lo que más me hace ruido de este caso es que nadie le pidió a la herramienta que prefiriera hombres. Aprendió el criterio de las contrataciones anteriores y lo aplicó a cada CV que le pasaba por delante. Reuters también recoge que los reclutadores veían las recomendaciones, aunque nunca se basaron solo en ellas, y que Amazon aseguró que la herramienta no se usó para evaluar candidatos. Aun así, el caso enseña algo que aplica a cualquier empresa: el historial de contratación no es neutral. Si durante años una organización contrató a un mismo perfil para supervisores de producción, una herramienta entrenada con esos datos va a buscar más de lo mismo y lo va a presentar como ajuste al puesto.
Dónde pusieron la línea los reguladores
La Ley de Inteligencia Artificial de la Unión Europea clasifica como de alto riesgo los sistemas de IA destinados al reclutamiento o la selección de personas: los que deciden a quién se le muestra un anuncio de empleo, los que analizan solicitudes, los que las filtran y los que evalúan candidatos. En la misma categoría entran los que se usan para decidir promociones o terminaciones de contrato, para asignar tareas según el comportamiento o los rasgos de cada persona, para fijar condiciones de trabajo y para monitorear o evaluar el desempeño. Está en el Anexo III, punto 4.
En Nueva York, la Ley Local 144 exige desde julio de 2023 que las herramientas automatizadas que empresas y agencias de empleo usan para decidir contrataciones o promociones en la ciudad tengan una auditoría de sesgo hecha en el último año y que el resumen de esa auditoría sea público. Además, los candidatos tienen que recibir un aviso con diez días hábiles de anticipación.
Ninguna de las dos se escribió pensando en el mercado dominicano. Lo que me parece interesante es el lugar donde las dos pusieron la línea. Fíjate que ni una ni otra se ocupan de la herramienta que agenda entrevistas o que redacta el borrador de una descripción de puesto. Las dos van detrás de lo que influye en quién entra a una empresa y en quién sale de ella, que es la parte del trabajo donde Gestión Humana tiene más responsabilidad.
Cómo decidir qué sí y qué no
La IA puede ayudarnos a ordenar información, encontrar patrones, resumir lo que salió en una entrevista y preparar una decisión. Eso no quiere decir que tengamos que entregarle la decisión.
Creo que el avance de verdad para Gestión Humana está en aprender qué cosas ya no necesitamos hacer nosotros y cuáles tenemos que seguir haciendo, justamente porque se trata de personas. Para separar unas de otras, antes de automatizar algo en tu área sirve hacerse estas preguntas:
- ¿Esta tarea afecta directamente si una persona entra, se queda, crece o sale de la empresa?
- Si la herramienta descarta a alguien, ¿le podrías explicar a esa persona por qué?
- ¿Quién revisa lo que la herramienta deja fuera, y cada cuánto tiempo?
- ¿Con qué datos se entrenó o se configuró, y esos datos reflejan decisiones que quieres repetir?
- ¿El criterio estaba bien definido antes de automatizarlo, o la herramienta va a aplicar algo que tu equipo nunca terminó de acordar?
- Si se equivoca, ¿cuántas personas pasan por ese error antes de que alguien lo note?
Cuando la respuesta a la primera pregunta es sí, la herramienta puede preparar y sugerir, y una persona con nombre y apellido tiene que revisar y responder por la decisión.
En la práctica eso se traduce en cosas bastante concretas: pedirle al proveedor la auditoría de sesgo antes de firmar, revisar cada cierto tiempo una muestra de los candidatos que el filtro descartó, documentar los criterios de cada vacante antes de cargarlos al sistema y dejar por escrito quién toma la decisión final en cada etapa del proceso de selección.
Fuentes
- Dastin, J. (2018). Amazon scraps secret AI recruiting tool that showed bias against women. Reuters, 10 de octubre de 2018.
- Unión Europea (2024). Reglamento (UE) 2024/1689, Ley de Inteligencia Artificial. Anexo III: Sistemas de IA de alto riesgo a que se refiere el artículo 6, apartado 2.
- NYC Department of Consumer and Worker Protection. Automated Employment Decision Tools (Local Law 144 de 2021).
Por Kimberly Mariel Contreras Liriano
Recibe las notas nuevas en tu correo
Cuando publique algo nuevo sobre Gestión Humana, IA o neurodivergencia, te llega un aviso. Nada más.
Tu correo solo se usa para avisarte de notas nuevas. Si quieres salir de la lista, escríbeme y te quito.