Saltar al contenido
Cosas Tecnológicas

El papel de los recursos humanos en la comprensión y mitigación del sesgo de la inteligencia artificial

Los beneficios que brindan la inteligencia artificial y el aprendizaje automático son muy maduros. Esta tecnología puede ayudar a las empresas a automatizar procesos, obtener conocimientos a través del análisis de datos e interactuar con clientes y empleados. Puede ayudarlos a satisfacer las cambiantes demandas del mercado, simplificar los costos operativos y mantenerse competitivos en un mundo digital cada vez más acelerado.

El papel de los recursos humanos en la comprensión y mitigación del sesgo de la inteligencia artificial

Hoy en día, muchos de los principales proveedores de servicios en la nube incluso ofrecen capacidades de inteligencia artificial en sus paquetes de servicios, lo que populariza esta tecnología para empresas que quizás no puedan permitirse el lujo de costosos ingenieros de inteligencia artificial y científicos de datos internos.

Para el equipo de recursos humanos, el valor de la inteligencia artificial está fuera de toda duda. Cuando una sola lista de trabajos da como resultado cientos de solicitantes, revisar manualmente cada currículum es una tarea difícil y, a menudo, poco práctica. Mediante el uso de inteligencia artificial y tecnología de aprendizaje automático, los equipos de RR.HH. pueden evaluar a los candidatos a puestos de trabajo a gran escala y hacer sugerencias de contratación de forma más eficaz.

Las consecuencias del sesgo de recursos humanos causado por la inteligencia artificial son significativas

Si bien la inteligencia artificial brinda a los equipos de RR.HH. beneficios obvios, también presenta desafíos considerables y posibles dificultades. Al igual que con cualquier sistema de IA, uno de los problemas más difíciles (pero más críticos) que debe abordar de frente es asegurarse de que no esté sesgado.

Esto es especialmente importante para el sistema de inteligencia artificial de RR.HH., porque cualquier prejuicio causado por la inteligencia artificial hará que la empresa discrimine a los candidatos calificados, generalmente sin saberlo.

¿Recuerda que hace unos años Amazon tuvo que desechar su sistema de inteligencia artificial para evaluar currículums para castigar a las solicitantes femeninas? Este es un ejemplo perfecto, aunque desafortunado, del poder de los datos de entrenamiento. En ese momento, la mayoría de los empleados de Amazon eran hombres, por lo que los algoritmos que impulsan el sistema de inteligencia artificial se entrenaron con los datos propios de la empresa, vinculando aplicaciones exitosas con palabras orientadas a hombres.

Al hacerlo, el modelo ignora por completo a las candidatas calificadas. La lección: si los datos utilizados para entrenar el modelo de IA están sesgados, el sistema de IA implementado también estará sesgado. Seguirá reforzando este prejuicio de forma indefinida.

Tanto la subcontratación de sistemas de inteligencia artificial como la cultura de la empresa requieren un estudio cuidadoso

En el caso de Amazon, el sistema de inteligencia artificial para la detección de currículums se construyó internamente y se entrenó utilizando los datos de los solicitantes de empleo de la empresa. Pero la mayoría de las empresas no tienen los recursos para construir sistemas internos de inteligencia artificial para sus departamentos de recursos humanos. Como resultado, los equipos de recursos humanos subcontratan cada vez más el trabajo a proveedores como Workday o Google Cloud. Desafortunadamente, también suelen subcontratar la diligencia debida.

El equipo de RR.HH. reconoce que la enorme responsabilidad que conlleva la subcontratación de cualquier implementación de IA es más importante que nunca. No acepte ni implemente ciegamente el modelo de su proveedor de inteligencia artificial. Usted y su equipo deben revisar los sistemas repetidamente para asegurarse de que no estén sesgados. Tienes que seguir preguntando:

  • ¿Qué fuentes de datos (o combinaciones de fuentes de datos) se utilizan para entrenar el modelo?
  • ¿Qué factores específicos utiliza el modelo para tomar decisiones?
  • ¿El resultado es satisfactorio o está sesgado? ¿Es necesario apagar temporalmente el sistema y volver a evaluarlo?

La revisión cuidadosa de los datos de entrenamiento es muy importante, especialmente en los sistemas de IA subcontratados. Pero este no es el único requisito para reducir los datos sesgados por prejuicios que provienen de un entorno laboral sesgado.

Por lo tanto, su equipo de RR.HH. también es responsable de evaluar cualquier prejuicio o injusticia dentro de la organización. Por ejemplo, ¿los hombres tienen más poder en la empresa que las mujeres? ¿Qué comportamiento problemático se ha considerado aceptable durante mucho tiempo? ¿Los empleados de grupos subrepresentados brindan todas las oportunidades de éxito?

Al incorporar IA, la diversidad, la equidad y la inclusión de la cultura de su empresa son absolutamente relevantes porque impulsa la forma en que se implementan los sistemas y los resultados de IA. Recuerde, la inteligencia artificial no sabe que está sesgada. Depende de nosotros resolverlo.

Tres mejores prácticas para el uso justo e imparcial de la inteligencia artificial

En última instancia, los equipos de recursos humanos deben poder comprender lo que su sistema de inteligencia artificial puede y no puede hacer. Ahora, su equipo de recursos humanos no tiene que ser un experto técnico, ni tiene que comprender los algoritmos que respaldan el modelo de IA.

Pero sí necesitan saber qué tipos de sesgos se reflejan en los datos de capacitación, cómo encajan los sesgos en la cultura de la empresa y cómo el sistema de inteligencia artificial puede hacer que estos sesgos sean permanentes.

Aquí hay tres mejores prácticas tácticas que pueden ayudar a su equipo de recursos humanos a utilizar la tecnología de inteligencia artificial de manera justa y equitativa.

  1. Audite periódicamente el sistema de inteligencia artificial. Ya sea que su sistema esté construido internamente o subcontratado a un proveedor, verifique los datos recopilados con regularidad para entrenar el modelo y los resultados generados. ¿Es el conjunto de datos lo suficientemente grande y diverso? ¿Incluye información sobre grupos protegidos, incluida la raza y el género? Si el resultado no es satisfactorio, no dude en apagar el sistema para cambiar de dirección.
  2. Comprender la cadena de suministro de datos. Cuando confíe en sistemas de IA listos para usar y subcontratados, tenga en cuenta que los datos de capacitación pueden reflejar los sesgos de los conjuntos de datos del proveedor o de terceros. presta atención.
  3. Utilice inteligencia artificial para mejorar, no reemplazar. Las capacidades de la inteligencia artificial se están desarrollando rápidamente, pero la realidad es que la inteligencia artificial aún debe gestionarse. Debido a los riesgos, los equipos de recursos humanos deben usar inteligencia artificial para mejorar su función, no para reemplazarla. Los seres humanos todavía necesitan tomar decisiones finales sobre contratación y recursos humanos.

Con la ayuda de la inteligencia artificial, el equipo de RR.HH. puede descubrir la desigualdad de la empresa.

Su equipo de recursos humanos se encuentra en una posición única para utilizar la tecnología de inteligencia artificial de manera justa y equitativa porque ya conocen bien los problemas sistémicos de prejuicio e injusticia.

Reconozca las responsabilidades requeridas por los sistemas de IA y comprenda constantemente cómo se capacitan y producen resultados.

Si se hace correctamente, la inteligencia artificial ayudará a su equipo de RR.HH. a descubrir sesgos en lugar de hacerlos permanentes, mejorará la eficiencia y la eficacia de las tareas de RR.HH. y promoverá el desarrollo profesional de los solicitantes merecidos y los empleados valiosos.

Fuente de la imagen: producida por rodnae; píxeles; ¡gracias!