Cuando Amazon, para buscar nuevo personal, creó un algoritmo para valorar la adecuación de las personas candidatas, se ha visto que la inteligencia artificial también puede reproducir los sesgos y discriminaciones humanos, según informa El Español. Basándose en los macrodatos que tenía esta empresa de contrataciones anteriores, su algoritmo identificó y replicó los patrones humanos de valoración.
El sesgo se vio cuando el algoritmo penalizaba a las personas aspirantes al puesto de trabajo si incluían palabras en femenino (científica, abogada, ingeniera, etc.). Esto resultó en que la mayoría de los contratados fueran hombres, y al ver ese efecto, se investigaron las causas. Se considera uno de los primeros casos de discriminación laboral por cuestión de género dado por un algoritmo.
Así, es necesario conocer estos sesgos y discriminaciones que se pueden dar también por parte del uso de las nuevas tecnologías. Pensar que simplemente por tratarse de tecnología se dará una situación sin discriminación para cualquier tipo de grupo social no es suficiente como ya se ha visto. Saber que los sesgos se reproducen en estas tecnologías para prevenir estas situaciones en un futuro es imprescindible.
👀 Visitas: 321
Co-fundadora de Metoo Schools
Profesora de la Universidad de Barcelona//Titulada en interpretación de Clarinete por el Conservatorio Superior //Co-autora del libro Guía de Comunidades de Aprendizaje