Muchos científicos y científicas están estudiando cómo hacer los modelos de machine learning más justos al utilizarlos en el mundo real. Uno de los problemas es que, muchos modelos que se suelen usar para tareas de reconocimiento de imágeners codifican sesgos si los datos con los que se entrenan no están equilibrados, por ejemplo entre mujeres y hombres. Para superar este reto, investigadores e investigadoras del MIT han creado una nueva técnica que aumenta la capacidad de los modelos de reducir el sesgo independientemente de si se han entrenado con datos equilibrados o no.
Puesto que los sesgos de los modelos de machine learning no se pueden arreglar una vez han sido entrenados, esta nueva técnica permite introducir igualdad en la propia representación interna del modelo. Tal como explica Natalie Dullerud, estudiante de doctorado en el Healthy ML Group of the Computer Science and Artificial Intelligence Laboratory (CSAIL) del MIT, puesto que no siempre disponemos de bases de datos equilibradas, hay que buscar nuevas formas de solucionar el problema con los datos de los que se dispone.
El grupo de investigadores e investigadoras estudió el modelo en reconocimiento facial y en clasificar especies de pájaros. En ambos casos encontraron que el modelo reducía las brechas de resultados causadas por el sesgo.
PhD de la Universidad de Wisconsin-Madison