La tecnología digital está revolucionando el mundo, pero su avance no está exento de problemas significativos. Aunque a menudo celebramos los aspectos positivos de la tecnología, existe una creciente preocupación sobre cómo esta puede ser racista, sexista e intersección, como informa la profesora Meredith Broussard de la Universidad de Nueva York. Los problemas no son simplemente fallos temporales; son sesgos estructurales incrustados desde el diseño y no pueden solucionarse con una simple actualización de software o del código.
En este contexo, es esencial esencial comprender cómo funcionan los algoritmos para anticipar y manejar los problemas en entornos digitalizados. A menudo se asume que las decisiones tomadas por los sistemas computacionales son más justas que las humanas, sin cuestionar la validez de los datos subyacentes. Sin embargo, detrás de cada algoritmo hay decisiones tomadas por humanos, con sus propios prejuicios y limitaciones.
La necesidad de la alfabetización AI en el diseño digital
Con el crecimiento de aplicaciones y plataformas impulsadas por IA, la alfabetización en inteligencia artificial se está convirtiendo en una competencia crucial. Expartas y expertos en la materia advierten que muchos algoritmos siguen siendo invisibles, lo que complica el desarrollo de una comprensión crítica de su funcionamiento. Según Sayamindu Dasgupta y Benjamin Mako Hill (2021) , es fundamental que las personas diseñadoras desarrollen sistemas que permitan a las personas usuarias explorar y cuestionar algoritmos, promoviendo así una alfabetización crítica.
Para ello los autores han desarrollado a través de sus investigaciones y experiencia cuatro principios clave para el diseño:
1.Conexión con los datos: Permitir que las personas participen en el análisis de datos relevantes para su entorno, promoviendo una comprensión más profunda y directa.
- Espacios para ideas arriesgadas: Crear entornos donde se pueda experimentar con algoritmos y reconocer tanto sus beneficios como sus posibles problemas.
- Enfoques comunitarios: Integrar los valores y necesidades de las comunidades en el diseño de algoritmos para abordar cuestiones de justicia, privacidad y no discriminación.
- Autenticidad significativa: Diseñar experiencias educativas que reflejen contextos reales y permitan a las personas influir en el diseño y la dirección de su aprendizaje.
Abordar los prejuicios en la tecnología requiere un enfoque directo y consciente. Solo al entender cómo los sesgos del mundo real se manifiestan en los sistemas digitales podremos iniciar el proceso de corrección y responsabilidad necesario para avanzar hacia una tecnología más equitativa.
