La Unión Europea lleva tiempo queriendo controlar más y mejor el impacto que tiene la Inteligencia Artificial (IA) en las personas. En un intento de avanzar en este sentido, la semana pasada presentó un reglamento (que se espera que se vaya a convertir en ley en unos pocos años) para poder hacer más fácil que personas y colectivos demanden a los y las responsables de algoritmos dañinos y poder multarles.
Algunos de los daños que la IA puede causar son, por ejemplo, el aumento de la desinformación en las redes, sesgos a la hora de aprobar o rechazar préstamos (que afectan a las minorías), o discriminación en cuanto a los sistemas de reconocimiento facial. Es por ello que el nuevo reglamento requerirá controles adicionales en aquellos usos de IA considerados de “alto riesgo”. Entre estos se encuentran los sistemas de videovigilancia o la atención médica.
Desde que ha salido la noticia, como explican en MIT Technology Review, ha habido diferentes posturas. Por un lado, las empresas tecnológicas han afirmado que estas medidas paralizarán la innovación. Por otro lado, los colectivos defensores de los y las consumidoras han explicado que las medidas no son suficientes.
PhD de la Universidad de Wisconsin-Madison