El Transregional Collaborative Research Centre “Constructing Explainability” (TRR 318), desarrollado por las universidades de Paderborn y Bielefeld y financiado por la Fundación Alemana de Investigación (DFG), iniciará en enero de 2026 su segunda fase de financiación tras una primera etapa de cuatro años y medio considerada un éxito, tal y como informa Eurekalert.
Desde 2021, más de 60 especialistas en informática, lingüística, estudios de los medios, filosofía, psicología, sociología y economía han trabajado juntos para hacer que la inteligencia artificial (IA) sea más comprensible para las personas. Su enfoque va más allá de la “IA explicable” tradicional, al considerar que las explicaciones deben adaptarse a las necesidades del usuario y surgir como un proceso bidireccional.
Las investigaciones del TRR 318 muestran que las explicaciones en monólogo son menos eficaces que las construidas mediante diálogo, en las que quienes interactúan pueden indicar, mediante gestos, lenguaje o reacciones, qué han entendido y qué necesitan aclarar.
Tradicionalmente, la llamada Explainable Artificial Intelligence (XAI) se ha centrado en abrir la “caja negra” de los algoritmos, ofreciendo explicaciones técnicas —por ejemplo, qué variables influyeron en una predicción— para que desarrolladores, reguladores puedan interpretarlas. Pero la inteligencia artificial social aspira a ir un paso más allá: diseñar sistemas que generen explicaciones en lenguaje natural, adaptadas al perfil, contexto y necesidades del usuario, adecuadas al tipo de interacción: formal, coloquial, técnica, personal.
Este enfoque —respaldado por equipos multidisciplinares, como el del TRR 318— implica que la IA ya no sólo debe “funcionar bien”, sino “relacionarse bien”: reconocer emociones, respetar diversidad, evitar sesgos, salvaguardar la autonomía y dignidad de la persona. Además, debe permitir transparencia, trazabilidad y responsabilidad: las personas usuarias deben entender por qué la IA tomó una decisión, poder cuestionarla y tener la posibilidad de recurrirla si les afecta.
Estos principios coinciden con los promovidos por organismos internacionales como UNESCO: proporcionalidad, equidad, transparencia, seguridad y respeto a los derechos fundamentales cuando se implementan sistemas de IA.
👀 Visitas: 41
