Descripción del proyecto

Los sistemas de inteligencia artificial-IA- visual constituyen componentes críticos de las plataformas digitales, desde la moderación de contenidos hasta la generación de imágenes. Investigaciones recientes demuestran que estos sistemas codifican y amplifican sesgos sociales, con disparidades documentadas que afectan especialmente a mujeres y minorías étnicas. Estos sesgos pueden constituir riesgos sistémicos conforme al Reglamento de Servicios Digitales y plantean desafíos para el cumplimiento de los requisitos de no discriminación del Reglamento Europeo de IA. Este proyecto propone diseñar, desarrollar y validar un protocolo de evaluación de sesgos en sistemas de IA visual adaptado al contexto español. La hipótesis central es que las metodologías de evaluación de sesgos desarrolladas para modelos de lenguaje natural pueden transferirse al dominio visual mediante un enfoque cross modal, y combinarse con las existentes para generar marcos de análisis aplicables a la supervisión del ecosistema digital español. La metodología se estructura en tres fases: análisis de marcos existentes, diseño del protocolo con métricas interpretables y estímulos contextualizados para España, y validación exploratoria sobre modelos representativos. Los entregables incluyen una cartografía de riesgos, el protocolo documentado, una guía operativa con recomendaciones de actuación graduadas, y sesiones de transferencia de conocimiento. El proyecto dotará a la SEDIA de herramientas metodológicas para fundamentar técnicamente la supervisión de riesgos algorítmicos. El diseño bidireccional de la estancia permitirá además orientar futuras líneas de investigación hacia las necesidades reales de la administración pública.