Del derecho a saber a la transparencia algorítmica: tres días para repensar la Administración del futuro de la mano del Consejo y la UIMP

En el encuentro, que tuvo un gran éxito de convocatoria con más de 60 alumnos inscritos, participaron especialistas en transparencia, tecnología, protección de datos... Los ponentes pusieron de relieve, por una parte, que en un Estado democrático es necesario garantizar la transparencia algorítmica y, por otra, que el uso de la IA abre enormes posibilidades para mejorar la rendición de cuentas, la integridad y la transparencia del sector público. 

Inauguraron el curso la presidenta del Consejo, Concepción Campos, el vicerrector de Programación de la UIMP, Salvador Torodo, y el director general de Simplificación Administrativa, Transparencia y Participación Ciudadana del Gobierno de Cantabria, Paulino Sánchez, que destacaron el indudable poder que tiene la IA para mejorar las Administraciones Públicas y los servicios que prestan al ciudadano, y que el reto es garantizar que los ciudadanos siguen entendiendo cómo se toman las decisiones que afectan a sus vidas.

La presidenta del Consejo recordó en su ponencia “Transparencia y algoritmos: garantías jurídicas en la toma de decisiones públicas”, con la que se abrió el curso, que “en el mundo digital deben preservarse las mismas garantías de los derechos ciudadanos que en el mundo offline”. Debemos tener en cuenta que la tecnología que sirve para que las administraciones tomen decisiones automatizadas pueden no ser neutrales y tener sesgos. Por ello, dijo, “tenemos que garantizar que la ciudadanía comprende cómo funcionan, que no se produce arbitrariedad y que se siguen motivando los actos administrativos. Hay que evitar la automatización acrítica”. Abogó por ampliar las obligaciones de publicidad activa y por una transparencia desde el diseño, así como por aprovechar el potencial de la tecnología para luchar contra el abuso del silencio administrativo ante las solicitudes de información pública. “Desde el punto de vista de la transparencia, hemos salido ganando con la tecnología”, defendió, y recordó que el Consejo tiene como objetivo ser un referente cercano y una ayuda para que las Administraciones cumplan sus obligaciones legales en esta materia. 

En su ponencia, el presidente de la Agencia Española de Protección de Datos (AEPD), Lorenzo Cotino, defendió la necesidad de que las autoridades de supervisión en materia de protección de datos personales, transparencia e IA (AEPD, CTBG y AESIA, respectivamente) elaboren criterios comunes que sirvan de guía a las Administraciones Públicas para garantizar la necesaria protección de datos, la trazabilidad y la explicabilidad de las decisiones sustentadas en la inteligencia artificial que, recordó, va a ser tan imprescindible “como el respirar”, pues incrementa exponencialmente las capacidades y la eficiencia de las organizaciones.

Por su parte, el doctor ingeniero de Telecomunicación Manuel J. García Rodríguez (Banco de España) destacó en que las AAPP deben diseñar y licitar sus sistemas informáticos incorporando el principio de la transparencia y la obligación de explicabilidad en los propios pliegos. También apostó por clarificar las competencias e impulsar la coordinación entre los distintos niveles de la administración y los órganos de garantía, así como por la creación de un repositorio de código fuente constantemente actualizado, dinámico y que permita comparar las versiones de las aplicaciones administrativas que usan automatización o IA, a modo de registros de algoritmos.

“La gestión documental es una infraestructura crítica para la transparencia”. Con esta afirmación se abría el debate  en la sesión que cerró la primera jornada, con la participación del subdirector adjunto de Transparencia y Buen Gobierno del CTBG, Julián Prior, la consejera técnica de la Subdirección General de Reclamaciones de Ámbito Estatal, Carmen Rial y el subdirector adjunto de Reclamaciones de Ámbito Estatal, José Santiago Fernández. Las Administraciones, subrayaron, producen información y documentación a un ritmo cada vez más vertiginoso y una correcta utilización de la IA es clave para poner a disposición de la ciudanía toda esta información y evitar la opacidad, “ya que producir información no es lo mismo que comunicarla y transmitirla de forma eficiente al ciudadano”. En la sesión, de carácter práctico, detallaron los riesgos y oportunidades que supone la IA en todo el ciclo de la gestión documental, insistiendo en la importancia de la alianza y la colaboración entre gestores documentales, personal TIC y jurídico, para asegurar la conservación de la información, ahora en formato digital, en un futuro.

Abrió la segunda jornada del encuentro el subdirector general de Transparencia y Buen Gobierno, Gonzalo Gómez de Villalobos, que abordó cómo la IA puede servir para potenciar uno de los dos pilares de la transparencia en España: la publicidad activa. Detalló cómo la tecnología puede aprovecharse para mejorar la información que publican las AAPP para rendir cuentas y también para facilitar el propio trabajo de evaluación del cumplimiento de estas obligaciones que realizan los órganos de garantía. Anunció que el Consejo está trabajando en la actualización de su metodología de evaluación MESTA y en la elaboración de una guía de ayuda a los sujetos obligados sobre publicidad activa, entre otros proyectos.

Cómo la IA está afectando al segundo pilar que configura el sistema de transparencia en España, el derecho de acceso a la información pública, centró la intervención de la subdirectora general de Reclamaciones de Ámbito Estatal del CTBG, Marta Timón. “Entramos en un terreno más complejo que el que teníamos -afirmó- en el que cada vez hay más solicitudes de acceso a la información relacionadas con algoritmos, modelos y datos”, que van a exigir un esfuerzo de “ponderación muy fina”. También habló del incremento y los cambios que puede suponer la IA tanto en las solicitudes de información que reciben las Administraciones como en las reclamaciones que reciben los órganos de garantía. Esto conlleva riesgos, apuntó, pero también la oportunidad de usar la tecnología para mejorar cómo la Administración satisface el ejercicio del derecho, sin olvidar la necesidad de mantener los  canales tradicionales para colectivos vulnerables afectados por la brecha digital.  

Por su parte, el subdirector general de Reclamaciones de Comunidades Autónomas y Entidades Locales del CTBG, José Manuel Jover, coincidió en señalar que la IA es una herramienta de la que se pueden servir las Administraciones para mejorar la respuesta a las solicitudes de información que, en la actualidad, en un elevadísimo porcentaje, son rechazadas por silencio administrativo (el 45% de las reclamaciones de ámbito estatal resueltas por el Consejo en 2025 se habían presentado por esta causa; porcentaje que se eleva al 75% en el ámbito autonómico y local de aquellas CC.AA. que han atribuido al Consejo el ejercicio de esta competencia). En su ponencia ofreció una demostración práctica de cómo la IA puede, en aquellas reclamaciones más sencillas, ser de gran ayuda a través de la automatización y su uso predictivo.

La transparencia como medio de garantía para un uso ético y responsable de la IA fue el hilo conductor de la ponencia del catedrático de Filosofía del Derecho y decano de la Facultad de Derecho de la Universidad de Sevilla, Fernando Llano. “Cuando decide una máquina, transparencia ya no es solo enseñar el expediente: es que el ciudadano pueda comprender, fiscalizar y reproducir la lógica de la decisión, y también poder impugnarla”. La opacidad algorítmica convierte al ciudadano en un número; ningún acto automatizado está motivado si su lógica no es comprobable; la opacidad genera arbitrariedad y por eso es tan importante la transparencia”, para asegurar los derechos de la ciudadanía, dijo. 

Por su parte, María Esteller, subdirectora general de Informes e Infraestructuras de Prueba de la Agencia Estatal de Supervisión de Inteligencia Artificial (AESIA), detalló el trabajo y funciones de este organismo para supervisar e impulsar la cultura sobre la inteligencia artificial en España. Esteller desglosó asimismo las obligaciones de transparencia que establece el artículo 50 del Reglamento Europeo de IA, que entra en vigor en agosto, exponiendo la importancia de la explicabilidad de las decisiones apoyadas o basadas en herramientas tecnológicas.

La visión de la sociedad civil sobre la transparencia y la IA llegó de la mano de varias organizaciones y profesionales muy activos en la defensa del derecho a saber, que expusieron distintas iniciativas que han desarrollado en este ámbito. Intervinieron Luis Cayo Pérez, presidente del Comité Español de Representantes de Personas con Discapacidad (CERMI); David Cabo, cofundador de la Fundación Civio; David Fernández, ingeniero informático, creador de las plataformas Contratación Abierta y PideInfo; Germán J. Arenas, investigador de la Fundación Hay Derecho, y Mónica Roa, investigadora de Transparencia Internacional España. Incidieron en la necesidad de que la Administración incorpore personal con conocimiento tecnológico, que se mejore la accesibilidad a la información desde el enfoque del “derecho a entender”, y que se habilite un inventario que recoja las aplicaciones y sistemas que incorporan decisiones automatizadas. También reclamaron que se refuercen los recursos tanto de aquellas unidades administrativas que se encargan de la transparencia como de los propios órganos garantes a los que, subrayaron, debe dotarse de potestades sancionadoras.

La última jornada del curso se abrió con una mesa de debate sobre la transparencia y la IA en el ámbito europeo, en la que se comparó la regulación comunitaria y la gobernanza en esta materia con otros modelos. “El sistema europeo es garantista y antropocéntrico”, resumió la secretaria general del CTBG, Isabel Lombardero. Por su parte, el presidente del Observatorio Sector Público e Inteligencia Artificial, Gabriele Vestri, advirtió que “la IA en determinadas cualidades ya nos ha superado a los humanos” y apostó por la necesidad de que las entidades públicas se doten de códigos de buen uso, “que no existen en la mayoría de los casos” y de comités de ética en la materia, ya que la IA “está afectando a nuestros derechos fundamentales”. María Pascual, especialista de Políticas Públicas, Anticorrupción, Integridad y Gobierno abierto de la OCDE, habló de los principios sobre la IA aprobados por este organismo multilateral como guía para la interpretación del Reglamento Europeo de IA, que reconoce el derecho “de obtener una explicación clara y significativa cuando una decisión automatizada impacta en nuestras vidas”.

La última sesión del curso abordó los nuevos escenarios jurídicos que se abren ante la IA. La directora de Gabinete del CTBG, Isabel Jiménez, analizó los desafíos que la tecnología y, en concreto la inteligencia artificial, despliegan sobre las categorías jurídico-administrativas tradicionales sobre las que se asienta nuestro modelo de Estado y la necesidad de someterlas a examen para su preservación. Por su parte, el magistrado del Tribunal Supremo Juan Pedro Quintana explicó de forma pormenorizada la relevante sentencia BOSCO, de la que ha sido ponente, y subrayó la importancia de garantizar la explicabilidad de las decisiones automatizadas, ya que “difícilmente se pueden combatir los sesgos que puedan tener los algoritmos con opacidad”, sin que esto requiera necesariamente, en todos los casos, el acceso al código fuente, lo que exigirá ponderar. Junto a ello, explicó el valor del concepto de “reserva de humanidad”. La catedrática de Derecho Administrativo de la Universidad de Castilla-La Mancha, Susana de la Sierra, subrayó que la IA es una tecnología transversal, y que, por tanto, hace falta, más que una regulación sectorial, “una reflexión transversal para ver cómo se introducen las necesarias garantías jurídicas y normativas”. Junto a ello destacó que hoy día el control de la Administración Pública es dual, lo que reclama crear instrumentos de cooperación entre todos los organismos que desarrollan esa función; también abogó por la habilitación de mecanismos específicos para que la ciudadanía pueda recurrir los actos en los que han intervenido los algoritmos.

La secretaria de Estado de Función Pública, Consuelo Sánchez, clausuró el encuentro, destacando que “la transparencia ya no es publicar documentos, es explicar procesos complejos” y uno de los retos es “pasar de la transparencia formal a la transparencia real”. “La IA no es el fin de la transparencia, es la mayor prueba de su madurez”, afirmó, y aseguró que “la IA puede transformar la Administración, pero solo la transparencia puede garantizar que esa transformación no suponga pérdida de control democrático”.