Do dereito a saber á transparencia algorítmica: tres días para repensar a Administración do futuro da man do Consello e a UIMP

No encontro, que tivo un gran éxito de convocatoria con máis de 60 alumnos rexistrados, participaron especialistas en transparencia, tecnoloxía, protección de datos... Os relatores puxeron de relevo, por unha banda, que nun Estado democrático é necesario garantir a transparencia algorítmica e, por outra, que o uso da IA abre enormes posibilidades para mellorar a rendición de contas, a integridade e a transparencia do sector público.

Inauguraron o curso a presidenta do Consello, Concepción Campos, o vicerreitor de Programación da UIMP, Salvador Torodo, e o director xeral de Simplificación Administrativa, Transparencia e Participación Cidadá do Goberno de Cantabria, Paulino Sánchez, que destacaron o indubidable poder que ten a IA para mellorar as Administracións Públicas e os servizos que prestan ao cidadán, e que o reto é garantir que os cidadáns seguen entendendo como se toman as decisións que afectan as súas vidas.

A presidenta do Consello lembrou no seu relatorio “Transparencia e algoritmos: garantías xurídicas na toma de decisións públicas”, coa que se abriu o curso, que “no mundo dixital deben preservarse as mesmas garantías dos dereitos cidadáns que no mundo offline”. Debemos ter en conta que a tecnoloxía que serve para que as administracións tomen decisións automatizadas poden non ser neutrais e ter rumbos. Por iso, dixo, “temos que garantir que a cidadanía comprende como funcionan, que non se produce arbitrariedade e que se seguen motivando os actos administrativos. Hai que evitar a automatización acrítica”. Avogou por ampliar as obrigas de publicidade activa e por unha transparencia desde o deseño, así como por aproveitar o potencial da tecnoloxía para loitar contra o abuso do silencio administrativo ante as solicitudes de información pública. “Desde o punto de vista da transparencia, saímos gañando coa tecnoloxía”, defendeu, e lembrou que o Consello ten como obxectivo ser un referente próximo e unha axuda para que as Administracións cumpran as súas obrigas legais nesta materia.

No seu relatorio, o presidente da Axencia Española de Protección de Datos (AEPD), Lorenzo Cotino, defendeu a necesidade de que as autoridades de supervisión en materia de protección de datos persoais, transparencia e IA (AEPD, CTBG e AESIA, respectivamente) elaboren criterios comúns que sirvan de guía ás Administracións Públicas para garantir a necesaria protección de datos, a rastrexabilidade e a explicabilidad das decisións sustentadas na intelixencia artificial que, lembrou, vai ser tan imprescindible “como o respirar”, pois incrementa exponencialmente as capacidades e a eficiencia das organizacións.

Pola súa banda, o doutor enxeñeiro de Telecomunicación Manuel J. García Rodríguez (Banco de España) destacou en que as AAPP deben deseñar e licitar os seus sistemas informáticos incorporando o principio da transparencia e a obriga de explicabilidad nos propios pregos. Tamén apostou por clarificar as competencias e impulsar a coordinación entre os distintos niveis da administración e os órganos de garantía, así como pola creación dun repositorio de código fonte constantemente actualizado, dinámico e que permita comparar as versións das aplicacións administrativas que usan automatización ou IA, a modo de rexistros de algoritmos.

“A xestión documental é unha infraestrutura crítica para a transparencia”. Con esta afirmación abríase o debate na sesión que pechou a primeira xornada, coa participación do subdirector adxunto de Transparencia e Bo Goberno do CTBG, Julián Prior, a conselleira técnica da Subdirección Xeral de Reclamacións de Ámbito Estatal, Carmen Rial e o subdirector adxunto de Reclamacións de Ámbito Estatal, José Santiago Fernández. As Administracións, subliñaron, producen información e documentación a un ritmo cada vez máis vertixinoso e unha correcta utilización da IA é clave para pór a disposición da ciudanía toda esta información e evitar a opacidade, “xa que producir información non é o mesmo que comunicala e transmitila de forma eficiente ao cidadán”. Na sesión, de carácter práctico, detallaron os riscos e oportunidades que supón a IA en todo o ciclo da xestión documental, insistindo na importancia da alianza e a colaboración entre xestores documentais, persoal TIC e xurídico, para asegurar a conservación da información, agora en formato dixital, nun futuro.

Abriu a segunda xornada do encontro o subdirector xeral de Transparencia e Bo Goberno, Gonzalo Gómez de Villalobos, que abordou como a IA pode servir para potenciar un dos dous alicerces da transparencia en España: a publicidade activa. Detallou como a tecnoloxía pode aproveitarse para mellorar a información que publican as AAPP para render contas e tamén para facilitar o propio traballo de avaliación do cumprimento destas obrigas que realizan os órganos de garantía. Anunciou que o Consello está a traballar na actualización da súa metodoloxía de avaliación MESTA e na elaboración dunha guía de axuda aos suxeitos obrigados sobre publicidade activa, entre outros proxectos.

Como a IA está a afectar ao segundo alicerce que configura o sistema de transparencia en España, o dereito de acceso á información pública, centrou a intervención da subdirectora xeral de Reclamacións de Ámbito Estatal do CTBG, Marta Temón. “Entramos nun terreo máis complexo que o que tiñamos -afirmou- no que cada vez hai máis solicitudes de acceso á información relacionadas con algoritmos, modelos e datos”, que van esixir un esforzo de “ponderación moi fina”. Tamén falou do incremento e os cambios que pode supor a IA punto nas solicitudes de información que reciben as Administracións como nas reclamacións que reciben os órganos de garantía. Isto comporta riscos, apuntou, pero tamén a oportunidade de usar a tecnoloxía para mellorar como a Administración satisfai o exercicio do dereito, sen esquecer a necesidade de manter as canles tradicionais para colectivos vulnerables afectados pola fenda dixital.

Pola súa banda, o subdirector xeral de Reclamacións de Comunidades Autónomas e Entidades Locais do CTBG, José Manuel Jover, coincidiu en sinalar que a IA é unha ferramenta da que se poden servir as Administracións para mellorar a resposta ás solicitudes de información que, na actualidade, nunha elevar porcentaxe, son rexeitadas por silencio administrativo (o 45% das reclamacións de ámbito estatal resoltas polo Consello en 2025 presentáronse por esta causa; porcentaxe que se eleva ao 75% no ámbito autonómico e local daquelas CC.AA. que atribuíron ao Consello o exercicio desta competencia). No seu relatorio ofreceu unha demostración práctica de como a IA pode, naquelas reclamacións máis sinxelas, ser de gran axuda a través da automatización e o seu uso predictivo.

A transparencia como medio de garantía para un uso ético e responsable da IA foi o fío condutor do relatorio do catedrático de Filosofía do Dereito e decano da Facultade de Dereito da Universidade de Sevilla, Fernando Llano. “Cando decide unha máquina, transparencia xa non é só ensinar o expediente: é que o cidadán poida comprender, fiscalizar e reproducir a lóxica da decisión, e tamén poder impugnala”. A opacidade algorítmica converte ao cidadán nun número; ningún acto automatizado está motivado se a súa lóxica non é comprobable; a opacidade xera arbitrariedade e por iso é tan importante a transparencia”, para asegurar os dereitos da cidadanía, dixo.

Pola súa banda, María Esteller, subdirectora xeral de Informes e Infraestruturas de Proba da Axencia Estatal de Supervisión de Intelixencia Artificial (AESIA), detallou o traballo e funcións deste organismo para supervisar e impulsar a cultura sobre a intelixencia artificial en España. Esteller desagregou así mesmo as obrigas de transparencia que establece o artigo 50 do Regulamento Europeo de IA, que entra en vigor en agosto, expondo a importancia da explicabilidad das decisións apoiadas ou baseadas en ferramentas tecnolóxicas.

A visión da sociedade civil sobre a transparencia e a IA chegou da man de varias organizacións e profesionais moi activos na defensa do dereito a saber, que expuxeron distintas iniciativas que desenvolveron neste ámbito. Interviñeron Luís Cayo Pérez, presidente do Comité Español de Representantes de Persoas con Discapacidade (CERMI); David Cabo, cofundador da Fundación Civio; David Fernández, enxeñeiro informático, creador das plataformas Contratación Aberta e PideInfo; Germán J. Areas, investigador da Fundación Hai Dereito, e Mónica Roa, investigadora de Transparencia Internacional España. Incidiron na necesidade de que a Administración incorpore persoal con coñecemento tecnolóxico, que se mellore a accesibilidade á información desde o enfoque do “dereito a entender”, e que se habilite un inventario que recolla as aplicacións e sistemas que incorporan decisións automatizadas. Tamén reclamaron que se reforcen os recursos tanto daquelas unidades administrativas que se encargan da transparencia como dos propios órganos garantes aos que, subliñaron, debe dotarse de potestades sancionadoras.

A última xornada do curso abriuse cunha mesa de debate sobre a transparencia e a IA no ámbito europeo, na que se comparou a regulación comunitaria e a gobernación nesta materia con outros modelos. “O sistema europeo é garantista e antropocéntrico”, resumiu a secretaria xeral do CTBG, Isabel Lombardero. Pola súa banda, o presidente do Observatorio Sector Público e Intelixencia Artificial, Gabriele Vestri, advertiu que “a IA en determinadas cualidades xa nos/nos superou aos humanos” e apostou pola necesidade de que as entidades públicas dótense de códigos de bo uso, “que non existen na maioría dos casos” e de comités de ética na materia, xa que a IA “está a afectar aos nosos dereitos fundamentais”. María Pascual, especialista de Políticas Públicas, Anticorrupción, Integridade e Goberno aberto da OCDE, falou dos principios sobre a IA aprobados por este organismo multilateral como guía para a interpretación do Regulamento Europeo de IA, que recoñece o dereito “de obter unha explicación clara e significativa cando unha decisión automatizada impacta nas nosas vidas”.

A última sesión do curso abordou os novos escenarios xurídicos que se abren ante a IA. A directora de Gabinete do CTBG, Isabel Jiménez, analizou os desafíos que a tecnoloxía e, en concreto a intelixencia artificial, despregan sobre as categorías xurídico-administrativas tradicionais sobre as que se asinta o noso modelo de Estado e a necesidade de sometelas a exame para a súa preservación. Pola súa banda, o maxistrado do Tribunal Supremo Juan Pedro Quintana explicou de forma pormenorizada a relevante sentenza BOSCO, da que foi relatora, e subliñou a importancia de garantir a explicabilidad das decisións automatizadas, xa que “dificilmente pódense combater os rumbos que poidan ter os algoritmos con opacidade”, sen que isto requira necesariamente, en todos os casos, o acceso ao código fonte, o que esixirá ponderar. Xunto a iso, explicou o valor do concepto de “reserva de humanidade”. A catedrática de Dereito Administrativo da Universidade de Castela-A Mancha, Susana da Serra, subliñou que a IA é unha tecnoloxía transversal, e que, por tanto, fai falta, máis que unha regulación sectorial, “unha reflexión transversal para ver como se introducen as necesarias garantías xurídicas e normativas”. Xunto a iso destacou que hoxe día o control da Administración Pública é dual, o que reclama crear instrumentos de cooperación entre todos os organismos que desenvolven esa función; tamén avogou pola habilitación de mecanismos específicos para que a cidadanía poida recorrer os actos nos que interviñeron os algoritmos.

O secretaria de Estado de Función Pública, Consolo Sánchez, clausurou o encontro, destacando que “a transparencia xa non é publicar documentos, é explicar procesos complexos” e un dos retos é “pasar da transparencia formal á transparencia real”. “A IA non é o fin da transparencia, é a maior proba da súa madurez”, afirmou, e asegurou que “a IA pode transformar a Administración, pero só a transparencia pode garantir que esa transformación non supoña perda de control democrático”.