Del dret a saber a la transparència algorítmica: tres dies per a repensar l'Administració del futur de la mà del Consell i la UIMP

En la trobada, que va tindre un gran èxit de convocatòria amb més de 60 alumnes inscrits, van participar especialistes en transparència, tecnologia, protecció de dades... Els ponents van posar en relleu, d'una banda, que en un Estat democràtic és necessari garantir la transparència algorítmica i, per una altra, que l'ús de la IA obri enormes possibilitats per a millorar la rendició de comptes, la integritat i la transparència del sector públic.

Van inaugurar el curs la presidenta del Consell, Concepción Campos, el vicerector de Programació de la UIMP, Salvador Torodo, i el director general de Simplificació Administrativa, Transparència i Participació Ciutadana del Govern de Cantàbria, Paulino Sánchez, que van destacar l'indubtable poder que té la IA per a millorar les Administracions Públiques i els serveis que presten al ciutadà, i que el repte és garantir que els ciutadans continuen entenent com es prenen les decisions que afecten de les seues vides.

La presidenta del Consell va recordar en la seua ponència “Transparència i algorismes: garanties jurídiques en la presa de decisions públiques”, amb la qual es va obrir el curs, que “en el món digital han de preservar-se les mateixes garanties dels drets ciutadans que en el món offline”. Hem de tindre en compte que la tecnologia que serveix perquè les administracions prenguen decisions automatitzades poden no ser neutrals i tindre biaixos. Per això, va dir, “hem de garantir que la ciutadania comprén com funcionen, que no es produïx arbitrarietat i que es continuen motivant els actes administratius. Cal evitar l'automatització acrítica”. Va advocar per ampliar les obligacions de publicitat activa i per una transparència des del disseny, així com per aprofitar el potencial de la tecnologia per a lluitar contra l'abús del silenci administratiu davant les sol·licituds d'informació pública. “Des del punt de vista de la transparència, hem eixit guanyant amb la tecnologia”, va defensar, i va recordar que el Consell té com a objectiu ser un referent pròxim i una ajuda perquè les Administracions complisquen les seues obligacions legals en esta matèria.

En la seua ponència, el president de l'Agència Espanyola de Protecció de Dades (AEPD), Lorenzo Cotino, va defensar la necessitat que les autoritats de supervisió en matèria de protecció de dades personals, transparència i IA (AEPD, CTBG i AESIA, respectivament) elaboren criteris comuns que servisquen de guia a les Administracions Públiques per a garantir la necessària protecció de dades, la traçabilitat i l'explicabilidad de les decisions sustentades en la intel·ligència artificial que, va recordar, serà tan imprescindible “com el respirar”, perquè incrementa exponencialment les capacitats i l'eficiència de les organitzacions.

Per part seua, el doctor enginyer de Telecomunicació Manuel J. García Rodríguez (Banc d'Espanya) va destacar que les AAPP han de dissenyar i licitar els seus sistemes informàtics incorporant el principi de la transparència i l'obligació d'explicabilidad en els propis plecs. També va apostar per aclarir les competències i impulsar la coordinació entre els diferents nivells de l'administració i els òrgans de garantia, així com per la creació d'un repositori de codi font constantment actualitzat, dinàmic i que permeta comparar les versions de les aplicacions administratives que usen automatització o IA, a manera de registres d'algorismes.

“La gestió documental és una infraestructura crítica per a la transparència”. Amb esta afirmació s'obria el debat en la sessió que va tancar la primera jornada, amb la participació del subdirector adjunt de Transparència i Bon Govern del CTBG, Julián Prior, la consellera tècnica de la Subdirecció General de Reclamacions d'Àmbit Estatal, Carmen Rial i el subdirector adjunt de Reclamacions d'Àmbit Estatal, José Santiago Fernández. Les Administracions, van subratllar, produïxen informació i documentació a un ritme cada vegada més vertiginós i una correcta utilització de la IA és clau per a posar a la disposició de la ciudanía tota esta informació i evitar l'opacitat, “ja que produir informació no és el mateix que comunicar-la i transmetre-la de manera eficient al ciutadà”. En la sessió, de caràcter pràctic, van detallar els riscos i oportunitats que suposa la IA en tot el cicle de la gestió documental, insistint en la importància de l'aliança i la col·laboració entre gestors documentals, personal TIC i jurídic, per a assegurar la conservació de la informació, ara en format digital, en un futur.

Va obrir la segona jornada de la trobada el subdirector general de Transparència i Bon Govern, Gonzalo Gómez de Villalobos, que va abordar com la IA pot servir per a potenciar un dels dos pilars de la transparència a Espanya: la publicitat activa. Va detallar com la tecnologia pot aprofitar-se per a millorar la informació que publiquen les AAPP per a rendir comptes i també per a facilitar el propi treball d'avaluació del compliment d'estes obligacions que realitzen els òrgans de garantia. Va anunciar que el Consell està treballant en l'actualització de la seua metodologia d'avaluació MESTA i en l'elaboració d'una guia d'ajuda als subjectes obligats sobre publicitat activa, entre altres projectes.

Com la IA està afectant del segon pilar que configura el sistema de transparència a Espanya, el dret d'accés a la informació pública, va centrar la intervenció de la subdirectora general de Reclamacions d'Àmbit Estatal del CTBG, Marta Timón. “Entrem en un terreny més complex que el que teníem -va afirmar- en el que cada vegada hi ha més sol·licituds d'accés a la informació relacionades amb algorismes, models i dades”, que exigiran un esforç de “ponderació molt fina”. També va parlar de l'increment i els canvis que pot suposar la IA tant en les sol·licituds d'informació que reben les Administracions com en les reclamacions que reben els òrgans de garantia. Això comporta riscos, va apuntar, però també l'oportunitat d'usar la tecnologia per a millorar com l'Administració satisfà l'exercici del dret, sense oblidar la necessitat de mantindre els canals tradicionals per a col·lectius vulnerables afectats per la bretxa digital.

Per part seua, el subdirector general de Reclamacions de Comunitats Autònomes i Entitats Locals del CTBG, José Manuel Jover, va coincidir a assenyalar que la IA és una eina de la qual es poden servir les Administracions per a millorar la resposta a les sol·licituds d'informació que, en l'actualitat, en un elevadíssim percentatge, són rebutjades per silenci administratiu (el 45% de les reclamacions d'àmbit estatal resoltes pel Consell en 2025 s'havien presentat per esta causa; percentatge que s'eleva al 75% en l'àmbit autonòmic i local d'aquelles CC.AA. que han atribuït al Consell l'exercici d'esta competència). En la seua ponència va oferir una demostració pràctica de com la IA pot, en aquelles reclamacions més senzilles, ser de gran ajuda a través de l'automatització i el seu ús predictiu.

La transparència com a mitjà de garantia per a un ús ètic i responsable de la IA va ser el fil conductor de la ponència del catedràtic de Filosofia del Dret i degà de la Facultat de Dret de la Universitat de Sevilla, Fernando Llano. “Quan decideix una màquina, transparència ja no és només ensenyar l'expedient: és que el ciutadà puga comprendre, fiscalitzar i reproduir la lògica de la decisió, i també poder impugnar-la”. L'opacitat algorítmica converteix al ciutadà en un número; cap acte automatitzat està motivat si la seua lògica no és comprovable; l'opacitat genera arbitrarietat i per això és tan important la transparència”, per a assegurar els drets de la ciutadania, va dir.

Per part seua, María Esteller, subdirectora general d'Informes i Infraestructures de Prova de l'Agència Estatal de Supervisió d'Intel·ligència Artificial (AESIA), va detallar el treball i funcions d'este organisme per a supervisar i impulsar la cultura sobre la intel·ligència artificial a Espanya. Esteller va desglossar així mateix les obligacions de transparència que establix l'article 50 del Reglament Europeu de IA, que entra en vigor a l'agost, exposant la importància de l'explicabilidad de les decisions secundades o basades en eines tecnològiques.

La visió de la societat civil sobre la transparència i la IA va arribar de la mà de diverses organitzacions i professionals molt actius en la defensa del dret a saber, que van exposar diferents iniciatives que han desenvolupat en este àmbit. Van intervendre Lluís Cinstitutor Pérez, president del Comité Espanyol de Representants de Persones amb Discapacitat (CERMI); David Cabo, cofundador de la Fundació Civio; David Fernández, enginyer informàtic, creador de les plataformes Contractació Oberta i PideInfo; Germán J. Arenas, investigador de la Fundació Hi ha Dret, i Mónica Roa, investigadora de Transparència Internacional Espanya. Van incidir en la necessitat que l'Administració incorpore personal amb coneixement tecnològic, que es millore l'accessibilitat a la informació des de l'enfocament del “dret a entendre”, i que s'habilite un inventari que reculla les aplicacions i sistemes que incorporen decisions automatitzades. També van reclamar que es reforcen els recursos tant d'aquelles unitats administratives que s'encarreguen de la transparència com dels propis òrgans garants als quals, van subratllar, ha de dotar-se de potestats sancionadores.

L'última jornada del curs es va obrir amb una taula de debat sobre la transparència i la IA en l'àmbit europeu, en la qual es va comparar la regulació comunitària i la governança en esta matèria amb altres models. “El sistema europeu és garantista i antropocèntric”, va resumir la secretària general del CTBG, Isabel Lombardero. Per part seua, el president de l'Observatori Sector Públic i Intel·ligència Artificial, Gabriele Vestri, va advertir que “la IA en determinades qualitats ja ens ha superat als humans” i va apostar per la necessitat que les entitats públiques es doten de codis de bon ús, “que no existeixen en la majoria dels casos” i de comités d'ètica en la matèria, ja que la IA “està afectant dels nostres drets fonamentals”. María Pascual, especialista de Polítiques Públiques, Anticorrupció, Integritat i Govern obert de l'OCDE , va parlar dels principis sobre la IA aprovats per este organisme multilateral com a guia per a la interpretació del Reglament Europeu de IA, que reconeix el dret “d'obtindre una explicació clara i significativa quan una decisió automatitzada impacta en les nostres vides”.

L'última sessió del curs va abordar els nous escenaris jurídics que s'obrin davant la IA. La directora de Gabinet del CTBG, Isabel Jiménez, va analitzar els desafiaments que la tecnologia i, en concret la intel·ligència artificial, despleguen sobre les categories jurídic-administratives tradicionals sobre les quals s'assentisca el nostre model d'Estat i la necessitat de sotmetre-les a examen per a la seua preservació. Per part seua, el magistrat del Tribunal Suprem Juan Pedro Quintana va explicar de forma detallada la rellevant sentència BOSCO, de la qual ha sigut ponent, i va subratllar la importància de garantir l'explicabilidad de les decisions automatitzades, ja que “difícilment es poden combatre els biaixos que puguen tindre els algorismes amb opacitat”, sense que això requerisca necessàriament, en tots els casos, l'accés al codi font, la qual cosa exigirà ponderar. Al costat d'això, va explicar el valor del concepte de “reserva d'humanitat”. La catedràtica de Dret Administratiu de la Universitat de Castella-la Manxa, Susana de la Serra, va subratllar que la IA és una tecnologia transversal, i que, per tant, fa falta, més que una regulació sectorial, “una reflexió transversal per a veure com s'introduïxen les necessàries garanties jurídiques i normatives”. Al costat d'això va destacar que hui dia el control de l'Administració Pública és dual, la qual cosa reclama crear instruments de cooperació entre tots els organismes que desenvolupen eixa funció; també va advocar per l'habilitació de mecanismes específics perquè la ciutadania puga recórrer els actes en els quals han intervenut els algorismes.

La secretaria d'Estat de Funció Pública, Consuelo Sánchez, va clausurar la trobada, destacant que “la transparència ja no és publicar documents, és explicar processos complexos” i un dels reptes és “passar de la transparència formal a la transparència real”. “La IA no és la fi de la transparència, és la major prova de la seua maduresa”, va afirmar, i va assegurar que “la IA pot transformar l'Administració, però només la transparència pot garantir que eixa transformació no supose pèrdua de control democràtic”.