Jakiteko eskubidetik gardentasun algoritmikora: hiru egun etorkizuneko Administrazioa birpentsatzeko Kontseiluaren eta UIMPren eskutik

Topaketak arrakasta handia izan zuen, eta 60 ikaslek baino gehiagok eman zuten izena. Gardentasuna asun-ziurtagiria, datuen babeslea... parte hartu zuten. Hizlariek nabarmendu zuten, alde batetik, estatu demokratiko batean beharrezkoa dela gardentasun algoritmikoa bermatzea, eta, bestetik, IAren erabilerak aukera izugarriak irekitzen dituela kontu-ematea, osotasuna eta sektore publikoaren gardentasuna hobetzeko.

Ordenako bidalitakoen ibilbidea, Concepción Campos, Bizkaiko Foru Idazkariordeak BZIU, Salvador Torodo, eta Administrazioa Baimendu, Gardentasunerako eta Herritarren Partaidetzako zuzendari nagusiak Kantabriako Gobernua, Paulino Sanchez, IAk Administrazio Publikoak eta herritarrei ematen dizkieten zerbitzuak hobetzeko duen botere ukaezina nabarmendu zuten, eta erronka herritarrek beren bizitzetan eragina duten erabakiak nola hartzen diren ulertzen jarraitzen dutela bermatzea da.

Kontseiluko presidenteak bere hitzaldian “Gardentasuna eta algoritmoak: berme juridikoak erabaki publikoak hartzean” gogorarazi zuen, ikastaroa irekitzeko erabili zen hitzaldian, “mundu digitalean offline munduan dauden herritarren eskubideen berme berdinak zaindu behar direla”. Kontuan izan behar dugu administrazioek erabaki automatizatuak hartzeko balio duen teknologia agian ez dela neutrala eta alborapenak izan ditzakeela. Horregatik, esan zuen, “bermatu behar dugu herritarrek ulertzen dutela nola funtzionatzen duten, ez dela arbitrariotasunik gertatzen eta administrazio egintzak arrazoitzen jarraitzen direla. Automatizazio akritikoa saihestu behar da”. Publizitate aktiboko betebeharrak zabaltzearen alde agertu zen, bai eta diseinuaren gardentasunaren alde ere, eta informazio publikoaren eskaeren aurrean administrazioaren isiltasunaren gehiegikeriari aurre egiteko teknologiak duen potentziala baliatzearen alde ere bai. “Gardentasunaren ikuspegitik, teknologiarekin irabazten atera gara”, defendatu zuen, eta gogorarazi zuen Kontseiluak gertuko erreferentea eta laguntza izatea duela helburu, Administrazioek arlo horretan dituzten betebehar legalak bete ditzaten.

Bere hitzaldian, Lehendakaria (e) tik Datuak Babesteko Espainiako Agentzia (AEPD), Lorenzo Cotino, datu pertsonalen babesaren, gardentasunaren eta IAren arloko gainbegiratze-agintaritzek (AEPD, CTBG eta AESIA, hurrenez hurren) Administrazio Publikoentzat gidari izango diren irizpide komunak lantzeko beharra defendatu zuen, datuen beharrezko babesa, trazabilitatea eta adimen artifizialean oinarritutako erabakien azalgarritasuna bermatzeko. Gogoratu zuenez, “arnasa hartzea bezain ezinbestekoa” izango da, esponentzialki handitzen baititu erakundeen gaitasunak eta eraginkortasuna.

Bestalde, Manuel J. Telekomunikazio ingeniaritza izango da. García Rodríguezek (Espainiako Bankua) nabarmendu zuen administrazio publikoek beren sistema informatikoak diseinatu eta lizitatu behar dituztela gardentasunaren printzipioa eta baldintza-agirietan bertan azaldu beharra txertatuta. Halaber, eskumenak argitzearen eta administrazioko mailen eta berme-organoen arteko koordinazioa bultzatzearen alde egin zuen, baita iturburu-kodearen biltegi bat sortzearen alde ere, etengabe eguneratua, dinamikoa eta automatizazioa edo IA erabiltzen duten administrazio-aplikazioen bertsioak konparatzeko aukera ematen duena, algoritmoen erregistro gisa.

“Gardentasunerako azpiegitura kritikoa da dokumentuen kudeaketa”. Erantzun horretan ireki zen lehen jardunaldia itxi zuen saioan, Gardentasun-Batzordea eta Gobernu Oneko zuzendariorde ondokoa, Julian Prior, Estatuko Justizia Zuzendariordetza Kontseilaritza Teknikoa, Carmen Rial eta Estatuko zuzendariorde laguntzailea, José Santiago Fernández. Administrazioek, azpimarratu zutenez, gero eta azkarrago sortzen dituzte informazioa eta dokumentazioa, eta IA behar bezala erabiltzea funtsezkoa da informazio hori guztia herritarren esku jartzeko eta opakutasuna saihesteko, “informazioa sortzea eta herritarrei modu eraginkorrean jakinaraztea ez baita gauza bera”. Saio praktikoan, dokumentu-kudeaketaren ziklo osoan IAk dituen arriskuak eta aukerak zehaztu zituzten, eta azpimarratu zuten garrantzitsua dela dokumentuen kudeatzaileen, IKTetako langileen eta kudeatzaile juridikoen arteko aliantza eta lankidetza, etorkizunean informazioa, orain formatu digitalean, gordeko dela ziurtatzeko.

Topaketaren bigarren egunari hasiera eman zion Gonzalo Gómez de Villalobos, Gardentasuna Zuzendariorde Nagusia eta Gobernu Oneko ZuzendariordeaBertan, IAk Espainiako gardentasunaren bi zutabeetako bat sustatzeko balio dezakeela aztertu zen: publizitate aktiboa. Zehaztu zuen teknologia erabil daitekeela administrazio publikoek kontuak emateko argitaratzen duten informazioa hobetzeko, bai eta berme-organoek betebehar horiek nola betetzen dituzten ebaluatzeko egiten duten lana bera errazteko ere. Iragarri zuen Kontseilua lanean ari dela bere MESTA ebaluazio-metodologia eguneratzeko eta behartutako subjektuei publikotasun aktiboari buruzko laguntza-gida bat egiteko, beste proiektu batzuen artean.

IA Espainiako gardentasun sistema osatzen duen bigarren zutabea eragiten ari da, informazio publikoa eskuratzeko eskubidea, hain zuzen ere. CTBGko estatu mailako erreklamazioen zuzendariorde nagusia, Marta Timon. “Lehen genuena baino eremu konplexuago batean sartzen gara -esan zuen-, eta bertan gero eta eskaera gehiago daude algoritmoekin, ereduekin eta datuekin lotutako informazioa eskuratzeko”, eta horrek “oso haztapen fina” eskatuko du. IAk Administrazioek jasotzen dituzten informazio-eskaeretan zein berme-organoek jasotzen dituzten erreklamazioetan izan ditzakeen igoeraz eta aldaketez ere mintzatu zen. Horrek arriskuak dakartza, esan zuen, baina baita teknologia erabiltzeko aukera ere, Administrazioak eskubidearen erabilera nola asetzen duen hobetzeko, alde batera utzi gabe eten digitalak eragindako kolektibo kalteberentzako kanal tradizionalei eusteko beharra.

Bere aldetik, Autonomia eta Toki Erakundeen Zuzendariorde Nagusia, Jose Manuel Jover, bat etorri zen adieraztean IA informazio-eskaerei emandako erantzuna hobetzeko administrazioek erabil dezaketen tresna dela. Izan ere, gaur egun, eskaera horien ehuneko handi bat administrazio-isiltasunez errefusatzen dira (Kontseiluak 2025ean ebatzi zituen estatu-esparruko erreklamazioen % 45 kausa horrengatik aurkeztu ziren; ehuneko hori % 75era igotzen da autonomia-erkidegoetan eta toki-erakundeetan CC.AA. Hori da eman duena). Bere hitzaldian, IAk, erreklamazio errazenetan, automatizazioaren eta bere erabilera prediktiboaren bidez oso lagungarria izan daitekeela erakutsi zuen.

Gardentasuna, EIren erabilera etiko eta arduratsua bermatzeko bitarteko gisa, izan zen EIren hitzaldiaren ildo nagusia. Zuzenbidearen Dekanoa, Fernando Llano, Filosofiako katedraduna eta Sevillako katedraduna. “Makina bat erabakitzen duenean, gardentasuna jada ez da soilik espedientea erakustea: herritarrak erabakiaren logika ulertu, fiskalizatu eta erreproduzitu ahal izatea da, eta baita aurka egin ahal izatea ere”. Opakotasun algoritmikoak zenbaki bihurtzen du herritarra; ekintza automatizatu bakar bat ere ez dago motibatuta bere logika egiaztagarria ez bada; opakotasunak arbitrariotasuna sortzen du eta horregatik da hain garrantzitsua gardentasuna”, esan zuen herritarren eskubideak ziurtatzeko.

Bere aldetik, María Esteller, Adimen Artifiziala Gainbegiratzeko Estatuko Agentziako (AESIA) Proba Txosten eta Azpiegituren zuzendariorde nagusia, adimen artifizialari buruz Espainian dagoen kultura gainbegiratu eta bultzatzeko erakunde honek egiten duen lana eta funtzioak zehaztu zituen. Era berean, abuztuan indarrean sartuko den Europako IA Erregelamenduaren 50. artikuluak ezartzen dituen gardentasun-betebeharrak banakatu zituen Esteller-ek, eta tresna teknologikoetan oinarritutako edo sostengatutako erabakien azalgarritasunaren garrantzia azaldu zuen.

Gizarte zibilak gardentasunari eta IAri buruz duen ikuspegia jakiteko eskubidearen defentsan oso aktiboak diren hainbat erakunde eta profesionalen eskutik iritsi zen, eta arlo horretan garatu dituzten hainbat ekimen azaldu zituzten. Esku hartu zuten Luis Cayo Perez, lehendakaria Desgaitasuna duten Pertsonen Espainiako Batzordea (CERMI); David Cabo, bat sortzaileak Civio Fundazioa; David Fernandez, IKTak, IKTak, Berrikuntza Irekia eta PideInfo plataformen sortzailea; German J. Hareak, ikerlaria Zuzenbide Fundazioa, eta Monica Roa, ikertzailea Nazioarteko Gardentasuna Espainiari. Administrazioak ezagutza teknologikoa duten langileak hartzeko, “ulertzeko eskubidearen” ikuspegitik informaziorako irisgarritasuna hobetzeko eta erabaki automatizatuak dituzten aplikazio eta sistemak jasoko dituen inbentario bat gaitzeko beharra azpimarratu zuten. Horrez gain, gardentasunaz arduratzen diren administrazio-unitateen eta organo bermatzaileen helegiteak indartzea ere eskatu zuten; izan ere, azpimarratu zutenez, organo horiei zigortzeko ahalmena eman behar zaie.

Ikastaroaren azken jardunaldia Europa mailako gardentasunari eta IAri buruzko eztabaida-mahai batekin ireki zen, eta arlo horretako arauketa komunitarioa eta gobernantza beste eredu batzuekin alderatu ziren. “Europako sistema bermatzaile eta antropozentrikoa da”, laburbildu dute CTBGko idazkari nagusiek. Isabel Lombardero. Bere aldetik, Sektore Publikoaren eta Adimen Publikoaren Behatokia, Gabriele Vestri, ohartarazi zuen “ezaugarri jakin batzuetan IAk dagoeneko gainditu gaituela gizakiok” eta erakunde publikoak erabilera oneko kodeez –“gehienetan existitzen ez direnak”– eta gaian etika batzordeez hornitzearen alde egin zuen, IAk “gure oinarrizko eskubideei eragiten baitie”. Maria Pascual, Politika Publikoak, Ustelkeriaren Aurkako, Zintzot eta Gobernu Aditua ELGE, erakunde aldeaniztun horrek onartutako IAri buruzko printzipioez hitz egin zuen, IAren Europako Araudia interpretatzeko gida gisa, zeinak “azalpen argi eta esanguratsua lortzeko eskubidea aitortzen baitu, erabaki automatizatu batek gure bizitzetan eragina duenean”.

Ikasturteko azken saioak IAren aurrean irekitzen diren agertoki juridiko berriak jorratu zituen. Isabel Jimenez, CTBGko Kabineteko zuzendaria, gure estatu-ereduaren oinarri diren kategoria juridiko-administratibo tradizionaletan teknologiak eta, zehazki, adimen artifizialak dituzten erronkak aztertu zituen, baita horiek zaintzeko azterketa egin beharra ere. Bere aldetik, Juan Pedro Quintana Auzitegi Nazionaleko magistratua Zehatz-mehatz azaldu zuen BOSCO sententzia garrantzitsua (txostengile izan da), eta erabaki automatizatuen azalgarritasuna bermatzearen garrantzia azpimarratu zuen, “nekez egin baitiezaieke aurre algoritmoek opakutasunez izan ditzaketen alborapenei”, eta horrek, kasu guztietan, ez du eskatzen iturburu-koderako sarbidea, eta horrek haztatzea eskatuko du. En eso batera, “gizatasun erreserba”-k azaldu zuen balioa. La Susana de la Sierra,-Mantxako Unibertsitateko Administrazioa Zuzenbideko katedraduna, IA zeharkako teknologia dela azpimarratu zuen, eta, ondorioz, erregulazio sektoriala baino gehiago, “zeharkako hausnarketa bat behar dela, beharrezko berme juridiko eta arauemaileak nola sartzen diren ikusteko”. Horrekin batera, nabarmendu zuen gaur egun administrazio publikoaren kontrola duala dela, eta horrek eskatzen duela lankidetza-tresnak sortzea funtzio hori betetzen duten erakunde guztien artean; halaber, herritarrek algoritmoek esku hartu duten ekintzei helegitea jartzeko mekanismo espezifikoak gaitzearen alde egin zuen.

ESConsuelo Sanchez, Funtzio Publikoko Estatu idazkaria, itxi zuen topaketa, nabarmenduz “gardentasuna jada ez dela dokumentuak argitaratzea, prozesu konplexuak azaltzea da” eta erronketako bat “gardentasun formaletik gardentasun errealera pasatzea” dela. “IA ez da gardentasunaren helburua, heldutasunaren frogarik handiena da”, adierazi zuen, eta hau adierazi zuen: “IAk Administrazioa eralda dezake, baina gardentasunak bakarrik berma dezake eraldaketa horrek kontrol demokratikoaren galerarik ez ekartzea”.