La transparència algorítmica als ajuntaments: cap a una intel·ligència artificial responsable i de confiança
La intel·ligència artificial (IA) ja és una realitat als nostres ajuntaments, però la seva implementació exigeix adaptar-nos a nous deures de transparència. D'acord amb el Reglament Europeu de la IA (AI Act) i la Llei catalana 19/2014 de transparència, tenim l'obligació legal d'informar la ciutadania sobre com funcionen els algorismes que afecten els seus drets.
La clau de la nostra seguretat jurídica rau en tres eixos: garantir una supervisió humana, crear un registre intern d'algorismes i publicar informes sobre el seu impacte al nostre portal de transparència.
1. Què és la transparència algorítmica i per què hi estem obligats?
Com a administració pública, la transparència algorítmica és el nostre deure legal d'explicar, de manera senzilla i accessible, quins criteris utilitzen els sistemes d’IA que fem servir per dictar resolucions o donar suport a la presa de decisions.
Per què és clau per a l'acció municipal?
Garantia de drets: Evitem l'aparició de biaixos i discriminacions en tràmits.
Imperatiu legal: Tant la normativa europea d'IA com la Llei 19/2014 ens obliguen a fer publicitat activa d'aquests processos automatitzats perquè la ciutadania pugui entendre'ls i, si escau, recórrer les nostres decisions administratives.
Generació de confiança: Un algorisme municipal mai pot operar com una "caixa negra" inescrutable per al ciutadà.
2. El principi bàsic: la màquina proposa, però nosaltres responem
El personal tècnic i administratiu no delega la seva feina en una màquina; l'ha d'utilitzar exclusivament per alliberar temps de les tasques mecàniques. L'ús d'IA generativa per redactar informes jurídics, propostes de resolució o comunicacions està subjecte a una regla innegociable a l'administració: la responsabilitat pública no es delega.
Supervisió i validació efectiva: Tot contingut generat o processat mitjançant IA ha de ser revisat de forma crítica i assumit formalment per l'empleat públic abans de signar-se i incorporar-se a un expedient administratiu.
Privacitat i deure de secret: Està prohibit introduir dades personals de la ciutadania o informació confidencial d'expedients en eines d'IA externes o no validades corporativament per l'ajuntament.
3. El nostre full de ruta pràctic: 5 passos cap al compliment
Per garantir el compliment normatiu a la corporació de forma àgil, us recomanem implantar aquestes cinc accions directes:
Feu un inventari intern: Identifiqueu amb exactitud quins sistemes d'IA s'estan fent servir actualment a l'ajuntament (siguin de desenvolupament propi o de tercers) i documenteu-ne la finalitat.
Aproveu instruccions d'ús vinculants: Emeteu una instrucció interna clara per a tota la plantilla. Exigiu l'ús exclusiu d'eines corporatives, recordeu la prohibició de bolcar-hi dades personals i feu obligatòria la revisió humana del resultat.
Avalueu els riscos prèviament: Si preveieu que un algorisme intervindrà en decisions amb impacte jurídic (ajuts socials, processos de selecció de personal o sancions), teniu l'obligació de dur a terme una Avaluació d'Impacte prèvia. Involucreu-hi el vostre Delegat de Protecció de Dades (DPD) des de la fase de disseny.
Exigiu transparència des de la contractació: Incorporeu clàusules específiques als vostres Plecs de Clàusules Administratives i Tècniques (PCAP i PPT). Obligueu els adjudicataris a explicar els paràmetres de la seva IA i a oferir garanties d'absència de biaixos discriminatoris.
Publiqueu els informes al Portal de Transparència: Creeu un ítem anomenat "Algorismes i IA municipal". La via més eficient per complir la llei és utilitzar el model d'Informe TRAL (Transparència Algorítmica) del Consorci AOC, el qual ja està estructurat per satisfer els requisits legals.
4. Riscos freqüents i solucions de transparència
Aquí teniu la casuística més habitual que us trobareu i la mesura preventiva que heu d'aplicar per evitar l'anul·lació de les vostres actuacions:
Àmbit d'aplicació | Exemple d'IA o algorisme | Risc jurídic o operatiu | Mesura de transparència exigible |
Serveis Socials | Priorització automatitzada d'ajuts o concurrència competitiva. | Discriminació per perfil socioeconòmic (biaix algorítmic). | Publicar el barem i l'estudi d'impacte previ al portal web. |
Mobilitat Urbana | Sistemes predictius per regular el trànsit o zones d'aparcament. | Adopció de decisions de restricció de drets opaques o injustificades. | Publicar una fitxa resum indicant la finalitat i l'origen de les dades tècniques. |
Atenció Ciutadana | Xatbots o assistents virtuals a la vostra Seu Electrònica. | Difusió de desinformació amb aparença d'oficialitat sense supervisió humana. | Inserir un avís legal permanent indicant a l'usuari que interactua amb una màquina. |
5. Consideracions finals
La intel·ligència artificial fa que els nostres ajuntaments siguin molt més àgils, sempre que garantim que els empleats públics retenen el control d'allò indelegable: la valoració jurídica, la responsabilitat de l'acte administratiu i l'empatia amb la ciutadania.
Tenim un gran avantatge estratègic: no partim de zero. Gràcies a les metodologies estandarditzades del Consorci AOC i l'APDCAT, aplicar aquesta transparència algorítmica avui dia és un tràmit assequible. Adoptar aquestes mesures no només blinda el consistori davant d'impugnacions o nul·litats administratives; és la clau de volta per preservar el nostre actiu més important: la confiança i seguretat jurídica de la nostra ciutadania.
Marc legal i recursos essencials:
Normativa d'obligat compliment: Reglament (UE) 2024/1689 (AI Act); Reglament General de Protecció de Dades (arts. 13, 22 i 35); Llei catalana 19/2014, de transparència (art. 10).
Instruments i models pràctics: Model d'informe TRAL i Metodologia de riscos del Consorci AOC; Model d'avaluació FRIA/AIDF de l'Autoritat Catalana de Protecció de Dades (APDCAT).