La transparència algorítmica als ajuntaments: cap a una intel·ligència artificial responsable i de confiança

Resum

Els ens locals han de garantir la transparència dels sistemes d’intel·ligència artificial que utilitzen en la gestió municipal. El Reglament Europeu de la IA (AI Act) i la Llei 19/2014, de transparència (LTC) estableixen l’obligació d’informar sobre els criteris, dades i impacte dels processos automatitzats que poden afectar la ciutadania. Cal registrar i auditar els algorismes, incloure clàusules de transparència en la contractació i publicar informació entenedora al portal de transparència. Els sistemes d’IA formen part de les actuacions de rellevància jurídica previstes a l’article 10 de la LTC i, per tant, estan subjectes a publicitat activa.

La transparència algorítmica als ajuntaments: cap a una intel·ligència artificial responsable i de confiança

1. La intel·ligència artificial al món local: un nou repte de governança pública

Els ajuntaments i la resta d’ens locals i administracions estan immersos en un procés de transformació digital que va més enllà de la gestió electrònica tradicional. La incorporació progressiva d’eines d’intel·ligència artificial (IA) en àmbits com la gestió de residus, la mobilitat urbana, la tramitació de subvencions o la comunicació ciutadana obre noves oportunitats per millorar l’eficiència i la personalització dels serveis.

Tanmateix, aquesta evolució comporta un repte fonamental: garantir que les decisions automatitzades es prenguin amb plena transparència, equitat i control democràtic. La denominada transparència algorítmica esdevé així una nova obligació per a les administracions locals, especialment en el context del Reglament Europeu de la IA (AI Act) i de la Llei catalana 19/2014, de transparència, accés a la informació pública i bon govern (LTC).

2. Què és la transparència algorítmica i per què afecta directament els ajuntaments

La transparència algorítmica fa referència al deure de les administracions de fer públics, d’una manera comprensible, els criteris i funcionaments dels sistemes d’IA que utilitzen per prendre decisions o per donar suport a la presa de decisions.
Per als ajuntaments, això implica:

• Fer públics els objectius, l’abast i les dades utilitzades pels sistemes automatitzats.

• Assegurar que la ciutadania pugui entendre i impugnar les decisions en què intervé un algorisme.

• Evitar que la tecnologia generi biaixos o discriminacions en l’accés a serveis públics essencials.

Per exemple, si un ajuntament utilitza un sistema d’IA per prioritzar sol·licituds d’ajuts socials o habitatge, està obligat a poder explicar de manera raonada i comprensible com s’han valorat els criteris i garantir que cap col·lectiu hagi estat discriminat.

3. El marc legal i les noves obligacions per a les entitats locals

Amb l’entrada en vigor del Reglament Europeu de la IA (AI Act), els sistemes d’IA utilitzats per a la gestió de serveis públics essencials (ajuts econòmics, contractació, educació, habitatge, etc.) es consideren “d’alt risc”.
Això implica que els ajuntaments —com a “desplegadors” d’aquests sistemes— hauran de:

• Fer una avaluació de riscos abans d’adoptar qualsevol eina d’IA.

• Elaborar una Avaluació d’Impacte sobre els Drets Fonamentals en la Intel·ligència Artificial per analitzar com pot afectar els drets fonamentals (igualtat, protecció de dades, no discriminació...).

• Mantenir documentació tècnica que acrediti el compliment normatiu.

• Supervisar i auditar periòdicament els sistemes per garantir que no generen resultats esbiaixats.

Aquestes obligacions se sumen a les ja previstes a l’article 10 de la Llei 19/2014, de 29 de desembre, de transparència, accés a la informació pública i bon govern (LTC), que estableix el deure de les administracions públiques de fer pública la informació relativa a la seva organització, funcionament i, especialment, a les decisions i actuacions de rellevància jurídica. En aquest context, els sistemes d’intel·ligència artificial o processos automatitzats que incideixen en la presa de decisions públiques formen part d’aquesta informació subjecta a transparència activa, atès que poden produir efectes sobre els drets de la ciutadania.

4. Com poden preparar-se els ajuntaments

Tot i que la majoria de municipis gironins encara es troben en fases inicials d’adopció de la IA, és essencial anticipar-se al nou marc normatiu i establir protocols interns de transparència algorítmica. Les accions recomanades són:

a) Crear un registre intern d’algorismes municipals
Recull de manera centralitzada tots els sistemes automatitzats o d’IA que l’ajuntament utilitza, indicant-ne l’objectiu, el proveïdor, el tipus de dades utilitzades i si prenen decisions o només assisteixen la persona funcionària.

b) Exigir transparència tècnica als proveïdors
A través dels plecs de contractació, s’ha de requerir als licitadors informació sobre el funcionament del sistema, els conjunts de dades utilitzats i els mecanismes de supervisió. Aquesta informació pot estar sotmesa a confidencialitat, però ha d’estar disponible per a les auditories municipals.

c) Publicar informació comprensible per a la ciutadania
Els portals de transparència municipals poden incloure un apartat específic “Algorismes i IA municipal”, amb informació general sobre els sistemes utilitzats, la seva finalitat, els impactes potencials i els mecanismes d’apel·lació.

d) Realitzar auditories o revisions externes
Encàrrec periòdic a entitats independents per verificar que l’ús de la IA és conforme a la normativa i no genera biaixos.

e) Formar el personal tècnic i directiu
És clau que el personal responsable de contractació, tecnologia i serveis socials entengui què implica la transparència algorítmica i com incorporar-la als processos habituals.

5. Els riscos principals: ètics, legals i operatius

Els ajuntaments s’enfronten a diversos riscos que cal gestionar de manera preventiva:

• Biaix algorítmic: si les dades històriques contenen desigualtats de gènere o socioeconòmiques, el sistema pot reproduir-les automàticament.

• Incompliment legal: desplegar un sistema d’IA sense fer una avaluació prèvia pot comportar sancions i la nul·litat de resolucions administratives.

• Desconfiança ciutadana: la manca de transparència pot erosionar la confiança en l’administració local.

6. Cap a una IA municipal ètica, transparent i de confiança

Els ajuntaments gironins, independentment de la seva mida, poden aprofitar la IA per millorar la seva eficiència i capacitat de resposta. Però això només serà possible si la tecnologia s’integra dins un marc de governança responsable, basat en tres pilars:

1. Legalitat: compliment de l’AI Act i de la LTC com a garantia de seguretat jurídica.

2. Ètica i equitat: prevenció del biaix i protecció dels drets fonamentals.

3. Transparència activa: publicació proactiva d’informació sobre els sistemes algorítmics i foment de la participació ciutadana.

En aquest nou escenari, la transparència algorítmica no és només una obligació legal, sinó una eina per reforçar la confiança ciutadana en la innovació pública.

7. Taula resum de bones pràctiques municipals