Protecció de dades i Reglament Europeu d’Intel·ligència Artificial: Què han de saber els ajuntaments?

Inici | Portal de Suport

Resum

El Reglament Europeu d’Intel·ligència Artificial (Reglament UE 2024/1689) estableix normes per a un ús segur i transparent de la IA en els ajuntaments, classificant els sistemes segons el risc per als drets fonamentals. Es prohibeixen tecnologies com la vigilància massiva i la puntuació social, mentre que els sistemes d’alt risc han de complir requisits estrictes de protecció de dades. Els ajuntaments han de garantir transparència, supervisió humana i minimització de dades, així com formar el personal i informar la ciutadania sobre l’ús d’IA en serveis municipals.

 

Protecció de dades i Reglament Europeu d’Intel·ligència Artificial

image-20250214-110007.png

L’ús de la intel·ligència artificial (IA) en l’àmbit públic està en creixement, i els ajuntaments no en són una excepció. Cada cop més, els municipis adopten solucions basades en IA per optimitzar serveis públics, gestionar tràmits administratius i millorar la comunicació amb la ciutadania. No obstant això, aquests sistemes poden implicar riscos per als drets fonamentals, especialment en matèria de protecció de dades personals.

Amb l’entrada en vigor del Reglament Europeu d’Intel·ligència Artificial (Reglament UE 2024/1689), la Unió Europea estableix normes clares per garantir un ús segur, transparent i ètic de la IA en el sector públic. Això suposa que els ajuntaments hauran de revisar i adaptar els seus sistemes d’IA per assegurar el compliment de la nova normativa.

 

Com afecta el Reglament d’IA als ajuntaments?

El Reglament classifica els sistemes d’IA segons el nivell de risc que representen i estableix diferents requisits per al seu ús.

Sistemes d’IA prohibits (risc inacceptable) (art 5 RIA)

Encara que la tecnologia ho permeti, no serà possible. Aquesta és la principal conclusió que cal extreure de l’entrada en vigor, el 2 de febrer de 2025, del paquet normatiu del RIA, que inclou les disposicions de l’article 5, on es regulen els sistemes prohibits en funció de les seves característiques. Aquesta categoria inclou tecnologies que es consideren una amenaça greu per als drets fonamentals i que, per tant, estan prohibides. Això implica que no es permet la:

  • Vigilància massiva amb reconeixement facial: L’ús de càmeres de seguretat amb IA que identifiquin automàticament ciutadans en espais públics està prohibit, excepte en casos molt concrets autoritzats per la justícia (per exemple, per a investigacions policials específiques).

  • Puntuació social dels ciutadans: Està vetat qualsevol sistema d’IA que classifiqui ciutadans segons el seu historial de pagaments, sancions administratives o interacció amb serveis públics per condicionar-ne l’accés a prestacions.

Sistemes d’IA d’alt risc

Són aquells que poden afectar drets fonamentals i que han de complir requisits estrictes de transparència, supervisió i protecció de dades. Alguns exemples rellevants per als ajuntaments són:

  • Assignació d’ajudes socials i bonificacions: Si un ajuntament utilitza IA per decidir qui pot accedir a ajudes econòmiques, bonificacions fiscals o prestacions socials, el sistema ha de garantir que les dades siguin fiables, no discriminatòries i verificables.

  • Gestió de processos selectius: L’ús d’algorismes per a la selecció de personal en convocatòries públiques ha d’evitar biaixos i garantir la igualtat d’oportunitats.

  • Gestió del trànsit i mobilitat urbana: Sistemes que regulen la circulació segons dades en temps real han de respectar la privacitat dels ciutadans i no utilitzar dades personals de manera desproporcionada.

Sistemes d’IA de risc limitat

Aquesta categoria inclou sistemes d’IA que poden tenir un impacte sobre els usuaris si no es gestionen adequadament. Exemples en l'Administració pública són:

  • Xatbots i assistents virtuals: Els ajuntaments que utilitzin IA per atendre consultes ciutadanes han d’informar clarament els usuaris que estan interactuant amb una màquina i no amb un empleat públic.

  • Sistemes de detecció d’anomalies en contractació pública: Algorismes que alerten sobre possibles irregularitats en contractes municipals han de ser supervisats per garantir que no generin falsos positius basats en dades esbiaixades.

  • Sistemes de traducció automàtica: L’ús de IA per traduir documents oficials ha de ser supervisat per evitar errors que puguin afectar la validesa jurídica del text.

Sistemes d’IA de risc mínim o nul

Inclou sistemes d’IA que no suposen un risc significatiu i poden ser utilitzats sense restriccions específiques. Alguns exemples són:

  • IA per a la millora de la gestió administrativa: Algorismes que optimitzen la gestió de tràmits administratius, reduint el temps de resposta.

  • Sistemes de reconeixement d’imatges per a l’arxivística: IA que ajuda a classificar i digitalitzar documents històrics en arxius públics.

  • Filtratge automàtic de correus electrònics: Sistemes d’IA que ajuden a gestionar el correu electrònic en l’Administració, separant missatges rellevants de correu brossa.

  • IA per optimitzar la il·luminació pública: Sistemes que ajusten la intensitat de l’enllumenat en funció de la presència de persones o vehicles.

  • Optimització de la recollida de residus: Algorismes que analitzen el nivell d’ompliment dels contenidors per optimitzar les rutes de recollida.

L’ús de sistemes d’IA en ajuntaments ha d’estar alineat amb el Reglament General de Protecció de Dades (RGPD) i amb el Reglament Europeu d’IA (RIA), que estableixen diverses obligacions:

Principis bàsics de protecció de dades

  • Minimització de dades: Només es poden recollir i utilitzar les dades estrictament necessàries per a la finalitat concreta.

  • Transparència: Els ciutadans han de ser informats sobre l’ús de la IA i l’impacte que pot tenir sobre les seves dades personals.

  • Supervisió humana: Els sistemes d’IA no poden prendre decisions automàtiques sense la intervenció d’un responsable municipal.

Per exemple, quan un ajuntament utilitza intel·ligència artificial en serveis municipals, ha de garantir que els ciutadans saben que estan interactuant amb una màquina i no amb una persona. Això és especialment important en casos com:

  • Xatbots i assistents virtuals en webs municipals:

    • Un ajuntament implementa un assistent virtual per respondre preguntes sobre la tramitació del padró municipal. Aquest sistema ha d’informar explícitament l’usuari que està interactuant amb una IA i no amb un treballador municipal.

    • Un xatbot per a la reserva d’equipaments municipals ha de clarificar que les respostes són generades per un sistema automatitzat i oferir la possibilitat de parlar amb un operador humà si l’usuari ho necessita.

  • Sistemes d’IA en la gestió de sol·licituds municipals:

    • Un ajuntament utilitza IA per prioritzar la resolució de sol·licituds d’ajudes socials segons criteris objectius (per exemple, nivell de renda o situació de vulnerabilitat). Els sol·licitants han de ser informats que el seu expedient ha estat analitzat per un algorisme i han de tenir dret a sol·licitar una revisió per part d’un funcionari si no estan d’acord amb la decisió.

    • En la concessió de subvencions culturals, un ajuntament empra IA per analitzar els projectes i fer una primera selecció. Els participants han de saber que el procés inclou una anàlisi automatitzada i que les decisions finals són revisades per una comissió humana.

  • IA en processos de selecció de personal públic:

    • Si un ajuntament fa servir un sistema d’IA per filtrar currículums en oposicions o concursos públics, els candidats han de ser informats d’aquest fet i han de poder sol·licitar informació sobre els criteris utilitzats per l’algoritme.

    • En una prova oral per a un procés selectiu, un sistema d’IA pot ser utilitzat per transcriure i avaluar el discurs dels aspirants. Els candidats han de ser informats prèviament i tenir el dret a impugnar qualsevol error derivat del sistema automatitzat.

Recomanacions per als ajuntaments

Els ens locals han d’adoptar mesures per garantir un ús responsable, transparent i alineat de la IA amb la normativa vigent. La correcta gestió d’aquests sistemes no només contribueix a la protecció de dades personals i drets fonamentals, sinó que també fomenta la confiança de la ciutadania en l’administració pública. A continuació, es presenten una sèrie de recomanacions clau per ajudar els ens locals a gestionar la IA de manera segura i conforme a la legislació aplicable.

  1. Realitzar una auditoria de sistemes d’IA: Identificar quins sistemes d’IA s’estan utilitzant i avaluar-ne els riscos.

  2. Formar el personal municipal: Els treballadors públics han de conèixer els riscos i obligacions legals associades a la IA.

  3. Aplicar el principi de precaució: En cas de dubte sobre l’impacte d’un sistema d’IA en la protecció de dades, és preferible no implementar-lo fins que es garanteixi el seu compliment normatiu.

  4. Demanar assessorament al Delegat de Protecció de Dades (DPD): Aquest professional ha d’assessorar l’ajuntament en l’ús de tecnologies d’IA per garantir el compliment del RGPD.

  5. Garantir la transparència amb la ciutadania: Informar clarament sobre l’ús de IA en els serveis municipals i habilitar mecanismes perquè els ciutadans puguin exercir els seus drets.


Finalment, és essencial que els empleats públics entenguin com funciona la intel·ligència artificial i quins riscos pot suposar per a la protecció de dades i els drets dels ciutadans. Això inclou:

  • Conèixer els principis bàsics de la IA i les seves aplicacions en l’àmbit municipal.

  • Entendre les obligacions legals que estableixen el Reglament Europeu d’IA (RIA) i el Reglament General de Protecció de Dades (RGPD).

  • Aprendre a detectar possibles riscos com biaixos discriminatoris, ús inadequat de dades personals o manca de transparència en els sistemes d’IA.

  • Saber com informar correctament els ciutadans quan interactuen amb sistemes d’IA en serveis municipals.

Nova Guia i Curs d’Autoaprenentatge en Protecció de Dades per a Empleats Públics

L’Autoritat Catalana de Protecció de Dades (APDCAT) posa a disposició dels ajuntaments una eina clau per garantir el compliment normatiu en matèria de protecció de dades i IA: la Guia d’Avaluació d’Impacte sobre Drets Fonamentals. Aquest recurs ofereix orientació pràctica per avaluar l’impacte de les actuacions municipals amb IA en els drets fonamentals de la ciutadania.

A més, els empleats públics podeu accedir a un Curs d’Autoaprenentatge en Protecció de Dades, dissenyat per proporcionar coneixements essencials en aquest àmbit i facilitar l’aplicació de bones pràctiques a l’administració local.