Naut Aran, municipi pioner a adoptar una ordenança per evitar la discriminació a l’utilitzar la IA

El municipi de Naut Aran s’ha convertit en pioner a adoptar normes per evitar que l’ús de la intel·ligència artificial (IA) per part de l’ajuntament pugui suposar discriminació o qualsevol altra vulneració dels drets dels ciutadans. El ple va donar l’aprovació inicial la setmana passada per unanimitat a una ordenança amb aquesta finalitat, la primera d’aquest tipus a Catalunya i entre les primeres d’Espanya per a un consistori. El text exigeix utilitzar la IA sota permanent supervisió humana, estableix criteris per triar les aplicacions informàtiques basades en aquesta tecnologia i crea un comitè que garanteixi el compliment d’aquestes normes.

Aquesta regulació arriba en un moment en què la IA s’obre camí a les administracions públiques, des de l’Estat i la Generalitat fins als ens locals. De forma paral·lela, afloren casos que evidencien l’ús d’aquesta tecnologia per a l’apropiació il·lícita de dades personals. També s’ha detectat la presència en els algoritmes de biaixos que poden perjudicar les dones o col·lectius vulnerables.

El consistori del Naut Aran pretén evitar aquestes i altres pràctiques perjudicials per a la ciutadania a través de la seua ordenança. Altres ens públics ho han fet també, encara que amb normes d’un rang menor com decrets o circulars internes.

Un ús “intensiu” i “ètic”

L’ajuntament de Naut Aran no pretén restringir l’ús de la intel·ligència artificial, sinó tot el contrari: la seua ordenança s’emmarca en un projecte per fer-la servir de forma intensiva en el dia a dia de la corporació, per a la qual cosa planteja normes que assegurin un ús “ètic” i preservin “els drets de la ciutadania”, segons el text aprovat en el ple.

Determinar la resposta

Al marge del text de l’ordenança, un dels mitjans per obtenir un ús adequat de la IA passa perquè el seu funcionament sigui “explicable”. És a dir, que sigui possible determinar en cada moment com ha elaborat cada resposta. Aquest és un factor essencial per detectar i evitar biaixos que puguin suposar exclusió o discriminar una part de la població.

“És fonamental per fer més àgil el consistori”

L’alcalde de Naut Aran, César Ruiz-Canela (CA), va afirmar que el seu ajuntament “està compromès amb les noves tecnologies i aposta amb força per un consistori totalment adaptat al segle XXI”. Considera la intel·ligència artificial “una eina fonamental per agilitzar, simplificar i optimitzar processos en tots els aspectes”. “Per això hem creat una ordenança específica, per fer-ne un bon ús”, va afegir, i va apuntar que “som un dels primers municipis a creure-hi i això ens situa com un referent a Espanya”.L’ajuntament rep l’assessorament en aquesta matèria del consultor aranès Àlex Moga, exalcalde de Vielha per CA amb una àmplia experiència en l’administració local i exdiputat al Parlament per l’antiga CiU. Va explicar que treballen des de fa dos anys per desenvolupar un “ecosistema d’IA” al consistori que agilitzi el seu funcionament diari. Es va mostrar convençut que pot accelerar en més d’un cinquanta per cent el treball i intercomunicar entre si de forma automàtica les diferents àrees de la institució. “Hem començat amb l’oficina tècnica”, va indicar.