Ulises Cortés: «Les grans tecnològiques no fan un bon ús de la IA»

El catedràtic d’Intel·ligència Artificial i investigador del Barcelona Supercomputing Center Ulises Cortés és un dels experts que formen el nou comitè en seguretat ciutadana engegat per la Paeria. Parla amb SEGRE sobre els límits de l’ús de la IA, l’elevat impacte mediambiental que té i la necessitat de formar la població per a un ús específic, necessari i ètic. També critica les grans companyies tecnològiques per comercialitzar amb les dades de les persones i advoca perquè la UE desenvolupi models propis.

Quin límit hi ha en l’ús de les càmeres de videovigilància a la via pública?

Hi ha tots els límits. La Llei Europea d’Intel·ligència Artificial prohibeix d’una forma explícita el seguiment persistent utilitzant mètodes com les càmeres digitals. I també d’altres dispositius digitals, com el mòbil. Llavors, depèn del tipus d’imatge, de qui té accés a aquestes dades, qui ha donat els permisos per fer aquest seguiment. A partir d’allà, és cert que si tot això està permès, el següent pas seria identificar quins són els patrons que vols seguir.

Però això no envaeix la nostra intimitat?

A Europa, només pot autoritzar-ho un jutge. Després ha de verificar quina classe de dades. Podries tenir, d’una banda, la trajectòria d’una persona, sense identificar-la, i després altres indicadors. Si el jutge ho autoritza, podries ajuntar-los. Però aquesta informació hauria d’estar en entorns segurs diferents.

La gent se sentiria més controlada?

Has estat a Londres?

Sí.

T’has sentit controlada?

La veritat és que no.

Doncs és una de les ciutats del món amb més càmeres. Cada cinquanta metres n’hi ha una. És un procés de percepció, per la qual cosa n’has d’informar la població. A Lleida, el fet que s’anunciï un comitè d’experts, ja parla de la transparència de la mateixa iniciativa.

Hem de deixar la seguretat en mans de la tecnologia?

No la deixes en mans de la tecnologia, perquè és només un instrument. Són les forces de l’ordre les que asseguren un Estat de Dret, la seguretat dels individus.

Darrere de la intel·ligència artificial hi ha d’haver sempre un humà?

Ni la tecnologia ni la IA són per substituir. A priori la llei europea indica que totes les decisions que es prenguin sobre les persones i el medi ambient han d’estar supervisades per un humà, perquè aquest humà n’és el responsable.

Anem tard amb la legislació?

No, estem molt al davant de tots els altres, però la llei s’acaba d’aprovar i ara hi ha un parell d’anys en què s’ha de desplegar.

La IA és bona o és dolenta?

La IA és una eina. Depèn de com la utilitzis, pot ser en benefici o en perjudici de les persones.

I s’està utilitzant bé?

Depèn de qui. Amazon, Microsoft, Alibaba..., totes aquestes companyies, no. N’hi ha d’altres que sí, però cap dels Big Techs la utilitza bé.

Per què?

Doncs perquè el que fan fonamentalment és envair els drets de privacitat i les dades de les persones i els comercialitzen. Ningú es pot fer milionari del no-res en pocs anys. O estàs robant algú o estàs fent una cosa que és clarament il·legal. Llavors, hi ha tres activitats il·legals per excel·lència ara: el mal ús de la IA, la venda de drogues i la venda d’armes.

S’hauria de controlar aquestes persones...

A Europa i als EUA, la responsabilitat del mal ús de la tecnologia és de la companyia i no de la persona propietària de la companyia.

A la Xina, és una responsabilitat personal. Per què Europa no ha tallat aquestes companyies? Doncs perquè el senyor Trump t’enviaria un vaixell o un bombarder...

La IA existeix des de fa anys, per què ara està tan de moda?

Existeix des del 1956, sempre ha estat de moda, però mai ha tingut hype (expectació desmesurada), i ara sí.

Però la gent sap el que és?

No, hi ha molt poca gent que n’està informada. En general, aquestes tecnologies de ràpid i fàcil ús són precisament perquè la gent no es plantegi la pregunta del que hi ha darrere. Llavors, no tothom està preparat per utilitzar la IA, però els governs no fan res.

Quan un pare o una mare deixa que els seus fills utilitzin ChatGPT, des del meu punt de vista, està cometent un acte en contra d’ells, no els està protegint. No està respectant la pàtria potestat, perquè està usant una eina que no està certificada per cap govern.

Llavors, què fem?

Educació als col·legis, als professors. I sobretot, educar la gent perquè no sigui tan activa a l’utilitzar coses només perquè són allà i són gratis, aparentment.

També desconeixem l’impacte ambiental que té la IA?

Sí, això és segurament la pitjor part. Ara s’està construint una narrativa, moltes vegades avalada per científics, que blanqueja l’ús excessiu d’energia i aigua.

Hauríem de veure una anàlisi molt detallada, amb una posició a favor i una altra en contra de científics reanomenats sobre el creixement desmesurat dels centres de dades en països de clima mediterrani, proclius a la sequera i on la major part de les glaceres que hi havia a les seues muntanyes al nord de la frontera amb França han desaparegut.

Quin cost té fer una pregunta a una IA?

Ha d’utilitzar al voltant de 6 litres d’aigua i com l’equivalent a un llum de 40 W encès una hora. Un no és res, però si el multipliques per un milió...

Quins reptes tenim amb la IA?

Primer hem d’educar la població, després, controlar els amos de les companyies. I la tercera, plantejar-nos com la Unió Europea ha de tenir models propis que s’utilitzin per a coses que són necessàries.

Hi ha por a perdre la feina si pot fer-ho una IA...

Cada vegada que la utilitzes, si ets un professional competent, contribueixes que desaparegui un lloc de treball. A Peter Pan, hi ha una frase que diu que cada vegada que un nen diu que no creu en les fades, una mor. Doncs cada vegada que un professional utilitza una d’aquestes eines, part d’una professió desapareix.