Jordi Ascensi: "No deixaríem que una màquina ens operés, però deixem la nostra salut mental en mans de ChatGPT"

El 45% dels joves espanyols utilitzen ChatGPT com a psicòleg, segons indiquen estudis que es van posar ahir sobre la taula en el congrés professional intergrupal Reptes de la intel·ligència artificial: entre emocions i algoritmes, organitzat per la delegació territorial de Lleida del Col·legi Oficial de Psicològia de Catalunya.

“No es pot deixar en mans d’una màquina una cosa tan important com la salut mental”. Així ho va destacar Jordi Ascensi, enginyer en Telecomunicacions, membre del Bureau del Comité d’Intel·ligència Artificial del Consell Europeu i del grup d’ètica de l’IA de la Unesco.

Ha fet la conferència inaugural. Com estem?

He intentat desmitificar l’IA. Sobre què és la intel·ligència artificial, què és el que fa i què és el que no fa i de quina manera està construïda, pensant sobretot en el col·lectiu de persones que es dediquen a la psicologia o a les teràpies mentals, per exemple.

Hi ha un hype, sobre l’IA?

Si, que la intel·ligència artificial farà moltes coses. Vull posar-lo en context. Principalment amb tot allò que té a veure amb els riscos i amb els impactes que hi ha. Molts d’aquests impactes són positius, de fet, per al cas de la professió de la psicologia, aquestes eines poden servir per als despatxos professionals, per poder millorar la seua eficiència, la seua operativitat, per acompanyar, fins i tot, a les persones que estan fent teràpia. Acompanyar, que no substituir.

I els biaixos que hi ha darrere

Aquests sistemes utilitzen dades i les dades de vegades estan esbiaixades. Tenen diferents components, han estat recopilats d’una manera molt específica, molt concreta, i no expliquen tota la nostra realitat. I més quan parlem de professions com és el cas de la psicologia, que és molt humana. Un humà no es limita sol a les dades que tenim digitalitzades.

Ara es parla molt de què, sobretot els joves, es diagnostiquen amb IA. Això és un risc?

Això és un risc molt elevat. De fet, hi ha una estadística que va sortir la setmana passada que diu que el 45% dels joves espanyols utilitzen ChatGPT, un sistema d’intel·ligència artificial, per poder parlar de problemes mentals, de situacions que tenen. Aquestes eines no estan pensades per a això. I la informació que et dona està molt esbiaixada.

Per què?

Perquè l’eina està programada per servir-te. Vull dir que sempre et dona la raó. Sempre intentarà fer-te sentir còmode, però des d’una certa perspectiva. Mai no intentarà contrastar. I no hi ha aquesta responsabilitat o professionalitat d’una persona que es dediqui al món de la psicologia. És un model de llenguatge que utilitza l’estadística i la probabilitat d’una forma molt esotèrica, però no està orientada a donar suport psicològic.

Llavors això és un gran problema.

És un problema que ja hem de pensar com a societat. Si els nostres joves utilitzen aquestes eines i no van a un professional. Això ens ha de fer reflexionar.

Pot ser que sigui per l’espera?

Exacte. O, fins i tot el tema de la immediatesa de l’eina, el fet que els joves utilitzen més les pantalles que altres col·lectius. Fins i tot també el mateix aïllament, però també, fins i tot la manera en què l’eina es posiciona des d’una perspectiva que jo et puc ajudar. Perquè ho diu d’una forma subtil, i com si fos una persona, quan en realitat és una màquina. Et diu entenc com et sents. I no. És una màquina, no pot entendre com et sents. És un llenguatge enganyós i les empreses que programen els sistemes d’intel·ligència artificial saben que utilitzen aquest llenguatge enganyós.

L’altre repte seria la legislació, perquè no està gens clara?

Sí, de fet hi ha diferents marcs reguladors. La Unió Europea, que és molt garant amb els drets de les persones, té una llei que va començar la seua aplicació aquest agost, però tampoc no està clar com és el reglament que executa aquesta llei, que la posa en pràctica, i la regulació sempre va molt a remolc de totes les innovacions tecnològiques. Les empreses que es dediquen a donar serveis tecnològics d’aquest tipus el saben i, per tant, intenten eludir-la com poden i com volen. I sí, és un problema.

Què demanaria als legisladors?

Se’ls ha de demanar que actuïn ràpid i que actuïn de forma molt conscient perquè aquesta legislació, aquestes lleis que estan ben pensades, siguin pràctiques i puguin ser aplicades al món real. El que s’ha de demanar al legislador és que entengui què és el que necessita la societat per aplicar aquesta llei i l’activin de forma ràpida i que no es deixin portar per lobbies.

La llei sempre arriba més tard

Però això no vol dir que no n’hi hagi d’haver. Hi ha una narrativa que diu que la regulació mata la innovació. No és veritat. Al món de la farmàcia hi ha una regulació brutal. I fem productes. Han fet una vacuna del Covid en pocs mesos. Vagi, això és increïble.

I a més quan afecta la salut, no?

Totalment. Més en el cas de salut mental. Ningú no deixaria que una màquina operés de forma automatitzada, ja que tampoc no deixem que la nostra salut mental s’automatitzi a través d’un model de llenguatge, d’un ChatGPT o del que sigui.

És important tenir clar que és una eina, però que no ha de substituir la persona.

Totalment. L’eina, aquests sistemes poden ajudar als terapeutes a ser més eficients, a fer més, en operar d’una forma millor o a poder fins i tot arribar més lluny, prenent notes, fent resums de pautes que ja tinguin fetes, fins i tot complementant la funció terapèutica, però mai no poden ser substituts de la funció d’un professional que es dediqui a la psicologia.