Ètica de la IA. Un gran avenç tecnològic no absent de perills

La Intel·ligència Artificial (IA) s’està desenvolupant ràpidament. Forma part de la nostra vida, i els experts vaticinen que provocarà un canvi substancial, serà una revolució tecnològica. Realitza accions que fins ara eren exclusives de la intel·ligència humana, com: aprenentatge –Machine Learning, Deep Learning–. Raonament o presa de decisions intel·ligents. Adaptació –auto-corregir-se–. Percepció, resolució de problemes, interacció lingüística, producció de treballs creatius, i altres.

En medicina ajuda el metge en la diagnosi per la imatge, analítiques. Suport en tasques burocràtiques i mecàniques, personalització de l’assistència, recerca.

Com tota innovació científica que millora la nostra qualitat de vida –i diuen també quantitat– no està exempta de perills per a la humanitat, especialment per a les persones més vulnerables. Hi ha importants aspectes ètics que s’han de tenir en compte, i les societats democràtiques s’han de defensar del mal ús que es pot fer que provoqui un retrocés democràtic, augmenti les diferències entre rics i pobres i fomenti els fanatismes i les dictadures.

L’ús ètic de la intel·ligència artificial és del tot necessari. Alguns principis són:

Privacitat-confidencialitat: puc decidir que no vull que es facin servir les meves dades? Informació a l’empresa que treballes. Els empresaris no han de poder obtenir les dades confidencials de salut dels treballadors ni dels que demanen feina o no els contractaran.

Explicabilitat i transparència: xarxes neuronals profundes funcionen en una “black box”: no se sap com arriben a donar els resultats. N’hi ha d’erronis. Ha d’estar supervisat i sota la voluntat humana; s’ha d’evitar que els ordinadors “s’independitzin” ja que autoaprenen.

Rendiment de comptes: qui es fa responsable de les dades? És necessària una legislació. Hi ha d’haver un control democràtic d’aquests mitjans. El Parlament Europeu ha aprovat una Llei de la IA, per protegir les persones.

Discriminació: biaixos dels programadors d’algoritmes segons els seus valors i principis (si és racista, masclista, etc.). Escalat dels biaixos. Dependència asseguradores mèdiques. Podran accedir a les dades de salut de les persones per apujar les quotes o no assegurar-les? Conflicte d’interessos. Les empreses prioritzaran el bé de les persones o el propi benefici?

Deshumanització: la relació professional de la salut-malalt és essencial. Fa pocs dies va sortir una notícia preocupant dels perills del mal ús de la IA. Una malalta no va ser atesa d’urgència per cap metge ni infermera en un CAP perquè l’eina informàtica que tenien d’IA la classificava com a no urgent. Una màquina no ha d’impedir que un malalt sigui visitat per un metge.

Sostenibilitat: el consum d’energia i d’aigua dels falsos “núvols” en els quals hi ha els grans ordinadors és molt gran.

Cal conscienciar la ciutadania per protegir-nos de les fake news que poden alterar la democràcia, facilitant que els qui tenen més diners guanyin les eleccions.