SEGRE

Creat:

Actualitzat:

La intel·ligència artificial (IA) ha deixat de ser una tecnologia reservada als laboratoris per convertir-se en una eina quotidiana. És present en els cercadors, els assistents digitals, les xarxes socials, els sistemes de recomanació i cada vegada més en àmbits com l’educació, la medicina o el treball. Les seues possibilitats són enormes, però també ho són alguns dels riscos associats al seu desenvolupament i utilització. Un dels principals problemes és la possibilitat que la IA generi informació falsa o imprecisa. Els sistemes capaços de produir textos, imatges, àudio o vídeo poden crear continguts molt convincents que no es corresponen amb la realitat. Això facilita la difusió de falsedats, les campanyes de desinformació i els fraus. Els anomenats deepfakes, per exemple, permeten fabricar imatges o enregistraments en els quals una persona sembla dir o fer una cosa que mai no ha passat. Un altre risc important afecta la privacitat. Molts sistemes d’IA necessiten grans quantitats de dades per funcionar i millorar. Si aquestes dades inclouen informació personal, existeix el perill que siguin recopilades, utilitzades o compartides de manera inadequada. A més, les eines de reconeixement facial i altres sistemes d’anàlisi automatitzats poden augmentar la capacitat d’identificar i seguir les persones. La IA també pot reproduir biaixos presents en les dades amb què ha estat entrenada. Si aquestes dades contenen desigualtats històriques o representacions insuficients de determinats grups, un sistema automatitzat pot oferir resultats discriminatoris. El problema adquireix especial rellevància quan la tecnologia intervé en decisions relacionades amb l’ocupació, el crèdit, l’educació o l’accés a determinats serveis. En l’àmbit laboral, l’automatització planteja un altre desafiament. Algunes tasques es poden fer de forma parcial o total per sistemes d’IA, la qual cosa pot transformar nombrosos llocs de treball. Això no significa necessàriament que desaparegui l’ocupació en conjunt: també poden sorgir noves professions i augmentar la productivitat. Tanmateix, la transició pot ser desigual i exigir formació perquè els treballadors puguin adaptar-se als canvis. Existeix a més un risc relacionat amb la dependència tecnològica. Com més deleguem determinades decisions en sistemes automatitzats, més gran és la importància de comprendre’n els límits. Un error d’un programa pot tenir conseqüències especialment greus quan intervé en àmbits sensibles. Per això, la supervisió humana, la transparència i la possibilitat de revisar una decisió automatitzada són elements fonamentals.

Aquest editorial, tret d’aquestes tres últimes línies, ha estat redactat íntegrament per la IA en 0,000001 segons.

tracking