Una IA no tan intel·ligent

És evident, i notori, que la Intel·ligència Artificial (AI) ja forma part de la nostra quotidianitat en l’ús i consum que en fem dels productes i serveis tecnològics. Des de quan parles amb Siri, el que busques a Google, quan demanes a Alexa o compres un llibre a Amazon o, si anem més enllà, quan cedim les nostres dades a tercers.

La gestió efectiva de tot aquest volum de dades l’anomenem Big Data. Fem un pas més, si el repositori que conté aquestes dades s’utilitza en benefici del consum, els algoritmes creats per l’home (majoritàriament) entren en el procediment, provocant que la suma d’aquests dos factors aporti valor afegit i informació molt interessant i vendible. El resultant d’aquesta traçabilitat, que explico de manera molt bàsica, ens permet visualitzar l’AI.

Els algoritmes

Al marge de la seva definició, que pot ser tan simple com complexa, aquests són creats majoritàriament per homes. Segons dades de l’OCDE, més de la meitat de les persones que finalitzen estudis universitaris són dones i, d’aquestes solament el trenta per cent són estudis vinculats a la ciència i/o tecnologia. Si profunditzem una mica més, les dones ocupen el seixanta per cent de les ocupacions relacionades amb ciències de la comunicació, i d’aquest solament entre el deu i el vint per cent ocupen llocs de treball de programació informàtica, enginyeries, analistes o dissenyadores de sistemes.

Algoritmes esbiaixats

Amb la incipient literatura científica que estudia la presència d’errors a l’AI, un estudi publicat l’any passat demostra l’esbiaix sexista d’aquesta amb resultats molt evidents. Aquest estudi demostra que l’AI és el mirall de la societat que avui vivim. Citant un cas d’estudi, un algoritme va visualitzar que la paraula “dona” estava associada amb la cuina, per altra banda la paraula “home” estava associada a l’entrenament físic.

Com ho revertim?

És imprescindible, i fa molt temps que es reclama, crear un Marc Ètic Europeu d’Intel·ligència Artificial. Sumar-lo, transversalment, al treball que s’està fent d’exigència d’igualtat i evitar amb tots els mitjans, dissenyar una societat futura d’AI esbiaixada i sexista. Encara queda molta feina a fer per trencar patrons mentals i culturals respecte als itineraris formatius, amb diferències entre gèneres.

La dona i la ciència

El meu reconeixement a Katherine Johnson, Dorothy Baughan i Mary Jackson.