La (perillosa) realitat inventada per la IA
La setmana que vam acabar ahir ha estat protagonitzada per les múltiples incidències ferroviàries, que van començar amb el tràgic accident d’Adamuz, diumenge passat, i van continuar amb el caos de Rodalies, servei que se suspèn i es reactiva de forma intermitent, la qual cosa afecta milers d’usuaris, alhora que posa en dubte les diferents administracions implicades, amb actuacions erràtiques i una política informativa que deixa moltíssim a desitjar. Aquesta situació ha eclipsat altres notícies que, d’una manera o una altra, afecten el nostre dia a dia i una de les quals té a veure amb Grok. Aquest assistent d’intel·ligència artificial que va implementar Elon Musk a X, la xarxa social abans anomenada Twitter, va produir i va difondre prop de tres milions d’imatges sexualitzades en tot just onze dies, entre les quals se n’inclouen unes 23.000 de menors, segons informes del Centre per a la Lluita contra l’Odi Digital (CCDH) i The New York Times. Tal com va transcendir divendres, l’increment massiu d’aquest contingut es va produir entre el 29 de desembre i el 8 de gener, després de la incorporació d’una nova funció a X que permetia als usuaris editar imatges publicades mitjançant Grok amb un sol clic, la qual cosa va disparar l’ús del generador. El 2 de gener, la mateixa companyia va reconèixer errors en els sistemes de seguretat després que comencessin a circular publicacions en què el xatbot accedia a sol·licituds per despullar dones i nens, modificar imatges per col·locar biquinis o recrear posicions sexualitzades, en la gran majoria de casos sense el consentiment de les persones afectades. Aquestes pràctiques, a més de ser il·legals, estan expressament prohibides en les polítiques d’ús de xAI, l’empresa responsable de Grok, però no va ser fins després de rebre nombroses denúncies d’usuaris i advertències d’autoritats de la Unió Europea i països com el Regne Unit i l’Estat espanyol, que la companyia de Musk va decidir limitar l’ús del generador d’imatges el 9 de gener, restringint-lo a usuaris de pagament. Finalment, el 14 de gener es va bloquejar per complet per a tots els usuaris aquesta impresentable i denigrant aplicació. Paral·lelament a aquest escàndol, l’Observatori Espanyol del Racisme i la Xenofòbia, dependent del ministeri d’Inclusió, Seguretat Social i Migracions, va identificar al desembre 28.978 missatges amb contingut racista i xenòfob en plataformes de xarxes socials. Malgrat que és una xifra aparatosa i preocupant, suposa una disminució del 25,8% respecte al mes de novembre, però un rècord per al treball de les plataformes que van eliminar el 62% de les publicacions notificades. Ens hem referit a dos casos que fan referència a la realitat paral·lela que vivim gràcies a (o per culpa de) les xarxes. És vital que siguem conscients dels perills que el seu ús comporta i, especialment, hem d’inculcar aquests riscos a nens i adolescents.
