El Regne Unit demana a Musk accions urgents per frenar els 'deepfakes' sexuals de nens a X

La ministra de Tecnologia del Regne Unit, Liz Kendall, va demanar aquest dimarts al magnat tecnològic Elon Musk i la seua xarxa social X de prendre accions urgents per frenar l’ús de Grok, la intel·ligència artificial de la plataforma, que en els últims dies ha estat utilitzada per crear imatges 'deepfake' sexualitzades de menors.

Kendall se suma així a la crida del regulador de comunicació britànic (Ofcom), que va expressar aquest dilluns "serioses preocupacions" sobre una de les funcions de Grok que generava "imatges de persones amb poca roba i imatges sexualitzades de nens".

"El que hem vist en línia en els últims dies ha estat absolutament espantós i inacceptable en una societat decent. Ningú no hauria de passar l’experiència de veure 'deepfakes' íntims seus a internet", va dir Kendall en un comunicat difós per mitjans britànics.

"No permetrem la proliferació d’aquestes imatges humiliants i degradants que es dirigeixen de manera desproporcionada a les dones i les nenes. X ha d’abordar aquesta qüestió amb urgència", va afegir la ministra, que va reiterar el seu suport a Ofcom davant de possibles mesures coercitives que pugui considerar necessàries contra la xarxa social.

Una publicació en el compte de Grok a X va admetre que existien casos "aïllats" en els quals els usuaris van generar imatges d’intel·ligència artificial en les quals apareixien "menors amb escassa roba" i va agregar que estava treballant per bloquejar aquest tipus de peticions per complet.

En aquest sentit, Kendall va reiterar l’obligació dels operadors d’actuar adequadament i va recordar que, sota la recent Llei de Seguretat a Internet ('Online Safety Act') britànica, els delictes com l’abús d’imatges íntimes i el ciberexhibicionisme estan tipificats, encara que estiguin fets amb IA, i les plataformes han d’evitar la seua publicació o eliminar-les amb rapidesa si apareixen.

Aquest diumenge, el propi Musk va advertir a X que qualsevol que utilitzi Grok per generar "contingut il·legal" patirà les mateixes conseqüències que si publiquessin un contingut tipificat com a tal, després d’haver minimitzat el problema en un primer moment.

Arran d’aquesta publicació del magnat, el compte oficial de Seguretat a X va assegurar que estan prenent mesures contra el contingut il·legal a la plataforma, inclòs el material d’abús sexual infantil, "eliminant-lo, suspenent comptes de forma permanent i treballant amb els governs locals i les forces de l’ordre segons sigui necessari".