La UE investiga la IA de la xarxa social X, Grok, per crear imatges sexuals

La Comissió Europea va anunciar ahir l’obertura d’una investigació contra la xarxa social X per la creació d’imatges sexualitzades i nus sense consentiment a través de la seua eina d’intel·ligència artificial, Grok, sumant-se d’aquesta forma a altres països que han emprès accions similars les últimes setmanes. El passat 10 de gener, Indonèsia va bloquejar l’accés a Grok al considerar que la creació d’imatges sexuals falses sense consentiment de les persones ofeses representa “una violació greu dels drets humans”.

La decisió va ser presa “per protegir les dones, els nens i tota la comunitat dels riscos de contingut pornogràfic fals generat mitjançant tecnologia d’intel·ligència artificial”, segons les autoritats indonèsies.

Un parell de dies després, Malàisia va adoptar una decisió similar i va restringir l’accés a la plataforma, sense que això afectés l’ús d’X. Per la seua part, el regulador britànic de seguretat en línia Ofcom va anunciar el 13 de gener l’obertura d’una investigació formal contra X per determinar si ha complert les seues obligacions legals al Regne Unit arran de la circulació d’imatges sexualitzades, fins i tot de menors, creades amb aquesta eina.

El 15 de gener van ser les autoritats de les Filipines les que van decidir “el bloqueig de l’accés a Grok al país, arran de la publicació d’imatges sexualment explícites”. A Irlanda, la policia nacional va obrir una investigació sobre més de 200 de casos relacionats amb la publicació d’imatges íntimes de menors generades amb aquesta eina.

També Espanya s’ha plantejat accions contra Grok. El 7 de gener, la ministra de Joventut i Infància, Sira Rego, va sol·licitar a la Fiscalia General de l’Estat que investigui si Grok pot estar cometent delictes de difusió de material de violència sexual contra la infància.

Encara que en un primer moment Elon Musk, amo d’X, va respondre a la polèmica publicant una fotografia feta amb IA en la qual ell apareixia en biquini, després va assegurar que s’estaven prenent mesures contra el contingut il·legal a la plataforma, inclòs el material d’abús sexual infantil.

El 15 de gener Grok va anunciar que limitava als usuaris de pagament la possibilitat d’editar fotografies. El 22 de gener Filipines va restablir el servei i l’endemà ho va fer Malàisia.