La UE investiga la IA de la red social X, Grok, por crear imágenes sexuales

La Comisión Europea anunció ayer la apertura de una investigación contra la red social X por la creación de imágenes sexualizadas y desnudos sin consentimiento a través de su herramienta de inteligencia artificial, Grok, sumándose de esta forma a otros países que han emprendido acciones similares en las últimas semanas. El pasado 10 de enero, Indonesia bloqueó el acceso a Grok al considerar que la creación de imágenes sexuales falsas sin consentimiento de las personas agraviadas representa “una violación grave de los derechos humanos”. La decisión fue tomada “para proteger a las mujeres, los niños y a toda la comunidad de los riesgos de contenido pornográfico falso generado mediante tecnología de inteligencia artificial”, según las autoridades indonesias. Un par de días después, Malasia adoptó una decisión similar y restringió el acceso a la plataforma, sin que ello afectara al uso de X. Por su parte, el regulador británico de seguridad en línea, Ofcom, anunció el 13 de enero la apertura de una investigación formal contra X para determinar si ha cumplido sus obligaciones legales en el Reino Unido tras la circulación de imágenes sexualizadas, incluso de menores, creadas con esta herramienta. El 15 de enero fueron las autoridades de Filipinas las que decidieron “el bloqueo del acceso a Grok en el país, tras la publicación de imágenes sexualmente explícitas”. En Irlanda, la Policía nacional abrió una investigación sobre más de 200 de casos relacionados con la publicación de imágenes íntimas de menores generadas con esa herramienta. También España se ha planteado accidentes contra Grok. El 7 de enero, la ministra de Juventud e Infancia, Sira Rego, solicitó a la Fiscalía General del Estado que investigue si Grok puede estar cometiendo delitos de difusión de material de violencia sexual contra la infancia.

Aunque en un primer momento Elon Musk, dueño de X, respondió a la polémica publicando una fotografía hecha con IA en la que él aparecía en bikini, después aseguró que se estaban tomando medidas contra el contenido ilegal en la plataforma, incluido el material de abuso sexual infantil. El 15 de enero Grok anunció que limitaba a los usuarios de pago la posibilidad de editar fotografías. El 22 de enero Filipinas restableció el servicio, y al día siguiente lo hizo Malasia.