La (peligrosa) realidad inventada por la IA
La semana que acabamos ayer ha estado protagonizada por las múltiples incidencias ferroviarias, que empezaron con el trágico accidente de Adamuz, el pasado domingo, y siguieron con el caos de Rodalies, servicio que se suspende y se reactiva de forma intermitente, lo que está afectando a miles de usuarios, a la vez que pone en entredicho a las diferentes administraciones implicadas, con actuaciones erráticas y una política informativa que deja muchísimo que desear. Esta situación ha eclipsado otras noticias que, de una manera u otra, afectan a nuestro día a día y una de ellas tiene que ver con Grok. Este asistente de Inteligencia Artificial que implementó Elon Musk en X, la red social antes llamada Twitter, produjo y difundió alrededor de tres millones de imágenes sexualizadas en apenas once días, entre las que se incluyen unas 23.000 de menores, según informes del Centro para la Lucha contra el Odio Digital (CCDH) y The New York Times. Tal y como trascendió el viernes, el incremento masivo de este contenido se produjo entre el 29 de diciembre y el 8 de enero, tras la incorporación de una nueva función en X que permitía a los usuarios editar imágenes publicadas mediante Grok con un solo clic, lo que disparó el uso del generador. El 2 de enero, la propia compañía reconoció fallos en los sistemas de seguridad después de que comenzaran a circular publicaciones donde el chatbot accedía a solicitudes para desnudar mujeres y niños, modificar imágenes para colocar bikinis o recrear posiciones sexualizadas, en la gran mayoría de casos sin el consentimiento de las personas afectadas. Estas prácticas, además de ser ilegales, están expresamente prohibidas en las políticas de uso de xAI, la empresa responsable de Grok, pero no fue hasta después de recibir numerosas denuncias de usuarios y advertencias de autoridades de la Unión Europea y países como Reino Unido y España, que la compañía de Musk decidió limitar el uso del generador de imágenes el 9 de enero, restringiéndolo a usuarios de pago. Finalmente, el 14 de enero se bloqueó por completo para todos los usuarios esta impresentable y denigrante aplicación. Paralelamente a este escándalo, el Observatorio Español del Racismo y la Xenofobia, dependiente del ministerio de Inclusión, Seguridad Social y Migraciones, identificó en diciembre 28.978 mensajes con contenido racista y xenófobo en plataformas de redes sociales. Pese a lo aparatoso y preocupante de la cifra, supone una disminución del 25,8% respecto a noviembre, pero un récord para el trabajo de las plataformas que eliminaron el 62% de las publicaciones notificadas. Nos hemos referido a dos casos que hacen referencia a la realidad paralela que vivimos gracias a (o por culpa de) las redes. Es vital que seamos conscientes de los peligros que su uso entraña y, especialmente, debemos inculcar estos riesgos a niños y adolescentes.
