Primera multa per deepfake: 1.200€ a un menor per crear contingut sexual amb IA d'una companya d'institut

L'Agència Espanyola de Protecció de Dades (AEPD) ha imposat la primera sanció per l'ús de tecnologia deepfake a un menor d'edat que va manipular mitjançant intel·ligència artificial les imatges d'una companya d'institut per generar contingut de caràcter sexual. La resolució, publicada al març de 2025, estableix una multa de 1.200 euros després que el responsable reconegués els fets i optés pel pagament voluntari.

Segons detalla el document de l'AEPD, el sancionat va difondre a través de xarxes socials fotografies manipulades on associava els rostres reals amb cossos nus que no corresponien a les víctimes. Aquest tipus d'actuació constitueix una infracció greu de la normativa de protecció de dades, ja que la imatge és considerada una dada personal i el seu tractament requereix una base de legitimació per ser lícit segons el Reglament General de Protecció de Dades (RGPD).

Implicacions legals en la manipulació d'imatges amb IA

La resolució emfatitza que la difusió d'aquestes imatges es va realitzar sense que concorregués cap de les causes de legitimació establertes a l'article 6.1 del RGPD. A més, l'expedient considera especialment greu que els afectats fossin menors d'edat, col·lectiu que compta amb una protecció reforçada en l'àmbit de la protecció de dades personals.

L'article 84 de la Llei Orgànica de Protecció de Dades i Garantia dels Drets Digitals (LOPDGDD) estableix que els menors han de fer un ús responsable dels dispositius digitals per garantir el desenvolupament adequat de la seva personalitat i preservar la seva dignitat i drets fonamentals. La llei també preveu la intervenció del Ministeri Fiscal quan es produeixin intromissions il·legítimes als drets dels menors.

Procés sancionador i reducció de la multa

Inicialment, l'AEPD va proposar una sanció de 2.000 euros, que va quedar reduïda a 1.200 euros després que el sancionat reconegués la seva responsabilitat i procedís al pagament voluntari. Aquesta reducció del 40% està prevista a l'article 85 de la Llei del Procediment Administratiu Comú de les Administracions Públiques, que contempla una reducció del 20% per cadascun d'aquests supòsits.

El procediment va començar el 17 de març de 2025 i va concloure el 5 d'abril del mateix any quan els representants legals del menor van procedir al pagament de la sanció. La resolució recorda que l'efectivitat d'aquestes reduccions està condicionada al desistiment o renúncia de qualsevol acció o recurs en via administrativa contra la sanció.

Aquest cas representa un precedent important en la lluita contra l'ús indegut de les tecnologies d'intel·ligència artificial, especialment aquelles destinades a generar deepfakes amb contingut sexual no consentit, una pràctica que està generant creixent preocupació entre les autoritats i organismes de protecció de dades.