Som una Fundació que exercim el periodisme en obert, sense murs de pagament. Però no ho podem fer sols, com expliquem en aquest editorial.
Clica aquí i ajuda'ns!
Una escola de secundària britànica, el nom de la qual no s’ha fet públic, va ser víctima d’un intent d’extorsió per part de ciberdelinqüents que van extreure fotografies de l’alumnat del lloc web i les xarxes socials del centre. Amb eines d’intel·ligència artificial, les van transformar en material d’abús sexual infantil (CSAM, per les seves sigles en anglès) i van amenaçar de publicar-les si no rebien diners.
La notícia, publicada per The Guardian, no és un cas aïllat d’abús sexual infantil. Una investigació de Maldita.es, membre com Verificat de la International Fact-Checking Network (IFCN), revelava la setmana passada com TikTok, la xarxa més popular entre els menors, s’ha convertit en un espai de captació per a pederastes i pedòfils, que la fan servir tant per robar imatges d’infants, com per intercanviar-les amb altres abusadors.
Ambdues peces periodístiques apunten en una mateixa direcció: les imatges dels menors a internet són susceptibles de ser emprades amb finalitats delictives, i les eines per fer-ho són cada cop més accessibles. La combinació d’intel·ligència artificial i l’acumulació massiva de fotografies infantils a les xarxes (el 81% dels menors espanyols ja té imatges publicades abans dels sis mesos de vida, segons publica la Fundació SOL), ha creat un escenari en què una fotografia feta amb la millor intenció pot esdevenir en material per a un ciberdelinqüent.
En els últims anys, l’auge del sharenting (concepte en anglès que descriu la cultura de les famílies de compartir les imatges dels seus fills i filles a les xarxes) i la tendència dels centres educatius d’obrir els seus propis comptes, per exemple a Instagram, han posat a disposició pública milions d’imatges de menors d’edat.
Experts en ciberdelinqüència i dret digital alerten a Verificat que les famílies, però també els centres educatius, han de repensar “de manera urgent” quines imatges publiquen i com ho fan.
Un context d’alarma creixent
Un de cada cinc joves espanyols afirma que, sent menor d’edat, es van difondre sense el seu consentiment imatges manipulades amb IA en què, suposadament, se’ls veia despullats. Així ho recull l’Informe técnico sobre la posible responsabilidad penal derivada de la generación y difusión de contenidos sexuales y pornografía infantil mediante IA en redes sociales, publicat el desembre del 2025 pel Govern d’Espanya, que evidencia el que ja va constatar el Servei de Línia d’Ajuda en Ciberseguretat 017: un augment dels delictes contra menors.
La sextorsió (8,55%), entesa com el xantatge o amenaces per part d’una altra persona per fer públiques imatges o vídeos de contingut sexual, encapçala la llista, seguit d’incidents relacionats amb la privadesa i la reputació en línia (5,10%) i el ciberassetjament (3,59%). L’informe també registra un increment de les consultes sobre les implicacions legals de l’ús de la IA (5,81%). Entre els riscos més freqüents hi figuren la creació de nus falsos a partir de fotografies reals, la generació de continguts manipulats per difondre desinformació i els muntatges duts a terme, fins i tot, per altres menors de l’entorn.
A escala global, el 2025 es van detectar 449.298 imatges que mostraven abús sexual infantil, de les quals 4.586 havien estat generades mitjançant eines d’intel·ligència artificial, segons l’últim informe anual de la Internet Watch Foundation (2025), organització britànica de referència en la detecció i retirada de material d’abús sexual infantil a internet. El grup d’edat més representat en aquestes imatges de creació artificial eren els nens i nenes d’entre 7 i 10 anys, que suposaven el 44% del total.
El mateix document subratlla que, tot i que el material generat amb IA implica l’1% del total de les imatges que van revisar, «el seu impacte pot ser igual de nociu». L’informe alerta que les imatges de víctimes reals es fan servir sovint per entrenar models d’IA i que, a partir d’aquestes, es generen noves imatges de les mateixes víctimes. «Igual com altres formes d’abús sexual infantil, el dany encara pot ser profund i durador per als nens representats», conclou l’IWF.
Una imatge no només pot ser reproduïda, sinó també recreada
Aquests milers d’imatges i comentaris detectats són només la punta visible d’un problema que ja afecta qualsevol imatge pujada a internet, sigui quin sigui el context en què es va compartir. Irene Montiel, professora de Criminologia i Ciberdelinqüència de la Universitat Oberta de Catalunya (UOC) i especialista en ciberviolència contra la infància, alerta que el problema va més enllà del que moltes famílies imaginen: «un dels delictes que més creix és el consum de material d’explotació sexual infantil, i els ciberdelinqüents es beneficien de les imatges que ja estan publicades a l’espai digital.»
Eduard Blasi, advocat especialitzat en Dret Digital i professor de la Universitat Autònoma de Barcelona (UAB) i de la Universitat Oberta de Catalunya (UOC), concreta el problema: «encara que les famílies o escoles tinguin cautela sobre què es puja, se’n pot fer una recreació, i això va més enllà de simplement penjar fotos». Dit d’una altra manera, una fotografia d’un alumne al web de l’escola, publicada amb la millor intenció, pot convertir-se en matèria primera per a un ciberdelinqüent en ser modificada per intel·ligència artificial i en material per als pederastes.
Com tractar les imatges dels infants?
Tant Montiel com Blasi coincideixen que el primer canvi ha de venir de com els centres i les famílies gestionen el consentiment. Les autoritzacions que signen les famílies a l’inici de curs sobre el permís d’imatges, explica Blasi, tenen un buit fonamental: «fan referència a les imatges que es publiquen des del centre, però no es té en compte l’ús que se’n pot fer més enllà». La solució que proposa és un consentiment granular i separar-ho per format, és a dir, que detalli si les imatges es publicaran al web del centre, a les xarxes socials o a mitjans de comunicació, per exemple. I recorda, a més, que caldria renovar-les més d’un cop a l’any, en funció de les accions comunicatives que es duguin a terme.
Més enllà del paper, hi ha decisions tècniques i editorials que els centres poden prendre per vetllar per l’alumnat i reduir els riscos. Montiel recomana que, quan es publiquin imatges, siguin generals, amb espais grans de l’escola, activitats, plans llargs. Mai primers plans i «molt millor sense cares», afirma. Si no és possible evitar-les, Blasi afegeix que pixelar els rostres és una opció, però recorda que les ulleres de sol no serveixen, perquè permeten identificar igualment l’infant. Per sobre de tot, Montiel recorda que cal pensar sempre abans de publicar en l’interès superior del menor i no en els beneficis corporatius del centre.
Mantenir els perfils de les xarxes socials del centre en mode privat és una mesura que ambdós valoren, però amb matisos. «Talla una mica el risc, però no talla el perill», avisa Montiel. En aquest sentit, l’experta de la UOC recorda que en vuit de cada deu casos, l’agressor del menor és una persona coneguda o de l’entorn familiar, tal com evidencia l’informe de Save The Children.
Finalment, ambdós situen la pedagogia com la mesura més important de totes. «Perquè una família pugui decidir fins a quin punt vol que es publiquin imatges del seu infant, necessita conèixer totes les conseqüències i escenaris possibles”, explica Blasi. La reflexió també aplica per als perfils personals de l’entorn familiar dels infants. En aquest escenari, el projecte de Verificat ‘Desfake Famílies’, promou l’aprenentatge compartit entre adults i infants per lluitar contra la desinformació des de casa a partir d’un butlletí mensual que ofereix consells de seguretat digital i eines per detectar contingut maliciós en línia.
