Reportatge

“Deepfakers”, els cacics del segle XXI

Els deepfakes, també coneguts com a “mitjans sintètics”, són vídeos, imatges o àudios generats que imiten l’aparença i el so d’una persona. Aquesta tecnologia tan convincent en la seva simulació de la realitat pot enganyar tant a persones com als mateixos algoritmes. Són aplicats comunament en vídeos o elements com a filtres de realitat augmentada.

El terme deepfake sorgeix de la combinació de “deep learning” i “fake”, reflectint que es refereix a alguna cosa falsa produïda per la tecnologia d’aprenentatge profund. Hi ha aplicacions de consum que fan servir aquesta tecnologia per a l’entreteniment, com FaceSwap, però la seva creixent disponibilitat, popularitat i cada vegada més precisió i recursos planteja preocupacions sobre el seu potencial ús maliciós.

Manipular els candidats, manipular la població

Estats Units, 2024. Els postulants a candidats van prenent posicions. Entre ells, l’ombra de Trump treu el cap recolzat pels seus clàssics seguidors creients de la conspiració. En aquesta ocasió el seu objectiu ha tornat a ser la demòcrata Hillary Clinton: els trumpistes viralitzen i donen credibilitat a un deepfake on es veu Clinton recolzar el republicà Ron DeSantis. “Els partidaris de Donald Trump s’han atribuït el mèrit de produir un vídeo fals que mostra Hillary Clinton recolzant Ron DeSantis per a la presidència”, s’ha pronunciat l’OECD.AI Policy Observatory catalogant el vídeo com a fake.

El deepfake en context electoral polític s’ha convertit en un dels principals usos maliciosos que l’eina pot tenir. No és la primera vegada que es veu un fenomen així, la desinformació a través d’aquest mètode és cada cop més habitual, minvant així la confiança de les persones a les institucions a més de ser un recurs ampli de manipulació. Mario García, director general per a Espanya i Portugal de la tecnològica de seguretat informàtica Check Point Software afegeix com a precedents l’exemple que a les eleccions a Eslovàquia, van circular en xarxes socials enregistraments deepfake del líder d’un partit fent-se passar per un candidat liberal i parlant de manipular eleccions, la qual cosa influïa potencialment en els resultats. Mitjançant aquesta mateixa tècnica, el gener de 2024, es va distribuir una trucada automàtica en què s’escoltava la veu falsa de Joe Biden, l’actual president dels EUA i candidat de nou a les eleccions, en què incitava els habitants de New Hampshire a no votar.

L’escenari preferit de la desinformació

Els processos electorals són el peak del deepfake: en èpoques d’eleccions hi ha un increment notable en la utilització de comptes falsos per difondre desinformació o notícies falses, arribant a representar fins al 80% d’augment segons va comptabilitzar Meta (Facebook, Instagram i WhatsApp). Aquests comptes fraudulents esdevenen cada cop més difícils d’identificar tant per a les plataformes com per als usuaris, en gran mesura a causa de l’ús de la Intel·ligència Artificial. Així puntualitza Mario García, que explica que des de la tecnològica de seguretat informàtica han analitzat més de 36 campanyes electorals a nivell mundial i han descobert que una tercera part inclou material d’àudio i vídeo generat per IA: “això destaca una evolució cap a la desinformació i manipulació dels processos democràtics. La sofisticació i l’accessibilitat de les tecnologies d’IA han arribat a un punt on es poden fer servir fàcilment per influir en el procés democràtic”.

Citant un informe de Check Point Research, incideix en el fet que als mercats criminals d’Internet s’està veient un augment en l’ús d’eines sofisticades que incorporen funcionalitats d’IA per crear deepfakes i administrar comptes de xarxes socials. Un cas paradigmàtic és una plataforma que s’ofereix en un fòrum clandestí rus i que utilitza IA per automatitzar la distribució de continguts a través de perfils falsos a Instagram i Facebook. Aquesta plataforma pot gestionar centenars de comptes, fer publicacions diàries i és especialment hàbil en campanyes d’influència electoral a gran escala.

Google, Microsoft i Meta han acordat recentment limitar els deepfakes electorals, però no els prohibiran. A més de la creació de contingut falsejat, la IA actua com a coordinadora de llançaments massius de desinformació, com apunta Mario Garcia, “les xarxes socials tenen un paper crucial en l’amplificació de contingut fals i manipulat a causa de la seva capacitat per distribuir informació ràpidament a una gran audiència”.

El yin i el yang de la IA

Allò que un gran poder comporta una gran responsabilitat és aplicable en aquesta situació. La Intel·ligència Artificial és un recurs de gran potència que té un impacte fort i una capacitat real d’influència. Entre el yin i el yang, el mal ús de la IA en cas de deepfake electoral, es pot contrarestar amb el bon ús de la IA per al fact checking. “És possible fer servir models avançats d’IA per construir eines encaminades a detectar informació falsa. Gràcies a les característiques d’aquests models, com la multilingualitat o la capacitat per considerar el context i la semàntica del llenguatge, permeten oferir solucions on algunes barreres, com la de l’idioma, es dilueixen”, apunta l’informe “Lluitant contra la desinformació mitjançant la intel·ligència artificial” del Projecte CIVIC. Sobre l’augment exponencial de qualitat i eficiència que la IA aporta al fact checking, l’informe afegeix que “aquest tipus d’eines suposen i suposaran un ajut fonamental per a organitzacions de fact checking, ampliant-ne el rang d’acció i cobertura, podent analitzar una quantitat més gran de desinformació que circula per xarxes socials i altres mitjans de comunicació”.