Som una Fundació que exercim el periodisme en obert, sense murs de pagament. Però no ho podem fer sols, com expliquem en aquest editorial.
Clica aquí i ajuda'ns!
És legal fer una còpia d’una obra d’art i penjar-la al menjador? I si, en comptes de triar una pintura i imprimir-la, en genero una de nova amb intel·ligència artificial? És més ètic? Podem trobar-nos amb dubtes com aquests quan fem servir la IA, especialment si la tenim com a companya a l’aula. A la càpsula d’IA del nostre projecte educatiu dediquem un apartat als perills d’aquesta tecnologia. Entre ells, el contingut il·legal.
Els algoritmes es poden fer servir per reproduir de manera automàtica i massiva obres protegides. Aprenen i imiten els patrons de les dades d’entrenament i aquestes sovint inclouen materials amb drets d’autor. A banda de les consideracions ètiques, la reproducció no autoritzada posa en perill els ingressos i la propietat intel·lectual dels autors originals.
La IA ve carregada de promeses, també en el món educatiu. Convé que no oblidem que quan fem servir la intel·ligència artificial ha de ser sempre en benefici de l’alumne i dels seus drets i interessos. “Qui decideix com s’experimenta no han de ser les empreses sinó el professorat, la direcció en acord amb l’alumnat i les famílies” ens deia Albert Sabater, director de l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya.
Qüestions legals i dilemes ètics
El concepte d’autor com a una figura individual, genial i creadora, és una noció moderna. Fa segles que es conversa sobre les fonts, les inspiracions, la còpia, sobre qui és (i qui pot ser) un autor. Volem respostes fàcils, però la realitat no ho és pas. Què en fem ara d’aquella figura d’autor gran i creatiu? Pot adaptar-se la definició a la multidimensionalitat complexa, plena de matisos i particularitats de la web 2.0? Plataformes com X (abans Twitter) o YouTube, obren la porta a la participació, a la creació sobre altres creacions, a la remescla i l’edició fan. La cultura del remix i les llicències col·lectives de Creative Commons funcionen en aquests termes, en el potencial dialèctic de la creació artística. Ara bé, quin paper hi juga la IA en tot això?
Sembla que la intel·ligència artificial és la nova joguina, brillant i infinita, que ens manté entretinguts amb totes les seves variacions i possibilitats. I una d’aquestes tantes és la de generar pintures, novel·les o composicions musicals. L’Associació d’Escriptors en Llengua Catalana (AELC) es preguntava com es pot garantir que les dades que alimenten la IA han estat extretes èticament i respectuosament amb els drets d’autor. Però l’AELC no és l’únic grup que es fa aquesta pregunta.
El diari The New York Times va presentar una denúncia contra Microsoft i OpenAI per fer servir les seves publicacions sense consentiment ni pagament per entrenar el seu model d’intel·ligència artificial. L’Associació de Mitjans d’Informació, que representa la indústria mediàtica a Espanya, va donar el seu suport a la demanda.
El debat, doncs, no és només ètic. A Europa, la mineria de dades (l’anàlisi d’un gran volum d’informació emmagatzemada en diferents bases de dades per poder identificar patrons) és legal només si té una finalitat científica i no comercial. Als Estats Units existeix un concepte que difumina encara més els límits, el fair use. És sota aquest concepte que es resguarda l’empresa OpenAI. La doctrina defensa que només s’infringeix el fair use (ús raonable) si el material redueix el valor de mercat de l’obra per al creador original. Tanmateix, aquest concepte no s’aplica a Europa.
Sam Altman, CEO d’OpenAI, ha dit que les tecnologies d’IA generativa no funcionarien sense l’ús d’obres i materials protegits amb drets d’autor. Organitzacions com Fairly Trained no opinen el mateix i prenen un enfocament basat en el consentiment.
Podem demanar a la IA una pintura d’un pati interior on un home i una dona prenent el te i podem incloure al prompt que volem que s’assembli a les obres de Ramon Casas. No és gaire, però com a mínim aquí podem identificar quines obres la IA ha fet servir per generar la seva. A vegades no és tan clar. Si demanem una pintura d’un bosc o un retrat del nostre personatge literari preferit, qui és el model? La IA no només fa servir les obres de Casas o Dalí, sinó que fa un buidatge de tones i tones de dades digitals, més o menys anònimes, més o menys professionals. Les empreses usen aquestes dades, però nosaltres, com a usuaris també podem triar entrenar l’algoritme amb les imatges o els textos que considerem.
Diem que la IA aprèn, al·lucina, crea… Es fan servir trucs retòrics que ens empenyen a pensar en la IA com a una eina intrínsecament artística i reflexiva. La nostra tria lèxica la personifica, però és ben clar que la IA no és humana ni objectiva ni tampoc creativa. Si la IA genera còpies i qualsevol creació és una reproducció sense creativitat, aquesta ha de venir de la mà de les persones. Al darrere de la IA no hi ha cap procés de presa de decisió artística, cap consideració estilística o estètica. És una cristal·lització d’allò que ja hem fet, pensat i creat. A la IA no li cal (i no està dissenyada per a això) la creativitat perquè segueix unes instruccions i és exitosa en la mesura que aconsegueix el resultat més probable minimitzant els errors.
Quan la IA genera un Dalí d’imitació, la feina ja està feta. La reflexió, les decisions, el procés creatiu ja els va fer l’artista. No només és una qüestió de còpia o no còpia. El talent propi i singular dels artistes s’aboca a una base massiva, despullats d’autoria, al servei de la producció de les empreses rere les eines d’IA generativa. Investigadors de Microsoft compartien prompts per mostrar com es podia generar qualsevol cosa a partir d’imatges, vídeos, àudios i textos. Per aconseguir bons resultats, els calia donar a la IA noms d’artistes com Craig Mullins, Albert Williams o Sylvain Sarrailh (Art Station). Així doncs, l’algoritme havia estat entrenat amb aquestes obres.
Més enllà de tota la tirallonga legal que envolta el debat dels drets d’autor i la IA, no podem ignorar els dilemes ètics, encara menys a l’aula. Una política estricta de prohibició no prepararà els alumnes per si, en un futur, volen fer servir la intel·ligència artificial com a eina. Aleshores, què fem? Ara per ara, podem fer l’exercici d’imaginar com ha de ser aquest ús ètic, pensar-lo de manera que esdevingui segur i en benefici de tothom. En l’espai frenètic i veloç dels avenços tecnològics sembla contraintuïtiu aturar-se i reflexionar sobre la motxilla de dilemes i reptes ètics que carrega la intel·ligència artificial. Sempre defensem el potencial de l’aula, dels centres educatius, per garantir el temps i les condicions necessaris per a la reflexió crítica.