Opinió

La Intel·ligència Artificial amb ètica en educació

La Intel·ligència Artificial (IA) avui ja és inseparable de les nostres vides. A mesura que l’opinió pública sap més sobre la seva interactuació amb les persones, augmenten les incerteses, desconfiances i dubtes. També es descobreixen moltes oportunitats. Mentrestant, ens envolta per totes parts, la portem utilitzant cada dia en tots els àmbits des de fa anys i no sembla fàcil sortir-se dels seus dominis. Davant aquest panorama, moltes veus demanen control, normatives clares i unificades, sorgeixen recomanacions i pren força aplicar l’ètica a la IA.

La tecnologia en sí mateixa depèn de les persones que la dissenyen i de les directrius i normes comunes, també les ètiques, en cas que existeixin. Ara que portem anys amb certa drogodependència d’unes emociones condicionades pels algoritmes, amb el nostre narcisisme i atenció conduïts dia i nit en temps accelerats, amb els telèfons mòbils publicitats com sinònims d’una llibertat que ara ens tenen encadenats i sense temps d’espera, amb l’abundància de la producció de primers plans com reclams de les mirades digitals, ara implorem l’ètica, en un món on a curt termini existeix el risc de desinformació per excés, sense criteris de contrast ni capacitat de digerir-ho tot; a mitjà termini, l’efecte en els treballs i en la formació; a llarg termini, en els efectes de les relacions entre l’evolució tecnològica i allò que volem per a la societat. De tot això es poden deduir accions educatives.

L’ètica ens competeix a tothom. En el cas que ens ocupa, és un terme aplicat a les corporacions privades i generadores d’algoritmes que després ofereixen a públics abduïts per mitjà d’actuacions programades, amb decisions més compulsives que pensades. Tot i tenir poder de decisió personal, deixar-se emportar és un èxit conductual aconseguit per les aplicacions, amb un gran poder addictiu. I passa a totes les edats.

La tecnologia en sí mateixa depèn de les persones que la dissenyen i de les directrius i normes comunes, també les ètiques, en cas que existeixin

Davant les incògnites sobre una IA creada per la intel·ligència natural humana, sorgeixen sospites sobre interessos, sobre qui s’ha apropiat de la meva identitat digital i qui incideix en el meu futur.

Per tot això, les evidències del sentit comú i del respecte als drets humans són bones guies ètiques i educatives. El tema està present cada vegada en més persones amb sentit crític. També s’analitza a fons en jornades, articles, documents oficials, estudis i taules rodones.

Oficialitats

Al novembre de 2021, un organisme internacional com la UNESCO va publicar el document L’ètica de la intel·ligència artificial amb recomanacions en onze àmbits, el vuitè dedicat a l’educació i la investigació. La majoria dels punts que tracta comencen amb  la frase: “Els Estats Membres haurien…”. En 2022, un grup d’experts de la Comissió Europea va publicar un altre  document: Directrius ètiques sobre l’ús de la IA i les dades en l’educació i formació per als educadors, una guia amb directrius ètiques, dins del Pla d’Acció d’Educació Digital (2021-2027). Abans, en 2015 segons l’ONU, l’Objectiu de Desenvolupament Sostenible 4 (ODS4) de l’Agenda 2030, es feia ressò de la IA per garantir sempre una educació de qualitat.

En la darrera Escola d’Estiu del CSIC (Centre Superior d’Investigacions Científiques), celebrada el passat mes de juliol a Barcelona i de la que parlàvem aquí, dedicada a la IA i educació, també es va plantejar el tema de l’ètica en un taller, si bé era un dels fils transversals en d’altres intervencions a càrrec d’investigadors i educadors. Amb algunes incògnites traslladades a l’educació: quin serà el paper dels docents en les aules? Com portar a la pràctica tecnologies d’alt risc (segons el Parlament Europeu) com la IA, amb ètica? Les respostes són obertes i en construcció. En tot cas, apuntarem algunes idees per aclarir dubtes o per generar més, com per exemple: on queda el paper de l’ésser humà en tot?

Principis

El taller sobre l’ètica en la intel·ligència artificial, de l’Escola d’Estiu del CSIC, impartit  pel Dr. Albert Sabater, de l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC), de la Universitat de Girona, sota el títol IA i ensenyament, qüestionar l’experiència, va aportar una visió crítica i positiva sobre la IA centrant-se en els beneficis, les preocupacions ètiques i potencials riscos, amb algunes orientacions.

Aquests processos tan dissenyats encaixaran en una educació dirigida a éssers humans en evolució, canviants, alumnat subjecte a condicionants oberts

D’entrada, l’ètica hauria d’arrancar de reflexions estretes de les bones i no tan bones pràctiques amb Internet, què observa l’alumnat i quines solucions proposen. Hi ha centres educatius que ja ho estan fent. A continuació, algunes idees i consells presents en els diferents espais, fòrums i documents, traduïts a aplicacions a les aules:

• Necessària presència de la IA en les classes, convertir-la en objecte d’ús i d’anàlisi posterior, lluny de postures negacionistes que pretenen tornar al passat o esborrar el futur.
• El valor dels drets i dels deures, davant algoritmes i IA que poden augmentar el control i la vulnerabilitat de les persones.
• Remarcar la importància de la identitat personal en digital i el valor de la responsabilitat individual a l’hora de consultar, difondre o interactuar en Internet.
• Ser capaços d’entendre que sumar intel·ligències (la natural i l’artificial) augmenta els beneficis, evitant sempre generar prejudicis a altres persones.
• Intentar avançar en les possibles respostes a les dues preguntes que el professor i pedagog Jordi Adell reflexionava en un recent article sobre dues qüestions, què o qui pot fer l’escola més intel·ligent: la primera,  educar amb l’ajut de la IA; la segona, educar per a  l’era de la IA.
• Explicar en classe com funcionen algoritmes concrets; per exemple, alguns molt usats com els de Netflix, Amazon, Instagram o Google. Davant la tendència actual de primer fer en el món digital i després preguntar-se, s’hauria de reflexionar a continuació, des de l’experiència d’ús, per deduir si compleixen principis ètics: 1. Que siguin transparents, com per inspeccionar, seguir, auditar, veure el model en què està basat el seu funcionament, si es fan o no servir biaixos selectius o discriminatoris. 2. Conèixer les fonts d’informació amb què treballen, com funcionen els utilitzats en educació i com es prenen les decisions basats en ells, o quins tenen les dades, el seu ús i per a què. 3. Que siguin predictibles, saber el seu comportament. 4. Que siguin robustos davant possibles atacs, manipulacions o usos posteriors per qui sigui. I si no compleixen això, vigilar i decidir si es fan servir o no.
• S’hauria de tenir en compte com aquests processos tan dissenyats encaixaran en una educació dirigida a éssers humans en evolució, canviants, alumnat subjecte a condicionants oberts, a vegades no predictibles, i en entorns sotmesos a la complexitat, on més important que els productes finals són els processos, i com cada estudiant construeix el coneixement. L’empatia i l’acostament humà són fonamentals, més propis de la intel·ligència natural. Tant l’ús ètic de la IA com la utilització d’aquesta per treballar l’ètica, ajudaran perquè l’alumnat conegui les conseqüències del seu comportament i decisions davant l’ús d’Internet.

Quan se li va consultar a XatGPT sobre l’ètica en l’ús educatiu de la IA, en una de les seves respostes va enumerar aquests aspectes condicionants: transparència, privacitat, no discriminació, responsabilitat i respecte dels drets humans. Els principis elaborats per la IA són clars. Després tot depèn de tothom. I tot potser també necessita d’unes dosis de saludable dubte i desconfiança cap Internet i la IA.