Entenem l’algoritme com a “conjunt de regles per a resoldre un problema en un nombre finit de passos”. Així, parlem d’una construcció programada per facilitar l’elecció i interpretació de les dades d’aprenentatge, de manera que es pugui predir la conducta dels usuaris dels dispositius tecnològics digitals. Els algoritmes són sistemes automatitzats complexes amb capacitat de modelitzar el món social; tenen opacitat i els biaixos dels seus dissenyadors o dels seus finançadors.
La realitat, tanmateix, en la seva complexitat, és, sortosament, irreductible als algoritmes, que poden ser utilitzats de molt distintes formes, per exemple en la creació de protocols que ajudin a reduir o prevenir agressions per violència de gènere, com se n’ha adonat recentment algun jutjat de Catalunya.
1. La vessant política i econòmica
A l’obra Vigilar i castigar (1975), Michel Foucault parlava de les mesures de confinament, del sistema de registre constant i centralitzat que s’aplicava quan es declarava la pesta en una ciutat. Era “la ciutat en estat de pesta (…); un disseny de coercions subtils per a una societat futura”. Som, conclou, “molt menys grecs del que creiem. No estem ni sobre les grades ni sobre l’escena, sinó en una màquina panòptica, dominats pels seus efectes de poder, que continuem nosaltres mateixos, ja que som un dels seus engranatges (…) Les Llums, que inventaren las llibertats, inventaren també les disciplines” i el control.
Efectivament, els algoritmes permeten avui fer el mateix que feien aquells registres del XVIII: els algoritmes , en paraules de Shoshana Zuboff, son l’instrument per excel·lència del “poder instrumentari en el capitalisme de la vigilància”[1] i “plantegen seriosos interrogants també per l’ educació dels infants i adolescents” en una societat monitoritzada i modelada des de les xarxes socials, a través de dispositius connectats i actius en la xarxa, pels quals es paga un elevat cost emocional.
Aquest llibre ens permet constatar l’enorme actualitat de vell conductisme i la incidència de pensadors com Skinner, dissenyador d’una “nova física social”, enfrontada als principis il·lustrats de llibertat, autonomia personal i dignitat individual, de la qual es deduiria que l’individu autònom no seria més que “una incidència estadística passatgera”, en expressió de Pentdal. Un repte de primera magnitud pel raonament moral i epistemològic: l’acció no estaria en el nostre cap, sinó, principalment, en les xarxes socials i en el teixit social que ens envolta. Aquest és un debat amb connotacions clàssiques, abordat ja a finals dels anys setanta[2].
En aquest marc, les grans corporacions de les tecnologies digitals han gaudit d’oportunitats i possibilitats ben aprofitades d’actuació: sense control, sense límits, contra tota visió crítica i ètica, i supeditant-lo tot al màrqueting. Un nou liberalisme digital esdevindria “portaveu polític d’un fort determinisme comercial”[3].
2. La qüestió social de la Societat Digital
La desigualtat econòmica i la polarització social estan creixent molt, tant a nivell mundial com estatal, i no fan sinó anunciar una espiral descendent d’exclusió social, que la pandèmia de la covid no ha fet més que agreujar. Es calcula que la bretxa digital deixa fora un 35% de la població, de persones i llars vulnerables.
La tecnologia, per altra banda, ha incrementat la productivitat, ha millorat el treball i el benestar, a la vegada que ha plantejat reptes imprevistos per als quals no estàvem preparats, que demanen un replantejament a fons de la noció mateixa de treball.
Avui la cultura està vindicant la seva autonomia, obrint pas a noves possibilitats d’acció i transformació de la vida col·lectiva, en un llarg període d’entropia social i d’aparent desordre. En els nostres dies “la cultura tendeix a abstreure’s de la història i la geografia, quedant sotmesa a un hipertext audiovisual digital: crear imatges, crear codis culturals és tenir poder. És l’autonomia de la cultura respecte de les bases materials de l’existència. La informació és “fil bàsic o ingredient clau de la nostra actual organització social”, en paraules de Manuel Castells[4].
Jeremy Rifkin parla en la seva darrera obra de la revolució que uneix el planeta “com un gran cervell digital” en una “nova era de la resiliència”: ens endinsem en l’era de la infraestructura de la tercera revolució industrial: de la internet de la comunicació i l’energia, de la mobilitat i de les coses[5].
3. Els algoritmes són, també, una qüestió ètica
Francesc Torralba acaba de publicar un interessant assaig sobre l’ètica algorítmica[6], al qual voldria remetre al lector, tot destacant algunes de les seves idees. Com diu l’autor, “és necessari sacsejar el lector amb una pila d’interrogants”, la resposta dels quals no es troba en els savis del passat, encara que ens hi inspirem. La nova tecnoètica global que necessitem va més enllà de les tradicions humanistes il·lustrades i ha de comptar amb tradicions humanistes orientals, americanes i africanes: el primer repte és, doncs, el de la possibilitat mateixa d’una ètica global per una tecnologia humanista i inclusiva, al servei de totes les persones.
Una cosa és l’ètica de la Intel·ligència Artificial, més macro i amb perspectiva descendent, i una altra l’ètica algorítmica, més focalitzada en el detall i més micro. Mentre la primera s’interessa per l’esser humà i les seves relacions amb les màquines, la segona ho fa pel funcionament intern de les màquines. L’ètica algorítmica “explora i mira de resoldre el conjunt de qüestions que afloren arran de la programació d’un algoritme”. Els algoritmes no són neutres, estan farcits de judicis de valor, “han envaït l’espai públic i el privat” i plantegen serioses qüestions ètiques en la seva governança.
Al llarg del seu llibre Torralba planteja la utilitat i conveniència de crear Comitès d’Ètica interdisciplinars, independents i plurals en les organitzacions. Comitès que vetllin pel respecte als principis i valors que proclamen i les inspiren (principis com ara fer el bé, no causar mal, autonomia de les persones, la no discriminació, la transparència i valors com el respecte, la justícia, la protecció de dades…)
Per altra banda, a Catalunya s’ha pres alguna iniciativa que considerem ben significativa. El mes de juny del 2020 es feia pública la notícia que la Conselleria de Polítiques Digitals i Administració Pública i la Universitat de Girona havien creat l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya, per tal de promoure una intel·ligència artificial ètica, mereixedora de confiança, d’estudiar les conseqüències ètiques i legals, i analitzar els riscos i oportunitats de la seva implantació en la vida quotidiana.
4. Drets Digitals i compromisos col·lectius
I, per acabar, una explícita referència al Fòrum dels Drets Digitals, celebrat a la seu de Fundesplai (El Prat del Llobregat) el maig del 2022, en el qual es van defensar un seguit de drets digitals i es van formular alguns compromisos per tal d’avançar en la construcció de societats en les quals la digitalització estigui centrada en la millora de la vida de les persones.
Es tracta de drets i compromisos com l’accessibilitat universal; la connectivitat en el medi rural, per superar la bretxa d’accés i la despoblació; l’ús crític i responsable de la tecnologia; l’educació digital per la inclusió social de grups en situació de vulnerabilitat; el desenvolupament d’itineraris formatius en competències digitals, al llarg de la vida, per millorar l’ocupabilitat; el protagonisme de les dones en la superació de la bretxa de gènere; l’educació per al bon ús de les tecnologies digitals, en les etapes de la infància i la joventut i en les persones grans, de manera que també elles siguin partícips i beneficiàries; la protecció del medi ambient, aprofitant el potencial innovador de les tecnologies; els avenços de la intel·ligència artificial i el tractament de dades cap al bé comú, amb principis ètics i sense biaixos; una nova governança d’internet i la participació en democràcia[7].
Vivim immersos en una era de transformació digital. Com recordava en Genís Roca en el mateix fòrum, “ara internet no és un espai de continguts, és un espai d’activitat i de mobilització que ens permet actuar i reclamar els nostres drets i garanties. Estar connectades i connectats a la xarxa ens dona el poder i la tecnologia, que és la nostra eina per lluitar i assolir els nostres drets digitals”.
[1] Shoshana Zuboff. El capitalisme de la vigilància, Paidós, 2020
[2] Salvador Giner, Societat Masa: crítica del pensament conservador, Edicions 62, 1979
[3] Èric Sandin, La siliconización del mundo. La irresistible expansión del liberalismo digital, Caja Negra Editora, Buenos Aires, 2018
[4] Manuel Castells, L’Era de la Informació. La societat xarxa. Vol.1. Barcelona, UOC, 2003
[5] Jeremy Rifkin, La era de la resiliència, Paidós, 2022
[6] Francesc Torralba, L’ètica algorítmica, Edicions 62, 2022
[7] Fundació Esplai: “Les organitzacions socials en defensa dels Drets Digitals. Manifest”, Documents per al Debat, núm. 10
