5. 3. Un canvi de paradigma en la disseminació/difracció de les dades

En aquests darrers anys vivim un moment de canvi de paradigma amb la incorporació de models de dades massives (big data) i d’intel·ligència artificial en les administracions públiques, a fi de millorar els processos de presa de decisions. Aquestes, ben utilitzades, tenen un potencial molt important per promoure una anàlisi més matisada interseccional de la realitat, tal com evidencia UN Women (2018).

Tanmateix, s’ha demostrat que els algorismes de dades massives i d’intel·ligència artificial (IA) poden acabar reforçant biaixos sexistes i discriminatoris. Per exemple, hi ha mecanismes de reconeixement facial que no identifiquen les dones racialitzades, algorismes d’aprenentatge automàtic (machine learning) que acaben discriminant minories ètniques i les persones més desfavorides de l’accés a determinades prestacions o posicions. De fet, quan els nostres càlculs utilitzen dades secundàries que, per tant, poden ja estar esbiaixades en la seva producció (per exemple, sèries històriques de dades de criminalitat), el que fem en molts casos és amplificar el biaix. Per aquest motiu, cal incorporar una mirada feminista i interseccional a la ciència de les dades.

En aquest sentit, diverses administracions públiques impulsen mesures ètiques per al desenvolupament d’algorismes en IA a fi d’incrementar el control democràtic, assegurar-ne la transparència i auditabilitat i aclarir el règim de responsabilitats enfront dels possibles danys i perjudicis que les solucions basades en IA puguin ocasionar. En la mateixa direcció, cal destacar l’aparició d’iniciatives ciutadanes, com l’Algorithmic Justice League, orientades a repensar l’ús dels algorismes a fi que no generin noves formes de discriminació i a afavorir una IA (intel·ligència artificial) equitativa, auditable i ètica.

Així mateix, aquest canvi ha suposat una nova manera de relacionar-nos amb les dades amb l’impuls de les dades obertes (open data), mitjançant les quals les administracions públiques exposen la informació generada o custodiada al domini públic, i en permeten el lliure accés i reutilització. Tanmateix, un ús acrític d’aquest model pot acabar beneficiant les grans empreses, que són les que sovint disposen del màxim nombre de recursos per al processament de les dades obertes. És en aquest sentit que cal establir mesures que permetin salvaguardar un ús responsable i ètic i no discriminatori de les dades, de manera que serveixin per enfortir el bé comú i alhora impulsar espais de foment de la intel·ligència col·lectiva per establir sinergies entre una ciutadania cada vegada més experta en l’ús de les noves tecnologies i l’adreçament dels problemes públics i les administracions. Tal com assenyala l’informe de Liquen Data Lab, “l’objectiu de les dades obertes no ha de ser només la recopilació i publicació de la informació, sinó el compromís que aquestes dades s’utilitzaran de forma responsable i activa per eliminar barreres i per garantir un millor accés a les dones a les oportunitats i serveis” (Delatte, 2019:8). Exemples d’aquests espais d’impuls a la intel·ligència col·lectiva són:

• Els laboratoris d’innovació ciutadana com el Data + Feminism Lab, allotjat al Department of Urban Studies and Planning del Massachusetts Institute of Technology.
• Els hackatons, espais de trobada entre programadors i analistes de dades amb la finalitat d’aportar col·lectivament solucions als problemes plantejats, com el Dades per Dones, hackató organitzat per l’Ajuntament de Barcelona (2018).
• La iniciativa GenderDataLab, un repositori obert i col·laboratiu que conté conjunts de dades orientats a visibilitzar la inequitat de gènere.
• Les trobades R-ladies, que pretenen donar suport als entusiastes de R de gènere minoritari per assolir el seu potencial de programació, mitjançant la construcció d’una xarxa global col·laborativa de líders, mentores, aprenents i desenvolupadores de R per facilitar el progrés individual i col·lectiu a tot el món.