La lògica de l’algoritme i les noves formes d’exclusió

Les demandes es burocratitzen. Es despersonalitza l'atenció i cada cop més qüestions es gestionen amb sistemes automatitzats. Se simplifiquen els mecanismes de relació amb els serveis: allò que no entra en la casella, no existeix. No hi ha amb qui dialogar.

Cada cop més, la tecnologia avançada forma part dels mecanismes de gestió de la pobresa. Cal estar atents a com aquestes lògiques de control es manifesten en forma d'algoritme, per entendre com el discurs neoliberal desplega les seves fórmules per administrar la misèria generant noves formes d'exclusió social.

No fa gaire va venir a Barcelona la investigadora nord-americana Virginia Eubanks i es va interessar per conèixer les Xarxes de Resposta Socioeconòmica (Xarse) impulsades per l'Ajuntament de Barcelona. Es tracta d'un servei d'acompanyament a recursos per a persones afectades per la crisi de la Covid-19 i suport personalitzat per a la sol·licitud de tràmits administratius.

En aquest diàleg ens va explicar que ens trobem davant del naixement del que ella anomena els asils digitals. Es tractaria de les cases de la caritat modernes que amb l'argument d'una millor gestió dels recursos econòmics, alimenten un seguit de sistemes de gestió automatitzats que, atenció, generen nou sobrant social.

En realitat, ens adonem que fa temps que estem explorant les diferents facetes d'aquest sobrant social que va a parar als asils digitals. En una primera aproximació vam poder observar com la virtualitat podia generar un sobrant social en forma de subjecte cognoscent, totalitzat en la seva presència en el format digital, reduït a l'expressió digital.

Una segona aproximació ens va permetre aproximar-nos a una altra faceta d'aquest sobrant social. Aquella que es genera a l'hora de requerir el domini d'eines digitals per a l'accés a determinats serveis o ajuts. Són moltes les persones que queden fora per manca de coneixement i domini d'aquestes eines. És el que anomenem la bretxa digital.

Ara, just veiem una tercera cara d'aquest sobrant social, la que té a veure amb el big data i la datificació (la capacitat de produir dades que puguin ser llegides per un ordinador). L'efecte més clar és quan hom queda fora dels paràmetres per accedir a un servei o ajut. Quan el sistema automatitzat en la presa de decisions considera que la persona no compleix els requisits.

Els algoritmes funcionen com a sistema de predicció de conductes i treballen en un marc discursiu neoliberal que culpabilitza la persona de la situació en què es troba i l'aïlla. Davant d'això és urgent interrogar-nos sobre la lògica de l'algoritme, com genera més sobrant social en forma de vides arruïnades. Com evitar que cada cop més gent vagi a parar als asils digitals?