Algoritmes il·liberals

El final de la primera dècada del segle XXI va ser la clausura definitiva del somni del capitalisme desregulat global com a horitzó històric de pau i prosperitat. A partir del 2008, la denominada Gran Recessió va establir noves coordinades polítiques caracteritzades per la normalització de la precarietat i l’ascens de moviments il·liberals. De manera anàloga, el tancament del segon decenni del segle XXI ha estat marcat pel final de les esperances dipositades en la tecnologia digital com a via de solució extra política —anàloga i complementària de la mercantil als nostres problemes— econòmics, culturals i socials.

Durant almenys tres dècades, des dels anys vuitanta fins a l’esclat de la crisi, el vertigen de la fragilització social i el risc vital associats a la finançarització global, la flexibilitat laboral i la pèrdua de sobirania política van quedar d’alguna manera continguts per les expectatives de creixement econòmic i, sobretot, l’avenç tecnològic. Resulta difícil qüestionar la descomposició d’aquest programa social. La pretensió d’una restauració de la lex mercatoria és senzillament ciència ficció: s’enfronta no només a límits interns infranquejables relacionats amb el descens de la taxa de guanys sinó, sobretot, a barreres externes, materials: a la impossibilitat mediambiental d’un creixement econòmic infinit. Durant tota una dècada, la tecnologia digital va substituir el mercat com a garant d’aquelles esperances de progrés basades en l’equilibri espontani i no en grans intervencions polítiques.

El 2019 es va fer evident, també, la fragilitat d’aquella aposta pel solucionisme tecnològic. Després d’una sèrie d’escàndols i reversos judicials associats a les pràctiques criminals de grans corporacions com Google o Facebook, governs i institucions internacionals, des de l’OCDE a la Comissió Europea, han coincidit a senyalar els perills associats a la digital dominance d’un grapat de megacorporacions de Silicon Valley. També la bibliografia especialitzada en tecnologia digital s’ha fet eco d’aquest gir: els diagnòstics dels problemes associats al digital turn, molt perifèrics a principis de la dècada, s’han tornat hegemònics i el repertori de mals i problemes atribuïts a les tecnologies digitals és aclaparador. Segurament, aquest catastrofisme és tan poc realista com l’optimisme precedent. I, de fet, crida l’atenció que un tret que roman invariable en aquesta dialèctica d’apocalíptics i integrats és la seva naturalesa seqüencial. Successivament van apareixent tecnologies que centralitzen esperances o temors desproporcionats: realitat virtual, xarxes socials, blockchain, big data i, en els últims temps, la intel·ligència artificial (IA).

Els debats tradicionals

La centralitat contemporània de la IA en els discursos tecnològics crida l’atenció perquè constitueix una resurrecció guadianesca després de dècades d’invisibilitat. La IA va ocupar un lloc destacadíssim en els primers debats respecte a l’abast, les possibilitats, els riscos i les implicacions de la tecnologia digital, tant en la bibliografia acadèmica com en la cultura popular. Tal vegada el zenit d’aquestes discussions fou la publicació en 1989 de La nova ment de l’emperador, un best seller en el que el físic Roger Penrose desenvolupava un conjunt d’objeccions bigarrat al programa denominat “IA forta” (grosso modo, la posició dels teòrics que entenien el cervell com un “ordinador biològic”). En realitat, l’obra de Penrose era altament especulativa, però resulta simptomàtica d’un moment de la nostra història intel·lectual recent en el que es considerava que la discussió sobre el grau en que les màquines podien replicar (o no) la intel·ligència humana ens ensenyava alguna cosa sobre la naturalesa de la nostra pròpia racionalitat.

De fet, un dels arguments centrals de Penrose era una reformulació d’un famosíssim experiment mental del filòsof John Searle conegut com “l’habitació xinesa”. En un article de 1980, posteriorment recollit a Minds, Brains and Science, Searle imaginava una màquina que aparentment és capaç de traduir del xinès a l’espanyol, fins al punt que és capaç de superar el test Turing. Però, en realitat, dins d’aquest ordinador, hi ha un humà aïllat de l’exterior excepte per alguna via per rebre els missatges per traduir i emetre els textos traduïts. Aquella persona no entén el xinès però té a la seva disposició diccionaris i manuals que li permeten traduir el text que rep, i així enganyar qui li sol·licita les traduccions. Per a Searle (i Penrose) l’experiment refuta les posicions dels partidaris més vehements de la intel·ligència artificial, ja que el conjunt de l’habitació xinesa supera el test de Turing (és a dir, és capaç de fer creure a un observador extern que sap parlar xinès) encara que cap dels seus components el comprèn el xinès. El punt clau que Searle volia subratllar és que en la racionalitat humana la semàntica, i no només la sintaxi, és crucial.

En qualsevol cas, aquest tipus de debats va declinar durant els anys noranta. En primer lloc, perquè les versions tradicionals o simbòliques de la intel·ligència artificial van perdre pes front a les xarxes neuronals i altres desenvolupaments subsimbòlics o inductius que van aclaparar l’atenció acadèmica i mediàtica. En segon lloc, perquè l’expansió d’internet va canviar completament les preguntes que es consideraven rellevants en els debats sobre la relació entre tecnologia i racionalitat. En l’època de la connexió global, la qüestió fonamental va començar a ser més aviat en quina mesura les màquines transformaven la intel·ligència humana mitjançant relacions d’hibridació. Internet i les xarxes socials es van entendre sovint com un espai de concurrència de fragments de coneixement que s’agrupen fins a composar una espècie de ment rusc que ens dona accés a percepcions i comprensions incrementades. Poca gent va seguir debatent sobre la possibilitat de programar intel·ligències digitals similars a la humana perquè a) les relacions distribuïdes semblaven molt més potents i prometedores i b) la pròpia racionalitat humana semblava quedar alterada mitjançant pròtesis digitals.

IA post-teòrica

Possiblement, la màxima expressió d’aquest agnosticisme epistemològic posterior a l’època heroica de la IA sigui el Big Data. Per molts investigadors socials, la possibilitat d’accedir a tanta informació procedent de les xarxes digitals suposa una autèntica revolució epistemològica: proporciona, per la mida i l’extensió de les dades, una nova manera, més objectiva i precisa, de coneixement, la millor possible en aquests moments. Per primer cop, se’ns diu, no hem d’escollir entre tamanys mostrals o estudis en profunditat, ni ens enfrontem a situacions on no estigui garantida la significativitat dels càlculs. El volum de les dades compensa qualsevol altre problema metodològic: biaixos, errors, dissenys mostrals, etc. El programa del Big Data es basa en una mena de inductivisime senzill que promet una reducció extrema de la tasca interpretativa mitjançant un us asèptic de les tècniques algorítmiques. De fet, en ocasions s’ha arribat a parlar de la “fi de la teoria” social gràcies a la intel·ligibilitat directa que proporciona el Big Data.

Les crítiques a aquest model destaquen, pel contrari, el bucle operatiu que interrelaciona les eines de producció de coneixement amb els resultats de la seva aplicació. No només perquè al Big Data la informació no matematitzable queda invisibilitzada, sinó perquè moltes de les receptes estadístiques que s’empren estan dissenyades per a usuaris interaccionant a través de xarxes socials o de mitjans virtuals descentralitzats, de manera que tals registres poden no tenir context interpretatiu fora de l’espai online. En altres paraules, el propi Big Data altera la nostra concepció del que pot ser entès com investigació i coneixement. Els objectes que considerem susceptibles de ser investigats responen a fisonomies concretes que canvien no només la metodologia sinó la teoria social subjacent.

L’aparició històrica en els nostres temps d’autèntics sistemes d’intel·ligència artificial amb una presència pràctica i quotidiana a les nostres vides genera pors i esperances però, comparativament, pocs debats epistemològics sobre la seva naturalesa o la seva congruència o incongruència amb la nostra propia racionalitat. Crida l’atenció perquè els mateixos interrogants de fa quaranta anys continuen sent vigents. En paraules de Margaret Boden:

“L’abast metodològic de la IA és extraordinàriament ample. (…) Hi ha nombroses aplicacions de l’IA dissenyades per a innumerables tasques específiques que fan servir en casi tots els camps de la vida experts i profans. Sovint superen fins i tot els humans més experts. En aquest sentit, el progrés ha estat espectacular. Però els pioners de l’IA no només aspiraven a sistemes especialitzats. També esperaven assolir sistemes amb intel·ligència artificial. (…) Segons aquests criteris, el progrés ha estat molt menys impressionant” [1]1 — Margaret A. Boden, Inteligencia artificial, Madrid, Turner, 2017 .

Des d’aquesta perspectiva, potser l’únic repte no sigui descriure la manera en que la IA està canviant la societat, donant per fet que està succeint. En realitat, això és un pronòstic arriscat ja que, en general, és extremadament complicat assegurar quina tecnologia serà determinant en el mitjà termini. Sovint, tecnologies aparentment secundaries acaben tenint un paper central i viceversa, tecnologies enlluernadores queden periclitades poc temps després del seu sorgiment. Una alternativa teòrica interessant és invertir la perspectiva i intentar pensar quin tipus de transformacions socials s’han produït perquè acceptem amb tanta naturalitat i inevitabilitat la presència de sistemes d’IA i deixem de banda les preguntes gnoseològiques més profundes o inquietants.

L’IA com a nou Leviatan

Seria absurd infravalorar els avenços espectaculars que s’han produït en el camp de l’IA, però és cert que, com en el cas del Big Data, tendim a invisibilitzar els errors i, sobretot, les ambigüitats d’aquestes tecnologies. Els bucles de retroalimentació negativa que generen errors catastròfics en els algoritmes que ja s’apliquen en nombrosos aspectes de la nostra vida en comú —educació, mercat de treball, justícia, finances…— són ben coneguts [2]2 — Cathy O’Neal, Armas de destrucción matemática, Madrid, Capitán Swing, 2018. . Es tracta de problemes estructurals i persistents relacionats amb els processos d’operacionalització —que, per definició, tenen un fort component interpretatiu i normatiu— i la potència de càlcul o la creixent sofisticació de la IA no només no els solucionen sinó que poden, fins i tot, amplificar-los.

Els mitjans de comunicació hegemònics tenen una autèntica obsessió des de fa anys amb els efectes de la IA sobre el treball o l’esfera pública. Així, s’ha parlat molt de la presència de bots al Twitter, falsos usuaris que en realitat haurien estat creats amb software. És una amenaça electrònica real però que, curiosament, té el seu correlat en una distopia laboral. Fa temps que es coneix l’existència de granges de clicks: fàbriques situades al sud-est asiàtic on treballadors humans que pateixen unes condicions laborals penoses augmenten manualment el nombre de likes i seguidors dels seus clients fent servir milers de telèfons mòbils. Passa una cosa semblant amb l’escàndol de l’anomenada pseudo-intel·ligència artificial. S’ha descobert que algunes empreses tecnològiques d’avantguarda que oferien serveis d’intel·ligència artificial en realitat estaven fent servir per a aquelles feines éssers humans mal pagats perquè, senzillament, és molt més econòmic contractar personal precari que construir la tecnologia des de zero. És una estratègia que, en realitat, va engegar Amazon amb el seu projecte The Mechanical Turk, una plataforma de crowdsourcing ultra precària que serveix per trobar treballadors que facin tasques simples i de baix preu unitari que requereixen un cert nivell d’intel·ligència superior al d’una màquina estàndard. The Mechanical Turk, és irònic fins i tot el seu nom. Va ser anunciat, amb un cinisme descomunal, com “intel·ligència artificial artificial”. De fet, Amazon s’ha especialitzat en aquestes maniobres de prestidigitació: ens enlluerna amb al seva proposta d’entregar les seves comandes amb drons però, en realitat, fomenta condicions laborals als seus magatzems i a les seves xarxes de distribució que han estat qualificades com a “esclavistes” en països com Alemanya.

Seguint un patró ben conegut des dels inicis del capitalisme, l’automatització contemporània s’expressa a través d’un doble mecanisme social, i una de les seves dimensions és molt més visible que l’altra. Per una banda, és una via efectiva per augmentar la productivitat substituint treballadors humans per màquines. Però, per altra banda, i no en menor mesura, l’automatització és una estratègia disciplinaria dirigida a desqualificar i controlar la mà d’obra humana. Sovint, l’efecte d’introduir l’IA en un centre de treball no és necessàriament la substitució d’humans per robots sinó la “robotització” dels treballadors: fa que els empleats perdin control sobre el procés productiu i els fa més fàcilment reemplaçables. De fet, des de l’inici de la crisi, l’automatització (o l’amenaça d’automatització) ha servit per contenir l’augment de la conflictivitat laboral mitjançant mecanismes coercitius mediats tecnològicament. Un dels casos més coneguts és, de nou, el dels magatzems d’Amazon, en els que la supervisió dels treballadors humans ha estat gairebé automatitzada per complet, mitjançant la monitorització permanent de l’activitat laboral, fins al punt que les pròpies màquines realitzen recomanacions d’acomiadament.

Avui vivim una època d’irrupció d’alternatives polítiques des-democratitzadores i il·liberals que tenen la defensa del lliure mercat en un lloc secundari de les seves agendes, en la mesura que ha quedat supeditada a la preservació de l’hegemonia de les elits nacionals. Des del Front Nacional francès fins al programa de govern de Donald Trump, passant pels partidaris del Brexit anglès o la Lega Nord, la sortida que la dreta radical està proposant al declivi de la globalització neoliberal és una aposta per la recuperació de la sobirania política nacional arrabassada pels mercats globals, amanida amb polítiques “d’ordre”: mesures dirigides a contenir la conflictivitat social a través de la repressió o la mobilització ideològica.

Succeeix una cosa similar amb els succedanis tecnològics del mercat. La “societat xarxa”, la gran esperança de democratització i igualtat durant les dècades passades, s’ha revelat finalment com el medi ambient idoni per a que prosperin alguns dels majors monopolis de la història, megacorporacions digitals que cap govern pot controlar. De la mateixa manera, cada vegada està més generalitzada la imatge de les xarxes socials no com un terreny que promet una intel·ligència incrementada sinó com una selva d’agressivitat, vigilància panòptica i fake news. Així que potser l’atractiu públic creixent de la IA pot entendre’s com a part del gir polític i ideològic reactiu.

La visibilitat contemporània de la IA —que els mitjans de comunicació retraten sistemàticament com una irrupció incontenible— és el correlat digital de les tensions socials, fruit de l’ensorrament de la utopia neoliberal, que estan alimentant els moviments polítics antidemocràtics i il·liberals. Les figures polítiques fortes i neoconservadores es legitimen com una alternativa al fracàs de la sociabilitat cosmopolita en un món percebut com a conflictiu i amenaçador. Les renúncies en termes de llibertat o tolerància són el preu a pagar a canvi d’una promesa de defensa front a un cúmul indeterminat però aterrador de perills globals. La IA és la versió tecnològica —en cert sentit, de nou, extra política— d’aquell autoritarisme postneoliberal. Un Leviatan tecnològic sense buròcrates l’adveniment del qual percebem —aquesta és la clau de la seva legitimitat— com a inevitable. La IA ens exigeix, com la dreta radical emergent, renúncies en termes de treball, intimitat, llibertat o sobirania política. Ens ofereix, a canvi, una promesa de calculabilitat i ordre en un món d’incerteses aterradores. Una promesa, amb tota la certesa, tan falsa com la dels polítics d’extrema dreta que apel·len al narcisisme ferit dels seus votants, però depurada d’atavismes i adherències neofeixistes mitjançant el llenguatge del ciberfetitxisme.

• Referències

  1 —

  Margaret A. Boden, Inteligencia artificial, Madrid, Turner, 2017

  2 —

  Cathy O’Neal, Armas de destrucción matemática, Madrid, Capitán Swing, 2018.