La intel·ligència artificial és una tecnologia que s’utilitza per planificar el futur. La planificació comporta intel·ligibilitat, calculabilitat i sistematització. En les cultures occidentals, el futur com a concepte ha estat molt lligat al monoteisme i a la creació d’una narrativa lineal sobre les societats, amb una fi del món vaticinada, en què les persones acaben al paradís o a l’infern. Això va ser un canvi radical respecte a les narratives de les cultures clàssiques, en què no hi havia noció del passat o la prehistòria, sinó una narrativa d’un origen cultural diví semblant al present. No anticipava el canvi en la forma de les narratives futures, que veuen el futur com un temps en què es produeix una evolució, en què ni la roba, ni el context, ni els costums socials es mantenen immutables. Amb el sorgiment del protestantisme i el capitalisme, el futur va esdevenir alguna cosa més que un punt en el temps en què la història s’acabaria. Va esdevenir un punt no escrit d’oportunitats al qual els éssers humans havien de donar forma.

A principis del segle XX, la idea de futur estava fortament lligada a la tecnologia com a instrument per modificar els contextos socials i modelar les societats. Les elits van introduir un discurs tècnic centrat en el pragmatisme científic i la tecnocràcia, i l’enginyeria social es va concentrar en la creació i la planificació «neutra» de grans projectes socials. El 1933, el sociòleg Hans Freyer va dir: «Si la utopia immanent de la tecnologia és la transformabilitat de tots els materials i forces els uns en els altres, aleshores la utopia immanent de la planificació és la transformabilitat de totes les situacions històriques les unes en les altres»[1]1 — Freyer, Hans. 1987. “Herrschaft und Planung. Zwei Grundbegriffe der politischen Ethik.“ In Herrschaft, Planung und Technik. Aufsaetze zur politischen Soziologie, edited by Hans Freyer, 17–43. Weinheim: VCH Verlagsgesellschaft. p. 22 . L’any 1935, Karl Mannheim va arribar a declarar la fi de les «coses no planificades»[2]2 — Mannheim, Karl. [1935] 1958. Mensch und Gesellschaft im Zeitalter des Umbaus. Darmstadt: Wissenschaftliche Buchgesellschaft. . Els experts tècnics van suggerir que amb l’organització d’una infraestructura de les societats basada en l’eficiència i la racionalitat, en nom del bé comú, fins i tot es podria superar la subjectivitat en política: «Estem tan acostumats a la disputa que no podem veure que hi ha un mètode millor, el mètode de la planificació»[3]3 — Kizer, Ben H. 1939. “The Need for Planning.” In National Conference on Planning. Proceedings of the Conference held at Minneapolis, Minnesota, June 20-22, 1938. Chicago: 1–9. . Aquest és l’argument que es va plantejar en una conferència l’any 1939, a finals del New Deal dels Estats Units; aquesta estratègia de planificació arquitectònica des de zero també era coneguda al continent europeu i les elits intel·lectuals que hi havia al darrere van dur a terme un ampli intercanvi internacional occidental.

Les limitacions de la planificació mitjançant la infraestructura tècnica van cristal·litzar en debats públics durant la dècada de 1970. Qüestions noves com el canvi climàtic i la sostenibilitat posaven a prova els límits d’allò que es podia planificar. A més, el valor de l’opinió pública i la participació ciutadana en els projectes d’infraestructura van donar peu a l’escrutini de la dimensió política de la infraestructura i la seva presumpta neutralitat. Aquella mateixa dècada Foucault va presentar la seva nova teoria del poder dins de la infraestructura i les hipòtesis socials i ètiques que implica.

Sobre la naturalesa infraestructural de la intel·ligència artificial

La intel·ligència artificial (IA) —els sistemes algorítmics— inclou tecnologies que el món encara prova de conèixer en essència per valorar-ne l’impacte i els riscos. La IA i els sistemes algorítmics no entenen els individus. Conceptualment, representen idees de la societat. La manera en què calculen i classifiquen patrons és relacional. Els algoritmes classifiquen les persones en petits grups granulars. La identitat dels individus deixa de ser rellevant. L’usuari percep la personalització com el procediment tècnic per a la individualització, però tècnicament la personalització és relacional: és la classificació d’aquest individu en un col·lectiu molt específic de persones amb similituds.

La IA i els sistemes algorítmics no entenen els individus. Els algoritmes classifiquen les persones en petits grups granulars. La identitat dels individus deixa de ser rellevant

La persona en qüestió no necessàriament s’adona que l’estan classificant en un col·lectiu que potser no encaixa en les categories socials convencionals d’una societat. La publicitat personalitzada i el «micromàrqueting» poden fer la impressió que el màrqueting s’adreça personalment als consumidors potencials, basant-se en la informació sobre les preferències de cada individu. Però tècnicament l’individu es classifica en diferents categories que molts altres individus comparteixen. La connexió de totes aquestes categories dona lloc a un perfil interseccional que abraça més categories que les habituals, com ara l’edat, el gènere i la condició social, i aquest perfil també el comparteixen molts altres individus. Aquest nivell de granularitat i interseccionalitat es pot confondre fàcilment amb la individualitat.

Com a conseqüència, la tendència de les avaluacions de la IA és centrar-se en la detecció dels danys personals i les violacions dels drets humans, malgrat que els sistemes algorítmics problemàtics discriminen sobretot els col·lectius sense detectar els danys personals[4]4 — Sloot, Bart van der. The Individual in the Big Data Era: Moving towards an Agent-Based Privacy Paradigm. . Aquest és un efecte típic si es tracta d’avaluar l’impacte de la infraestructura. Els efectes de la forma, les normes i les regles de la infraestructura que arbitra el flux de recursos, la mobilitat o les telecomunicacions només es poden detectar amb una visió arquitectònica del sistema. Així doncs, la infraestructura és el dispositiu físic foucaultià per distribuir el poder, crear les condicions per a la inclusió o l’exclusió social i modelar l’espai d’una societat. A «Confessions de la carn» va definir el terme com

“un conjunt realment heterogeni de discursos, institucions, formes arquitectòniques, decisions reguladores, lleis, mesures administratives, informes científics, proposicions filosòfiques, morals i filantròpiques… En resum, tant el que es diu com el que no es diu. Aquests són els elements del dispositiu. El dispositiu en si és el sistema de relacions que es pot establir entre aquests elements”[5]5 — Foucault, M. 1980. “The Confession of the Flesh” [Interview, 1977]. In Power/Knowledge: Selected Interviews and Other Writings, edited by Colin Gordon, 194-228. New York, NY: Pantheon Books. .

La infraestructura de mobilitat d’una ciutat determina la manera en què la ciutadania accedeix a la seva geografia, la manera en què s’afavoreix o es dificulta la inclusió. Els carrers d’un barri residencial dels Estats Units, amb calçades i sense voreres, determinen la mobilitat dels seus residents d’una manera diferent que els carrers d’Amsterdam, amb voreres, carrils bici i calçades. Els semàfors per a vianants en què el color verd té una durada molt breu generen un trànsit més fluid dels vehicles, però són sens dubte un obstacle per als vianants de més edat.

La intel·ligència artificial és una forma nova d’infraestructura. No és un producte, sinó infraestructura immaterial. Tot procés implica un sistema determinat i una sèrie de normes, que més endavant es poden formalitzar en llenguatge matemàtic i fer-se totalment o parcialment automàtiques. Aquesta normalització va més enllà dels cables i el maquinari. Automatitzar un procés amb IA significa afegir una fina capa invisible de programari per arbitrar permanentment les interaccions amb totes les parts implicades del procés i entre elles. Així, s’està desenvolupant infraestructura immaterial en sectors en què la dimensió infraestructural abans era impensable.

Per això, cal revisar el concepte actual d’infraestructura. Actualment la infraestructura designa les institucions que mantenen les funcions econòmica, cultural, educativa i sanitària d’un país, la infraestructura tova, o «totes les coses estables necessàries per a la mobilitat i un intercanvi entre persones, béns i idees»[6]6 — Laak, Dirk van. 2018. „Alles im Fluss“. Die Lebensadern unserer Gesellschaft – Geschichte und Zukunft der Infrastruktur. Frankfurt am Main: S. Fischer Verlag. , la infraestructura dura. Una característica essencial que defineix la infraestructura tova i la dura és l’estabilitat, processal en el cas de la infraestructura tova o física en el cas de la infraestructura dura. Són una forma de planificació fonamental per al disseny metòdic de l’accés, la distribució i la interacció amb béns i serveis d’interès per a un col·lectiu. Per a Foucault, aquest és un aspecte fonamental del poder polític. El seu concepte de dispositiu que regula la política sanitària, sexual o arquitectònica va ser innovador perquè ampliava la definició de poder d’unes meres regles a un conjunt de «relacions de poder, pràctiques i accions»[7]7 — Elden, Stuart. 2016. Foucault’s Last Decade. Cambridge: Polity Press. que es descriuen tant en la normativa com en la infraestructura material i els mecanismes. Així doncs, la infraestructura és la planificació del poder i la seva distribució per mitjà d’una sèrie de normes que plasmen les idees socials d’eficiència i equitat dels procediments i la distribució.

Una altra característica rellevant de la infraestructura és que la modularitat li és inherent. La crítica que Hannah Arendt feia de la burocratització de l’assassinat durant el Tercer Reich alemany és una crítica fonamental de la infraestructura tova[8]8 — Arendt, Hannah. 2006. Eichmann in Jerusalem: A Report on the Banality of Evil. New York: Penguin Books. . L’administració com a infraestructura tova (que Max Weber havia considerat el mecanisme de les democràcies per garantir la igualtat davant la llei i els seus procediments en oposició amb l’arbitrarietat de les autocràcies carismàtiques) comporta riscos. La divisió dels processos d’exterminació en passos o mòduls administratius normalitzats va fer que els individus descontextualitzessin cada mòdul del procés més ampli i va facilitar la distància moral de la seva conseqüència final. L’administració va banalitzar el mal en un procediment burocràtic que enfosquia la responsabilitat amb la modularització, de manera que els buròcrates del sistema eren responsables només d’un pas del procés.

Automatitzar un procés amb IA significa afegir una fina capa invisible de programari per arbitrar permanentment les interaccions amb totes les parts implicades del procés

A més, la infraestructura sol tenir un caràcter interdependent: les infraestructures de la informació i les telecomunicacions depenen fonamentalment de la infraestructura elèctrica.

Una última característica que s’ha d’esmentar és la inexistència d’infraestructures i béns infraestructurals per a les llars i les empreses per motius relatius a la producció i el cost: «Encara que el pa pot satisfer la gana, no és un bé infraestructural, ja que els ingredients per elaborar-lo són fàcils de trobar; avui qualsevol persona es pot fer el pa»[9]9 — Buhr, Walter. 2009. “Infrastructure of the Market Economy, Volkswirtschaftliche Diskussionsbeiträge” Fachbereich Wirtschaftswissenschaften, Wirtschaftsinformatik und Wirtschaftsrecht: Discussion Paper No. 132–09. U. Siegen. .

Atès que els costos fixos varien molt en funció dels béns capitals, la infraestructura es proporciona en diferents formes de mercat: sobretot monopolis (naturals; per exemple, el subministrament elèctric), però també amb competència (per exemple, la construcció d’habitatges). Tot i que una llar pot pagar un generador o plaques fotovoltaiques, un subministrament elèctric constant i fiable continua necessitant una connexió a la xarxa, que és la infraestructura que una llar no pot assumir.

La intel·ligència artificial implica molts d’aquests aspectes. Té prerequisits físics com ara cables i maquinari. No té unes propietats estables: les seves fórmules i el seu codi canvien constantment. Tanmateix, crea una capa estable amb una estructura formalitzada matemàticament que coincideix o complementa les regles i limitacions de les infraestructures tova i dura. A més, automatitza processos gràcies a la modularització tècnica i matemàtica: cada procés es divideix en diferents passos segons els requisits tècnics, però no necessàriament segons el context administratiu i social. Els sistemes d’IA no són instruments ni derivacions de les regles i els mecanismes de la infraestructura tova. Segueixen una lògica diferent paral·lela a la de la infraestructura tova i, per tant, requereixen la seva classificació pròpia.

Les xarxes socials, per exemple, es podrien considerar una forma d’infraestructura immaterial del sector de les comunicacions. Una capa de programari organitza la interfície, el temps i el format (vídeo, text, fotografia) en què les persones interactuen entre si. Així, aquesta infraestructura normalitza i modera la comunicació amb les regles i les normes de la infraestructura tova (en aquest cas, la llibertat d’expressió, els drets individuals, etc.) i el seu mercat actual està integrat per monopolis definits pel format[10]10 — Les empreses tecnològiques existents tenen posicions de monopoli en els seus formats específics: el format que ofereix Twitter és diferent dels que ofereixen Instagram, Snapchat, YouTube o Facebook. .

Atès que la infraestructura és l’expressió arquitectònica de la política d’una societat, la IA és una tecnologia que té un impacte arquitectònic sobre les societats i, per tant, a una escala més col·lectiva que individual

Els sistemes de seguretat predictius en serien un altre exemple. Com que estan habituats a identificar patrons de conducta per a categories delictives concretes, s’apliquen estratègicament per evitar delictes similars. Per exemple, els grups delictius organitzats tenen un modus operandi per als robatoris i, en un interval de temps i un paràmetre geogràfic determinats, aquesta informació s’utilitza metòdicament per evitar que aquests mateixos actors cometin robatoris semblants a la zona. Un sistema de seguretat predictiu per a aquesta finalitat normalitzaria la geografia d’una ciutat i identificaria la unitat geogràfica mínima. Es crearia a partir d’una sèrie de definicions i decisions humanes: quines categories de dades es faran servir i quines es descartaran; quina antiguitat tindran les dades i si aquestes tindran data de caducitat; quines categories delictives s’inclouran i es relacionaran entre si, etc. Amb això, la informació sobre el delicte, la geografia de la jurisdicció, etc., s’estructura i es «dadifica» (i es desa en forma de normes i regles sobre dades utilitzables que funcionen juntament amb les que la infraestructura tova estableix). Malgrat que informar, assistir i, així, sistematitzar el treball policial depèn molt de les idees i els conceptes d’optimització, equitat i eficiència[1]1 — Freyer, Hans. 1987. “Herrschaft und Planung. Zwei Grundbegriffe der politischen Ethik.“ In Herrschaft, Planung und Technik. Aufsaetze zur politischen Soziologie, edited by Hans Freyer, 17–43. Weinheim: VCH Verlagsgesellschaft. p. 22 dels diferents actors que dissenyen i apliquen la tecnologia, la traducció d’aquestes idees socials d’eficiència i equitat en algoritmes està restringida per les regles matemàtiques i els límits de la «dadificació»[12]12 — No tots els contextos i circumstàncies socials poden transformar-se íntegrament en dades. . Així, la infraestructura tova i la infraestructura immaterial són dos sistemes independents que s’influeixen dialècticament i es limiten recíprocament.

Un altre aspecte fonamental de la IA com a arquitecta i moderadora de les relacions socials, les pràctiques i les actuacions és el valor a l’entorn del qual giren les seves regles d’optimització. Els sistemes d’IA optimitzen un objectiu o valor específic en detriment d’altres valors. Un sistema optimitza l’eficiència en el sentit del pragmatisme o de l’equitat?

Tots els exemples anteriors il·lustren trets de la tecnologia que també es poden aplicar a altres sectors i serveis arbitrats per la IA: la salut, l’agricultura, la mobilitat, les comunicacions, el benestar social, la banca, el comerç electrònic, l’ocupació, etc. L’ús de la intel·ligència artificial en aquests sectors implica la normalització i la creació d’una segona capa de normes en mòduls matemàtics que estructuraran automàticament les relacions humanes, les pràctiques i les interaccions en aquest context.

Atès que la infraestructura és l’expressió arquitectònica de la política d’una societat, la IA és una tecnologia que té un impacte arquitectònic sobre les societats i, per tant, a una escala més col·lectiva que individual.

L’individualisme metodològic inherent a les normes i les lleis occidentals

Els algoritmes i la intel·ligència artificial no entenen els individus. I les democràcies, des de la seva perspectiva de la dogmàtica legal, no entenen els col·lectius. El plantejament ètic occidental i les seves cultures jurídiques tenen una metodologia individualista i una ontologia antropocèntrica. En la història de la teoria política de la legitimació del poder polític, la societat ideal (l’ordre polític legítim) només es podia aconseguir amb ciutadans moralment bons. Així, primer de tot, l’individu tenia deures i obligacions envers la societat, però els drets que emanaven d’aquestes obligacions no eren fonamentals per a l’existència de la societat. El constitucionalisme va modificar la narrativa: la concentració de poder en un ordre polític era legítima si aconseguia protegir els drets fonamentals de les persones. Abans la societat devia drets als seus ciutadans i d’aquests drets emanaven les obligacions. Amb la narrativa nova, els drets venien primer i les obligacions després.

Aquest va ser el naixement narratiu de la legitimació del poder democràtic occidental, basada en la idea que el poder polític hi és per protegir les persones. Però l’estat Leviatan, el monstre amb el monopoli de la violència, es va crear per protegir les persones contra una forma de violència molt concreta, una guerra de tothom contra tothom.

“Que algú accepti, si els altres també hi consenten i mentre es consideri necessari per a la pau i la defensa de si mateix, renunciar a aquest dret a totes les coses i satisfer-se amb la mateixa llibertat, davant els altres homes, que els sigui concedida als altres respecte a si mateix. En efecte, mentre algú mantingui el seu dret de fer tot el que li agradi, els homes es troben en situació de guerra”[13]13 — Hobbes, Thomas. 1968. Leviathan. Edited by Crawford Brough Macpherson. London: Penguin Books. .

L’objectiu de l’estat Leviatan no era garantir llibertats i drets a les persones, sinó superar la guerra (civil) i facilitar la vida en societat amb la garantia d’unes llibertats i uns drets limitats per a les persones. Els drets eren determinants per fer que la societat i la cooperació entre individus fossin possibles.

La major part de les teories constitucionalistes parteix d’una visió egocèntrica, racionalista i antropològica de l’home. La construcció del contracte social havia d’incentivar l’home per acceptar la cessió de poder i confiar en l’arquitectura política resultant per poder cooperar i beneficiar-se individualment en l’estructura normativa donada. Cada vegada més, l’èmfasi en cridar a la racionalitat dels individus per acceptar i complir el contracte social distreia del propòsit de la racionalitat i els incentius contractuals[14]14 — Juntament amb el precepte de la Il·lustració d’atrevir-se a saber, l’ús de la racionalitat, l’increment dels índexs d’alfabetització i la permeació de la narrativa contractual en les expectatives culturals de les societats, va sorgir el concepte de privadesa, que marcava el llindar on acabava el poder de l’estat. Tant la racionalitat com la privadesa reforçaven el plantejament metodològic individualista del contracte social. Això va portar Jürgen Habermas (a Strukturwandel der Öffenlichkeit. Untersuchungen zu einer Kategorie der bürgerlichen Gesellschaft, ‘La transformació estructural de la vida pública. Investigacions sobre una categoria de la societat burgesa’) i Richard Sennett (a El declivi de l’home públic) a criticar profundament la manera en què aquest fet erosiona la dimensió pública de les vides dels ciutadans i, amb això, aspectes essencials de l’esfera pública i la cohesió social. .

L’autonomia individual només es pot obtenir amb un prisma social i bàsicament depèn del marc estructural en què opera.

Els cercopitecs verds tenen una jerarquia per a l’alimentació en què les femelles dominants mengen primer i durant més estona; en canvi, els gossos mengen sols i no comparteixen el menjar. Un prisma individualista centrat únicament en els beneficis i drets individuals consideraria que un animal que pot menjar primer i tant com vulgui és clarament el que gaudeix de més llibertat. Sense fixar-nos en el context estructural més ampli, això es podria aplicar a un animal que visqui en un zoo o en una gossera. Gairebé tots els animals que viuen en bandades tenen jerarquies de domini que es reflecteixen en l’alimentació, la reproducció i altres aspectes vitals. En general, els animals domèstics no poden viure en bandada i tenen més dependència i jerarquia amb un amo humà. El domini sobre un mateix no es defineix amb els beneficis o drets individuals, com ara menjar sol, sinó amb factors relacionals que depenen de l’estructura en què aquests drets s’integren.

El plantejament ètic occidental i les seves cultures jurídiques tenen una metodologia individualista i una ontologia antropocèntrica

En conseqüència, una gran part de les cultures democràtiques disposa d’instruments jurídics per valorar l’impacte, oferir protecció i rectificar, només a escala individual. Ja hi ha exemples políticament rellevants deguts a la falta de qualificacions basades en riscos i danys estructurals. L’aplicació de seguiment per a esportistes Strava va publicar un mapa en què es mostraven tots els rastres d’activitats dels usuaris de l’aplicació arreu del món. Les dades eren anònimes. Això no obstant,

“a llocs com l’Afganistan, Djibouti i Síria, sembla que els usuaris de Strava són gairebé exclusivament personal militar estranger, cosa que significa que les bases destaquen molt. A la província de Helmand (Afganistan), per exemple, es poden veure clarament les ubicacions de les bases d’operacions avançades, que brillen de color blanc sobre el mapa negre”[15]15 — Hern, Alex. 2018. “Fitness tracking app Strava gives away location of secret US army bases.” Accessed Jan. 4, 2019. .

De la mateixa manera, alguns programes informàtics per a la seguretat predictiva que es fan servir a la Unió Europea no entren dins l’àmbit de la regulació i l’avaluació exhaustiva dels impactes: a diferents llocs d’Alemanya, la policia federal fa servir un programari per predir els robatoris, amb un modus operandi concret, en un interval de temps i un paràmetre geogràfic determinats, per mitjà de dades anònimes sobre el tipus de delicte i el procediment, així com les dades geogràfiques. El programari té sentit a les regions amb menys agents perquè pot ajudar la policia a fer torns de patrulla més eficients en relació amb la prevenció de robatoris. Les autoritats federals de protecció de dades corresponents van permetre l’ús del programari perquè no processava dades personals i, per tant, no era objecte de la seva competència.

Però aquests sistemes deixen obertes moltes qüestions de caràcter social. Si el programari s’alimenta amb dades històriques, en conseqüència desperta preocupació pels biaixos ètnics estructurals relacionats amb els codis postals: fins a quin punt el banc de dades reflecteix les asimetries de les dades? Com es pot controlar la representació perquè algunes regions no estiguin sobrerepresentades i unes altres estiguin infrarepresentades? En quina mesura el sistema potencia aquest tipus de biaix ètnic i, per tant, afecta la cohesió social d’una ciutat? Si s’observa més presència policial a les regions més pobres estructuralment, els residents se sentiran més segurs o es provocarà l’èxode massiu dels residents que es puguin permetre un habitatge a una altra zona de la ciutat? Com i en quina mesura aquest instrument s’integra significativament en una estratègia més àmplia de prevenció? Aquest és un altre exemple de la necessitat d’un plantejament més col·lectiu per avaluar els sistemes algorítmics.

Tanmateix, només en algunes àrees del dret (el dret laboral, per exemple) la major part de cultures jurídiques disposa d’instruments per abordar la dimensió col·lectiva de la discriminació. En el futur la discriminació serà un fenomen que s’observarà en tots els sectors en què s’utilitzi la IA, ja sigui la distribució d’energia o recursos bàsics, el sector sanitari o bé el benestar social. El fet que la discriminació no existeixi només en el sector laboral i que aquestes tecnologies s’utilitzaran en tots els sectors apunta a un dels buits legals que les noves tecnologies posen més en evidència.

Per aquests motius, centrar-se en els drets individuals paradoxalment perjudica l’autonomia i els drets individuals. L’autonomia de l’individu depèn en gran mesura del marc social i la infraestructura en què aquesta autonomia s’exerceix. Poder menjar sol no és un signe del domini d’un mateix. L’absència de perjudici individual en relació amb els drets humans o fonamentals no significa que els éssers humans no surtin perjudicats en general. El perjudici social existeix i valorar l’impacte sobre la societat exigeix preguntes i criteris diferents dels que s’apliquen als drets humans i fonamentals.

Definició dels valors que modelen la infraestructura immaterial equitativa

Des de fa molt de temps, els europeus són conscients dels possibles conflictes entre els diferents tipus d’infraestructura material deguts a l’escassetat d’espai. El 1970 el Consell d’Europa va iniciar les conferències europees de ministres responsables de l’ordenació territorial (CEMOT), que van conduir a l’aprovació, l’any 2000, dels principis rectors del desenvolupament territorial sostenible al continent europeu. El 1999 la Unió Europea va crear la Perspectiva de desenvolupament territorial europeu, un marc polític que proporciona les condicions i els criteris determinants per a la creació de xarxes transeuropees (transport, energia, telecomunicacions). Tant el Consell Europeu com la Unió Europea consagren la cohesió social com un dels principis rectors de les seves polítiques i els seus marcs d’ordenació territorial quan es construeix i coordina la infraestructura (material). Tot i així, el conflicte entre el caràcter normalitzador i homogeneïtzador dels cables, els ponts i les carreteres i el seu impacte sobre les societats pluralistes encara no ha estat objecte d’un debat rigorós comparable al debat sobre la ciutadania. Si el sostre d’un pas subterrani o un túnel és massa baix per als autobusos, només els usuaris de cotxes (sobretot privats) el podrien fer servir i s’exclouria les persones que només es poden permetre el transport públic. Quines alternatives s’ofereixen per garantir l’accés entre les zones a ambdós extrems del túnel?

L’exemple anterior del túnel amb el sostre baix és similar a molts exemples de biaix que s’observen en els sistemes algorítmics, com per exemple el dispensador automàtic de sabó que no detecta els usuaris amb la pell més fosca. El problema darrere el dispensador de sabó era una qüestió de biaix en el grau de normalització. La tecnologia d’infraroig proper no detecta bé la pell més fosca i, com que els desenvolupadors i verificadors d’aquests articles eren persones de pell clara, aquest problema va passar desapercebut durant molt de temps.

Tots dos exemples tenen a veure amb la creació de normes a partir d’hipòtesis implícites sobre els éssers humans i els seus contextos que no reflecteixen l’alteritat, és a dir, la varietat en la naturalesa humana i els contextos socials.

Malgrat que l’aplicació concreta de la infraestructura material es redueix a xifres i normes matemàtiques presumptament neutres, en un nivell més abstracte el seu impacte social col·lectiu es justifica amb normes i regles escrites al continent europeu. Els principis rectors de la creació i coordinació de la infraestructura estan consagrats en les polítiques corresponents d’ordenació territorial a escala local, regional, nacional i continental. Aquests principis són un conjunt de criteris per orientar, examinar i avaluar l’impacte de la infraestructura que es pot aplicar als sistemes algorítmics:

  • Equilibrar les condicions socials, econòmiques, ecològiques i culturals (tenint en compte també les asimetries geogràfiques)
  • Protegir la diversitat
  • Oferir un accés segur i continu als serveis públics i garantir la igualtat d’oportunitats
  • Proporcionar una estructura econòmica equilibrada que afavoreixi un ampli ventall d’oportunitats
  • Protegir i desenvolupar cultures
  • Garantir la sostenibilitat i el respecte a la natura
  • Garantir que es té en compte la necessitat de proporcionar defensa i protecció civil
  • Garantir les condicions necessàries per a la cohesió social


I, tot i que aquestes qüestions i aquests plantejaments tenen un impacte sobre els individus, l’estratègia i els criteris difereixen essencialment del catàleg de qüestions que s’aplica al plantejament dels drets individuals. Els principis que s’enumeren aquí són més adequats per generar una anàlisi més profunda de l’impacte dels sistemes algorítmics perquè ofereixen respostes a escala estructural. Moltes democràcies coneixen aquest plantejament més col·lectivista a escala reguladora i normativa. Tanmateix, alguns aspectes i implicacions de la infraestructura necessiten una anàlisi encara més profunda i més reflexió jurídica i metodològica.

En conclusió, els sistemes algorítmics i la intel·ligència artificial com a tecnologies col·lectivistes posen en relleu una debilitat de les democràcies: l’individualisme metodològic dels sistemes democràtics ha caracteritzat l’estratègia normativa dels poders democràtics. Les democràcies, però, també tenen propòsits socials, encara que els instruments reguladors corresponents no estan tan desenvolupats. L’aplicació de la IA exigeix una reflexió social. En aquesta nova era de l’automatització, la tasca més urgent per a les democràcies és desenvolupar la idea d’interès públic, el bé comú i la forma de la societat.

  • Referències

    1 —

    Freyer, Hans. 1987. “Herrschaft und Planung. Zwei Grundbegriffe der politischen Ethik.“ In Herrschaft, Planung und Technik. Aufsaetze zur politischen Soziologie, edited by Hans Freyer, 17–43. Weinheim: VCH Verlagsgesellschaft. p. 22

    2 —

    Mannheim, Karl. [1935] 1958. Mensch und Gesellschaft im Zeitalter des Umbaus. Darmstadt: Wissenschaftliche Buchgesellschaft.

    3 —

    Kizer, Ben H. 1939. “The Need for Planning.” In National Conference on Planning. Proceedings of the Conference held at Minneapolis, Minnesota, June 20-22, 1938. Chicago: 1–9.

    4 —

    Sloot, Bart van der. The Individual in the Big Data Era: Moving towards an Agent-Based Privacy Paradigm.

    5 —

    Foucault, M. 1980. “The Confession of the Flesh” [Interview, 1977]. In Power/Knowledge: Selected Interviews and Other Writings, edited by Colin Gordon, 194-228. New York, NY: Pantheon Books.

    6 —

    Laak, Dirk van. 2018. „Alles im Fluss“. Die Lebensadern unserer Gesellschaft – Geschichte und Zukunft der Infrastruktur. Frankfurt am Main: S. Fischer Verlag.

    7 —

    Elden, Stuart. 2016. Foucault’s Last Decade. Cambridge: Polity Press.

    8 —

    Arendt, Hannah. 2006. Eichmann in Jerusalem: A Report on the Banality of Evil. New York: Penguin Books.

    9 —

    Buhr, Walter. 2009. “Infrastructure of the Market Economy, Volkswirtschaftliche DiskussionsbeiträgeFachbereich Wirtschaftswissenschaften, Wirtschaftsinformatik und Wirtschaftsrecht: Discussion Paper No. 132–09. U. Siegen.

    10 —

    Les empreses tecnològiques existents tenen posicions de monopoli en els seus formats específics: el format que ofereix Twitter és diferent dels que ofereixen Instagram, Snapchat, YouTube o Facebook.

    11 —

    Aquestes idees d’eficiència i equitat no necessàriament s’han d’especificar en les regles que constitueixen una infraestructura tova. Poden ser l’expressió de les expectatives i els prejudicis socials comuns en una societat contrària a les regles jurídiques i administratives.

    12 —

    No tots els contextos i circumstàncies socials poden transformar-se íntegrament en dades.

    13 —

    Hobbes, Thomas. 1968. Leviathan. Edited by Crawford Brough Macpherson. London: Penguin Books.

    14 —

    Juntament amb el precepte de la Il·lustració d’atrevir-se a saber, l’ús de la racionalitat, l’increment dels índexs d’alfabetització i la permeació de la narrativa contractual en les expectatives culturals de les societats, va sorgir el concepte de privadesa, que marcava el llindar on acabava el poder de l’estat. Tant la racionalitat com la privadesa reforçaven el plantejament metodològic individualista del contracte social. Això va portar Jürgen Habermas (a Strukturwandel der Öffenlichkeit. Untersuchungen zu einer Kategorie der bürgerlichen Gesellschaft, ‘La transformació estructural de la vida pública. Investigacions sobre una categoria de la societat burgesa’) i Richard Sennett (a El declivi de l’home públic) a criticar profundament la manera en què aquest fet erosiona la dimensió pública de les vides dels ciutadans i, amb això, aspectes essencials de l’esfera pública i la cohesió social.

    15 —

    Hern, Alex. 2018. “Fitness tracking app Strava gives away location of secret US army bases.” Accessed Jan. 4, 2019.

Lorena_Jaume-Palasí

Lorena Jaume-Palasí

Lorena Jaume-Palasí és una de les expertes d’IA més prominents a Espanya i a les Balears. Experta també en filosofia del dret, el seu treball està enfocat envers els aspectes ètics de la digitalització i l’automatització. Va cofundar la ONG AlgorithmWatch i, poc després, The Ethical Tech Society, més centrada en la rellevància social dels sistemes automàtics. El 2017 va ser designada pel govern espanyol com a integrant del Consell de Savis sobre Intel·ligència Artificial i Big Data, dins la Secretaria d’Estat d’Agenda Digital. És cofundadora de la Dynamic Coalition on Publicness del Fòrum de Governança d’Internet de les Nacions Unides (IGF), on dirigeix la secretaria de la secció nacional alemanya. També lidera projectes sobre governança d’Internet a l’Àsia i Àfrica.