Intel·ligència artificial en temps de pandèmia

Comencem reconeixent, en primer lloc, que la pandèmia COVID-19 és una situació encara en evolució i amb nombrosos efectes i externalitats. Reconeguem també els nombrosos i inspiradors articles que ja s’han publicato sobre els buits, els beneficisi les incerteses que afrontarà la humanitat quan passi aquesta pandèmia. Assumim d’entrada que hi haurà un punt final. Tal i com escrivia eloqüentment Arundthi Roy al Financial Times, “Històricament, les pandèmies han obligat els humans a trencar amb el passat i a repensar de nou el món. Aquesta pandèmia no és diferent. És un portal, una porta de connexió entre un món i el següent.”

En resposta a aquesta crida, em permeto un exercici d’imaginació i em pregunto: com ens poden ajudar les tecnologies emergents, especialment la intel·ligència artificial (IA), a treure la millor versió de nosaltres de manera col·lectiva?

Aquests són els punts dèbils. Per a bé o per a mal, la situació actual ha accelerat el reconeixement que dissenyar IA per al bé comú exigeix més que enginyar una intervenció tecnològica quan apareixen problemes complexos en el sistema. En segon lloc, la situació ens insta al disseny, al desenvolupament i al desplegament de tecnologies i ginys IA que busquin quelcom més que optimitzar l’eficiència individual. Els guanys de la hiperpersonalització serveixen de poc en moments de crisi. En comptes d’això, hauríem de pensar com redissenyem aquestes tecnologies per plasmar una visió més integrada, diversa i holística del món. S’entreveuen ja algunes possibilitats en aquesta línia, que estan emergint a través idees i projectes innovadors com ara Truluv.ai, CityShare/Canadà o el Projecte Alinear la IA amb els valors humans.

Deixarem les projeccions de futur per als quiromants. Apostem, en canvi, pel que sabem i el que estem aprenent. Aquesta és una oportunitat per reavaluar, reinicialitzar i recomençar. En particular, examinaré la interseccionalitat de la IA a través de tres nocions clau: confiança, privacitat i contacte social. En concret, examinaré què és el que està en joc com quan decidim què ens hem d’endur perquè no podem estar sense en creuar un portal per accedir a un món nou.

AI + confiança

Què sabem: hi ha al voltant de 240 (o més) directrius i marcs ètics per al desenvolupament de la IA. La condició d’una IA antropocèntrica, que inclou aspectes com la justícia, la responsabilitat, la transparència, la governança democràtica, etc., és als mateixos fonaments de les polítiques sobre IA, particularment als EUA. A principis de 2020, la Comissió Europea va publicar el llibre blanc La intel·ligència artificial: una aproximació europea a l’excel·lència i la confiança. El llibre descriu opcions polítiques sobre com aconseguir dos objectius primordials: promoure la incorporació de la IA i trobar solució als riscos associats a certs usos d’aquestes noves tecnologies. A més, l’aproximació que el llibre articula està basada en drets i valors fonamentals com ara la protecció de la privacitat i de la dignitat humanes.

Què està en joc: malgrat el creixent nombre de marcs, directrius, ordres executives i llibres blancs, la confiança en els sistemes IA s’embulla en un punt important: que dipositem la confiança en un sistema no implica que el sistema sigui “confiable”. Per exemple, una tecnologia pot ser dissenyada i optimitzada per a la confiança a través d’una heurística com ara la pregunta: “Empren els usuaris aquestes aplicacions basades en tecnologia IA?”. Se segueix que un nombres major d’usuaris comportarà nivells més alts de confiança. Però aquesta pregunta eludeix una miríada d’implicacions com ara polítiques corporatives pobres en ciberseguretat, privacitat, seguretat, etc., sobre les quals el consumidor jutja què li mereix o no la seva confiança. Per exemple, en àrees on Uber és l’únic mitjà de transport disponible, un usuari que normalment opta per un altre servei perquè desconfia de la política d’Uber quant a la privacitat es trobarà que l’absència d’opcions del mercat pesa més que la seva valoració personal. La pregunta llavors és: qui decideix què és o no és “confiable”? Hi ha altres alternatives heurístiques a considerar? Aquestes preguntes romanen obertes per qui les vulgui explorar.

AI + privacitat

Què sabem: la tensió entre la seguretat i la privacitat (i fins a cert punt, també la integritat) ha estat al capdamunt de la taula durant tota aquesta crisi. Com més administracions prioritzen la traçabilitat i el seguiment dels ciutadans, més fort fan sonar els defensors de la privacitat l’alarma sobre la subsidiarietat de les llibertats civils d’un moviment clarament reaccionari. Com va dir Andrew MacLaughlin, cap adjunt de Tecnologies per a les Polítiques d’Internet de l’Administració Obama i, encara abans, cap de l’equip de polítiques públiques globals de Google, “és un error retallar en les expectatives de privacitat en moments de crisi. És molt temptador de fer-ho, però després és molt difícil de revertir un cop que has creuat segons quines línies vermelles.”

Què està en joc: com vèiem en la secció anterior, l’impacte de segon ordre d’aquesta mena de violacions de la privacitat resta en la capacitat del consumidor de confiar en les empreses de tecnologia i/o en l’administració. Aquest és un moment crític tant per a la indústria com per als polítics per construir un nou equilibri entre les necessitats de privacitat i seguretat pública. L’aposta conjunta entre Apple i Google per construir un sistema de seguiment operat per Bluetooth i d’emmagatzematge automàtic de les interaccions entre persones és només el començament. L’eficàcia del giny és encara desconeguda i depèn de l’adopció de la tecnologia adient tant com de la integració i el testatge addicional d’una estratègia de salut pública de més gran abast. Si el creixement de la vigilància per via tecnològica aplana significativament la corba, ¿fins a quin punt voldrem augmentar el control? I, ¿realment no podrem tornar enrere una vegada hàgim creuat la línia vermella? A més, mentre observem com creix el poder de les estructures de l’ecosistema tecnològic, recalibrar la capacitat d’acció del consumidor hauria de ser una prioritat. Com també ho és pensar en alternatives per a aspectes com la sobirania de les dades, els centres de dades personals i el poder dels algoritmes, a fi de bastir una molt necessària infraestructura que faci possible un nou equilibri i que garanteixi la confiança.

AI + contacte social

Què sabem: aquesta pandèmia està desafiant el més primari dels instints humans —el d’estar junts. Fa més d’un mes (almenys als Estats Units) de l’inici del confinament i molts se senten sols, intranquils i temorosos. Però els avenços tecnològics i l’accés estès a la banda ampla ofereixen maneres noves de connectar-nos malgrat la distància física (a banda del Zoom, ara a pertot) —des de la plataforma Love is Quarantine, a raves en núvol amb TikTok, passant per les happy hours virtuals i el QuarantineChat. Ràpidament ens hem adonat que en absència de contacte físic hi ha, de fet, possibilitats de “sentir-se connectat” amb altres a través de la xarxa. ¿Serà aquest l’accés a una nova normalitat que ens portarà a una major dependència de la tecnologia per sentir-nos humans?

Què està en joc: a mesura que la data de fi de la pandèmia es va posposant, sorgeix la pregunta: quins són els potencials efectes a llarg termini? És aquest tipus d’interacció social sostenible? Tot i que fa dècades que s’està fent recerca en comunicació mediada i l’impacte sobre la conducta i el desenvolupament humà, el tema no ha rebut encara l’atenció que es mereix. Tanmateix, a mesura que són més les rutines diàries que fem en línia i durant un període de temps més llarg, hem de considerar el creixent espectre de punts de contacte entre els humans i les màquines. En un extrem hi ha les interaccions aparentment innòcues com les instruccions de veu dels GPS; en l’altre extrem, trobem creixents exemples d’humans que descarreguen els seus estats emocionals i mentals sobre màquines pures i dures, com ara Alexa o PARO, per a ús en teràpies conductuals. En aquest espectre, veiem aflorar casos de depressió i angoixa entre adolescents i en l’ús de les xarxes socials. Atès que la nostra dependència de la tecnologia creix (més enllà de factors purament econòmics), creix també la necessitat urgent d’investigar l’impacte sobre la nostra salut mental individual i sobre el benestar general. A més, a mesura que les normes de comunicació personal i interpersonal canvien, també ho faran les interaccions socials. La pregunta és si aquest canvi en la conducta interpersonal canviarà la visió del que significa pertànyer a una comunitat i/o a una societat. Fins i tot més crucial és la potencial implicació sobre les estructures de govern i el futur de la democràcia. I encara, ¿pot la IA ser alhora beneficiosa i perjudicial en aquesta evolució?

Per a alguns crítics, la recent empenta de la IA i del conjunt de tècniques computacionals són el mirall de la humanitat, i reflecteixen tant els punts dèbils com la capacitat de resposta de la nostra societat a canvis meteòrics tant verticals com transversals. Però aquest és un moment sense precedents i la COVID és un accelerant. Amb conseqüències com l’escalada en l’índex d’atur, un sistema de salut deficient i la migració de l’ensenyament a plataformes en línia, la crisi ens empeny cap a un futur que només havíem començat a albirar. De moment, ens ho mirarem amb cautela optimista i confiarem en la capacitat d’innovació i en la resiliència humana. El repte és mantenir el pas tant tecnològicament com culturalment. Estem tots cridats, les persones, les organitzacions i els polítics, a copsar què és el que està en joc i a ser prou àgils a donar-hi una resposta adequada.

• Avís

  Aquest article és obra de Kristine Gloria i no reflecteix, necessàriament, les opinions d’Aspen Institute.