Debat: està fent prou la Unió Europea en l’àmbit de la intel·ligència artificial?

Les tecnologies de la intel·ligència artificial, especialment en el moment actual de crisi per la pandèmia del coronavirus, estan cridades a transformar el món i les societats on vivim. El seu ús, però, planteja interrogants de tot tipus. Com s’han de regular? Quines són les implicacions ètiques? Quins efectes tindran per a les democràcies? En l’àmbit comunitari, està fent prou la Unió Europea per fer valdre la seva estratègia d’IA i posicionar-se globalment en la carrera mundial, on la Xina i els Estats Units són actors clau? Com podem situar les persones al centre d’aquestes tecnologies d’enorme potencial?

Amb l’objectiu de reflexionar sobre totes aquestes qüestions, el dijous 23 d’abril la revista IDEES, que edita el Centre d’Estudis de Temes Contemporanis (CETC), va impulsar el debat Is the EU doing enough on AI?, coorganitzat conjuntament amb la Delegació del govern davant la UE. L’acte formava part de les activitats programades dins del dossier monogràfic sobre intel·ligència artificial publicat per la revista IDEES. A causa de la pandèmia, la conversa, que s’havia de fer inicialment a Brussel·les, va canviar el seu format i es va dur a terme de manera virtual, a través del canal de Youtube del Departament d’Acció Exterior.

El debat va comptar amb la participació de ponents de primer nivell, amb molta experiència en els diferents àmbits professionals relacionats amb la intel·ligència artificial. Des de contextos professionals diversos, tots ells han contribuit a posar llum als reptes i les qüestions controvertides que ha d’afrontar avui Europa en relació amb la IA.

Meritxell Serret, Delegada del govern davant la Unió Europea, i Pere Almeda, director del Centre d’Estudis de Temes Contemporanis, van ser els encarregats d’obrir el debat. Carles Sierra, director de l’Institut de Recerca sobre Intel·ligència Artificial (IIIA) del Consell Superior d’Investigacions Científiques (CSIC), va moderar la conversa, on van prendre-hi part Lorena Jaume-Palasí, fundadora i directora executiva a The Ethical Tech Society; Michela Milano, vicepresidenta de l’associació EurAI; Andrea Renda, responsable de governança global, regulació, innovació i economia digital del think tank europeu CEPS i Eric Badiqué, assessor d’intel·ligència artificial de la Comissió Europea.

El rol de la UE

El debat va analitzar diversos aspectes en relació amb l’alineament de la IA amb els valors europeus, els reptes que la naturalesa d’aquesta tecnologia planteja en l’àmbit normatiu i regulatori, el rol de la Unió Europea en la coordinació d’iniciatives i la seva presència a l’escenari global. També es va parlar del present i el futur de la recerca i la relació público-privada. Tots els ponents van coincidir en el fet que, mentre que la UE sembla estar accelerant la seva iniciativa en el camp de la IA, encara hi ha molta feina per fer per assegurar-ne un desenvolupament reeixit i segur.

Lorena Jaume-Palasí va subratllar que, tal com passa amb altres tipus d’infraestructures, els criteris que guien la creació de les tecnologies de la intel·ligència artificial no són de caire individual sinó col·lectiu. En aquest sentit, la IA no es basa en supòsits sobre els individus, sinó en una visió general de les societats i els grups, fet que xoca amb la naturalesa de la regulació legal de les societats occidentals, centrada en l’individu. L’experta va argumentar que la regulació en àmbits com la IA s’ha de basar en valors de societat, com la cohesió social o la sostenibilitat. La Unió Europea ja ha assumit aquesta perspectiva en altres àmbits, però no en el camp de la intel·ligència artificial, on aquesta aproximació és crucial. Jaume-Palasí també va advertir dels efectes per a la democràcia de les decisions que es prenguin, en especial en la situació actual de pandèmia: “Molta de l’arquitectura democràtica que tenim avui en dia va ser creada en situacions tant de guerra com d’epidèmia. Tot allò que es canviï ara influirà en l’evolució de les democràcies. Necessitem una acció concertada, transversal, des de diverses disciplines”.

Michela Milano va oferir una perspectiva general des del punt de vista de la recerca i va analitzar les debilitats que ha detectat en l’àmbit de la investigació en IA a Europa, a partir de les quals va aportar algunes propostes de solució. Per exemple, la fragmentació de les iniciatives es pot contrarrestar amb el foment de la col·laboració i l’enfortiment de l’ecosistema de recerca d’IA; la falta d’alineament entre la recerca bàsica i la recerca industrial aplicada es podria solventar assegurant la connexió entre tots dos móns; la incapacitat per retenir el talent dins la UE podria redreçar-se amb un major finançament i reenquadrant els programes de recerca i, finalment, l’accés limitat a la IA per part dels usuaris amb menys formació tecnològica es podria solventar fent-la més accessible. Segons Milano, “la investigació en IA és molt important a llarg termini i pot marcar la diferència a l’hora de resoldre els problemes de desenvolupament sostenible en el marc del Green Deal”.

Regular en clau de futur

Andrea Renda va coincidir en la necessitat de canviar de paradigma, evolucionant des d’una legislació basada en l’individu cap a un marc normatiu basat en el col·lectiu que pugui tenir en compte el canvi en les relacions humanes que comporta la mediació tecnològica. També va posar especial èmfasi en la necessitat de pensar en el futur i visualitzar com serà el món d’aquí a 5 anys quan es dissenya un marc regulatori. Segons Renda, la intel·ligència artificial ha de posar les persones al centre i s’ha de veure com un mitjà i mai com un objectiu o finalitat. “La qüestió no és què pot fer la UE en intel·ligència artificial; la qüestió és què pot fer la intel·ligència artificial per ajudar la UE a aconseguir els seus objectius. Per exemple: com pot ajudar-nos amb els ODS?” L’expert va assenyalar que la UE ha tinguit èxit en la implementació d’un marc ètic mitjançant l’adopció de regles extraterritorials, basades en el risc, que asseguren una IA de confiança. Per a Renda, la pregunta més important és saber si la UE pot mantenir aquesta legislació i alhora ser competitiva, i per això considera que és necessari que la Unió lideri l’àmbit de la recerca i coordini una aliança internacional per a una intel·ligència artificial centrada en les persones.

Per la seva banda, Eric Badiqué va subratllar la idea que la IA ha de ser útil i empoderar els éssers humans, i va assegurar que la UE ha fet molt en aquest àmbit, especialment en les discussions ètiques, malgrat reconèixer que encara hi ha molta feina per fer. Segons ell, la Unió Europea està liderant les converses sobre intel·ligència artificial en l’àmbit global però encara necessita perfeccionar aspectes relacionats amb el finançament i la recerca. En aquest sentit, l’actual crisi de la Covid-19 ho fa tot més difícil, ja que la investigació i els fons depenen del pressupost europeu. Des del punt de vista de Badiqué, el rol de la UE al món és crucial perquè podria establir una mena de tercera via entre els Estats Units i la Xina i obrir una via per treballar cap a un consens més ampli entre països d’opinió similar a tot el món. L’expert va concloure la seva intervenció fent algunes observacions sobre les lliçons que la crisi del coronavirus ens ha ensenyat fins ara sobre digitalització, confiança i dades, i va plantejar algunes preguntes provocadores per a una reflexió més profunda. Per exemple: podem esperar que la crisi de la pandèmia porti a un major coneixement global dels problemes relacionats amb la privacitat? O serà al revés?

Torn de preguntes

Després de l’intercanvi de visions es va obrir el torn de preguntes del públic, que s’havien fet arribar a través de l’etiqueta #EUonAI a Twitter i des del mateix xat en directe a Youtube. Fruit de les respostes, els ponents van fer referència a algunes qüestions que no s’havien plantejat abans i van clarificar alguns dels temes més polèmics. Les principals línies de debat van ser com implementar la governança del risc, com coordinar la interacció público-privada, la necessitat d’avançar cap a una aproximació interdisciplinària en el camp de la IA, com assegurar una disminució proporcional de la privacitat en temps de Covid-19, com adaptar-se al Brexit, com regular les apps estrangeres que entren al mercat europeu, com retenir el talent i assegurar la diversitat i, per últim, les implicacions geopolítiques de la IA i l’impacte de la lluita del 5G sobre els principis democràtics i els drets fonamentals.