A escala mundial, la sensibilització al voltant de la intel·ligència artificial (IA) és cada cop més gran. Fa temps que els Estats Units i el Canadà són capdavanters en el camp de la IA, tot i que la Xina ha desenvolupat una megainiciativa per prendre’ls el lideratge [1]1 — Vegeu: STEELS, L., (ed.), (2017). Artificiële intelligentie. Naar een vierde industriële revolutie? [electronic version]. KVAB Standpunt 53. JONCKHEERE, J. (2018). Artificiële intelligentie is hot. Received the 1st of October 2018 via www.chinasquare.be/artificiële-intelligentie-rijdt-op-de-tongen.   . A Europa, fa poc que les coses s’han començat a moure. Diversos països europeus han reconegut la importància de la intel·ligència artificial, la qual cosa els ha portat a posar-se al dia i desenvolupar estratègies en aquest àmbit. La Comissió Europea ha anunciat un pla per invertir 1.500 milions d’euros fins al 2020 per promoure la recerca en IA i superar els 20.000 milions d’euros invertits en els propers 10 anys.

Malgrat la capacitat que té la intel·ligència artificial de transformar la manera com vivim, treballem, ens movem i consumim, segueix sent desconcertant. El 2018, el terme IA va ser el més popular en el camp del màrqueting [2]2 — Vegeu: ALEXANDER, S. (2018). “Artificial Intelligence – The 2018 Marketing Buzzword”. (accessed the 24th August 2019). SWC TECHNOLOGY PARTNERS (2017). “Behind the Buzzword: Artificial Intelligence”. (accessed 24th August 2019) i va generar expectatives que prometien El Dorado a les empreses, similar al fenomen de la ciutat intel·ligent de fa deu anys. Tot i això, un examen en detall revela diferències importants. En primer lloc, IA és un terme paraigua que engloba diverses tecnologies [3]3 — DICKSON, B. (2019). https://bdtechtalks.com/2019/07/01/artificial-intelligence-buzzword/ (accessed 24th August 2019). . El cicle de sobreexpectació de Gartner per a tecnologies emergents [4]4 — GARTNER GROUP (2018). “Hype Cycle for Emerging Technologies, 2018”. (accessed 6th Augut 2019) enumera un nombre important de tecnologies i aplicacions d’IA. En segon lloc, la IA, com a catalitzador, dona sentit a tecnologies emergents com la IoT (Internet de les coses), el 5G o la tecnologia de dades massives, i en desbloqueja el potencial de transformació que tenen en conjunt. Per últim, malgrat que la intel·ligència artificial general (IAG) és a l’inici del cicle d’innovació i la majoria de les tecnologies i les aplicacions relacionades amb la intel·ligència artificial dèbil (IAD) estan en el punt àlgid d’unes expectatives inflades, només es pot trobar en dues tecnologies (les xarxes neuronals profundes i els assistents virtuals), les quals són prop d’assolir una àmplia aplicabilitat en el mercat (entre 2 i 5 anys).

Les primeres aplicacions demostren el potencial altament transformador de la IA. Però també plantegen un nombre important de reptes relacionats amb l’ètica, els drets dels ciutadans o la responsabilitat, que cal abordar amb urgència abans de desplegar-la més àmpliament a les ciutats.

La intel·ligència artificial no és un subjecte agnòstic: desafia els drets humans fonamentals i els principis de la democràcia. El ciutadà es mereix una veu en el debat comunitari; sobre el que passa a la seva ciutat i al seu entorn immediat

La IA ofereix beneficis importants a l’administració de les ciutats, les polítiques públiques i la prestació de serveis públics. Però està preparada per oferir valor real als ciutadans? Com afectarà a les ciutats i als ciutadans? En quines àrees pot oferir més valor la IA?

Aquest article proporciona una visió general realista de les expectatives de la IA i apel·la a les administracions locals i als ciutadans per tal que participin en definir on i com s’ha d’aplicar la IA i com poden ajudar a preparar el camí perquè l’administració de la ciutat adopti aquestes tecnologies emergents. El text explica com ho fan les ciutats per introduir la IA en el govern i l’administració municipal i quins són els reptes que ha d’afrontar la societat relacionats amb l’aplicació de la IA a les ciutats, i ofereix una llista de recomanacions per als professionals municipals.

Zones urbanes d’impacte

La intel·ligència artificial es presenta amb unes credencials impressionants. Si ens centrem en els governs municipals, promet fer realitat un govern centrat en els ciutadans i alliberar el valor ocult augmentant l’eficiència i reduint els costs de les administracions públiques. Una automatització progressiva de les tasques més simples del sector públic proporcionaria un increment no només de la productivitat i l’estalvi de costs, sinó també de la satisfacció dels empleats. Això pot arribar als ciutadans, els quals mostraran una satisfacció més gran envers els governs i els serveis que proporcionen. També pot oferir nous serveis a grups que actualment estan desatesos.

Segons McKinsey [5]5 — MCKINSEY & COMPANY, (2017). Smartening up with Artificial intelligence (AI). What’s in it for Germany and its industrial sector? [electronic version]. McKinsey & Co. Inc. , la IA pot crear valor afegit transformant la manera en què les empreses projecten o preveuen la demanda, produeixen, promouen i proporcionen els seus béns o serveis. Això es pot traduir directament en processos de l’administració municipal per definir polítiques públiques, com ara predir la demanda de serveis, anticipar problemes urbans i obtenir un diagnòstic més exacte dels problemes de les persones, prendre decisions, planificar, organitzar i produir serveis públics, comunicar-se amb els ciutadans i les empreses i, en últim lloc, prestar serveis públics.

La IA permetrà als polítics i als gestors municipals comprendre millor les necessitats de la ciutat, tenir un diagnòstic més precís dels problemes de la ciutat i reunir proves per avaluar l’impacte de les polítiques públiques, la qual cosa permetrà avançar cap a serveis públics millors i radicalment innovadors. La forma de governar els entorns urbans es transformarà radicalment.

Mentrestant, a mesura que la tecnologia de la IA esdevé més madura, més econòmica i més accessible, apareixen a la ciutat les aplicacions impulsades per la IA [6]6 — Vegeu: STEELS, L., (ed.), (2017). Artificiële intelligentie. Naar een vierde industriële revolutie? [electronic version]. KVAB Standpunt 53. POWER, B. (2018). Technology. How to get employees to stop worrying and love AI. Harvard Business Review. January-February 2018, 49-52. . Les primeres ciutats adoptants preparen el camí per aplicar la IA creant llacs de dades i desenvolupant projectes d’exploració o preveient l’aplicació de la IA en àmbits com el transport, l’atenció sanitària, l’educació, la seguretat, la cultura i l’assistència a grups desfavorits, on els ciutadans notaran amb més força l’impacte de la IA [7]7 — GROSZ, B. (2016). Artificial Intelligence and Life in 2030. One Hundred Year Study on Artificial Intelligence. Report of the 2015 study panel. Stanford University. September 2016. . Tot i que encara hi ha poques aplicacions basades en la IA, en podem donar alguns exemples.

Transport i mobilitat

La mobilitat de les persones serà una zona d’impacte amb la introducció de cotxes intel·ligents, vehicles autònoms i sistemes de transport intel·ligents per millorar la gestió del trànsit a les ciutats. També s’hi inclou el transport públic. L’Autoritat del Transport Metropolità de Barcelona (ATM) lidera un projecte on s’han analitzat milions de registres de dades de trucades (CDR per les sigles en anglès), juntament amb dades procedents de l’Institut Nacional d’Estadística, grans operadors de transport i autoritats de gestió viària, per obtenir una matriu origen-destinació més exacta.

La logística i el transport de mercaderies també es poden beneficiar de sistemes de planificació habilitats per a la logística, l’enviament autònom i drons per fer lliuraments a poca distància. La posterior introducció de la IA en el transport pot comportar menys contaminació i menys accidents, una reducció de l’aparcament automobilístic i menys embussos.

Educació

La IA ajudarà a proporcionar una millor resposta i sistemes d’aprenentatge en línia més personalitzats. Les grans quantitats de dades sobre els patrons d’aprenentatge dels estudiants es podrien fer servir per millorar els cursos [8]8 — STEELS, L., (ed.), (2015). Learning about music in the age of MOOCS. John Benjamins Pub. Amsterdam. .

La combinació de dades de la intel·ligència artificial en els àmbits de l’educació i del mercat laboral pot ajudar a fer que l’educació i formació professional (EFP) encaixi millor en la demanda del mercat laboral. El sistema d’IA pot ajudar els polítics a dissenyar polítiques actives que permetin crear ponts entre el sistema d’EFP i la demanda de feina.

Protecció i seguretat públiques

El reconeixement facial, la traducció automàtica, el reconeixement de patrons i l’aprenentatge automàtic (ML per les sigles en anglès) milloraran l’anàlisi de les dades de càmeres fotogràfiques, xarxes socials i altres fonts per fer prediccions sobre allà on poden sorgir problemes. La IA també es considera una arma potencialment potent per desemmascarar notícies falses.

Aquesta àrea d’aplicació planteja importants reptes. La ciutat d’Edimburg se centra en la seguretat i l’ètica tant estratègicament (Baillie Gifford s’ha compromès a donar 5 milions de lliures per finançar la recerca sobre els reptes ètics que suposa l’ús creixent de les dades i la IA) com a través de noves empreses emergents, com Ethical Intelligence, i del desenvolupament d’un mòdul segur de dades sobre salut a la Universitat d’Edimburg.

Medi ambient

El medi ambient és una àrea on la IA pot contribuir aprofitant l’Internet de les coses (IoT) per comprendre els patrons i les tendències. Aquest coneixement s’aplicarà posteriorment a noves polítiques o serveis públics. Edimburg ha fet servir el projecte NoiseAbility per demostrar l’impacte de les dades d’IoT per informar sobre la planificació de la mobilitat. La simulació de la qualitat de l’aire basada en models estadístics facilita les prediccions dels nivells de contaminació, els quals són la base del nou servei posat en funcionament a Barcelona per restringir la circulació dels cotxes particulars quan la contaminació de l’aire arribi al llindar que estableix l’Organització Mundial de la Salut.

Cultura

La IA aportarà nous formats de contingut cultural i nova vida al contingut antic. Mitjançant la tecnologia de processament de llenguatge natural (PLN), la Biblioteca de la Universitat de Gant ha convertit un milió de targetes escanejades en valuosos registres que es podrien afegir a la base de dades principal de la biblioteca. D’aquesta manera, han tornat a posar a disposició dels usuaris els llibres perduts. Els restauradors d’art que treballen a la catedral de Gant es beneficien dels algoritmes de la xarxa neuronal profunda aplicats a les imatges de rajos X de l’antic retaule.

La intel·ligència artificial pot ajudar a gestionar el turisme. Barcelona ha analitzat CDR per obtenir una imatge més propera de l’origen i el comportament dels turistes a les regions catalanes més visitades. Els resultats es faran servir per planificar una millor experiència turística i minimitzar els aspectes negatius. Per garantir la qualitat dels apartaments turístics, Barcelona ha provat una solució d’IA per identificar automàticament lloguers turístics sense llicència.

El gran projecte de turisme i dades massives de Bordeus reuneix actors privats i públics per monitorar el comportament dels turistes i oferir informació sobre les tendències turístiques a la ciutat i als governs regionals. Mitjançat l’anàlisi de les dades de mitjans socials, es revelen les àrees de més interès, l’activitat cultural i nocturna s’adapta als interessos i necessitats dels turistes i s’avalua l’impacte de les polítiques públiques i les inversions en cultura, turisme i internacionalització.

Atenció social i col·lectius desfavorits

La IA crea noves oportunitats per combatre millor la pobresa urbana i prestar atenció social. Al Regne Unit, el Departament de Treball i Pensions fa servir la IA per processar de manera més eficient la correspondència entrant. L’àrea de Drets Socials de Barcelona aplica l’ML als registres de serveis socials, incloent-hi les transcripcions d’entrevistes als ciutadans, les demandes específiques, la identificació de problemes, el diagnòstic, les prescripcions i els ajuts concedits, i proposa un diagnòstic amb les solucions més adequades a les necessitats ciutadanes, redueix el temps de resposta, millora la precisió del diagnòstic i homogeneïtza les respostes.

El simulador d’ajuts (socials) de Barcelona és un servei públic en línia dissenyat per reduir la “no percepció” d’ajuts socials. Utilitza algoritmes per analitzar la situació econòmica i social del ciutadà i recomana ajuts socials. També informa de l’impacte econòmic i de la informació que cal sol·licitar. El servei fa servir una base de 16 ajuts municipals i regionals i recopila informació i recomanacions dels usuaris per millorar les polítiques de benestar social.

Finalment, la creació d’un llac de dades sobre pobresa urbana permetrà identificar casos de pobresa a Barcelona i ajudarà a combatre’ls. Inclou informació de registres municipals, intercanvis amb altres administracions públiques i actuacions del tercer sector i ofereix una visió de 360 graus dels ciutadans en risc d’exclusió social. Els futurs desenvolupaments basats principalment en l’ML i l’aprenentatge profund (DL per les sigles en anglès) proporcionaran informació valuosa per perfeccionar les polítiques i definir actuacions específiques.

Atenció i participació ciutadanes

La IA té un paper clar en els centres de contacte de les ciutats. A Singapur, el govern fa servir la IA per respondre a les preguntes dels ciutadans, mentre que a Enfield (Regne Unit) utilitzen un bot de conversa per parlar amb els ciutadans. Dins del projecte ParkLife, Edimburg ha instal·lat un bot de conversa com a part d’un tauler d’anuncis físic/digital on la gent es pot implicar amb el projecte, esbrinar quines dades es recopilen i veure informes en temps real sobre els parcs. A la ciutat de Gant, CityNet permet la cerca ràpida a través de documents i reglaments aplicant la comprensió del llenguatge natural a les dades i als reglaments de l’ajuntament. Els ciutadans poden sol·licitar informació en diferents idiomes a través d’un escriptori electrònic intel·ligent o un bot de conversa totalment automatitzat. CityNet millora l’eficiència de la prestació de serveis als ciutadans alhora que compleix les polítiques de dades obertes.

A més, la IA pot ser una eina per millorar la participació ciutadana i permetre una democràcia més directa: els grups que d’altra manera no tenen veu a la societat poden unir-se i organitzar-se. Els programes d’IA poden ajudar a determinar l’agenda mostrant les conseqüències de les decisions, per exemple, quan s’implementen sensors en telèfons intel·ligents per monitorar temes ambientals.

El Departament de Salut i Serveis Humans dels Estats Units ha provat amb èxit la IA per processar milers de comentaris públics sobre propostes normatives. NoiseTube és un projecte de recerca participativa on s’ha mesurat el so a través de telèfons intel·ligents i s’ha mapat la contaminació acústica a Anvers (Bèlgica) [9]9 — SONY COMPUTER SCIENCE LABORATORY PARIS & SOFTWARE LANGUAGES LAB (2018). Accessed the 20th November 2018 via http://www.noisetube.net/index.html#&panel1-1. . Saragossa ha presentat el projecte Periscope per fer que les dades ciutadanes que contenen les pautes i els patrons que defineixen la vida urbana (com es mouen, interactuen, utilitzen els serveis i gaudeixen de la ciutat les persones) siguin més comprensibles i útils per als ciutadans. Els resultats tenen un poderós efecte en les noves polítiques de mobilitat i ofereixen eines valuoses per comunicar-se directament tant amb els ciutadans com amb les parts interessades locals.

Reptes per a les ciutats en l’aplicació de la IA

L’adopció de la IA representa un munt de noves oportunitats per als governs. Pot ajudar a posar les persones en el centre dels serveis del govern electrònic, augmentar la velocitat i la qualitat dels serveis i optimitzar els processos alliberant el personal de tasques repetitives. La IA és la clau per alliberar el valor ocult en el desenvolupament de la ciutat intel·ligent en general i serà interessant en el context del desenvolupament d’un govern cognitiu.

L’adopció de la IA per part del sector privat mostra diverses solucions, algunes d’elles amb resultats sorprenentment bons. No obstant això, les solucions encara no es desenvolupen tenint en compte les ciutats i el govern; la complexitat de les necessitats urbanes exigeix quelcom més que centrar-se només en els beneficis econòmics. A més de la dimensió social, també és important la personal. Cal confiar en els sistemes basats en la IA en els àmbits públics i privats i dissenyar-los de manera respectuosa amb la privacitat i l’ètica i sobre la base de criteris de verificació transparents.

Malgrat el potencial de la IA, hi ha moltes inquietuds. Quins són els límits, els riscs, les limitacions i els problemes d’un ús prematur o incorrecte? Quines accions s’han de fer per garantir que la IA es faci servir d’una manera segura i fiable? Quin ús de la IA per part de tot el sector públic pot proporcionar un resultat sostenible i desitjat per a tothom? Aquests reptes són una oportunitat perquè els ciutadans i els governs participin en la definició de com s’ha d’aplicar la IA i en el desenvolupament de noves solucions i serveis.

Reinvenció de llocs de treball, aptituds

A vegades, l’entusiasme actual per la intel·ligència artificial ens fa creure que ja no necessitem la intel·ligència humana [10]10 — KLETZER, L.G. (2018). Economy. The question with AI isn’t whether we’ll lose our jobs – it’s how much we’ll get paid. Harvard Business Review. January-February 2018, 63-66. . No obstant això, l’experiència humana continua sent més potent que la IA en molts àmbits, com ara la creativitat, les relacions interpersonals, la cura, el pensament estratègic, el lideratge d’empleats, les habilitats emocionals i la complexitat.

La tecnologia assumeix tasques, però no pot substituir les persones. McKinsey [11]11 — KLEBER, S. (2018). Data. As AI meets the reputation economy, we’re all being silently judged. Harvard Business Review. January-February 2018, 56-59. creu que la meitat de totes les activitats professionals es poden automatitzar. No obstant això, la IA s’utilitzarà principalment per millorar el treball humà automatitzant algunes tasques, alhora que en crearà de noves que requeriran altres aptituds i generaran noves oportunitats laborals en l’anàlisi de dades, l’experiència del client, els supervisors en línia i nous tipus d’operadors de vehicles.

Els governs s’han d’anticipar en matèria d’educació i formació per preparar els ciutadans i els empleats per a nous rols i aptituds relacionats amb la IA i útils per als nous llocs de treball. A més, la IA ofereix una oportunitat per definir de nou els serveis públics que s’ofereixen i augmentar-los, i els governs l’han d’aprofitar.

Ús indegut i no autoritzat

Els algorismes i els sistemes de decisió omniscients no són neutres [12]. Què passa si els algoritmes assignen una puntuació a un individu a partir de diferents tipus de dades i fórmules i, per tant, determinen el valor d’una persona en la societat, l’accés als serveis i l’ocupabilitat, com ho fa la puntuació social nacional per als ciutadans que la Xina vol introduir el 2020? Fer el seguiment de tots els moviments digitals pot conduir a una societat amb greus pressions socials, una poderosa i subtil forma de control. Això pot provocar una cultura d’autocensura on les persones (voluntàriament) adaptin el seu comportament per ajustar-se, per por que el monitoratge del comportament pugui influir en la seva reputació o en les seves possibilitats de trobar feina, béns o serveis. En casos extrems, això pot provocar l’extinció de la creativitat i dur a una societat on la llibertat d’expressió estigui en perill.

Fiabilitat, seguretat, homologació i qualitat

Els sistemes d’IA haurien de sotmetre’s a proves rigoroses per comprovar-ne la fiabilitat i la seguretat. Hi ha diferències significatives entre un conjunt de dades de proves d’IA i el seu desplegament en el món real. Les aplicacions d’IA poden potenciar o amagar el biaix intrínsec o basat en dades. No tenen consciència, reflecteixen els prejudicis i les opinions humanes i repeteixen i perpetuen dades incorrectes, la qual cosa provoca interpretacions errònies i errors. La policia predictiva condueix a l’estigmatització, la discriminació, la desconfiança en la policia i té un efecte que es retroalimenta [13]13 — Vegeu: SCHRAGE, M. (2018). Productivity. Is ‘murder by machine learning’ the new ‘death by powerpoint’? Harvard Business Review. January-February 2018, 40-44. KLEBER, S. (2018). Data. As AI meets the reputation economy, we’re all being silently judged. Harvard Business Review. January-February 2018, 56-59. STEELS, L., (ed.), (2017). Artificiële intelligentie. Naar een vierde industriële revolutie? [electronic version]. KVAB Standpunt 53. . Les autoritats governamentals utilitzen diverses fonts de dades internes i externes. La decisió d’un govern afecta la decisió d’un altre. Si quelcom va malament, és difícil que el ciutadà corregeixi els errors que se’n deriven [14]14 — VAN ECK, M. (2018). Geautomatiseerde ketenbesluiten & rechtsbescherming: Een onderzoek naar de praktijk van geautomatiseerde ketenbesluiten over een financieel belang in relatie tot rechtsbescherming. Accessed the 14th August 2018. .

Les ciutats han de desenvolupar procediments de verificació i validació per a la intel·ligència artificial basada en dades i per als sistemes d’IA que requereixen integració humana. Cal integrar mètodes de seguretat enfront d’amenaces com els atacs de pirateria informàtica o l’aprenentatge antagònic. A més, cal una xarxa d’agències (o una agència central europea) que validi les sol·licituds. El Parlament Europeu ha aprovat un pla per a una agència de robòtica i IA que podria assumir aquesta tasca.

Interpretabilitat

Els governs fan servir la tecnologia d’IA per donar suport o prendre decisions; per exemple, decisions automatitzades en el càlcul de la liquidació de l’impost sobre la renda. Les decisions automatitzades tenen avantatges: les dades es recullen minuciosament, els ciutadans coneixen per endavant de quina informació ja disposa el govern, la qual cosa beneficia la transparència, i l’ordinador tracta tots els casos per igual. Però hi ha inconvenients. Els ciutadans desconeixen les regles i els algoritmes de decisió. No hi ha cap autoritat independent que comprovi l’exactitud de les instruccions. Quan es recorre (una decisió), el jutge no pot comprovar si el govern ha interpretat la llei correctament. Els supòsits que han efectuat els programadors romanen invisibles [15]15 — Íbidem. .

Els ciutadans tenen dret a la informació. Els governs municipals han de ser oberts i transparents. Com que els sistemes d’IA prenen més decisions, qui ho vulgui entendre ha de ser capaç d’interpretar i entendre per què s’ha pres la decisió d’impugnar la decisió [16]16 — DOSHI-VELEZ, F. & KORTZ, M. (2017). Accountability of AI under the law: the role of explanation. Berkman Klein Center Working Group on Explanation and the Law, Berkman Klein Center for Internet & Society working paper. (Accessed the 2nd October 2018). . La majoria dels sistemes actuals d’IA basats en dades no ho poden fer. Necessitem una IA accessible que aclareixi el seu comportament [17]17 — BIRAN, O & COTTON, C. (2017). Explanation and Justification in Machine Learning: A Survey. Proc. IJCAI 2017 Workshop on Explainable Artificial Intelligence (XAI) (pp. 8-13). (Accessed the 18th October 2018) . A més, cal una autoritat de supervisió per a aquells ciutadans que tenen problemes amb les decisions informàtiques i que les instruccions de l’ordinador siguin públiques i accessibles de manera comprensible tant per als jutges com per a les persones sense coneixements de programació.

Transparència

Hi ha inquietud envers els bots de conversa d’IA destinats a manipular l’opinió política, proporcionant desinformació, extorsió o altres formes de comportament perilloses per a la persona i que poden desestabilitzar la societat. Aquests bots de conversa enganyen els usuaris, fingeixen ser humans i no exposen la seva identitat [18]18 — STEELS, L., (ed.), (2017). Artificiële intelligentie. Naar een vierde industriële revolutie? [electronic version]. KVAB Standpunt 53. . Els algoritmes ja determinen la nostra vida sobre manera. Com compila Apple les vostres notícies? Com sap Amazon què voleu comprar? Qui dissenya les normes i com funcionen? S’hauria d’obrir la caixa negra perquè els ciutadans en puguin veure l’interior. Les ciutats han de deixar clar quan una interacció prové d’un ésser humà o d’un sistema d’IA i, si es tracta d’un sistema artificial, garantir que els que en són responsables es poden seguir i identificar.

El xoc de diferents cultures i valors ètics

Els sistemes d’intel·ligència artificial tenen en els seus algoritmes una traducció d’un punt de vista humà. El desenvolupament de solucions d’IA no s’hauria de confiar només als experts tecnològics i s’hauria de basar també en principis ètics i valors socials. La Comissió Europea entén que aquest és l’enfocament correcte. De totes maneres, no es tracta d’un exercici descendent, sinó d’un exercici social. Els ciutadans i els governs han de dialogar sobre la relació que volem tenir amb la IA. Quin paper volem que exerceixin les solucions d’IA?

Responsabilitat

En els sistemes físics, com ara un cotxe de conducció automàtica, la IA té la capacitat de prendre decisions i convertir-les en accions en el món real. Això planteja preguntes sobre la seguretat i qui n’és el responsable [19]19 — TANGHE, J. en DE BRUYNE, J. (2017). Aansprakelijkheid voor schade veroorzaakt door autonome motorvoertuigen. Rechtskundig Weekblad (25). pp. 916-986. . Fins a quin punt aquests sistemes poden arribar a ser perillosos i superar les persones? Calen normes d’autonomia clares perquè els desenvolupadors puguin integrar-les en els seus sistemes des de la fase de disseny. D’aquesta manera, si hi ha un error, es podrà determinar qui n’és el responsable.

Entusiasme per les dades

L’aprenentatge automàtic es basa principalment en estadístiques, les quals són una simplificació del món real. Com fan front aquests sistemes a l’ambigüitat i als matisos? L’ús de sistemes d’IA ha de tenir en compte la diversitat social, cultural i econòmica i garantir que els algoritmes no tinguin biaixos il·legals o no ètics.

Les dades poden ser el nou terreny on l’anàlisi i la presa de decisions capacitin els ciutadans i en millorin la vida. Per tant, la quantitat i la qualitat de les dades són molt importants. Sense dades, els governs no poden gestionar el bé públic, no poden servir els ciutadans. Com si fossin l’or de l’època actual, les dades són recopilades per empreses privades, les quals en són les propietàries i les fan servir per obtenir un avantatge competitiu. És la privatització d’un bé públic. Moltes persones creuen que aquesta realitat és l’única possible, però hi ha alternatives.

En últim terme, s’ha de garantir la privacitat de les dades personals durant tot el cicle d’ús dels sistemes basats en IA.

Drets dels ciutadans, estat de dret i qüestions morals

La majoria de les aplicacions d’IA tenen un risc baix perquè l’usuari pot detectar fàcilment els errors i corregir-los, per exemple, en el cas d’assistents personals com Siri i Alexa. Altres aplicacions d’IA suposen un risc elevat. Els errors de percepció, raonament i execució poden posar en risc la vida humana, com ara en el cas de la robòtica en tècniques quirúrgiques. S’ha observat que la negociació automatitzada provoca una inestabilitat del mercat [20]20 — KIRILENKO, A. et al. (2017). The flash crash: high-frequency trading in an electronic market. The Journal of Finance, 72(3):967-998. . I què passa amb les interrupcions en les infraestructures causades per fallades dels sistemes d’IA? Permetem que sistemes autònoms d’IA dirigeixin operacions de guerra? Què és correcte, què no ho és?

L’experiment Moral Machine ha examinat les expectatives socials sobre els principis ètics que guien els vehicles autònoms entre persones de 233 països. Sembla que no hi ha una opció universal moralment superior: les preferències canvien en funció del país i la cultura [21]21 — AWAD, E. et al. (2018). The moral machine experiment. Nature, 563, 59-64 [electronic version]. (Accessed the 4th January 2019) . No hi ha cap decisió ètica “correcta”. Com han de tractar la societat i les ciutats aquestes màquines (i els seus errors), les preguntes ètiques i les decisions difícils? Podem acceptar que el resultat d’una funció matemàtica abstracta influeixi en la vida humana?

Els sistemes d’IA també comporten riscs per als drets humans fonamentals. S’hi inclouen el dret a la vida (mitjançant armes d’IA), el dret a la privacitat i la protecció de dades (per exemple, amb l’elaboració de perfils mitjançant la IA), la llibertat d’expressió, la igualtat d’oportunitats, la prohibició de la discriminació i les condicions de treball de qualitat. Els codis professionals de les ciències informàtiques i la IA exigeixen el respecte dels drets humans, en adonar-se que aquests drets també poden entrar en conflicte [22]22 — STEELS, L., (ed.), (2017). Artificiële intelligentie. Naar een vierde industriële revolutie? [electronic version]. KVAB Standpunt 53. .

La tecnologia intel·ligent esdevé imprescindible i s’endinsa en moltes facetes de l’espai públic i la ciutadania. Quin és l’efecte a llarg termini sobre la societat si un govern té més confiança en les anàlisis i els algorismes de dades massives que en els seus propis ciutadans?

Marcs normatius i codis de conducta

S’estan desenvolupant marcs normatius i codis de conducta. Amb el Reglament General de Protecció de Dades (RGPD) del maig de 2018, Europa ha fet un pas per oferir assessorament legal en l’ús de sistemes d’IA. L’RGPD limita l’ús de les dades i el regula, busca que l’usuari recuperi el control de les seves dades personals i dona als ciutadans drets en la presa de decisions individualitzada i automatitzada [23]23 — Vegeu: STEELS, L., (ed.), (2017). Artificiële intelligentie. Naar een vierde industriële revolutie? [electronic version]. KVAB Standpunt 53. KLEBER, S. (2018). Data. As AI meets the reputation economy, we’re all being silently judged. Harvard Business Review. January-February 2018, 56-59. . També s’adreça explícitament a les sol·licituds d’explicació. El mandat per al dret a una explicació segueix sent objecte de debat [24]24 — Vegeu: WACHTER, S., MITTELSTADT, B. & FLORIDI, L. (2016). Why a right to explanation of automated decision-making does not exist in the general data protection regulation. International Data Privacy Law, 2017, Vol. 0, No. 0, 1-24. SELBST, A.D. & POWLES, J. (2017). Meaningful information and the right to explanation. International Data Privacy Law, 7(4). .

Per garantir que la IA s’enfoca de manera ètica, la UE ha creat el Grup d’Experts d’Alt Nivell sobre Intel·ligència Artificial (AI HLEG) i ha publicat directrius perquè les empreses i els governs desenvolupin aplicacions d’IA de manera ètica, per protegir els principis ètics i democràtics que han de garantir l’aplicació dels drets i les llibertats individuals dels ciutadans de la UE [25]25 — EUROPEAN COMMISSION AI HLEG (2019). “Ethics Guidelines for Trustworthy AI”. High-Level Expert Group on Artificial Intelligence. 2019 . Aquestes directrius s’han concebut perquè la IA es desenvolupi com una eina de confiança centrada en les persones. No són obligatòries, però poden donar forma a la futura legislació de la UE sobre una IA ètica.

La UE també ha creat l’Aliança Europea en Intel·ligència Artificial, una fàbrica d’idees i organisme consultiu on es reuneixen experts en IA de diverses disciplines per debatre [26]26 — EUROPEAN COMMISSION (2019). Accessed in 20th April 2019 via https://ec.europa.eu/knowledge4policy/european-ai-alliance_en. . Des de la mateixa disciplina, hi ha codis de conducta com la Declaració de Barcelona per a un desenvolupament i ús adequats de la intel·ligència artificial [27]27 — LOPEZ DE MANTARAS, R. & STEELS, L. (2018). The Barcelona Declaration fort he Proper Development and Usage of Artificial Intelligence in Europe. AI Communications, 31(6334) (October 2018):1-10. .

Recomanacions: com poden preparar-se les ciutats?

La CE està treballant a favor de “plataformes obertes” i “espais comuns de dades” perquè la IA estigui disponible a tota la UE en les plataformes d’innovació digital. També proporciona instal·lacions de prova i coneixements a petites empreses i innovadors locals. El programa de la CE preveu línies d’acció dirigides a reforçar les capacitats informàtiques d’alt rendiment i processament de dades de la UE i garantir-ne un ús general, augmentar les oportunitats per a estudiants i experts en tecnologia de formar-se en tecnologies digitals avançades, ajudar a desenvolupar xarxes digitals d’alta capacitat, donar suport a la millora de la qualificació del personal i garantir que els estats membres puguin confiar en infraestructures més segures.

Les ciutats han d’augmentar el ritme en l’àrea de la IA. Han de reconèixer que la IA pot canviar fonamentalment la ciutat i demostrar el seu compromís per afrontar aquest repte. Què poden fer les ciutats per aprofitar els avantatges que ofereixen les tecnologies d’IA als ciutadans i al govern municipal?

Motors: es tracta de persones, no de tecnologia

Les ciutats poden fer servir dos motors importants per posar en funcionament la IA: l’augment del potencial de creixement de la IA (innovació impulsada per la IA com a nova font de productivitat i una millor manera d’aconseguir el bé públic) i la capacitat d’estalviar costos.

A més, hi ha una qüestió força filosòfica: les ciutats volen fer servir la IA per “manar i controlar” els seus ciutadans? O volen desplegar la IA per augmentar l’atenció sanitària, la comoditat i el confort dels seus ciutadans i la qualitat de vida a la ciutat? Proposem que les ciutats se centrin en això últim.

Els ciutadans associen la ciutat intel·ligent a la tecnologia, l’eficiència i la millora de la seva qualitat de vida centrant-se en els problemes actuals: una ciutat humana amb tecnologia centrada en els ciutadans [28]28 — IMEC SMIT-VUB EN IMEC LIVINGLABS (2019). Smart City Meter 2018. Onderzoek naar de perceptie en ervaring van burgers met betrekking tot Smart City en Smart City services [Electronic version]. (Accessed the 18th February 2019) . D’aquesta manera, la ciutat actua com un veritable soci del ciutadà, disposada a reforçar la qualitat de vida urbana i l’entorn vital amb diàleg i cocreació. Així, cada ciutadà i cada visitant pot créixer en un entorn agradable i orientat a les persones. Els temes de seguretat, medi ambient i mobilitat són possibilitats que inclouen ubicacions d’obres viàries, informació del trànsit en temps real, posicions del transport públic, semàfors intel·ligents, multituds en comerços (carrers), nivells de soroll, nombre de ciclistes a la ciutat o qualitat de l’aire [29]29 — Íbidem. .

Les dades com a motor de la IA

Les dades qualitatives són el motor de la IA i un factor fonamental d’èxit en la seva adopció. Tot i això, de moment són poques les ciutats que han aconseguit mapar els fluxos de dades i analitzar-los.

Les ciutats han de desenvolupar la seva maduresa digital, adoptar una mentalitat analítica basada en dades i adquirir competències en l’excel·lència de dades. Han de dividir les dades (fluxos) en components petits (per exemple, mitjançant la gestió de processos de negoci) i mapar-les en una arquitectura de dades robusta i subjacent. A més, els seus processos de dades s’han d’escalar i han de pensar quines dades (addicionals) són útils per automatitzar els serveis i optimitzar-los de forma intel·ligent.

La seguretat de la informació, les proves de penetració i la intercanviabilitat del format són qüestions que les ciutats han d’abordar. En molts casos, la manca d’una arquitectura general de dades que permeti l’accessibilitat de les dades a diferents nivells (governamentals) és un gran problema organitzatiu que cal atendre en primer lloc.

Pugeu a la muntanya russa, ja ha sortit

Representants de la ciutat, heu d’acceptar aquest repte. Coneixeu la IA i enteneu-la, experimenteu-hi. Inviteu pioners en IA perquè us ajudin, visiteu altres projectes urbans d’IA o projectes d’actors que lideren la nova onada d’IA: sectors com les empreses d’alta tecnologia, telecomunicacions i finances.

Les ciutats són ideals per configurar-hi experiments i projectes pilot. Poden treballar amb laboratoris vius en un espai que permet aprendre sobre els nous models d’IA, adquirir experiència i desenvolupar coneixements d’IA. Per això, les ciutats farien bé de col·laborar amb actors i socis innovadors. Recomanem treballar amb un enfocament diversificat: una combinació de punts de partida que podrien transformar l’organització i de petits projectes d’IA que assoleixin resultats ràpidament. A l’hora d’escollir un projecte d’IA, la ciutat ha de disposar de dades amb una qualitat raonable, el projecte ha d’afegir valor al món real, el pilot ha de ser factible i el projecte ha de ser escalable.

Un enfocament ben sospesat del projecte

Quan es configura un projecte d’IA, les ciutats han de pensar curosament l’enfocament del projecte. Henke, Levine i McInerney [30]30 — HENKE, N., LEVINE, J & MCINERNEY,P, (2018). Analytics. You don’t have to be a data scientist to fill this must-have analytics role. Harvard Business Review. January-February 2018, 67-71. proporcionen un pla pas a pas per implementar la IA:

  1. Identificar casos de negoci i prioritzar-los.
  2. Recollir les dades que es necessiten com a entrada i preparar-les.
  3. Crear el motor analític.
  4. Validar la validació de la IA i derivar les implicacions per al negoci.
  5. Implementar l’aplicació.

Davenport & Davenport i Morse [31]31 — DAVENPORT, T. & MORSE, G, (2018). Webinar summary. Artificial intelligence for the real world. Harvard Business Review. January-February 2018, 75-83. recomanen un marc de quatre passos basat en:

  1. Entendre la tecnologia.
  2. Identificar una cartera de projectes.
  3. Llançar projectes pilot i crear un centre cognitiu d’excel·lència.
  4. Escalar la IA i integrar-la en els processos i els sistemes existents.

Tot comença amb un bon cas de negoci que s’adapti a l’estratègia urbana. Els casos de negoci han de començar amb les necessitats del ciutadà o de l’empresa. Van Belleghem [32]32 — VAN BELLEGHEM, S., (2017). Customers the day after tomorrow. Lannoo Campus / Van Duuren Management, Leuven (Belgium) / XC Culemborg (The Netherlands). recomana començar amb les molèsties i les frustracions diàries que la ciutat provoca en els ciutadans. Sembla que els ciutadans estan disposats a abordar problemes de mobilitat, clima o medi ambient, atenció sanitària i projectes que minimitzen l’esforç dels ciutadans per a la màxima comoditat dels usuaris; de manera que hi ha potencial per a projectes d’IA.

A més, cal un equip multidisciplinari i “àgil”, on els tecnòlegs treballin estretament amb el negoci. N’haurien de formar part traductors, científics de dades, arquitectes d’informació, enginyers de dades, experts en visualització de dades i experts en el canvi.

El repte és crear una intel·ligència híbrida: emprar la potència de la màquina i l’experiència de l’home com una palanca per implementar amb èxit la IA. La capacitat d’aprenentatge d’una màquina és diferent de la d’una persona i, a més, una màquina no té empatia. Qualsevol projecte n’hauria de ser conscient i, per tant, hauria d’adoptar un enfocament que combini tots dos. La presa de decisions també requereix una avaluació: determinar el significat d’una acció específica en un entorn específic. Per això, la IA i l’avaluació humana haurien de ser complementàries.

Associacions i ecosistemes

Recomanem que les ciutats uneixin forces i constitueixin associacions per desplegar amb èxit la IA i accedir a un ecosistema d’IA més ampli, com és el cas d’un centre cognitiu d’excel·lència.

Per associar-se, una ciutat pot triar entre diverses opcions: col·laborar amb empreses emergents d’IA o empreses líders en IA, universitats, possibles competidors (en aquest cas, altres ciutats), proveïdors existents i col·laborar en la interacció de diverses indústries. També és possible la cocreació o un grup de consulta amb emprenedors locals, ciutadans compromesos i especialitzats. Vegeu l’exemple del Centre Industrial per a la Recerca en Intel·ligència Artificial en Diagnòstic Digital (iCAIRD) d’Escòcia, amb plataformes a Glasgow, Aberdeen, Saint Andrews, Edimburg i Dundee. És una col·laboració entre socis industrials, acadèmics, sanitaris i prestadors d’assistència social per superar les barreres en la comercialització i l’adopció de la IA en la salut i l’assistència social.

Protecció dels drets i les llibertats dels ciutadans

Els ciutadans esperen que el govern i els municipis exerceixin un paper actiu en el debat sobre la ciutat intel·ligent. Una ciutat ha de tenir un paper pioner, facilitar i vetllar pels drets i les llibertats dels seus ciutadans [33]33 — IMEC SMIT-VUB EN IMEC LIVINGLABS (2019). Smart City Meter 2018. Onderzoek naar de perceptie en ervaring van burgers met betrekking tot Smart City en Smart City services [Electronic version]. (Accessed the 18th February 2019) .

Els ciutadans volen un impacte positiu dins d’una història inclusiva, respectant la privacitat. Volen compartir dades reals (ubicació, mitjans de transport, etc.) amb la ciutat per desenvolupar serveis intel·ligents. No estan tan a favor de compartir dades i emocions personals, ni de les càmeres que capten dades personals o les aplicacions amb funcions com el reconeixement facial [34]34 — Íbidem. .

Però es plantegen preguntes. Qui és el propietari de les dades que es recullen en el domini públic, per exemple, mitjançant càmeres? Permetem que les empreses privades utilitzin aquestes dades i, en cas afirmatiu, amb quina finalitat? Què pot significar la IA per a una ciutat: què permetem, on dibuixem la línia? Què passa amb els problemes socials i ètics quan el govern fa servir la IA? En relació amb això últim, els principis de legalitat, eficiència, proporcionalitat, honestedat i precaució són molt rellevants per protegir els ciutadans. El disseny basat en valors sembla interessant per dissenyar aplicacions d’IA [35]35 — STEELS, L., (ed.), (2017). Artificiële intelligentie. Naar een vierde industriële revolutie? [electronic version]. KVAB Standpunt 53. .

La intel·ligència artificial no és un subjecte agnòstic: desafia els drets humans fonamentals i els principis de la democràcia. Hi ha molts reptes al davant. El ciutadà es mereix una veu en el debat comunitari i la transparència: sobre el que passa a la seva ciutat i al seu entorn immediat, amb dades que, vulgui o no, ja s’han compartit.

Joan_Batlle_Montserrat

Joan Batlle-Montserrat

Joan Batlle-Montserrat és doctor en Ciències de la Informació per la Universitat de Barcelona i diplomat en Auditoria de les TIC per la Universitat Politècnica de Catalunya. Des del 1984, ha desenvolupat nombroses funcions dins les àrees tecnològiques a l’Ajuntament de Barcelona, com a Cap de Cooperació i Innovació Internacional i de Projectes Europeus a l’Institut Municipal d’Informàtica. Va participar en la creació del lloc web bcn.cat, l'any 1995, i en el desplegament d’un Sistema de Gestió de Continguts el 2002. Els seus àmbits d'especialització són l'autenticació, autorització i gestió de rol, la certificació digital i l'e-Democràcia. En aquest sentit, ha treballat per a l’adopció de l’Open Source Solutions, en la coordinació del Projecte HOPS sobre la web semàntica, el processament del llenguatge natural i la tecnologia de la veu. Actualment està involucrat en projectes d'Smart City i serveis d'Internet avançats, i és expert de la Comissió Europea en l'Internet de les coses (IoT).


Martine_Delannoy

Martine Delannoy

Martine Delannoy és graduada en Ciències Socials, especialitzada en Economia i Gestió Pública per la Universitat d’Ottawa. La seva recerca se centra en la combinació d'estratègies en el marc d'un pensament ampli i sistemàtic sobre e-Inclusió, ciutats intel·ligents, polítiques públiques, estratègia governamental i participació ciutadana. És la fundadora d’iniciatives com Cities of People i és directora de Prospectiva i Estratègia de Digipolis, una empresa pública de serveis i tecnologies de la informació de la ciutat de Gant (Bèlgica). Durant 10 anys, va participar al Knowledge Society Forum d'Eurocities i actualment hi coordina la taskforce de prospectiva.


Sally_Kerr

Sally Kerr

Sally Kerr és llicenciada amb honors en Belles Arts per la Universitat de Glasgow, tot i que ha dedicat el gruix de la seva carrera professional a la innovació digital i a les dades en el món públic. Ha treballat com a Enterprise Web Manager a l'Ajuntament d’Edimburg i actualment és consultora digital freelance. Ha desenvolupat projectes i serveis digitals en el camp de l’Open Data, l'Smart City i l’Internet de les coses (IoT), amb un enfocament centrat en la utilitat en l'àmbit dels governs municipals. Ha fundat EdinburghApps, el programa de desafiament cívic que fomenta l’ús de dades obertes i dóna suport a les noves empreses i pimes. També és cofundadora de l’Edinburgh Living Lab, un projecte conjunt entre la Universitat d'Edimburg i l'Ajuntament d'Edimburg, i diversos productes de codi obert i Open Data, com l’Edinburgh Outdoors i l’Edinburgh Collected. El 2019 GovTech la va incloure a la llista de les 30 líders femenines més influents en aquest camp.


Els_Van_Cleemput

Els Van Cleemput

Els Van Cleemput és gestora al municipi de Knesselare, a Bèlgica, on desenvolupa la gestió i el suport de polítiques del govern local. Afiliada a l'Escola de Gestió d'Anvers, ha treballat com a responsable de Comunicació de l’ajuntament de Gant. La seva vessant de recerca s’ha centrat en la intel·ligència artificial, concretament sobre quines són les condicions perquè un projecte d’IA tingui èxit en contactes amb clients de les autoritats locals. També col·labora amb la revista holandesa d’Informàtica AG Connect.