A escala mundial, la sensibilización en torno a la inteligencia artificial (IA) cada vez es mayor. Hace tiempo que Estados Unidos y Canadá son abanderados en el campo de la IA, aunque China ha desarrollado una megainiciativa para arrebatarles el liderazgo [1]1 — Véase: STEELS, L., (ed.), (2017). Artificiële intelligentie. Naar een vierde industriële revolutie? [electronic version]. KVAB Standpunt 53. JONCKHEERE, J. (2018). Artificiële intelligentie is hot. Received the 1st of October 2018 via www.chinasquare.be/artificiële-intelligentie-rijdt-op-de-tongen.   . En Europa, hace poco que las cosas se han empezado a mover. Varios países europeos han reconocido la importancia de la IA, lo cual los ha llevado a ponerse al día y desarrollar estrategias de IA. La Comisión Europea ha anunciado un plan para invertir 1.500 millones de euros hasta el 2020 para promover la investigación en IA y superar los 20.000 millones de euros invertidos en los próximos 10 años.

A pesar de la capacidad que tiene la IA de transformar la manera como vivimos, trabajamos, nos movemos y consumimos, sigue siendo desconcertante. En el 2018, el término IA fue el más popular en el campo del marketing [2]2 — Véase: ALEXANDER, S. (2018). “Artificial Intelligence – The 2018 Marketing Buzzword”. (accessed the 24th August 2019). SWC TECHNOLOGY PARTNERS (2017). “Behind the Buzzword: Artificial Intelligence”. (accessed 24th August 2019) y generó expectativas que prometían El Dorado en las empresas, similar al fenómeno de la ciudad inteligente de hace diez años. Sin embargo, un examen en detalle revela diferencias importantes. En primer lugar, IA es un término paraguas que engloba varias tecnologías [3]3 — DICKSON, B. (2019). https://bdtechtalks.com/2019/07/01/artificial-intelligence-buzzword/ (accessed 24th August 2019). . El ciclo de sobreexpectación de Gartner para tecnologías emergentes [4]4 — GARTNER GROUP (2018). “Hype Cycle for Emerging Technologies, 2018”. (accessed 6th Augut 2019) enumera un número importante de tecnologías y aplicaciones de IA. En segundo lugar, la IA, como catalizador, da sentido a tecnologías emergentes como la IoT (internet de las cosas), la 5G o la de datos masivos y desbloquea el potencial de transformación que tienen en conjunto. Por último, aunque la inteligencia artificial general (IAG) es al inicio del ciclo de innovación y la mayoría de las tecnologías y las aplicaciones relacionadas con la inteligencia artificial débil (IAD) están en el punto álgido de unas expectativas infladas, sólo se puede encontrar en dos tecnologías (las redes neuronales profundas y los asistentes virtuales), las cuales están cerca de alcanzar una amplia aplicabilidad en el mercado (entre 2 y 5 años).

Las primeras aplicaciones demuestran el potencial altamente transformador de la IA. Pero también plantean un número importante de retos relacionados con la ética, los derechos de los ciudadanos, la responsabilidad, etc., que hay que abordar con urgencia, antes de desplegarla más ampliamente en las ciudades.

La intel·ligència artificial no és un subjecte agnòstic: desafia els drets humans fonamentals i els principis de la democràcia. El ciutadà es mereix una veu en el debat comunitari; sobre el que passa a la seva ciutat i al seu entorn immediat

La IA ofrece beneficios importantes a la administración de las ciudades, las políticas públicas y la prestación de servicios públicos. ¿Sin embargo, está preparada para ofrecer valor real a los ciudadanos? ¿Cómo afectará a las ciudades y los ciudadanos? ¿En qué áreas puede ofrecer más valor la IA?

Este documento proporcionará una visión general realista de las expectativas de la IA y preguntará a las administraciones locales y a los ciudadanos que participen al definir dónde y cómo se tiene que aplicar la IA y cómo pueden ayudar a preparar el camino para que la administración de la ciudad adopte estas tecnologías emergentes. El documento explica cómo lo hacen las ciudades para introducir la IA en el gobierno y la administración municipal, se centra en los retos que tiene que afrontar la sociedad relacionados con la aplicación de la IA en las ciudades y ofrece una lista de recomendaciones para los profesionales municipales.

Zonas urbanas de impacto

La IA se presenta con unas credenciales impresionantes. Si nos centramos en los gobiernos municipales, promete hacer realidad un gobierno centrado en los ciudadanos y liberar el valor oculto aumentando la eficiencia y reduciendo los costes de las administraciones públicas. Una automatización progresiva de las tareas más simples del sector público proporcionaría un incremento no sólo de la productividad y el ahorro de costes, sino también de la satisfacción de los empleados. Eso puede llegar a los ciudadanos, los cuales mostrarán una satisfacción mayor hacia los gobiernos y los servicios que proporcionan. También puede ofrecer nuevos servicios a grupos que actualmente están desatendidos.

Según McKinsey [5]5 — MCKINSEY & COMPANY, (2017). Smartening up with Artificial intelligence (AI). What’s in it for Germany and its industrial sector? [electronic version]. McKinsey & Co. Inc. , la IA puede crear valor añadido transformando la manera en que las empresas proyectan o prevén la demanda, producen, promueven y proporcionan sus bienes o servicios. Eso se puede traducir directamente en procesos de la administración municipal para definir políticas públicas, como predecir la demanda de servicios, anticipar problemas urbanos y obtener un diagnóstico más exacto de los problemas de las personas, tomar decisiones, planificar, organizar y producir servicios públicos, comunicarse con los ciudadanos y las empresas y, en último lugar, prestar servicios públicos.

La IA permitirá a los políticos y a los gestores municipales comprender mejor las necesidades de la ciudad, tener un diagnóstico más preciso de los problemas de la ciudad y reunir pruebas para evaluar el impacto de las políticas públicas, lo cual permitirá avanzar hacia servicios públicos mejores y radicalmente innovadores. La forma de gobernar los entornos urbanos se transformará radicalmente.

Mientras tanto, a medida que la tecnología de la IA se vuelve más madura, más económica y más accesible, aparecen en la ciudad las aplicaciones impulsadas por la IA [6]6 — Véase: STEELS, L., (ed.), (2017). Artificiële intelligentie. Naar een vierde industriële revolutie? [electronic version]. KVAB Standpunt 53. POWER, B. (2018). Technology. How to get employees to stop worrying and love AI. Harvard Business Review. January-February 2018, 49-52. . Las primeras ciudades adoptantes preparan el camino para aplicar la IA creando lagos de datos y desarrollando proyectos de exploración o previendo la aplicación de la IA en ámbitos como el transporte, la atención sanitaria, la educación, la seguridad, la cultura y la asistencia a grupos desfavorecidos, donde los ciudadanos notarán con más fuerza el impacto de la IA [7]7 — GROSZ, B. (2016). Artificial Intelligence and Life in 2030. One Hundred Year Study on Artificial Intelligence. Report of the 2015 study panel. Stanford University. September 2016. . Aunque todavía hay pocas aplicaciones basadas en la IA, podemos dar algunos ejemplos.

Transporte y movilidad

La movilidad de las personas será una zona de impacto con la introducción de coches inteligentes, vehículos autónomos y sistemas de transporte inteligentes para mejorar la gestión del tráfico en las ciudades. También se incluye el transporte público. La Autoridad del Transporte Metropolitano de Barcelona (ATM) lidera un proyecto donde se han analizado millones de registros de datos de llamadas (CDR por las siglas en inglés), junto con datos procedentes del Instituto Nacional de Estadística, grandes operadores de transporte y autoridades de gestión vial, para obtener una matriz origen-destino más exacta.

La logística y el transporte de mercancías también se pueden beneficiar de sistemas de planificación habilitados para la logística, el envío autónomo y drones para hacer entregas a poca distancia. La posterior introducción de la IA en el transporte puede comportar menos contaminación y menos accidentes, una reducción del aparcamiento automovilístico y menos atascos.

Educación

La IA ayudará a proporcionar una mejor respuesta y sistemas de aprendizaje en línea más personalizados. Las grandes cantidades de datos sobre los patrones de aprendizaje de los estudiantes se podrían utilizar para mejorar los cursos [8]8 — STEELS, L., (ed.), (2015). Learning about music in the age of MOOCS. John Benjamins Pub. Amsterdam. .

La combinación de datos de la IA en los ámbitos de la educación y del mercado laboral puede ayudar a hacer que la educación y formación profesional (EFP) encaje mejor en la demanda del mercado laboral. El sistema de IA puede ayudar a los políticos a diseñar políticas activas que permitan crear puentes entre el sistema de EFP y la demanda de trabajo.

Protección y seguridad públicas

El reconocimiento facial, la traducción automática, el reconocimiento de patrones y el aprendizaje automático (ML por las siglas en inglés) mejorarán el análisis de los datos de cámaras fotográficas, redes sociales y otras fuentes para hacer predicciones sobre allí donde pueden surgir problemas. La IA también se considera un arma potencialmente potente para desenmascarar noticias falsas.

Esta área de aplicación plantea importantes retos. La ciudad de Edimburgo se centra en la seguridad y la ética tanto estratégicamente (Baillie Gifford se ha comprometido a dar 5 millones de libras para financiar la investigación sobre los retos éticos que supone el uso creciente de los datos y la IA) como a través de nuevas empresas emergentes, como Ethical Intelligence, y del desarrollo de un módulo seguro de datos sobre salud en la Universidad de Edimburgo.

Medio ambiente

El medio ambiente es un área donde la IA puede contribuir aprovechando la IoT para comprender los patrones y las tendencias. Este conocimiento se aplicará posteriormente a nuevas políticas o servicios públicos. Edimburgo ha utilizado el proyecto “NoiseAbility” para demostrar el impacto de los datos de IoT para informar sobre la planificación de la movilidad. La simulación de la calidad del aire basada en modelos estadísticos facilita las predicciones de los niveles de contaminación, los cuales son la base del nuevo servicio puesto en funcionamiento en Barcelona para restringir la circulación de los coches particulares cuando la contaminación del aire llegue al umbral que establece la Organización Mundial de la Salud.

Cultura

La IA aportará nuevos formatos de contenido cultural y nueva vida al contenido antiguo. Mediante la tecnología de procesamiento de lenguaje natural (PLN), la Biblioteca de la Universidad de Gante ha convertido un millón de tarjetas escaneadas en valiosos registros que se podrían añadir a la base de datos principal de la biblioteca. De esta manera, han vuelto a poner a disposición de los usuarios los libros perdidos. Los restauradores de arte que trabajan en la catedral de Gante se benefician de los algoritmos de la red neuronal profunda aplicados a las imégenes de rays X del antiguo retablo.

La IA puede ayudar a gestionar el turismo. Barcelona ha analizado CDR para obtener una imagen más próxima del origen y el comportamiento de los turistas a las regiones catalanas más visitadas. Los resultados se utilizarán para planificar una mejor experiencia turística y minimizar los aspectos negativos. Para garantizar la calidad de los apartamentos turísticos, Barcelona ha probado una solución de IA para identificar automáticamente alquileres turísticos sin licencia.

El gran proyecto de turismo y datos masivos de Burdeos reúne actores privados y públicos para monitorear el comportamiento de los turistas y ofrecer información sobre las tendencias turísticas en la ciudad y en los gobiernos regionales. Intercedido el análisis de los datos de medios sociales, se revelan las áreas de más interés, la actividad cultural y nocturna se adapta a los intereses y necesidades de los turistas y se evalúa el impacto de las políticas públicas y las inversiones en cultura, turismo e internacionalización.

Atención social y colectivos desfavorecidos

La IA crea nuevas oportunidades para combatir mejor la pobreza urbana y prestar atención social. En el Reino Unido, el Departamento de Trabajo y Pensiones utiliza la IA para procesar de manera más eficiente la correspondencia entrante. El área de Derechos Sociales de Barcelona aplica el ML en los registros de servicios sociales, incluyendo las transcripciones de entrevistas a los ciudadanos, las demandas específicas, la identificación de problemas, el diagnóstico, las prescripciones y las ayudas concedidas, y propone un diagnóstico con las soluciones más adecuadas a las necesidades ciudadanas, reduce el tiempo de respuesta, mejora la precisión del diagnóstico y homogeneiza las respuestas.

El simulador de ayudas (social) de Barcelona es un servicio público en línea diseñado para reducir la “no percepción” de ayudas sociales. Utiliza algoritmos para analizar la situación económica y social del ciudadano y recomienda ayudas sociales. También informa del impacto económico y de la información que hay que solicitar. El servicio utiliza una base de 16 ayudas municipales y regionales y recopila información y recomendaciones de los usuarios para mejorar las políticas de bienestar social.

Finalmente, la creación de un lago de datos sobre pobreza urbana permitirá identificar casos de pobreza en Barcelona y ayudará a combatirlos. Incluye información de registros municipales, intercambios con otras administraciones públicas y actuaciones del tercer sector y ofrece una visión de 360 grados de los ciudadanos en riesgo de exclusión social. Los futuros desarrollos basados principalmente en el ML y el aprendizaje profundo (LU por las siglas en inglés) proporcionarán información valiosa para perfeccionar las políticas y definir actuaciones específicas.

Atención y participación ciudadanas

La IA tiene un papel claro en los centros de contacto de las ciudades. En Singapur, el gobierno utiliza la IA para responder a las preguntas de los ciudadanos, mientras que en Enfield (Reino Unido) utilizan un bot de conversación para hablar con los ciudadanos. Dentro del proyecto ParkLife, Edimburgo ha instalado un bot de conversación como aparte de un tablón de anuncios físico/digital donde la gente se puede implicar con el proyecto, averiguar qué datos se recopilan y ver informes en tiempo real sobre los parques. En la ciudad de Gante, CityNet permite la búsqueda rápida a través de documentos y reglamentos aplicando la comprensión del lenguaje natural a los datos y a los reglamentos del ayuntamiento. Los ciudadanos pueden solicitar información en diferentes idiomas a través de un escritorio electrónico inteligente o un bot de conversación totalmente automatizado. CityNet mejora la eficiencia de la prestación de servicios a los ciudadanos a la vez que cumple las políticas de datos abiertos.

Además, la IA puede ser una herramienta para mejorar la participación ciudadana y permitir una democracia más directa: los grupos que de otra manera no tienen voz en la sociedad pueden unirse y organizarse. Los programas de IA pueden ayudar a determinar la agenda mostrando las consecuencias de las decisiones, por ejemplo, cuando se implementan sensores en teléfonos inteligentes para monitorear temas ambientales.

El Departamento de Salud y Servicios Humanos de los Estados Unidos ha probado con éxito la IA para procesar miles de comentarios públicos sobre propuestas normativas. NoiseTube es un proyecto de investigación participativa donde se ha medido el sonido a través de teléfonos inteligentes y se ha cartografiado la contaminación acústica en Amberes (Bélgica) [9]9 — SONY COMPUTER SCIENCE LABORATORY PARIS & SOFTWARE LANGUAGES LAB (2018). Accessed the 20th November 2018 via http://www.noisetube.net/index.html#&panel1-1. . Zaragoza ha presentado el proyecto Periscope para hacer que los datos ciudadanos que contienen las pautas y los patrones que definen la vida urbana (cómo se mueven, interactúan, utilizan los servicios y disfrutan de la ciudad las personas) sean más comprensibles y útiles para los ciudadanos. Los resultados tienen un poderoso efecto en las nuevas políticas de movilidad y ofrecen herramientas valiosas para comunicarse directamente tanto con los ciudadanos como con las partes interesadas locales.

Retos para las ciudades en la aplicación de la IA

La adopción de la IA representa un montón de nuevas oportunidades para los gobiernos. Puede ayudar a poner a las personas en el centro de los servicios del gobierno electrónico, aumentar la velocidad y la calidad de los servicios y optimizar los procesos liberando al personal de tareas repetitivas. La IA es la clave para liberar el valor oculto en el desarrollo de la ciudad inteligente en general y será interesante en el contexto del desarrollo de un gobierno cognitivo.

La adopción de la IA por parte del sector privado muestra varias soluciones, algunas de ellas con resultados sorprendentemente buenos. No obstante, las soluciones todavía no se desarrollan teniendo en cuenta las ciudades y el gobierno; la complejidad de las necesidades urbanas exige algo más que centrarse sólo en los beneficios económicos. Además de la dimensión social, también es importante la personal. Es necesario confiar en los sistemas basados en la IA en los ámbitos públicos y privados y diseñarlos de manera respetuosa con la privacidad y la ética y sobre la base de criterios de verificación transparentes.

A pesar del potencial de la IA, hay muchas inquietudes. ¿Cuáles son los límites, los riesgos, las limitaciones y los problemas de un uso prematuro o incorrecto? ¿Qué acciones se tienen que utilizar para garantizar que la IA se haga de una manera segura y fiable? ¿Qué uso de la IA por parte de todo el sector público puede proporcionar un resultado sostenible y deseado para todo el mundo? Estos retos son una oportunidad para que los ciudadanos y los gobiernos participen en la definición de cómo se tiene que aplicar la IA y en el desarrollo de nuevas soluciones y servicios.

Reinvención de puestos de trabajo, aptitudes

A veces, el entusiasmo actual por la IA nos hace creer que ya no necesitamos la inteligencia humana [10]10 — KLETZER, L.G. (2018). Economy. The question with AI isn’t whether we’ll lose our jobs – it’s how much we’ll get paid. Harvard Business Review. January-February 2018, 63-66. . No obstante, la experiencia humana sigue siendo más potente que la IA en muchos ámbitos, como la creatividad, las relaciones interpersonales, el cuidado, el pensamiento estratégico, el liderazgo de empleados, las habilidades emocionales y la complejidad.

La tecnología asume tareas, pero no puede sustituir a las personas. McKinsey [11]11 — KLEBER, S. (2018). Data. As AI meets the reputation economy, we’re all being silently judged. Harvard Business Review. January-February 2018, 56-59. cree que la mitad de todas las actividades profesionales se pueden automatizar. No obstante, la IA se utilizará principalmente para mejorar el trabajo humano automatizando algunas tareas, a la vez que creará nuevas que requerirán otras aptitudes y generarán nuevas oportunidades laborales en el análisis de datos, la experiencia del cliente, los supervisores en línea y nuevos tipos de operadores de vehículos.

Los gobiernos tienen que anticiparse en materia de educación y formación para preparar los ciudadanos y los empleados para nuevos roles y aptitudes relacionados con la IA y útiles para los nuevos puestos de trabajo. Además, la IA ofrece una oportunidad para definir de nuevo los servicios públicos que se ofrecen y aumentarlos, y los gobiernos lo tienen que aprovechar.

Uso indebido y no autorizado

Los algoritmos y los sistemas de decisión omniscientes no son neutros [12]. ¿Qué pasa si los algoritmos asignan una puntuación a un individuo a partir de diferentes tipos de datos y fórmulas y, por lo tanto, determinan el valor de una persona en la sociedad, el acceso a los servicios y la empleabilidad, como lo hace la puntuación social nacional para los ciudadanos que China quiere introducir en el 2020? Hacer el seguimiento de todos los movimientos digitales puede conducir a una sociedad con graves presiones sociales, una poderosa y sutil forma de control. Eso puede provocar una cultura de autocensura donde las personas (voluntariamente) adapten su comportamiento para ajustarse, por miedo que la monitorización del comportamiento pueda influir en su reputación o en sus posibilidades de encontrar trabajo, bienes o servicios. En casos extremos, eso puede provocar la extinción de la creatividad y duro a una sociedad donde la libertad de expresión esté en peligro.

Fiabilidad, seguridad, homologación y calidad

Los sistemas de IA tendrían que someterse a pruebas rigurosas para comprobar la fiabilidad y la seguridad. Hay diferencias significativas entre un conjunto de datos de pruebas de IA y su despliegue en el mundo real. Las aplicaciones de IA pueden potenciar o esconder el sesgo intrínseco o basado en datos. No tienen conciencia, reflejan los prejuicios y las opiniones humanas y repiten y perpetúan datos incorrectos, lo cual provoca interpretaciones erróneas y errores. La policía predictiva conduce a la estigmatización, la discriminación, la desconfianza en la policía y tiene un efecto que se retroalimenta [13]13 — Véase: SCHRAGE, M. (2018). Productivity. Is ‘murder by machine learning’ the new ‘death by powerpoint’? Harvard Business Review. January-February 2018, 40-44. KLEBER, S. (2018). Data. As AI meets the reputation economy, we’re all being silently judged. Harvard Business Review. January-February 2018, 56-59. STEELS, L., (ed.), (2017). Artificiële intelligentie. Naar een vierde industriële revolutie? [electronic version]. KVAB Standpunt 53. . Las autoridades gubernamentales utilizan varias fuentes de datos internas y externas. La decisión de un gobierno afecta a la decisión de otro. Si algo va mal, es difícil que el ciudadano corrija los errores que se derivan [14]14 — VAN ECK, M. (2018). Geautomatiseerde ketenbesluiten & rechtsbescherming: Een onderzoek naar de praktijk van geautomatiseerde ketenbesluiten over een financieel belang in relatie tot rechtsbescherming. Accessed the 14th August 2018. .

Las ciudades tienen que desarrollar procedimientos de verificación y validación para la IA basada en datos y para los sistemas de IA en que requieren integración humana. Hay que integrar métodos de Seguridad frente a amenazas como los ataques de piratería informática o el aprendizaje antagónico. Además, hace falta una red de agencias (o una agencia central europea) que valide las solicitudes. El Parlamento Europeo ha aprobado un plan para una agencia de robótica e IA que podría asumir esta tarea.

Interpretabilidad

Los gobiernos utilizan la tecnología de IA para dar apoyo o tomar decisiones (por ejemplo, decisiones automatizadas en el cálculo de la liquidación del impuesto sobre la renta). Las decisiones automatizadas tienen ventajas: los datos se recogen minuciosamente, los ciudadanos conocen de antemano de qué información ya dispone el gobierno, lo cual beneficia la transparencia, y el ordenador trata todos los casos por igual. Pero hay inconvenientes. Los ciudadanos desconocen las reglas y los algoritmos de decisión. No hay ninguna autoridad independiente que compruebe la exactitud de las instrucciones. Cuando se recorre (una decisión), el juez no puede comprobar si el gobierno ha interpretado la ley correctamente. Los supuestos que han efectuado los programadores permanecen invisibles [15]15 — Íbidem. .

Los ciudadanos tienen derecho a la información. Los gobiernos municipales tienen que ser abiertos y transparentes. Como los sistemas de IA toman más decisiones, quien lo quiera entender tiene que ser capaz de interpretar y entender por qué se ha tomado la decisión de impugnar la decisión [16]16 — DOSHI-VELEZ, F. & KORTZ, M. (2017). Accountability of AI under the law: the role of explanation. Berkman Klein Center Working Group on Explanation and the Law, Berkman Klein Center for Internet & Society working paper. (Accessed the 2nd October 2018). . La mayoría de los sistemas actuales de IA basados en datos no lo pueden hacer. Necesitamos una IA accesible que aclare su comportamiento [17]17 — BIRAN, O & COTTON, C. (2017). Explanation and Justification in Machine Learning: A Survey. Proc. IJCAI 2017 Workshop on Explainable Artificial Intelligence (XAI) (pp. 8-13). (Accessed the 18th October 2018) . Además, hace falta una autoridad de supervisión para aquellos ciudadanos que tienen problemas con las decisiones informáticas y que las instrucciones del ordenador sean públicas y accesibles de manera comprensible tanto para los jueces como para las personas sin conocimientos de programación.

Transparencia

Hay inquietud hacia los bots de conversación de IA destinados a manipular la opinión política, proporcionando desinformación, extorsión u otras formas de comportamiento peligrosas para la persona y que pueden desestabilizar a la sociedad. Estos bots de conversación engañan a los usuarios, fingen ser humanos y no exponen su identidad [18]18 — STEELS, L., (ed.), (2017). Artificiële intelligentie. Naar een vierde industriële revolutie? [electronic version]. KVAB Standpunt 53. . Los algoritmos ya determinan nuestra vida sobremanera. ¿Cómo compila Apple vuestras noticias? ¿Cómo sabe Amazon qué queréis comprar? ¿Quién diseña las normas y cómo funcionan? Se tendría que abrir la caja negra para que los ciudadanos puedan ver el interior. Las ciudades tienen que dejar claro cuando una interacción proviene de un ser humano o de un sistema de IA y, si se trata de un sistema artificial, garantizar que los que son responsables se pueden seguir e identificar.

El choque de diferentes culturas y valores éticos

Los sistemas de IA tienen en sus algoritmos una traducción de un punto de vista humano. El desarrollo de soluciones de IA no se tendría que confiar sólo a los expertos tecnológicos y se tendría que basar también en principios éticos y valores sociales. La Comisión Europea entiende que este es el enfoque correcto. De todos modos, no se trata de un ejercicio descendente, sino de un ejercicio social. Los ciudadanos y los gobiernos tienen que dialogar sobre la relación que queremos tener con la IA. ¿Qué papel queremos que ejerzan las soluciones de IA?

Responsabilidad

En los sistemas físicos, como un coche de conducción automática, la IA tiene la capacidad de tomar decisiones y convertirlas en acciones en el mundo real. Eso plantea preguntas sobre la seguridad y quienes es el responsable [19]19 — TANGHE, J. en DE BRUYNE, J. (2017). Aansprakelijkheid voor schade veroorzaakt door autonome motorvoertuigen. Rechtskundig Weekblad (25). pp. 916-986. . ¿Hasta qué punto estos sistemas pueden llegar a ser peligrosos y superar a las personas? Hacen falta normas de autonomía claras para que los desarrolladores puedan integrarlas en sus sistemas desde la fase de diseño. De esta manera, si hay un error, se podrá determinar quién es el responsable.

Entusiasmo por los datos

El aprendizaje automático se basa principalmente en estadísticas, que son una simplificación del mundo real. ¿Cómo hacen frente estos sistemas a la ambigüedad y a los matices? El uso de sistemas de IA tiene que tener en cuenta la diversidad social, cultural y económica y garantizar que los algoritmos no tengan sesgos ilegales o no éticos.

Los datos pueden ser el nuevo terreno donde el análisis y la toma de decisiones capaciten a los ciudadanos y mejoren la vida. Por lo tanto, la cantidad y la calidad de los datos son muy importantes. Sin datos, los gobiernos no pueden gestionar el bien público, no pueden servir a los ciudadanos. Como si fueran el oro de la época actual, los datos son recopilados por empresas privadas, las cuales son las propietarias y las utilizan para obtener una ventaja competitiva. Es la privatización de un bien público. Muchas personas creen que esta realidad es la única posible, pero hay alternativas.

En último término, se tiene que garantizar la privacidad de los datos personales durante todo el ciclo de uso de los sistemas basados en IA.

Derechos de los ciudadanos, estado de derecho y cuestiones morales

La mayoría de las aplicaciones de IA tienen un riesgo bajo porque el usuario puede detectar fácilmente los errores y corregirlos, por ejemplo, en el caso de asistentes personales como Siri y Alexa. Otras aplicaciones de IA implican un riesgo elevado. Los errores de percepción, razonamiento y ejecución pueden poner en riesgo la vida humana, como en el caso de la robótica en técnicas quirúrgicas. Se ha observado que la negociación automatizada provoca una inestabilidad del mercado [20]20 — KIRILENKO, A. et al. (2017). The flash crash: high-frequency trading in an electronic market. The Journal of Finance, 72(3):967-998. . ¿Y qué pasa con las interrupciones en las infraestructuras causadas por fallos de los sistemas de IA? ¿Permitimos que sistemas autónomos de IA dirijan operaciones de guerra? ¿Qué es correcto, qué no lo es?

El experimento Moral Machine ha examinado las expectativas sociales sobre los principios éticos que guían los vehículos autónomos entre personas de 233 países. Parece que no hay una opción universal moralmente superior: las preferencias cambian en función del país y la cultura [21]21 — AWAD, E. et al. (2018). The moral machine experiment. Nature, 563, 59-64 [electronic version]. (Accessed the 4th January 2019) . No hay ninguna decisión ética “correcta”. ¿Cómo tienen que tratar la sociedad y las ciudades estas máquinas (y sus errores), las preguntas éticas y las decisiones difíciles? ¿Podemos aceptar que el resultado de una función matemática abstracta influya en la vida humana?

Los sistemas de IA también comportan riesgos para los derechos humanos fundamentales. Se incluyen el derecho a la vida (mediante armas de IA), el derecho a la privacidad y la protección de datos (por ejemplo, con la elaboración de perfiles mediante la IA), la libertad de expresión, la igualdad de oportunidades, la prohibición de la discriminación y las condiciones de trabajo de calidad. Los códigos profesionales de las ciencias informáticas y la IA exigen el respeto de los derechos humanos, al darse cuenta de que estos derechos también pueden entrar en conflicto [22]22 — STEELS, L., (ed.), (2017). Artificiële intelligentie. Naar een vierde industriële revolutie? [electronic version]. KVAB Standpunt 53. .

La tecnología inteligente se vuelve imprescindible y se adentra en muchas facetas del espacio público y la ciudadanía. ¿Cuál es el efecto a largo plazo sobre la sociedad si un gobierno tiene más confianza en los análisis y los algoritmos de datos masivos que en sus propios ciudadanos?

Marcos normativos y códigos de conducta

Se están desarrollando marcos normativos y códigos de conducta. Con el Reglamento General de Protección de Datos (RGPD) (mayo de 2018), Europa ha dado un paso para ofrecer asesoramiento legal en el uso de sistemas de IA. El RGPD limita el uso de los datos y lo regula, quiere que el usuario recupere el control de sus datos personales y da a los ciudadanos derechos en la toma de decisiones individualizada y automatizada [23]23 — Véase: STEELS, L., (ed.), (2017). Artificiële intelligentie. Naar een vierde industriële revolutie? [electronic version]. KVAB Standpunt 53. KLEBER, S. (2018). Data. As AI meets the reputation economy, we’re all being silently judged. Harvard Business Review. January-February 2018, 56-59. . También se dirige explícitamente a las solicitudes de explicación. El mandato para el derecho a una explicación sigue siendo objeto de debate [24]24 — Véase: WACHTER, S., MITTELSTADT, B. & FLORIDI, L. (2016). Why a right to explanation of automated decision-making does not exist in the general data protection regulation. International Data Privacy Law, 2017, Vol. 0, No. 0, 1-24. SELBST, A.D. & POWLES, J. (2017). Meaningful information and the right to explanation. International Data Privacy Law, 7(4). .

Para garantizar que la IA se enfoca de manera ética, la UE ha creado el Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial (IA HLEG) y ha publicado directrices para que las empresas y los gobiernos desarrollen aplicaciones de IA de manera ética, para proteger los principios éticos y democráticos que tienen que garantizar la aplicación de los derechos y las libertades individuales de los ciudadanos de la UE [25]25 — EUROPEAN COMMISSION AI HLEG (2019). “Ethics Guidelines for Trustworthy AI”. High-Level Expert Group on Artificial Intelligence. 2019 . Estas directrices se han concebido para que la IA se desarrolle como una herramienta de confianza centrada en las personas. No son obligatorias, pero pueden dar forma a la futura legislación de la UE sobre una IA ética.

La UE también ha creado la Alianza Europea en Inteligencia Artificial, una fábrica de ideas y organismo consultivo donde se reúnen expertos en IA de varias disciplinas por debatir [26]26 — EUROPEAN COMMISSION (2019). Accessed in 20th April 2019 via https://ec.europa.eu/knowledge4policy/european-ai-alliance_en. . Desde la misma disciplina hay códigos de conducta, como la Declaración de Barcelona para un desarrollo y uso adecuados de la inteligencia artificial [27]27 — LOPEZ DE MANTARAS, R. & STEELS, L. (2018). The Barcelona Declaration fort he Proper Development and Usage of Artificial Intelligence in Europe. AI Communications, 31(6334) (October 2018):1-10. .

Recomendaciones: ¿cómo pueden prepararse las ciudades?

La CE está trabajando a favor de “plataformas abiertas” y “espacios comunes de datos” para que la IA esté disponible en toda la UE en las plataformas de innovación digital. También proporciona instalaciones de prueba y conocimientos a pequeñas empresas e innovadores locales. El programa de la CE prevé líneas de acción dirigidas a reforzar las capacidades informáticas de alto rendimiento y procesamiento de datos de la UE y garantizar un uso general, aumentar las oportunidades para estudiantes y expertos en tecnología de formarse en tecnologías digitales avanzadas, ayudar a desarrollar redes digitales de alta capacidad, dar apoyo a la mejora de la calificación del personal y garantizar que los estados miembros puedan confiar en infraestructuras más seguras.

Las ciudades tienen que aumentar el ritmo en el área de la IA. Tienen que reconocer que la IA puede cambiar fundamentalmente la ciudad y demostrar su compromiso para afrontar este reto. ¿Qué pueden hacer las ciudades para aprovechar las ventajas que ofrecen las tecnologías de IA a los ciudadanos y al gobierno municipal?

Motores: se trata de personas, no de tecnología

Las ciudades pueden utilizar dos motores importantes para poner en funcionamiento la IA: el aumento del potencial de crecimiento de la IA (innovación impulsada por la IA como nueva fuente de productividad y una mejor manera de conseguir el bien público) y la capacidad de ahorrar costes.

Además, hay una cuestión bastante filosófica: ¿las ciudades quieren utilizar la IA para “mandar y controlar” a sus ciudadanos? ¿O quieren desplegar la IA para aumentar la atención sanitaria, la comodidad y el confort de sus ciudadanos y la calidad de vida en la ciudad? Proponemos que las ciudades se centren en eso último.

Los ciudadanos asocian la ciudad inteligente a la tecnología, la eficiencia y la mejora de su calidad de vida centrándose en los problemas actuales: una ciudad humana con tecnología centrada en los ciudadanos [28]28 — IMEC SMIT-VUB EN IMEC LIVINGLABS (2019). Smart City Meter 2018. Onderzoek naar de perceptie en ervaring van burgers met betrekking tot Smart City en Smart City services [Electronic version]. (Accessed the 18th February 2019) . De esta manera, la ciudad actúa como un verdadero socio del ciudadano, dispuesta a reforzar la calidad de vida urbana y el entorno vital con diálogo y cocreación. Así, cada ciudadano y cada visitante puede crecer en un entorno agradable y orientado a las personas. Los temas de seguridad, medio ambiente y movilidad son posibilidades que incluyen ubicaciones de obras viales, información del tráfico en tiempo real, posiciones del transporte público, semáforos inteligentes, multitudes en comercios (calles), niveles de ruido, número de ciclistas en la ciudad o calidad del aire [29]29 — Íbidem. .

Los datos como motor de la IA

Los datos cualitativos son el motor de la IA y un factor fundamental de éxito en su adopción. Sin embargo, de momento son pocas las ciudades que han conseguido cartografiar los flujos de datos y analizarlos.

Las ciudades tienen que desarrollar su madurez digital, adoptar una mentalidad analítica basada en datos y adquirir competencias en la excelencia de datos. Tienen que dividir los datos (flujos) en componentes pequeños (por ejemplo, mediante la gestión de procesos de negocio) y cartografiarlos en una arquitectura de datos robusto y subyacente. Además, sus procesos de datos se tienen que escalar y tienen que pensar qué datos (adicionales) son útiles para automatizar los servicios y optimizarlos de forma inteligente.

La seguridad de la información, las pruebas de penetración y la intercambiabilidad del formato son cuestiones que las ciudades tienen que abordar. En muchos casos, la falta de una arquitectura general de datos que permita la accesibilidad de los datos a diferentes niveles (gubernamentales) es un gran problema organizativo que hay que atender en primer lugar.

Subid a la montaña rusa, ya ha salido

Representantes de la ciudad, tenéis que aceptar este reto. Conoced la IA y entendedla, experimentad. Invitad a pioneros en IA para que os ayuden, visitad otros proyectos urbanos d’IA o proyectos de actores que lideran la nueva oleada de IA: sectores como las empresas de alta tecnología, telecomunicaciones y finanzas.

Las ciudades son ideales para configurar experimentos y proyectos piloto. Pueden trabajar con laboratorios vivos en un espacio que permite aprender sobre los nuevos modelos de IA, adquirir experiencia y desarrollar conocimientos de IA. Por eso, las ciudades harían bien en colaborar con actores y socios innovadores. Recomendamos trabajar con un enfoque diversificado: una combinación de puntos de partida que podrían transformar la organización y de pequeños proyectos de IA que alcancen resultados rápidamente. A la hora de escoger un proyecto de IA, la ciudad tiene que disponer de datos con una calidad razonable, el proyecto tiene que añadir valor al mundo real, el piloto tiene que ser factible y el proyecto tiene que ser escalable.

Un enfoque bien sopesado del proyecto

Cuando se configura un proyecto de IA, las ciudades tienen que pensar cuidadosamente el enfoque del proyecto. Henke, Levine y McInerney [30]30 — HENKE, N., LEVINE, J & MCINERNEY,P, (2018). Analytics. You don’t have to be a data scientist to fill this must-have analytics role. Harvard Business Review. January-February 2018, 67-71. proporcionan un plan paso a paso para implementar la IA:

  1. Identificar casos de negocio y priorizarlos.
  2. Recoger los datos que se necesiten como entrada y prepararlos.
  3. Crear el motor analítico.
  4. Validar la validación de la IA y derivar las implicaciones para el negocio.
  5. Implementar la aplicación.

Davenport & Davenport i Morse [31]31 — DAVENPORT, T. & MORSE, G, (2018). Webinar summary. Artificial intelligence for the real world. Harvard Business Review. January-February 2018, 75-83. recomiendan un marco de cuatro pasos basado en:

  1. Entendee la tecnología.
  2. Identificar una cartera de proyectos.
  3. Lanzar proyectos piloto y crear un centro cognitivo de excelencia.
  4. Escalar la IA e integrarla en los procesos y los sistemas existentes.

Todo empieza con un buen caso de negocio que se adapte a la estrategia urbana. Los casos de negocio tienen que empezar con las necesidades del ciudadano o de la empresa. Van Belleghem [32]32 — VAN BELLEGHEM, S., (2017). Customers the day after tomorrow. Lannoo Campus / Van Duuren Management, Leuven (Belgium) / XC Culemborg (The Netherlands). recomienda empezar con las molestias y las frustraciones diarias que la ciudad provoca en los ciudadanos. Parece que los ciudadanos están dispuestos a abordar problemas de movilidad, clima o medio ambiente, atención sanitaria y proyectos que minimizan el esfuerzo de los ciudadanos para la máxima comodidad de los usuarios; de manera que hay potencial para proyectos de IA.

Además, hace falta un equipo multidisciplinar y “ágil”, donde los tecnólogos trabajen estrechamente con el negocio. Tendrían que formar parte traductores, científicos de datos, arquitectos de información, ingenieros de datos, expertos en visualización de datos y expertos en el cambio.

El reto es crear una inteligencia híbrida: utilizar la potencia de la máquina y la experiencia del hombre como una palanca para implementar con éxito la IA. La capacidad de aprendizaje de una máquina es diferente de la de una persona y, además, una máquina no tiene empatía. Cualquier proyecto tendría que ser consciente y, por lo tanto, tendría que adoptar un enfoque que combine los dos. La toma de decisiones también requiere una evaluación: determinar el significado de una acción específica en un entorno específico. Por eso, la IA y la evaluación humana tendrían que ser complementarias.

Asociaciones y ecosistemas

Recomendamos que las ciudades unan fuerzas y constituyan asociaciones para desplegar con éxito la IA y acceder a un ecosistema de IA más amplio, como es el caso de un centro cognitivo de excelencia.

Para asociarse, una ciudad puede escoger entre varias opciones: colaborar con empresas emergentes de IA o empresas líderes en IA, universidades, posibles competidores (en este caso, otras ciudades), proveedores existentes y colaborar en la interacción de varias industrias. También es posible la cocreación o un grupo de consulta con emprendedores locales, ciudadanos comprometidos y especializados. Tomen el ejemplo del Centro Industrial para la Investigación en Inteligencia Artificial en Diagnóstico Digital (iCAIRD) de Escocia, con plataformas en Glasgow, Aberdeen, Saint Andrews, Edimburgo y Dundee. Es una colaboración entre socios industriales, académicos, sanitarios y prestamistas de asistencia social para superar las barreras en la comercialización y la adopción de la IA en la salud y la asistencia social.

Protección de los derechos y las libertades de los ciudadanos

Los ciudadanos esperan que el gobierno y los municipios ejerzan un papel activo en el debate sobre la ciudad inteligente. Una ciudad tiene que tener un papel pionero, facilitar y velar por los derechos y las libertades de sus ciudadanos [33]33 — IMEC SMIT-VUB EN IMEC LIVINGLABS (2019). Smart City Meter 2018. Onderzoek naar de perceptie en ervaring van burgers met betrekking tot Smart City en Smart City services [Electronic version]. (Accessed the 18th February 2019) .

Los ciudadanos quieren un impacto positivo dentro de una historia inclusiva, respetando la privacidad. Quieren compartir datos reales (ubicación, medios de transporte, etc.) con la ciudad para desarrollar servicios inteligentes. No están tan a favor de compartir datos y emociones personales, ni de las cámaras que captan datos personales o las aplicaciones con funciones como el reconocimiento facial [34]34 — Íbidem. .

Pero se plantean preguntas. ¿Quién es el propietario de los datos que se recogen en el dominio público, por ejemplo, mediante cámaras? ¿Permitimos que las empresas privadas utilicen estos datos y, en caso afirmativo, con qué finalidad? Qué puede significar la IA para una ciudad: ¿qué permitimos, donde dibujamos la línea? ¿Qué pasa con los problemas sociales y éticos cuando el gobierno utiliza la IA? En relación con eso último, los principios de legalidad, eficiencia, proporcionalidad, honestidad y precaución son muy relevantes para proteger a los ciudadanos. El diseño basado en valores parece interesante para diseñar aplicaciones de IA [35]35 — STEELS, L., (ed.), (2017). Artificiële intelligentie. Naar een vierde industriële revolutie? [electronic version]. KVAB Standpunt 53. .

La IA no es un sujeto agnóstico: desafía los derechos humanos fundamentales y los principios de la democracia. Hay muchos retos por delante. El ciudadano se merece una voz en el debate comunitario y la transparencia: sobre lo que pasa en su ciudad, en su entorno inmediato, con datos que, quiera o no, ya se han compartido.

Joan_Batlle_Montserrat

Joan Batlle-Montserrat

Joan Batlle-Montserrat és doctor en Ciències de la Informació per la Universitat de Barcelona i diplomat en Auditoria de les TIC per la Universitat Politècnica de Catalunya. Des del 1984, ha desenvolupat nombroses funcions dins les àrees tecnològiques a l’Ajuntament de Barcelona, com a Cap de Cooperació i Innovació Internacional i de Projectes Europeus a l’Institut Municipal d’Informàtica. Va participar en la creació del lloc web bcn.cat, l'any 1995, i en el desplegament d’un Sistema de Gestió de Continguts el 2002. Els seus àmbits d'especialització són l'autenticació, autorització i gestió de rol, la certificació digital i l'e-Democràcia. En aquest sentit, ha treballat per a l’adopció de l’Open Source Solutions, en la coordinació del Projecte HOPS sobre la web semàntica, el processament del llenguatge natural i la tecnologia de la veu. Actualment està involucrat en projectes d'Smart City i serveis d'Internet avançats, i és expert de la Comissió Europea en l'Internet de les coses (IoT).


Martine_Delannoy

Martine Delannoy

Martine Delannoy és graduada en Ciències Socials, especialitzada en Economia i Gestió Pública per la Universitat d’Ottawa. La seva recerca se centra en la combinació d'estratègies en el marc d'un pensament ampli i sistemàtic sobre e-Inclusió, ciutats intel·ligents, polítiques públiques, estratègia governamental i participació ciutadana. És la fundadora d’iniciatives com Cities of People i és directora de Prospectiva i Estratègia de Digipolis, una empresa pública de serveis i tecnologies de la informació de la ciutat de Gant (Bèlgica). Durant 10 anys, va participar al Knowledge Society Forum d'Eurocities i actualment hi coordina la taskforce de prospectiva.


Sally_Kerr

Sally Kerr

Sally Kerr és llicenciada amb honors en Belles Arts per la Universitat de Glasgow, tot i que ha dedicat el gruix de la seva carrera professional a la innovació digital i a les dades en el món públic. Ha treballat com a Enterprise Web Manager a l'Ajuntament d’Edimburg i actualment és consultora digital freelance. Ha desenvolupat projectes i serveis digitals en el camp de l’Open Data, l'Smart City i l’Internet de les coses (IoT), amb un enfocament centrat en la utilitat en l'àmbit dels governs municipals. Ha fundat EdinburghApps, el programa de desafiament cívic que fomenta l’ús de dades obertes i dóna suport a les noves empreses i pimes. També és cofundadora de l’Edinburgh Living Lab, un projecte conjunt entre la Universitat d'Edimburg i l'Ajuntament d'Edimburg, i diversos productes de codi obert i Open Data, com l’Edinburgh Outdoors i l’Edinburgh Collected. El 2019 GovTech la va incloure a la llista de les 30 líders femenines més influents en aquest camp.


Els_Van_Cleemput

Els Van Cleemput

Els Van Cleemput és gestora al municipi de Knesselare, a Bèlgica, on desenvolupa la gestió i el suport de polítiques del govern local. Afiliada a l'Escola de Gestió d'Anvers, ha treballat com a responsable de Comunicació de l’ajuntament de Gant. La seva vessant de recerca s’ha centrat en la intel·ligència artificial, concretament sobre quines són les condicions perquè un projecte d’IA tingui èxit en contactes amb clients de les autoritats locals. També col·labora amb la revista holandesa d’Informàtica AG Connect.