IA: los interrogantes que nos interpelan

Ya no se puede negar a que la inteligencia artificial tiene cada vez más impacto en muchas áreas de la actividad humana. Nos ayuda a comunicarnos entre nosotros (incluso más allá de las barreras lingüísticas), encuentra información relevante en el infinito recursos disponibles a Internet, resuelve problemas difíciles que van más allá de la competencia de una única persona experta, permite el uso de sistemas autónomos, como coches autónomos u otros dispositivos que gestionan interacciones complejas con el mundo real, con poca o ninguna intervención humana y es utilizada en muchas otras funcionalidades. Ahora bien, aunque todas estas aplicaciones prácticas no son como los robots completamente autónomos, conscientes e inteligentes que imaginaba la ciencia-ficción, los efectos de la inteligencia artificial son cada vez más relevantes y útiles en nuestra vida cotidiana y sobre todo son reales, ya están aquí y no podemos prescindir.

El impacto de la IA es pues, cada vez mayor y ha desencadenado a todas partes una especie de “fiebre de oro” vinculada a estas tecnologías. Se crean nuevos laboratorios de investigación, aparecen centenares de empresas emergentes centradas en IA y cada vez son más significativas las inversiones a nivel global, particularmente por parte de grandes empresas de tecnología digital. Asimismo, se constata cómo la IA es también cada vez más aplicada en múltiples sectores como el transporte, las cadenas de producción y logística, en el mundo financiero o en muchas otras industrias. Las consultorías de gestión están compitiendo en sus predicciones sobre como será de mayor el impacto económico de la IA y desde las instituciones públicas y los gobiernos se están definiendo, aprobando y ejecutando planes estratégicos para adaptar a nuestras sociedades al salto de la IA y evitar quedarse atrás. También en Cataluña con la reciente aprobada Estrategia de Inteligencia Artificial ‘Catalonia.AI.

Aunque todo eso son buenas noticias, no podemos negar los riesgos derivados de la aplicación de la IA. En este sentido, se han tomado varias iniciativas en los últimos años por entender mejor qué comporta el despliegue de la IA y se han elaborado marcos legales, códigos de conducta y metodologías de diseño basadas en valores éticos. Algunos ejemplos de eso son los Principios de Asilomar para la IA, la Iniciativa Global IEEE sobre Ética de Sistemas Autónomos e Inteligentes, el consorcio de la industria tecnológica “Partnership on AI” para beneficiar las personas y la sociedad, o el Reglamento General de Protección de Datos que incluye el derecho a una explicación. También está creciendo rápidamente la literatura sobre los riesgos de la IA y como gestionarla. Por ejemplo, Luc Steels y Ramón López de Mántaras organizaron un debate en el CosmoCaixa (Barcelona) en marzo del año 2017. El resultado principal de este acontecimiento fue la “Declaración de Barcelona sobre el correcto desarrollo y uso de la IA en Europa”. [1]1 — Bajo los auspicios del Biocat y de la Obra Social La Caixa con la colaboración de ICREA, el Instituto de Biología Evolutiva (UPF/CSIC) y el Instituto de Investigación en Inteligencia Artificial (IIIA-CSIC).

Lo que es una certeza hoy, es que la IA ya tiene impacto sobre nuestra vida y podría conducir potencialmente a uno de los cambios de paradigma de nuestro tiempo. Teniendo en cuenta que cada gran transformación estructural, tiene consecuencias en la esfera económica, social y política, los debates en torno a las tecnologías d’IA son más relevantes que nunca. El Centro de Estudios de Temas Contemporáneos, como think tank del Gobierno de la Generalitat de Catalunya, está comprometido a analizar los grandes retos globales a que se enfrenta nuestra sociedad. Con este número especial de la revista IDEES, conscientes del impacto de la IA, pretendemos abordar diferentes aspectos de los debates en torno a la IA a través de una amplia selección de miradas y perspectivas Conscientes de esta complejidad, este monográfico abre la IA pretende entrar en el debate y plantear algunas de las preguntas claves que suscita: ¿qué principios tendrían que gobernarla? ¿Qué impacto tendrá la IA sobre la ciudadanía y entre nuestras sociedades? ¿Qué estrategias o políticas están impulsando los países líderes? ¿Qué instituciones tendrán que abordar los desafíos principales de la IA? ¿De qué maneras cambiará la IA la naturaleza de nuestros trabajos? ¿Cómo afectará la IA a la geopolítica mundial? ¿La IA reforzará la democracia o la pondrá en peligro? Estas son sólo algunas de las preguntas que nos esperan para abrir el debate.

Desde voces diversas de personas expertas, analizamos algunas algunas de las políticas científicas e industriales relacionadas con la IA más relevantes como son el caso de los EEUU y China. Exploramos también cuál es su impacto en la economía y en el mercado laboral, o en ámbitos concretos como en el de las ciudades “inteligentes” o en la industria militar y sus efectos geopolíticos. Asimismo nos adentramos en el papel de la materia prima de la IA, como son los datos (y particularmente la importancia de los datos abiertos), así como en la importancia de la ética en la IA. También se incluyen artículos que reflexionan sobre el futuro de la IA, como la visión de un director de cine de ciencia-ficción que plantea algunas preguntas sobre el rol de las interacciones entre personas humanas e inteligencias artificiales. Algunos temas, como una “IA para el buen gobierno”, todavía no se han tratado, pero se incluirán en el futuro próximo a causa de su gran importancia.

La totalidad de los artículos que conforman el monográfico #48 de la revista IDEES dedicado a la inteligencia artificial se irán publicando escalonadamente en los próximos meses. Con el objetivo de ofrecer al lector una visión completa del espíritu que ha guiado este proyecto, esta nota editorial se refiere al conjunto de textos que forman parte del monográfico.

Carrera por el control de la IA

La IA es un fenómeno global que ha desencadenado iniciativas en muchos países. En efecto, diferentes regiones del mundo han identificado la IA como uno de los enfoques estratégicos para la próxima década. En este sentido, queríamos incluir en este número una descripción de las estrategias principales de la IA, como las de los EE.UU. y China. El profesor Stone, en su artículo, proporciona un análisis detallado con muchas referencias documentales a los grandes acontecimientos de los EE.UU. relacionados con la IA desde el año 2016. Después de una aparente falta de actividad durante los años 2017 y 2018, el año 2019 ha sido testigo de un nuevo impulso por parte del gobierno de los EE.UU. Así, se crearán seis institutos nacionales d’IA para dar apoyo a varias líneas estratégicas. La comunidad científica ha identificado estas líneas en diferentes encuentros convocados desde el año 2016. La estrategia norteamericana va encaminada a orientar, impulsar y dar apoyo activo a los sectores punteros del país más dinámico en el desarrollo de la IA.

En esta carrera, también queríamos fijarnos en China, otro país extremadamente dinámico en IA, que recientemente ha anunciado que se planea convertirse en el país puntero y líder en IA. Los profesores Yi Chang y Chengqi Zhang describen la Iniciativa de Innovación en Ciencia y Tecnología 2030 del gobierno chino. Se centra especialmente en las tecnologías d’IA, así como en el Plan de desarrollo de inteligencia artificial de nueva generación, que tiene por objetivos aprovechar las grandes oportunidades estratégicas para desarrollar la IA, conseguir una posición de ventaja para el país y acelerar la conversión de China en un país innovador y una potencia líder mundial en los campos de la ciencia y la tecnología. Hay que destacar el especial énfasis que ponen estas iniciativas para mejorar la educación en IA, en el que piden establecer escuelas d’IA en instituciones piloto tan pronto como sea posible, y para aumentar las inscripciones de estudiantes en másters y doctorados a las disciplinas relacionadas con la IA.

Ecosistemas

En cuanto al impacto de la IA sobre la industria, muchas empresas emergentes alimentan en parte la aceleración reciente en el desarrollo d’IA en el mundo. Cataluña es muy activa en cuanto a la creación de empresas emergentes y es por eso que queríamos analizar la estrategia nacional de la Generalitat de Catalunya para coordinar el ecosistema catalán d’IA. Creemos que este ecosistema es fuerte, se puede decir que el más fuerte del sur de Europa. En efecto, la profesora Karina Gibert aborda el extraordinario potencial que tiene Cataluña para convertirse en una región clave para la IA. El artículo empieza señalando algunos hechos históricos sobre como empezó la IA en Cataluña y su consolidación con la creación de la Asociación Catalana de Inteligencia Artificial (ACIA). A continuación, el artículo describe algunas de las partes destacadas del ecosistema catalán d’IA, en particular las actividades de investigación y educación, así como la existencia de un sector privado con empresas implicadas en proyectos d’IA. Finalmente, las organizaciones profesionales como el Colegio Oficial de Ingeniería Informática de Cataluña y la iniciativa de la administración catalana para lanzar un plano estratégico d’IA.

Ciertamente, hasta enero del año 2019, había casi 1.000 empresas emergentes relacionadas con la industria 4.0, entre las cuales 160 d’IA, 38 de robótica y más de 200 de datos masivos. En términos de número de empresas emergentes, Barcelona es el quinto núcleo de empresas emergentes de Europa y número uno del sur de Europa. A Daniel Villatoro le pedimos que describiera el paisaje actual en cuanto a empresas emergentes a Cataluña y a España en el contexto de las estrategias d’IA españolas y europeas. La variedad de aplicaciones y servicios proporcionados por las empresas emergentes actuales muestra cómo es de transversal el impacto de la IA en nuestra sociedad. Barcelona se identifica claramente como la tercera ciudad europea más atractiva por crear una empresa emergente hoy día.

De manera similar, Onn Shehory analiza la situación a Israel. Israel se ha identificado como la nación más dinámica del mundo por crear empresas emergentes (véase el libro Start-up Nation de Dan Senor y Saul Singer). Mires el parámetro que mires, Israel se convierte en el primero en una clasificación per cápita. El profesor Shehory describe en detalle la tecnología que hay detrás de varias empresas emergentes disruptivas, seleccionadas de entre más de 800 empresas emergentes en Israel basadas en tecnología IA.

Retos éticos

Como se ha comentado anteriormente, la IA comporta riesgos innegables. El desarrollo de las tecnologías d’IA que intervienen en nuestra relación con el mundo está generando un intenso debate sobre como son de éticas sus decisiones. La IA puede llegar a ser nociva y por lo tanto, puede ser pertinente establecer ciertos límites a estas decisiones. Pak-Hang Wong y Judith Simon abordan los conflictos éticos planteados por la IA autónoma y argumentan que el razonamiento ético de una IA no puede estar separado del análisis de los valores que defendemos. Estamos completamente de acuerdo. En particular, debaten la necesidad de alinear las decisiones de estos sistemas autónomos y el contexto social donde se toman las decisiones. La consideración de múltiples depositantes en esta alineación es clave y define su noción de ética distribuida d’IA.

Carme Torras sostiene que la interacción cada vez más abundante de las personas con todo tipo de dispositivos basados en IA supone importantes retos sociales y éticos. Coincide con la tendencia que defiende que los grados universitarios técnicos se tendrían que abrir a las Humanidades a fin de que los estudiantes se vuelvan conscientes de posibles cuestiones delicadas a que pueden tener que enfrentarse en sus carreras y aprendan a reflexionar y debatir sobre estos temas. En esta línea, propone crear cursos de ética para tecnólogos basados en la ciencia-ficción. Da varios ejemplos de iniciativas existentes que incluyen su novela La mutación sentimental (Pagès Editors), que incluye un apéndice con 24 preguntas éticas y pistas para un debate sobre las situaciones que aparecen al libro. Este contenido es adecuado para un curso sobre ética en robótica social e inteligencia artificial que trate los temas siguientes: como diseñar el asistente “perfecto”, la importancia de la apariencia de robots y la simulación de emociones para la aceptación de los robots; el papel de los programas d’IA al puesto de trabajo y en ambientes educativos; el dilema entre la toma de decisiones automática y la libertad y la dignidad humanas; y la responsabilidad civil relacionada con programar una “moral” en los robots.

El futuro de la IA es también el eje fundamental de muchos debates por todo el mundo. Desde un punto de vista académico, un tema importante es la distinción entre la IA estrecha, es decir, sistemas d’IA capaces de hacer una sola tarea o una pequeña serie de tareas altamente relacionadas, y la IA general de nivel humano. Todos los ejemplos d’IA que tenemos hoy día son del tipo estrecho. La IA general es un objetivo muy difícil de alcanzar porque, entre otras cosas, requiere proporcionar conocimiento de sentido común a los sistemas d’IA y nadie sabe como abordar este problema tan extremadamente difícil. En este artículo, Miquel Casas, citando un número de opiniones de figuras muy conocidas en el mundo de la tecnología y el comercio, propone la posibilidad de una futura inteligencia artificial general. Basada en una serie de hipótesis improbables (en nuestra opinión, extremadamente improbables) pero no imposibles, esta inteligencia se podría convertir en una súper inteligencia que alcanzaría el renombre “singularidad” y por lo tanto haría realidad el sueño transhumanista. El autor enumera los pros y contras potenciales de esta consecución y declara que, en cualquier caso, tenemos las riendas del futuro en nuestras manos. También declara que, para evitar que ninguna empresa o país monopolice una súper inteligencia hipotética, la búsqueda de una IA general futura tendría que ser el objetivo de un proyecto de cooperación internacional por garantizar que una posible súper inteligencia beneficie a toda la humanidad.

Uso militar de la IA

Las implicaciones éticas del concepto de autonomía impulsan el debate planteado por dos artículos que proponen la prohibición de las armas letales autónomas desde dos ángulos: Toby Walsh, desde la perspectiva de un investigador d’IA, y Roser Martínez y Joaquín Rodríguez, desde la perspectiva filosófica. Gran parte de los investigadores en IA y filósofos consideran que dejar que una máquina tome la decisión de quien vive y quien muere es moralmente inaceptable. Una vez más, estamos completamente de acuerdo con esta opinión. Para dar apoyo a la prohibición, Toby Walsh muestra los inconvenientes de los argumentos principales utilizados para defender el uso de armas letales autónomas. Desde una perspectiva legal y filosófica, Martínez y Rodríguez describen inconvenientes similares de algunas expectativas exageradas sobre tecnología d’IA utilizadas para dar apoyo al desarrollo de armas letales autónomas.

Sociedad y democracia

El impacto de la IA en la sociedad es ciertamente un aspecto crucial que requiere un análisis extenso a todos los niveles. Lorena Jaume-Palasí, en su artículo, sostiene que la inteligencia artificial es una nueva forma de infraestructura, una forma inmaterial. Automatizar un proceso con IA implica construir una capa invisible de software para intervenir permanentemente en las interacciones con y entre todas las partes implicadas del proceso. De esta manera, se están construyendo infraestructuras inmateriales en sectores en que una dimensión infraestructural antes era impensable. La idea principal es que, como la infraestructura es la expresión arquitectónica de la política de una sociedad, la IA es una tecnología que impacta en las sociedades arquitectónicamente, y por lo tanto, lo hace colectivamente más que individualmente. En cuanto la implementación de la IA requiere pensamiento social. En efecto, un punto de vista muy interesante e imprescindible.

En la misma línea de impacto social, pero desde el punto de vista legislativo, Joana Barbany describe en detalle las características fundamentales de la Carta catalana para los derechos y las responsabilidades digitales. Esta Carta es el resultado de un proceso de participación ciudadana que ha culminado con su aprobación al Parlament de Catalunya. La inteligencia artificial es parte de la Carta. La Carta requiere desarrollos d’IA con transparencia algorítmica y respeto por los principios éticos de nuestra sociedad. La defensa de una sociedad abierta, democrática y que respeta las libertades individuales que esta Carta representa se opone al poder que se le ha otorgado recientemente al gobierno español sobre la limitación de los derechos digitales de los ciudadanos. Este poder se ha establecido a través del “decreto digital” aprobado en noviembre del año 2019 en el Congreso de los Diputados.

Pompeu Casanovas reflexiona sobre el cambio cultural que la tecnología está provocando y su impacto sobre la ética y la ley. Plantea algunos ejemplos recientes de control social no ético que utilizan datos para forjar nuevas formas de poder. El rápido desarrollo de los sistemas sociotécnicos en que los humanos y las máquinas interactúan forzará necesariamente la adaptación de nuestros sistemas normativos y legales. Da también unas cuantas pistas sobre como la IA puede ser realmente útil en el proceso de definir estos sistemas legislativos actualizados.

En vez de pensar en cómo la aparición de la IA cambiará a la sociedad, César Rendueles da la vuelta a la pregunta y se plantea qué cambios sociales se han producido que nos hayan llevado a creer que se producirá una explosión d’IA con efectos tan impactantes. Su artículo se centra en diagnosticar una cierta “burbuja” de inteligencia artificial, en particular para los enfoques en la IA basada en datos masivos. Asegura que los antiguos debates epistemológicos sobre la IA fuerte han desaparecido, no para que estos debates se hayan resuelto, sino por una decisión de actuar como si la IA ya fuera fuerte.

La economía de la IA

El artículo de Joan Torrent-Sellens analiza la dimensión económica de la IA desde varios puntos de vista. El primero considera la IA como una plataforma tecnológicamente conectada y explica sus relaciones con otras tecnologías. También estudia la IA desde el punto de vista de una tecnología de uso general. Acto seguido, aborda el impacto de la IA en la productividad y el trabajo, particularmente como fuente de eficiencia laboral. Finalmente, presenta los desafíos principales que la aplicación d’IA genera en las teorías y el modelado de la economía.

Educar con IA

El papel que puede interpretar la IA en la educación es otro aspecto fundamental con un impacto enorme sobre la sociedad. Richard Tong y Joleen Liang describen cómo se puede aplicar la IA para mejorar la educación. Concretamente, en un área de alto impacto: La educación adaptativa y su solución clave, el sistema de aprendizaje adaptativo (AIS para las siglas en inglés). Explican su historia, el diseño y los mecanismos básicos. A continuación, el artículo reflexiona sobre como la inteligencia artificial se puede aplicar al AIS desde la perspectiva de la arquitectura, la aplicación y el modelo computacional.

Datos, IA y gobernanza

Creemos que la IA tiene que interpretar un papel crucial en el empoderamiento ciudadano y en la construcción de una sociedad más democrática y participativa. En este sentido, la aplicación de la IA en ciudades es el tema de un artículo de Batlle-Montserrat, Delannoy, Kerr y van Cleempur. Relatan su propia experiencia en diferentes municipios por toda Europa. Una serie de áreas en la gestión de la ciudad, como el transporte, la educación, la seguridad y la participación ciudadana ya se están beneficiando de la aplicación de la IA. Estamos de acuerdo con los autores que la aplicación de la tecnología d’IA es un gran reto para muchas ciudades, no sólo desde un punto de vista tecnológico, sino también, y quizás con más importancia, desde una perspectiva cultural, legal y ética. El artículo analiza algunos de estos retos en detalle y propone una serie de recomendaciones a las autoridades municipales en cuanto a la implementación de la tecnología.

En relación con el impacto sobre el gobierno y la administración, Lourdes Muñoz describe en su artículo el impacto cada vez mayor de la estrategia de datos abiertos de los gobiernos y las instituciones. Cuando los datos están abiertos al uso y escrutinio públicos, los gobiernos mejoran su transparencia y los ciudadanos se empoderan. España se clasifica segunda en la lista de apertura de datos en Europa y, de acuerdo con este autor, Cataluña tiene una de las leyes más ambiciosas en apertura de datos (Ley de transparencia catalana 19/2014). El artículo describe unos cuantos proyectos catalanes interesantes que utilizan datos abiertos públicos y concluye con una descripción de los retos a que se enfrentan las instituciones catalanas. En línea con la misma idea de apertura de datos, Núria Espuny describe la estrategia de apertura de datos que están siguiendo a la Dirección General de Transparencia y Dades Obertes del gobierno de la Generalitat de Catalunya. Una estrategia con el objetivo de poner los datos públicos a disposición de los ciudadanos, empresas u organizaciones para generar valor social y económico o para analizar e interpretar patrones y tendencias para resolver problemas complejos.

En su artículo, Javier Creus cuestiona la superioridad de la inteligencia racional humana basándose en una serie de observaciones en cuanto al comportamiento humano en aspectos como el clima y las emergencias sociales. Sostiene que si, aparentemente, no somos superiores (en todo) en las plantas y no somos diferentes (en todo) de las máquinas, entonces tenemos que pensar en la inteligencia como un sistema de continuidades y complementariedades en que todas las inteligencias son necesarias y están conectadas. Entonces permitirá la aparición de nuevas arquitecturas tecnológicas e instituciones sociales que se centren en el potencial de la IA para mejorar las condiciones de vida en el planeta y las oportunidades de vida de las personas. Estas nuevas arquitecturas tendrían que estar distribuidas, es decir, sin un control centralizado y con una separación entre los datos y las aplicaciones que se basan. El artículo concluye con una defensa de la importancia de los datos para el bien común y su control por parte de los ciudadanos.

El imaginario simbólico

Cuando se trata de especular sobre el futuro, los autores de ciencia-ficción son posiblemente los actores principales. Estas especulaciones han sido a menudo una fuente de ideas desafiadoras. Por ejemplo, pensamos que el guion de Kubrick i Clarke de 2001: una odisea del espacio realmente anticipó bastantes consecuciones en IA, aunque Arthur Clarke claramente estaba equivocado al representar un ordenador, HAL, con inteligencia parecida a la humana. De hecho, se han proporcionado una serie de encuestas a expertos en IA en diferentes conferencias que preguntaban cuándo se alcanzaría la IA general. Las respuestas reflejan una diversidad de opiniones muy amplia, que va desde “en los próximos diez años” a “nunca”. En otras palabras: no estamos seguros. Nuestra opinión personal es que estamos mucho y muy lejos de la inteligencia artificial general (IAG). Estamos de acuerdo con la respuesta que Oren Etzioni, director del Instituto Allen para la IA, dio a la pregunta de cuando tendremos IAG: “Coge tu estimación, duplícala, triplícala, cuadruplícala. Es entonces cuando tengamos.” En su artículo, Kike Maíllo, director de la película de ciencia-ficción Eva, describe su experiencia personal en cuanto a su propia relación con la ciencia-ficción así como las relaciones de la IA y la ciencia-ficción en general. Explica que su interés por la ciencia-ficción empezó cuándo era estudiante de instituto. A él le llamaba la atención que los científicos ficticios, cuando intentaban diseñar máquinas similares a los humanos, tenían que descubrir primero qué nos hace humanos, y conjetura que eso también les pasa hoy día a los científicos d’IA de la vida real. Veinte años más tarde, todas estas reflexiones lo llevaron a dirigir a Eva. Esta película nos habla de un tiempo futuro en que las máquinas sociales proliferan. Un futuro con robots de compañía para combatir la soledad. El personaje protagonista de la película quiere diseñar máquinas que no siempre se muestren como esclavas de nuestra voluntad, cosa paradójica porque es precisamente la obediencia lo que define cualquier mecanismo. Este hecho plantea las cuestiones principales que se tratan en la película y en su artículo: ¿Pueden las máquinas que sólo, y siempre, obedecen nuestras órdenes ser buenas compañeras y ser amadas? ¿Podemos establecer relaciones poderosas con agentes que no consideramos “iguales”?

*

Teniendo en cuenta el interés público en la IA y el entusiasmo de muchas organizaciones (tanto de empresas privadas como de instituciones gubernamentales) a desarrollar aplicaciones que afecten a las personas en su día a día, pensamos que es muy importante que la sociedad entre a fondo en todos estos debates abiertos. En efecto, como sociedad tenemos que entender las consecuencias e implicaciones del uso de la inteligencia artificial. También tenemos que debatir con calma sobre como y de qué manera hay que regularla. Esperamos que este número especial ayude a los lectores a tener una opinión informada y crítica que les permita entrar en estos debates abiertos.

• Referències

  1 —

  Bajo los auspicios del Biocat y de la Obra Social La Caixa con la colaboración de ICREA, el Instituto de Biología Evolutiva (UPF/CSIC) y el Instituto de Investigación en Inteligencia Artificial (IIIA-CSIC).