{"id":10406,"date":"2020-02-19T16:22:02","date_gmt":"2020-02-19T16:22:02","guid":{"rendered":"https:\/\/revistaidees.cat\/killer-robots\/"},"modified":"2020-03-05T16:13:55","modified_gmt":"2020-03-05T16:13:55","slug":"killer-robots","status":"publish","type":"post","link":"https:\/\/revistaidees.cat\/es\/killer-robots\/","title":{"rendered":"Killer robots"},"content":{"rendered":"\n<p>El mundo tiene que tomar una decisi\u00f3n muy importante sobre el futuro de los conflictos armados. Eso <em>no <\/em>se debe al movimiento pol\u00edtico creciente contra las armas aut\u00f3nomas. Veintiocho pa\u00edses han pedido en la ONU que proh\u00edba estas armas de manera preventiva. Recientemente, el Parlamento Europeo vot\u00f3 a favor de esta prohibici\u00f3n y el ministro de Asuntos Exteriores alem\u00e1n, Heiko Maas, reclam\u00f3 la colaboraci\u00f3n internacional para la regulaci\u00f3n de las armas aut\u00f3nomas. Y la misma semana que Maas hizo un llamamiento a la acci\u00f3n, Jap\u00f3n dio apoyo a los esfuerzos internacionales por regular la producci\u00f3n de armas aut\u00f3nomas letales a las Naciones Unidas.<\/p>\n\n\n\n<p>A finales del 2018, Ant\u00f3nio Guterres, secretario general de las Naciones Unidas, en su discurso ante la Asamblea General hizo una dura advertencia:<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\"><p>\u00abLa preocupaci\u00f3n por la militarizaci\u00f3n de la inteligencia artificial va en aumento. La posibilidad de que haya armas que puedan seleccionar y atacar un objetivo por s\u00ed solas dispara muchas alarmas y podr\u00eda provocar nuevas carreras armamentistas. Una menor supervisi\u00f3n de las armas tiene consecuencias para nuestros intentos de contener las amenazas, prevenir la escalada de los conflictos y respetar el derecho internacional humanitario y de los derechos humanos. Expliqu\u00e9moslo tal como es. La posibilidad de que haya m\u00e1quinas con discreci\u00f3n y poder para llevarse vidas humanas es moralmente repugnante\u00bb.<\/p><\/blockquote>\n\n\n\n<p>No, no es esta inquietud pol\u00edtica creciente la que explica la decisi\u00f3n crucial a que se enfrenta el planeta. Ni tampoco lo hace el creciente movimiento de la sociedad civil contra estas armas. La <em>Campaign to Stop Killer Robots<\/em> (campa\u00f1a para la prohibici\u00f3n de los robots asesinos), por ejemplo, agrupan m\u00e1s cien organizaciones no gubernamentales, como Human Rights Watch, que reclaman vehementemente la regulaci\u00f3n.<\/p>\n\n\n\n<p>Tampoco lo hace la presi\u00f3n de estas ONG para tomar medidas. Ni la creciente preocupaci\u00f3n de la sociedad. Seg\u00fan una encuesta reciente de Ipsos, la oposici\u00f3n a las armas aut\u00f3nomas ha crecido un 10% los \u00faltimos dos a\u00f1os, ya que cada vez hay m\u00e1s conocimiento del tema.<\/p>\n\n\n\n<p>Seis de cada diez personas encuestadas en 26 pa\u00edses se opon\u00edan firmemente al uso de armas aut\u00f3nomas. En Espa\u00f1a, por ejemplo, el 65% de las personas encuestadas se opon\u00eda firmemente, delante de un 20% que estaba a favor de su uso. La oposici\u00f3n y el apoyo a las armas aut\u00f3nomas era similar a Francia, Alemania y otros pa\u00edses europeos. <\/p>\n\n\n\n<p>No, el motivo por cual hoy tenemos que tomar una decisi\u00f3n crucial sobre el futuro de los conflictos armados es que la tecnolog\u00eda para construir armas aut\u00f3nomas ya est\u00e1 a punto para salir del laboratorio de investigaci\u00f3n (aviso: el lugar en el que yo trabajo) y ser aplicada por los fabricantes de armas de todo el mundo.<\/p>\n\n\n\n<p>En marzo del 2019, por ejemplo, vimos c\u00f3mo la Real Bastante A\u00e9rea Australiana anunciaba una colaboraci\u00f3n con Boeing para crear un veh\u00edculo de combate a\u00e9reo no tripulado, un \u00abcompa\u00f1ero\u00bb leal para que el combate a\u00e9reo d\u00e9 un paso m\u00e1s hacia la letalidad. La misma semana, el ej\u00e9rcito de los EE.UU. present\u00f3 el ATLAS, el Advanced Targeting and Lethality Automated System (sistema autom\u00e1tico avanzado de selecci\u00f3n y letalidad), que ser\u00e1 un tanque robot. La marina de los EE.UU. tambi\u00e9n anunci\u00f3 que su primer barco no tripulado, el Sea Hunter, hab\u00eda hecho un viaje r\u00e9cord de Hawai a la costa californiana sin intervenci\u00f3n humana.<\/p>\n\n\n\n<p>Lamentablemente, el mundo ser\u00e1 un gar mucho peor si, dentro de una d\u00e9cada, los militares de todo el mundo utilizan estos sistemas de armas aut\u00f3nomas letales (LAWS, por sus siglas en ingl\u00e9s) y no hay ninguna ley que los regule.<\/p>\n\n\n\n<div class=\"wp-block-columns is-layout-flex wp-container-core-columns-is-layout-9d6595d7 wp-block-columns-is-layout-flex\">\n<div class=\"wp-block-column is-layout-flow wp-block-column-is-layout-flow\" style=\"flex-basis:33.33%\">\n<blockquote class=\"wp-block-quote is-style-large is-layout-flow wp-block-quote-is-layout-flow\"><p>El mundo ser\u00e1 un gar mucho peor si, dentro de una d\u00e9cada, los militares de todo el mundo utilizan estos sistemas de armas aut\u00f3nomas letales y no hay ninguna ley que los regule.<\/p><\/blockquote>\n<\/div>\n\n\n\n<div class=\"wp-block-column is-layout-flow wp-block-column-is-layout-flow\" style=\"flex-basis:66.66%\">\n<p>Los medios prefieren utilizar el t\u00e9rmino <em>robot asesino<\/em> que una expresi\u00f3n enrevesada como <em>arma aut\u00f3noma letal<\/em>. Pero el problema del t\u00e9rmino robot asesino que frecuenta los medios es que evoca la imagen de Terminator. Y no es Terminator el que nos preocupa, ni a m\u00ed ni a los millares de colegas que trabajan en inteligencia artificial (IA). Ahora mismo, se anuncian tecnolog\u00edas mucho m\u00e1s sencillas.<\/p>\n\n\n\n<p>Fij\u00e9monos en un dron <em>Predator<\/em>. Es un arma semiaut\u00f3noma. Puede volar por s\u00ed solo casi todo el rato. Sin embargo, sigue siendo un soldado, habitualmente desde un cub\u00edculo en Nevada, quien tiene el control. Y muy importante, sigue siendo un soldado quien toma la \u00faltima decisi\u00f3n de vida o muerte sobre si tiene que disparar uno de sus misiles <em>Hellfire<\/em>.<\/p>\n<\/div>\n<\/div>\n\n\n\n<p>Pero sustituir a este soldado por un ordenador es un paso t\u00e9cnico peque\u00f1o. De hecho, hoy es t\u00e9cnicamente posible. Y tan pronto como fabricamos estas armas aut\u00f3nomas sencillas se producir\u00e1 una carrera armamentista para fabricar versiones cada vez m\u00e1s sofisticadas. De hecho, podemos ver que esta carrera armamentista ya ha empezado. Para cada medio, el aire, la tierra, sobre y bajo el mar, se est\u00e1n desarrollando prototipos de armas aut\u00f3nomas.<\/p>\n\n\n\n<p>Eso ser\u00e1 nefasto para los conflictos armados, pero no es inevitable. En realidad, podemos escoger si seguimos esta v\u00eda. Desde hace m\u00e1s de cinco a\u00f1os, yo mismo y miles de colegas, a otros investigadores de IA y de rob\u00f3tica, estamos advirtiendo sobre estos avances peligrosos. Se nos han unido los fundadores de empresas del sector de la IA y la rob\u00f3tica, premios Nobel, l\u00edderes religiosos, pol\u00edticos y muchos miembros de la sociedad.<\/p>\n\n\n\n<p>Desde una perspectiva estrat\u00e9gica, las armas aut\u00f3nomas son un sue\u00f1o militar. Permiten adaptar sus operaciones sin las limitaciones de los efectivos. Un programador puede controlar centenares de armas aut\u00f3nomas. Eso industrializar\u00e1 el conflicto armado. Las armas aut\u00f3nomas har\u00e1n aumentar sustancialmente las opciones estrat\u00e9gicas. Con eso las personas no quedar\u00e1n tan expuestas y se abrir\u00e1 la oportunidad de emprender las misiones m\u00e1s arriesgadas. Lo podr\u00edamos denominar la guerra 4.0.<\/p>\n\n\n\n<p>Sin embargo, hay muchos motivos para qu\u00e9 el sue\u00f1o militar de las armas aut\u00f3nomas letales se convierta en una pesadilla. Primero de todo, hay un argumento moral s\u00f3lido contra los robots asesinos. Si cedemos a una m\u00e1quina la decisi\u00f3n de s\u00ed una persona tiene que vivir o no, dejamos de lado una parte esencial de nuestra humanidad. Las m\u00e1quinas no tienen emociones, compasi\u00f3n ni empat\u00eda. \u00bfAs\u00ed pues, las m\u00e1quinas son aptas para decidir qui\u00e9n vive y qui\u00e9n muere?<\/p>\n\n\n\n<div class=\"wp-block-columns is-layout-flex wp-container-core-columns-is-layout-9d6595d7 wp-block-columns-is-layout-flex\">\n<div class=\"wp-block-column is-layout-flow wp-block-column-is-layout-flow\" style=\"flex-basis:33.33%\">\n<blockquote class=\"wp-block-quote is-style-large is-layout-flow wp-block-quote-is-layout-flow\"><p>Construir una bomba nuclear exige sofisticaci\u00f3n t\u00e9cnica. Hacen falta los recursos de un estado naci\u00f3n y acceso a material f\u00edsil. Hacen falta f\u00edsicos e ingenieros cualificados. Por eso, las armas nucleares no han proliferado mucho. Las armas aut\u00f3nomas no necesitan nada de eso.<\/p><\/blockquote>\n<\/div>\n\n\n\n<div class=\"wp-block-column is-layout-flow wp-block-column-is-layout-flow\" style=\"flex-basis:66.66%\">\n<p>M\u00e1s all\u00e1 de los argumentos morales, hay muchos motivos t\u00e9cnicos y jur\u00eddicos para preocuparse por los robots asesinos. A mi parecer, uno de los m\u00e1s s\u00f3lidos es que revolucionar\u00e1n los conflictos armados. Las armas aut\u00f3nomas provocar\u00e1n una gran destrucci\u00f3n. Antes, si se quer\u00eda hacer da\u00f1o, se ten\u00eda que tener un ej\u00e9rcito de soldados para hacer la guerra. Se ten\u00eda que convencer a este ej\u00e9rcito de seguir vuestras \u00f3rdenes. Se ten\u00edan que formar, alimentar y pagar. Ahora un solo programador podr\u00eda controlar centenares de armas. <\/p>\n\n\n\n<p>Las armas aut\u00f3nomas letales son m\u00e1s alarmantes, en cierta manera, que las armas nucleares. Construir una bomba nuclear exige sofisticaci\u00f3n t\u00e9cnica. Hacen falta los recursos de un estado naci\u00f3n y acceso a material f\u00edsil. Hacen falta f\u00edsicos e ingenieros cualificados. Por eso, las armas nucleares no han proliferado mucho. Las armas aut\u00f3nomas no necesitan nada de eso.<\/p>\n<\/div>\n<\/div>\n\n\n\n<p>Las armas aut\u00f3nomas ser\u00e1n armas del terror perfectas. \u00bfOs pod\u00e9is imaginar qu\u00e9 miedo sentiremos cuando nos persiga a un ej\u00e9rcito de drones aut\u00f3nomos? Caer\u00e1n en las manos de terroristas y estados bellacos que no tendr\u00e1n ning\u00fan escr\u00fapulo para dirigirlos contra la poblaci\u00f3n civil. De hecho, ser\u00e1n un arma ideal para eliminar la poblaci\u00f3n civil. A diferencia de los seres humanos, no dudar\u00e1n a cometer atrocidades, incluso un genocidio.<\/p>\n\n\n\n<p>Quiz\u00e1s os sorprenda, pero no todo el mundo est\u00e1 de acuerdo con la idea de que el mundo ser\u00eda un lugar mejor si se prohibieran los robots asesinos. \u00abLos robots ser\u00e1n mejores en la guerra que los seres humanos\u00bb, afirman. \u00abQue los robots luchen entre ellos y que los seres humanos no intervengan\u00bb. A pesar de todo, estos argumentos no resisten un escrutinio riguroso, en opini\u00f3n m\u00eda y de muchos de mis colegas que trabajan en el \u00e1mbito de la IA y la rob\u00f3tica. A continuaci\u00f3n expongo las cinco objeciones principales a la prohibici\u00f3n de los robots asesinos y explico por qu\u00e9 son err\u00f3neas.<\/p>\n\n\n\n<h5 class=\"wp-block-heading\">Objeci\u00f3n 1. Los robots ser\u00e1n m\u00e1s eficaces que los seres humanos<\/h5>\n\n\n\n<p>Seguro que ser\u00e1n m\u00e1s eficientes. No necesitar\u00e1n dormir. No necesitar\u00e1n tiempo para descansar y recuperarse. No necesitar\u00e1n planes de formaci\u00f3n de larga duraci\u00f3n. No los afectar\u00e1n al fr\u00edo ni el calor extremos. En resumen, ser\u00e1n los soldados ideales. Pero no ser\u00e1n m\u00e1s eficaces. En los <em>Drone Papers<\/em>, los documentos de seguridad nacional de los EE.UU. que se filtraron hace poco, se sugiere que casi nueve de cada diez personas muertas en ataques con drones no eran el objetivo deseado. Y en este caso todav\u00eda hay un ser humano que est\u00e1 al corriente y toma la \u00faltima decisi\u00f3n de vida o muerte.<\/p>\n\n\n\n<p>Las estad\u00edsticas ser\u00e1n mucho peores si sustituimos a este ser humano por un ordenador. Los robots asesinos tambi\u00e9n ser\u00e1n m\u00e1s eficientes a la hora de matarnos. Sin duda los terroristas y los estados bellacos los utilizar\u00e1n contra nosotros. Es evidente que si no los proh\u00edben habr\u00e1 una carrera armamentista. No es exagerado sugerir que esta ser\u00e1 la pr\u00f3xima gran revoluci\u00f3n en los conflictos armados, despu\u00e9s de la p\u00f3lvora y las bombas nucleares. La historia de los conflictos armados es, sobre todo, la de quien puede matar los del otro bando con m\u00e1s eficiencia. Y eso nunca ha sido bueno para la humanidad.<\/p>\n\n\n\n<h5 class=\"wp-block-heading\">Objeci\u00f3n 2. Los robots ser\u00e1n m\u00e1s \u00e9ticos<\/h5>\n\n\n\n<p>En el fragor de la batalla, los seres humanos han cometido muchas atrocidades. Y los robots se pueden programar para seguir unas reglas concretas. No obstante, no tiene ni pies ni cabeza pensar que sabemos construir robots \u00e9ticos. Los investigadores de la IA como yo nada m\u00e1s hemos empezado a preocuparnos por c\u00f3mo se podr\u00eda programar un robot para que tenga un comportamiento \u00e9tico. Tardaremos muchos a\u00f1os en conseguirlo y, aunque lo hacemos, no conocemos ning\u00fan ordenador que no se pueda <em>hackear <\/em>para que act\u00fae de maneras no deseadas. Hoy d\u00eda los robots no pueden hacer las distinciones que las leyes internacionales de la guerra exigen: distinguir entre combatientes y civiles, actuar con proporcionalidad, etc. Es probable que la guerra con robots sea mucho m\u00e1s desagradable que la guerra que hacemos hoy.<\/p>\n\n\n\n<h5 class=\"wp-block-heading\">Objeci\u00f3n 3. Los robots s\u00f3lo pueden luchar contra robots<\/h5>\n\n\n\n<p>Sustituir a los seres humanos por robots en un lugar peligroso como el campo de batalla puede parecer una buena idea. Sin embargo, tambi\u00e9n es rocambolesco suponer que podr\u00edamos hacer que los robots lucharan s\u00f3lo contra otros robots. No hay una parte aislada del mundo que se llame \u00abcampo de batalla\u00bb. Hoy las guerras se luchan en los pueblos y en las ciudades y algunos civiles infortunados quedan atrapados en medio del fuego cruzado. Tristemente, el mundo lo est\u00e1 viendo en Siria y en otros lugares. Hoy nuestros enemigos suelen ser terroristas y estados bellacos. No participar\u00e1n en un combate entre robots. De hecho, se argumenta que el terror desencadenado a distancia por los drones seguramente ha agravado los m\u00faltiples conflictos actuales.<\/p>\n\n\n\n<h5 class=\"wp-block-heading\">Objeci\u00f3n 4. Estos robots ya existen y los necesitamos<\/h5>\n\n\n\n<p>No me supone un problema reconocer que una tecnolog\u00eda como <em>Phalanx<\/em>, el sistema antimisil aut\u00f3nomo que encontramos en muchos barcos, es positiva. No ten\u00e9is tiempo de tomar una decisi\u00f3n humana mientras os defend\u00e9is de un misil supers\u00f3nico que se acerca. Pero el <em>Phalanx <\/em>es un sistema de defensa. Ni mis colegas ni yo pedimos que se proh\u00edban los sistemas de defensa. S\u00f3lo pedimos que se proh\u00edban los sistemas aut\u00f3nomos de ataque, como el robot de vigilancia Samsung que actualmente est\u00e1 activo en la zona desmilitarizada entre las dos Coreas. Este robot matar\u00e1 a cualquier persona que pise la zona desmilitarizada desde una distancia de cuatro kil\u00f3metros con una precisi\u00f3n letal. No hay motivo para no poder prohibir un sistema militar que ya existe. En realidad, pr\u00e1cticamente todas las prohibiciones, como las de las armas qu\u00edmicas o las bombas <em>cluster<\/em>, se aplican a sistemas militares que no s\u00f3lo existen, sino que se han utilizado a la guerra.<\/p>\n\n\n\n<h5 class=\"wp-block-heading\">Objeci\u00f3n 5. Prohibir armas no funciona<\/h5>\n\n\n\n<p>La historia contradir\u00eda este argumento. Gracias al protocolo de las Naciones Unidas sobre armas l\u00e1ser cegadoras (1998), estas armas dise\u00f1adas para provocar la ceguera permanente quedaron fuera del campo de batalla. Si hoy vais a Siria, o a cualquier otra de las zonas en guerra del mundo, no encontrar\u00e9is esta arma y ninguna compa\u00f1\u00eda armamentista del mundo os vender\u00e1. No se puede <em>desinventar <\/em>la tecnolog\u00eda que hay detr\u00e1s de las armas l\u00e1ser cegadoras, pero est\u00e1n lo bastante estigmatizadas para que las compa\u00f1\u00edas armamentistas se hayan mantenido alejadas.<\/p>\n\n\n\n<p>Espero que se estigmatice las armas aut\u00f3nomas de una manera parecida. No podremos desinventar la tecnolog\u00eda, pero podemos estigmatizarlas bastante para que los robots no se militaricen. Incluso una prohibici\u00f3n parcialmente efectiva podr\u00eda valer la pena. Las minas antipersona todav\u00eda existen a pesar del Tratado de Ottawa de 1997, pero se han destruido cuarenta millones. Eso ha hecho que el mundo sea un lugar m\u00e1s seguro y que muchos menos ni\u00f1os pierdan la vida o una extremidad.<\/p>\n\n\n\n<div class=\"wp-block-columns is-layout-flex wp-container-core-columns-is-layout-9d6595d7 wp-block-columns-is-layout-flex\">\n<div class=\"wp-block-column is-layout-flow wp-block-column-is-layout-flow\" style=\"flex-basis:33.33%\">\n<blockquote class=\"wp-block-quote is-style-large is-layout-flow wp-block-quote-is-layout-flow\"><p>No podremos desinventar la tecnolog\u00eda, pero podemos estigmatizarlas bastante para que los robots no se militaricen.<\/p><\/blockquote>\n<\/div>\n\n\n\n<div class=\"wp-block-column is-layout-flow wp-block-column-is-layout-flow\" style=\"flex-basis:66.66%\">\n<p>La IA y la rob\u00f3tica pueden ser \u00fatiles para m\u00faltiples grandes prop\u00f3sitos. La misma tecnolog\u00eda servir\u00e1 para los coches sin conductor y para un dron aut\u00f3nomo. Adem\u00e1s, se prev\u00e9 que cada a\u00f1o los coches sin conductor evitar\u00e1n a 30.000 muertes en carretera en los Estados Unidos. Har\u00e1n que las carreteras, las f\u00e1bricas, las minas y los puertos sean m\u00e1s seguros y eficientes. Har\u00e1n que tengamos una vida m\u00e1s saludable, m\u00e1s rica y m\u00e1s feliz. En el contexto militar, la IA tiene muchos buenos usos. Los robots se pueden utilizar para limpiar campos de minas, transportar provisiones por rutas peligrosas y mover monta\u00f1as de inteligencia de se\u00f1ales. Pero no se tienen que utilizar para matar.<\/p>\n<\/div>\n<\/div>\n\n\n\n<p>Esta cuesti\u00f3n nos deja en una situaci\u00f3n complicada. Creo que se tiene que considerar moralmente inaceptable que las m\u00e1quinas decidan qui\u00e9n vive y qui\u00e9n muere. As\u00ed, nos podemos salvar y salvar a nuestros hijos de este futuro terrible.<\/p>\n\n\n\n<p>En julio de 2015 ayud\u00e9 a redactar una carta abierta a las Naciones Unidas en que se reclamaban medidas y que firmaron miles de mis colegas, otros investigadores de la IA. La carta se hizo p\u00fablica al principio de la conferencia internacional sobre IA m\u00e1s importante que existe. Lamentablemente, las inquietudes que expon\u00edamos en esta carta todav\u00eda se tienen que tratar. De hecho, se han vuelto todav\u00eda m\u00e1s urgentes.<\/p>\n\n\n\n<h5 class=\"wp-block-heading\">Carta abierta del 2015 firmada por miles de investigadores de la IA<\/h5>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\"><p><br>Las armas aut\u00f3nomas seleccionan y atacan objetivos sin la intervenci\u00f3n humana. Estas armas son, por ejemplo, los cuadric\u00f3pteros armados que pueden buscar y eliminar personas que cumplan unos determinados criterios predefinidos, pero no los misiles de crucero o los drones teledirigidos en que los seres humanos toman todas las decisiones. La tecnolog\u00eda de la inteligencia artificial (IA) ha llegado a un punto en que la implantaci\u00f3n de estos sistemas es \u2014virtualmente, si no legalmente\u2014 factible dentro de unos a\u00f1os, no d\u00e9cadas, y nos jugamos mucho: las armas aut\u00f3nomas se han descrito como la tercera revoluci\u00f3n en los conflictos armados, despu\u00e9s de la p\u00f3lvora y las armas nucleares.<\/p><p>Se han expuesto muchos argumentos a favor y en contra de las armas aut\u00f3nomas, como que sustituir a los soldados humanos por m\u00e1quinas es positivo porque se reduce el n\u00famero de bajas, pero negativo porque se rebaja el umbral para ir a la guerra. Hoy la cuesti\u00f3n clave para la humanidad es si se tiene que iniciar una carrera armamentista de la IA a escala mundial o si se tiene que impedir que empiece. Si una gran potencia militar avanza en la creaci\u00f3n de armas con IA, la carrera armamentista mundial es pr\u00e1cticamente inevitable y el final de este recorrido tecnol\u00f3gico es evidente: las armas aut\u00f3nomas se convertir\u00e1n en los kalashnikovs de ma\u00f1ana.<\/p><p>A diferencia de las armas nucleares, no requieren materias primas caras o dif\u00edciles de obtener, de manera que se extender\u00e1n y a las potencias militares importantes les resultar\u00e1 barato producirlas en masa. S\u00f3lo ser\u00e1 cuesti\u00f3n de tiempo que aparezcan en el mercado negro y caigan en manos de terroristas, dictadores que quieran controlar mejor su poblaci\u00f3n, se\u00f1ores de la guerra que quieran perpetrar una limpieza \u00e9tnica, etc. Las armas aut\u00f3nomas son ideales para acciones como cometer asesinatos, desestabilizar estados, someter poblaciones y matar selectivamente un grupo \u00e9tnico en concreto. Por eso, consideramos que la carrera armamentista militar de la IA no es beneficiosa para la humanidad. Hay muchas maneras en que la IA puede hacer que los campos de batalla sean m\u00e1s seguros para las personas, especialmente la poblaci\u00f3n civil, sin crear instrumentos nuevos para matar a la gente.<\/p><p>De la misma manera que la mayor\u00eda de qu\u00edmicos y bi\u00f3logos no tiene ning\u00fan inter\u00e9s en crear armas qu\u00edmicas o biol\u00f3gicas, la mayor\u00eda de investigadores de la IA no tiene ning\u00fan inter\u00e9s en crear armas con IA ni quiere que otros manchen su \u00e1mbito de estudio haci\u00e9ndolo. Eso podr\u00eda provocar una fuerte respuesta de la sociedad contra la IA que limitar\u00eda los futuros beneficios sociales. De hecho, qu\u00edmicos y bi\u00f3logos han dado un amplio apoyo a los acuerdos internacionales que han conseguido prohibir las armas qu\u00edmicas y biol\u00f3gicas, de la misma manera que una gran parte de los f\u00edsicos ha dado apoyo a los tratados que proh\u00edben las armas nucleares espaciales y las armas l\u00e1ser cegadoras.<\/p><p>En resumen, creemos que la IA tiene un gran potencial para beneficiar la humanidad de muchas maneras y que este tiene que ser el objetivo de esta disciplina. Iniciar una carrera armamentista militar de IA es mala idea y se tiene que impedir prohibiendo las armas aut\u00f3nomas de ataque sin un control humano significativo.<\/p><\/blockquote>\n\n\n\n<p>Os animo a uniros a la campa\u00f1a mundial para hacer que el mundo sea un lugar mejor con la prohibici\u00f3n de estas armas.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>El mundo tiene que tomar una decisi\u00f3n muy importante sobre el futuro de los conflictos armados. Eso no se debe al movimiento pol\u00edtico creciente contra las armas aut\u00f3nomas. Veintiocho pa\u00edses han pedido en la ONU que proh\u00edba estas armas de manera preventiva. Recientemente, el Parlamento Europeo vot\u00f3 a favor de esta prohibici\u00f3n y el ministro de Asuntos Exteriores alem\u00e1n, Heiko Maas, reclam\u00f3 la colaboraci\u00f3n internacional para la regulaci\u00f3n de las armas aut\u00f3nomas. Y la misma semana que Maas hizo un llamamiento a la acci\u00f3n, Jap\u00f3n dio apoyo a los esfuerzos internacionales por regular la producci\u00f3n de armas aut\u00f3nomas letales a\u2026<\/p>\n","protected":false},"author":6,"featured_media":9309,"parent":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"inline_featured_image":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[202],"tags":[],"segment":[],"subject":[],"class_list":["post-10406","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uso-militar-ia-es"],"acf":[],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.0 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>Killer robots &#8211; IDEES<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/revistaidees.cat\/es\/killer-robots\/\" \/>\n<meta property=\"og:locale\" content=\"es_ES\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Killer robots &#8211; IDEES\" \/>\n<meta property=\"og:description\" content=\"El mundo tiene que tomar una decisi\u00f3n muy importante sobre el futuro de los conflictos armados. Eso no se debe al movimiento pol\u00edtico creciente contra las armas aut\u00f3nomas. Veintiocho pa\u00edses han pedido en la ONU que proh\u00edba estas armas de manera preventiva. Recientemente, el Parlamento Europeo vot\u00f3 a favor de esta prohibici\u00f3n y el ministro de Asuntos Exteriores alem\u00e1n, Heiko Maas, reclam\u00f3 la colaboraci\u00f3n internacional para la regulaci\u00f3n de las armas aut\u00f3nomas. Y la misma semana que Maas hizo un llamamiento a la acci\u00f3n, Jap\u00f3n dio apoyo a los esfuerzos internacionales por regular la producci\u00f3n de armas aut\u00f3nomas letales a\u2026\" \/>\n<meta property=\"og:url\" content=\"https:\/\/revistaidees.cat\/es\/killer-robots\/\" \/>\n<meta property=\"og:site_name\" content=\"IDEES\" \/>\n<meta property=\"article:published_time\" content=\"2020-02-19T16:22:02+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2020-03-05T16:13:55+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/i0.wp.com\/revistaidees.cat\/wp-content\/uploads\/2020\/02\/AAFF-ARMAS-AUTONOMAS-2000-X-800.jpg?fit=2000%2C800&ssl=1\" \/>\n\t<meta property=\"og:image:width\" content=\"2000\" \/>\n\t<meta property=\"og:image:height\" content=\"800\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Guille Velasco\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Escrito por\" \/>\n\t<meta name=\"twitter:data1\" content=\"Guille Velasco\" \/>\n\t<meta name=\"twitter:label2\" content=\"Tiempo de lectura\" \/>\n\t<meta name=\"twitter:data2\" content=\"17 minutos\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\/\/revistaidees.cat\/es\/killer-robots\/#article\",\"isPartOf\":{\"@id\":\"https:\/\/revistaidees.cat\/es\/killer-robots\/\"},\"author\":{\"name\":\"Guille Velasco\",\"@id\":\"https:\/\/revistaidees.cat\/#\/schema\/person\/adfa7c9b46b4f5aba1a2db263fdfd38f\"},\"headline\":\"Killer robots\",\"datePublished\":\"2020-02-19T16:22:02+00:00\",\"dateModified\":\"2020-03-05T16:13:55+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\/\/revistaidees.cat\/es\/killer-robots\/\"},\"wordCount\":3323,\"image\":{\"@id\":\"https:\/\/revistaidees.cat\/es\/killer-robots\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/i0.wp.com\/revistaidees.cat\/wp-content\/uploads\/2020\/02\/AAFF-ARMAS-AUTONOMAS-2000-X-800.jpg?fit=2000%2C800&ssl=1\",\"articleSection\":[\"Uso militar de la IA\"],\"inLanguage\":\"es\"},{\"@type\":\"WebPage\",\"@id\":\"https:\/\/revistaidees.cat\/es\/killer-robots\/\",\"url\":\"https:\/\/revistaidees.cat\/es\/killer-robots\/\",\"name\":\"Killer robots &#8211; IDEES\",\"isPartOf\":{\"@id\":\"https:\/\/revistaidees.cat\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\/\/revistaidees.cat\/es\/killer-robots\/#primaryimage\"},\"image\":{\"@id\":\"https:\/\/revistaidees.cat\/es\/killer-robots\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/i0.wp.com\/revistaidees.cat\/wp-content\/uploads\/2020\/02\/AAFF-ARMAS-AUTONOMAS-2000-X-800.jpg?fit=2000%2C800&ssl=1\",\"datePublished\":\"2020-02-19T16:22:02+00:00\",\"dateModified\":\"2020-03-05T16:13:55+00:00\",\"author\":{\"@id\":\"https:\/\/revistaidees.cat\/#\/schema\/person\/adfa7c9b46b4f5aba1a2db263fdfd38f\"},\"breadcrumb\":{\"@id\":\"https:\/\/revistaidees.cat\/es\/killer-robots\/#breadcrumb\"},\"inLanguage\":\"es\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/revistaidees.cat\/es\/killer-robots\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"es\",\"@id\":\"https:\/\/revistaidees.cat\/es\/killer-robots\/#primaryimage\",\"url\":\"https:\/\/i0.wp.com\/revistaidees.cat\/wp-content\/uploads\/2020\/02\/AAFF-ARMAS-AUTONOMAS-2000-X-800.jpg?fit=2000%2C800&ssl=1\",\"contentUrl\":\"https:\/\/i0.wp.com\/revistaidees.cat\/wp-content\/uploads\/2020\/02\/AAFF-ARMAS-AUTONOMAS-2000-X-800.jpg?fit=2000%2C800&ssl=1\",\"width\":2000,\"height\":800,\"caption\":\"Araya Peralta\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/revistaidees.cat\/es\/killer-robots\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Inici\",\"item\":\"https:\/\/revistaidees.cat\/es\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Killer robots\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/revistaidees.cat\/#website\",\"url\":\"https:\/\/revistaidees.cat\/\",\"name\":\"IDEES\",\"description\":\"Revista de temas contempor\u00e1neos\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/revistaidees.cat\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"es\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/revistaidees.cat\/#\/schema\/person\/adfa7c9b46b4f5aba1a2db263fdfd38f\",\"name\":\"Guille Velasco\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"es\",\"@id\":\"https:\/\/revistaidees.cat\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/629007751c4a3e3bc4a875f83b1492bf27b7e7eff053528d6942b03ce18e75ad?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/629007751c4a3e3bc4a875f83b1492bf27b7e7eff053528d6942b03ce18e75ad?s=96&d=mm&r=g\",\"caption\":\"Guille Velasco\"}}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Killer robots &#8211; IDEES","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/revistaidees.cat\/es\/killer-robots\/","og_locale":"es_ES","og_type":"article","og_title":"Killer robots &#8211; IDEES","og_description":"El mundo tiene que tomar una decisi\u00f3n muy importante sobre el futuro de los conflictos armados. Eso no se debe al movimiento pol\u00edtico creciente contra las armas aut\u00f3nomas. Veintiocho pa\u00edses han pedido en la ONU que proh\u00edba estas armas de manera preventiva. Recientemente, el Parlamento Europeo vot\u00f3 a favor de esta prohibici\u00f3n y el ministro de Asuntos Exteriores alem\u00e1n, Heiko Maas, reclam\u00f3 la colaboraci\u00f3n internacional para la regulaci\u00f3n de las armas aut\u00f3nomas. Y la misma semana que Maas hizo un llamamiento a la acci\u00f3n, Jap\u00f3n dio apoyo a los esfuerzos internacionales por regular la producci\u00f3n de armas aut\u00f3nomas letales a\u2026","og_url":"https:\/\/revistaidees.cat\/es\/killer-robots\/","og_site_name":"IDEES","article_published_time":"2020-02-19T16:22:02+00:00","article_modified_time":"2020-03-05T16:13:55+00:00","og_image":[{"width":2000,"height":800,"url":"https:\/\/i0.wp.com\/revistaidees.cat\/wp-content\/uploads\/2020\/02\/AAFF-ARMAS-AUTONOMAS-2000-X-800.jpg?fit=2000%2C800&ssl=1","type":"image\/jpeg"}],"author":"Guille Velasco","twitter_card":"summary_large_image","twitter_misc":{"Escrito por":"Guille Velasco","Tiempo de lectura":"17 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/revistaidees.cat\/es\/killer-robots\/#article","isPartOf":{"@id":"https:\/\/revistaidees.cat\/es\/killer-robots\/"},"author":{"name":"Guille Velasco","@id":"https:\/\/revistaidees.cat\/#\/schema\/person\/adfa7c9b46b4f5aba1a2db263fdfd38f"},"headline":"Killer robots","datePublished":"2020-02-19T16:22:02+00:00","dateModified":"2020-03-05T16:13:55+00:00","mainEntityOfPage":{"@id":"https:\/\/revistaidees.cat\/es\/killer-robots\/"},"wordCount":3323,"image":{"@id":"https:\/\/revistaidees.cat\/es\/killer-robots\/#primaryimage"},"thumbnailUrl":"https:\/\/i0.wp.com\/revistaidees.cat\/wp-content\/uploads\/2020\/02\/AAFF-ARMAS-AUTONOMAS-2000-X-800.jpg?fit=2000%2C800&ssl=1","articleSection":["Uso militar de la IA"],"inLanguage":"es"},{"@type":"WebPage","@id":"https:\/\/revistaidees.cat\/es\/killer-robots\/","url":"https:\/\/revistaidees.cat\/es\/killer-robots\/","name":"Killer robots &#8211; IDEES","isPartOf":{"@id":"https:\/\/revistaidees.cat\/#website"},"primaryImageOfPage":{"@id":"https:\/\/revistaidees.cat\/es\/killer-robots\/#primaryimage"},"image":{"@id":"https:\/\/revistaidees.cat\/es\/killer-robots\/#primaryimage"},"thumbnailUrl":"https:\/\/i0.wp.com\/revistaidees.cat\/wp-content\/uploads\/2020\/02\/AAFF-ARMAS-AUTONOMAS-2000-X-800.jpg?fit=2000%2C800&ssl=1","datePublished":"2020-02-19T16:22:02+00:00","dateModified":"2020-03-05T16:13:55+00:00","author":{"@id":"https:\/\/revistaidees.cat\/#\/schema\/person\/adfa7c9b46b4f5aba1a2db263fdfd38f"},"breadcrumb":{"@id":"https:\/\/revistaidees.cat\/es\/killer-robots\/#breadcrumb"},"inLanguage":"es","potentialAction":[{"@type":"ReadAction","target":["https:\/\/revistaidees.cat\/es\/killer-robots\/"]}]},{"@type":"ImageObject","inLanguage":"es","@id":"https:\/\/revistaidees.cat\/es\/killer-robots\/#primaryimage","url":"https:\/\/i0.wp.com\/revistaidees.cat\/wp-content\/uploads\/2020\/02\/AAFF-ARMAS-AUTONOMAS-2000-X-800.jpg?fit=2000%2C800&ssl=1","contentUrl":"https:\/\/i0.wp.com\/revistaidees.cat\/wp-content\/uploads\/2020\/02\/AAFF-ARMAS-AUTONOMAS-2000-X-800.jpg?fit=2000%2C800&ssl=1","width":2000,"height":800,"caption":"Araya Peralta"},{"@type":"BreadcrumbList","@id":"https:\/\/revistaidees.cat\/es\/killer-robots\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Inici","item":"https:\/\/revistaidees.cat\/es\/"},{"@type":"ListItem","position":2,"name":"Killer robots"}]},{"@type":"WebSite","@id":"https:\/\/revistaidees.cat\/#website","url":"https:\/\/revistaidees.cat\/","name":"IDEES","description":"Revista de temas contempor\u00e1neos","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/revistaidees.cat\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"es"},{"@type":"Person","@id":"https:\/\/revistaidees.cat\/#\/schema\/person\/adfa7c9b46b4f5aba1a2db263fdfd38f","name":"Guille Velasco","image":{"@type":"ImageObject","inLanguage":"es","@id":"https:\/\/revistaidees.cat\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/629007751c4a3e3bc4a875f83b1492bf27b7e7eff053528d6942b03ce18e75ad?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/629007751c4a3e3bc4a875f83b1492bf27b7e7eff053528d6942b03ce18e75ad?s=96&d=mm&r=g","caption":"Guille Velasco"}}]}},"jetpack_featured_media_url":"https:\/\/i0.wp.com\/revistaidees.cat\/wp-content\/uploads\/2020\/02\/AAFF-ARMAS-AUTONOMAS-2000-X-800.jpg?fit=2000%2C800&ssl=1","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/revistaidees.cat\/es\/wp-json\/wp\/v2\/posts\/10406","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/revistaidees.cat\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/revistaidees.cat\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/revistaidees.cat\/es\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/revistaidees.cat\/es\/wp-json\/wp\/v2\/comments?post=10406"}],"version-history":[{"count":2,"href":"https:\/\/revistaidees.cat\/es\/wp-json\/wp\/v2\/posts\/10406\/revisions"}],"predecessor-version":[{"id":10416,"href":"https:\/\/revistaidees.cat\/es\/wp-json\/wp\/v2\/posts\/10406\/revisions\/10416"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/revistaidees.cat\/es\/wp-json\/wp\/v2\/media\/9309"}],"wp:attachment":[{"href":"https:\/\/revistaidees.cat\/es\/wp-json\/wp\/v2\/media?parent=10406"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/revistaidees.cat\/es\/wp-json\/wp\/v2\/categories?post=10406"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/revistaidees.cat\/es\/wp-json\/wp\/v2\/tags?post=10406"},{"taxonomy":"segment","embeddable":true,"href":"https:\/\/revistaidees.cat\/es\/wp-json\/wp\/v2\/segment?post=10406"},{"taxonomy":"subject","embeddable":true,"href":"https:\/\/revistaidees.cat\/es\/wp-json\/wp\/v2\/subject?post=10406"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}