Al hablar de la relaci\u00f3n entre derechos humanos e inteligencia artificial (IA), lo m\u00e1s com\u00fan actualmente es preguntarse c\u00f3mo la IA afecta a los derechos humanos. De hecho, existe un grupo concreto de derechos humanos que constantemente se se\u00f1ala como el m\u00e1s expuesto a estas afectaciones; por tanto, su protecci\u00f3n en la gobernanza y la regulaci\u00f3n de la inteligencia artificial se considera prioritaria. Es el caso de la privacidad y la protecci\u00f3n de datos, la libertad de expresi\u00f3n y el acceso a la informaci\u00f3n, la igualdad y la no discriminaci\u00f3n.<\/p>\n\n\n\n
Que estos derechos humanos y no otros est\u00e9n constantemente en el centro de atenci\u00f3n parece normal si se entiende que, para su dise\u00f1o, desarrollo y despliegue, la inteligencia artificial necesita datos, que son la materia prima con la que alimenta los algoritmos para poner en marcha cualquier IA. Es por ello que conocer la forma en que se obtienen estos datos (si es con o sin autorizaci\u00f3n), c\u00f3mo se almacenan y c\u00f3mo se utilizan, qu\u00e9 parte se utiliza o se excluye, cu\u00e1les no se recogen, c\u00f3mo se difunden o comparten, etc., son aspectos de gran importancia. Al final, los datos son informaci\u00f3n relevante sobre la vida y las actividades que desarrollamos las personas.<\/p>\n\n\n\n
Ante esto, lo que menos nos hemos preguntado es si los derechos humanos necesitan la inteligencia artificial. Es decir, si es necesario disponer de la IA para ejercer algunos o todos nuestros derechos humanos, porque es aqu\u00ed donde el n\u00famero de derechos humanos susceptibles de estar afectados por la inteligencia artificial se ampliar\u00eda, puesto que no s\u00f3lo estar\u00edamos hablando temas en torno a los datos, sino que se podr\u00eda incidir en el disfrute, ejercicio y garant\u00eda de otros derechos.<\/p>\n\n\n\n
As\u00ed, por ejemplo, \u00bfnecesitamos la inteligencia artificial para garantizar el derecho a la vivienda? \u00bfNecesitamos la IA para ejercer la libertad de circulaci\u00f3n? \u00bfNecesitamos la IA para ejercer y garantizar el acceso a la justicia? La respuesta a estas preguntas, si se piensa en la pretendida universalidad de los derechos humanos, no es sencilla y dif\u00edcilmente puede ser absoluta en sentido positivo o negativo, por lo que es importante reflexionar en torno a esto.<\/p>\n\n\n\n
En 2023 bien podemos afirmar que la relaci\u00f3n entre derechos humanos e inteligencia artificial es m\u00e1s de una \u201cvecina lejana\u201d que de un \u201ccompromiso mutuo\u201d. Esto es as\u00ed porque aunque derechos humanos e IA viven en el mismo mundo y se conocen en t\u00e9rminos gen\u00e9ricos, han interactuado poco de forma cercana, a pesar de los m\u00faltiples esfuerzos, especialmente desde organismos internacionales de derechos humanos, [1]<\/a>1 \u2014 V\u00e9ase, por ejemplo: Comisaria de Derechos Humanos del Consejo de Europa (2023). Human rights by design future-proofing human rights protection in the era of AI. Estrasburgo: Consejo de Europa.\n<\/span><\/span> para que se conozcan mejor y colaboren mutuamente.<\/p>\n\n\n\n Quienes trabajamos en el \u00e1mbito de los derechos humanos, con el paso de los a\u00f1os \u2014y al ver c\u00f3mo la IA llegaba a m\u00e1s \u00e1mbitos del ejercicio, disfrute y garant\u00eda de estos derechos\u2014 nos hemos ido acercando, muchas veces sin entender en detalle y en profundidad todo lo que implica. Por otra parte, quienes trabajan en el sector de la inteligencia artificial se han interesado poco en los derechos humanos y han preferido mirar a la \u00e9tica cuando se les han cuestionado los efectos negativos que puede tener la IA en la vida de las personas.<\/p>\n\n\n\n Por todo ello, podemos afirmar que la relaci\u00f3n entre la IA y los derechos humanos todav\u00eda est\u00e1 en construcci\u00f3n, a pesar de su gran relevancia: pr\u00e1cticamente en todos los \u00e1mbitos donde se est\u00e1 implementando la inteligencia artificial existe un derecho humano vinculado, directa o indirectamente. S\u00ed, esa afirmaci\u00f3n no es exagerada. El problema es que muchas veces no vemos esta vinculaci\u00f3n porque perdemos de vista que, por ejemplo, al pretender utilizar un transporte p\u00fablico donde existen aplicaciones de IA se podr\u00eda estar incidiendo en el ejercicio y garant\u00eda de nuestros derechos humanos a la libertad de circulaci\u00f3n, privacidad, no discriminaci\u00f3n o reconocimiento de la personalidad jur\u00eddica, entre otros. Y as\u00ed en muchas actividades cotidianas.<\/p>\n\n\n\n La relaci\u00f3n entre la inteligencia artificial y los derechos humanos todav\u00eda est\u00e1 en construcci\u00f3n, a pesar de su gran relevancia: pr\u00e1cticamente en todos los \u00e1mbitos donde se est\u00e1 implementando la inteligencia artificial existe un derecho humano vinculado<\/p>\n<\/blockquote>\n<\/div>\n\n\n\n En este sentido, la relaci\u00f3n entre derechos humanos y la inteligencia artificial es muy importante y debe ser prioritaria. Es necesario que haya m\u00e1s interacci\u00f3n entre la comunidad de derechos humanos y de la IA para que el desarrollo tecnol\u00f3gico no se cree sin la comunidad de derechos humanos. Especialmente porque la \u00e9tica a la que se apela como forma de autorregulaci\u00f3n desde la inteligencia artificial (empresas, centros de investigaci\u00f3n, academias de ciencias, as\u00ed como algunos estados, organizaciones internacionales y asociaciones de la sociedad civil ) es insuficiente para prevenir y evitar los posibles efectos negativos de la IA en las personas.<\/p>\n\n\n\n As\u00ed, resulta evidente que en la relaci\u00f3n entre la IA y los derechos humanos queda mucho por hacer y que, en el futuro pr\u00f3ximo, deber\u00eda ser una relaci\u00f3n de compromiso mutuo por todo lo que se explicar\u00e1 a continuaci\u00f3n.<\/p>\n<\/div>\n<\/div>\n\n\n\n En el mundo, quien m\u00e1s IA produce son las empresas, entre las que destacan Google, Amazon, Apple, Microsoft, Meta, Baidu, Alibaba y Tencent. Esto significa que el grueso de la inteligencia artificial se est\u00e1 produciendo en Estados Unidos y China, o bajo intereses econ\u00f3micos de personas con estas nacionalidades. De ah\u00ed que parezca evidente que son estas empresas las que han ido estableciendo en la pr\u00e1ctica su propia regulaci\u00f3n y el marco de actuaci\u00f3n vinculado con la IA. Esto, sin duda, influye tambi\u00e9n en peque\u00f1as empresas y en toda la generaci\u00f3n (o mercado) de la IA. Por este motivo, justamente desde muchos \u00e1mbitos vinculados con sectores dominantes de la IA (empresas, centros de investigaci\u00f3n, academias especializadas y asociaciones vinculadas con todos los \u00e1mbitos anteriores) se propone insistentemente la \u00e9tica como marco \u00f3ptimo de regulaci\u00f3n que puede garantizar derechos y no pone en riesgo la libertad de empresa, la propiedad intelectual y, por lo general, sus leg\u00edtimos intereses econ\u00f3micos, de innovaci\u00f3n o de negocio.<\/p>\n\n\n\n Si no fuera as\u00ed, no se entender\u00eda por qu\u00e9 Europa \u2014donde el poder econ\u00f3mico y pol\u00edtico de quienes producen IA es a\u00fan menor\u2014 es la \u00fanica regi\u00f3n del mundo donde, en 2023, se est\u00e1 avanzando en una regulaci\u00f3n de la IA con una mirada m\u00e1s cercana a los derechos humanos, abandonando las simples regulaciones \u00e9ticas. Es cierto que existen obst\u00e1culos, y que ciertos aspectos requerir\u00e1n an\u00e1lisis m\u00e1s completos y ajustes, especialmente si uno de los objetivos es la protecci\u00f3n de los derechos fundamentales de las personas.<\/p>\n\n\n\n En este contexto, la \u00e9tica en la inteligencia artificial que se impulsa y quiere establecerse como marco de regulaci\u00f3n y prevenci\u00f3n de afectaciones a las personas se muestra como cambiante, maleable, parcial e incierta, y permite la impunidad en casos de incumplimiento. Esto es especialmente as\u00ed cuando son las grandes empresas, con sus intereses econ\u00f3micos o de negocio, las que finalmente establecen esta \u00e9tica o las que proponen sus par\u00e1metros y \u00e1mbitos de aplicaci\u00f3n.<\/p>\n\n\n\n Ante esto, tenemos los derechos humanos, que, en primer lugar, nos permiten presuponer que se han resuelto cierto conjunto de debates filos\u00f3ficos para concretarlos e identificarlos. En segundo lugar, representan acuerdos m\u00ednimos sobre valores universales (aunque no lo sean todos) en forma de derechos y libertades, por lo que sabemos con mucha certeza qu\u00e9 derechos existen, [2]<\/a>2 \u2014 Risse, Mathias (2018). \u201cHuman Rights and Artificial Intelligence: An Urgently Needed Agenda\u201d. HKS Faculty Research Working Paper Series. RWP18-015, p. 10.\n<\/span><\/span> qu\u00e9 alcance tienen, d\u00f3nde est\u00e1n reconocidos y qui\u00e9n debe respetarlos, protegerlos y garantizarlos.<\/p>\n\n\n\n Adem\u00e1s, el apoyo mundial a estos derechos es bastante amplio: existen aspectos comunes en normas nacionales e internacionales de muchas regiones del mundo. As\u00ed, estas empresas (y otras que tambi\u00e9n producen IA), como cualquier otra persona, tienen responsabilidades frente a los derechos humanos de los dem\u00e1s a partir del contenido que establecen las leyes a nivel nacional en materia civil, laboral, administrativa y penal, y tambi\u00e9n con las derivadas de normas nacionales e internacionales de derechos humanos, aunque esto se niegue constantemente y se eluda por parte de todo tipo de empresas; tanto es as\u00ed que hubo la necesidad de desarrollar los principios rectores sobre las empresas y los derechos humanos de Naciones Unidas como un intento de reafirmar este conjunto de m\u00ednimos a observar.<\/p>\n\n\n\n As\u00ed pues, los derechos humanos en el \u00e1mbito de la inteligencia artificial deben tener, en primer lugar, una incidencia principal en todo lo relacionado con los datos que utiliza la IA para los derechos que podr\u00edan verse afectados (la privacidad y la protecci\u00f3n de datos, la libertad de expresi\u00f3n y el acceso a la informaci\u00f3n, la igualdad y la no discriminaci\u00f3n). En segundo lugar, tambi\u00e9n deben tener influencia en los \u00e1mbitos en los que puede ser aplicada la IA, es decir, respecto a las preguntas y respuestas que los diferentes algoritmos dar\u00e1n como resultado, ya que es aqu\u00ed donde se puede incidir en muchos m\u00e1s derechos.<\/p>\n\n\n\n Si nos fijamos en la primera perspectiva vinculada a los datos, por ejemplo, siempre ser\u00e1 mejor aplicar los est\u00e1ndares internacionales de derechos humanos que se han ido creando, desarrollando y actualizando respecto al derecho a la vida privada, ya que tienen unos par\u00e1metros claros cuando se trata de personas p\u00fablicas y personas comunes, y tienen definida qu\u00e9 parte de este derecho no puede transgredirse en ning\u00fan caso. Aplicar estos est\u00e1ndares es preferible a dejar que una empresa o persona valore o eval\u00fae \u00e9ticamente qu\u00e9 es lo que se considera \u201c\u00e9ticamente adecuado\u201d que se sepa, divulga o utilice de la vida privada de una persona o de un conjunto de personas sobre las que se han recogido una serie de datos con su o sin consentimiento total.<\/p>\n\n\n\n Desde la segunda perspectiva, y como ya se intenta hacer en la propuesta de regulaci\u00f3n europea, es necesario definir los \u00e1mbitos en los que los derechos humanos se encuentran en riesgo evidente y, por tanto, tambi\u00e9n los par\u00e1metros sobre los que se debe limitar el uso y desarrollo de la inteligencia artificial. En el caso de Europa, por ejemplo, a partir del establecimiento de \u201cniveles de riesgo\u201d, [3]<\/a>3 \u2014 Comisi\u00f3n Europea (2020). White Paper on Artificial Intelligence: a European approach to excellence and trust. Bruselas.\n<\/span><\/span> todos los sistemas de IA que supongan una amenaza clara para la seguridad, los medios de vida y los derechos de las personas se consideran un riesgo inaceptable: desde la puntuaci\u00f3n social por parte de los gobiernos hasta los juguetes que hacen uso de asistentes de voz, las cuales fomentan comportamientos peligrosos. Hacer valoraciones \u00e9ticas ad hoc<\/em> de estas cuestiones no garantiza unos m\u00ednimos de certeza y seguridad jur\u00eddica, aunque estas valoraciones se hagan con buena voluntad.<\/p>\n\n\n\n As\u00ed, en la Uni\u00f3n Europea, a partir del establecimiento de \u00e1mbitos de alto riesgo, riesgo limitado y riesgo nulo, se ha propuesto que se proh\u00edba el uso de la inteligencia artificial en sistemas de categorizaci\u00f3n biom\u00e9trica que realicen servir a caracter\u00edsticas personales sensibles como el g\u00e9nero, la raza, la etnia, la religi\u00f3n o la orientaci\u00f3n pol\u00edtica. Asimismo, estar\u00edan prohibidos los sistemas predictivos de vigilancia para evaluar el riesgo de una persona o grupo de personas de cometer un delito u ofensa, as\u00ed como los sistemas de reconocimiento de emociones por parte tanto de la polic\u00eda como de los agentes de fronteras, o en puestos de trabajo y escuelas. De igual forma, se limitar\u00e1 el rastreo aleatorio de datos biom\u00e9tricos de redes sociales o c\u00e1maras de vigilancia para crear o ampliar bases de datos de reconocimiento facial. Con todo, parece claro que existen \u00e1mbitos de los derechos humanos donde claramente la IA debe estar vetada, por m\u00e1s que \u00e9ticamente alguien pudiera considerar admisible que entrara.<\/p>\n\n\n\n La \u00e9tica como forma de autorregulaci\u00f3n de la inteligencia artificial es insuficiente para prevenir los efectos negativos en las personas<\/p>\n<\/blockquote>\n<\/div>\n\n\n\n Desde una perspectiva empresarial, de negocio, estrictamente econ\u00f3mica y mercantilista capitalista, el establecimiento de \u00e1mbitos prohibidos para la IA puede considerarse una intromisi\u00f3n grave. De ah\u00ed, en parte, la insistencia por apostar por las regulaciones \u00e9ticas. Pero desde la perspectiva de la protecci\u00f3n de los derechos humanos, es evidente que hay unos m\u00ednimos de estos derechos y libertades que deben ser innegociables, al igual que tambi\u00e9n existen l\u00edmites para no vulnerar los derechos humanos en muchos otros \u00e1mbitos en el \u201cmundo anal\u00f3gico\u201d en el que hemos vivido hasta ahora.<\/p>\n<\/div>\n<\/div>\n\n\n\n En el sector de la inteligencia artificial, los espacios en los que hay que tener en cuenta los derechos humanos parecen claros. Ahora, sin embargo, es necesario analizar una perspectiva menos explorada: en el \u00e1mbito de los derechos humanos, \u00bfes necesario que la IA est\u00e9 presente? O, dicho de otro modo, \u00bfes necesaria la IA para el ejercicio de algunos o de todos nuestros derechos humanos?<\/p>\n\n\n\n Si tomamos en consideraci\u00f3n el hecho de que, en su origen, los derechos humanos no necesitaron la inteligencia artificial para su ejercicio, garant\u00eda y protecci\u00f3n, en 2023, y de cara al futuro, no parece imprescindible el uso de esta tecnolog\u00eda para estos fines, salvo que la inteligencia artificial permita asegurar la pretendida universalidad de los derechos humanos que, 75 a\u00f1os despu\u00e9s de la aprobaci\u00f3n de la Declaraci\u00f3n Universal de los Derechos Humanos, sigue siendo un tema pendiente en todas las regiones del mundo.<\/p>\n\n\n\n En cualquier caso, determinar si la inteligencia artificial es necesaria para el ejercicio, garant\u00eda y protecci\u00f3n de los derechos humanos no puede partir de una conclusi\u00f3n general para todos los derechos, sino que requiere el an\u00e1lisis de cada uno de los derechos reconocidos a nivel nacional e internacional para determinar, a partir de sus elementos y caracterizaci\u00f3n, si la IA es necesaria o \u00fatil. Incluso requiere un an\u00e1lisis m\u00e1s particular del lugar o pa\u00eds en cuesti\u00f3n, ya que existen lugares en el mundo donde el acceso a internet no est\u00e1 garantizado, con lo que pensar en la IA ser\u00eda multiplicar las desigualdades. [4]<\/a>4 \u2014 Castilla, Karlos (2022). Cuatro \u00e1ngulos de an\u00e1lisis de la igualdad y la no discriminaci\u00f3n en la inteligencia artificial, Barcelona: Instituto de Derechos Humanos de Catalu\u00f1a, p. 6.\n<\/span><\/span><\/p>\n\n\n\n El an\u00e1lisis particular de los derechos es muy importante porque, por ejemplo, no es lo mismo el ejercicio del derecho a la protesta pac\u00edfica que el ejercicio del derecho a la vivienda. Protestar podr\u00edamos hacerlo con impactos id\u00e9nticos a los del mundo anal\u00f3gico o, incluso, podr\u00eda pensarse, en algunos casos, en efectos m\u00e1s focalizados, si se hace en entornos virtuales o digitales, mientras se cumpla con las finalidades del derecho. Pero siempre ser\u00eda insuficiente disponer de una vivienda en estos mismos entornos si en la realidad anal\u00f3gica no se tiene o si ni siquiera se puede acceder porque no podemos utilizar la aplicaci\u00f3n que nos lo permitir\u00eda, o porque la aplicaci\u00f3n citada nos excluye sin ninguna justificaci\u00f3n razonable por las caracter\u00edsticas y datos con los que funciona el algoritmo.<\/p>\n\n\n\n En este sentido, es relevante se\u00f1alar que el hecho de que no exista una inteligencia artificial determinada para el ejercicio, la garant\u00eda y la protecci\u00f3n de un derecho espec\u00edfico no debe considerarse per se<\/em> como un aspecto negativo. Debemos asumir y entender que no todos los derechos humanos necesitan el uso de la IA para ser efectivamente ejercidos, garantizados y protegidos. M\u00e1s bien lo que ocurre es que si en el mundo anal\u00f3gico hay personas que est\u00e1n siendo excluidas o no pueden ejercer un derecho determinado, con mucha probabilidad tambi\u00e9n ser\u00e1 as\u00ed con el uso de aplicaciones de inteligencia artificial.<\/p>\n\n\n\n Fij\u00e9monos, por ejemplo, en el acceso a la justicia. En el mundo real anal\u00f3gico, actualmente muchas personas no tienen garantizado de forma efectiva este derecho por m\u00faltiples razones, incluso en pa\u00edses llamados desarrollados, [5]<\/a>5 \u2014 Deseau, Arnaud; Levai, Adam; Schmiegelow, Mich\u00e8le (2019). \u201cAccess to Justice and Economic Development: Evidence from an International Panel Dataset\u201d. LIDAM Discussion Papers IRES, 2019009. Lovaina: Universidad Cat\u00f3lica de Lovaina, Institut de Recherches Economiques et Sociales (IRES).\n<\/span><\/span> por lo que la implementaci\u00f3n de una \u00abjusticia digital\u00bb o de \u00abtribunales automatizados\u00bb no es en s\u00ed misma una soluci\u00f3n a ese problema. Menos a\u00fan si el acceso a estas aplicaciones digitales debe hacer frente a las mismas barreras de acceso que la justicia anal\u00f3gica. [6]<\/a>6 \u2014 Castilla, Karlos (2012). Acceso efectivo a la justicia: elementos y caracterizaci\u00f3n. M\u00e9xico: Porrua\n<\/span><\/span> Por tanto, muy posiblemente tan s\u00f3lo es una buena opci\u00f3n para quienes ya acced\u00edan a la \u201cjusticia anal\u00f3gica\u201d.<\/p>\n\n\n\n Sin embargo, tampoco supone necesariamente una soluci\u00f3n para quienes ya acced\u00edan a la justicia si esta \u201cjusticia digital\u201d es incapaz de asegurar las garant\u00edas judiciales que se requieren en todo proceso (la imparcialidad del juez, la publicidad del proceso , la posibilidad de asistencia de un abogado, la prohibici\u00f3n de dilaciones indebidas y la utilizaci\u00f3n de los medios de prueba disponibles, entre otros). As\u00ed pues, debemos tener cuidado con lo que muchas veces se promueve como \u201cmodernidad\u201d, porque no necesariamente implica acceder a los derechos humanos, ejercerlos y respetarlos de manera efectiva.<\/p>\n\n\n\n Es importante decidir el uso de la inteligencia artificial pensando en los derechos humanos. Si s\u00f3lo pensamos en la modernidad, existen muchas probabilidades de que simplemente se est\u00e9n creando formas modernas de exclusi\u00f3n<\/p>\n<\/blockquote>\n<\/div>\n\n\n\n Ante esta situaci\u00f3n, es importante decidir el uso de la inteligencia artificial pensando en los derechos humanos, para valorar si la IA aporta o no algo mejor a lo que ya existe en el mundo anal\u00f3gico para su ejercicio, garant\u00eda y protecci\u00f3n. Es decir, no hay que tener miedo a decir que no a una aparente modernidad que no aportar\u00e1 nada positivo a los derechos humanos, y mucho menos cuando quien lo ofrece son empresas a las que importa su negocio y no la universalidad de los derechos humanos.<\/p>\n\n\n\n En el ejemplo anterior, puede haber aspectos concretos de este acceso a la justicia o tutela judicial en los que la IA resulte \u00fatil, como podr\u00eda ser, por ejemplo, la gesti\u00f3n de expedientes, el acceso a estos expedientes, la gesti\u00f3n de informaci\u00f3n o la soluci\u00f3n de problemas simples. [7]<\/a>7 \u2014 Reiling, Dory (2020). \u201cCourts and Artificial Intelligence\u201d. International Journal for Court Administration 8. 11(2), p. 10.\n<\/span><\/span> Pero esto no significa que sea \u00fatil para todo lo que implica y debe contener el derecho.<\/p>\n<\/div>\n<\/div>\n\n\n\n Tampoco podemos esperar que toda decisi\u00f3n respecto a un derecho humano recaiga en la inteligencia artificial, ya que, por m\u00e1s datos que haya, la intervenci\u00f3n humana siempre ser\u00e1 relevante en la asignaci\u00f3n individual de derechos y libertades. Por todo ello, parece innegable que la IA puede ayudar con consejos, sugerencias y par\u00e1metros a la hora de tener una mejor comprensi\u00f3n de situaciones o conseguir informaci\u00f3n relevante, pero la decisi\u00f3n final no debe depender exclusivamente de esta tecnolog\u00eda.<\/p>\n\n\n\n Para determinar si necesitamos la IA para el ejercicio, garant\u00eda y protecci\u00f3n de un derecho espec\u00edfico o de una libertad concreta, es recomendable plantearse, al menos, las siguientes preguntas:<\/p>\n\n\n\n\n
Derechos humanos en el \u00e1mbito de la inteligencia artificial: \u00bfd\u00f3nde queda la \u00e9tica?<\/h5>\n\n\n\n
\n
La inteligencia artificial en el \u00e1mbito de los derechos humanos<\/h5>\n\n\n\n
\n
\n
<\/li>\n\n\n\n
<\/li>\n\n\n\n
<\/li>\n\n\n\n
<\/li>\n\n\n\n
Si antes de decidir que el derecho a la salud, el derecho al trabajo, el derecho a la educaci\u00f3n, la libertad de expresi\u00f3n, el derecho de acceso a la informaci\u00f3n, el derecho a la nacionalidad o la libertad de circulaci\u00f3n se ejercer\u00e1n, se garantizar\u00e1n o se proteger\u00e1n por medio de la inteligencia artificial nos planteamos las preguntas anteriores, posiblemente se podr\u00e1n reducir o evitar nuevas afectaciones a los derechos humanos. De lo contrario, si s\u00f3lo pensamos en la \u00abmodernidad\u00bb, existen muchas probabilidades de que simplemente se est\u00e9n creando formas \u00abmodernas\u00bb de exclusi\u00f3n y vulneraci\u00f3n de derechos humanos.<\/p>\n\n\n\nConclusi\u00f3n<\/h5>\n\n\n\n