MILENA COSTAS TRASCASAS<\/p>\n\n\n\n
Experta Independiente del Comit\u00e9 Asesor del Consejo de Derechos Humanos, ONU<\/p>\n\n\n\n
Title: Technology and Inequality: Technological Governance as a New Paradigm of International Security<\/pre>\n\n\n\nResumen: En este trabajo examinamos el impacto que la introducci\u00f3n de las tecnolog\u00edas digitales y la inteligencia artificial est\u00e1 teniendo en materia de igualdad y discriminaci\u00f3n. El an\u00e1lisis de la arquitectura global de gobernanza existente, y de las propuestas para su remodelaci\u00f3n, demuestra que existen numerosos aspectos que a\u00fan no se encuentran lo suficientemente desarrollados, lo que produce el riesgo de exacerbar las desigualdades y perpetuar las discriminaciones. La regulaci\u00f3n de las actividades de las empresas multinacionales para anticipar y mitigar los impactos negativos sobre los derechos humanos que se derivan de las mismas y para que rindan cuentas por posibles da\u00f1os, se presenta como elemento esencial en este contexto. Igualmente se precisa la adopci\u00f3n de acuerdos internacionales que se apliquen con car\u00e1cter general a aquellas tecnolog\u00edas que, por su propia naturaleza, tienen el potencial de poner en riesgo la paz y la seguridad internacionales. Este proceso debe perseguir el objetivo de ofrecer igualdad de oportunidades a los ciudadanos, la protecci\u00f3n de los valores compartidos entre los Estados y, en definitiva, el bien com\u00fan de la humanidad.<\/p>\n\n\n\n
Palabras clave: Gobernanza Tecnol\u00f3gica Global, Derechos Humanos, Seguridad Internacional, Democracia, Desigualdad, Discriminaci\u00f3n, Acceso a las Nuevas Tecnolog\u00edas.<\/p>\n\n\n\n
Abstract: In this paper we examine the impact that the introduction of digital technologies and artificial intelligence is having on equality and discrimination. The analysis of the existing global governance architecture and proposals for reshaping it shows that there are many aspects that are not yet sufficiently developed. This poses a risk of exacerbating inequalities and perpetuating discrimination. In this context, regulating the activities of multinational companies to anticipate and mitigate the human negative impacts they pose, and to make them accountable for potential damage is essential. It is also necessary to adopt international agreements that apply generally to technologies that, by their very nature, have the potential to jeopardize international peace and security. This process should be rooted in the objective of providing equal opportunities to citizens, the protection of shared values among States, and ultimately, the common good of mankind.<\/p>\n\n\n\n
Keywords: Global Technological Governance, Human Rights, International Security, Democracy, Inequality, Discrimination, Access to New Technologies.<\/p>\n\n\n\n
Para citar este art\u00edculo\/To cite this article<\/strong>: Milena Costas Trascasas, <<Tecnolog\u00eda y desigualdad: la gobernanza tecnol\u00f3gica como nuevo paradigma de la seguridad internacional>>, Revista de Estudios en Seguridad Internacional<\/em>, Vol. 8, No. 2, (2022), pp. 89-107. DOI: http:\/\/dx.doi.org.10.18847\/1.16.6<\/a><\/p>\n\n\n\n
Introducci\u00f3n<\/strong><\/p>\n\n\n\n
El 20 de septiembre de 2022, el Secretario General de la Organizaci\u00f3n de las Naciones Unidas (ONU), Ant\u00f3nio Guterres, en la sesi\u00f3n anual de la Asamblea General, se dirige a los m\u00e1ximos representantes de todos los Estados del mundo. Comienza su discurso con palabras duras y directas. Necesita sacudir la conciencia de la comunidad internacional, para sacarla del estado de aletargamiento en el que parece encontrarse ante un mundo que agoniza. Un mundo, dice, que \u201cvive momentos sumamente dif\u00edciles\u201d: las divisiones se est\u00e1n haciendo m\u00e1s profundas, las desigualdades mayores, los retos se est\u00e1n extendiendo. Estos s\u00edntomas evidencian el estado cr\u00edtico de nuestras sociedades y la imperiosa necesidad de adoptar medidas paliativas y eficaces con car\u00e1cter inmediato.<\/p>\n\n\n\n
Adem\u00e1s de la multiplicaci\u00f3n de los conflictos en todo el mundo, el Secretario General destaca la emergencia clim\u00e1tica, la p\u00e9rdida de biodiversidad, la grave situaci\u00f3n financiera de los pa\u00edses en desarrollo, y el destino de los Objetivos de Desarrollo Sostenible (ODS). Sin embargo, por primera vez, Guterres dirige la atenci\u00f3n de los Estados hacia la nueva crisis que, silenciosamente, ha ido fragu\u00e1ndose en los \u00faltimos a\u00f1os, la que se deriva de los enormes avances tecnol\u00f3gicos. Estos est\u00e1n produci\u00e9ndose a una velocidad pasmosa en ausencia de todo marco regulatorio tanto a nivel nacional como internacional y, por lo tanto, sin que existan salvaguardias adecuadas. Estos desarrollos son de tal magnitud que plantean riesgos sin precedentes para la humanidad.<\/p>\n\n\n\n
Sin embargo, se\u00f1ala, \u201cnuestra comunidad internacional no est\u00e1 preparada o no est\u00e1 dispuesta a afrontar los retos de nuestra \u00e9poca, que son enormes y trascendentes\u201d, y precisa: \u201cNo tenemos ni por asomo una arquitectura global para hacer frente a los numerosos retos y crisis que amenazan el futuro de la humanidad. [\u2026] Estamos bloqueados en una disfunci\u00f3n global de proporciones colosales\u201d, afirma (Guterres, 2022).<\/p>\n\n\n\n
Seis a\u00f1os antes, en enero de 2016, la reuni\u00f3n anual del Foro Econ\u00f3mico Mundial de Davos (Suiza) se dedicaba a la denominada \u201cCuarta Revoluci\u00f3n Industrial\u201d. Los asistentes deb\u00edan reflexionar sobre el potencial, los riesgos y el impacto social de la denominada \u201cindustria 4.0\u201d. En su discurso de inauguraci\u00f3n, el fundador del foro, Klaus Schwab, se\u00f1ala que \u201cnunca antes ha habido un momento m\u00e1s prometedor, o de mayor peligro\u201d. Y explica que esta nueva revoluci\u00f3n, en su forma m\u00e1s pesimista y deshumanizada, tiene el potencial de \u201crobotizar\u201d a la humanidad, de \u201cprivarnos de nuestro coraz\u00f3n y alma\u201d. En su versi\u00f3n positiva, sin embargo, puede servir \u201ccomo complemento de las mejores partes de la naturaleza humana (creatividad, empat\u00eda, administraci\u00f3n)\u201d, elevando as\u00ed a la humanidad a una nueva conciencia colectiva y moral. Schwab finalizaba diciendo que \u201cnos corresponde a todos asegurarnos de que prevalezca lo \u00faltimo\u201d (Schwab, 2016).<\/p>\n\n\n\n
El poder transformativo de las nuevas tecnolog\u00edas<\/strong><\/p>\n\n\n\n
Parece, en efecto, que estamos ante la mayor irrupci\u00f3n transformadora que haya vivido la humanidad desde el surgimiento del Internet. La nueva revoluci\u00f3n es el resultado de la convergencia de los diversos sistemas basados en la infraestructura digital y que hasta ahora se hab\u00edan desarrollado separadamente, entre otros, la rob\u00f3tica, la computaci\u00f3n cu\u00e1ntica, la inteligencia artificial (IA), el internet de las cosas, la nanotecnolog\u00eda y la biotecnolog\u00eda. Lo revolucionario de esta nueva era es que estas tecnolog\u00edas no s\u00f3lo sirven para acompa\u00f1ar al ser humano, contribuyendo a que este optimice su trabajo, sino que ahora se fusionan con la propia actividad humana, e incluso con el cuerpo de la persona. Vienen, por tanto, a desdibujar los l\u00edmites entre los espacios virtual, f\u00edsico y biol\u00f3gico (Jorge Ricart, 2020). Debido a su grado acelerado, vol\u00e1til e impredecible, se afirma que estos nuevos retos \u00fanicamente pueden afrontarse mediante una \u201carquitectura de gobernanza de car\u00e1cter global\u201d.<\/p>\n\n\n\n
Sin duda, estos avances ofrecen unas perspectivas de progreso prometedoras. Se espera que ayuden a superar algunos de los principales desaf\u00edos a los que nos enfrentamos en la actualidad, entre ellos la desigualdad, acelerando la adopci\u00f3n de soluciones. Por otro lado, resulta evidente que estas tecnolog\u00edas tienen la capacidad de introducir cambios profundos en nuestras sociedades, alterando nuestra forma de entender el mundo y, m\u00e1s en general, las relaciones de poder. Su introducci\u00f3n producir\u00e1 transformaciones en muchos \u00e1mbitos de la vida, modificando las formas de organizaci\u00f3n, modelando el comportamiento de las personas, e introduciendo nuevas formas de relaci\u00f3n interpersonales y con las m\u00e1quinas.<\/p>\n\n\n\n
As\u00ed, una de las particularidades de estas tecnolog\u00edas es que todas ellas se apoyan en el proceso denominado de \u201cdatificaci\u00f3n\u201d a trav\u00e9s del cual los sujetos, objetos y pr\u00e1cticas se transforman en datos digitales que sirven para automatizar las acciones y los procesos de toma de decisiones (Comit\u00e9 Asesor del Consejo de Derechos Humanos de la ONU, 2021: p\u00e1rrs. 3-8)[1]<\/a>. Estos procedimientos automatizados, sin embargo, vienen a dificultar considerablemente la capacidad de ofrecer una interpretaci\u00f3n causal de los resultados que se obtienen. De ah\u00ed que conceptos fundamentales para el Estado de Derecho como la transparencia, el control humano, la rendici\u00f3n de cuentas y la responsabilidad se encuentren seriamente cuestionados. Este proceso conlleva, adem\u00e1s, la idea de que ciertos conceptos esenciales en materia de derechos humanos tales como la dignidad humana, la privacidad, la libertad de pensamiento y la autonom\u00eda individual deban reinterpretarse a fin de adaptarlos a los nuevos avances y contextos (High-level Panel, 2019: 16-17). Este ejercicio no es del todo simple, pues implica predecir de antemano los da\u00f1os concretos \u2212para las personas y la sociedad\u2212 que pueden derivarse de tecnolog\u00edas y aplicaciones que nunca antes han sido empleadas (CEPD-SEPD, 2021: 1-4).<\/p>\n\n\n\n
En su Llamamiento a la acci\u00f3n en materia de derechos humanos<\/em>, el Secretario General reconoc\u00eda expresamente los beneficios que la era digital ha comportado para la humanidad, abriendo \u201cnuevos horizontes en materia de bienestar, conocimiento y exploraci\u00f3n\u201d. Se considera que la nueva revoluci\u00f3n tecnol\u00f3gica contribuir\u00e1 a reducir las desigualdades existentes, \u201celevando los niveles de ingresos mundiales y mejorando la calidad de vida de las poblaciones de todo el mundo\u201d. Aunque se pretende que \u201ctodos los ciudadanos del mundo puedan beneficiarse de estos extraordinarios avances\u201d, no deja de insistirse sobre el riesgo que existe de que este proceso acabe por acelerar o exacerbar las desigualdades tanto entre los diversos Estados como dentro de la misma sociedad \u201cen caso de que los beneficios no se repartan de forma equitativa\u201d. Al mismo tiempo, existen impactos negativos que ya se est\u00e1n observando en conexi\u00f3n con el uso de estas tecnolog\u00edas que demasiado frecuentemente, dice el Secretario General, sirven para socavar en l\u00ednea los derechos humanos, especialmente de los m\u00e1s vulnerables y desfavorecidos. Otros avances, adem\u00e1s de utilizarse para erosionar los derechos humanos, pueden contribuir a profundizar las desigualdades o exacerbar las discriminaciones existentes, por ejemplo, a trav\u00e9s de programas inform\u00e1ticos de reconocimiento facial, la rob\u00f3tica, la identificaci\u00f3n digital y la biotecnolog\u00eda (Guterres, 2020: 13-14).<\/p>\n\n\n\n
Este enfoque ambivalente nos plantea la cuesti\u00f3n de si todas estas transformaciones, efectivamente, podr\u00e1n ponerse al servicio de los cambios estructurales y radicales que precisa el sistema de gobernanza actual con el objetivo de invertir la actual tendencia al incremento de las desigualdades sociales y econ\u00f3micas.<\/p>\n\n\n\n
Nuevas formas de capitalismo<\/strong><\/p>\n\n\n\n
En efecto, una de las principales causas de la desigualdad consiste en los pilares sobre los que se sostiene en la actualidad el modelo de crecimiento econ\u00f3mico, que tiende a favorecer la acumulaci\u00f3n del poder econ\u00f3mico y pol\u00edtico en manos de una peque\u00f1a porci\u00f3n de la poblaci\u00f3n, dentro de los Estados y ahora tambi\u00e9n en el \u00e1mbito global. La nueva era tecnol\u00f3gica y digital, sin duda, ha reforzado esta tendencia. Se confiaba en que, con el paso del capitalismo de masa a una estructura de consumo individualizada, la tecnolog\u00eda pod\u00eda contribuir a una l\u00f3gica econ\u00f3mica diversa, ajustando la oferta y demanda de manera m\u00e1s precisa a las necesidades de los individuos (Laidler, 2019). Las tecnolog\u00edas digitales facilitar\u00edan as\u00ed la democratizaci\u00f3n del conocimiento y el empoderamiento de las personas, favoreciendo de este modo su inclusi\u00f3n social y el avance en materia de igualdad de oportunidades. Sin embargo, comienza a observarse que este proceso, lejos de traer aparejada la profunda transformaci\u00f3n estructural que se esperaba, ha desembocado en lo que ha venido a denominarse el \u201ccapitalismo de la vigilancia\u201d.<\/p>\n\n\n\n
Esta nueva variante de capitalismo se desarrolla a partir de las nuevas tecnolog\u00edas digitales y de inteligencia artificial para la recolecci\u00f3n masiva de datos personales. La experiencia humana se convierte as\u00ed en la materia prima, obtenida de forma totalmente gratuita, de la que se extraen los datos de comportamiento caracter\u00edsticos de la personalidad y que, tras introducirse en procesos de fabricaci\u00f3n avanzados conocidos como \u201cinteligencia de m\u00e1quina\u201d, se utilizan para influir, e incluso predecir, las acciones humanas. Estos nuevos activos se negocian en un nuevo tipo de mercado denominado \u201cmercado de futuros del comportamiento\u201d (Zuboff, 2019: 130). Las estrategias elaboradas sobre la base de los perfiles personales obtenidos a trav\u00e9s de la informaci\u00f3n facilitada por los usuarios pueden utilizarse con diversas finalidades, como influenciar sus decisiones y orientaciones pol\u00edticas, tal y como demostr\u00f3 el esc\u00e1ndalo de Cambridge Analytica (Hern, 2018)[2]<\/sup><\/a>.<\/p>\n\n\n\n
Est\u00e1 demostrado que muchos gobiernos recurren a estos m\u00e9todos para singularizar, disciplinar y castigar a las clases m\u00e1s desfavorecidas y vulnerables y sirven para la imposici\u00f3n de comportamientos sociales. Otra de las consecuencias es que los beneficiarios de estas prestaciones pueden verse obligados a renunciar a su derecho a la privacidad y a la protecci\u00f3n de datos para hacer efectivos sus derechos sociales, incluida la protecci\u00f3n social (Relator Especial sobre la extrema pobreza y los derechos humanos, 2019: p\u00e1rrs. 3-8 y 61- 64). Tambi\u00e9n se confirma la idea de que las personas con menos recursos resultan sometidas a niveles superiores de escrutinio, supervisi\u00f3n y vigilancia que quienes disponen de mayor nivel de riqueza.<\/p>\n\n\n\n
Sin duda, una de las maneras de obtener esa materia prima consiste en \u201cdemocratizar el acceso a las tecnolog\u00edas digitales\u201d. Si en un principio estos datos se recopilaban para identificar patrones de consumo, lo cierto es que en la actualidad los productos predictivos se venden a una variedad de clientes, y pueden desarrollarse a partir de m\u00e9todos sofisticados que act\u00faan de forma sutil, por lo que resultan imperceptibles para los usuarios (Council of Europe, 2019a).<\/p>\n\n\n\n
La reorientaci\u00f3n del modelo de negocio<\/em><\/p>\n\n\n\n
La crisis provocada por la pandemia ha hecho evidente la creciente acumulaci\u00f3n del poder en manos de las denominadas \u201csuperfirms\u201d como Facebook, Google, Amazon y Apple. Debido a la creciente dependencia tecnol\u00f3gica de la poblaci\u00f3n mundial, estas compa\u00f1\u00edas contin\u00faan multiplicando sus ganancias. Seg\u00fan un informe de Oxfam, \u201cla desigualdad de los impactos econ\u00f3micos de la COVID-19 no es casual, sino el resultado de un modelo econ\u00f3mico que utiliza el valor que aportan la mayor\u00eda de la ciudadan\u00eda en beneficio de un reducido grupo de personas ricas\u201d (Gneiting, Lusiani & Tamir, 2020). La organizaci\u00f3n sostiene que, \u201csi no cambiamos de rumbo, la desigualdad econ\u00f3mica se incrementar\u00e1, y un n\u00famero a\u00fan menor de grandes empresas ejercer\u00e1 un mayor poder econ\u00f3mico y pol\u00edtico, en detrimento de las peque\u00f1as empresas, las personas trabajadoras y las instituciones democr\u00e1ticas\u201d (Gneiting, Lusiani & Tamir, 2020). La decisi\u00f3n de maximizar las ganancias percibidas por los accionistas por encima de cualquier otra consideraci\u00f3n pone en evidencia el doble discurso de las grandes empresas, que \u201cpor un lado manifiestan nobles compromisos, se adhieren a est\u00e1ndares voluntarios y hacen donaciones con fines ben\u00e9ficos, pero al mismo tiempo evitan que se lleven a cabo los necesarios cambios estructurales en nuestro sistema econ\u00f3mico\u201d (Gneiting, Lusiani & Tamir, 2020).<\/p>\n\n\n\n
Existe, por tanto, un creciente descontento con respecto al comportamiento social y \u00e9tico de las empresas. Se critica su falta de contribuci\u00f3n a la justicia social y por ende a la sostenibilidad econ\u00f3mica. Esto ha provocado la emergencia de propuestas legislativas que se dirigen a controlar de manera m\u00e1s estricta las actividades de las empresas, especialmente las de car\u00e1cter multinacional. Estas deber\u00edan observar la diligencia debida identificando, evaluando, previniendo y mitigando los efectos adversos sobre los derechos humanos que puedan causar o a los que pueda contribuir o estar directamente vinculada (ACNUDH, 2021: p\u00e1rr. 28). Sin embargo, los modelos de negocio innovadores en el \u00e1mbito tecnol\u00f3gico se desarrollan deliberadamente para explotar los limbos jur\u00eddicos, por lo que, en realidad, tienen un inter\u00e9s en mantener el statu quo <\/em>y eludir la rendici\u00f3n de cuentas(Comit\u00e9 Asesor del Consejo de Derechos Humanos de la ONU, 2021: p\u00e1rr. 55).<\/p>\n\n\n\n
Por eso, esta creciente presi\u00f3n busca provocar un cambio de orientaci\u00f3n en cuanto a los objetivos de los modelos de negocio para que las empresas calibren de manera m\u00e1s consciente el objetivo de las propias pol\u00edticas as\u00ed como su puesta en pr\u00e1ctica (OACNUDH, 2020)[3]<\/sup><\/a>. Se insiste en que es preciso dejar atr\u00e1s el modelo de capitalismo cortoplacista, orientado a obtener el m\u00e1ximo beneficio posible, e introducir otro que busque alinear el inter\u00e9s privado con el p\u00fablico, lo que reporta beneficios m\u00e1s a largo plazo, teniendo en cuenta el inter\u00e9s de todas las partes interesadas, esto es, adem\u00e1s de los accionistas, los asalariados y las colectividades en las que operan (Stiglitz, 2006: 344).<\/p>\n\n\n\n
Las consideraciones de derechos humanos deber\u00edan, por tanto, estar presentes en todas las etapas de desarrollo, implantaci\u00f3n y explotaci\u00f3n de las nuevas tecnolog\u00edas, lo que implica anticipar y mitigar los impactos que estas puedan tener sobre las personas y la sociedad a m\u00e1s largo plazo. En este sentido, cabe destacar el surgimiento de iniciativas que promueven de manera m\u00e1s concreta la \u201cinnovaci\u00f3n \u00e9tica y responsable\u201d,con el objetivo de que los avances tecnol\u00f3gicos se pongan al servicio de la sociedad, promoviendo el inter\u00e9s p\u00fablico[4]<\/sup><\/a>.<\/p>\n\n\n\n
La falla del sistema: la rendici\u00f3n de cuentas<\/em><\/p>\n\n\n\n
A pesar de los avances en este sentido, siguen existiendo importantes d\u00e9ficits en materia de rendici\u00f3n de cuentas sobre los efectos perjudiciales que las actividades de las empresas tecnol\u00f3gicas pueden producir en el \u00e1mbito global. La experiencia ha demostrado que estas conductas no pueden controlarse adecuadamente si no es a trav\u00e9s de normas de car\u00e1cter obligatorio[5]<\/sup><\/a>. Debe tenerse en cuenta a este respecto que muchos gobiernos siguen mostr\u00e1ndose reticentes a regular las actividades de las empresas tecnol\u00f3gicas, al mismo tiempo que estas se resisten de manera contundente a tener en cuenta sistem\u00e1ticamente consideraciones de derechos humanos (Relator Especial sobre la extrema pobreza y los derechos humanos, 2019: p\u00e1rr. 72). Como es sabido, hasta ahora, como resultado de las pol\u00edticas de car\u00e1cter liberal, las empresas han dispuesto de una gran flexibilidad para innovar y desarrollar sin trabas. Su actividad \u00fanicamente deb\u00eda acomodarse a aquellas medidas que asumieran con car\u00e1cter voluntario, lo que ha facilitado la falta de transparencia de sus actividades, as\u00ed como una falta de comportamiento responsable y la falta de rendici\u00f3n de cuentas por los perjuicios causados.<\/p>\n\n\n\n
A estos obst\u00e1culos de car\u00e1cter pol\u00edtico se a\u00f1aden las dificultades pr\u00e1cticas para que los particulares puedan identificar cu\u00e1ndo y en qu\u00e9 medida se est\u00e1n violando sus derechos, y tomar medidas al respecto. Este estado de cosas no s\u00f3lo impide que el modelo de negocios se oriente hacia el inter\u00e9s p\u00fablico, sino que supone un obst\u00e1culo para la defensa de los intereses de las personas. Por eso resulta imprescindible el establecimiento de \u00f3rganos y mecanismos especializados e independientes, con capacidad para sancionar los usos il\u00edcitos o abusivos que desemboquen en da\u00f1os o violaciones, as\u00ed como para determinar la reparaci\u00f3n que corresponde a las v\u00edctimas de las mismas.<\/p>\n\n\n\n
Nuevas formas de desigualdad y discriminaci\u00f3n<\/strong><\/p>\n\n\n\n
Aunque las nuevas tecnolog\u00edas digitales se presentan como neutrales y positivas pensadas en beneficio del bienestar de la ciudadan\u00eda y dirigidas a lograr una gobernanza m\u00e1s eficiente, est\u00e1 claro que las mismas pueden plasmar valores que distan mucho de los que protegen los derechos humanos. Existe el riesgo de que a trav\u00e9s de esta ret\u00f3rica positiva se est\u00e9 abriendo paso m\u00e1s bien a una especie de \u201cdistop\u00eda digital\u201d donde, en realidad, lo que ocurre es que se est\u00e1 automatizando la desigualdad (Relator Especial sobre la extrema pobreza y los derechos humanos, 2019: p\u00e1rr. 8). No s\u00f3lo los algoritmos reflejan los sesgos de las personas que los crean, sino que en su dise\u00f1o no siempre se les dota de toda la informaci\u00f3n que resulta relevante y esas lagunas hacen que las decisiones que adopta la inteligencia artificial sean discriminatorias en la pr\u00e1ctica. Se ha destacado, no obstante, que, si se utilizan de manera correcta, los algoritmos tambi\u00e9n podr\u00edan servir para identificar sesgos sistem\u00e1ticos y, potencialmente, pueden servir para limitar el trato discriminatorio derivado de los prejuicios existentes, contribuyendo a mejorar las decisiones humanas (Sunstein, 2020: 54).<\/p>\n\n\n\n
Se insiste, en cualquier caso, en que los algoritmos deben adecuarse al principio de transparencia y dise\u00f1arse de tal manera que pueda explicarse de forma efectiva el modo en el que operan. Por otra parte, existe acuerdo en que la decisi\u00f3n sobre la vida o muerte no puede delegarse a m\u00e1quinas, sistemas o programas que act\u00faen sin intervenci\u00f3n humana (Secretario General de las Naciones Unidas, 2020: p\u00e1rrs. 53 y 55). De esta forma se pretende facilitar tambi\u00e9n el acceso a la justicia de las personas que cuestionan las decisiones que se apoyan fundamentalmente en datos. De hecho, el principal problema que subsiste en relaci\u00f3n con el empleo de sistemas de IA es de naturaleza fundamentalmente jur\u00eddica, y se refiere a las dificultades para determinar la responsabilidad individual por los da\u00f1os y consecuencias no deseadas. Sin mecanismos adecuados para la rendici\u00f3n de cuentas, las personas afectadas por los malos usos o abusos de estas tecnolog\u00edas se encuentran en completa indefensi\u00f3n, una situaci\u00f3n que, como es bien sabido, exacerba la vulnerabilidad de las personas marginadas o pertenecientes a grupos minoritarios que pueden resultar siendo los principales afectados por las actividades violatorias de derechos.<\/p>\n\n\n\n
Exacerbaci\u00f3n de la desigualdad y la discriminaci\u00f3n<\/em><\/p>\n\n\n\n
Por otra parte, como se ha visto, el proceso de digitalizaci\u00f3n y la creciente preminencia de la adopci\u00f3n automatizada de decisiones mediante el uso de algoritmos y de la IA producen un impacto directo en la capacidad de las personas \u2013especialmente las m\u00e1s vulnerables, como los refugiados y migrantes irregulares\u2013 para acceder y ejercitar sus derechos. Los servicios p\u00fablicos se hacen cada vez m\u00e1s dependientes de datos digitales y biom\u00e9tricos, a trav\u00e9s de procesos que pueden f\u00e1cilmente derivar en decisiones injustas o discriminatorias que afectan de manera desproporcionada a estas personas. El problema esencial aqu\u00ed es que, muy a menudo, esos sesgos son tan sutiles que pueden pasar desapercibidos aunque tengan un gran impacto en la vida de las personas. As\u00ed, se considera que la preeminencia de las tecnolog\u00edas digitales emergentes en la determinaci\u00f3n de decisiones cotidianas en el empleo, la educaci\u00f3n, la atenci\u00f3n de la salud o la justicia penal acarrea el riesgo de una discriminaci\u00f3n sistematizada a una escala sin precedentes.<\/p>\n\n\n\n
Tambi\u00e9n se ha advertido de que ciertas tecnolog\u00edas utilizadas a fines de mantenimiento del orden y la seguridad, especialmente en el \u00e1mbito del control de fronteras y de la inmigraci\u00f3n, como los programas inform\u00e1ticos de reconocimiento facial, est\u00e1n contribuyendo a exacerbar las discriminaciones. De igual manera, se ha denunciado la tendencia a recurrir a la IA en el \u00e1mbito de la inmigraci\u00f3n para pronosticar si personas sin antecedentes penales cometer\u00e1n delitos en el futuro, dada la propensi\u00f3n de la IA a crear y reproducir bucles de retroalimentaci\u00f3n racialmente discriminatorios (Relatora Especial sobre las formas contempor\u00e1neas de racismo, discriminaci\u00f3n racial, xenofobia y formas conexas de intolerancia, 2021: p\u00e1rr. 59).<\/p>\n\n\n\n
El uso de estas tecnolog\u00edas por parte de gobiernos e incluso por parte de la ONU, se considera que vulneran los derechos humanos de los refugiados, migrantes, ap\u00e1tridas y otras personas y obtienen de ellos grandes cantidades de datos en condiciones de explotaci\u00f3n que los privan de su capacidad de acci\u00f3n y dignidad humanas fundamentales. La Relatora Especial de las Naciones Unidas sobre las formas contempor\u00e1neas de racismo denuncia a este respecto que las tecnolog\u00edas digitales emergentes est\u00e1n contribuyendo a agudizar y amplificar las desigualdades existentes, especialmente por motivos de raza, etnia y origen nacional.<\/p>\n\n\n\n
Brecha y dependencia tecnol\u00f3gicas<\/em><\/p>\n\n\n\n
Otro de los grandes objetivos que se marcan en este \u00e1mbito consiste en potenciar el acceso universal a las nuevas tecnolog\u00edas. Se alerta de que la falta de acceso a la tecnolog\u00eda digital podr\u00eda provocar una brecha de desigualdad entre los Estados y tambi\u00e9n dentro de las sociedades, y que debe trabajarse para reducir esta brecha. Se argumenta que estas tecnolog\u00edas son necesarias pues, en determinadas circunstancias, pueden contribuir a dar acceso a los servicios p\u00fablicos a un n\u00famero m\u00e1s amplio de personas, evitando su exclusi\u00f3n social (High-level Panel, 2019: p\u00e1rr. 12.f)[6]<\/a>. Resultan encomiables en este sentido los esfuerzos hechos en los \u00faltimos a\u00f1os por cerrar la \u201cbrecha digital\u201d[7]<\/a>. Se estima que, en 2019, el 96,5 % de la poblaci\u00f3n ten\u00eda cobertura de red, como m\u00ednimo, 2G. En t\u00e9rminos de infraestructura de comunicaciones, m\u00e1s de la mitad de la poblaci\u00f3n mundial est\u00e1 ahora conectada y casi toda la poblaci\u00f3n global vive en un \u00e1rea con cobertura de red m\u00f3vil. Sin embargo, el acceso a este servicio se mantiene desigual, pues de los estimados 2,9 billones de personas que permanecen desconectadas, el 96% habita en pa\u00edses en v\u00edas de desarrollo.<\/p>\n\n\n\n
No existen suficientes estudios que permitan entender el funcionamiento de los mecanismos financieros destinados a reducir la brecha tecnol\u00f3gica entre los Estados. Sin embargo, no parece aceptable que la tecnificaci\u00f3n de los pa\u00edses menos desarrollados implique un incremento en sus niveles de endeudamiento. Conviene tambi\u00e9n tener muy presente el riesgo de crear una dependencia tecnol\u00f3gica con respecto a los pa\u00edses o actores prestatarios de las mismas.<\/p>\n\n\n\n
La pandemia del Covid-19 ha venido a apuntalar la progresiva dependencia de la ciudadan\u00eda de las tecnolog\u00edas digitales, que han sido imprescindibles no s\u00f3lo para la comunicaci\u00f3n, sino tambi\u00e9n para la realizaci\u00f3n de tareas normales de nuestra vida dom\u00e9stica y profesional. Tras esta crisis, el proceso de tecnificaci\u00f3n y de digitalizaci\u00f3n se percibe como algo inevitable e irreversible[8]<\/a>.<\/p>\n\n\n\n
Sin embargo, el \u201cestado del bienestar digital\u201d puede acabar teniendo efectos perniciosos en las pol\u00edticas dirigidas a disminuir las desigualdades sociales y econ\u00f3micas. El Relator Especial de la ONU sobre la extrema pobreza y los derechos humanos, tras realizar sendas visitas a los Estados Unidos y el Reino Unido, ha demostrado c\u00f3mo la mera introducci\u00f3n de requisitos tecnol\u00f3gicos puede llegar a pervertir los objetivos del sistema de protecci\u00f3n social, obstaculizando el derecho a percibir ciertas prestaciones sociales.<\/p>\n\n\n\n
La burocratizaci\u00f3n y la deshumanizaci\u00f3n que introducen las tecnolog\u00edas digitales producen un cambio profundo en la propia naturaleza de estos procesos, que a menudo resultan excesivamente r\u00edgidos. La aplicaci\u00f3n rob\u00f3tica de las normas, sin apenas interacci\u00f3n humana, exacerba la situaci\u00f3n de vulnerabilidad en la que se encuentra la persona y tiene repercusiones en la dimensi\u00f3n de la dignidad. Es m\u00e1s, ahora se parte de la premisa de que los ciudadanos deben convencer a los que toman las decisiones de que son merecedores de esos derechos y por tanto de entrada se les trata no ya como titulares de derechos, sino como solicitantes de los mismos (Relator Especial sobre la extrema pobreza y los derechos humanos, 2019: p\u00e1rrs. 3-8).<\/p>\n\n\n\n
El nuevo paradigma de la gobernanza<\/strong><\/p>\n\n\n\n
En su Hoja de Ruta para la Cooperaci\u00f3n Digital<\/em>, el Secretario General se\u00f1alaba que \u201cel mundo se encuentra en una encrucijada decisiva para la gobernanza tecnol\u00f3gica\u201d (Secretario General de las Naciones Unidas, 2020). Hemos visto que se han dado importantes pasos para establecer un nuevo marco institucional de esta gobernanza digital; ahora veremos en detalle los elementos principales que se proponen para orientarla hacia la efectiva cooperaci\u00f3n digital, a fin de determinar si efectivamente esta propuesta puede ser determinante de los cambios estructurales que se precisan en materia de igualdad. Destacaremos aquellos elementos que nos parecen m\u00e1s caracter\u00edsticos de este proceso incipiente.<\/p>\n\n\n\n
M\u00faltiples partes interesadas<\/em><\/p>\n\n\n\n
Como hemos visto, uno de los pilares de la cooperaci\u00f3n institucional consiste en dar entrada a la participaci\u00f3n, junto a los Estados, de una pluralidad de actores interesados a trav\u00e9s de diversos \u00f3rganos y foros de nueva creaci\u00f3n. Resulta todav\u00eda poco claro, sin embargo, el modo en que estos se imbricar\u00e1n en la estructura decisional y sus competencias en materia de desarrollo normativo. Es pronto tambi\u00e9n para poder mesurar los beneficios, en t\u00e9rminos de participaci\u00f3n y control democr\u00e1tico, que estos novedosos mecanismos pueden aportar.<\/p>\n\n\n\n
En este contexto, parece importante que los derechos humanos se integren de manera sistem\u00e1tica y consistente dentro de la nueva arquitectura de gobernanza, evitando que una de las principales consecuencias de estos nuevos modelos flexibles y heterog\u00e9neos que se abren a la multiplicidad de actores sea, precisamente, la erosi\u00f3n de las garant\u00edas que protegen los derechos y las libertades de la persona (Council of Europe, 2019b: 12).<\/p>\n\n\n\n
Participaci\u00f3n inclusiva<\/em><\/p>\n\n\n\n
Entre los beneficios que traen las nuevas tecnolog\u00edas suele mencionarse su capacidad para reforzar los debates pluralistas, mejorando de esta forma la formaci\u00f3n de una ciudadan\u00eda democr\u00e1tica, y facilitando las posiciones conjuntas y permitiendo procesos de decisi\u00f3n m\u00e1s transparentes y democr\u00e1ticos. Se se\u00f1ala, adem\u00e1s, que pueden contribuir a abaratar los servicios p\u00fablicos y hacerlos m\u00e1s participativos. Se afirma que a trav\u00e9s de estos \u201cnuevos o actualizados m\u00e9todos para la cooperaci\u00f3n digital global\u201d se reforzar\u00e1 la representatividad e inclusi\u00f3n. Para ello se pretenden crear mecanismos capaces de iniciar \u201cconsultas enfocadas, \u00e1giles y abiertas de m\u00faltiples partes interesadas\u201d para, de esta forma, \u201cdesarrollar r\u00e1pidamente mecanismos actualizados de gobernanza digital\u201d (High-level Panel, 2019: 5).<\/p>\n\n\n\n
La idea de poner las tecnolog\u00edas, especialmente Internet, al servicio de la participaci\u00f3n en los asuntos p\u00fablicos resulta atractiva. La accesibilidad a las nuevas tecnolog\u00edas ha contribuido al desarrollo de la sociedad civil organizada y puede igualmente potenciar la capacidad de acci\u00f3n de grupos minoritarios que desean participar en los asuntos p\u00fablicos. A pesar de ello, hay que tener en cuenta que los grupos que detentan el poder econ\u00f3mico ejercen una influencia desproporcionada en el sistema pol\u00edtico y tambi\u00e9n sustentan el control \u2013en algunos casos, el monopolio\u2212 de los medios de comunicaci\u00f3n de masas. La capacidad de influencia adquirida en los \u00faltimos a\u00f1os se ha hecho patente durante la crisis de la pandemia y plantea importantes interrogantes sobre el papel dual que los medios digitales pueden desempe\u00f1ar en democracia.<\/p>\n\n\n\n
Tampoco debe obviarse que las redes sociales disponen de numerosos instrumentos, como los \u201cdeepfakes\u201d (ultrafalsos), que se dirigen a influir y manipular a la opini\u00f3n p\u00fablica (Ibrahim, 2021)[9]<\/a>. De hecho, la difusi\u00f3n de informaci\u00f3n manipulada a trav\u00e9s de las redes sociales ya ha conseguido provocar en algunos pa\u00edses serias amenazas a la seguridad nacional (Hidalgo, 2022)[10]<\/a>. Las consecuencias a largo plazo de estas estrategias de desinformaci\u00f3n son muy graves pues acaban restando credibilidad a la informaci\u00f3n y pueden tener un impacto sobre los niveles de participaci\u00f3n de la ciudadan\u00eda en la pol\u00edtica, o un efecto de desafecci\u00f3n hacia ella.<\/p>\n\n\n\n
Papel secundario de los derechos humanos<\/em><\/p>\n\n\n\n
Otro aspecto preocupante que revela este proceso es la manera un tanto colateral y marginal con la que se abordan las cuestiones de derechos humanos que, sin embargo, en este \u00e1mbito tienen un car\u00e1cter trascendental Desde esta perspectiva las acciones emprendidas en el seno de la ONU parecen insuficientes. Se precisan adem\u00e1s respuestas normativas espec\u00edficas globales a los diversos problemas que se plantean, la protecci\u00f3n de la privacidad de la persona y sus datos personales y muchos otros, as\u00ed como medidas para que las garant\u00edas tengan una aplicaci\u00f3n de car\u00e1cter general y protejan a las personas sin discriminaci\u00f3n alguna. Todas estas cuestiones deber\u00edan integrarse a tal fin en un enfoque m\u00e1s amplio que sirva para nutrir las pol\u00edticas en materia de igualdad y lucha contra la discriminaci\u00f3n, para prever posibles impactos y reparar los potenciales da\u00f1os.<\/p>\n\n\n\n
La \u00abdemocratizaci\u00f3n\u00bb del acceso<\/em><\/p>\n\n\n\n
Estos cambios a nivel de la gobernanza deber\u00edan, precisamente, favorecer la \u201cdemocratizaci\u00f3n\u201d del acceso a las nuevas tecnolog\u00edas, las cuales deber\u00edan ponerse a disposici\u00f3n de todos los Estados y ciudadanos del mundo. Sin duda, la tecnolog\u00eda contribuye a perpetuar las desigualdades sociales y econ\u00f3micas, marcando la diferencia entre los que tienen acceso a ella y los que no. Por eso, se pretende promover la introducci\u00f3n de estas nuevas tecnolog\u00edas con car\u00e1cter masivo, en todo el mundo. Resulta importante velar por que esto no se haga con relativa rapidez a costa de reducir las garant\u00edas de los derechos individuales y exacerbando la desigualdad. Diversos informes apuntan al hecho de que esta disminuci\u00f3n de garant\u00edas afectar\u00eda de manera desproporcionada a los sectores y grupos m\u00e1s marginados de la sociedad. Por ello, este acceso universal tiene que acompa\u00f1arse de toda una bater\u00eda de medidas que garanticen tambi\u00e9n la \u201cdemocratizaci\u00f3n de la protecci\u00f3n\u201d. Ello implica anticipar los da\u00f1os y dise\u00f1ar y establecer con car\u00e1cter previo mecanismos independientes y eficientes e idear la manera de hacerlos accesibles para las personas tambi\u00e9n, por l\u00f3gica, de forma global.<\/p>\n\n\n\n
Democracia y derechos humanos<\/strong><\/p>\n\n\n\n
En efecto, la nueva arquitectura de gobernanza debe poner los derechos humanos y el acceso a la justicia en el centro de su estrategia, que debe ser comprensiva y coherente. Esta estrategia no s\u00f3lo deber\u00eda examinar los impactos directos o previsibles sobre los derechos individuales, sino tener un enfoque m\u00e1s amplio, para abordar el modo en que estas tecnolog\u00edas pueden ponerse al servicio del inter\u00e9s p\u00fablico y de los ODS en materia de desigualdad, discriminaci\u00f3n, participaci\u00f3n en los asuntos p\u00fablicos y control democr\u00e1tico. Por otra parte, se deber\u00e1 examinar detenidamente c\u00f3mo adaptar las normas y derechos existentes a las nuevas realidades y contextos que est\u00e1n surgiendo.<\/p>\n\n\n\n
Existen sectores como el mantenimiento de la ley, la seguridad nacional, la justicia penal, la protecci\u00f3n social, el empleo, la salud, la educaci\u00f3n y el sector financiero donde hay un riesgo particularmente alto de que se produzcan impactos no deseados, agravando las discriminaciones existentes. Para evitar este riesgo, en algunos casos se ha propuesto introducir moratorias en el uso de todas aquellas tecnolog\u00edas que potencialmente puedan utilizarse para violar derechos humanos hasta que pueda garantizarse su uso de conformidad con los derechos humanos (Bachelet, 2021); en otros casos, una prohibici\u00f3n de car\u00e1cter general.<\/p>\n\n\n\n
En el marco de la elaboraci\u00f3n del reglamento sobre la AI a nivel europeo, por ejemplo, una coalici\u00f3n de organizaciones de la sociedad civil ha pedido que se proh\u00edba cualquier uso de la inteligencia artificial para el reconocimiento autom\u00e1tico de rasgos humanos en la v\u00eda p\u00fablica, como el reconocimiento de rostros, forma de caminar, huellas dactilares, ADN, voz, pulsaciones de teclas y otras se\u00f1ales biom\u00e9tricas o de comportamiento, en cualquier contexto. Tambi\u00e9n se considera que prohibir el uso de IA para inferir las emociones de una persona f\u00edsica es altamente deseable.<\/p>\n\n\n\n
Recolecci\u00f3n y uso de datos personales<\/em><\/p>\n\n\n\n
La preocupaci\u00f3n por la recopilaci\u00f3n, uso y procesamiento de estos datos con car\u00e1cter masivo (\u201cbig data\u201d) ha sido una constante en las \u00faltimas d\u00e9cadas. Diversos casos que han salido a la luz demuestran que este tipo de aplicaciones resultan muy interesantes para los gobiernos, y no s\u00f3lo de corte autoritario. Se ha demostrado, por ejemplo, que el Reino Unido recurri\u00f3 a sistemas de intercepci\u00f3n masiva y de obtenci\u00f3n de datos por parte de proveedores en violaci\u00f3n de la privacidad y del derecho a la libertad de expresi\u00f3n \u2013caso Big Brother Watch y otros c. Reino Unido<\/em> (Tribunal Europeo de Derechos Humanos, 2021)[11]<\/a>\u2013.<\/p>\n\n\n\n
Aunque se est\u00e1n desarrollando leyes nacionales y normas de car\u00e1cter internacional, podemos decir que este marco a\u00fan no se encuentra lo suficientemente desarrollado ni cohesionado como para ofrecer una protecci\u00f3n integral a los usuarios o consumidores[12]<\/a>. Es m\u00e1s, estos no suelen tener suficiente conocimiento sobre los derechos que les corresponden en este \u00e1mbito digital ni tienen informaci\u00f3n sobre los recursos (judiciales u otros) a disposici\u00f3n en caso de que se produzcan violaciones, si es que los hay. A nivel nacional, se est\u00e1n estableciendo autoridades competentes en materia de protecci\u00f3n de datos que \u00fanicamente ser\u00e1n eficaces si realizan su actividad de manera independiente (Secretario General de las Naciones Unidas, 2020: p\u00e1rr. 44). En cualquier caso, estas estructuras resultan escasas para abordar la magnitud de los problemas que se anticipan y que pueden derivar en tratamientos contrarios al principio de igualdad de oportunidades y ante la ley.<\/p>\n\n\n\n
La utilizaci\u00f3n de aplicaciones de IA para la identificaci\u00f3n biom\u00e9trica viene siendo cada vez m\u00e1s frecuente. Las nuevas pol\u00edticas en materia de seguridad utilizan estos sistemas, que permiten reconocer a las personas de manera inequ\u00edvoca y aplican de manera autom\u00e1tica una serie de t\u00e9cnicas que pueden resultar especialmente intrusivas. Este es el caso de las tecnolog\u00edas de vigilancia que permiten la \u201cidentificaci\u00f3n remota\u201d de personas en zonas p\u00fablicas a partir de la recopilaci\u00f3n y uso de los rasgos f\u00edsicos o de patrones propios de su conducta. Aunque esto entra\u00f1a riesgos espec\u00edficos en materia de derechos humanos, la regulaci\u00f3n de estas pol\u00edticas se halla en un limbo jur\u00eddico.<\/p>\n\n\n\n
En este mismo contexto, el desarrollo de \u201cciudades inteligentes\u201d no deja de plantear importantes desaf\u00edos, especialmente desde el punto de vista de la privacidad. La originalidad de este proyecto reside precisamente en la adopci\u00f3n de decisiones \u201cinteligentes\u201d y \u201csostenibles\u201d a partir de los datos relativos a diversos aspectos de la vida y comportamientos de la poblaci\u00f3n que se recopilan con car\u00e1cter masivo[13]<\/sup><\/a>. \u00a0Se introducen as\u00ed medidas que pueden ser limitativas desde el punto de vista de los derechos humanos, como la elaboraci\u00f3n de perfiles, la introducci\u00f3n de videovigilancia o la instalaci\u00f3n de sensores en zonas p\u00fablicas, que se justifican sobre la base de la necesidad de gestionar de forma eficiente los activos y recursos y de garantizar la seguridad.<\/p>\n\n\n\n
Elaboraci\u00f3n de perfiles y la clasificaci\u00f3n social<\/em><\/p>\n\n\n\n
Los big data ofrecen m\u00faltiples posibilidades de categorizaci\u00f3n y, como sabemos, las empresas privadas, principalmente las redes sociales y los proveedores de servicios en la nube, tratan grandes cantidades de datos personales y realizan clasificaciones sociales a partir de las grandes masas de datos que recopilan. Sin embargo, la normativa en materia de protecci\u00f3n de datos resulta a todas luces insuficiente para contener la proliferaci\u00f3n de estas pr\u00e1cticas, que no se limitan a los prop\u00f3sitos comerciales, sino que tambi\u00e9n pueden ponerse a disposici\u00f3n de otros objetivos, como la manipulaci\u00f3n y el control de masas a efectos ideol\u00f3gicos o pol\u00edticos.<\/p>\n\n\n\n
Sin duda, uno de los usos de los sistemas de IA que m\u00e1s rechazo ha provocado es su utilizaci\u00f3n por los gobiernos para prop\u00f3sitos de clasificaci\u00f3n social o para la puntuaci\u00f3n de las personas (ACNUDH, 2021: p\u00e1rr. 45). La propuesta de reglamento sobre la IA de la Comisi\u00f3n Europea acoge la prohibici\u00f3n de desarrollar y usar IA para manipular subliminalmente a las personas, clasificar socialmente a los ciudadanos o vigilarlos indiscriminadamente de forma remota. Sin embargo, debe tenerse en cuenta que este texto introduce toda una serie de excepciones en el texto que pueden derivar en su aplicaci\u00f3n en contradicci\u00f3n con el principio de igualdad.<\/p>\n\n\n\n
Nuevos retos<\/em><\/p>\n\n\n\n
La irrupci\u00f3n y el impacto en nuestras sociedades de novedosas tecnolog\u00edas, como las que buscan aumentar las capacidades cognitivas del ser humano, no pueden banalizarse[14]<\/a>. Las denominadas \u201cneurotecnolog\u00edas\u201d son prometedoras en el campo m\u00e9dico, si bien preocupa su inminente comercializaci\u00f3n para otros usos que se dirigen a la mejora cognitiva del ser humano. Tales usos tienen la capacidad de afectar tanto a la autonom\u00eda y la agencia humana como a su libertad de pensamiento, y pueden ser objeto de usos no deseados. Por eso, aunque se presentan como formas de aumentar el \u201crendimiento humano\u201d, cada vez existen m\u00e1s voces que alertan del peligro de que estas aplicaciones se desarrollen y comercialicen sin una adecuada regulaci\u00f3n. Las neurotecnolog\u00edas permiten modular los procesos mentales y, en consecuencia, alterar la personalidad, el comportamiento y las emociones de las personas. Son por ello altamente susceptibles de ser utilizadas tanto por los Estados como por los actores privados para prop\u00f3sitos ileg\u00edtimos o abusivos como el control, la vigilancia o la manipulaci\u00f3n mental (Rickli & Ienca, 2021: 198).<\/p>\n\n\n\n
El r\u00e1pido avance de estas tecnolog\u00edas, de nuevo, pone en evidencia las lagunas normativas e institucionales que existen. Faltan normas que protejan de manera particular la recolecci\u00f3n y tratamiento de datos neuronales, as\u00ed como los nuevos riesgos que el acceso a esta informaci\u00f3n plantea en materia de privacidad. Su comercializaci\u00f3n a nivel global contribuir\u00eda a exacerbar las desigualdades entre los individuos, creando nuevas tipolog\u00edas de discriminaci\u00f3n. Es m\u00e1s, se afirma que, con el tiempo, el acceso a estas tecnolog\u00edas podr\u00eda conducir al establecimiento de una especie de \u201c\u00e9lite dominante\u201d que estar\u00eda integrada por aquellos que tienen acceso a estas aplicaciones que permiten la mejora cognitiva. Sin duda, la falta de avances hacia un marco de regulaci\u00f3n global que sea aceptado de manera general por los Estados contribuye a aumentar los desequilibrios entre ellos, generando al mismo tiempo una mayor inseguridad internacional[15]<\/a>.<\/p>\n\n\n\n
Seguridad internacional<\/strong><\/p>\n\n\n\n
Otro aspecto fundamental del nuevo marco de gobernanza consiste en conseguir un entendimiento com\u00fan global sobre la necesidad de prohibir el desarrollo y utilizaci\u00f3n de ciertas tecnolog\u00edas que, por sus propias caracter\u00edsticas, no pueden utilizarse de acuerdo con el derecho internacional. Se trata de impedir que se empleen en detrimento de la paz y la seguridad internacionales y potenciar sus usos pac\u00edficos y por el bien com\u00fan de la humanidad. Hay que reconocer que los avances en materia de desarme y prohibici\u00f3n de estos sistemas de armas basados en las nuevas tecnolog\u00edas son lentos y a menudo decepcionantes.\u00a0<\/p>\n\n\n\n
Prohibici\u00f3n del desarrollo, comercializaci\u00f3n y uso de ciertas tecnolog\u00edas<\/em><\/p>\n\n\n\n
El potencial uso de sistemas de armas aut\u00f3nomos letales, capaces de seleccionar y atacar un objetivo sin intervenci\u00f3n humana, ha dado lugar a diversas iniciativas para lograr su prohibici\u00f3n[16]<\/a>. La p\u00e9rdida de control y criterio humano en el uso de la fuerza no s\u00f3lo aumenta el riesgo de escalada de los conflictos, sino que adem\u00e1s se considera inaceptable desde el punto de vista humanitario, jur\u00eddico y \u00e9tico (CICR, 2021). Existe un alto riesgo de que este tipo de tecnolog\u00edas proliferen de forma descontrolada y por eso urge la adopci\u00f3n de un marco normativo internacional vinculante a nivel global y aplicable a este tipo espec\u00edfico de sistemas (CICR, 2022).<\/p>\n\n\n\n
El principal foro de discusi\u00f3n se ha desarrollado en el marco de la Convenci\u00f3n sobre Ciertas Armas Convencionales, donde, desde 2014, los Estados partes tratan las cuestiones relativas a los sistemas de armas aut\u00f3nomos letales. En 2019, dichos Estados adoptaron, a propuesta del grupo de expertos, una serie de principios rectores de car\u00e1cter general que no recogen el estado avanzado del debate sobre las especificidades de estas tecnolog\u00edas ni los avances en el debate sobre los aspectos jur\u00eddicos y \u00e9ticos (Reuni\u00f3n de las Altas Partes Contratantes en la Convenci\u00f3n sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales que Puedan Considerarse Excesivamente Nocivas o de Efectos Indiscriminados, 2019). Se reafirma el principio de que el ser humano debe mantener la responsabilidad por las decisiones que se adopten en la utilizaci\u00f3n de estos sistemas aut\u00f3nomos letales, cuyo uso y desarrollo debe regirse por el derecho internacional, incluido el derecho internacional humanitario. Este cuerpo de normas tambi\u00e9n debe aplicase a la interacci\u00f3n entre el ser humano y la m\u00e1quina, que puede adoptar diversas formas y producirse en distintas etapas del ciclo de vida del arma.<\/p>\n\n\n\n
Promoci\u00f3n de los usos pac\u00edficos<\/em><\/p>\n\n\n\n
La seguridad cibern\u00e9tica se encuentra hoy en el centro de las tensiones geopol\u00edticas, debido a las distintas visiones que existen con respecto al papel regulador que debe desempe\u00f1ar el Estado. A trav\u00e9s del espacio digital fluyen una cantidad ingente de datos e informaciones que deben ser protegidos para salvaguardar no solo los derechos de los usuarios, sino tambi\u00e9n la seguridad nacional. Diversos actores, particulares, grupos u organizaciones, incluidas organizaciones delictivas, que tambi\u00e9n pueden actuar por cuenta de Estados, pueden hacer uso de esas plataformas para fines no leg\u00edtimos y malintencionados como el robo masivo de datos o los ciberataques a instituciones p\u00fablicas. Al tener doble uso, tambi\u00e9n se recurre a ellas con fines militares.<\/p>\n\n\n\n
En el \u00e1mbito de la ONU, se est\u00e1n desarrollando diversas iniciativas que se centran en buscar medidas que permitan garantizar el uso de las tecnolog\u00edas de la informaci\u00f3n y de las telecomunicaciones (TIC) \u201cde manera pac\u00edfica por el bien com\u00fan de la humanidad y para promover el desarrollo pac\u00edfico de todos los pa\u00edses, cualquiera que sea su nivel de desarrollo cient\u00edfico y tecnol\u00f3gico\u201d (Asamblea General de las Naciones Unidas, 2020: 1; v\u00e9ase tambi\u00e9n Grupo de Expertos Gubernamentales sobre los avances en la Informaci\u00f3n y las Telecomunicaciones en el Contexto de la Seguridad Internacional, 2013). Con esta finalidad, en 2015 se propusieron unas medidas voluntarias de comportamiento responsable dirigidas a promover la paz y la estabilidad en el ciberespacio, que buscan fomentar la confianza entre los Estados industriales y aquellos en v\u00edas de desarrollo, as\u00ed como el intercambio de informaci\u00f3n (Grupo de Expertos Gubernamentales sobre los avances en la Informaci\u00f3n y las Telecomunicaciones en el Contexto de la Seguridad Internacional, 2015; Asamblea General de las Naciones Unidas, 2015: p\u00e1rr. 2.a). En 2020, la Asamblea General estableci\u00f3 un Grupo de Trabajo de Composici\u00f3n Abierta sobre los Avances en la Esfera de la Informaci\u00f3n y las Telecomunicaciones en el Contexto de la Seguridad Internacional con el encargo de seguir elaborando un marco normativo que venga a garantizar el comportamiento responsable de los Estados en este \u00e1mbito (Asamblea General de las Naciones Unidas, 2020: p\u00e1rr. 1).<\/p>\n\n\n\n
Se aspira as\u00ed a que estas tecnolog\u00edas \u201cse utilicen de manera pac\u00edfica por el bien com\u00fan de la humanidad y para promover el desarrollo sostenible de todos los pa\u00edses, cualquiera que sea su nivel de desarrollo cient\u00edfico\u201d (Asamblea General de las Naciones Unidas, 2020). A tal fin, parece imprescindible que se salvaguarde la tecnolog\u00eda digital destinada a sustentar algunas funciones b\u00e1sicas, como el acceso a los alimentos, el agua, la vivienda, la energ\u00eda, la atenci\u00f3n sanitaria y el transporte, consideradas infraestructuras indispensables. Por otra parte, los Estados deber\u00edan dotarse de capacidad institucional y tecnol\u00f3gica para responder a este tipo de amenaza mediante un \u201cEquipo Inform\u00e1tico de Respuesta de Emergencia\u201d (Secretario General de las Naciones Unidas, 2020: p\u00e1rr. 62).<\/p>\n\n\n\n
Aunque estos avances resulten esperanzadores, lo cierto es que no est\u00e1n lo suficientemente evolucionados como para pensar que existe una visi\u00f3n com\u00fan sobre ciertas cuestiones relativas a la confianza y seguridad. Sin este entendimiento, los esfuerzos colectivos dirigidos a que el entorno digital se ponga al servicio del logro de los ODS no pueden ser efectivos (Secretario General de las Naciones Unidas, 2020: p\u00e1rr. 65).<\/p>\n\n\n\n
Conclusiones<\/strong><\/p>\n\n\n\n
La cuarta revoluci\u00f3n industrial en la que parece que nos hallamos sumergidos resulta a partes iguales excitante e inquietante. Excitante, por las enormes posibilidades para introducir el cambio estructural positivo que estas nuevas tecnolog\u00edas parecen ofrecer. Inquietante, porque las din\u00e1micas institucionales y culturales existentes parecen indicar lo contrario, ya que el grado de desarrollo de la arquitectura de gobernanza tecnol\u00f3gica no resulta adecuado ni est\u00e1 lo suficientemente maduro como para poder afrontar los cambios por venir. La coyuntura actual tampoco acompa\u00f1a en la consecuci\u00f3n de los ambiciosos objetivos que los Estados han suscrito mediante la Agenda 2030.<\/p>\n\n\n\n
En efecto, no se entiende c\u00f3mo estos nuevos avances tecnol\u00f3gicos sin un marco regulatorio adecuado de las actividades empresariales y una reorientaci\u00f3n de sus objetivos, y sin estrategias espec\u00edficas destinadas a redistribuir los beneficios, pueden contribuir a alcanzar el ODS 10, relativo a la reducci\u00f3n de las desigualdades en los pa\u00edses y entre ellos. M\u00e1s bien al contrario, lo m\u00e1s probable es que en la presente coyuntura los mismos se pongan al servicio de objetivos y expectativas que no representan el inter\u00e9s p\u00fablico y general, convirti\u00e9ndose m\u00e1s bien en un elemento que marca la superioridad entre los que tienen esas tecnolog\u00edas y los que no.<\/p>\n\n\n\n
Quiz\u00e1s el problema fundamental sea temporal, el tiempo que hace falta para modelar un marco jur\u00eddico, econ\u00f3mico y pol\u00edtico adaptado y cuyos pilares han de establecerse previamente sobre la base de un consenso global. El sistema multilateral de la ONU resulta un actor crucial en el desarrollo de nuevos mecanismos para la gobernanza global tecnol\u00f3gica, si bien debe seguir evolucionando a fin de garantizar que esta sea democr\u00e1tica, representativa e inclusiva, adem\u00e1s de efectiva. Una de las responsabilidades esenciales de esta organizaci\u00f3n consiste justamente en velar por que estos desarrollos se produzcan y empleen dentro de los objetivos que marca su Carta fundacional. Ello implica garantizar que las estrategias y pol\u00edticas integren de manera sistem\u00e1tica las consideraciones de derechos humanos y en materia de consolidaci\u00f3n democr\u00e1tica. Es m\u00e1s, la organizaci\u00f3n debe otorgar a dichas consideraciones la posici\u00f3n que les corresponde, desarrollando pol\u00edticas y estrategias espec\u00edficas a tal efecto, como refuerzo de las que impulsan la cooperaci\u00f3n tecnol\u00f3gica.<\/p>\n\n\n\n
Sin duda, una de las principales fallas en el sistema se debe a la renuencia del sector privado a reconocer el valor de orientar la actividad empresarial hacia las necesidades prioritarias y los intereses p\u00fablicos, para garantizar que su repercusi\u00f3n sea positiva en la sociedad. Esta actitud a menudo es apoyada por los gobiernos, que anteponen sus intereses econ\u00f3micos, pol\u00edticos, ideol\u00f3gicos, o geoestrat\u00e9gicos de car\u00e1cter cortoplacista al avance de pol\u00edticas que redunden en favor de la justicia social. Se considera por ello imprescindible la adopci\u00f3n de regulaciones estrictas que permitan dirigir de manera racional y eficiente estas actividades hacia la soluci\u00f3n de las necesidades reales y apremiantes de la sociedad.<\/p>\n\n\n\n
Queda, por tanto, a\u00fan mucho por hacer para que la ciudadan\u00eda conf\u00ede en que la nueva arquitectura de gobernanza tecnol\u00f3gica se ponga al servicio del inter\u00e9s p\u00fablico y el avance social, lo que resulta imprescindible para eliminar las desigualdades y distribuir de manera equitativa los beneficios. Dice el soci\u00f3logo suizo Jean Ziegler que \u201cel orden can\u00edbal del mundo que ha creado el capitalismo debe ser radicalmente destruido, pero las grandes conquistas de la ciencia y de la tecnolog\u00eda no solo deben ser conservadas, sino potenciadas. El trabajo, el talento, el genio humanos deben servir al bien com\u00fan, al inter\u00e9s p\u00fablico de todos nosotros \u2212de todos los humanos\u2212 y no solo al confort, el lujo y el poder\u00edo de una minor\u00eda\u201d (Ziegler, 2021: 34).<\/p>\n\n\n\n
Nota sobre la autora:<\/p>\n\n\n\n
Milena Costas Trascasas<\/em><\/strong> es Doctora en Derecho, trabaja como consultora independiente en derechos humanos y es miembro del Comit\u00e9 Asesor del Consejo de Derechos Humanos de la ONU.<\/p>\n\n\n\n
Referencias<\/strong><\/p>\n\n\n\n
ACNUDH (2017), Promoci\u00f3n, protecci\u00f3n y disfrute de los derechos humanos en Internet: medios de cerrar la brecha digital entre los g\u00e9neros desde una perspectiva de derechos humanos. Informe del Alto Comisionado de las Naciones Unidas para los Derechos Humanos<\/em>, Doc. ONU A\/HRC\/35\/9, 5 de mayo.<\/p>\n\n\n\n
- (2021), El derecho a la privacidad en la era digital. Informe de la Alta Comisionada de las Naciones Unidas para los Derechos Humanos<\/em>, Doc. ONU A\/HRC\/48\/31, 13 de septiembre.<\/li><\/ul>\n\n\n\n
Asamblea General de las Naciones Unidas (2015), Avances en la esfera de la informaci\u00f3n y las telecomunicaciones en el contexto de la seguridad internacional<\/em>, Doc. ONU A\/RES\/70\/237, 30 de diciembre.<\/p>\n\n\n\n
- (2020), Avances en la esfera de la informaci\u00f3n y las telecomunicaciones en el contexto de la seguridad internacional<\/em>, Doc. ONU A\/RES\/75\/240, 31 de diciembre.<\/li><\/ul>\n\n\n\n
Bachelet, Michelle (2021), \u201cLos riesgos de la inteligencia artificial para la privacidad exigen medidas urgentes\u201d, Comunicado de Prensa, OACNUDH, 15 de septiembre: https:\/\/www.ohchr.org\/es\/press-releases\/2021\/09\/artificial-intelligence-risks-privacy-demand-urgent-action-bachelet<\/a><\/p>\n\n\n\n
CEPD-SEPD (2021), Dictamen conjunto 5\/2021 sobre la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial)<\/em>, 18 de junio.<\/p>\n\n\n\n
CICR (2021), \u201cPosici\u00f3n del CICR sobre los sistemas aut\u00f3nomos de armas\u201d, Ginebra, 12 de mayo.<\/p>\n\n\n\n
- (2022) \u201cArmas aut\u00f3nomas: el CICR insta a los Estados a avanzar hacia la negociaci\u00f3n de un tratado\u201d, 8 de agosto.<\/li><\/ul>\n\n\n\n
Comit\u00e9 Asesor del Consejo de Derechos Humanos de la ONU (2021), Informe del Comit\u00e9 Asesor del Consejo de Derechos Humanos. Impactos, oportunidades y retos que pueden entra\u00f1ar las tecnolog\u00edas digitales nuevas y emergentes en relaci\u00f3n con la promoci\u00f3n y la protecci\u00f3n de los derechos humanos<\/em>, Doc. ONU A\/HRC\/47\/52, 19 de mayo.<\/p>\n\n\n\n
Council of Europe (2019a), Declaration by the Committee of Ministers on the manipulative capabilities of algorithmic processes<\/em>, 13 February.<\/p>\n\n\n\n
- (2019b), Strategic Action Plan on Human Rights and Technologies in Biomedicine (2020-2025). Adopted by the Committee on Bioethics (DH-BIO) at its 16th meeting<\/em>, 19-21 November: https:\/\/rm.coe.int\/strategic-action-plan-final-e\/1680a2c5d2<\/a><\/li><\/ul>\n\n\n\n
Gneiting, Uwe, Lusiani, Nicholas & Tamir, Irit (2020), Poder, ganancias y pandemia. De una econom\u00eda de \u00e9lites a una encomia para las personas<\/em>, Oxford: Oxfam International.<\/p>\n\n\n\n
Grupo de Expertos Gubernamentales sobre los avances en la Informaci\u00f3n y las Telecomunicaciones en el Contexto de la Seguridad Internacional (2013), Informe del Grupo de Expertos Gubernamentales sobre los Avances en la Informaci\u00f3n y las Telecomunicaciones en el Contexto de la Seguridad Internacional<\/em>, Doc. ONU A\/68\/98, 24 de junio.<\/p>\n\n\n\n
- (2015), Informe del Grupo de Expertos Gubernamentales sobre los Avances en la Informaci\u00f3n y las Telecomunicaciones en el Contexto de la Seguridad Internacional<\/em>, Doc. ONU A\/70\/174, 22 de julio.<\/li><\/ul>\n\n\n\n
Guterres, Ant\u00f3nio (2018), \u201cRemarks at the Web Summit\u201d, Lisboa, 5 de noviembre: https:\/\/www.un.org\/sg\/en\/content\/sg\/speeches\/2018-11-05\/remarks-web-summit<\/a><\/p>\n\n\n\n
- (2020), La Aspiraci\u00f3n m\u00e1s elevada: Llamamiento a la acci\u00f3n en favor de los derechos humanos<\/em>, Nueva York: Naciones Unidas: https:\/\/www.un.org\/en\/content\/action-for-human-rights\/assets\/pdf\/The_Highest_Aspiration_A_Call_To_Action_For_Human_Right_SPA.pdf<\/a><\/li>
- (2022), \u201cDiscurso del Secretario General ante la Asamblea General\u201d, Nueva York, 20 de septiembre: https:\/\/gadebate.un.org\/sites\/default\/files\/gastatements\/77\/unsg_es.pdf<\/a> <\/li><\/ul>\n\n\n\n
Hern, Alex (2018), \u201cCambridge Analytica: how did it turn clicks into votes\u201d, The Guardian<\/em>, 6 May.<\/p>\n\n\n\n
Hidalgo, Patricia (2022), \u201cEl contenido \u00abultrafalso\u00bb que podr\u00eda convertirse en verdad\u201d, Forbes<\/em>, 2 de febrero.<\/p>\n\n\n\n
High-level Panel on Digital Cooperation (2019), The Age of Digital Interdependence. Report of the UN Secretary-General\u2019s High-level Panel on Digital Cooperation<\/em>: https:\/\/www.un.org\/en\/pdfs\/DigitalCooperation-report-for%20web.pdf<\/a> <\/p>\n\n\n\n
Ibrahim, Sara (2021), \u201cC\u00f3mo los \u2018deepfakes\u2019 est\u00e1n cambiando nuestra visi\u00f3n de la realidad\u201d, Swissinfo<\/em>, 23 de agosto.<\/p>\n\n\n\n
Jorge Ricart, Raquel (2020) \u201cGu\u00eda para la gobernanza tecnol\u00f3gica global\u201d, Esglobal<\/em>, 21 de diciembre: https:\/\/www.esglobal.org\/guia-para-la-gobernanza-tecnologica-global\/<\/a><\/p>\n\n\n\n
Laidler, John (2019), \u201cHigh tech is watching you\u201d, The Harvard Gazette<\/em>, 4 March: https:\/\/news.harvard.edu\/gazette\/story\/2019\/03\/harvard-professor-says-surveillance-capitalism-is-undermining-democracy\/<\/a> <\/p>\n\n\n\n
Lashitew, Addisu (2021), \u201cStakeholder capitalism arrives at Davos\u201d, Brookings<\/em>, 21 January: https:\/\/www.brookings.edu\/blog\/future-development\/2020\/01\/21\/stakeholder-capitalism-arrives-at-davos\/<\/a> <\/p>\n\n\n\n
OACNUDH (2020), \u201cAddressing Business Model Related Human Rights Risks. A B-Tech Foundational Paper\u201d, July: https:\/\/www.ohchr.org\/sites\/default\/files\/Documents\/Issues\/Business\/B-Tech\/B_Tech_Foundational_Paper.pdf<\/a><\/p>\n\n\n\n
Relator Especial sobre la extrema pobreza y los derechos humanos (2019), La extrema pobreza y los derechos humanos. Informe del Relator Especial sobre la extrema pobreza y los derechos humanos<\/em>, Doc. ONU A\/74\/493, 11 de octubre.<\/p>\n\n\n\n
Relatora Especial sobre las formas contempor\u00e1neas de racismo, discriminaci\u00f3n racial, xenofobia y formas conexas de intolerancia (2021), Discriminaci\u00f3n racial y xen\u00f3foba y uso de tecnolog\u00edas digitales en el control de fronteras e inmigraci\u00f3n Informe de la Relatora Especial sobre las formas contempor\u00e1neas de racismo, discriminaci\u00f3n racial, xenofobia y formas conexas de intolerancia<\/em>, Doc. ONU A\/HRC\/48\/76, 17 de diciembre.<\/p>\n\n\n\n
Reuni\u00f3n de las Altas Partes Contratantes en la Convenci\u00f3n sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales que Puedan Considerarse Excesivamente Nocivas o de Efectos Indiscriminados (2019), Informe final<\/em>, Doc. ONU CCW\/MSP\/2019\/9, 13 de diciembre.<\/p>\n\n\n\n
Rickli J-M., & Ienca, M. (2021), \u201cThe Security and Military Implications of Neurotechnology and Artificial Intelligence\u201d, en Friedrich, Orsolya, Wolkenstein, Andreas, Bublitz, Christoph, Jox, Ralf J. & Racine, Eric (Eds.), Clinical Neurotechnology meets Artificial Intelligence. Advances in Neuroethics<\/em>, Cham: Springer, pp. 197-214.<\/p>\n\n\n\n
Schwab, Klaus (2016), \u201cThe Fourth Industrial Revolution: what it means, how to respond\u201d, World Economic Forum<\/em>, 14 January: https:\/\/www.weforum.org\/agenda\/2016\/01\/the-fourth-industrial-revolution-what-it-means-and-how-to-respond\/<\/a><\/p>\n\n\n\n
Secretario General de las Naciones Unidas (2020), Informe del Secretario General. Hoja de ruta para la cooperaci\u00f3n digital: aplicaci\u00f3n de las recomendaciones del Panel de Alto Nivel sobre la Cooperaci\u00f3n Digital<\/em>, Doc. ONU A\/74\/821, 29 de mayo.<\/p>\n\n\n\n
Stiglitz, Joseph E. (2016), Un autre monde. Contre le fanatisme du march\u00e9<\/em> (<\/em>Making Globalization Work)<\/em>, Norton: Fayard.<\/p>\n\n\n\n
Sunstein, Cass R. (2020), \u201cAlgoritmos: \u00bfUna nueva herramienta contra la discriminaci\u00f3n ilegal?\u201d, Anuario Internacional CIDOB 2020<\/em>, p. 54.<\/p>\n\n\n\n
Tribunal Europeo de Derechos Humanos (2021), Big Brother Watch and Others v. the United Kingdom<\/em> [GC], nos. 58170\/13 and 2 others, 25 May.<\/p>\n\n\n\n
Ziegler, Jean (2021), El capitalismo explicado a los j\u00f3venes y a los no tan j\u00f3venes<\/em>, Barcelona: Ediciones Invisibles. Zuboff, Shoshana (2019), The Age of Surveillance Capitalism,<\/em> New York: PublicAffairs.<\/p>\n\n\n\n
\n\n\n\n[1]<\/a> De esta forma, se identifican una serie de caracter\u00edsticas como relevantes, se sintetizan y traducen en un formato estructurado que permite realizar m\u00faltiples clasificaciones y an\u00e1lisis.<\/p>\n\n\n\n
[2]<\/a> Desde 2014, Facebook utiliz\u00f3 la informaci\u00f3n de m\u00e1s de 50 millones de usuarios sin su consentimiento para comercializaci\u00f3n con terceros. Los datos se recogieron para un supuesto uso acad\u00e9mico, pero se explotaron para desarrollar estrategias electorales en el marco de las elecciones presidenciales estadounidenses de 2016 que gan\u00f3 el republicano Donald Trump. La compa\u00f1\u00eda fue multada por los Estados Unidos y el Reino Unido por violar la ley de protecci\u00f3n de datos.<\/p>\n\n\n\n
[3]<\/a> A tal fin, los expertos de la Oficina del Alto Comisionado para los Derechos Humanos consideran necesario aplicar una \u201ccombinaci\u00f3n inteligente\u201d de medidas pol\u00edticas y regulatorias para recompensar a las empresas que tomen medidas razonables para evitar o mitigar los riesgos para los derechos humanos que se derivan de sus modelos de negocio y para que rindan cuentas las que no lo hagan, as\u00ed como para apoyar a las que busquen modelos empresariales alternativos que conlleven menos riesgos, o de menor alcance.<\/p>\n\n\n\n
[4]<\/a> Por ejemplo, la OCDE aprob\u00f3 en 2019 una Recomendaci\u00f3n sobre la innovaci\u00f3n responsable en neurotecnolog\u00eda<\/em> con el objetivo de orientar a los gobiernos y a los innovadores para que anticipen y aborden los retos \u00e9ticos, jur\u00eddicos y sociales que plantean estas nuevas tecnolog\u00edas, al mismo tiempo que promueven la innovaci\u00f3n en este campo.<\/p>\n\n\n\n
[5]<\/a> Sobre la base de los Principios Rectores sobre las Empresas y los Derechos Humanos<\/em> se est\u00e1 negociando un tratado multilateral en el seno de la ONU. Tambi\u00e9n, en febrero de 2022, la Comisi\u00f3n Europea present\u00f3 una Propuesta de Directiva sobre la diligencia debida en materia de sostenibilidad de las empresas<\/em>.<\/p>\n\n\n\n
[6]<\/a> Por ejemplo, las visitas virtuales a trav\u00e9s de las nuevas tecnolog\u00edas en la telemedicina pueden reducir los inconvenientes causados por la distancia y facilitar un mejor acceso a los servicios m\u00e9dicos a un espectro de la poblaci\u00f3n m\u00e1s amplio, evitando la posible exclusi\u00f3n social de las personas.<\/p>\n\n\n\n
[7]<\/a> Esta se define como el desfase que existe entre personas, hogares, empresas y zonas geogr\u00e1ficas de diferentes niveles socioecon\u00f3micos en lo que se refiere a sus oportunidades de acceso a las tecnolog\u00edas de la informaci\u00f3n y las comunicaciones (TIC) y al uso de Internet (ACNUDH, 2017: p\u00e1rr. 1).<\/p>\n\n\n\n
[8]<\/a> En realidad, este proceso, que consiste en la migraci\u00f3n de todo tipo de servicios esenciales a plataformas on-line, ya lleva tiempo implant\u00e1ndose en muchos pa\u00edses.<\/p>\n\n\n\n
[9]<\/a> La t\u00e9cnica deepfake<\/em> utiliza la inteligencia artificial para generar im\u00e1genes sint\u00e9ticas que parecen tan reales que enga\u00f1an no solo a nuestros ojos, sino tambi\u00e9n a los algoritmos utilizados para reconocerlas. Los contenidos falsos est\u00e1n dise\u00f1ados para sintonizar con la forma de pensar \u2013preferencias, miedos, prejuicios existentes\u2013 de las diversas personas y comunidades. A medida que las herramientas se hagan m\u00e1s sofisticadas, podr\u00e1n desarrollarse estrategias de desinformaci\u00f3n dirigidas a confundir a la opini\u00f3n p\u00fablica y que en la actualidad se usan para difundir de manera masiva informaciones que polarizan a la sociedad.<\/p>\n\n\n\n
[10]<\/a> En Gab\u00f3n, la reaparici\u00f3n del presidente Ali Bongo despu\u00e9s de meses de ausencia de la escena p\u00fablica por enfermedad provoc\u00f3 dudas sobre si la persona que aparec\u00eda en el video era una recreaci\u00f3n de \u00e9l hecha por ordenador. Esta situaci\u00f3n desemboc\u00f3 en un intento de golpe de Estado en enero de 2019.<\/p>\n\n\n\n
[11]<\/a> El caso tiene su origen en las revelaciones hechas por Edward Snowden, ex consultor nacional de inteligencia inform\u00e1tica de los Estados Unidos, en relaci\u00f3n con los programas electr\u00f3nicos de vigilancia administrados por los servicios de inteligencia del Reino Unido y los Estados Unidos de Am\u00e9rica.<\/p>\n\n\n\n
[12]<\/a> Quiz\u00e1s el marco m\u00e1s desarrollado es el que se ha desarrollado en el seno de la Uni\u00f3n Europea, donde, tras la adopci\u00f3n del Reglamento General de Protecci\u00f3n Datos (RGPD), se ha propuesto un nuevo reglamento destinado a armonizar la respuesta de los Estados Miembros en materia de inteligencia artificial. Este plantea un escenario de tecnolog\u00edas y sistemas de \u201calto riesgo\u201d para la salud y la seguridad o los derechos fundamentales de las personas, los cuales tendr\u00e1n que cumplir una serie de requisitos horizontales obligatorios y procedimientos de homologaci\u00f3n para ser fiables antes de poder introducirse en el mercado de la Uni\u00f3n.<\/p>\n\n\n\n
[13]<\/a> La Comisi\u00f3n Europea ha establecido seis elementos asociadas a distintos servicios a los cuales debe ajustarse una \u201cSmart City\u201d: innovaci\u00f3n y aumento de la productividad mediante el uso de las TIC (econom\u00eda inteligente); planificaci\u00f3n urbana verde, utilizaci\u00f3n eficiente de recursos y control de los niveles de poluci\u00f3n (medio ambiente inteligente); transparencia y participaci\u00f3n de los ciudadanos (gobierno inteligente); altos niveles de calidad de vida, ligados a las facilidades que ofrecen las TIC (est\u00e1ndar de vida inteligente); sistemas log\u00edsticos de transporte integrado e informaci\u00f3n a tiempo real (movilidad inteligente), y sociedad inclusiva e innovadora (ciudadan\u00eda inteligente).<\/p>\n\n\n\n
[14]<\/a> Avances como la estimulaci\u00f3n cerebral profunda, las interfaces cerebro-ordenador y las redes de neuronas artificiales, prometen un mayor conocimiento y supervisi\u00f3n de la actividad cerebral de gran utilidad en el campo m\u00e9dico. Sin embargo, la falta de regulaci\u00f3n actual permite tambi\u00e9n su desarrollo y uso para fines comerciales.<\/p>\n\n\n\n
[15]<\/a> En octubre de 2022, el Consejo de Derechos Humanos adopt\u00f3, con un amplio apoyo por parte de los Estados, la Resoluci\u00f3n A\/HRC\/RES\/51\/3, de 6 de octubre de 2022, titulada La neurotecnolog\u00eda y los derechos humanos<\/em>.<\/p>\n\n\n\n