CONSEJO DE DERECHOS HUMANOS - Informe A HRC 60 45

GE.25-12014 (S) 120925 150925 Consejo de Derechos Humanos 60º período de sesiones 8 de septiembre a 3 de octubre de 2025 Temas 2 y 3 de la agenda Informe anual del Alto Comisionado de las Naciones Unidas para los Derechos Humanos e informes de la Oficina del Alto Comisionado y del Secretario General Promoción y protección de todos los derechos humanos, civiles, políticos, económicos, sociales y culturales, incluido el derecho al desarrollo El derecho a la privacidad en la era digital Informe de la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos Resumen Este informe, presentado en cumplimiento de la resolución 54/21 del Consejo de Derechos Humanos, contiene un análisis de los retos y riesgos en relación con la discriminación y el disfrute desigual del derecho a la privacidad asociados a la recopilación y el tratamiento de datos. Ofrece un esbozo del marco normativo aplicable, una visión de las repercusiones discriminatorias y desiguales de las tecnologías basadas en datos en sectores clave y un análisis de los factores que contribuyen a ello y de los retos resultantes. También contiene recomendaciones sobre cómo evitar que la digitalización perpetúe o profundice la discriminación y la exclusión.

Este informe se envió a los servicios de conferencias fuera de plazo a fin de incluir la información más reciente.

Naciones Unidas A/HRC/60/45

Asamblea General Distr. general 29 de agosto de 2025

Español Original: inglésA/HRC/60/45

2 GE.25-12014

I. Introducción

Naciones Unidas A/HRC/60/45

Asamblea General Distr. general 29 de agosto de 2025

Español Original: inglésA/HRC/60/45

2 GE.25-12014

I. Introducción

1. Este informe se presenta en cumplimiento de la resolución 54/21 del Consejo de Derechos Humanos, en la que el Consejo solicitó a la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos (ACNUDH) que preparase un informe sobre los retos y riesgos en relación con la discriminación y el disfrute desigual del derecho a la privacidad asociados a la recopilación y el tratamiento de datos, que sirviera para determinar y aclarar los principios de derechos humanos, las salvaguardias y las mejores prácticas conexas, y que presentase el informe al Consejo en su 57º período de sesiones. Debido a la actual crisis de liquidez que afecta a la Secretaría, la presentación del informe se aplazó hasta el 60º período de sesiones.

2. La transformación digital de las sociedades es un avance definitorio de los tiempos actuales, que opera cambios en las economías, los entornos políticos y la cultura. Se basa en la recopilación y el tratamiento de datos a una escala sin precedentes. Int ernet, en particular, aparece como una fuente ilimitada de datos que pueden recopilarse, compartirse, analizarse, utilizarse y transformarse en los principales elementos constitutivos de aplicaciones en casi todos los ámbitos de la vida humana. Los avances en inteligencia artificial se han basado en esos procesos y han intensificado en mayor medida la búsqueda de más datos. Paralelamente, en las dos últimas décadas se ha hecho cada vez más evidente que los beneficios y los

todos los ámbitos de la vida humana. Los avances en inteligencia artificial se han basado en esos procesos y han intensificado en mayor medida la búsqueda de más datos. Paralelamente, en las dos últimas décadas se ha hecho cada vez más evidente que los beneficios y los perjuicios de la digitalización se distribuyen de forma desigual. La discriminación y la desigualdad derivadas de la recopilación y el tratamiento de datos están muy extendidas y pueden observarse en todos los sectores de la sociedad: por ejemplo, los generadores de imágenes que solo produ cen imágenes de médicos de piel clara, incluso cuando se les pide expresamente que sean más inclusivos; el hecho de que las mujeres no reciban ofertas de empleo para puestos directivos; la caracterización de una persona como terrorista sobre la base de perfiles algorítmicos discriminatorios; la detención injusta de personas negras por un reconocimiento facial inexacto; el hecho de que un padre con discapacidad sea investigado erróneamente por maltrato infantil debido a un sesgo inherente a los sistemas algo rítmicos de modelización de riesgos de los organismos de protección de menores; el enjuiciamiento de mujeres por haber ejercido sus derechos de salud sexual y reproductiva, basándose en datos recopilados de aplicaciones de seguimiento de sus períodos; o la incapacidad de los trabajadores agrícolas de recibir ayudas sociales porque sus huellas dactilares no pueden ser leídas por los sistemas de identificación biométrica debido a décadas de trabajo manual.

3. El presente informe ofrece una visión de estos fenómenos, sus repercusiones y los factores que contribuyen a ellos, y propone vías para superar y prevenir la discriminación y la desigualdad. Se basa en informes anteriores publicados por el Secretario Ge neral y el

factores que contribuyen a ellos, y propone vías para superar y prevenir la discriminación y la desigualdad. Se basa en informes anteriores publicados por el Secretario Ge neral y el ACNUDH en los que se abordaban muchas de las complejas cuestiones de la digitalización y la datificación1, y refleja las respuestas recibidas a la solicitud de contribuciones formulada por el ACNUDH2.

II. Marco normativo

A. Derecho internacional de los derechos humanos

4. El derecho a la privacidad como derecho humano está reconocido en el artículo 12 de la Declaración Universal de Derechos Humanos, en el artículo 17 del Pacto Internacional de Derechos Civiles y Políticos y en otros instrumentos internacionales y regionales de derechos humanos3. El derecho a la privacidad desempeña un papel fundamental en el equilibrio de

1 A/HRC/27/37, A/HRC/39/29, A/HRC/43/29, A/HRC/48/31, A/HRC/51/17, A/HRC/59/32 y A/79/296. 2 Véase https://www.ohchr.org/en/calls-for-input/2025/right-privacy-digital-age. 3 Véanse el artículo 16 de la Convención sobre los Derechos del Niño, el artículo 14 de la Convención Internacional sobre la Protección de los Derechos de Todos los Trabajadores Migratorios y de Sus Familiares, el artículo 22 de la Convención sobre los Derechos de las Personas con Discapacidad, el artículo 10 de la Carta Africana sobre los Derechos y el Bienestar del Niño, el artículo 11 de la Convención Americana sobre Derechos Humanos y el artículo 8 del Convenio para la Protección deA/HRC/60/45 GE.25-12014 3

artículo 10 de la Carta Africana sobre los Derechos y el Bienestar del Niño, el artículo 11 de la Convención Americana sobre Derechos Humanos y el artículo 8 del Convenio para la Protección deA/HRC/60/45 GE.25-12014 3 poder entre el Estado y el individuo y es primordial para el ejercicio de los derechos en una sociedad democrática4. Su importancia para el goce y el ejercicio de los derechos humanos dentro y fuera de Internet 5 en un mundo cada vez más centrado en los datos no deja de aumentar.

5. El derecho a la privacidad es vital para la dignidad humana y es un factor necesario para la protección de la autonomía y la identidad personales6. Protege una esfera de desarrollo autónomo, interacción y libertad, con o sin interacción con otros, libre de la intervención del Estado y de la excesiva intervención no solicitada de otros actores7.

6. Las dimensiones de la privacidad importantes en el contexto de la recopilación y el tratamiento de datos incluyen: la privacidad informativa, que abarca la información que existe o puede derivarse sobre una persona y su vida y las decisiones basadas en esa información8; la privacidad de las decisiones, que garantiza la capacidad de una persona para tomar decisiones autónomas en su vida; la privacidad corporal, que ampara el control de una persona sobre su propio cuerpo y la protege de contactos físicos, observaciones o intromisiones no deseados; y la privacidad comunicativa y asociativa, es decir, la privacidad para comunicarse y asociarse con los demás.

7. Cualquier injerencia del Estado en el derecho a la privacidad debe ser compatible con el derecho internacional de los derechos humanos y, por tanto, cumplir las normas de finalidad legítima, legalidad, necesidad y proporcionalidad9.

7. Cualquier injerencia del Estado en el derecho a la privacidad debe ser compatible con el derecho internacional de los derechos humanos y, por tanto, cumplir las normas de finalidad legítima, legalidad, necesidad y proporcionalidad9.

8. El derecho a la privacidad puede permitir el disfrute de otros derechos 10. Así pues, la discriminación y el disfrute desigual del derecho a la privacidad en el contexto de la recopilación y el tratamiento de datos pueden afectar a otros derechos, como los derechos a la vida, la libertad y la seguridad, la libertad de expresión11, la libertad de reunión pacífica12, la libertad de circulación, el recurso efectivo, la salud, la educación y la vivienda.

9. El derecho a la igualdad y la prohibición de la discriminación son principios fundamentales del derecho internacional de los derechos humanos, afirmados en el artículo 7 de la Declaración Universal de Derechos Humanos y en los artículos 2 y 26 del Pacto Internacional de Derechos Civiles y Políticos y en otros tratados. La no discriminación es un principio intrínseco del derecho internacional, que existe no solo de forma inherente a la obligación de los Estados de garantizar el respeto, la protección y el cumplimiento de los derechos humanos sin discriminación, sino también, como se consagra en el artículo 26 del Pacto, como garantía de igualdad ante la ley y de igual protección de la ley.

10. El trato diferencial es discriminatorio si tiene por objeto o por resultado anular o menoscabar el reconocimiento, goce o ejercicio, en condiciones de igualdad, de los derechos de todas las personas, a menos que la justificación de la diferenciación se a razonable y objetiva13. Ello entraña evaluar si el fin y los efectos de las medidas o las omisiones de que

de todas las personas, a menos que la justificación de la diferenciación se a razonable y objetiva13. Ello entraña evaluar si el fin y los efectos de las medidas o las omisiones de que

los Derechos Humanos y de las Libertades Fundamentales (Convenio Europeo de Derechos Humanos). 4 A/HRC/39/29, párr. 11. 5 Comité de los Derechos del Niño, observación general núm. 25 (2021), relativa a los derechos de los niños en relación con el entorno digital, párrs. 67 y 68; y A/HRC/39/29, párr. 11. 6 Comité de los Derechos del Niño, observación general núm. 25 (2021), párr. 67; y Tribunal Europeo de Derechos Humanos, Goodwin v. the United Kingdom, demanda núm. 28957/95, sentencia de 11 de julio de 2002, párr. 90. 7 Véase A/HRC/39/29 y Coeriel y Aurik c. Países Bajos (CCPR/C/52/D/453/1991). 8 A/HRC/39/29, párr. 5. 9 A/HRC/48/31, párr. 8. Véase también la resolución 77/211 de la Asamblea General y la resolución 54/21 del Consejo de Derechos Humanos. 10 Véanse la resolución 54/21 del Consejo de Derechos Humanos y A/HRC/48/31. 11 Véase la comunicación del Centro de Estudios en Libertad de Expresión y Acceso a la Información. 12 Véase la comunicación de Pete Fussey y Daragh Murray. 13 Comité de Derechos Humanos, observación general núm. 18 (1989), relativa a la no discriminación y

12 Véase la comunicación de Pete Fussey y Daragh Murray. 13 Comité de Derechos Humanos, observación general núm. 18 (1989), relativa a la no discriminación y los derechos económicos, sociales y culturales, párrs. 6 y 13; y Comité de Derechos Económicos, Sociales y Culturales, observación general núm. 20 (2009) relativa a la no discriminación y los derechos económicos, sociales y culturales, párr. 13.A/HRC/60/45 4 GE.25-12014 se trate son legítimos, están dirigidos a promover el bienestar general en una sociedad democrática y son proporcionados14.

11. Los tratados de derechos humanos prohíben la discriminación por motivos de raza, color, sexo, idioma, religión, opinión política o de otra índole, origen nacional o social, posición económica, nacimiento u otros factores. La referencia a “otros factore s” en los tratados indica que esa lista no es exhaustiva y que pueden incorporarse motivos de naturaleza comparable. Estos motivos adicionales se reconocen generalmente cuando reflejan la experiencia de grupos sociales vulnerables que han sido marginados e n el pasado o que lo son en la actualidad 15. El Comité de Derechos Económicos, Sociales y Culturales, por ejemplo, ha reconocido como motivos protegidos la edad, la nacionalidad, el estado civil y familiar, la orientación sexual y la identidad de género, la discapacidad, el estado de salud y la sit uación económica y social 16. Tanto las formas directas como indirectas de trato diferencial pueden constituir una discriminación prohibida.

12. El artículo 20, párrafo 2, del Pacto Internacional de Derechos Civiles y Políticos

la sit uación económica y social 16. Tanto las formas directas como indirectas de trato diferencial pueden constituir una discriminación prohibida.

12. El artículo 20, párrafo 2, del Pacto Internacional de Derechos Civiles y Políticos establece que toda apología del odio nacional, racial o religioso que constituya incitación a la discriminación, la hostilidad o la violencia estará prohibida por la ley. Los a rtículos 19 y 20 del Pacto se complementan entre sí. El artículo 19, párrafo 3, establece que toda restricción del derecho a la libertad de expresión deberá estar fijada por la ley y ser necesaria para asegurar el respeto a los derechos o a la reputación d e los demás y la protección de la seguridad nacional, el orden público o la salud o la moral públicas17.

13. Las empresas tienen la obligación de respetar los derechos humanos, lo que significa que deben abstenerse de infringir los derechos humanos de terceros y hacer frente a las consecuencias negativas sobre los derechos humanos en las que tengan alguna participación, de conformidad con los Principios Rectores sobre las Empresas y los Derechos Humanos 18.

Los Principios Rectores exigen a las empresas que detecten, prevengan y mitiguen las consecuencias negativas sobre los derechos que se deriven de sus operaciones comerciales o estén relacionadas con ellas, y reflejan las obligaciones de los Estados de proteger contra las violaciones de los derechos humanos cometidas por empresas dentro de su jurisdicción y de garantizar el acceso a una reparación efectiva cuando se produzcan abusos.

14. En un número creciente de resoluciones, la Asamblea General y el Consejo de Derechos Humanos han reconocido que los efectos discriminatorios de la datificación de las sociedades plantean un grave desafío a los derechos humanos 19. Los riesgos de

14. En un número creciente de resoluciones, la Asamblea General y el Consejo de Derechos Humanos han reconocido que los efectos discriminatorios de la datificación de las sociedades plantean un grave desafío a los derechos humanos 19. Los riesgos de discriminación en el contexto de la inteligencia artificial se reconocen en el Pacto Digital Global, que contiene el compromiso de elaborar normas sobre datos y metadatos diseñadas para prevenir y abordar los sesgos, la discriminación o la s violaciones y los abusos de los derechos humanos durante todo el ciclo de vida de los datos (véase el párr. 42 infra).

B. Otros marcos internacionales pertinentes

15. En respuesta a las capacidades cada vez mayores de las tecnologías basadas en datos, se han desarrollado numerosos marcos jurídicos para la recopilación y el tratamiento de datos.

Entre ellos figuran la Convención de la Unión Africana sobre Ciberseguri dad y Protección de Datos Personales y el Convenio para la Protección de las Personas con respecto al Tratamiento Automatizado de Datos de Carácter Personal del Consejo de Europa. Además, en muchos Estados se han aprobado leyes nacionales de protección de datos, aunque siguen existiendo lagunas considerables.

14 Comité de Derechos Económicos, Sociales y Culturales, observación general núm. 20 (2009), párr. 13. 15 Ibid., párr. 27. 16 Ibid., párrs. 27 a 35. 17 Comité de Derechos Humanos, observación general núm. 34 (2011), relativa a la libertad de opinión y la libertad de expresión, párr. 50. 18 Véase la resolución 17/4 del Consejo de Derechos Humanos.

17 Comité de Derechos Humanos, observación general núm. 34 (2011), relativa a la libertad de opinión y la libertad de expresión, párr. 50. 18 Véase la resolución 17/4 del Consejo de Derechos Humanos. 19 Véanse las resoluciones de la Asamblea General 78/187, 78/213 y 78/265 y la resolución 54/21 del Consejo de Derechos Humanos.A/HRC/60/45 GE.25-12014 5

16. La discriminación y la desigualdad se abordan en estos y otros marcos relacionados con los datos de varias maneras, entre ellas otorgando a determinadas categorías de datoscuyo tratamiento conlleva mayores riesgos de discriminación - un mayor grado de protección20. Otros instrumentos prohíben directamente la discriminación a través del tratamiento de datos21.

17. Los esfuerzos recientes se han centrado en la creación de marcos jurídicos para la inteligencia artificial. La igualdad y la no discriminación son preocupaciones centrales abordadas en tales marcos, como el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho y leyes a nivel regional y nacional, como el Reglamento de Inteligencia Artificial de la Unión Europea y la Ley Básica de Desarrollo de la Inteligencia Artificial y Establecimiento de la Confianza de la República de Corea 22. La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura ha adoptado una recomendación sobre la ética de la inteligencia artificial, en la que se subraya la importancia de la no discriminación en el uso responsable de la inteligencia artificial.

III. El papel de los datos como fuente de discriminación y desigualdad

en la que se subraya la importancia de la no discriminación en el uso responsable de la inteligencia artificial.

III. El papel de los datos como fuente de discriminación y desigualdad

A. Efectos dispares en ámbitos clave

18. La sección III contiene una descripción de las principales cuestiones relativas al papel de los datos como fuente de discriminación y desigualdad en sectores clave. Cabe señalar que surgen problemas similares en sectores que van más allá de los abordados en el presente informe, así como en contextos de conflicto armado; el límite de extensión de este informe imposibilita el poder analizarlos.

19. A menudo surgen problemas cuando los sistemas automatizados de toma de decisiones, los análisis predictivos y los sistemas de reconocimiento biométrico incorporan sesgos o se emplean en contextos que hacen probable que singularicen o afecten desproporcionadamente a determinados grupos. Los sistemas de reconocimiento biométrico, por ejemplo, incluidos los de reconocimiento facial, tienen problemas de precisión patentes, en función del tono de la piel y del sexo. Aunque los desarrolladores puedan mitigar esos resultados23, persisten otros problemas. Históricamente, las tecnologías de vigilancia se han desplegado de forma que afectan desproporcionadamente a las comunidades marginadas y con bajos ingresos, y a veces se utilizan para atacar a determinados grupos24. Los sistemas de reconocimiento biométrico proporcionan la información necesaria para elaborar perfiles de las personas en función de su etnia, raza, género y otras características personales25. También se han utilizado sistemas de reconocimiento biométrico para identificar y rastrear a manifestantes pacíficos y disidentes, lo que equivale a discriminación por motivos de opinión política. El despliegue de una tecnología de vigilancia tan potente también puede desalentar

se han utilizado sistemas de reconocimiento biométrico para identificar y rastrear a manifestantes pacíficos y disidentes, lo que equivale a discriminación por motivos de opinión política. El despliegue de una tecnología de vigilancia tan potente también puede desalentar

20 Véanse la Convención de la Unión Africana sobre Ciberseguridad y Protección de Datos Personales y la versión revisada del Convenio para la Protección de las Personas con respecto al Tratamiento Automatizado de Datos de Carácter Personal del Consejo de Europa (Protocolo de Enmienda, Serie de Tratados del Consejo de Europa, núm. 223). 21 Véanse la Ley General de Protección de Datos del Brasil, los Principios rectores sobre la reglamentación de los ficheros computadorizados de datos personales y los Principios sobre Protección y Privacidad de los Datos Personales. Véase también ST/SGB/2024/3. 22 Véase https://eur-lex.europa.eu/eli/reg/2024/1689/oj; y https://cset.georgetown.edu/wpcontent/uploads/t0625_south_korea_ai_law_EN.pdf. Muchos otros Estados están debatiendo proyectos de ley relacionados con la inteligencia artificial; véase la comunicación de Colombia. 23 Véase https://pages.nist.gov/frvt/reports/demographics/nistir_8429.pdf. 24 Véase https://www.aclu.org/documents/aclu-comment-facial-recognition-and-biometric-technologieseo-14074-13e; y las comunicaciones de Access Now y Human Rights Myanmar. 25 Véanse A/HRC/44/57, párrs. 39 y 40; y A/HRC/48/31.A/HRC/60/45 6 GE.25-12014

25 Véanse A/HRC/44/57, párrs. 39 y 40; y A/HRC/48/31.A/HRC/60/45 6 GE.25-12014 el ejercicio de las libertades públicas y otros derechos26. Algunos informes anteriores del Alto Comisionado contienen un análisis más detallado de estas cuestiones27.

1. Aplicación de la ley y justicia penal

20. La policía y los tribunales utilizan cada vez más herramientas de predicción basadas en datos28. Entre ellas se incluyen herramientas con las que predecir dónde pueden producirse delitos y sistemas para determinar el riesgo de reincidencia o señalar a personas como riesgos o probables sospechosos. Estos sistemas dependen de grandes cantidades de dat os, como datos históricos y en tiempo real, antecedentes penales, registros de detenciones, estadísticas de delincuencia, registros de intervenciones policiales en lugares concretos, publicaciones y metadatos de medios sociales, datos de comunicaciones y d atos de localización. Está bien documentado que los resultados de estos sistemas suelen mostrar importantes sesgos, a menudo como consecuencia de sesgos históricos en los sistemas de aplicación de la ley y de justicia penal, que afectan negativamente a las minorías raciales, étnicas y religiosas en particular29. Esto se suma a las preocupaciones derivadas del uso del reconocimiento biométrico, como se ha mencionado anteriormente.

2. Migración

21. Las personas que se desplazan son a menudo objeto de prácticas de recopilación y tratamiento de datos especialmente generalizadas e intrusivas, con graves implicaciones para los derechos humanos. La infraestructura para gestionar la migración depende c ada vez más de amplias tecnologías basadas en datos, como la inteligencia artificial, los sistemas

tratamiento de datos especialmente generalizadas e intrusivas, con graves implicaciones para los derechos humanos. La infraestructura para gestionar la migración depende c ada vez más de amplias tecnologías basadas en datos, como la inteligencia artificial, los sistemas algorítmicos automatizados de toma de decisiones, el análisis predictivo y las tecnologías digitales relacionadas30. Estas tecnologías pueden utilizarse para muchos fines, entre ellos la detección en las fronteras físicas, la determinación de riesgos definidos por el Estado en evaluaciones algorítmicas de riesgos 31, la verificación de identidades y la gestión de la presencia de migrantes en un país. Los datos recopilados, almacenados, procesados y compartidos pueden incluir datos biométricos, datos sanitarios, datos de medios sociales, logros educativos, situación l aboral, nacionalidad, datos de localización, información sobre redes personales y profesionales, situación familiar, antecedentes penales, datos financieros y datos sobre actividades políticas y de otro tipo. Los datos se recogen de las personas afectadas, organismos estatales, empresas privadas, incluidos los intermediarios de datos, organizaciones internacionales y otros Estados. Los gobiernos han ido creando sistemas y bases de datos cada vez más integrados e interoperables, lo que permite el acceso a los datos a un gran número de organismos para una amplia gama de fines32. A partir de estos sistemas y bases de datos, las autoridades determinan quién puede entrar en un país o debe salir y quién puede tener acceso a prestaciones y servicios. Aunque esos objetivos son legítimos, los efectos adversos suelen afectar desproporcionadamente a personas de determinados orígenes nacionales o étnicos debido, por ejemplo, a los prejuicios integrados en los sistemas de

quién puede tener acceso a prestaciones y servicios. Aunque esos objetivos son legítimos, los efectos adversos suelen afectar desproporcionadamente a personas de determinados orígenes nacionales o étnicos debido, por ejemplo, a los prejuicios integrados en los sistemas de

26 Véanse A/HRC/44/24, A/HRC/48/31 y A/HRC/51/17; y la comunicación de Pete Fussey y Daragh Murray. Véanse también A/HRC/48/76 y A/75/590. 27 A/HRC/44/24, A/HRC/48/31 y A/HRC/51/17. 28 Véase A/79/296. 29 Véase Comité para la Eliminación de la Discriminación Racial, recomendación general núm. 36 (2020), relativa a la prevención y la lucha contra la elaboración de perfiles raciales por los agentes del orden. Véase también el documento de sesión del Consejo de Derechos Humanos titulado “Promoción y protección de los derechos humanos y las libertades fundamentales de los africanos y los afrodescendientes frente al uso excesivo de la fuerza y otras violaciones de los derechos humanos por agentes del orden”, párr. 93, disponible en el sitio web del Consejo (https://www.ohchr.org/es/hrbodies/hrc/regular-sessions/session47/list-reports). 30 Véanse A/HRC/48/76 y A/75/590. 31 Estas tecnologías pueden comprender incluso sistemas pseudocientíficos de reconocimiento de emociones que no son capaces de procesar los matices culturales o de otra índole y que pueden incluso incorporar en sus procesos postulados eugenésicos de la frenología. Véanse también A/HRC/48/31 y la comunicación de Access Now.

emociones que no son capaces de procesar los matices culturales o de otra índole y que pueden incluso incorporar en sus procesos postulados eugenésicos de la frenología. Véanse también A/HRC/48/31 y la comunicación de Access Now. 32 Véanse https://www.ohchr.org/sites/default/files/2023-09/Digital-Border-Governance-A-HumanRights-Based-Approach.pdf; y la comunicación de AsyLex.A/HRC/60/45 GE.25-12014 7 adopción de decisiones basada en datos y, en ocasiones, a las prácticas discriminatorias de aplicación de perfiles33.

3. Prestaciones sociales

22. Las tecnologías basadas en datos se están convirtiendo en un elemento cada vez más central de la forma en que los Estados gestionan y prestan servicios esenciales, entre ellos la asistencia social y la salud pública. Entre los objetivos de estos sistem as figuran el aumento de la eficiencia, la prestación precisa de servicios y la detección del fraude. Se utilizan para determinar la admisibilidad a los programas y los importes de las prestaciones, hacer cumplir los límites de ingresos y bienes y verifica r la identidad. También se despliegan para señalar situaciones en las que es necesario intervenir, por ejemplo cuando pueden producirse situaciones de abuso. Existe un gran potencial para aprovechar la toma de decisiones y el apoyo algorítmico a fin de avanzar hacia objetivos tan importantes. El Relator Especial sobre la extrema pobreza y los derechos humanos ha señalado, por ejemplo, que la automatización de las prestaciones podría ser una forma clave de abordar la no percepción de las prestaciones sociales, ya que podría reducir la complejidad administrativa para los posibles beneficiarios34.

la extrema pobreza y los derechos humanos ha señalado, por ejemplo, que la automatización de las prestaciones podría ser una forma clave de abordar la no percepción de las prestaciones sociales, ya que podría reducir la complejidad administrativa para los posibles beneficiarios34.

23. Existen riesgos significativos para la igualdad en el disfrute del derecho a la privacidad y otros derechos. El acceso a los servicios sociales se ha relacionado a menudo con el deterioro de las garantías de privacidad de las personas con bajos ingreso s, ya que se espera que los solicitantes y beneficiarios proporcionen amplia información sobre su vida privada, lo que puede llegar a incluir medidas intrusivas. Este fenómeno afecta desproporcionadamente a las mujeres y a los miembros de minorías raciales o étnicas y puede perpetuarse gracias a las tecnologías digitales35. Un antiguo Relator Especial sobre la extrema pobreza y los derechos humanos se refirió a la utilización de la contrastación de datos sin restricciones para exponer, vigilar y castigar a los beneficiarios de la asistencia social como una potencial “distopía de bienestar digital36”.

24. Los datos utilizados proceden en parte de los solicitantes, en parte de otras fuentes, como diversas bases de datos gubernamentales y medios sociales, o se compran a proveedores comerciales37. El uso de sistemas algorítmicos de toma de decisiones o de apoyo puede dar lugar al corte de una fuente principal de ingresos, la denegación del acceso a tratamiento médico y la denegación de una vivienda básica; incluso puede desencadenar investigaciones y procesos penales. La denegación de prestaciones puede tener efectos negativos de gran alcance en la vida de las personas, como la insolvencia, la pérdida de la vivienda y el deterioro de la salud. Como consecuencia, es posible que las personas más

investigaciones y procesos penales. La denegación de prestaciones puede tener efectos negativos de gran alcance en la vida de las personas, como la insolvencia, la pérdida de la vivienda y el deterioro de la salud. Como consecuencia, es posible que las personas más necesitadas de ayuda