CONTRERAS - GUIA INTELIGENCIA ARTIFICIAL - Basada en la implementación del Reglamento Europeo de IA

GUIA DE INTELIGENCIA ARTIFICIAL Basada en la implementación del Reglamento Europeo de IA

ANDRÉS FELIPE CONTRERAS POVEDA

1

GUIA DE INTELIGENCIA

ARTIFICIAL Contenido Basada en la implementación del Reglamento Europeo de IA

1. Introducción ..................................................... 3

Este trabajo es realizado como una

A. Protección de datos y privacidad .................... 3 iniciativa autónoma para provecho de todas

B. Transparencia y explicabilidad ......................... 4 aquellas personas que tienen interés en la

C. Justicia y no discriminación ............................. 4 regulación que se plantea en torno a la inteligencia artificial. D. Responsabilidad y rendición de cuentas ......... 4

E. Seguridad y fiabilidad en infraestructuras críticas .................................................................. 5

Pendiente de ISBN F. Impacto en el empleo, la economía y la desigualdad .......................................................... 5

G. Propiedad intelectual ...................................... 5

Este texto puede ser descargado

2. Definiciones ..................................................... 7

gratuitamente del perfil de Linkedin:

3. Objeto y ámbito de aplicación. ........................ 8

https://www.linkedin.com/in/andres4. Alfabetización .................................................. 9 felipe-contreras-poveda-3137b3b4/ a. Introducción a la IA: ......................................... 9 Atribución-NoComercial-CompartirIgual b. Aspectos Técnicos: ........................................... 9 4.0 Internacional c. Ética y Responsabilidad: ................................... 9

5. Prácticas prohibidas ....................................... 10

6. Sistemas IA de alto riesgo .............................. 12

7. Sistema de gestión de riesgos ........................ 14

8. Gobernanza de datos. .................................... 15

Andrés Felipe Contreras P. Abogado de la Universidad Externado de Colombia. Consultor y profesor universitario en temas relacionados con el Derecho Informático, Protección de Datos, Seguridad de la Información, Comercio Electrónico, Contratos y Delitos Informáticos. Especialista en Responsabilidad y Daño Resarcible. Máster en Protección de Datos Personales de la Universidad Internacional de la Rioja. Ha ejercido el Derecho en diferentes empresas privadas y entidades públicas, en cargos como Data Protection Officer. 2

1. Introducción la Inteligencia Artificial y el Impacto de su Regulación La inteligencia artificial (IA) se refiere a la simulación de procesos de inteligencia humana por parte de sistemas informáticos. Estos procesos incluyen el aprendizaje (la adquisición de información y reglas para el uso de la información), el razonamiento (el uso de reglas para llegar a conclusiones aproximadas o definitivas) y la autocorrección. Las tecnologías de IA abarcan desde algoritmos de aprendizaje automático, que permiten a los sistemas aprender y mejorar a partir de la experiencia, hasta redes neuronales profundas que emulan la estructura y el funcionamiento del cerebro humano para realizar tareas complejas como el reconocimiento de imágenes y la comprensión del lenguaje natural.

Por el impacto que las tecnologías y sistemas de IA pueden tener en las personas físicas o naturales, las empresas, la democracia, el Estado de Derecho, el medio ambiente y, al mismo tiempo, por su factor impulsador de la innovación y el empleo, se ha entendido la necesidad de establecer un marco jurídico uniforme que permita promover la adopción de

estos sistemas, con un enfoque centrado, no solamente en su potencial productivo y de mercado, sino también, en el ser humano garantizando un elevado nivel de protección a la salud, la seguridad y los derechos fundamentales. Así las cosas, la regulación de las IA pueden abarcar, entre otras tantas, las siguientes cuestiones:

A. Protección de datos y privacidad La IA a menudo requiere grandes cantidades de datos para entrenar sus algoritmos, lo que plantea preocupaciones sobre la privacidad y la protección de datos personales. La regulación en este ámbito busca garantizar que las empresas manejen los datos de manera ética y conforme a la ley.

Las leyes de protección de datos, como el Reglamento General de Protección de Datos (GDPR) en Europa, buscan proteger la privacidad de los individuos estableciendo directrices claras sobre cómo se deben recopilar, almacenar y utilizar los datos personales. Estas regulaciones aseguran que las empresas que utilizan IA lo hagan de manera transparente y responsable, respetando los derechos de los individuos. 3

B. Transparencia y explicabilidad Muchos sistemas de IA funcionan como "cajas negras", donde sus procesos internos son opacos y difíciles de entender incluso para sus desarrolladores. Esto puede llevar a decisiones inexplicables y falta de rendición de cuentas. Las regulaciones pueden exigir que los sistemas de IA sean transparentes al igual que las decisiones automatizadas que se desprenden de su uso, llevando incluso a que Esto implica los desarrolladores de sistemas de IA proporcionar explicaciones claras y comprensibles de cómo sus algoritmos llegan a decisiones, permitiendo así, la auditoría y el escrutinio público. Esto es crucial para construir confianza y garantizar que

las decisiones sean justas y no discriminatorias.

C. Justicia y no discriminación La IA puede perpetuar o incluso amplificar sesgos existentes en los datos de entrenamiento, lo que resulta en decisiones discriminatorias en áreas como el empleo, la justicia penal, y los servicios financieros. La regulación puede imponer la necesidad de evaluar y mitigar los sesgos en los sistemas de IA. Esto incluye requisitos para la diversidad y representatividad de los datos de entrenamiento, así como auditorías regulares para detectar y corregir sesgos.

D. Responsabilidad y rendición de cuentas Cuando una IA toma una decisión errónea o causa daño, surge la cuestión de la responsabilidad. La regulación puede clarificar quién es responsable, si el desarrollador del software, el proveedor del servicio o el usuario final.

Esto es especialmente importante en aplicaciones críticas como la conducción autónoma, la atención médica y la banca. 4

E. Seguridad y fiabilidad en infraestructuras críticas La implementación de IA en infraestructuras críticas como la energía, el transporte y la salud requiere un enfoque riguroso en la seguridad y fiabilidad. La regulación puede establecer estándares para asegurar que los sistemas de IA sean robustos y resilientes frente a fallos y ataques cibernéticos.

F. Impacto en el empleo, la economía y la desigualdad La automatización impulsada por la IA tiene el potencial de transformar mercados laborales enteros, eliminando algunos tipos de trabajos mientras crea otros nuevos. Adicionalmente, es posible que, sin políticas adecuadas, los beneficios de la IA pueden concentrarse en manos de unos pocos, aumentando la

brecha entre ricos y pobres. La regulación puede abordar estas transiciones y desafíos, fomentando y promoviendo políticas de reeducación y la adaptación, y reconversión de la fuerza laboral, así como incentivos para la creación de empleo en sectores emergentes. Además, pueden implementarse medidas para asegurar una distribución equitativa de los beneficios.

G. Propiedad intelectual La integración de la inteligencia artificial en el ámbito de la propiedad intelectual lleva al análisis de la creación de obras originales e invenciones desarrolladas por estos sistemas, lo cual afecta, entre otras cosas cómo se gestionan, protegen y aplican los derechos de Propiedad Intelectual. Las principales dimensiones que deben ser cubiertas por la regulación de los sistemas de IA se centra en la titularidad de las obras, la contribución humana requerida en los procesos inventivos, las revisiones de evaluaión de patentes, el desarrollo de estrategias de publicidad y marketing, entre otras.

5 En conclusión, la regulación de la inteligencia artificial es esencial para asegurar que el desarrollo y la implementación de estas tecnologías se realicen de manera ética, segura y beneficiosa para la sociedad. Al abordar cuestiones de privacidad, transparencia, responsabilidad, seguridad y el impacto económico, la regulación puede ayudar a mitigar riesgos mientras se maximiza el potencial positivo de la IA. Es un equilibrio delicado que requiere una colaboración constante entre legisladores, tecnólogos, empresas y la sociedad en general. En consecuencia, se necesita un marco jurídico que establezca normas armonizadas en materia de IA para impulsar su desarrollo, utilización y adopción en el mercado interior de

la IA y que, al mismo tiempo, ofrezca un nivel elevado de protección de los intereses particulares y públicos, como la salud y la seguridad y la protección de los derechos fundamentales, incluidos algunos de contenido colectivo como la democracia y la protección del medio ambiente. Esas normas, tal como lo sugiere la redacción del Reglamento Europeo de IA, deben ser claras y firmes por lo que pretenden proteger derechos fundamentales reconocidos universalmente, y promover el enfoque de la IA centrado en el ser humano con la exigencia de desarrollar IA’s seguras, dignas de confianza y éticas. Es por eso y por la importancia que reviste este importante instrumento de orden al ser el primero en detallar estas particularidades de los sistemas de IA que, a continuación, presentamos algunas consideraciones sobre el articulado que contiene el ya mencionado reglamento: 6

2. Definiciones

7

3. Objeto y ámbito de aplicación.

El Reglamento Europeo de Inteligencia Artificial (conocido como AI Act), busca encontrar un equilibrio entre promover la innovación y garantizar que la inteligencia artificial se utilice de manera que respete los valores y derechos fundamentales de la Unión Europea. Fomentar la innovación y la confianza en la IA mediante un marco claro y coherente que facilite la innovación en el ámbito de la IA y el respeto por los derechos fundamentales y la protección de los ciudadanos, es su principal objetivo y, para ello establece en paralelo la necesidad de implementar medidas de gobernanza de la información y la vigilancia del mercado de IA por parte de las autoridades competentes encargadas de su control e inspección. En cuanto a su ámbito de aplicación, el AI Act adopta des criterios principalmente, uno

basado en el aspecto geográfico y otro basado en el tipo u objetivo del sistema de IA de que se trate, entendiendo que el Reglamento, se aplica a todos los proveedores de sistemas de IA que operan dentro del mercado único europeo, independientemente de si están establecidos dentro o fuera de la Unión Europea (EU) y a usuarios de sistemas de IA ubicados en la UE; también, el reglamento aplica principalmente sobre sistemas de IA de alto riesgo que cuyo uso impacta sectores como la salud, la educación, la infraestructura crítica, la gestión de la justicia, y el empleo, donde los riesgos para la seguridad y los derechos fundamentales son más altos. 8

4. Alfabetización La alfabetización en IA, puede cubrir diferentes aspectos. Una propuesta estructural e integral que puede cubrir en debida forma la alfabetización efectiva en IA es la siguiente:

a. Introducción a la IA: • Definición y conceptos básicos: Qué es la IA, tipos de IA (IA débil vs IA fuerte), aprendizaje automático, aprendizaje profundo, redes neuronales. • Historia de la IA: Evolución e hitos clave en el desarrollo de la IA. • Áreas de Aplicación: Ejemplos de IA en diferentes sectores como salud, finanzas, transporte, educación y entretenimiento (Sistemas de IA de alto riesgo). b. Aspectos Técnicos: • Fundamentos de Programación: Introducción a lenguajes de programación como Python, y bibliotecas como TensorFlow y PyTorch. • Algoritmos y Modelos: Principios de los algoritmos de aprendizaje supervisado, no supervisado y de refuerzo. • Manipulación de Datos: Importancia de los datos, técnicas de preprocesamiento

y limpieza de datos, conjuntos de datos y sus fuentes. c. Ética y Responsabilidad: • Consideraciones Éticas: Sesgos algorítmicos, privacidad y protección de datos, transparencia y explicabilidad. • Regulación y Normativas: Conocimiento de las leyes y reglamentos aplicables a la IA, como el AI Act de la UE. • Impacto Social: Consecuencias de la IA en el empleo, la economía y la sociedad en general. 9

5. Prácticas prohibidas La determinación de prácticas prohibidas dentro del IA Act, se prevé, como ya se ha mencionado, para para garantizar la seguridad, los derechos fundamentales y los valores éticos de la Unión Europea, es por esto que estas prohibiciones están basadas principalmente en el riesgo e impacto que estos sistemas pueden generar en las personas, por ejemplo, al manipular las decisiones de compra de consumidores de una manera que sea dañina o engañosa (manipulación cognitiva explotadora); explorar vulnerabilidades de un grupo en específico debido a su edad, discapacidad física o mental, con el objetivo de distorsionar su comportamiento de manera que les cause daño; implementar sistemas de puntuación social utilizados por autoridades públicas para evaluar o clasificar la confiabilidad de las personas 10 basándose en su comportamiento social o datos personales, que resulten en un trato desfavorable y desproporcionado y; facilitar la vigilancia masiva mediante el Uso de cámaras con reconocimiento facial en tiempo real para la vigilancia indiscriminada en lugares públicos sin justificación legal adecuada.

En algunos caos, estas, prácticas prohibidas, plantean algunas excepciones importantes como cuando, por ejemplo, la prevención de amenazas a la seguridad pública o la búsqueda de

personas desaparecidas, pueden permitirse ciertas prácticas bajo condiciones estrictamente reguladas, autorizadas y controladas por las autoridades competentes, asegurando que se respeten los derechos fundamentales y se minimicen los riesgos. En este sentido, llama especialmente la atención la excepción asociada a la identificación biométrica remota en tiempo real en espacios de acceso público, con la finalidad de garantizar del cumplimiento del Derecho, ya que, bajo este supuesto, se pueden presentar situaciones en las que se detectan o deducen las emociones o las intenciones de las personas físicas a partir de sus datos biométricos pueden tener resultados discriminatorios y pueden invadir los derechos y las libertades de las personas afectadas que podrían dar lugar a un trato perjudicial o desfavorable de determinadas personas físicas o colectivos enteros. No obstante, esta excepción atiende a eventos de particular y especial relevancia como son la búsqueda selectiva de personas desaparecidas, la prevención de una amenaza real, y/o previsible de un atentado terrorista y la búsqueda de sospechosos de haber cometido delitos que contemplen penas privativas de la libertad superiores a los cuatro años , en cuyo caso, únicamente podrán emplearse sistemas de IA para confirmar la identidad de la persona y bajo el requisito de implementar limitaciones previas de tipo geográfico y temporal, así como el realizar evaluaciones de impacto sobre derechos fundamentales y solicitar una autorización previa de una autoridad judicial o administrativa, a menos claro, que se trate de situaciones que impliquen una urgencia manifiesta y/o debidamente justificada. Cómo premisa general se tiene que el Reglamento, sus prohibiciones y especialmente las

excepciones a estas, no deben afectar a las prácticas prohibidas por el Derecho establecido dentro de la Unión Europea, incluido en este el Derecho en materia de protección de datos, de no discriminación, de protección de los consumidores y sobre competencia. 11

6. Sistemas IA de alto riesgo

12 El uso potencial de los sistemas de IA de Alto riesgo tiene el potencial de impactar significativamente en la vida de las personas, la seguridad, los derechos fundamentales y la integridad de las estructuras sociales y económicas. Del mismo modo, estos sistemas pueden causar daños graves si no se gestionan adecuadamente, ya sea por errores en su funcionamiento, sesgos inherentes o su mal uso, voluntario e involuntario. La identificación de un sistema de IA como de alto riesgo depende de varios factores, incluidos el contexto de uso, la naturaleza de las decisiones que toma y las posibles consecuencias de sus errores. Sumado a esto, la clasificación que se haga de un sistema de IA como de alto riesgo debe limitarse a aquellos sistemas de IA que tengan un efecto perjudicial considerable en la salud, la seguridad y los derechos fundamentales de las personas, llevando a que se limite su uso y se genere incluso una reduzca al mínimo de cualquier posible comercialización de este. Acorde con esta identificación y clasificación, el Reglamento ofrece una lista – ANEXO 3 (modificable) de ámbitos que podrían considerarse propicios para el desarrollo de sistemas de IA de alto riesgo, relacionados, entre otros, con identificación biométrica, infraestructuras críticas, educación, empleo, cumplimiento del derecho, control fronterizo y migratorio, administración de justicia, entre otros.

En este sentido, la introducción en el mercado, la puesta en servicio o la utilización de sistemas de IA de alto riesgo debe supeditarse al cumplimiento por su parte de determinados requisitos, como, por ejemplo, la implementación de sistemas de gestión de riesgos, los cuales deben garantizar que los sistemas de IA de alto riesgo disponibles o sus resultados de salida, no planteen riesgos inaceptables para intereses públicos importantes, reconocidos y protegidos por el Derecho. Aun con esto y con el propósito de garantizar coherencia y evitar cargas administrativas o costes innecesarios, los proveedores de sistemas de IA de alto riesgo o de productos que contenga uno o varios sistemas de IA de alto riesgo, a los que se apliquen los requisitos de este apartado del Reglamento, deben ser flexibles en lo que respecta a las decisiones operativas relativas a la manera de garantizar la conformidad optima de un producto que contenga uno o varios sistemas de IA con todos los requisitos aplicables de la legislación en materia de competencia, protección de datos personales, derechos de autor, protección al consumidor, entre otros. 13

7. Sistema de gestión de riesgos La gestión de riesgos para sistemas de inteligencia artificial (IA) de alto riesgo es crucial para garantizar que estas tecnologías se desarrollen y se utilicen de manera segura, ética y conforme a la ley. Un sistema de gestión de riesgos efectivo debe abordar todas las etapas del ciclo de vida de la IA, desde su desarrollo hasta su implementación y monitoreo continuo mediante un marco integral para la gestión de riesgos en sistemas de IA de alto riesgo que incluye a) identificación y evaluación de riesgos (PRUEBAS); b) desarrollo de estrategias de

mitigación; c) implementación de medidas de control; d) monitoreo y evaluación continua y e) transparencia y rendición de cuentas. 14

8. Gobernanza de datos.

Gobernar datos en sistemas de inteligencia artificial constituye la base para el entrenamiento de modelos de IA, especialmente para aquellos que dan o darán origen a IA’s de alto riesgo, siendo fundamental para garantizar que estos sistemas, operen de manera segura, ética y conforme a la ley. Un marco integral de gobernanza de datos debe abordar la calidad, integridad, privacidad, seguridad y ética de los datos, además de establecer roles claros y mecanismos de monitoreo y evaluación. Implementar estas prácticas no solo protege a los individuos y a la sociedad en general, sino que también fomenta la confianza en las tecnologías de IA y asegura su desarrollo y uso sostenibles. El Reglamento en este sentido, ofrece una serie de criterios de calidad para efectuar esta gobernanza y una serie de condiciones para tratar categorías especiales de datos (datos sensibles), necesarios para la corrección de sesgos. 15