PGN - Directiva conjunta 007 de 2025

DIRECTIVA CONJUNTA No. 007

DE: PROCURADOR GENERAL DE LA NACIÓN Y DEFENSORA DEL

PUEBLO

PARA: Los sujetos obligados en el artículo 5 de la Ley 1712 de 2014: “a) Toda entidad pública, incluyendo las pertenecientes a todas las Ramas del Poder Público, en todos los niveles de la estructura estatal, central o descentralizada por servicios o territorialmente, en los órdenes nacional, departamental, municipal y distrital. b) Los órganos, organismos y entidades estatales independientes o autónomos y de control; c) Las personas naturales y jurídicas, públicas o privadas, que presten función pública, que presten servicios públicos respecto de la información directamente relacionada con la prestación del servicio público; d) Cualquier persona natural, jurídica o dependencia de persona jurídica que desempeñe función pública o de autoridad pública, respecto de la información directamente relacionada con el desempeño de su función; e) Los partidos o movimientos políticos y los grupos significativos de ciudadanos; f) Las entidades que administren instituciones parafiscales, fondos o recursos de naturaleza u origen público.

Las personas naturales o jurídicas que reciban o intermedien fondos o beneficios públicos territoriales y nacionales y no cumplan ninguno de los otros requisitos para ser considerados sujetos obligados, solo deberán cumplir con la presente ley respecto de aquella información que se produzca en relación con fondos públicos que reciban o intermedien.”

cumplan ninguno de los otros requisitos para ser considerados sujetos obligados, solo deberán cumplir con la presente ley respecto de aquella información que se produzca en relación con fondos públicos que reciban o intermedien.”

ASUNTO: ESTANDARES SOBRE TRANSPARENCIA ALGORÍTMICA PARA LOS

SISTEMAS ALGORÍTMICOS UTILIZADOS POR EL ESTADO

FECHA: 30 de septiembre de 2025EL PROCURADOR GENERAL DE LA NACIÓN Y LA DEFENSORA DEL PUEBLO

En ejercicio de sus atribuciones constitucionales y legales y, en especial las conferidas por los numerales 6 y 7 del artículo 7 del Decreto Ley 262 de 2000, modificado por el artículo 2 del Decreto Ley 1851 de 2021, y los artículos 4 y 5 del Decreto Ley 025 de 2014, así como lo dispuesto en la orden cuatro de la sentencia T-067 de 2025 de la Corte Constitucional y

CONSIDERANDO

Que la Constitución Política de Colombia, en sus artículos 20, 23 y 74, consagró los derechos fundamentales de petición y acceso a la información pública, en virtud de los cuales toda persona tiene derecho a presentar peticiones respetuosas ante las autoridades administrativas por motivos de interés general o particular, a recibir pronta respuesta dentro de los plazos establecidos por la ley, y a acceder a los documentos e información pública, salvo aquellas excepciones expresamente contempladas por la Constitución o la ley.

Que por medio de la Ley 1712 de 2014 o Ley de Transparencia y del Derecho de Acceso a la Información Pública Nacional, se regula el derecho de acceso a la información pública, los procedimientos para el ejercicio y garantía del derecho

Que por medio de la Ley 1712 de 2014 o Ley de Transparencia y del Derecho de Acceso a la Información Pública Nacional, se regula el derecho de acceso a la información pública, los procedimientos para el ejercicio y garantía del derecho y las excepciones a la publicidad de información.

Que el artículo 4 de la Ley antes mencionada establece que, en desarrollo del derecho fundamental de acceso a la información, toda persona tiene la facultad de conocer la existencia y acceder a la información pública que se encuentre en poder o bajo el control de los sujetos obligados.

Que en el artículo 3 de la Ley 1712 de 2014 se establecen los principios que se aplican en la interpretación del acceso a la información. Entre esos, el principio de la divulgación proactiva de la información, que está definido en dicha norma de la siguiente manera: “[e]l derecho de acceso a la información no radica únicamente en la obligación de dar respuesta a las peticiones de la sociedad, sino también en el deber de los sujetos obligados de promover y generar una cultura de transparencia, lo que conlleva la obligación de publicar y divulgar documentos y archivos que plasman la actividad estatal y de interés público, de forma rutinaria y proactiva, actualizada, accesible y comprensible, atendiendo a límites razonables del talento humano y recursos físicos y financieros.”Que el artículo 5 de la Ley 1712 de 2014 establece el ámbito de aplicación de la norma estatutaria, al señalar que las disposiciones de dicha ley son obligatorias para un conjunto amplio de sujetos, entre los cuales están incluidos:

“a) Toda entidad pública, incluyendo las pertenecientes a todas las

norma estatutaria, al señalar que las disposiciones de dicha ley son obligatorias para un conjunto amplio de sujetos, entre los cuales están incluidos:

“a) Toda entidad pública, incluyendo las pertenecientes a todas las Ramas del Poder Público, en todos los niveles de la estructura estatal, central o descentralizada por servicios o territorialmente, en los órdenes nacional, departamental, municipal y distrital. b) Los órganos, organismos y entidades estatales independientes o autónomos y de control; c) Las personas naturales y jurídicas, públicas o privadas, que presten función pública, que presten servicios públicos respecto de la información directamente relacionada con la prestación del servicio público; d) Cualquier persona natural, jurídica o dependencia de persona jurídica que desempeñe función pública o de autoridad pública, respecto de la información directamente relacionada con el desempeño de su función. e) Los partidos o movimientos políticos y los grupos significativos de ciudadanos; f) Las entidades que administren instituciones parafiscales, fondos o recursos de naturaleza u origen público. Las personas naturales o jurídicas que reciban o intermedien fondos o beneficios públicos territoriales y nacionales y no cumplan ninguno de los otros requisitos para ser considerados sujetos obligados, solo deberán cumplir con la presente ley respecto de aquella información que se produzca en relación con fondos públicos que reciban o intermedien.”

Que en los artículos 18 y 19 de la Ley 1712 del 2014 se establecen las excepciones

produzca en relación con fondos públicos que reciban o intermedien.”

Que en los artículos 18 y 19 de la Ley 1712 del 2014 se establecen las excepciones al derecho fundamental de acceso a la información Pública.

Que en el artículo 23 de la Ley 1712 de 2014 se establece que el Ministerio Público “será el encargado de velar por el adecuado cumplimiento de las obligaciones estipuladas en la presente ley”.

Que el artículo 14 de la Ley 1755 de 2015 establece que las peticiones mediante las cuales se eleva una consulta a las autoridades en relación con las materias a su cargo deberán resolverse dentro de los treinta (30) días siguientes a su recepción.

Que el artículo 24 de la Ley 1755 de 2015 señala la información y documentos que tienen carácter reservado como las relacionadas con la defensa o seguridad nacionales, entre otros.Que por medio del Decreto 103 de 2015, derogado parcialmente por el Decreto 1081 de 2015, se reglamentó parcialmente la Ley 1712 de 2014, en lo relativo a la gestión de la información pública.

Que en la Ley 1581 de 2012, reglamentada parcialmente por el Decreto Nacional 1377 de 2013 y por el Decreto 1081 de 2015, se consagran los principios, los responsables, las garantías y categorías de protección para el tratamiento de datos personales.

Que el 22 de mayo de 2019, Colombia adoptó formalmente la recomendación del Consejo de la OCDE sobre Inteligencia Artificial (IA) para garantizar una administración responsable de IA confiable, recomendación que fue actualizada

datos personales.

Que el 22 de mayo de 2019, Colombia adoptó formalmente la recomendación del Consejo de la OCDE sobre Inteligencia Artificial (IA) para garantizar una administración responsable de IA confiable, recomendación que fue actualizada en el año 2024. Dicha recomendación contiene cinco principios rectores, el tercero de los cuales dice que “[d]ebe haber transparencia y divulgación responsable en torno a los sistemas de IA, para garantizar que las personas entiendan los resultados basados en la IA y puedan desafiarlos.” Adicionalmente, en desarrollo de esta recomendación, en 2021 el Estado expidió el Marco Ético para la Inteligencia Artificial en Colombia.

Que el 14 de febrero de 2025 el Consejo Nacional de Política Económica y Social –CONPES-, expidió el Documento CONPES 4144 de 2025 o Política Nacional de Inteligencia Artificial, que en su marco teórico reconoce que la transparencia y explicabilidad en el uso y desarrollo de sistemas de IA son fundamentales para asegurar un desarrollo y uso responsable de esta tecnología.

Que la Corte Constitucional en la Sentencia C -491 de 2007 expresó que “para la Constitución la garantía más importante del adecuado funcionamiento del régimen constitucional está en la plena publicidad y transparencia de la gestión pública”.

Que, según lo dispuesto por la Corte Constitucional en la Sentencia C-274 de 2013, “el derecho de acceso a documentos públicos impone al menos dos deberes correlativos a todas las autoridades estatales. En primer lugar, para garantizar

pública”.

Que, según lo dispuesto por la Corte Constitucional en la Sentencia C-274 de 2013, “el derecho de acceso a documentos públicos impone al menos dos deberes correlativos a todas las autoridades estatales. En primer lugar, para garantizar el ejercicio de este derecho, las autoridades públicas tienen el deber de suministrar a quien lo solicite, información clara, completa, oportuna, cierta y actualizada, sobre su actividad. En segundo lugar, también es necesario que las autoridades públicas conserven y mantengan ‘la información sobre su actividad, ya que, de no hacerlo, se vulnera el derecho de las personas al acceso a la información pública y, en consecuencia, el derecho a que ejerzan un control sobre sus actuaciones’.”Que la Corte Constitucional en la Sentencia T-067 de 2025, señaló expresamente que “el principio de transparencia algorítmica, en su faceta activa y pasiva, es un elemento esencial del derecho de acceso a la información pública que requiere de una regulación específica que permita que el Gobierno Nacional, adopte medidas conducentes a su protección.”

Que en dicha Sentencia, la Corte explicó que la transparencia algorítmica “se define como la disponibilidad de información sobre sistemas de algoritmos que permite conocer su operación y valorar su rendimiento”, y agrega que “[l]o que se busca con la transparencia algorítmica es, en otros términos, que el público en general pueda comprender cómo los sistemas de toma de decisiones automatizadas (SDA) procesan los datos que capturan y cómo toman decisiones que afectan la vida de las personas. Se trata de un principio con un fin

en general pueda comprender cómo los sistemas de toma de decisiones automatizadas (SDA) procesan los datos que capturan y cómo toman decisiones que afectan la vida de las personas. Se trata de un principio con un fin constitucional: democratizar el funcionamiento interno de un sistema de toma de decisión automatizado, para que sea entendible por quienes se ven afectados por su puesta en marcha y operación.”

Que en la referida decisión, la Corte precisó que “la transparencia significativa tiene dos elementos implícitos que son la accesibilidad y la explicabilidad. El primero de estos elementos implica ir más allá de la mera publicidad de la información y permitir auditorías o inspecciones externas que analicen y expliquen sus impactos. Esto, pues el público general puede no entender el lenguaje técnico que se emplea en esos sistemas y, en todo caso, incluso alguien con conocimiento experto puede no prever los impactos del algoritmo. Por ejemplo, en Canadá, dependiendo del nivel de impacto de una decisión tomada con un sistema algorítmico, se deben hacer consultas previas con expertos, que pueden ser del gobierno o externos, y luego publicar sus evaluaciones en lenguaje claro.

El segundo elemento, la explicabilidad, implica que las personas deben poder entender, en lenguaje sencillo y concreto, cómo el sistema llegó a un determinado resultado. Un ejemplo de una medida de transparencia significativa, a través de la cual se busca garantizar la explicabilidad, es el

entender, en lenguaje sencillo y concreto, cómo el sistema llegó a un determinado resultado. Un ejemplo de una medida de transparencia significativa, a través de la cual se busca garantizar la explicabilidad, es el Reglamento General de Protección de Datos de la Unión Europea. Allí se señala que, cuando se obtengan datos personales que van a ser objeto de tratamiento a través de un sistema de decisión automatizado, se deberá informar a la persona interesada sobre la existencia del sistema y darle información significativa sobre su lógica y sobre la importancia y las consecuencias que el tratamiento automatizado puede tener para ella.”Que en la mencionada orden cuarta de la Sentencia T-067 de 2025 la Corte Constitucional le ordenó a la Agencia Nacional Digital, así como las oficinas designadas por la Procuraduría General de la Nación y la Defensoría del Pueblo — entidades que integran el Ministerio Público—, que en un plazo máximo de seis (6) meses contados a partir de la notificación de la correspondiente decisión judicial, expidan unos estándares mínimos sobre transparencia algorítmica en los sistemas de decisión automatizada implementados por el Estado.

Que en la misma Sentencia, la Corte Constitucional precisó que dichos estándares deberán establecer como mínimo: “(i) las garantías de protección de la transparencia algorítmica en su faceta pasiva; (ii) y las obligaciones del Estado para asegurar que en los próximos desarrollos de herramientas digitales se

transparencia algorítmica en su faceta pasiva; (ii) y las obligaciones del Estado para asegurar que en los próximos desarrollos de herramientas digitales se garantice la faceta activa de este principio, al disponer de forma abierta y periódica de información que permita comprender el diseño y funcionamiento de los algoritmos públicos.”

Que de conformidad con lo expuesto, con el apoyo de la Agencia Nacional Digital y el Ministerio de Tecnologías de la Información y las Comunicaciones de Colombia, la Procuraduría General de la Nación y la Defensoría del Pueblo profieren una directiva conjunta que define estándares sobre transparencia algorítmica para los sujetos obligados de la Ley 1712 de 2014 en cumplimiento de la señalada orden cuarta de la Sentencia T-067 de 2025.

En mérito de lo expuesto,

DISPONEN:

CAPÍTULO 1

GENERALIDADES

Artículo 1. Estándares de transparencia algorítmica. La Procuraduría General de la Nación y la Defensoría del Pueblo, con el apoyo técnico de la Agencia Nacional Digital, profieren esta Directiva Conjunta con unos estándares mínimos de transparencia algorítmica aplicables a los sistemas algorítmicos que desarrollen, adquieran, implementen y/o usen los sujetos obligados en el artículo 5 de la Ley 1712 de 2014 y que cumplen con lo dispuesto en el artículo 6 de esta

desarrollen, adquieran, implementen y/o usen los sujetos obligados en el artículo 5 de la Ley 1712 de 2014 y que cumplen con lo dispuesto en el artículo 6 de esta Directiva. Esta Directiva se desarrolla en los términos dispuestos por la Sentencia T-067 de 2025 de la Corte Constitucional.

Artículo 2. Definiciones. Para los efectos de la presente directiva conjunta se precisan las siguientes definiciones:a) Algoritmo: “puede definirse como el conjunto de reglas y procedimientos que se siguen para resolver un problema determinado de manera lógica y eficiente. En palabras más sencillas, un algoritmo es una serie de pasos ordenados que hacen que una información de entrada –‘input’- se convierta en un resultado –‘output’-, y puede ser implementado en forma de un programa de computación que resuelve el problema de forma automatizada y mucho más veloz.”1

b) Asistente virtual: es un sistema informático diseñado para interactuar con las personas mediante lenguaje natural, a través de canales digitales como sitios web, aplicaciones móviles, redes sociales o mensajería instantánea. Su finalidad es brindar información, asistir en trámites o facilitar el acceso a servicios de forma automatizada. Existen diferentes tipos de chatbots según la tecnología que emplean. Por ejemplo, algunos se basan en Automatización Robótica de Procesos (RPA), entretanto otros incorporan Inteligencia Artificial (IA).

c) Derecho fundamental de acceso a la información pública: es un derecho fundamental que faculta a toda persona a conocer y acceder a la información en poder o bajo control de entidades públicas, así como de

Inteligencia Artificial (IA).

c) Derecho fundamental de acceso a la información pública: es un derecho fundamental que faculta a toda persona a conocer y acceder a la información en poder o bajo control de entidades públicas, así como de cualquier sujeto que cumpla funciones públicas o administre recursos del Estado. Reconocido expresamente en el artículo 74 de la Constitución y desarrollado por la Ley 1712 de 2014, este derecho se fundamenta en los principios de participación democrática, control ciudadano y transparencia, y cuenta con respaldo en instrumentos internacionales de derechos humanos. Comprende tanto el acceso por solicitud como el deber de los sujetos obligados de divulgar proactivamente información veraz, comprensible y oportuna. Sus límites son excepcionales y deben estar expresamente previstos por la Constitución o la ley, con aplicación estricta bajo criterios de razonabilidad, proporcionalidad y justificación motivada.

d) Directiva: es una disposición de carácter general, emitida por una autoridad competente, cuyo propósito principal es establecer, interpretar o aplicar estándares que orienten el actuar de otras dependencias, entidades o funcionarios públicos. A través de las directivas, se definen marcos de referencia técnicos, normativos o procedimentales que buscan armonizar y guiar la implementación de políticas públicas, normas o 1 Sentencia T-067 de 2025. Definición que la Corte construyó a partir de: Yanofsky, Noson S. Towards a Definition of an Algorithm. En: Journal of Logic and Computation. Volume: 21. Issue: 2, April 2011. Disponible en:

1 Sentencia T-067 de 2025. Definición que la Corte construyó a partir de: Yanofsky, Noson S. Towards a Definition of an Algorithm. En: Journal of Logic and Computation. Volume: 21. Issue: 2, April 2011. Disponible en: https://bit.ly/3xxwKdE.procesos administrativos. Aunque no crea derechos u obligaciones de manera directa como un acto administrativo individual, la directiva tiene efectos vinculantes dentro de la administración pública en el marco de sus competencias.2

e) Fase de implementación: también llamada implantación, la implementación hace referencia a "todas las actividades y aspectos que van a permitir que el sistema de información se despliegue en un ambiente productivo de una manera controlada y pueda ser usado y apropiado por los usuarios finales."3

f) Sistema de toma de decisiones automatizadas (SDA): “[c]ualquier tecnología que asiste o sustituye el juicio de los responsables humanos de la toma de decisiones. Estos sistemas se basan en campos como la estadística, la lingüística y la informática, y utilizan técnicas como los sistemas basados en reglas, la regresión, el análisis predictivo, el aprendizaje automático, el aprendizaje profundo y las redes neuronales.”4 Para efectos de esta Directiva Conjunta se excluyen los sistemas “que se utilicen sólo para la generación, transmisión, manejo, procesamiento y almacenamiento de datos digitales. Sistemas que se utilicen para manipular o gestionar cantidades físicas o información que se encuentre representada en forma digital. Sistemas que solo sistematizan información

almacenamiento de datos digitales. Sistemas que se utilicen para manipular o gestionar cantidades físicas o información que se encuentre representada en forma digital. Sistemas que solo sistematizan información a la ciudadanía como observatorios, portales de datos abiertos o que muestran estadísticas agregadas. Sistemas de gestión, transacciones, pago y planificación administrativa.”5

g) Sistema de IA: “[u]n sistema de IA es un sistema basado en máquinas que, para objetivos explícitos o implícitos, infiere, a partir de los datos de entrada que recibe, cómo generar información de salida como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos reales o virtuales. Una vez implementados, los distintos sistemas de IA presentan diversos niveles de autonomía y varían en su capacidad de adaptación.”6 2 Esta definición se construyó con base en la definición establecida en el Manual de Técnica Normativa Distrital de la Secretaría Jurídica Distrital de la Alcaldía de Bogotá y la establecida por el Archivo General de la Nación. 3 Ministerio de Tecnologías de la Información y las Comunicaciones 2023. (2023). Guía Dominio. MGGTI.G.SI – Gestión de Sistemas Información. Disponible en: https://bit.ly/45z5poG 4 Directiva del gobierno canadiense para la toma de decisiones automatizada. Apéndice A. Dispoible en: https://bit.ly/4fI4iYu 5 Garrido, R., Lapostol, J. P., & Hermosilla, M. P. (2021). Transparencia algorítmica en el sector público. GOB LAB

https://bit.ly/4fI4iYu 5 Garrido, R., Lapostol, J. P., & Hermosilla, M. P. (2021). Transparencia algorítmica en el sector público. GOB LAB UAI. Consejo para la Transparencia. 6 OCDE.h) Transparencia algorítmica: “se define como la disponibilidad de información sobre sistemas de algoritmos que permite conocer su operación y valorar su rendimiento”. En efecto, “[l]o que se busca con la transparencia algorítmica es, en otros términos, que el público en general pueda comprender cómo los sistemas de toma de decisiones automatizadas (SDA) procesan los datos que capturan y cómo toman decisiones que afectan la vida de las personas. Se trata de un principio con un fin constitucional: democratizar el funcionamiento interno de un sistema de toma de decisión automatizado, para que sea entendible por quienes se ven afectados por su puesta en marcha y operación.”7

1. Transparencia activa o proactiva: “‘[s]e refiere a la divulgación rutinaria de información por parte del gobierno que "se pone a disposición de agentes externos sin que éstos tengan que solicitarla explícitamente’

(Porumbescu et al., 2022, p. 11).”8

j) Transparencia pasiva o reactiva: “se produce cuando ‘miembros individuales del público presentan solicitudes de información y la reciben’ (Darbishire, 2010, p. 3).”9

Artículo 3. Ámbito de aplicación. La presente Directiva Conjunta aplica a todos

individuales del público presentan solicitudes de información y la reciben’ (Darbishire, 2010, p. 3).”9

Artículo 3. Ámbito de aplicación. La presente Directiva Conjunta aplica a todos los sujetos obligados según el artículo 5 de la Ley 1712 de 2014:

“a) Toda entidad pública, incluyendo las pertenecientes a todas las Ramas del Poder Público, en todos los niveles de la estructura estatal, central o descentralizada por servicios o territorialmente, en los órdenes nacional, departamental, municipal y distrital. b) Los órganos, organismos y entidades estatales independientes o autónomos y de control; c) Las personas naturales y jurídicas, públicas o privadas, que presten función pública, que presten servicios públicos respecto de la información directamente relacionada con la prestación del servicio público; d) Cualquier persona natural, jurídica o dependencia de persona jurídica que desempeñe función pública o de autoridad pública, respecto de la información directamente relacionada con el desempeño de su función; 7 Sentencia T-067 de 2025. 8 GPAI (2025). "Transparencia algorítmica en el sector público: Un informe sobre el estado del arte de los instrumentos de transparencia algorítmica". Informe, mayo de 2025, Global Partnership on Artificial Intelligence. 9 GPAI (2025). "Transparencia algorítmica en el sector público: Un informe sobre el estado del arte de los instrumentos de transparencia algorítmica". Informe, mayo de 2025, Global Partnership on Artificial Intelligence.e) Los partidos o movimientos políticos y los grupos significativos de ciudadanos;

instrumentos de transparencia algorítmica". Informe, mayo de 2025, Global Partnership on Artificial Intelligence.e) Los partidos o movimientos políticos y los grupos significativos de ciudadanos; f) Las entidades que administren instituciones parafiscales, fondos o recursos de naturaleza u origen público. Las personas naturales o jurídicas que reciban o intermedien fondos o beneficios públicos territoriales y nacionales y no cumplan ninguno de los otros requisitos para ser considerados sujetos obligados, solo deberán cumplir con la presente ley respecto de aquella información que se produzca en relación con fondos públicos que reciban o intermedien.”

Artículo 4. Objetivos de los estándares de transparencia algorítmica. Estos estándares se profieren con el propósito de establecer los mínimos para que los sujetos obligados en el artículo 5 de la Ley 1712 de 2014 que desarrollen, adquieran, implementen y/o usen sistemas algorítmicos contribuyan de forma activa y pasiva a la transparencia algorítmica para:

a) Promover el ejercicio efectivo del derecho de acceso a la información por parte de la ciudadanía, en particular, en lo relacionado con la existencia y características mínimas de los algoritmos utilizados por el sector público para tomar decisiones que puedan afectarla directa o indirectamente.

b) Fomentar la comprensión de la transparencia algorítmica como un componente esencial del derecho de acceso a la información pública.

para tomar decisiones que puedan afectarla directa o indirectamente.

b) Fomentar la comprensión de la transparencia algorítmica como un componente esencial del derecho de acceso a la información pública.

c) Establecer unos estándares mínimos sobre las circunstancias y condiciones en función de las que puede revelarse información relacionada con los algoritmos utilizados por los sujetos obligados en el artículo 5 de la Ley 1712 de 2014.

d) Determinar en qué casos los sujetos obligados en el artículo 5 de la Ley 1712 de 2014 deben realizar un análisis de impacto algorítmico antes de implementar un sistema, con el fin de prevenir riesgos y garantizar el respeto de los derechos fundamentales.

Artículo 5. Principios. Las actuaciones administrativas y misionales de las entidades públicas en el país deberán desarrollarse de acuerdo con los preceptos de la función administrativa señalados en el artículo 209 de la Constitución Política. Así mismo, en lo referente a estos estándares de transparencia algorítmica, los sujetos obligados en el artículo 5 de la Ley 1712 de 2014 que desarrollan, adquieran, usen o implementen sistemas algorítmicos deberán seguir los siguientes principios:a) Primacía de los derechos fundamentales: antes de desarrollar, adquirir, usar y/o implementar un sistema algorítmico, los sujetos obligados en el artículo 5 de la Ley 1712 de 2014 deberán analizar sus posibles efectos sobre los derechos fundamentales, especialmente aquellos relacionados

usar y/o implementar un sistema algorítmico, los sujetos obligados en el artículo 5 de la Ley 1712 de 2014 deberán analizar sus posibles efectos sobre los derechos fundamentales, especialmente aquellos relacionados con la igualdad, la no discriminación, la intimidad, el debido proceso, la libertad de expresión y el acceso a la información. Este análisis deberá realizarse de manera previa, documentada y proporcional al nivel de riesgo asociado al uso del sistema algorítmico, y sus resultados deberán ser accesibles al público en los términos establecidos en esta Directiva.

b) Prevalencia del interés general: en el desarrollo, adquisición, uso e implementación de un sistema algorítmico, las decisiones deberán orientarse a satisfacer el interés general y priorizar el bienestar colectivo por encima de intereses particulares, conforme a lo dispuesto en la Constitución Política.

c) Explicabilidad: los sujetos obligados en el artículo 5 de la Ley 1712 de 2014 deberán asegurar que cuando se desarrolle, adquiera, use y/o implemente un sistema algorítmico, “puedan explicar el razonamiento detrás de sus resultados y decisiones, y cómo utilizan los datos de entrada para tales fines. La explicabilidad se refiere a hacer comprensible y proporcionar información —a los implementadores y usuarios [y/o terceros en su nombre]— sobre las entradas, el razonamiento, los resultados y el funcionamiento de los sistemas de IA, haciendo que estos elementos sean comprensibles, interpretables y rastreables para los seres humanos.”10

nombre]— sobre las entradas, el razonamiento, los resultados y el funcionamiento de los sistemas de IA, haciendo que estos elementos sean comprensibles, interpretables y rastreables para los seres humanos.”10

d) Lenguaje claro: los sujetos obligados al informar y explicar sobre los sistemas algorítmicos que desarrollan, adquieran, usen y/o implementen deben emplear un lenguaje sencillo, claro, comprensible y adaptado a un público general. La información que los sujetos obligados deberán publicar sobre los sistemas algorítmicos se detalla en los artículos 9 y 13 de esta Directiva.

e) Máxima divulgación: los sujetos obligados deberán garantizar que la mayor cantidad posible de personas tenga conocimiento sobre el uso de un sistema algorítmico en sus procesos administrativos o misionales. Para cumplir con este principio, los sujetos obligados deberán publicar de 10 UNESCO, Draft Guidelines for the Use of AI Systems in Courts and Tribunals, May 2025 (No. CI/DIT/2025/GL/01).manera proactiva, clara y accesible, sobre los sistemas algorítmicos en sus sitios web ofici