CSJ - AC739-2026
Detalles
- Título
- CSJ - AC739-2026
- Autor
- Corte Suprema de Justicia
- Categoría
- Jurisprudencia
- Área del derecho
- Civil
- Año
- —
MARTHA PATRICIA GUZMÁN ÁLVAREZ Magistrada ponente AC739-2026 Radicación n.° 11001-02-03-000-2025-05324-00 Bogotá, D.C., trece (13) de febrero de dos mil veintiséis (2026). Con fundamento en los artículos 79 a 81 del Código General del Proceso, se define la responsabilidad por temeridad del apoderado judicial de la parte recurrente.
ANTECEDENTES
1. La sustentación del recurso de revisión.
Al sustentar el recurso extraordinario de revisión interpuesto contra el fallo de 6 de junio de 2025, proferido por la Sala Civil Familia del Tribunal Superior de Villavicencio, el apoderado de la parte recurrente sostuvo lo siguiente: «De conformidad con el artículo 250 del Código General del Proceso, invoco las siguientes causales: Numeral 5: Cuando se hubiere proferido sentencia con violación del derecho de defensa de alguna de las partes.Rad. n.° 11001-02-03-000-2025-05324-00 2 Numeral 7: Cuando se omita la notificación o emplazamiento de una de las partes en los casos en que la ley ordena citarla como tal, o de quienes deban suceder en el proceso a cualquiera de las partes. FUNDAMENTOS (...) JURISPRUDENCIALES CSJ SC-4061/2020: la omisión de notificación configura causal autónoma de revisión. CSJ SC-5092/2019: nulidad de sentencia que afecta a terceros no convocados. CSJ SC-1730/2018 y SC-2090/2021: la improsperidad de la nulidad
autónoma de revisión. CSJ SC-5092/2019: nulidad de sentencia que afecta a terceros no convocados. CSJ SC-1730/2018 y SC-2090/2021: la improsperidad de la nulidad no sanea violaciones sustanciales al debido proceso, que pueden ser alegadas en revisión. CSJ SC-1587/2017 y SC-4021/2020: negar pruebas pertinentes vulnera el derecho de defensa y puede dar lugar a revisión (sic)».
2. Calificación de la demanda.
Mediante auto de 4 de noviembre de 2025 se inadmitió la demanda de sustentación del recurso, pues se observaron varias falencias formales y no se acreditó el traslado previo a los opositores. En la misma oportunidad, se pusieron de presente «graves irregularidades, que no pueden pasarse por alto», consistentes en «la invocación imprecisa de normas procesales» y «la citación de providencias judiciales que no pudieron ser ubicadas en las fuentes oficiales». En tal virtud, se informó al apoderado de la parte recurrente que «las inexactitudes previamente identificadas podrían configurar temeridad o mala fe procesal» y que, «de acreditarse tal conducta, [le] serían aplicables las sanciones consagradas en los artículos 80 y 81 [del Código General del Proceso] ». Asimismo, en salvaguarda de su derecho de defensa, se le corrió traslado a fin de que, «dentro de los tres (3) días siguientes a la notificación de esta providencia, exponga por escrito lasRad. n.° 11001-02-03-000-2025-05324-00 3
defensa, se le corrió traslado a fin de que, «dentro de los tres (3) días siguientes a la notificación de esta providencia, exponga por escrito lasRad. n.° 11001-02-03-000-2025-05324-00 3 razones que justifiquen o expliquen las inconsistencias detectadas (...) y aporte los elementos de juicio que estime pertinentes para su esclarecimiento». Con el fin de extremar garantías, la decisión fue remitida al buzón de correo electrónico registrado del abogado.
3. Trámite posterior. 3.1. Respuesta del apoderado y propuesta de subsanación de la demanda.
Durante el término de traslado conferido, el profesional manifestó que « las referencias jurisprudenciales inicialmente mencionadas provinieron de un error de transcripción en el cuadro de precedentes empleado en la elaboración del escrito. No existió intención deliberada de alterar contenido jurisprudencial ni inducir en error a la autoridad judicial». En el escrito de subsanación, por su parte, incluyó un acápite titulado «Corrección y precisión de la fundamentación normativa», cuyo contenido –se anticipa– tampoco corresponde a fuentes auténticas: «En la sustentación inicial se citó erróneamente el artículo 250 del Código General del Proceso, lo que se corrige. Las causales invocadas corresponden al artículo 355 del Código General del Proceso, así: Art. 355.7 CGP: Que hace referencia en este caso cuando se hubiere omitido la citación o notificación de una de las partes en los casos en que la ley ordena citarla como tal. Art. 355.8 CGP: Que hace referencia en este caso cuando se hubiere
Art. 355.7 CGP: Que hace referencia en este caso cuando se hubiere omitido la citación o notificación de una de las partes en los casos en que la ley ordena citarla como tal. Art. 355.8 CGP: Que hace referencia en este caso cuando se hubiere dictado sentencia con violación del derecho de defensa (...) Jurisprudencia aplicable (verificable en Relatoría): Omisión de notificación y citación efectiva (Art. 355.7 CGP) CSJ, Sala de Casación Civil, Sentencia SC1295-2019, Rad. 11001-02-03000-2018-03124-00, M.P. Octavio Augusto Tejeiro Duque, 02 de mayoRad. n.° 11001-02-03-000-2025-05324-00 4 de 2019: “La falta de notificación válida que impide la participación real de una parte en actuaciones sustanciales del proceso configura un defecto que afecta el núcleo del derecho de defensa, siendo susceptible de ser corregido mediante el recurso extraordinario de revisión”. CSJ, Sala de Casación Civil, Sentencia SC3316-2020, Rad. 11001-3103-021-2015-00404-01, M.P. Luis Alonso Rico Puerta, 03 de septiembre de 2020: “La sentencia no puede producir efectos contra terceros no citados cuando el fallo incide directamente en su esfera jurídica. La falta de convocatoria es causal autónoma de revisión.” Violación del derecho de defensa (Art. 355.8 CGP). Se negaron pruebas solicitadas oportunamente y se suprimió el espacio procesal para presentar alegatos de conclusión.
Precedentes relevantes: Negación injustificada de prueba esencial y vulneración del derecho de
solicitadas oportunamente y se suprimió el espacio procesal para presentar alegatos de conclusión.
Precedentes relevantes: Negación injustificada de prueba esencial y vulneración del derecho de
defensa CSJ, Sala de Casación Civil, Sentencia SC4740-2019, Rad. 11001-31-03-037-2014-00156-01, M.P. Luis Armando Tolosa Villabona, 29 de noviembre de 2019: “La negativa de una prueba pertinente, conducente y decisiva, solicitada oportunamente, afecta el derecho de defensa y puede dar lugar a revisión extraordinaria cuando ello incide en el sentido del fallo.” La nulidad improsperada no sanea lesiones graves al debido proceso CSJ, Sala de Casación Civil, Sentencia SC1723-2018, Rad. 11001-0203-000-2017-02809-00, M.P. Ariel Salazar Ramírez, 23 de mayo de 2018: “La improsperidad de la nulidad no impide que, cuando se compromete el núcleo esencial del debido proceso, la parte afectada pueda acudir al recurso extraordinario de revisión” (sic)». 3.2. Decreto de pruebas. Por auto de 13 de noviembre de 2025 se decretaron como pruebas oficiosas «el escrito de sustentación del recurso extraordinario (...), así como el escrito de subsanación». También se pidió a la Relatoría de la Sala Especializada que rindiera un informe acerca de la existencia de las providencias citadas por el recurrente y « su disponibilidad en el repositorio oficial de la Corporación».Rad. n.° 11001-02-03-000-2025-05324-00 5 3.3. Informe de la Relatoría.
existencia de las providencias citadas por el recurrente y « su disponibilidad en el repositorio oficial de la Corporación».Rad. n.° 11001-02-03-000-2025-05324-00 5 3.3. Informe de la Relatoría. En respuesta a ese requerimiento, la Relatoría manifestó que «no se encuentran registros de las sentencias “(…) SC-1587 de 2017; SC-5092 de 2019; SC-1723 de 2018; SC-4021 de 2020; SC-1730 de 2018; SC-4061 de 2020; SC-1295 de 2019; SC-3316 de 2020; SC-4740 de 2019; SC-2090 de 2021 (…)” en el sistema de consulta de jurisprudencia Java Consulta de Jurisprudencia - Corte Suprema de Justicia, Sala de Casación Civil, herramienta suministrada por el Consejo Superior de la Judicatura a la Corte Suprema de Justicia, de acceso para usuarios internos y externos en la página institucional de la Corporación». 3.4. Reconocimiento del uso de Inteligencia Artificial. Notificado del informe, el apoderado judicial de la parte recurrente radicó un nuevo memorial, en el que admitió expresamente que las imprecisiones reseñadas « fue[ron] consecuencias y posiblemente de un programa de Inteligencia Artificial que se trabaja con el fin de agilizar las contestación y tramites (sic)».
CONSIDERACIONES
1. Presentación del caso.
Más allá de las deficiencias técnicas del recurso de revisión – que determinaron su rechazo1–, resulta incuestionable que tanto la demanda de sustentación como el escrito de subsanación comparten una anomalía grave y sistemática: incorporan
que determinaron su rechazo1–, resulta incuestionable que tanto la demanda de sustentación como el escrito de subsanación comparten una anomalía grave y sistemática: incorporan transcripciones inexactas de textos legales y referencias 1 Cfr. CSJ AC8151-2025.Rad. n.° 11001-02-03-000-2025-05324-00 6 jurisprudenciales apócrifas. En el escrito inicial, por ejemplo, se invocaron las causales de revisión consagradas en los numerales 5 y 7 del artículo 250 del Código General del Proceso; sin embargo, esa norma carece de numerales y regula una cuestión estrictamente probatoria, ajena por completo a la controversia: Texto real del art. 250 CGP Contenido textual de la demanda ARTÍCULO 250. INDIVISIBILIDAD Y ALCANCE PROBATORIO DEL DOCUMENTO. La prueba que resulta de los documentos públicos y privados es indivisible y comprende aun lo meramente enunciativo, siempre que tenga relación directa con lo dispositivo del acto o contrato. «Artículo 250 del Código General del Proceso. Numeral 5 : Cuando se hubiere proferido sentencia con violación del derecho de defensa de alguna de las partes. Numeral 7: Cuando se omita la notificación o emplazamiento de una de las partes en los casos en que la ley ordena citarla como tal, o de quienes deban suceder en el proceso a cualquiera de las partes». Ahora bien, en la subsanación de la demanda se rectificó la remisión normativa, citando ahora el artículo 355 del Código
ordena citarla como tal, o de quienes deban suceder en el proceso a cualquiera de las partes». Ahora bien, en la subsanación de la demanda se rectificó la remisión normativa, citando ahora el artículo 355 del Código General del Proceso, que sí contempla las causales de revisión. No obstante, el contenido atribuido a los numerales 7 y 8 de esa disposición tampoco corresponde a su texto auténtico: Texto real del art. 355 CGP Contenido textual de la demanda ARTÍCULO 355. CAUSALES. Son causales de revisión: (...)
7. Estar el recurrente en alguno de los casos de indebida representación o falta de notificación o emplazamiento, siempre que no haya sido saneada la nulidad. «Art. 355.7 CGP: Que hace referencia en este caso cuando se hubiere omitido la citación o notificación de una de las partes en los casos en que la ley ordena citarla como tal».
8. Existir nulidad originada en la sentencia que puso fin al proceso y que no era susceptible de recurso. «Art. 355.8 CGP: Que hace referencia en este caso cuando se hubiere dictado sentencia con violación del derecho deRad. n.° 11001-02-03-000-2025-05324-00 7 defensa».
Adicionalmente, en la demanda se citaron las sentencias de casación « CSJ SC-4061/2020 », « CSJ SC-5092/2019 », « CSJ SC-1730/2018», « SC-2090/2021», « CSJ SC-1587/2017 » y «SC-4021/2020». En la subsanación, a su turno, se agregaron los
SC-1730/2018», « SC-2090/2021», « CSJ SC-1587/2017 » y «SC-4021/2020». En la subsanación, a su turno, se agregaron los supuestos precedentes «SC-1295 de 2019»; «SC-3316 de 2020»; «SC-4740 de 2019» y «SC-1723 de 2018». Sin embargo, se reitera que la Relatoría certificó que ninguno de esos pronunciamientos corresponde a providencias reales: no obran en los repositorios oficiales ni fue posible su ubicación en las fuentes auténticas.
2. Problemática e itinerario de la decisión.
Las irregularidades descritas comparten un mismo patrón: enunciados objetivamente falsos, revestidos de corrección sintáctica, verosimilitud formal y tono categórico. Esa combinación de inexactitud y apariencia de rigor es consistente con el fenómeno conocido como alucinaciones de los sistemas de Inteligencia Artificial generativa, origen que, dicho sea de paso, el propio autor de los memoriales reconoció explícitamente2. Este desafío no es enteramente novedoso para la judicatura. En el ámbito local, la preocupación se había concentrado, hasta ahora, en el uso de IA por parte de las propias autoridades judiciales. Así, la Corte Constitucional constató la incorporación de contenido generado por IA a un fallo de tutela y dispuso medidas correctivas e institucionales (T-323 de 2024); esta 2 Se reitera que, mediante memorial del 15 de diciembre de 2025, el abogado involucrado sostuvo que las
medidas correctivas e institucionales (T-323 de 2024); esta 2 Se reitera que, mediante memorial del 15 de diciembre de 2025, el abogado involucrado sostuvo que las imprecisiones detectadas se originaron en «un programa de Inteligencia Artificial que se trabaja con el fin de agilizar las contestación y tramites (sic)».Rad. n.° 11001-02-03-000-2025-05324-00 8 misma Sala debió dejar sin efecto una providencia que atribuía al precedente pasajes ajenos a su texto auténtico (CSJ STC178322025); y la Sala de Casación Penal amparó el derecho a un juicio imparcial de un acusado, tras verificar que el juez de conocimiento había elaborado –con auxilio de herramientas de IA generativa– un borrador de sentencia condenatoria antes de escuchar los alegatos de cierre (CSJ STP21973-2025). En contraposición, la experiencia comparada venía advirtiendo sobre una vertiente distinta del fenómeno: la responsabilidad de los abogados litigantes. Autoridades de diversas jurisdicciones han debido enfrentar escritos de parte que incorporan legislación inexistente o precedentes fabricados; en varios de esos casos se han impuesto sanciones a los profesionales responsables3, al tiempo que han expedido directrices y políticas de uso específicas para prevenir la incorporación de fuentes espurias en los estrados4. La convergencia de esos antecedentes pone de presente un problema estructural: el uso acrítico de la IA generativa está
directrices y políticas de uso específicas para prevenir la incorporación de fuentes espurias en los estrados4. La convergencia de esos antecedentes pone de presente un problema estructural: el uso acrítico de la IA generativa está 3 Vid., entre otros: en EE. UU., Mata v. Avianca, Inc. (2023); en Canadá, Zhang v. Chen (2024); en el Reino Unido, Harber v. Revenue and Customs Commissioners (2023); Ayinde, R v. The London Borough of Haringey (2025), y Hamad Al-Haroun v. Qatar National Bank QPSC & Anor (2025), y en Catar (Qatar Financial Centre Civil and Commercial Court), Jonathan David Sheppard v. Jillion LLC (2025). Para un rastreo sistemático de casos judiciales con contenido alucinado, vid. D. Charlotin, AI Hallucination Cases Database , disponible en https://www.damiencharlotin.com/hallucinations/ (más de 300 casos documentados a la fecha).4 Vid., Supreme Court of Victoria (Australia), Guidelines for litigants: Responsible use of artificial intelligence in litigation (2024), disponible en: https://www.supremecourt.vic.gov.au/forms-fees-and-services/formstemplates-and-guidelines/guideline-responsible-use-of-ai-in-litigation; Supreme Court of New South Wales, Practice Note SC Gen 23 (2024), disponible en: https://supremecourt.nsw.gov.au/documents/Practice-andProcedure/Practice-Notes/general/current/PN_SC_Gen_23.pdf; Federal Court of Canada, Notice to the Parties and the Profession: The Use of Artificial Intelligence in Court Proceedings (2023), disponible en:
Procedure/Practice-Notes/general/current/PN_SC_Gen_23.pdf; Federal Court of Canada, Notice to the Parties and the Profession: The Use of Artificial Intelligence in Court Proceedings (2023), disponible en: https://www.fct-cf.ca/Content/assets/pdf/base/2023-12-20-notice-use-of-ai-in-court-proceedings.pdf; New York Unified Court System, Interim Policy on the Use of Artificial Intelligence (2025), disponible en: https://www.nycourts.gov/LegacyPDFS/a.i.-policy.pdf; CEPEJ, directrices sobre IA generativa en tribunales (2025), disponible en: https://www.coe.int/en/web/cepej/cepej-working-group-cyber-just; UNESCO, Guidelines for the Use of AI Systems in Courts and Tribunals (2025), disponible en: https://www.unesco.org/en/articles/guidelines-use-ai-systems-courts-and-tribunals.Rad. n.° 11001-02-03-000-2025-05324-00 9 propiciando la circulación, en sede judicial, de un pseudoderecho; esto es, contenido carente de correlato con la realidad que, no obstante, reproduce la forma externa de las fuentes auténticas y se presenta con idéntica apariencia de autoridad. El presente asunto constituye una manifestación de esa problemática, en la vertiente que ya han explorado las experiencias comparadas: es el apoderado judicial de una de las partes quien introdujo el contenido espurio al proceso. La distorsión reclama, por tanto, una respuesta autónoma
problemática, en la vertiente que ya han explorado las experiencias comparadas: es el apoderado judicial de una de las partes quien introdujo el contenido espurio al proceso. La distorsión reclama, por tanto, una respuesta autónoma que articule la caracterización del fenómeno tecnológico con la definición del estándar de conducta actualmente exigible al profesional del derecho. Para contribuir a ese propósito, en los numerales que siguen, se abordará la arquitectura de los modelos de lenguaje y el origen de las alucinaciones (num. 3); a continuación, el deber de verificación que incumbe al abogado que cita fuentes jurídicas y el estándar de diligencia que de él se deriva cuando emplea herramientas de IA (nums. 4 y 5); finalmente, se valorará la conducta del profesional involucrado a la luz de ese marco (num. 6).
3. Modelos de lenguaje a gran escala: arquitectura probabilística y génesis de las alucinaciones.
Los modelos de lenguaje a gran escala se han consolidado como herramientas valiosas para la práctica jurídica, con aplicaciones que van desde la síntesis de documentos extensos hasta la identificación de tensiones argumentativas, la comparación de líneas jurisprudenciales y la elaboración de borradores. Su utilidad, sin embargo, no exime de supervisiónRad. n.° 11001-02-03-000-2025-05324-00 10 crítica; por el contrario, la impone con mayor rigor, pues estos sistemas son estructuralmente propensos a “alucinar”, esto es, a
10 crítica; por el contrario, la impone con mayor rigor, pues estos sistemas son estructuralmente propensos a “alucinar”, esto es, a generar contenido falso con apariencia de veracidad. 3.1. Funcionamiento técnico de los LLM. Los modelos de lenguaje a gran escala –como ChatGPT, Gemini o Claude– no operan como sistemas de consulta y recuperación de información preexistente. A diferencia de una base de datos jurídica convencional, que localiza y devuelve registros tal como fueron almacenados, un modelo generativo produce texto nuevo mediante predicción probabilística. Comprender esa diferencia es indispensable para situar el origen de las irregularidades que aquí se examinan. Durante el entrenamiento, estos sistemas descomponen el texto en unidades llamadas tokens, cada uno representado como un vector en un espacio de alta dimensionalidad. El resultado es una cartografía estadística en la que la cercanía entre vectores codifica afinidad de significado. Esa capacidad reside en la arquitectura Transformer, un modelo de aprendizaje profundo cuyo componente central –el mecanismo de atención5– permite al sistema ponderar qué partes del texto precedente son relevantes para predecir lo que sigue, estableciendo relaciones entre fragmentos distantes de forma simultánea. Sobre esa base opera la fase de generación. El usuario formula una consulta (prompt) y el sistema construye la 5 Cfr. Ashish Vaswani et al., Attention Is All You Need, arXiv:1706.03762, DOI: 10.48550/arXiv.1706.03762.
Disponible en: https://arxiv.org/abs/1706.03762.Rad. n.° 11001-02-03-000-2025-05324-00 11 respuesta token por token: en cada paso calcula una distribución de probabilidad sobre todo su vocabulario –esto es, asigna a cada token posible una probabilidad condicionada por la secuencia previa–, selecciona uno conforme a esa distribución y lo incorpora al contexto que condiciona la predicción siguiente. De ese modo, cada token generado pasa a integrar la secuencia de entrada del paso subsiguiente. Cabe añadir que la selección no recae necesariamente sobre el token más probable, sino que comporta un componente de muestreo; por ello, el modelo puede producir respuestas distintas ante una misma consulta.
Lo expuesto pone en evidencia que el sistema no “sabe” nada en el sentido convencional del término. Lo que posee es una representación estadística de regularidades lingüísticas, aprendidas a partir del corpus de entrenamiento –el conjunto de textos que procesó– y codificadas en términos de tokens. Esa representación le permite generar secuencias de palabras coherentes que, con frecuencia, se ajustan con precisión a la realidad; sin embargo, el modelo carece de un mecanismo interno para contrastar sus propios enunciados con el mundo exterior 6. Es decir, la coherencia del texto generado opera en un plano distinto e independiente de su corrección factual7. 6 Aunque en la fase de entrenamiento suelen emplearse técnicas complementarias –como el aprendizaje por refuerzo con retroalimentación humana ( Reinforcement Learning from Human Feedback , o RLHF)– que incentivan respuestas útiles y seguras, lo cierto es que tales procedimientos no dotan al modelo de un mecanismo
refuerzo con retroalimentación humana ( Reinforcement Learning from Human Feedback , o RLHF)– que incentivan respuestas útiles y seguras, lo cierto es que tales procedimientos no dotan al modelo de un mecanismo autónomo para verificar la exactitud de sus afirmaciones.7 Desarrollos tecnológicos recientes buscan mitigar este problema mediante técnicas como la generación aumentada por recuperación (RAG, por sus siglas en inglés), que ancla la respuesta del modelo a repositorios documentales verificados en lugar de depender exclusivamente de los patrones internalizados durante el entrenamiento. Si bien esta estructura reduce la probabilidad de fabricación, no elimina el riesgo: el sistema puede no localizar el documento pertinente o recuperar una versión desactualizada, y, aun cuando acceda a la fuente correcta, debe seleccionar, condensar y articular su contenido, con lo cual basta una reformulación apenas inexacta para que el resultado deje de corresponder al original. El anclaje a repositorios reduce la frecuencia de las alucinaciones, pero no garantiza la fidelidad del texto generado. Cfr. Lewis, P., et al. (2020). RetrievalAugmented Generation for Knowledge-Intensive NLP Tasks . Advances in Neural Information Processing Systems (NeurIPS). Disponible en: https://arxiv.org/abs/2005.11401.Rad. n.° 11001-02-03-000-2025-05324-00 12 3.2. Concepto de alucinación. A partir de esa descripción puede comprenderse la naturaleza de las alucinaciones. Conviene precisar, ante todo, que el término constituye una metáfora tomada de la psiquiatría y adoptada por la comunidad técnica para designar un fenómeno estrictamente computacional; no describe un proceso cognitivo ni
que el término constituye una metáfora tomada de la psiquiatría y adoptada por la comunidad técnica para designar un fenómeno estrictamente computacional; no describe un proceso cognitivo ni perceptual propiamente dicho. Algunos autores prefieren la expresión “confabulación” (confabulation), justamente para evitar dicha connotación. Con esa salvedad, el término se emplea aquí en su acepción técnica consolidada. En el contexto de los modelos de lenguaje a gran escala, una alucinación designa la generación de contenido carente de respaldo fáctico, pero cuya formulación resulta difícil de distinguir de un enunciado verdadero. El fenómeno admite, al menos, dos modalidades: la fabricación, en la que el sistema produce información enteramente inexistente; y la distorsión, en la que parte de fuentes reales, pero altera su contenido, modifica su alcance o las atribuye erróneamente. En ambos casos el resultado es plausible, pero objetivamente falso8. Importa subrayar que las alucinaciones no constituyen una anomalía susceptible de corrección mediante actualizaciones o ajustes del sistema. Son, más bien, una consecuencia estructural del mecanismo probabilístico descrito previamente. El modelo no consulta bases de datos ni verifica hechos: predice secuencias de 8 A ellas podría añadirse una tercera categoría que no constituye una alucinación generativa en sentido estricto, pero sí produce efectos equivalentes: el error por desactualización del corpus. Los modelos operan con base en los datos disponibles hasta una fecha determinada de corte (knowledge cutoff), de modo que toda modificación
pero sí produce efectos equivalentes: el error por desactualización del corpus. Los modelos operan con base en los datos disponibles hasta una fecha determinada de corte (knowledge cutoff), de modo que toda modificación posterior a esa fecha es, para el sistema, invisible.Rad. n.° 11001-02-03-000-2025-05324-00 13 palabras estadísticamente probables a partir de patrones aprendidos durante el entrenamiento. Cuando esos patrones no contienen la información necesaria para responder con exactitud –o cuando la contienen de manera fragmentaria o contradictoria–, el sistema no se detiene ni señala la insuficiencia; completa la secuencia con el material que maximiza la coherencia textual, con independencia de su correspondencia con la realidad. La alucinación no es, en ese sentido, un error que el modelo comete a pesar de su arquitectura, sino más bien un resultado que su arquitectura hace posible –y, en cierta medida, inevitable–. Además, un rasgo incrementa de manera decisiva la gravedad del problema: la ausencia de marcadores internos de certeza. En la comunicación humana ordinaria, la duda suele manifestarse; es posible –y esperable– admitir la ignorancia o reservar el juicio. Los modelos de lenguaje, en cambio, no disponen de un mecanismo que les permita discriminar cuándo una afirmación se ajusta a la realidad y cuándo es producto de una inferencia espuria. Por eso, el texto generado tiende a exhibir el mismo registro de seguridad –idéntico tono asertivo y concluyente– tanto si acierta como si apenas fantasea.
una inferencia espuria. Por eso, el texto generado tiende a exhibir el mismo registro de seguridad –idéntico tono asertivo y concluyente– tanto si acierta como si apenas fantasea. El modelo no puede saber cuándo está fabricando contenido: esa verificación recae, inexorablemente, en el usuario. 3.3. ¿Por qué el fenómeno es particularmente crítico en el derecho?Rad. n.° 11001-02-03-000-2025-05324-00 14 El problema de las alucinaciones reviste en el ejercicio del derecho una gravedad singular, que obedece tanto a la estructura del lenguaje jurídico como a la naturaleza de las fuentes y a la función que estas cumplen en la decisión judicial. En cuanto a lo primero, el derecho se articula mediante fórmulas rituales, normas identificadas con numeración precisa, locuciones técnicas recurrentes y referencias estandarizadas. Esas regularidades, profusamente representadas en los corpus con que se entrenan los modelos, les permiten reproducir con notable solvencia la forma del discurso jurídico.
De allí surge un primer riesgo: la corrección formal puede enmascarar eficazmente las alucinaciones. Bajo una apariencia impecable, el sistema es capaz de fabricar por entero el contenido, como ocurrió en este caso, donde generó supuestos precedentes dotados de todos los signos externos de autenticidad –fecha, magistrado ponente, número de radicación– sin que existiera correspondencia alguna con la realidad.
Con todo, es la naturaleza de las fuentes jurídicas lo que confiere al problema su verdadera dimensión. En otros campos
–fecha, magistrado ponente, número de radicación– sin que existiera correspondencia alguna con la realidad. Con todo, es la naturaleza de las fuentes jurídicas lo que confiere al problema su verdadera dimensión. En otros campos del conocimiento, citar una fuente equivale a respaldar un enunciado con una referencia externa que lo corrobora: la fuente informa sobre hechos, datos o teorías, y su valor descansa en la correspondencia entre lo que afirma y aquello que describe. Si la referencia resulta errónea o inexistente, el argumento pierde sustento, pero el objeto sobre el cual versa puede seguir existiendo con independencia de ella.Rad. n.° 11001-02-03-000-2025-05324-00 15 En la práctica jurídica, por el contrario, las fuentes del derecho –la ley y el precedente judicial, principalmente– no se limitan a informar sobre una pauta preexistente: la constituyen. El contenido de un artículo legal no existe al margen del texto que lo establece; la jurisprudencia no es otra cosa que el conjunto de razones consignadas en una providencia. Invocar un precepto normativo o un precedente no equivale a aportar evidencia sobre un dato externo, sino a traer al proceso el acto mismo que crea, modifica o extingue situaciones jurídicas concretas. La fuente no respalda el derecho: la fuente es el derecho. Esto explica por qué las alucinaciones resultan especialmente perniciosas en el campo jurídico. Para el modelo de lenguaje, un precepto auténtico y uno fabricado son igualmente plausibles, pues la diferencia entre ambos es de índole normativa
especialmente perniciosas en el campo jurídico. Para el modelo de lenguaje, un precepto auténtico y uno fabricado son igualmente plausibles, pues la diferencia entre ambos es de índole normativa –de validez, de vigencia, de pertenencia al ordenamiento– y no se manifiesta como diferencia lingüística. Desde la perspectiva computacional, el precepto real y el inventado se reducen a secuencias d
Estás viendo una vista previa
Lee el documento completo con Ariel
Este es un fragmento de uno de los más de 1.2 millones de documentos de la biblioteca de Ariel. Crea tu cuenta para leerlo completo, descargarlo y consultarlo con Ariel, que siempre te lleva a la fuente exacta: Ariel NO alucina.