Sobre Realismo Mágico Judicial: lecciones sobre el uso de inteligencia artificial por parte de los jueces colombianos

Juan Camilo Boada Acosta¹ y Maria Lorena Flórez Rojas²

La injusticia social ha sido un tema recurrente en la literatura latinoamericana. En la que muchos consideran su mejor novela, El coronel no tiene quién le escriba, Gabriel García Márquez retrata a un coronel que espera pacientemente por su pensión mientras enfrenta el duelo de la muerte de su hijo a manos del ejército. En La pregunta de sus ojos, Eduardo Sacheri relata la historia de una violación seguida de un homicidio que quedan en la impunidad por décadas, en el contexto de la dictadura argentina. En La muerte tiene permiso, Edmundo Valadés presenta a un grupo de ciudadanos que, ante una asamblea informal, solicita permiso para matar al alcalde.

Estas son solo algunas de las historias latinoamericanas que retratan contextos de decisiones arbitrarias, públicas o privadas. La justicia arbitraria ignora garantías básicas como la existencia de la designación previa de una autoridad que adjudica derechos, el derecho de contradicción y el deber de motivación judicial. Esta serie de garantías, agrupadas bajo el concepto de debido proceso, son la base de lo que hoy conocemos como Estado de Derecho: un límite a la arbitrariedad estatal que protege a los ciudadanos³.

El derecho al debido proceso actualmente se ve amenazado por el surgimiento de la inteligencia artificial (IA). Este blog no se opone al uso de la tecnología en la administración de justicia, pero sí analiza los peligros que se derivan del uso irresponsable que los jueces pueden hacer de estas herramientas a partir del caso colombiano.

El marco jurídico colombiano sobre el uso de IA en la administración de justicia

Hace tres años, un juez en Cartagena incluyó respuestas de ChatGPT a una sentencia de tutela relacionada con el derecho a la salud de un niño autista⁴. Fue, probablemente, el primer caso en el mundo en el que un juez públicamente reconoció usar un LLM como una herramienta auxiliar para una decisión judicial.

En 2024, la Corte Constitucional profirió la Sentencia T-323 de 2024, en la que analizó el caso recién mencionado. La Corte identificó tres garantías del debido proceso en riesgo con el uso de IA en el ámbito judicial: el juez natural, el deber de motivación judicial y el debido proceso probatorio. La Corte también concluyó que el uso de IA está permitido en el ámbito judicial siempre que no se deleguen funciones esencialmente humanas relacionadas con la interpretación de los hechos, valoración de la prueba y la motivación de las decisiones. También señaló que cualquier uso de la IA por parte de funcionarios judiciales debe adherirse a los principios de transparencia, responsabilidad y privacidad.

Por su parte, el Consejo Superior de la Judicatura, siguiendo una orden de la Corte en dicha sentencia, reguló el uso de la IA en la administración de justicia mediante el Acuerdo PCSJA24-12243, que, en esencia, positivizó el razonamiento de la Corte.

Realismo Mágico Judicial: la creatividad en el uso de LLMs

A pesar de este marco jurídico, los jueces han seguido usando equivocadamente herramientas de IA. Desde el auge de ChatGPT en 2023, se han registrado al menos otros cincuenta casos de uso judicial de los modelos de lenguaje grande (LLM) en Colombia para usos variados: para realizar análisis jurídicos o probatorios, como motores de búsqueda de fuentes jurídicas, para corregir o redactar textos, o como prueba en sí misma⁵.

Aunque previo a la Sentencia T-323 de 2024 hubo al menos otros dos casos de usos cuestionables de IA por parte de jueces colombianos⁶, no se analizan aquí porque se dictaron antes de la Sentencia y el Acuerdo. Los casos posteriores, sin embargo, demuestran que, a pesar del nuevo marco, se siguen dando usos problemáticos de la IA en los procedimientos judiciales.

En cuanto al derecho a la defensa, las etapas procesales en las que la IA ha sido usada han dificultado el ejercicio de dicho derecho. Por ejemplo, la Sala de Instrucción de la Corte Suprema revocó una declaratoria de contumacia con base en las respuestas que ChatGPT le dio luego de que subiera artículos científicos a dicho LLM⁷. Curiosamente, la Sala justificó esta decisión alegando que no se pueden presentar nuevas pruebas en apelación, ignorando que los resultados de ChatGPT constituían en sí mismos una prueba y deberían haber sido objeto de revisión por las partes. Dicho uso también impacta la garantía del deber de motivación: cuando parte del razonamiento depende de resultados generados por IA cuya producción, precisión o interpretación no pueden controlarse o verificarse plenamente, la explicación ofrecida por el tribunal se debilita⁸. Ello debilita el derecho de contradicción pues una decisión que no se puede explicar difícilmente puede ser cuestionada.

Precisamente con relación a la garantía de motivación judicial, el riesgo de “alucinaciones”⁹ es particularmente problemático. Decisiones judiciales que se fundamentan en leyes, casos o fuentes académicas inexistentes pierden legitimidad, ya que dejan de basarse en un razonamiento jurídico válido. Por ejemplo, el Tribunal Superior de Bogotá anuló una sentencia en la que prácticamente todas las citas eran inexistentes: sentencias, fuentes doctrinales e incluso normas¹⁰. Igualmente, la Sala de lo Civil de la Corte Suprema anuló una decisión en la que un tribunal superior incluyó en una providencia dos citas inexistentes de dos decisiones de esa misma Corte que sí existen¹¹.

Ahora bien, dichos inventos surgen no solo en cuestiones jurídicas, sino también en cuestiones fácticas. Por ejemplo, la Sala Penal de la Corte Suprema utilizó dos detectores de IA para determinar que un recurso de casación había sido redactado casi en su totalidad por IA¹², a pesar de la escasa fiabilidad de estos sistemas de detección¹³.

Asimismo, en otro caso, la misma Sala encontró que un borrador de sentencia cargado accidentalmente al expediente digital de un proceso contenía una redacción típica de una respuesta de un LLM, que al parecer correspondía a un análisis probatorio y jurídico de un testimonio¹⁴. Estos ejemplos refuerzan nuestro punto principal: los tribunales necesitan algo más que alfabetización en IA. Necesitan prudencia judicial, entendida como el deber de abstenerse de utilizar herramientas de IA cuando sus resultados no puedan verificarse, cuestionarse e integrarse de forma responsable en el razonamiento judicial.

Por último, la tercera garantía en riesgo es la independencia y la imparcialidad judicial. Los sistemas de IA pueden influir en la forma en que los jueces interpretan los hechos y la ley o valoran las pruebas¹⁵. Esto es especialmente problemático cuando los jueces se basan en herramientas cuyos procesos internos no comprenden, o cuyos resultados pueden reflejar sesgos presentes en los datos de entrenamiento. En tales casos, la preocupación no es simplemente que la IA pueda dar una respuesta incorrecta. La preocupación más profunda es que el razonamiento judicial pueda verse moldeado por un sistema que no fue diseñado para interpretar la ley colombiana, valorar testimonios o aplicar las tradiciones jurídicas locales. Este riesgo está estrechamente relacionado con la confianza pública en la Rama Judicial¹⁶. La legitimidad de las cortes no está dada solo por alcanzar resultados correctos, sino también en que las decisiones se toman mediante un juicio humano independiente, imparcial y razonado. Si los litigantes o el público perciben que un juez ha delegado parte de este razonamiento en un sistema algorítmico opaco, la confianza en la decisión y en la institución puede verse debilitada. En este sentido, el uso indebido de la IA puede contribuir a lo que se describe como un desafío más amplio de la algocracia en el poder judicial: el riesgo de que los sistemas algorítmicos reduzcan la participación humana sustancial en la toma de decisiones judiciales.

Esto no significa que todos los usos de la IA en las cortes impliquen el mismo riesgo. Algunos casos de uso pueden tener un menor impacto en las garantías procesales, especialmente cuando se limitan a tareas administrativas o de corrección de estilo y están sujetos a una revisión humana minuciosa. Por ejemplo, cuando se utilizan dichos sistemas para resumir los escritos de las partes o para mejorar la estructura y la claridad de los apartados fácticos de las sentencias. En esa línea, el Tribunal Superior de Villavicencio utilizó un LLM (sin especificar cuál) para extraer los argumentos de las partes con relación a una sentencia de primera instancia¹⁷. La Sala Civil de la Corte Suprema lo hizo al utilizar Claude para extraer los puntos principales de un auto mediante el cual sancionó a un abogado por presentar dos escritos que contenían más de diez citas jurídicas y jurisprudenciales falsas¹⁸. O la Sala Penal de la misma Corte, por ejemplo, utilizó un LLM para corregir la estructura y la claridad de la sección de Hechos de una sentencia, aunque la divulgación de dicho uso fue accidental¹⁹. Sin embargo, incluso los resúmenes requieren cautela. Si un resumen generado por IA contradice la sentencia, omite argumentos relevantes o distorsiona el expediente, puede seguir creando problemas prácticos para los abogados, las partes y los lectores de la sentencia.

¿Se trata únicamente de la alfabetización en IA?

La forma en que algunos jueces colombianos han utilizado la IA en los procedimientos judiciales evoca el universo de Macondo creado por Gabriel García Márquez: un lugar donde lo extraordinario se convierte poco a poco en lo normal, y donde las instituciones siguen funcionando incluso cuando lo absurdo se va arraigando en la vida cotidiana. En los relatos de García Márquez, la injusticia suele manifestarse no a través de rupturas dramáticas, sino mediante la normalización silenciosa de decisiones arbitrarias, la inercia institucional y la incapacidad de los ciudadanos para hacer frente al poder de manera eficaz.

Algo similar puede ocurrir cuando los jueces se basan en sistemas de inteligencia artificial que no comprenden del todo, que no pueden explicar adecuadamente o que no verifican responsablemente. Las decisiones justificadas mediante citas inventadas, resultados algorítmicos no verificables o procesos de razonamiento opacos corren el riesgo de crear una forma de “realismo mágico algorítmico”, en el que la autoridad de la tecnología oculta la fragilidad del razonamiento que hay detrás. Los casos descritos a lo largo de este blog reflejan precisamente esa preocupación.

Ante esta situación, cabe preguntarse: ¿por qué persisten las prácticas problemáticas a pesar de la existencia de un marco jurídico relativamente robusto y de las iniciativas de formación continua del Consejo Superior de la Judicatura?²⁰ La respuesta obvia es la falta de conocimientos sobre la IA. Es innegable que una comprensión limitada del funcionamiento de los LLM naturalmente aumenta el riesgo de un uso irresponsable y refuerza el sesgo de automatización, dada la tendencia humana a confiar excesivamente en los resultados algorítmicos, especialmente en entornos institucionales de gran presión, como el judicial²¹. Sin embargo, la experiencia colombiana sugiere que la alfabetización en IA por sí sola no es suficiente. La cuestión fundamental es la prudencia judicial. Los jueces ejercen su función de formas que afectan directamente a los derechos fundamentales, lo que exige unos estándares de diligencia especialmente elevados. Si los funcionarios judiciales no comprenden los riesgos asociados a un sistema, deben abstenerse de utilizarlo en tareas delicadas. Y cuando utilicen la IA, deben asegurarse de que sus resultados puedan verificarse, impugnarse e integrarse en el razonamiento judicial sin arriesgar el debido proceso ni la independencia judicial.

Esto es también una cuestión de confianza pública. Los tribunales mantienen su legitimidad no solo porque aplican la ley, sino porque los ciudadanos creen que las decisiones se toman mediante un juicio humano responsable e inteligible. Cuando el razonamiento judicial pasa a depender de sistemas algorítmicos opacos, esa confianza puede erosionarse. El peligro no es simplemente que la IA produzca errores. El peligro es que las instituciones normalicen formas de toma de decisiones que los ciudadanos no pueden comprender, controvertir o analizar plenamente. Al igual que en Macondo, el mayor riesgo es que lo extraordinario se convierta poco a poco en ordinario, y que prácticas que deberían alarmarnos empiecen a parecer normales dentro del sistema judicial.

La innovación en el poder judicial no puede ir en detrimento del debido proceso, la legitimidad judicial o la confianza pública. De lo contrario, los tribunales corren el riesgo de convertir el realismo mágico de Macondo en una nueva forma de gobernanza algorítmica.

---

Referencias

1. Funcionario de la Corte Constitucional e Investigador del Information Society Law Center de la Universidad de Milan, Italia. Correo: jc.boada@outlook.com ↩︎
2. Profesora Asistente de la Universidad de Groningen, Países Bajos. Correo: m.l.florez.rojas@rug.nl ↩︎
3. Monika Zalnieriute, “From Procedural Fetishism to Substantive Due Process in AI Governance and Digital Constitutionalism”, en Artificial Intelligence and the Rule of Law: The Age of Legal Tech and Digital Governance in a Fractured Digital World, ed. Armando Aliu (Springer Nature Switzerland, 2025), https://doi.org/10.1007/978-3-031-97389-5_5. ↩︎
4. Sentencia 13001410500420220045901 (Juzgado 1o Laboral del Circuito de Cartagena), https://1drv.ms/b/c/258793b3e6e05369/IQA0eRAZZGzEQJO4sJPL2Rx8AdQFE35NpXu8XMa9OvqGLYA?e=gMMR32 ↩︎
5. Boada Acosta, J. C. (2026). Bases de datos sobre casos de uso de IA generativa en la administración de justicia en Colombia V.1.0 [Dataset]. En revisión. ↩︎
6. Además del caso de salud ya reseñado, el Tribunal Administrativo de Magdalena usó algunas respuestas de ChatGPT para justificar la realización de una audiencia en el Metaverso, y el que el Tribunal Superior de Pereira utilizó ChatGPT para introducir conocimientos técnicos que permitieran determinar el grado de embriaguez de una persona con el fin de determinar si un accidente de tráfico se produjo debido a la embriaguez de la víctima o a la alta velocidad del acusado. Posturas críticas frente a dichos usos se pueden ver en: Maria Lorena Flórez Rojas, “Artificial Intelligence in Judicial Decision-Making: A Comparative Analysis of Recent Rulings in Colombia and The Netherlands”, Journal of AI Law and Regulation 1, núm. 3 (2024): 361–66, https://doi.org/10.21552/aire/2024/3/11; Juan David Gutiérrez, “ChatGPT in Colombian Courts”, Verfassungsblog, advance online publication, el 23 de febrero de 2023, https://doi.org/10.17176/20230223-185205-0; Juan Camilo Boada Acosta y María Lucía Márquez, “Un buen ejemplo de cómo no usar ChatGPT en la administración de justicia. Comentario a la Sentencia de la Sala Penal del Tribunal Superior de Pereira del 3 de abril de 2024. Radicado 76 001 60 00193 2013 80734 01.”, Nuevo Foro Penal, Nuevo Foro Penal 20, núm. 103 (2024): 358–76. ↩︎
7. AEIS006-2025 (01367) (Corte Suprema de Justicia, Sala de Instrucción el 8 de julio de 2025), https://onedrive.live.com/?redeem=aHR0cHM6Ly8xZHJ2Lm1zL2YvYy85OWY5NWMzM2MxZTFiNjdlL0lnQi10dUhCTTF6NUlJQ1pWVWNBQUFBQUFXWWVBU3ZOYWd1aGlUaGZfeU9QeGNFP2U9bjBVOFV4&cid=99F95C33C1E1B67E&id=99F95C33C1E1B67E%21s70e33d637e474e158e66300c6ac908e7&parId=99F95C33C1E1B67E%2118261&o=OneUp&v=validatepermission ↩︎
8. Tatiana Dancy y Monika Zalnieriute, “AI and Transparency in Judicial Decision-Making”, SSRN Scholarly Paper no. 5331491 (Social Science Research Network, el 17 de abril de 2025), https://doi.org/10.2139/ssrn.5331491. ↩︎
9. David Uriel Socol de la Osa y Nydia Remolina, “Artificial Intelligence at the Bench: Legal and Ethical Challenges of Informing—or Misinforming—Judicial Decision-Making through Generative AI”, Data & Policy 6 (enero de 2024): e59, https://doi.org/10.1017/dap.2024.53. ↩︎
10. 11 001 61 08105 2014-00222-01 (1714) (Tribunal Superior de Bogotá, Sala Penal el 2 de diciembre de 2025), https://1drv.ms/b/c/258793b3e6e05369/IQDkVOM_xys8SpzZxewxKuW_AZFkKMfWNa7rMrbUbeSGEag?e=R3CDX5. ↩︎
11. STC17832-2025 (Corte Suprema de Justicia, Sala Civil el 5 de noviembre de 2025), https://www.ambitojuridico.com/sites/default/files/2025-11/11001020300020250500100%20%2817832%29.pdf. ↩︎
12. AP760-2026 (Corte Suprema de Justicia, Sala Penal el 11 de febrero de 2026), https://onedrive.live.com/?redeem=aHR0cHM6Ly8xZHJ2Lm1zL2YvYy85OWY5NWMzM2MxZTFiNjdlL0lnQi10dUhCTTF6NUlJQ1pWVWNBQUFBQUFXWWVBU3ZOYWd1aGlUaGZfeU9QeGNFP2U9bjBVOFV4&cid=99F95C33C1E1B67E&id=99F95C33C1E1B67E%21s78d2f46786ae4a8aa26fb6e90055f795&parId=99F95C33C1E1B67E%2118261&o=OneUp. ↩︎
13. Fatih Emre Yildiz et al., “Evaluating the Accuracy of AI Content Detectors”, SSRN Scholarly Paper no. 5364392 (Social Science Research Network, el 17 de julio de 2025), https://doi.org/10.2139/ssrn.5364392 ↩︎
14. STP21973-2025 (Corte Suprema de Justicia, Sala Penal el 2 de diciembre de 2025), https://1drv.ms/b/c/258793b3e6e05369/IQDkWaY8I4JQSIvonsJtg33-ARO1tR_h2HYH5cmhX0qgAhI?e=uRJXBX. ↩︎
15. Tatiana Dancy y Monika Zalnieriute, “AI and Transparency in Judicial Decision-Making”, SSRN Scholarly Paper no. 5331491 (Social Science Research Network, el 17 de abril de 2025), https://doi.org/10.2139/ssrn.5331491 ↩︎
16. María Lorena Flórez Rojas, “Algocracy in the Judiciary: Challenging Trust in the System”, Revista de Estudios Sociales, núm. 93 (julio de 2025): 107–28, https://doi.org/10.7440/res93.2025.06. ↩︎
17. Auto 50001 3153 001 2023 00085 01 (Tribunal Superior del Distrito Judicial de Villavicencio, Sala Civil-Familia), https://onedrive.live.com/?redeem=aHR0cHM6Ly8xZHJ2Lm1zL2YvYy85OWY5NWMzM2MxZTFiNjdlL0lnQi10dUhCTTF6NUlJQ1pWVWNBQUFBQUFXWWVBU3ZOYWd1aGlUaGZfeU9QeGNFP2U9bjBVOFV4&cid=99F95C33C1E1B67E&id=99F95C33C1E1B67E%21sc46323e70fe84d308793dbe927325ba4&parId=99F95C33C1E1B67E%2118261&o=OneUp. ↩︎
18. AC739-2026 (Corte Suprema de Justicia, Sala Civil el 13 de febrero de 2026), https://1drv.ms/b/c/99F95C33C1E1B67E/ASN_0tV0LudOhM5mHpHsDgI?e=XkTFq5. ↩︎
19. STP13121-2024 (Corte Suprema de Justicia, Sala Penal), https://geneticayderecho.uexternado.edu.co/wp-content/uploads/sites/57/2026/03/3.-STP13121-2024.pdf. ↩︎
20. El Consejo Superior de la Judicatura dio una respuesta sobre este tema a una solicitude de información de uno de los autores de este blog. La respuesta está disponible aquí. ↩︎
21. Dr Gizem Gültekin-Várkonyi, “AI Literacy for Legal AI Systems: A Practical Approach”, SSRN Scholarly Paper no. 5309725 (Social Science Research Network, el 20 de mayo de 2025), https://doi.org/10.2139/ssrn.5309725. ↩︎

*La entrada publicada en el Blog no refleja la opinión del Departamento de Derecho, Comunicaciones y Tecnologías de la Información. El autor es el único responsable del contenido y las opiniones expresadas en la misma*.

Foto de Conny Schneider en Unsplash