IA y Derecho: Responsabilidad Civil y Ética en el Uso de Algoritmos para la Toma de Decisiones Judiciales

Alel Nadim Orbezo Rojas¹

Introducción

La integración de la Inteligencia Artificial (IA) en la administración de justicia ya no es una promesa de ciencia ficción, sino una realidad que transforma la práctica jurídica contemporánea a nivel global. El uso de sistemas expertos y modelos de aprendizaje automático promete reducir la congestión judicial y estandarizar criterios en casos de baja complejidad. No obstante, el paso de una justicia asistida, donde el juez usa la tecnología como soporte, a una justicia algorítmica, donde la máquina tiene un rol preponderante, plantea interrogantes profundos sobre la determinación de la responsabilidad frente a errores en sistemas automatizados.

El presente artículo analiza los desafíos de la responsabilidad civil y los imperativos éticos derivados del uso de algoritmos en la toma de decisiones judiciales. El objetivo primordial consiste en establecer los mecanismos de reparación de perjuicios ante fallos algorítmicos y garantizar que la implementación tecnológica en el sistema de justicia se realice bajo parámetros de estricta legalidad, respetando los derechos fundamentales de los ciudadanos. La transición hacia una justicia tecnificada no debe implicar la deshumanización del derecho, sino una colaboración estratégica donde la eficiencia operativa no menoscabe las garantías de equidad.

El Dilema Tecnológico: «Caja Negra» vs. «Caja Blanca»

Uno de los mayores retos para la regulación radica en la arquitectura técnica de los algoritmos. Según BigCloud (2024), existe la denominada IA de caja negra (black box); esto implica que el sistema genera resultados tras procesar volúmenes masivos de datos, pero el proceso lógico subyacente permanece oculto para el usuario. Aunque estos modelos suelen ser altamente precisos debido a que operan mediante redes neuronales de alta complejidad, carecen de explicabilidad lógica. Esta opacidad estructural constituye un conflicto jurídico crítico, pues imposibilita conocer el fundamento de la decisión. Como señalan Burrell (2016) y Ribeiro et al. (2016), dicha falta de transparencia dificulta que los operadores jurídicos confíen y deleguen facultades en sistemas cuyo funcionamiento interno resulta indecifrable incluso para sus propios desarrolladores.

Por el contrario, la IA de caja blanca se caracteriza por su interpretabilidad. Bajo este modelo, un experto puede verificar el algoritmo y comprender los factores específicos que determinaron la decisión (BigCloud, 2024). En el ámbito judicial, estos sistemas resultan idóneos, ya que permiten la trazabilidad del error y facilitan la rendición de cuentas. Sin embargo, persiste una tensión técnica: los modelos más avanzados suelen ser de caja negra, mientras que las arquitecturas transparentes presentan limitaciones al procesar variables jurídicas de alta complejidad.

Responsabilidad Civil e Imputabilidad en la Era Digital

Si un algoritmo de IA sugiere una providencia basada en datos sesgados o incurre en un error que afecte al ciudadano, surge un interrogante complejo: ¿la responsabilidad recae en el Estado, en el desarrollador del software o en el juez que suscribe la decisión?

Esta incertidumbre técnica impacta directamente en la imputabilidad. En la responsabilidad civil tradicional, es imperativo demostrar dolo o culpa; no obstante, la opacidad algorítmica genera una brecha de responsabilidad que obstaculiza la configuración del nexo causal. Sin acceso a la lógica interna del sistema, resulta sumamente difícil identificar al sujeto responsable de indemnizar a la víctima. Ante este escenario, la doctrina debate la aplicación del régimen de responsabilidad objetiva por riesgo creado. Bajo esta figura, quien obtenga un beneficio de una tecnología compleja o intrínsecamente riesgosa debe asumir las consecuencias de sus fallos, independientemente de la existencia de una intención dañina.

Si se traslada este enfoque al servicio público de justicia, el Estado, en su rol de garante, debería asumir la responsabilidad patrimonial por los errores de la IA. No obstante, esta postura conlleva el riesgo de generar una litigiosidad masiva que podría desincentivar la innovación tecnológica en el sector público debido a las perdidas económicas para los fondos públicos.

Ética y Sesgo Algorítmico: El Peligro de Automatizar Prejuicios

La ética constituye el eje transversal de la innovación jurídica. Los algoritmos no son herramientas neutrales; pueden reproducir y amplificar decisiones discriminatorias, fenómeno técnico conocido como sesgo algorítmico. Según ESIC Business & Marketing School (2024), este riesgo es crítico debido a su naturaleza imperceptible, manifestándose principalmente a través de:

1. Datos sesgados: El aprendizaje de la máquina se basa en precedentes históricos que pueden contener prejuicios. Por ejemplo, en 2018, un sistema de reclutamiento de Amazon fue descartado al penalizar perfiles femeninos, tras haber sido entrenado con datos de una década donde predominaba la contratación de hombres.
2. Diseño del algoritmo: Los desarrolladores pueden transferir sesgos cognitivos inconscientes al jerarquizar variables. Si un sistema de análisis crediticio prioriza el código postal, podría generar una discriminación indirecta basada en el estrato socioeconómico (ESIC, 2024).
3. Representación insuficiente: La carencia de diversidad en los datos de entrenamiento impide que la IA reconozca particularidades de ciertos grupos, aumentando el margen de error en poblaciones subrepresentadas.
   En el contexto judicial, un sesgo algorítmico podría derivar en la denegación de beneficios procesales basándose en perfiles sociodemográficos en lugar de la conducta individual, vulnerando el principio de igualdad y el derecho a la tutela judicial efectiva.

La importancia de la implementación: Caso peruano como referente

A pesar de los riesgos analizados, la implementación de la IA resulta esencial para modernizar la administración de justicia y mitigar la demora procesal. Un ejemplo paradigmático es la primera sentencia en Perú con asistencia de IA (OpenAI-ChatGPT) en un proceso de alimentos (Exp.00052-2022-18-3002-JP-FC-01).
En este proceso, el Juzgado Civil Transitorio de San Juan de Miraflores, bajo la dirección del juez Frank Paul Flores García, utilizó la herramienta para aplicar una técnica de proporcionalidad matemática objetiva. El magistrado empleó la IA para calcular con precisión las obligaciones de cada progenitor: tras ponderar los ingresos del padre (S/. 3,659.62) y de la madre (estimados en S/. 1,025.00), el sistema permitió establecer que el padre representaba el 78.10% de la capacidad económica familiar. Esta asistencia técnica permitió concluir que una pensión del 20% sobre los ingresos del demandado guardaba estricta proporcionalidad con el gasto de manutención calculado, asegurando además que no se vulnerara el límite legal de afectación de ingresos.
Este precedente demuestra que la IA es una herramienta valiosa para mitigar la discrecionalidad subjetiva del juzgador, reduciendo el margen de apreciaciones personales o imprecisas. Al fundamentar las decisiones en fórmulas técnicas contrastables, se garantiza una justicia más célere y eficaz, fortaleciendo el deber de debida motivación exigido por la Constitución. En este caso, la IA operó bajo un modelo de caja blanca un sistema cuyos procesos internos son transparentes y auditables permitiendo que cada fase del cálculo fuera expuesta y motivada en la sentencia, lo que otorga una mayor legitimidad y transparencia al acto judicial frente a la ciudadanía.

El Futuro: Personalidad Jurídica de la IA y Supervisión Humana

El debate más avanzado en la materia cuestiona si, en el futuro, los sistemas de IA deberían tener una «personalidad jurídica electrónica» limitada, similar a la de las empresas, para contar con un fondo de compensación que cubra los daños que causen. Según expertos en gobernanza algorítmica (BigCloud, 2024), esta medida permitiría una reparación rápida a las víctimas, aunque la mayoría de los juristas coinciden en que la responsabilidad debe permanecer vinculada a los humanos.

La realidad de este debate ya no es teórica, es procesal. En la reciente sentencia AP760-2026 de la Corte Suprema de Justicia de Colombia, el tribunal analizó si un abogado usó IA para escribir una demanda de casación. Al someter el texto a herramientas como Winston AI y Copyleaks, los resultados fueron contundentes: solo un 7% de contenido humano y un 100% de probabilidad de texto generado con IA.

Sin embargo, lo realmente interesante no fue el uso de la tecnología en sí, sino por qué la Corte inadmitió la demanda. El problema no fue utilizar inteligencia artificial, sino presentar un escrito sin técnica casacional, sin estructuración jurídica rigurosa y sin cumplir las cargas argumentativas que exige un recurso tan técnico. La Corte fue clara: copiar sugerencias generales generadas por un modelo de lenguaje no reemplaza el razonamiento jurídico. Este hito judicial nos deja lecciones necesarias: la IA ya es parte del litigio y los jueces también están usando tecnología para detectarla, pero la técnica jurídica y la responsabilidad profesional no se delegan a un algoritmo.

En este contexto, el concepto de «Human-in-the-loop» (HITL) es fundamental. Significa que ninguna decisión judicial o pieza procesal de alto impacto debe ser generada exclusivamente por una máquina. La IA debe ser un asistente que agilice la lectura de expedientes, la búsqueda de jurisprudencia o el cálculo de cuantías, pero el juicio de valor y la ponderación de principios constitucionales deben ser siempre una tarea humana.

Humans-on-the-Loop (HOTL) extiende esta idea; según Credo.AI (2025), implica que los humanos proporcionen retroalimentación constante al sistema para mejorar su rendimiento. En HOTL, los abogados y jueces actúan como instructores, corrigiendo errores y guiando a la IA hacia mejores resultados, asegurando que la herramienta deje de ser un «generador de textos generales» y se convierta en un soporte con criterio y dominio técnico.

Conclusión

La transformación digital de la justicia ofrece oportunidades de eficiencia innegables. Sin embargo, el uso de la IA en los despachos judiciales debe estar condicionado a tres principios: transparencia, explicabilidad y responsabilidad. No podemos permitir que la justicia se convierta en una caja negra donde el ciudadano reciba un veredicto sin entender el porqué.
Solo a través de un marco jurídico y ético con estándares sólidos y una rendición de cuentas clara, la IA podrá fortalecer y no socavar la confianza en el sistema judicial. La tecnología debe ser un puente hacia una justicia más exacta y célere, pero siempre bajo la luz de la razón humana y el respeto absoluto al debido proceso.

Referencias Bibliográficas

BigCloud. (2024). The difference between White Box and Black Box AI. BigCloud Global. https://bigcloud.global/the-difference-between-white-box-and-black-box-ai/

Corte Superior de Justicia de Lima Sur. (27 de marzo de 2023). Sentencia de Segunda Instancia. Expediente 00052-2022-18-3002-JP-FC-01. Recuperado de https://udea-assets.s3.amazonaws.com/media/blog/files/0052-2022-18-3002-JP-FC-01.pdf

Credo.AI. (2025). Human-on-the-Loop. Credo.AI Glossary. https://www.credo.ai/glossary/human-on-the-loop#:~:text=Humans%2Don%2Dthe%2DLoop,improve%20its%20performance%20over%20time.

ESIC Business & Marketing School. (Agosto de 2024). ¿Qué es un sesgo algorítmico y cómo se produce? https://www.esic.edu/rethink/tecnologia/que-es-un-sesgo-algorimico-y-como-se-produce-ejemplos-c

SEON Technologies. (2026). Caja negra machine learning: Qué es y cómo funciona. Glosario de Recursos. https://seon.io/es/recursos/glosario/caja-negra-machine-learning/

Corte Suprema de Justicia. (2026). Sentencia AP760-2026 / Radicación N° 70927 [M. P. Amanda Duque Arbeláez]. https://media.licdn.com/dms/document/media/v2/D4E1FAQEIZvZDPeNO4g/feedshare-document-pdf-analyzed/B4EZy0v4kmJcAY-/0/1772558978766?e=1773878400&v=beta&t=mMFEsqEzxbYkaVH1tZI4y0QhR3vcliMvf-vgDFdmDJ0

1. Estudiante de sexto ciclo de Derecho en la Universidad Científica del Sur. Con interés en el ecosistema del LegalTech, forma parte del círculo académico del programa Tech and Law de su casa de estudios. Apasionada por participar en espacios estudiantiles enfocados en la modernización del ejercicio legal, ya que su propósito es impulsar la transformación digital del sistema judicial peruano. Busca ser parte de la implementación de soluciones tecnológicas enfocadas en la automatización y aceleración de los trámites, con el objetivo de mitigar de forma definitiva la demora procesal en el país y garantizar una tutela jurisdiccional efectiva y oportuna. ↩︎

*La entrada publicada en el Blog no refleja la opinión del Departamento de Derecho, Comunicaciones y Tecnologías de la Información. El autor es el único responsable del contenido y las opiniones expresadas en la misma*.

*Foto de Juanjo Jaramillo en Unsplash