Charla: Uso de Sistemas de Decisión Automatizada

Juan David Gutiérrez, profesor asociado de Escuela de Gobierno de la Universidad de los Ande y PhD en política pública de la Universidad de Oxford, llevó a cabo el 17 de agosto la charla denominada "Usos de Sistemas de Decisión Automatizada".

Por:  Carolina Porras Díaz – Asistente de Investigación del Departamento de Derecho de las Telecomunicaciones. 

Juan David Gutiérrez, profesor asociado de Escuela de Gobierno de la Universidad de los Ande y PhD en política pública de la Universidad de Oxford, llevó a cabo el 17 de agosto la charla denominada “Usos de Sistemas de Decisión Automatizada”. El propósito principal de este espacio académico, fue el de compartir los resultados de una exhaustiva investigación liderada por el docente acerca del mapeo de sistemas automatizados de toma de decisiones en el sector público colombiano, producto de esta investigación se creó una base de datos actualizada con información sobre 113 SDA adoptados por 51 entidades del sector público colombiano.

En la investigación se analizaron los sistemas automatizados de toma de decisiones, en adelante (SDA). Estos sistemas pueden predecir, clasificar, optimizar, identificar y/o recomendar.  Lo que significa que pueden reemplazar al gobierno en la toma de decisiones en el sector público, como es el caso de viabilidad y metodología de implementación de políticas públicas e identificación de problemas, optimizando las cargas estatales.

La utilización de los SDA implica, para el Estado, un deber de transparencia algorítmica, deber que comprende (i) la accesibilidad, es decir, el acceso a la información de los algoritmos que se utilizan, y, (ii) la explicabilidad, donde corresponde a una explicación detalla del fundamento del uso de SDA. Lo anterior, con el propósito de contar con la suficiente información acerca del manejo operativo de los sistemas y el análisis de que si están cumpliendo con la finalidad adecuada.

Un ejemplo de lo anterior, se puede analizar en el caso de la Unión Europea, donde se impone reglas puntuales sobre informar la existencia de decisiones automatizadas. Este deber se encuentra estipulado en Reglamento (UE) 2016/679 Del Parlamento Europeo Y Del Consejo de 27 de abril de 2016: Relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos), sección 2, artículo 13, numeral 2, literal f:

(…)

Además de la información mencionada en el apartado 1, el responsable del tratamiento facilitará al interesado, en el momento en que se obtengan los datos personales, la siguiente información necesaria para garantizar un tratamiento de datos leal y transparente:

(…)

f. La existencia de decisiones automatizas, incluida la elaboración de perfiles, a que se refiere el artículo 22, apartados 1 y 4, y, al menos en tales casos, información significativa sobre la lógica aplicada, así como la importancia y las consecuencias previstas de dicho tratamiento para el interesado.

Respecto de Colombia, el país cuenta con los siguientes fundamentos legales:

1. Derecho de petición como derecho fundamental.
2. Derecho al debido proceso y derecho de defensa
3. Derecho a la igualdad y no discriminación.
4. Derecho a la protección de datos personales (principio de transparencia).
5. Ley de transparencia y del Derecho de Acceso a la Información Pública Nacional (Principio de la divulgación proactiva de la información (cultura de la transparencia)).

Ahora bien, ¿Cómo cumplir con el deber de transparencia algorítmica? El profesor Gutiérrez explicó dos modelos de transparencia algorítmica:

1. Jurisdiccional: Un ejemplo de este tipo de modelo se evidencia cuando se solicita información al Estado por medio de un derecho de petición. En este caso el Estado actúa de manera pasiva.
2. Registral: Un ejemplo de este tipo de modelo se evidencia en la existencia de repositorios y registros públicos de algoritmos que pueden ser ventanas y canales de información para los ciudadanos. En este caso el Estado actúa de manera activa.

Con base en la anterior información, el equipo de investigación se planteó dos cuestiones:

1. ¿Qué tanto cumplen las entidades del sector público colombiano con el deber de transparencia algorítmica?
2. ¿Qué tipos de sistemas han adoptado las entidades públicas en Colombia y con qué fines?

En la investigación se logró mapear que el Estado colombiano a nivel nacional y subnacional usa aproximadamente 113 SDA, un ejemplo de lo anterior, es la utilización de SDA en el reparto de demandas en los juzgados civiles. Producto de la investigación se creó base de datos “Sistemas de decisión automatizada en el sector público colombiano v.1.0.xlsx”, ubicada en el repositorio de datos de investigación de la Universidad del Rosario.

Adicionalmente, se concluye que más de la mitad de las 51 entidades que usan SDA, son entidades del orden nacional, aproximadamente el 74%, donde su uso prima en entidades que manejan asuntos económicos y servicios públicos generales.

Por otra parte, se logró concluir que el uso de SDA, en materia de políticas públicas, contribuye de manera significativa en la fase de implementación. Y, respecto de los Objetivos de Desarrollo Sostenible – ODS, los SDA inciden principalmente en el Objetivo “Paz, justicia e instituciones sólidas”.

Con ocasión a la investigación, se cuenta con un subregistro de los sistemas de decisión automatizada empleados por el sector público colombiano. La información de acceso público disponible en relación a estos sistemas resulta claramente insuficiente para cumplir con el principio de transparencia sustancial. A pesar de que estos sistemas tienen un enfoque particular en sectores concretos, como es el caso de la educación, su implementación tiene gran evidencia en el ámbito estatal, principalmente, en la implementación de políticas públicas. Por último, los sistemas utilizados por el sector público conllevan una serie de diversos riesgos potenciales, entre los que destacan la posibilidad de discriminación, vulneración de la privacidad y afectación del debido proceso.