Implementación de la IA en Colombia: Análisis al Proyecto de Ley

El presente artículo tiene como objetivo determinar si el proyecto de Ley que pretende regular la IA en Colombia es suficiente, o si hacen falta elementos para contar con un marco normativo suficiente sobre esta materia en el país.

Por: Jaider Jael Morales Torres, Auxiliar de Investigación del Departamento de Derecho, Comunicaciones y Tecnologías de la Información

Para dar una respuesta a esto, se realiza una exposición de los estándares internacionales que se han desarrollado en la materia y la experiencia regulatoria que se ha tenido en otros países en la materia, para contrastarlos con la propuesta colombiana y arribar finalmente a una conclusión.

IA: Beneficios, Desafíos y Necesidad de Regulación

Definir la Inteligencia Artificial (IA), es una labor compleja, tanto que, han sido formuladas diversas definiciones que varían el enfoque a través del cual se aborda. Sin embargo, se puede decir de manera general que la Inteligencia Artificial se refiere a sistemas computacionales capaces de realizar funciones que tradicionalmente necesitarían del razonamiento humano, por ejemplo, comprender lenguaje, aprender patrones o encontrar soluciones a determinadas problemáticas. Aunque se suele imaginar a la IA como robots con conciencia propia, en la práctica son simplemente programas que procesan datos mediante algoritmos especializados, en realidad, gran parte de la IA consiste en computadoras entrenadas para realizar tareas de forma independiente¹.

Si bien el desarrollo de la Inteligencia Artificial no comenzó hace pocos años, fue a partir del lanzamiento relativamente reciente de Chatbots famosos como Chat GPT , Copilot, Gemini o Deepseek, que el uso de la IA ha tenido un crecimiento exponencial en cuanto a su conocimiento y adopción por la sociedad en general. Incluso podría decirse que, en la actualidad, su uso hace parte de lo cotidiano, pues como pasará a explicarse, son bastantes los beneficios que estas tecnologías han traído al desarrollo de las sociedades.

Desde asistentes de voz como Siri o Alexa que facilitan las tareas cotidianas de una persona, el uso de robots de IA para mejorar la agricultura², hasta la adopción de la IA para la prevención de enfermedades y otros usos en el ámbito de la salud³. Se puede evidenciar que el uso de estas tecnologías facilita la ejecución de muchas actividades y potencializa el desarrollo de diversos sectores como la economía, la prestación de servicios públicos y la productividad laboral, entre muchos otros ejemplos. Sin embargo, también es cierto que nos hemos visto expuestos a varios riesgos con su uso, por ejemplo, vulneración de datos personales, los ciberataques, la desinformación, la manipulación de datos, vulneración a la propiedad intelectual, los sesgos en el uso de datos⁴ entre otros.

Incluso, al revisar el contexto colombiano se puede observar también varias de las ventajas que ha traído la adopción de la IA, tenemos casos como el uso de PRETORIA⁵ en la Corte Constitucional, con el fin de modernizar el proceso de selección de expedientes mediante búsqueda automatizada, categorización de sentencias según criterios de la Corte y generación de estadísticas visuales, facilitando un análisis integral de los fallos⁶. También el uso del resonador de modelo SIGNA Voyager de GE HealthCare para mejorar el diagnóstico de pacientes en el Hospital Universitario de Santa Fe de Bogotá, lo que puede reducir el tiempo de análisis para llegar a un diagnóstico en un 40 %⁷.

Ahora bien, también en el ámbito local, se han podido advertir las problemáticas que el uso de la IA ha traído. Por ejemplo, estas tecnologías han sido utilizadas para la comisión de delitos como estafas a través de suplantación de identidad (con deepfakes y clonación de voz), secuestros virtuales, fraudes en redes sociales y mensajes automatizados (chatbots) que engañan a las víctimas. Además, los ciberdelincuentes usan IA para crear ransomware, propagar noticias falsas y explotar sesgos algorítmicos, lo que aumenta riesgos para personas y empresas⁸.

En consecuencia, de lo anterior, la exposición a riesgos inherentes al uso de la IA, ha hecho imperativa la necesidad de crear marcos regulatorios que permitan su adopción responsable, ética, segura y sostenible. Para lo cual, se han dado lineamientos tanto a nivel internacional como en los ordenamientos locales de múltiples países.

Estándares internacionales en materia de IA

A continuación, se recogen y exponen de manera sucinta, los principales estándares internacionales en materia de IA que han sido promulgados:

I) Principios de la OCDE para la Inteligencia Artificial

• Inclusión y Sostenibilidad: La Inteligencia Artificial debe promover el bienestar humano, asegurando que sus beneficios sean ampliamente compartidos y que no exacerbe las desigualdades.
• Transparencia y Explicabilidad: Los sistemas de Inteligencia Artificial deben ser transparentes y sus decisiones deben ser explicables para los usuarios y reguladores.
• Robustez, Seguridad y Responsabilidad: Los sistemas de Inteligencia Artificial deben ser robustos y seguros, con mecanismos para prevenir y mitigar daños. Además, debe haber claros marcos de responsabilidad para los desarrolladores y operadores de IA.
• Derechos Humanos y Justicia: La Inteligencia Artificial debe respetar los derechos humanos, la democracia y el estado de derecho, promoviendo la justicia y la equidad en su aplicación.
• Rendición de Cuentas: los actores involucrados deben asumir la responsabilidad por los impactos de los sistemas de inteligencia artificial, garantizando trazabilidad, mecanismos de corrección y gestión proactiva de riesgos.

Además, mediante este instrumento, la OCDE insta a los gobiernos a Invertir en investigación y desarrollo de IA confiable; fomentar ecosistemas digitales inclusivos y compartir datos éticamente; adaptar marcos regulatorios para impulsar la innovación; preparar a la fuerza laboral para la transformación digital; cooperar internacionalmente para estandarizar y medir el progreso en IA⁹.

II) Recomendación de la UNESCO sobre la ética de la Inteligencia Artificial:

La Recomendación de la UNESCO adoptada en 2021 tiene como objetivo fijar un marco base universal que permita que la IA beneficie a la humanidad y al planeta, previniendo sus riesgos. Busca alinear el desarrollo y uso de estos sistemas con los derechos humanos, la igualdad de género, la sostenibilidad ambiental y la justicia intergeneracional, mediante políticas concretas y cooperación internacional. Además, promueve la inclusión de todos los países miembro, especialmente aquellos en desarrollo, en los avances tecnológicos, fomentando un diálogo multidisciplinario y una gobernanza compartida que asegure aplicaciones éticas, responsables y sostenibles de la IA.

En ese sentido, la recomendación se fundamenta en los principios de: Proporcionalidad e inocuidad; Seguridad y protección; Equidad y no discriminación; Sostenibilidad; Derecho a la intimidad y protección de datos; Supervisión y decisión humanas; Transparencia y explicabilidad; Responsabilidad y rendición de cuentas; Sensibilización y educación; Sensibilización y educación; y, por último, Gobernanza y colaboración adaptativas y de múltiples partes interesadas.

Además, la recomendación también establece ámbitos de acción política para los Estados Miembros, incluyendo: Evaluación del impacto ético; Gobernanza y administración éticas; Política de datos; Desarrollo y cooperación internacional; Medio ambiente y ecosistemas; Género; Cultura; Educación e investigación; Comunicación e información; Salud y bienestar social¹⁰.

III) Experiencias en la regulación de la IA en otras latitudes

Con fundamento en los principios establecidos en los instrumentos de orden internacional previamente expuestos, se han desarrollado marcos regulatorios que propenden por la implementación ética, responsable y sostenible de la IA en diferentes países, particularmente, la denominada “IA Act” de la Unión Europea. La cual, ha marcado un hito en este movimiento regulatorio, ya que se trata de la Ley pionera en esta materia a nivel internacional, que tiene como propósito fomentar el desarrollo y uso de IA confiable, al mismo tiempo que mitiga los riesgos que los sistemas puedan generar para los derechos fundamentales y el interés público.

Entre otros puntos clave, la Ley clasifica los sistemas de Inteligencia Artificial en cuatro categorías basadas en su nivel de riesgo:

1. Sistemas de Inteligencia Artificial prohibidos: Incluyen aquellos que presentan un riesgo inaceptable, como los sistemas de puntuación social utilizados por gobiernos y la Inteligencia Artificial que manipula el comportamiento humano de manera subliminal.
2. Sistemas de Inteligencia Artificial de alto riesgo: Son aquellos que tienen un impacto significativo en la seguridad o los derechos fundamentales de las personas. Los cuales deben cumplir con estrictos requisitos de seguridad, transparencia y supervisión humana.
3. Sistemas de Inteligencia Artificial de riesgo limitado: Estos sistemas están sujetos a ciertas obligaciones de transparencia. Por ejemplo, los chatbots deben informar a los usuarios de que están interactuando con una Inteligencia Artificial. No están sujetos a las mismas obligaciones estrictas que los sistemas de alto riesgo, pero deben proporcionar información adecuada a los usuarios.
4. Sistemas de Inteligencia Artificial de bajo riesgo: Incluyen la mayoría de las aplicaciones de Inteligencia Artificial actualmente en uso, como filtros de spam o videojuegos, que están sujetos a una regulación mínima debido a su bajo riesgo para la seguridad y los derechos de las personas.

Adicionalmente, la Ley establece unas obligaciones para los proveedores de sistemas de Inteligencia Artificial de alto riesgo, como el establecer un sistema de gestión de riesgos a lo largo del ciclo de vida del sistema, garantizar la calidad y representatividad de los datos utilizados para el entrenamiento, validación y prueba del sistema, diseñar sistemas que permitan la supervisión humana, entre otras¹¹. Si bien la ley de la unión Europea es la pionera en la materia y ha servido de inspiración para la regulación de la IA en otros países, es necesario poner de presente que el contexto Colombiano es bastante diferente en varios aspectos al de los países miembros de la UE, puesto que presentamos realidades económicas, políticas y sociales distintas.

Lo cual exige una regulación que atienda a dichas particularidades, teniendo en cuenta esto, en el análisis comparativo que se pretende hacer, es necesario traer a colación lo propuesto en países con contextos más o menos similares al colombiano.

Chile: PL N° de Boletín 16821-19 “Regula los sistemas de Inteligencia Artificial”

Se hará una breve mención del PL chileno, el cual tiene como objetivo promover la creación, desarrollo, innovación e implementación de sistemas de IA al servicio del ser humano, que respeten los principios democráticos, el Estado de Derecho y los derechos fundamentales. El mismo, toma como referente el ejemplo de la IA Act de la UE, por lo que incluye una clasificación de los sistemas de IA según su riesgo de la siguiente manera: Sistemas de IA de riesgo inaceptable; Sistemas de IA de alto riesgo; Sistemas de IA de riesgo limitado; Sistemas de IA sin riesgo evidente. Respecto de esto, se establece una prohibición de los sistemas de IA de riesgo inaceptable, se fijan una serie de reglas para los sistemas de IA de alto riesgo y de riesgo limitado.

Adicionalmente, es importante resaltar que, el proyecto de ley chileno también crea el Consejo Asesor Técnico de Inteligencia Artificial; Establece medidas de apoyo a la innovación; Define infracciones según el incumplimiento de las disposiciones de la ley y se establecen las sanciones correspondientes, que pueden incluir multas; Se regula la responsabilidad civil, permitiendo a quien sufra un daño por el uso de un sistema de IA demandar civilmente al operador y se establece que un reglamento dictado por el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación establecerá el listado específico de sistemas de IA de alto riesgo y de riesgo limitado¹².

Contexto Colombiano sobre la regulación de la IA

Como se expuso previamente, tanto los beneficios como las problemáticas del uso de la IA han permeado de manera significativa a Colombia, por lo cual, desde el ejecutivo, el legislativo e incluso la rama judicial, se han venido dando avances hacia la necesaria regulación de esta materia en nuestro país.

El gobierno ha considerado que la IA representa una oportunidad para enfrentar desafíos sociales, económicos y ambientales, como la mejora en la seguridad alimentaria, reducción de la pobreza, y el avance hacia una economía basada en el conocimiento¹³. De manera que, desde el CONPES 3975 de 2019 se han dado grandes pasos para la adopción de tecnologías digitales como la IA, la cual, tuvo su propio desarrollo en el CONPES 4144 aprobado recientemente, en febrero del presente año, en el cual se formula una política nacional de Inteligencia Artificial cuyo objetivo es generar las capacidades para la investigación, desarrollo, adopción, aprovechamiento ético y sostenible de sistemas de IA con el fin de impulsar la transformación social y económica de Colombia.

En consecuencia, y con la necesidad de fijar un marco regulatorio especifico y vinculante, recientemente MinTIC y MinCiencias socializaron el borrador de proyecto de ley para el desarrollo de la IA en el país¹⁴ “por medio del cual se regula la inteligencia artificial en Colombia para garantizar su desarrollo ético y sostenible”. El proyecto de ley tiene como objetivo promover la generación de conocimiento, la infraestructura tecnológica y la implementación de la Inteligencia Artificial (IA) en Colombia, garantizando su desarrollo ético, inclusivo, responsable y sostenible, fortaleciendo la competitividad e innovación, así como la defensa de los derechos fundamentales de las personas.

A continuación, se exponen de manera sintetizada algunos de los puntos más relevantes de la propuesta de regulación de la IA en Colombia, haciendo el contraste con las regulaciones analizadas de la UE, Chile y los estándares Internacionales de OCDE y UNESCO.

En primera medida, respecto a los estándares internacionales, se puede observar que el proyecto de ley consagra en su mayoría los principios y recomendaciones fijadas a nivel internacional, dado que el artículo 4 se ocupa de fijar los principios rectores para el desarrollo y uso de la Inteligencia artificial, al dar un mandato general de obedecer dichos principios. Por lo que se recogen los referidos estándares internacionales en los términos que ya se expuso.

Actualmente, llama particularmente la atención que en las recomendaciones de la UNESCO se invita a que los gobiernos permitan la participación de diversos sectores de la comunidad para un enfoque más inclusivo de la regulación, sin embargo, en el proyecto de ley no se logró evidenciar disposiciones que incluyan a diferentes sectores como la ciudadanía en general, los gremios y la academia, etc., en la regulación de la IA. Dado que, si bien se deja en el gobierno esta facultad reglamentaria, no se estableció el mandato de permitir la intervención de la comunidad en general. Adicionalmente, si bien el artículo 16 menciona temas de participación de diversos sectores, la disposición se refiere a proyectos de investigación en IA, pero no al ámbito regulatorio, lo cual permitiría un enfoque más inclusivo de la normativa.

Por otra parte, respecto a la comparativa con la regulación en otros países, el proyecto de ley replica con pequeños ajustes varios puntos de lo establecido en la ‘IA Act’ y en parte, en la propuesta chilena, sin embargo, se encuentran algunas diferencias que podrían generar vacíos importantes e incertidumbre en la regulación, los cuales se mencionan a continuación:

Un enfoque estructurado en la clasificación de riesgos y las obligaciones proporcionales a cada sistema: La IA Act de la UE establece un sistema detallado de clasificación de riesgos que determina las obligaciones específicas para cada nivel, a su vez el proyecto de Chile, también se enfoca en la elaboración de una clasificación y una lista de responsabilidades especificas en cada nivel. En cambio, el proyecto colombiano, no detalla qué obligaciones concretas se derivarán de dicho riesgo, más allá de la mención a la protección de derechos y sanciones. Sería importante establecer un marco de obligaciones diferenciadas según el nivel de riesgo de los sistemas de IA.

Creación de organismo asesor especializado: En el proyecto colombiano, sólo se menciona la creación de un comité técnico nacional, pero para el tema de los Sandbox regulatorios, pero sin dar mayores detalles sobre su funcionamiento, por lo cual, tratándose de un tema muy técnico y especializado, sería valioso que se creara un organismo similar al consejo asesor de la propuesta chilena.

Promoción e inclusión en la implementación de la IA en las regiones: atendiendo al contexto colombiano, donde para nadie es un secreto que un desafío bastante grande para el desarrollo de la IA es la poca infraestructura tecnológica, sobre todo en las regiones más apartadas del país, se evidencia una falta de precisión y especificidad en cuanto a la promoción e inclusión de la adopción de la IA en dichos lugares, ya que al final se deja todo a la posterior reglamentación del Gobierno, lo cual genera un gran riesgo e incertidumbre, que a la larga, puede perpetuar la gran brecha digital en el país.

A modo de conclusión de todo lo expuesto, el proyecto de ley colombiano que pretende regular la IA, se alinea en gran medida con la iniciativa de los estándares internacionales. Sin embargo, hay algunos vacíos que podrían complementarse para brindar un marco más integral y evitar así, la incertidumbre. Como en el caso de las responsabilidades específicas para cada sistema de AI según la clasificación por riesgo, la creación de un organismo asesor especializado de manera más detallada y finalmente, se atienda a los desafíos propios de nuestro país en cuanto a infraestructura tecnológica, para fijar mecanismos de promoción e inclusión de las regiones más rezagadas en implementación de la IA, pues uno de los pilares fundamentales de la política pública en la materia es reducir la brecha digital, no obstante sin unas medidas específicas y suficientes, se podría aumentar y perpetuar la brecha digital nacional.

1. The Alan Turing Institute. (2024, 06 28). The Alan Turing Institute. Retrieved from Frequently asked Questions. Disponible en: https://www.turing.ac.uk/about-us/frequently-asked-questions ↩︎
2. Galán, Á. 7 ejemplos de uso de inteligencia artificial en nuestro día a día. Immune Institute. 2024. Disponible en: https://immune.institute/blog/7-ejemplos-de-uso-de-inteligencia-artificial-en-nuestrodia-a-dia/ Consultado: 1 de abril de 2025 ↩︎
3. F. Avila-Tomás, M.A. Mayer-Pujadas, V.J. Quesada-Varela. La inteligencia artificial y sus aplicaciones en medicina II: importancia actual y aplicaciones prácticas. Elsevier [Internet]. Enero de 2021. Disponible en: https://www.sciencedirect.com/science/article/pii/S0212656720301463 Consultado: 1 de abril de 2025 ↩︎
4. Sierra, C. El impacto de la Inteligencia Artificial en nuestra sociedad. Retos y oportunidades. Consejo Superior de Investigaciones Científicas (CSIC). 2019. Disponible en: https://www.csic.es/es/actualidad-del-csic/el-impacto-de-la-inteligencia-artificial-en-nuestrasociedad-retos-y-oportunidades. Consultado: 1 de abril de 2025 ↩︎
5. Corte Constitucional. PRETORIA, un ejemplo de incorporación de tecnologías de punta en el sector justicia. Disponible en: https://www.corteconstitucional.gov.co/noticia.php?PRETORIA,-un-ejemplo-de-incorporaci%C3%B3n-de-tecnolog%C3%ADas-de-punta-en-el-sector-justicia-8970 Consultado: 1 de abril de 2025. ↩︎
6. Sierra Cadena, G. de J. Implementación de la Inteligencia Artificial en las Altas Cortes de Colombia: los casos de la Corte Constitucional y el Consejo de Estado. Revista Eurolatinoamericana en Derecho Administrativo, 2024, Núm. 11-1 . Disponible en: https://app-lex-com.basesbiblioteca.uexternado.edu.co/vid/1051055521 Consultado: 1 de abril de 2025. ↩︎
7. Fundación Santa Fe de Bogotá incorpora tecnología con Inteligencia Artificial para mejorar el diagnóstico de los pacientes. Corresponsables. 9 de enero de 2024. Disponible en: https://www.corresponsables.com/col/actualidad/fundacion-santa-fe-de-bogota-incorpora-tecnologia-con-inteligencia-artificial-para/ Consultado: 1 de abril de 2025. ↩︎
8. El lado oscuro de la inteligencia artificial: delincuentes la estarían usando para estafas en Colombia. Cambio Colombia. 17 de junio de 2024. Disponible en: https://cambiocolombia.com/tecnologia/el-lado-oscuro-de-la-inteligencia-artificial-delincuentes-la-estarian-usando Consultado: 1 de abril de 2025. ↩︎
9. OECD, Recommendation of the Council on Artificial Intelligence, OECD/LEGAL/0449 ↩︎
10. UNESCO. Recomendación sobre la ética de la inteligencia artificial ↩︎
11. High-Level Summary of the AI Act. (2024). Artificial Intelligence Act. Disponible en: https://artificialintelligenceact.eu/es/high-level-summary/ . Consultado: 1 de abril de 2025. ↩︎
12. El proyecto de ley N° de Boletín 16821-19, que “Regula los sistemas de Inteligencia Artificial” Disponible en: https://www.camara.cl/legislacion/proyectosdeley/tramitacion.aspx?prmID=17429&prmBOLETIN=16821-19 Consultado: 1 de abril de 2025. ↩︎
13. CONPES 4144. Pág 3. Disponible https://colaboracion.dnp.gov.co/CDT/Conpes/Econ%C3%B3micos/4144.pdf. Consultado: 1 de abril de 2025 ↩︎
14. Ministerio de Tecnologías de la Información y las Comunicaciones (MinTIC). MinTIC y MinCiencias socializaron borrador de proyecto de ley para el desarrollo de la inteligencia artificial en el país. 2025. Disponible en: https://www.mintic.gov.co/portal/inicio/Sala-de-prensa/Noticias/400094:MinTIC-y-MinCiencias-socializaron-borrador-de-proyecto-de-ley-para-el-desarrollo-de-la-inteligencia-artificial-en-el-pais. Consulta: 1 abril 2025 ↩︎

*La entrada publicada en el Blog no refleja la opinión del Departamento de Derecho, Comunicaciones y Tecnologías de la Información. El autor es el único responsable del contenido y las opiniones expresadas en la misma.