Fundamentos legales y éticos para el uso de IA y bases de datos en Colombia · Profesor Diego Jerez
20–25 min Fundamentos teóricos (esta página)
15–20 min Actividad guiada con Mailchimp y Gemini
1
Verificación de información y alucinaciones
La Guía Ética para la Implementación, Desarrollo y Uso de Sistemas de IA en Entidades Públicas de Colombia es clara: la decisión humana es siempre central. La IA solo apoya, nunca reemplaza la toma de decisiones del Estado, precisamente porque puede ser opaca y producir respuestas poco confiables.
DaniGemini me redactó todo el correo, ¿ya lo puedo enviar?
ProfeNo. Toda salida de IA —incluido el texto de un correo— se verifica contra fuentes oficiales, normativa vigente y tu criterio profesional antes de publicarse o enviarse.
🔍
Regla de hoy: transparencia, explicabilidad y posibilidad de auditoría son la base para detectar y corregir cualquier información incorrecta que la IA genere.
2
Privacidad y protección de datos
📜 Ley 1581 de 2012
Rige el tratamiento de datos personales en Colombia con principios de legalidad, finalidad, libertad, veracidad, acceso y circulación restringida.
📜 Circular Externa 002 de 2024 (SIC)
Aterriza esos principios al contexto de la IA: exige idoneidad, necesidad, razonabilidad y proporcionalidad estricta, más el principio de responsabilidad demostrada.
Aplicado a lo que van a hacer hoy: cualquier recolección de datos para una campaña en Mailchimp debe limitarse a lo estrictamente necesario —por ejemplo, correo electrónico y nombre— y ustedes deben poder demostrar cómo protegen esos datos y para qué los usan.
3
Uso de bases de datos según normatividad colombiana
Hoy van a construir y subir una base de datos real a Mailchimp (sus propios correos). Antes de hacerlo, estos son los principios de la Ley 1581 que aplican directamente a esa base:
⚖️
Legalidad
🎯
Finalidad
🕊️
Libertad
✅
Veracidad
🔐
Acceso restringido
📋
Responsabilidad demostrada
✅
Sí pueden hacer
Recolectar solo el dato mínimo necesario (correo, nombre), explicar para qué se usa, y guardar evidencia de que cada persona lo compartió voluntariamente.
🚫
No deben hacer
Agregar datos que no necesitan (cédula, dirección, cargo si no aplica), reutilizar la base para un fin distinto al informado, o compartirla fuera de la entidad sin autorización.
⚠️ Antes de subir cualquier base a Mailchimp
Verifiquen que cada persona en la lista sabe que va a recibir correos y para qué. La Circular 002 exige poder demostrar esto, no solo suponerlo.
4
Sesgo algorítmico y toma de decisiones
La Guía Ética del DNP pone la equidad y la no discriminación como principio central: las entidades públicas deben identificar y mitigar sesgos algorítmicos que profundicen desigualdades sociales.
🗂️
Aplicado a segmentar audiencias en Mailchimp
Segmentaciones basadas en ubicación, nivel socioeconómico o historial de interacción deben revisarse críticamente: ¿estamos excluyendo o sobreexponiendo a algún grupo sin darnos cuenta?
5
Marco legal y guías de IA en Colombia
🇨🇴
CONPES 4144
Política Nacional de IA impulsada por el DNP: la IA debe estar al servicio del bien público, respetar derechos humanos y reforzar la transparencia.
🔗
Circular 002 + habeas data
Conecta explícitamente el uso de IA con las normas de habeas data: exige estudios de impacto de privacidad cuando se manejan datos de alto riesgo.
📌
En todos los casos, usar IA no exime a la entidad ni al responsable del tratamiento de cumplir la Ley 1581 y mantener un programa integral de gestión de datos personales.
6
Cuándo usar (y no usar) IA
La regla práctica que vamos a usar en clase: distingan entre tareas de apoyo (redacción de borradores, clasificación preliminar) donde la IA es útil, y decisiones finales sobre ciudadanía o recursos públicos, que quedan siempre en manos de personas con criterio institucional.
🟢
Apoyo (sí)
Redactar el borrador del correo, sugerir estructura HTML, proponer un asunto llamativo.
🔴
Decisión final (no automatizar)
A quién se le otorga un beneficio, quién recibe una sanción, o cualquier decisión sobre ciudadanía.
7
Protocolos institucionales y seguridad
Los Lineamientos de Seguridad y Privacidad del Ministerio TIC piden clasificar la información, establecer controles de acceso y gestionar incidentes de seguridad. En Sabaneta, el envío de correo masivo y el uso de IA no son "islas tecnológicas": son parte de la misma política institucional de protección a la ciudadanía.
8
De la teoría a la práctica
📧 Ahora sí, manos a la obra
Con estos principios claros, en la actividad van a: limpiar y categorizar una base de datos real, subirla a Mailchimp, generar un correo HTML con Gemini usando prompts institucionales, corregirlo y enviarlo — todo pasando por una checklist ética antes del envío.
¿Hay consentimiento de cada persona en la base de datos?
¿Se protege la privacidad — solo se pide el dato mínimo necesario?
¿El mensaje del correo es veraz y fue verificado?
¿La segmentación es justa, sin excluir grupos sin razón?
9
Cierre y tres ideas clave
🔑 Si solo recuerdan tres cosas de hoy
Protección de datos (Ley 1581 + Circular 002) · Equidad y transparencia (Guía Ética de IA) · Consentimiento informado (herramientas RGPD de Mailchimp).
"La IA nos ayuda a redactar más rápido; la ética y la ley nos recuerdan que la responsabilidad del envío sigue siendo nuestra."