El 8 de octubre el ICO, la autoridad británica de protección de datos, publicó el resultado de su revisión a los mayores desarrolladores de modelos fundacionales que operan en el Reino Unido, y el mismo día abrió un llamado a evidencia sobre agentes de IA. La frase que resume su postura la dijo Richard Nevinson, director de regulación tecnológica: “the fact AI agents act with autonomy is not an excuse for poor compliance”, que el hecho de que los agentes actúen con autonomía no excusa un cumplimiento deficiente.
Para una empresa en Colombia la noticia parece lejana. No lo es, y por un motivo que la cobertura internacional no cuenta: lo que el ICO todavía está consultando para escribir su guía, aquí ya es una instrucción vigente desde agosto de 2024.
Qué consiguió el ICO, y a quién dejó fuera
Diez desarrolladores hicieron o se comprometieron a hacer cambios: Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, Meta, Microsoft, OpenAI y Stability AI. Los cambios son tres, y el ICO los enuncia igual para todos: información de transparencia más clara, mecanismos más sólidos para ejercer los derechos, y evaluaciones más exigentes de las salvaguardas. El ICO añade que vigila su avance.
Falta uno. El ICO dice que pausó su interlocución con X.AI porque abrió una investigación formal sobre Grok, que sigue en curso. También dice que hizo averiguaciones con OpenAI, Anthropic, Meta y el instituto británico de seguridad de IA por pruebas y despliegues recientes de agentes en los que, según su descripción, algunos sortearon protecciones, usaron canales de comunicación no autorizados y accedieron a sistemas externos. Ese episodio ya lo contamos cuando salió: cuatro laboratorios y el mismo evaluador detrás de los agentes que entraron en empresas reales.
El llamado a evidencia está abierto hasta el 20 de noviembre de 2026 y pregunta por seguridad, transparencia, rendición de cuentas, decisiones automatizadas, equidad y uso lícito de los datos. Alimentará una guía y un código de práctica sobre IA y decisiones automatizadas. Es decir: el Reino Unido está reuniendo material para escribir la regla.
En Colombia la regla ya está escrita
La Superintendencia de Industria y Comercio expidió la Circular Externa 002 el 21 de agosto de 2024, dirigida a sus vigilados en su rol de Autoridad Nacional de Protección de Datos personales. No es una ley de IA: es la instrucción de cómo se aplica la que ya existe.
La circular no esquiva la autonomía, la nombra desde la primera página: dice que los sistemas de IA “típicamente se utilizan para tomar decisiones autónomas o para asistir a un tomador de decisiones humano a través de recomendaciones y predicciones”, y recoge la definición de la OCDE, que habla de sistemas con distintos “niveles de autonomía y adaptabilidad después de su implementación”. Sobre quién responde, cita la Sentencia T-323 de 2024 de la Corte Constitucional: las leyes 1266 de 2008 y 1581 de 2012 “fueron redactadas neutralmente”, se aplican “mediante cualquier herramienta manual o tecnológica”, y “cualquier sistema de IA debe garantizar el cumplimiento de estas normatividades”.
Y pone el listón donde el ICO apenas está preguntando. La circular cita el artículo 2.2.2.25.6.1 del Decreto 1074 de 2015: los responsables “deben ser capaces de demostrar, a petición de la Superintendencia de Industria y Comercio, que han implementado medidas apropiadas y efectivas”.
Tener la medida no es poder probarla
Esa es la distancia que separa los dos regímenes, y la que cuesta dinero descubrir tarde. La circular pide cuatro cosas concretas y comprobables:
- Ponderar antes de tratar, con cuatro criterios: idoneidad, necesidad, razonabilidad y proporcionalidad en sentido estricto.
- Administrar el riesgo: identificar, medir, controlar y monitorear, que la circular llama elementos esenciales del principio de responsabilidad demostrada.
- Un estudio de impacto de privacidad previo al diseño y documentado, cuando sea probable un alto riesgo de afectación, con la descripción del tratamiento, la evaluación de riesgos y las medidas para evitarlos.
- Medidas de seguridad auditables por las autoridades, y estrategias “pertinentes, eficientes y demostrables” para garantizar los derechos.
Previo y documentado es la parte que no se puede reconstruir después. Un agente que ya está hablando con personas y tratando sus datos no se arregla con un estudio fechado el día que llega el requerimiento.
Qué hacer esta semana
Si opera agentes que tocan datos personales en Colombia, el estudio de impacto va antes del diseño, no después del incidente, y las medidas tienen que quedar en un estado en el que un tercero las pueda auditar. La discusión sobre si la autoridad de IA será MinCiencias o la Superintendencia sigue en el Congreso, y no cambia nada de lo anterior: el deber de demostrar no espera esa ley.
El llamado del ICO, además, no es solo para laboratorios: pide expresamente la vista de quienes despliegan agentes, no solo de quienes los construyen, y está abierto a cualquiera hasta el 20 de noviembre.
Nosotros operamos agentes en producción y esa es la silla desde la que leemos esta noticia: lo que se puede mostrar a un auditor se decide cuando se diseña el agente, no cuando lo preguntan. En nuestros casos está qué opera hoy, y en seguridad cómo se separan los datos por cliente y por rol.