# Project Lily: personas leen chats reales con IA, y el dato de cliente que pega tu empleado sigue siendo tuyo > Contratistas externos leen conversaciones reales con asistentes de IA. Qué cambia entre la cuenta personal y el plan de empresa, y qué le pide la SIC a quien trata datos. - Publicado: 16 de septiembre de 2026 - Autor: Equipo de IntegraLaIA - Categoría: Actualidad - Temas: Actualidad, Regulación, Colombia, Seguridad - Original: https://integralaia.com/blog/project-lily-revision-humana-chats-ia-empresas-colombia - Cómo se hizo: Borrador asistido por IA (Claude); revisado, editado y verificado por Equipo de IntegraLaIA el 16 de septiembre de 2026. Ilustración generada con IA. --- El 14 de septiembre, 404 Media publicó que OpenAI contrató a cientos de personas externas para leer prompts reales de ChatGPT y calificar las respuestas del modelo, en un proyecto interno llamado Project Lily. Los revisores no ven el nombre de usuario. Según el reportaje, OpenAI dice que intenta quitar la información personal antes de que el texto les llegue, y reconoce que pueden pasar detalles sensibles. No es una práctica de un solo laboratorio. Google la documenta en el centro de privacidad de Gemini: personas, incluidos proveedores de servicio, revisan un subconjunto de chats, y esos chats se conservan hasta tres años aunque el usuario borre su actividad. ## Lo que cambia es la cuenta, no el proveedor OpenAI, Google y Anthropic separan el plan personal del de empresa en sus propias políticas: | Proveedor | Plan personal: uso de chats para mejorar modelos | Plan de empresa y API | |---|---|---| | OpenAI | Sí, salvo que el usuario lo desactive | No por defecto (ChatGPT Team, Enterprise y API) | | Google | Sí, con revisión humana de una parte, mientras «Keep Activity» esté activo | En Workspace, sin revisión humana ni entrenamiento fuera del dominio sin permiso | | Anthropic | Lo elige el usuario; si acepta, conservación por cinco años | Fuera del cambio: Team, Enterprise y API | Para una empresa, la pregunta útil no es si está bien que una persona lea chats. Es desde qué cuenta escribió el empleado. ## Qué dice la norma colombiana Cuando alguien del equipo pega en su cuenta personal la cédula, la deuda o el diagnóstico de un cliente, la empresa sigue siendo Responsable del Tratamiento. La Ley 1581 de 2012 la obliga a conservar la información en condiciones que impidan su consulta o uso no autorizado (artículo 17), con multas de hasta 2.000 salarios mínimos mensuales (artículo 23). La Circular Externa 002 de 2024 de la SIC lo aterriza en la IA: pide medidas técnicas, humanas, administrativas y contractuales que eviten suministrar datos a personas no autorizadas, y que sean auditables. El argumento contrario que sí pesa: los chats llegan al revisor desvinculados de la cuenta. Es cierto, y no alcanza. Quitar el nombre de quien escribe no quita el nombre del cliente que va dentro del texto. ## Qué hacer esta semana **Plan de empresa para quien toque datos de clientes.** Es una medida contractual, del tipo que menciona la circular, y en los tres proveedores cambia lo que se hace con los datos. **Apagar el entrenamiento en las cuentas personales que sigan en uso.** Reduce la exposición, no la elimina: Google advierte que, aun con la actividad desactivada, usa revisores humanos para proteger el servicio. **Una regla escrita de lo que no se pega.** Cédulas, datos de salud y de crédito, en ninguna cuenta personal. Lo que no está escrito es difícil de demostrar. Cuando el texto no lo pega una persona sino un sistema, la regla se convierte en código que corre antes del envío: [qué se tapa, qué se conserva y por qué](/blog/anonimizar-datos-personales-ia-ley-1581-colombia). Escribimos desde la operación de agentes en producción para clientes reales ([casos](/casos)), donde las conversaciones no se usan para entrenar ni ajustar modelos ([privacidad](/privacidad)). Como con el [reglamento europeo para chatbots](/blog/ai-act-chatbots-empresas-colombia), la obligación se cumple en cómo está montado el sistema: así tratamos los datos en [seguridad](/seguridad). --- ## Sobre qué se escribió - 404 Media, Joseph Cox, «Inside 'Project Lily': The Humans Reading Your ChatGPT Chats», 14 de septiembre de 2026: https://www.404media.co/inside-project-lily-the-humans-reading-your-chatgpt-chats/ - OpenAI, «How your data is used to improve model performance», actualizada el 13 de marzo de 2026: https://openai.com/policies/how-your-data-is-used-to-improve-model-performance/ - Google, Gemini Apps Privacy Hub (revisión humana, «Keep Activity» y conservación de tres años), consultado el 16 de septiembre de 2026: https://support.google.com/gemini/answer/13594961?hl=en - Google, Generative AI in Google Workspace Privacy Hub, consultado el 16 de septiembre de 2026: https://support.google.com/a/answer/15706919?hl=en - Anthropic, «Updates to Consumer Terms and Privacy Policy», 28 de agosto de 2025: https://www.anthropic.com/news/updates-to-our-consumer-terms - Ley Estatutaria 1581 de 2012, artículos 3, 17 y 23 (Función Pública): https://www.funcionpublica.gov.co/eva/gestornormativo/norma.php?i=49981 - Superintendencia de Industria y Comercio, Circular Externa 002 del 21 de agosto de 2024, «Lineamientos sobre el tratamiento de datos personales en sistemas de inteligencia artificial», numeral VIII: https://sedeelectronica.sic.gov.co/sites/default/files/normativa/Circular%20Externa%20No.%20002%20del%2021%20de%20agosto%20de%202024.pdf IntegraLaIA (https://integralaia.com). Publicado bajo el enlace original; cítalo si lo reutilizas.