El 14 de septiembre, 404 Media publicó que OpenAI contrató a cientos de personas externas para leer prompts reales de ChatGPT y calificar las respuestas del modelo, en un proyecto interno llamado Project Lily. Los revisores no ven el nombre de usuario. Según el reportaje, OpenAI dice que intenta quitar la información personal antes de que el texto les llegue, y reconoce que pueden pasar detalles sensibles.
No es una práctica de un solo laboratorio. Google la documenta en el centro de privacidad de Gemini: personas, incluidos proveedores de servicio, revisan un subconjunto de chats, y esos chats se conservan hasta tres años aunque el usuario borre su actividad.
Lo que cambia es la cuenta, no el proveedor
OpenAI, Google y Anthropic separan el plan personal del de empresa en sus propias políticas:
| Proveedor | Plan personal: uso de chats para mejorar modelos | Plan de empresa y API |
|---|---|---|
| OpenAI | Sí, salvo que el usuario lo desactive | No por defecto (ChatGPT Team, Enterprise y API) |
| Sí, con revisión humana de una parte, mientras «Keep Activity» esté activo | En Workspace, sin revisión humana ni entrenamiento fuera del dominio sin permiso | |
| Anthropic | Lo elige el usuario; si acepta, conservación por cinco años | Fuera del cambio: Team, Enterprise y API |
Para una empresa, la pregunta útil no es si está bien que una persona lea chats. Es desde qué cuenta escribió el empleado.
Qué dice la norma colombiana
Cuando alguien del equipo pega en su cuenta personal la cédula, la deuda o el diagnóstico de un cliente, la empresa sigue siendo Responsable del Tratamiento. La Ley 1581 de 2012 la obliga a conservar la información en condiciones que impidan su consulta o uso no autorizado (artículo 17), con multas de hasta 2.000 salarios mínimos mensuales (artículo 23).
La Circular Externa 002 de 2024 de la SIC lo aterriza en la IA: pide medidas técnicas, humanas, administrativas y contractuales que eviten suministrar datos a personas no autorizadas, y que sean auditables.
El argumento contrario que sí pesa: los chats llegan al revisor desvinculados de la cuenta. Es cierto, y no alcanza. Quitar el nombre de quien escribe no quita el nombre del cliente que va dentro del texto.
Qué hacer esta semana
Plan de empresa para quien toque datos de clientes. Es una medida contractual, del tipo que menciona la circular, y en los tres proveedores cambia lo que se hace con los datos.
Apagar el entrenamiento en las cuentas personales que sigan en uso. Reduce la exposición, no la elimina: Google advierte que, aun con la actividad desactivada, usa revisores humanos para proteger el servicio.
Una regla escrita de lo que no se pega. Cédulas, datos de salud y de crédito, en ninguna cuenta personal. Lo que no está escrito es difícil de demostrar. Cuando el texto no lo pega una persona sino un sistema, la regla se convierte en código que corre antes del envío: qué se tapa, qué se conserva y por qué.
Escribimos desde la operación de agentes en producción para clientes reales (casos), donde las conversaciones no se usan para entrenar ni ajustar modelos (privacidad). Como con el reglamento europeo para chatbots, la obligación se cumple en cómo está montado el sistema: así tratamos los datos en seguridad.