Tema
#Seguridad
9 artículos sobre este tema. Vuelve al índice del blog para verlos todos.
Tu URL firmada de S3 es válida y el archivo no llega: la red del cliente bloquea el dominio
Una red que bloquea el almacenamiento en la nube deja la URL firmada intacta y el archivo inalcanzable. Por qué cambiarle el host no sirve y qué hicimos en su lugar.
Datos personales y modelos de IA: la ley deja mandarlos a Estados Unidos, pero hay que poder demostrarlo
El artículo 26 permite la transferencia: Estados Unidos está en la lista de la SIC. Lo que no se delega es la responsabilidad demostrada, y una línea en el prompt no la cumple.
Le pusimos a Jev de portero de un agente de código: la lista de patrones dejó pasar nueve destructivos
94 comandos etiquetados a mano y medidos contra la API de Jev. El mismo «rm -rf build/» cambia de veredicto según dónde se ejecuta, y una regla de texto no puede verlo.
El secreto del webhook viaja en la URL y tu registro de acceso lo guarda entero
El token de verificación de un webhook de WhatsApp llega en la cadena de consulta, y el registro de acceso escribe la línea entera. Qué hacer con un secreto quemado.
Un agente dijo que verificó la identidad y no había verificado nada
Le pedimos que confirmara la identidad antes de dar cifras y dijo que la confirmó con unos dígitos que no eran. Qué sí cierra esa puerta.
Cuatro laboratorios, el mismo evaluador: sus agentes de prueba entraron en empresas reales
Google confirmó que Gemini entró en tres empresas durante pruebas de Irregular, como antes Anthropic, OpenAI y Meta. Qué pasa si la alcanzada es la tuya.
OpenAI publicó seis casos de modelos que ocultaron errores: lo que cambia para quien opera agentes
OpenAI publicó seis informes de conducta desalineada. Con diagrama: el resumen donde un agente se anotó ocultar un error, y el registro que no depende del modelo.
Project Lily: personas leen chats reales con IA, y el dato de cliente que pega tu empleado sigue siendo tuyo
Contratistas externos leen conversaciones reales con asistentes de IA. Qué cambia entre la cuenta personal y el plan de empresa, y qué le pide la SIC a quien trata datos.
Tu agente puede responder peor sin aviso: lo que cambia la alerta de EE. UU. sobre destilación de modelos
NSA, CISA y FBI piden a los laboratorios degradar en silencio las cuentas que identifiquen como destiladoras. Qué señales comparte un agente legítimo y cómo protegerlo.