El sábado 12 de septiembre, Dario Amodei, director de Anthropic, publicó el ensayo «We Must Pace the Frontier». Pide bajar la velocidad a la que mejoran las capacidades de los modelos más avanzados, en tres pasos: evaluadores externos con acceso de empleado dentro de cada laboratorio, estándares de seguridad comunes entre empresas de países democráticos y, después, coordinación global. El primero Anthropic lo asumió por su cuenta, con organizaciones como METR entre los evaluadores.

Ese mismo día Sam Altman escribió que OpenAI hará lo mismo con los evaluadores, y Elon Musk respaldó el ensayo. El lunes Altman precisó que bajar el ritmo no significa detenerse. Según CNBC, Donald Trump respondió que el freno no hace falta y arriesga la ventaja de Estados Unidos frente a China, y el diario estatal chino Global Times lo leyó como un intento de presentar el desarrollo chino como amenaza.

Lo que no cambia para una empresa en Colombia

Lo anunciado no menciona cambios en los modelos que ya están en el mercado ni en sus API. Quien espere que ese acuerdo le resuelva la gobernanza de su agente va a esperar sentado. Los evaluadores embebidos miran riesgos de frontera, como la pérdida de control o los usos peligrosos. No miran si su agente de selección de personal discrimina ni si su modelo acierta en español con sus datos.

Eso es justo lo que pide el Proyecto de Ley 025 de 2026, radicado en la Cámara el 21 de julio. Su artículo 6 pone la evaluación de impacto de un sistema de alto riesgo en el implementador, no en el laboratorio: riesgo de discriminación algorítmica, calidad de los datos, desempeño y precisión, supervisión humana. Se hace antes de implementar, al menos una vez al año y tras cada modificación sustancial. El artículo 34 extiende la obligación a los sistemas que ya estén funcionando. Es un proyecto, no una ley vigente, pero marca la dirección.

El argumento contrario

Si los laboratorios abren sus sistemas a auditores independientes que publican lo que encuentran, la empresa usuaria hereda una garantía que antes no tenía. Es cierto para el riesgo del modelo. No lo es para el riesgo del uso, que depende de los datos, del proceso y del cliente de cada empresa.

Lo que sí juega a favor: si las capacidades nuevas llegan más despacio, el modelo que una empresa evalúe hoy le durará más. Cambiar de modelo es candidato claro a modificación sustancial, y cada cambio reabre la evaluación.

Qué hacer esta semana

Identificar qué agentes tocan ámbitos que el artículo 5 del proyecto lista como de alto riesgo, como selección de personal o evaluación de estudiantes. Registrar, por cada uno, qué modelo usa y cuándo cambió. Y medir su desempeño con casos propios, porque ese número no lo va a publicar ningún evaluador externo.

Escribimos desde una casa que opera agentes en producción para clientes reales (casos). Lo dijimos con el reglamento europeo y vale aquí: la obligación se cumple en cómo está construido y medido el agente. Es lo que gobernamos proyecto por proyecto en el AI Development OS.