Laya le gana a Jev en los titulares, y los dos bancos que corrieron los dos modelos dicen lo contrario
Equipo de IntegraLaIA
El 15 de septiembre TypeSafe abrió el acceso anticipado a Jev y estrenó una etiqueta: modelo System One. No escribe. Recibe el estado de un programa y preguntas con opciones cerradas, y devuelve la elegida con su probabilidad, en un solo paso. Tres días después, Convai Innovations publicó Laya en Hugging Face con licencia Apache 2.0: la misma idea, con los pesos descargables. Desde entonces circulan dos números, 0,766 contra 0,727, y una frase: el abierto le ganó al cerrado.
Quién midió qué
Quién
Prueba
Jev
Laya
Convai, tarjeta de Laya
typed-decisions
0,727 sin afinar
0,766 afinado
Convai, misma tarjeta
Banking77
0,870 (72 etiquetas)
0,425 (77 etiquetas)
sysone-bench, 26 de septiembre
manifiesto sellado, 1.240 decisiones
0,9065
0,6863
TraceStone y NTU, 27 de septiembre
R-Judge, F1
0,879
0,492
TraceStone y NTU, 27 de septiembre
AgentHarm, F1
0,840
0,731
El titular sale de la tarjeta, y la tarjeta avisa
Los dos números del titular están en la tarjeta de Laya, y al lado está la letra pequeña, escrita por Convai: las cifras de Jev son publicadas por terceros, nunca medidas ahí, porque no tenían acceso a su API, y los tamaños de muestra y los enunciados difieren. El 0,766 es el punto de control ya afinado sobre ese banco; el base saca 0,362, por debajo de la línea base de clase mayoritaria, y la tarjeta lo dice sin rodeos. En la misma tabla, con 77 etiquetas, Jev saca 0,870 y Laya 0,425.
Los dos que sí corrieron los dos
sysone-bench pasó los dos modelos por el mismo manifiesto sellado, con la misma semilla y las entradas verificadas byte a byte: Jev 0,9065, Laya 0,6863, con Jev delante en las nueve suites y la diferencia sobreviviendo la corrección de Holm en ocho. Su frase lo resume: dos números de enunciados distintos no son una comparación. El repositorio publica también sus límites, que son reales: un solo revisor humano sobre un borrador asistido por un modelo, sin segundo revisor. Dos días después, un artículo de TraceStone y la Universidad Tecnológica de Nanyang corrió los dos modelos contra tres bancos de seguridad y puso a Jev delante en los tres.
Lo que sí cambia, y no es el número
Laya trae algo que Jev no ofrece y que ningún banco le quita: pesos Apache 2.0 que se descargan, se instalan donde estén los datos y se afinan con ejemplos propios. Para una decisión que no puede salir del país, esa es la variable que manda. Lo que no aguanta es el atajo de elegir por un titular: antes de mover el motor de una decisión de un agente en producción, la cifra que vale es la del modelo sobre tus propios casos, y el número de ejemplos etiquetados que tienes para afinarlo. Así probamos antes de cambiar nada, y lo que ya opera está en nuestros casos. Eso es justo lo que hicimos después con Jev sobre un banco propio: 94 comandos de un agente de código, medidos uno a uno.
No según los dos bancos que corrieron los dos modelos sobre las mismas entradas. sysone-bench, con un manifiesto sellado de 1.240 decisiones puntuadas, da 0,9065 a Jev 1.13.0 y 0,6863 a Laya 0.3.11, con Jev delante en las nueve suites. Un artículo de arXiv del 27 de septiembre pone a Jev delante en los tres bancos de seguridad que midió. El 0,766 contra 0,727 que circula sale de la tarjeta de Laya, que avisa que nunca midió a Jev.
¿De dónde sale el 0,766 de Laya?
De la tarjeta del modelo que publicó Convai Innovations en Hugging Face, y corresponde a un punto de control ya afinado sobre ese banco. La misma tarjeta reporta 0,362 para el punto de control base, por debajo de la línea base de clase mayoritaria de 0,461, y dice que la capacidad en ese banco viene del ajuste fino. El 0,727 de Jev que aparece al lado es una cifra publicada por terceros, no una medición propia.
¿Para qué sirve entonces Laya?
Para lo que Jev no ofrece: pesos con licencia Apache 2.0 que se descargan, se instalan donde estén tus datos y se pueden afinar con tus propios ejemplos etiquetados. Jev se usa por API alojada y no publica pesos ni tamaño de modelo. Si la decisión está en que la información no salga de tu infraestructura, esa es la diferencia que manda, no el número del titular.
Con tu permiso usamos Google Analytics para saber qué páginas sirven y el pixel de OpenAI Ads para
saber qué anuncios en ChatGPT te trajeron. Sin tu permiso no se carga ninguno y el sitio funciona igual.
Política de privacidad