[ Bitácora y pergaminos ]Migración desde Codea Bien
Blog
Lo que medí y lo que aprendí.
- SEP 2026AI #migrar a self-hosted #costo de llm
El informe que dijo "no migren todavía"
El PoC salió bien. El servidor levantaba, respondía, aguantaba 10 personas y costaba centavos al día. Y la recomendación que escribí fue: no migren todavía. No por miedo: por las c…
3 min // 150 xp
- SEP 2026AI #moe #mixture of experts
MoE por dentro: 30B totales, 3B activos
Un modelo de 30B que genera más rápido que uno de 7B. Suena a magia hasta que entiendes la arquitectura: no todos los parámetros se despiertan en cada token. En un modelo MoE (Mixt…
2 min // 100 xp
- SEP 2026AI #observabilidad agentes #trazas
Observabilidad y trazas: "falló el modelo" casi nunca es el modelo
Cuando un agente falla, el reflejo es culpar al modelo. Casi siempre el culpable es el harness: contexto que se recortó mal, una tool que devolvió un error silencioso, un timeout,…
3 min // 150 xp
- SEP 2026Angular #angular
Angular 22.2: Mejoras que SI vas a usar
Angular 22.2 fue lanzada 23 de septiembre con dos features grandes en developer preview, @boundary y router resources, más algunas cosas que sí cambian tu día a día. En este post v…
9 min // 450 xp
- SEP 2026AI #kv cache #vram
48 KB por token: por qué 48 GB no aguantan 30 sesiones
La pregunta era: ¿cuántas personas caben en una GPU de 48 GB? Y la respuesta no la decide la potencia de la tarjeta, ni los 30B del modelo, ni el batching. La decide una multiplica…
3 min // 150 xp
- SEP 2026AI #latencia de inferencia #ttft
El cuello de botella no era la GPU: era la red
Un usuario. Una pregunta. 2.541 ms hasta el primer token. Con una L40S de 48 GB delante. Si el modelo tarda decenas de milisegundos en responder, ¿dónde se fueron los dos segundos…
3 min // 150 xp
- SEP 2026AI #prefix caching #kv cache
Prefix caching: la misma carga, 3× más rápido
16,1 segundos a 5,2. El mismo modelo, la misma GPU, las mismas 10 peticiones al mismo contexto. Lo único que cambió: si el prefijo ya estaba en caché. Si sirves un agente, esto es…
3 min // 150 xp
- SEP 2026AI #elegir modelo llm #abierto vs cerrado
Elegir modelo en 2026: 5 preguntas (y la nueva categoría de decisión)
No existe "el mejor modelo". Existe el modelo que responde estas cinco preguntas con tus datos. Y en 2026 apareció una sexta pregunta que cambia el juego: no siempre necesitas un m…
3 min // 150 xp
- SEP 2026AI #benchmark llm #error de medición
El error de mi propio benchmark
Publicamos el primer barrido de concurrencia y los números eran demasiado buenos: 10 usuarios simultáneos, todos rápidos, sin un solo fallo. Antes de celebrar, revisamos una cosa:…
3 min // 150 xp
- SEP 2026AI #servir varios modelos #model routing
Servir varios modelos en producción: routing, versionado y canary
Tu app no necesita el modelo más caro para el 80% de las peticiones. Pero tampoco puedes hardcodear un modelo en cada archivo y esperar poder cambiarlo cuando salga uno mejor. La c…
3 min // 150 xp