Blog
Benchmarks, decisiones de diseño y guías: construir agentes de IA en Synsema y desplegarlos con un manifiesto de permisos, secretos sellados y auditoría. Cada entrada también es Markdown: añade .md a su URL.
3 resultados para inferencia-local
El slot del juez es un protocolo, no un proveedor. Desde la v0.6.27 un checkpoint de Laya en disco — ModernBERT, Apache 2.0 — responde whether, choose y rate sin red, sin secreto y sin costo por token, y el mismo bloque corre sin cambiar una línea.
Desde la v0.6.27 el provider local embebido acepta el nombre de un modelo que ya está en tu caché de Ollama o de Hugging Face — no se descarga nada — y una arquitectura es un archivo de texto que lee el binario ya compilado, así que sumar un modelo dejó de esperar un release nuestro.
Para algunas cargas la pregunta interesante no es qué modelo es mejor, sino si el dato tiene permiso de salir. Un modelo dentro del proceso responde eso sin egress, sin un proveedor en la cadena de confianza y sin factura por token — y lo que cobra a cambio es latencia y tamaño de modelo.