Blog
Notas de diseño y guías para desplegar agentes de IA con un manifiesto de permisos, secretos sellados y auditoría. Cada entrada también es Markdown: añade .md a su URL.
1 resultados para inferencia-local
Para algunas cargas la pregunta interesante no es qué modelo es mejor, sino si el dato tiene permiso de salir. Un modelo dentro del proceso responde eso sin egress, sin un proveedor en la cadena de confianza y sin factura por token — y lo que cobra a cambio es latencia y tamaño de modelo.