Blog
Notas de design e guias para implantar agentes de IA com um manifesto de permissões, segredos selados e trilha de auditoria. Cada post também é Markdown: adicione .md à URL.
A probabilidade calibrada que decide o que uma pessoa vê já não precisa vir de uma API. Um checkpoint System One open source no seu próprio disco responde as mesmas perguntas tipadas sem chave, sem rede e sem custo por token — e o mesmo programa roda contra qualquer um dos dois.
Para algumas cargas a pergunta interessante não é qual modelo é melhor, mas se o dado tem permissão de sair. Um modelo dentro do processo responde isso sem egress, sem um fornecedor na cadeia de confiança e sem fatura por token — e o que ele cobra em troca é latência e tamanho de modelo.
Rotear, etiquetar, decidir elegibilidade e moderar são o trabalho de IA de maior volume na maioria dos produtos, e o mais barato de errar. Um modelo System One responde isso com uma probabilidade calibrada — e a economia não chega nem perto.
Nitro Enclaves, VMs confidenciais, dstack, ancorado em blockchain — quatro lugares para colocar a parte do seu produto que o operador não pode ler, e como escolher um sem queimar seis semanas numa prova de conceito.
Um deploy confidencial que ninguém confere é um deploy comum com custo extra. Esta é a lista que uma contraparte séria executa, o que o seu lado precisa publicar para passar por ela, e os limites que vale dizer você mesmo antes de perguntarem.
Cada linha dentro da caixa custa mais para escrever, mais para mudar e mais para verificar — e cada mudança invalida a medição que seus clientes fixaram. A divisão entre o núcleo confidencial e o produto comum é a decisão de maior alavancagem do projeto.
Um modelo que devolve probabilidades calibradas em vez de texto muda as perguntas operacionais, não só o código. O que conectar, o que colocar atrás de um portão, o que auditar, e o que acontece no dia em que o provedor cai.
O que segura um agente de IA numa empresa não é o modelo, é segurança. Um manifesto de permissões que o runtime faz valer, segredos que o programa não consegue ler e um registro de cada verificação resolvem a conversa.
Um passo a passo da receita do agente de faturas: como o manifesto, o livro de gastos, a chave de assinatura selada e a etapa de aprovação se encaixam, e como fica o registro de auditoria depois do primeiro pagamento.
Quase nenhum vazamento de segredo em sistemas com agentes é engenhoso. Pediram a chave ao modelo e o modelo tinha a chave. Segredos selados eliminam a segunda metade dessa frase, e mudam o que uma revisão de segurança precisa olhar.