// 05 · Framework agêntico

Qual é a velocidade do pipeline runner?

Overhead de dispatch de ferramenta, latência de RAG recuperação, custo do wrapper de chamada ao modelo, distribuição de round-trip HITL, orquestração de pipeline passo a passo. Reproduzível a partir de um clone limpo via pytest benches/, mesma convenção do bench do engine.

Engine vs framework

Esta página mede o framework agêntico Python, o runner que orquestra os passos do pipeline, faz dispatch de chamadas de ferramenta com escopo, gerencia o RAG recuperação, controla escritas através de HITL e encapsula chamadas ao modelo. Para o engine de trading Rust interno (state-cache escritas a 310 ns, pipeline completo a 14 µs), ver latência do engine.

O que o runner oferece

// governança, não só velocidade

A latência abaixo prova que o runner é enxuto. Estas são as garantias que tornam seguro executar agentes para clientes reais. Dez são medidas nesta página; o restante é como a plataforma é construída.

01
Ferramentas com escopo e governançaUm crew só vê os ferramentas que você concede a ele. Ferramentas não concedidos nunca entram no schema do modelo, então as permissões são o primitivo de dispatch, não uma reflexão tardia.
0.6 µs
02
Escritas human-in-the-loopCada escrita passa pelo gate de enforcement (estado de watcher reativo, cap de escrita por ciclo, cota por cliente, cap de custo), depois aguarda aprovação do operador. Leituras fluem livremente; escritas são controladas.
0.3 µs
03
RAG por fluxo de trabalhoCada fluxo de trabalho tem seu próprio base vetorial isolado com recuperação híbrida, para que os documentos de um cliente nunca vazem para o contexto de outro.
0.28 ms
04
Traga seu próprio modelo20+ provedores atrás de um único wrapper (Anthropic, OpenAI, Gemini, Mistral, DeepSeek, Qwen, mais Ollama e LM Studio locais), uma forma consistente para todos.
1.6 µs
05
Contabilidade de custos e tokensCada chamada ao modelo é precificada contra uma tabela por modelo e agregada em um total USD acumulado, para que você possa faturar clientes e limitar gastos por cliente.
0.4 µs
06
Observabilidade completaUm span de OpenTelemetry por chamada a ferramenta, invocação do modelo e execução de pipeline, carregando custo, tokens, latência e razões de erro. Opere agentes que você realmente consegue ver.
0.3 µs
07
Montagem de contexto estáticoO system prompt, os docs de conhecimento concedidos e os schemas de ferramenta são empacotados no bloco de contexto que cada turno envia ao modelo, separados do histórico rolling.
1.4 µs
08
Memória de crew entre execuçõesA memória de trabalho de um crew persiste entre execuções e é restaurada na próxima, para que agentes de longa duração mantenham seu contexto entre sessões.
53 µs
09
Crews agênticosCrews multi-persona (macro, técnico, risco, execução) passam o contexto de persona em persona, com um veto de risco e sidecars reativos que podem parar a cadeia no meio da execução.
1.2 µs
10
Defesa contra injeção de promptTudo que o agente lê de uma fonte não confiável (documentos recuperados, resultados de ferramenta, páginas web obtidas) é escaneado em busca de padrões de injeção de prompt, jailbreak e exfiltração de dados antes que o modelo possa agir sobre isso. Cada padrão tem uma pontuação de severidade, e o total decide o resultado: texto seguro passa; texto levemente suspeito ainda passa mas é isolado como dados que o modelo não deve obedecer, e o evento é registrado; um sinal claramente malicioso, como uma tentativa de vazar um segredo ou sequestrar o formato de conversa, é descartado antes que o modelo o veja. O rigor desse limite pode ser ajustado por implantação.
17 µs
11
Isolamento de credenciaisVaults criptografados por usuário. Os agentes agem através de tickets de curta duração e nunca tocam nas chaves API brutas, para que os segredos de um cliente permaneçam no escopo daquele cliente.
AES-256
12
Multi-cliente por designPapéis com escopo de projeto e isolamento de estado por pipeline. O crew de um cliente não pode ler, parar ou gastar contra outro. Execute muitos clientes em uma única plataforma.
RBAC
Entrar na comunidade
// Cookies
A Melaya usa um conjunto pequeno de cookies first-party estritamente necessários para te autenticar, manter sua sessão e proteger a plataforma de abusos. Sem cookies de publicidade, trackers cross-site ou analytics de terceiros por padrão. A lista completa de cookies está na nossa Política de Privacidade.