Quanto custa rodar um agente de IA — e por que 77% da conta é o system prompt

"Quanto custa por mês?" é a pergunta que trava a decisão de automatizar atendimento. A resposta honesta é que depende — mas depende de coisas específicas, que dá para calcular antes de contratar qualquer fornecedor.

E o principal item de custo quase nunca é o que as pessoas imaginam. Não é o tamanho das respostas nem a quantidade de conversas. É o contexto que você reenvia a cada turno.

1. Por que o custo cresce mais rápido que a conversa

Um modelo de linguagem não tem memória entre chamadas. Para ele lembrar do que foi dito, o seu sistema reenvia tudo a cada turno: as instruções, o trecho de base de conhecimento, e o histórico acumulado.

Isso significa que um atendimento de 8 idas e vindas não cobra 8 mensagens — cobra a soma de 8 contextos, cada um maior que o anterior:

def tokens_entrada(p: Perfil) -> int:
    """A cada turno o histórico inteiro é reenviado — o custo cresce quadrático."""
    total = 0
    historico = 0
    for _ in range(p.turnos):
        total += p.contexto_base + historico + p.pergunta
        historico += p.pergunta + p.resposta
    return total

Rodando com um perfil comum de atendimento — 8 turnos, 3.000 tokens de contexto base (instruções + trecho de RAG), pergunta de 60 e resposta de 180 tokens:

tokens de entrada por atendimento: 31.200
  (o contexto base sozinho responde por 24.000)

ingênuo                    R$  0,576/atend.  ->  R$ 1.728,00/mês
+ cache do contexto        R$  0,293/atend.  ->  R$   877,50/mês   (-49%)
+ triagem (70% no barato)                    ->  R$   312,39/mês   (-82%)

custo por atendimento no fim: R$ 0,104

2. As duas alavancas que importam

Cache do contexto

Se 77% da entrada é idêntica em todo turno, ela não precisa ser reprocessada em todo turno. Os provedores cobram bem mais barato pela leitura de um contexto já visto — no perfil acima, isso sozinho derruba a conta pela metade, sem mudar uma linha do comportamento do agente.

A condição é estrutural: o trecho cacheável precisa vir primeiro e estável no prompt. Se você injeta data e hora, ou o nome do cliente, antes das instruções, invalida o cache a cada chamada e paga o preço cheio sem perceber.

Triagem por modelo

A maioria das conversas de atendimento é simples: horário de funcionamento, status de pedido, segunda via. Essas não precisam do modelo mais caro. Um classificador barato decide na entrada quem vai para onde, e só o que é realmente complexo sobe.

Com 70% resolvido no modelo barato, o total cai a 18% do custo original. Esse é o maior ganho isolado — e é decisão de arquitetura, não de negociação com fornecedor.

3. O que o cálculo acima deixa de fora

O custo do modelo é a parte fácil. Em projeto real ele costuma ser minoria da conta:

• Infraestrutura: banco, fila, worker, observabilidade.
• Operação: alguém acompanhando fila, erro e qualidade de resposta — a mesma linha de horas que decide o break-even em qualquer comparação de custo.
• Curadoria da base: RAG desatualizado gera resposta errada; manter a base é trabalho recorrente, não entrega única.
• Retrabalho humano: toda conversa que o agente escala para uma pessoa custa o atendimento humano inteiro, mais os tokens gastos antes de desistir.

Por isso desconfie de proposta que apresenta só o custo por token. Ela está mostrando a menor parcela da conta.

4. Como fazer a sua conta

1. Meça os turnos médios de um atendimento real — não o que você imagina.
2. Conte os tokens do seu contexto base. É o número que mais importa e o menos olhado.
3. Rode o modelo com os preços do seu fornecedor.
4. Só então compare com o custo atual do atendimento humano — e some infraestrutura e operação do outro lado.