Um modelo que age

Um serviço de atendimento recebe uma pergunta: "meu pedido 4417 já foi enviado?". Três implementações respondem a ela. A primeira envia a pergunta e a ficha do pedido em uma única chamada ao modelo e devolve a resposta dele: 900 tokens, 400 ms, um resultado idêntico a cada execução. A segunda executa uma sequência escrita de antemão — extrair o número, chamar a API de rastreamento, redigir a resposta: três chamadas, um único caminho, um teste por etapa. A terceira dá ao modelo quatro ferramentas e o deixa decidir: entre 2 e 30 chamadas, uma trajetória diferente a cada execução, e uma fatura que ninguém na equipe sabe prever com antecedência.

As três respondem corretamente ao caso simples. A diferença só aparece nos extremos: o pedido não existe, a API de rastreamento devolve 503, o cliente menciona dois pedidos na mesma frase. Nesses casos, a chamada única inventa, a cadeia fixa quebra na etapa prevista e para, e o agente tenta outra coisa. Essa capacidade de tentar outra coisa é a única coisa que você compra ao adotar um agente, e ela custa caro: em tokens, em latência, em superfície de ataque e em horas de depuração. Esta lição inteira serve para decidir se você precisa disso, porque a resposta honesta é "não" com mais frequência do que se costuma admitir.