Todas as demonstrações de agentes de IA mostram o caminho feliz. O cliente faz uma pergunta clara, o agente responde certo, todos acenam. A pergunta interessante é a outra: o que faz o agente quando não sabe?

Entregue a si mesmo, um modelo de linguagem responde na mesma. É muito bom a produzir texto que soa exatamente como uma resposta correta. Para um cliente que o lê no WhatsApp às nove da noite, não há diferença visível entre «a instalação padrão demora quatro semanas», retirado da sua tabela de preços, e a mesma frase inventada na hora.

Porque isto não é um bug pequeno

Uma resposta errada de um funcionário é um erro. Uma resposta errada do seu canal automático é um compromisso, dito na voz da empresa, à escala e com data e hora. Já vimos preços indicados que não existiam, disponibilidade confirmada para um horário ocupado e — a que nos mantém cautelosos — uma sugestão clínica dada por um bot de marcações que não tinha nada que a dar.

A regra

Todos os agentes STEMD são construídos à volta de uma restrição que não se negoceia nem se configura: preços, condições, disponibilidade e afirmações clínicas ou jurídicas vêm apenas de fontes aprovadas da empresa. Não do treino do modelo. Não de uma inferência plausível. Da sua tabela de preços, da sua agenda, dos seus documentos aprovados.

E quando a fonte não tem resposta, o agente faz aquilo que numa demonstração parece menos impressionante e em produção é o que mais conta: diz que não sabe e passa a conversa a uma pessoa — com todo o contexto, para que ela não comece do zero.

Como medimos isto

Um escalamento não é uma falha do agente. É o agente a funcionar. Por isso cada agente traz a taxa de escalamento entre os seus números, ao lado do tempo de resposta e da taxa de qualificação. Um agente que nunca escala não é um bom agente — é um agente que deixou de admitir incerteza, e é exatamente aí que começa a inventar.

Isto custa alguma coisa. Um agente mais cauteloso resolve sem pessoas uma fatia menor das conversas. Achamos a troca obviamente correta: o valor de um canal automático é os clientes poderem confiar no que ele diz. Gaste essa confiança uma vez e o canal passa a valer menos do que o telefone que substituiu.