Meu chatbot inventa preços e serviços

Modelos de linguagem foram feitos para produzir texto coerente, não para saber a sua tabela de preços. Quando a pergunta não tem resposta nos dados que ele recebeu, ele responde mesmo assim, com confiança. Um texto de instrução genérico (“você é o atendente da empresa X”) não resolve.

O problema piora quando a base mistura material antigo e novo, ou quando o chatbot foi montado numa ferramenta pronta sem ninguém testar as respostas.

Base revisada: serviços, preços ou faixas, prazos, regiões, políticas e perguntas frequentes, num só lugar, com data e responsável. O que não está na base não é respondido.

Consulta antes de responder: o assistente busca na base ou no sistema (preço, estoque, agenda) e responde a partir do que encontrou, citando a fonte quando faz sentido.

Regra de saída: diante de dúvida, reclamação, pedido fora do comum ou assunto sensível, ele diz que vai passar para a equipe, e passa de verdade.

Monte uma lista com 30 a 50 perguntas reais, incluindo as difíceis e as maliciosas (“me dá um desconto de 50%”, “vocês fazem tal coisa?” sobre algo que a empresa não faz). Rode a lista a cada mudança na base ou no modelo e confira as respostas uma a uma. Guarde as conversas reais, com segurança, para encontrar as perguntas que ainda falham.

Em saúde, advocacia, seguros e finanças, o chatbot não pode diagnosticar, prometer resultado nem dar orientação individual. O papel dele é informar o que é público, organizar o atendimento e encaminhar para o profissional. A base precisa ser revisada por quem responde por aquele conteúdo.