Passar para o conteúdo principal

Como gerenciar seus Evals

Encontre, filtre, marque e crie Evals, importe Simulações de um arquivo CSV, adicione um Scorecard e veja como Fin está performando em seus Evals.

Use este artigo para encontrar, filtrar e marcar seus Evals, criar um novo Eval, organizar seus Evals, importar Simulações de um arquivo CSV (comma-separated values), adicionar um Scorecard e ver como Fin está performando em seus Evals.


O que é a página de Evals?

A página de Evals lista todos os Evals no seu espaço de trabalho, para que você possa ver como cada grupo de testes performou e executá-los novamente. Um Eval é um grupo temático de testes, e cada teste dentro dele é chamado de Simulação. Para abrir a página, vá para Test > Evals.

A tabela de Evals tem estas colunas:

  • Nome do Eval: o nome do Eval, com um botão de execução ao lado.

  • Resultado: como o Eval performou na sua última execução, por exemplo 4/6 Aprovados.

  • Tags: quaisquer tags anexadas ao Eval.

  • Data da última execução: a data da última vez que o Eval foi executado.

  • Última execução por: quem executou o Eval pela última vez.

  • Última atualização: quando o Eval foi alterado pela última vez.

  • Criado em: quando o Eval foi criado.


Como organizar seus Evals

Para organizar seus Evals, agrupe Simulações em Evals pelo tema que fizer sentido para seu negócio. Muitas equipes começam pelo que ainda não está funcionando, e depois expandem a partir daí. Pontos comuns para começar incluem:

  • Problemas conhecidos: conversas onde Fin deu uma resposta errada, incompleta ou inútil. Recrie cada uma como uma Simulação, corrija a causa e execute novamente para confirmar a correção.

  • Cenários de escalonamento: situações onde Fin deve (ou não deve) passar para um colega de equipe.

  • Cenários por tópico: um tópico, como pedidos de reembolso, testado em várias variações. Seus 10 ou 20 principais tópicos por volume de conversa são um bom ponto de partida.

  • Cenários comportamentais: verificações para garantir que Fin mantenha o tom e a marca em diferentes situações, independentemente do tópico.

Com o tempo, construa um ou alguns Evals como um "conjunto dourado" que cubra as conversas que mais importam para você. Execute o conjunto dourado regularmente, por exemplo semanalmente ou sempre que alterar a configuração do Fin, para garantir que seus cenários mais importantes ainda funcionem.


Como encontrar um Eval por nome, resultado ou tag

Para encontrar um Eval por nome, digite na caixa Search evals no topo da página de Evals. Para restringir a lista, clique em Add Filter e escolha Result ou Tag.

Como filtrar Evals por resultado

  1. Vá para Test > Evals.

  2. Clique em Add Filter, depois clique em Result.

  3. Selecione um ou mais resultados: Not run, Running, Queued, Passed, Partially passed, Failed, Canceled ou Unprocessable.


Como criar um novo Eval

Para criar um Eval, escolha se deseja construí-lo manualmente ou importar uma lista de cenários de clientes de um arquivo CSV.

  1. Vá para Test > Evals.

  2. Clique em New eval.

  3. Escolha Create manually para construir suas Simulações você mesmo, ou Upload a CSV para importar uma lista de cenários de clientes.

  4. Dê ao Eval um nome claro e descritivo de até 250 caracteres, para que você e seus colegas saibam o que ele cobre quando executá-lo novamente depois.

Cada Eval pode conter até 50 Simulações. Para importar de um arquivo CSV, veja "Como importar Simulações de um arquivo CSV" abaixo. Para configurar as Simulações dentro de um Eval, veja o artigo Configurar Simulações para Evals.

Como importar Simulações de um arquivo CSV

Para importar Simulações de um arquivo CSV, faça o upload na página de Evals ou dentro de um Eval. Cada linha vira uma Simulação, e você revisa cada correspondência de coluna antes de salvar. Para importar, você precisa de Can view configuration and propose changes in a draft release ou Can view configuration and publish changes directly to main (individually or in a release) em Fin AI Agent & Automation.

Para importar para um novo Eval, vá para Test > Evals, clique em New eval e selecione Upload a CSV. Para adicionar Simulações a um Eval que você já tem, abra-o, selecione Import CSV no menu de opções (...) e escolha esse Eval em Import to.

O que um arquivo CSV pode incluir para Simulações?

Uma importação CSV pode preencher 5 campos de Simulação. Apenas a mensagem de abertura é obrigatória.

  • Mensagem de abertura (obrigatória): a primeira coisa que o cliente simulado diz para Fin.

  • Instruções de acompanhamento: o que o cliente sabe, o que compartilha com Fin se perguntado, e como se comunica.

  • Canal: o canal em que o cliente simulado escreve.

  • Transferência: se Fin deve transferir a conversa: nenhuma, para uma equipe ou para um fluxo de trabalho.

  • Resposta esperada: o que Fin deve dizer ou fazer para passar. Cada resposta esperada vira uma verificação de resposta do Fin. Para adicionar várias respostas esperadas para uma Simulação, coloque cada uma em sua própria linha na mesma célula.

Para começar com um arquivo pronto, clique em Download template na caixa de diálogo Upload a CSV file. O modelo tem uma coluna para cada um dos 5 campos. Os cabeçalhos das colunas não precisam corresponder exatamente ao modelo. Nomes comuns como question, prompt, persona, outcome ou ground truth são reconhecidos automaticamente. Arquivos separados por vírgula, ponto e vírgula e tabulação funcionam todos.

Quais são os limites de importação do CSV?

Limite

Valor

Linhas por arquivo e por Eval

50

Tamanho do arquivo

10 MB

Caracteres por resposta esperada

1.000

Campos de simulação para corresponder

5

Como enviar um arquivo CSV e corresponder colunas aos campos de Simulação

  1. No diálogo Enviar um arquivo CSV, arraste seu arquivo CSV ou clique em Escolher arquivo. O arquivo é lido no seu navegador e exibido como uma tabela, com a contagem de linhas e colunas, antes de qualquer coisa ser salva. Para usar um arquivo diferente, clique em Substituir arquivo.

  2. Verifique a tabela e clique em Continuar.

  3. Na etapa Corresponder as colunas, verifique o campo de Simulação correspondente a cada coluna e altere os que estiverem errados, ou clique em Redefinir correspondências para começar de novo.

  4. Ao lado de Importar para, escolha Nova avaliação e insira um nome, ou escolha uma Avaliação existente para adicionar as Simulações.

Cada campo de Simulação é correspondido a uma coluna, e as colunas que você não usar são listadas em Não usadas e ignoradas. Se uma resposta esperada tiver mais de 1.000 caracteres, será perguntado o que fazer: Deixar de fora (padrão) importa a linha sem essa resposta, Cortar para 1.000 caracteres mantém o início da resposta, e Pular essas linhas exclui a linha inteira.

Como corrigir valores de Canal e Transferência sem editar seu arquivo CSV

Se um valor de Canal ou Transferência não for reconhecido pelo Fin, como WhatsApp ou Sim, um aviso aparece nesse campo.

  1. Selecione o aviso no campo Canal ou Transferência.

  2. Escolha o que cada valor não reconhecido significa.

  3. Clique em Aplicar.

Você também pode escolher Pular linhas para excluir essas linhas da importação.

Como visualizar e importar Simulações de um arquivo CSV

  1. Clique em Visualizar simulações para ver cada linha como será executada, incluindo a primeira mensagem, instruções de acompanhamento, verificações de resposta do Fin e transferência.

  2. Verifique a contagem de linhas na parte inferior do diálogo. Ela mostra quantas linhas serão importadas (por exemplo, 9 de 10 linhas) e o que foi excluído.

  3. Clique em Importar.

Após a importação, uma confirmação mostra quantas Simulações foram criadas. Cada linha aparece na Avaliação como uma Simulação nomeada pela mensagem inicial, pronta para você clicar em Executar tudo. As Simulações importadas usam o Cliente de teste e todas as marcas, então abra uma Simulação para escolher um cliente específico. Tags são adicionadas à Avaliação, não no arquivo CSV. Quando você importa dentro de uma Versão, as Simulações são adicionadas a essa Versão.

Quando você não pode importar Simulações de um arquivo CSV?

  • Nenhuma coluna está correspondida a Mensagem inicial, ou nenhuma linha tem uma.

  • A nova Avaliação não tem nome, ou o nome já está em uso.

  • Seu arquivo tem mais de 50 linhas.

Se suas linhas fizerem uma Avaliação existente ultrapassar 50 Simulações, você verá quantas ainda cabem e poderá selecionar Importar os primeiros [número] para importar apenas essas. Se alguma linha for rejeitada na importação, nada será salvo. Cada linha com problema é listada com o motivo, e você pode selecionar Importar sem essas linhas para importar o restante.


Como marcar Avaliações e gerenciar tags

Tags agrupam Avaliações relacionadas para que você as encontre rapidamente conforme sua suíte cresce. Por exemplo, marque por tópico (Reembolsos), equipe ou responsável (Equipe de cobrança), tipo de teste (Regressão, Escalada) ou idioma (Francês). Uma Avaliação pode ter quantas tags você precisar.

Como criar uma tag para Avaliações

Para ver e criar tags, clique em Tags no canto superior direito da página de Avaliações. O painel de Tags lista cada tag e quantas Avaliações a usam, e você pode encontrar uma tag com a caixa Pesquisar tags.

  1. Vá para Teste > Avaliações.

  2. Clique em Tags, depois clique em Nova tag.

  3. Em Nome, insira um nome para a tag, por exemplo "Reembolsos".

  4. Opcionalmente, clique em Adicionar avaliações e escolha as Avaliações que devem receber a tag ao criá-la.

  5. Clique em Criar tag.

Como adicionar tags às Avaliações

  • Da lista de Avaliações: selecione as caixas ao lado de uma ou mais Avaliações, clique em Marcar acima da lista e escolha as tags para adicionar. Você pode marcar até 100 Avaliações de uma vez.

  • De dentro de uma Avaliação: clique em + Marcar abaixo do nome da Avaliação.

Como filtrar Avaliações por tag

  1. Vá para Teste > Avaliações.

  2. Clique em Adicionar filtro, depois clique em Tag.

  3. Selecione uma ou mais tags. Cada tag mostra quantas Avaliações a usam.

Como renomear ou excluir tags para Avaliações

Para renomear ou excluir uma tag, clique em Tags no topo da página de Avaliações, ou selecione Gerenciar tags no seletor de tags. O painel mostra quantas Avaliações usam cada tag. Excluir uma tag a remove de todas as Avaliações, incluindo Avaliações em Versões.

Nota: Tags se aplicam às Avaliações, não às Simulações individuais. Para agrupar Simulações de forma diferente, divida-as em Avaliações separadas. Tags de Avaliação são separadas das tags usadas em conversas e contatos.


Como adicionar um Scorecard a uma Avaliação

Um Scorecard adiciona pontuação de qualidade a uma Avaliação, como Esclarecimento ou Eficiência, além das verificações de aprovação/reprovação. Para adicionar um, abra a Avaliação e clique em Adicionar scorecard no canto superior direito, ao lado de Nova simulação. Depois de adicioná-lo, uma seção Avaliação de qualidade aparece ao lado de Resultados da simulação. Para criar um Scorecard, adicionar critérios e definir o peso da pontuação e a configuração Crítico de cada critério, veja o artigo Como adicionar um Scorecard a uma Avaliação.


Como ver o desempenho do Fin em suas Avaliações

Para ver como o Fin se saiu em todas as suas Avaliações, veja o resumo no topo de Teste > Avaliações. Ele reflete a última vez que cada Simulação foi executada, e tem duas partes:

  • Resultados da simulação: quantas Simulações passaram em todas as suas verificações de Simulação e Handoff, por exemplo 42/50 passaram (84%). Simulações que apresentaram erro contam como falhas, e Simulações que ainda não foram executadas contam para o total.

  • Avaliação de qualidade: para cada Scorecard, a pontuação média da revisão e a média para cada critério, em todas as Evals que o utilizam. Use as setas para navegar entre os Scorecards.

O resumo é atualizado com sua busca e filtros, então filtrar por uma tag mostra resultados apenas para essas Evals. Para comparar execuções anteriores, abra uma Simulação e clique no menu suspenso do histórico de execuções ao lado do resultado. Ele lista cada execução por data com seu resultado.


Perguntas frequentes sobre gerenciamento de Evals

Quantas Simulações uma Eval pode conter?

Uma Eval pode conter até 50 Simulações. Para adicionar mais, exclua Simulações existentes ou crie uma nova Eval.

Posso criar Simulações a partir de um arquivo CSV?

Sim, você pode criar Simulações a partir de um arquivo CSV. Clique em Nova eval, depois escolha Enviar um CSV. Para adicionar Simulações importadas a uma Eval que você já possui, abra-a e selecione Importar CSV no menu de opções (...). Perguntas do Batch Test também funcionam: exporte-as para um arquivo CSV, e cada pergunta se torna a mensagem inicial de uma Simulação.

Posso marcar Simulações individuais?

Você não pode marcar Simulações individuais, porque as tags se aplicam apenas às Evals. Para agrupar Simulações de forma diferente, divida-as em Evals separadas.

Quem pode criar, editar e executar Evals?

Colegas com Pode visualizar configuração e propor alterações em uma versão de rascunho ou Pode visualizar configuração e publicar alterações diretamente no main (individualmente ou em uma versão) sob Fin AI Agent & Automation podem criar, editar, marcar e executar Evals. Colegas com Pode visualizar configuração podem ver Evals e seus resultados, e podem filtrá-los por tag.

Respondeu à sua pergunta?