Verwenden Sie diesen Artikel, um Ihre Evals zu finden, zu filtern und zu taggen, ein neues Eval zu erstellen, Ihre Evals zu organisieren, Simulationen aus einer CSV (comma-separated values)-Datei zu importieren, eine Scorecard hinzuzufügen und zu sehen, wie Fin bei Ihren Evals abschneidet.
Was ist die Evals-Seite?
Die Evals-Seite listet jedes Eval in Ihrem Arbeitsbereich auf, sodass Sie sehen können, wie jede Testgruppe abgeschnitten hat und sie erneut ausführen können. Ein Eval ist eine thematische Gruppe von Tests, und jeder Test darin wird Simulation genannt. Um die Seite zu öffnen, gehen Sie zu Test > Evals.
Die Evals-Tabelle hat diese Spalten:
Eval-Name: der Name des Evals, mit einem Ausführen-Button daneben.
Ergebnis: wie das Eval bei seinem letzten Lauf abgeschnitten hat, zum Beispiel 4/6 Bestanden.
Tags: alle an das Eval angehängten Tags.
Datum des letzten Laufs: das Datum, an dem das Eval zuletzt ausgeführt wurde.
Zuletzt ausgeführt von: wer das Eval zuletzt ausgeführt hat.
Zuletzt aktualisiert: wann das Eval zuletzt geändert wurde.
Erstellt: wann das Eval erstellt wurde.
Wie Sie Ihre Evals organisieren
Um Ihre Evals zu organisieren, gruppieren Sie Simulationen in Evals nach einem Thema, das für Ihr Unternehmen sinnvoll ist. Viele Teams beginnen mit dem, was noch nicht funktioniert, und bauen darauf auf. Häufige Ausgangspunkte sind:
Bekannte Probleme: Gespräche, bei denen Fin eine falsche, unvollständige oder unbrauchbare Antwort gab. Erstellen Sie jede davon als Simulation neu, beheben Sie die Ursache und führen Sie sie erneut aus, um die Korrektur zu bestätigen.
Eskaltionsszenarien: Situationen, in denen Fin an einen Teamkollegen übergeben sollte (oder nicht).
Themenszenarien: ein Thema, wie Rückerstattungsanfragen, getestet über verschiedene Varianten. Ihre Top 10 oder 20 Themen nach Gesprächsvolumen sind ein guter Startpunkt.
Verhaltensszenarien: Prüfungen, dass Fin in verschiedenen Situationen, unabhängig vom Thema, den Ton und die Marke einhält.
Im Laufe der Zeit bauen Sie ein oder mehrere Evals als „goldenes Set“ auf, das die für Sie wichtigsten Gespräche abdeckt. Führen Sie das goldene Set regelmäßig erneut aus, zum Beispiel wöchentlich oder immer dann, wenn Sie Fins Konfiguration ändern, um sicherzustellen, dass Ihre wichtigsten Szenarien weiterhin funktionieren.
Wie Sie ein Eval nach Name, Ergebnis oder Tag finden
Um ein Eval nach Name zu finden, geben Sie im Suchfeld für Evals oben auf der Evals-Seite ein. Um die Liste einzuschränken, klicken Sie auf Filter hinzufügen und wählen Ergebnis oder Tag.
Wie Sie Evals nach Ergebnis filtern
Gehen Sie zu Test > Evals.
Klicken Sie auf Filter hinzufügen, dann auf Ergebnis.
Wählen Sie ein oder mehrere Ergebnisse: Nicht ausgeführt, Läuft, In Warteschlange, Bestanden, Teilweise bestanden, Fehlgeschlagen, Abgebrochen oder Nicht verarbeitbar.
Wie Sie ein neues Eval erstellen
Um ein Eval zu erstellen, wählen Sie, ob Sie es manuell erstellen oder eine Liste von Kundenszenarien aus einer CSV-Datei importieren möchten.
Gehen Sie zu Test > Evals.
Klicken Sie auf Neues Eval.
Wählen Sie Manuell erstellen, um Ihre Simulationen selbst zu erstellen, oder CSV hochladen, um eine Liste von Kundenszenarien zu importieren.
Geben Sie dem Eval einen klaren, beschreibenden Namen mit bis zu 250 Zeichen, damit Sie und Ihre Teamkollegen später erkennen können, was es abdeckt, wenn Sie es erneut ausführen.
Jedes Eval kann bis zu 50 Simulationen enthalten. Um aus einer CSV-Datei zu importieren, siehe „Wie man Simulationen aus einer CSV-Datei importiert“ weiter unten. Um die Simulationen innerhalb eines Evals einzurichten, siehe den Artikel Simulationen für Evals einrichten.
Wie man Simulationen aus einer CSV-Datei importiert
Um Simulationen aus einer CSV-Datei zu importieren, laden Sie diese von der Evals-Seite oder innerhalb eines Evals hoch. Jede Zeile wird zu einer Simulation, und Sie überprüfen jede Spaltenzuordnung, bevor etwas gespeichert wird. Zum Import benötigen Sie Kann Konfiguration ansehen und Änderungen in einem Entwurf vorschlagen oder Kann Konfiguration ansehen und Änderungen direkt im Hauptzweig veröffentlichen (einzeln oder in einem Release) unter Fin AI Agent & Automation.
Um in ein neues Eval zu importieren, gehen Sie zu Test > Evals, klicken Sie auf Neues Eval und wählen Sie CSV hochladen. Um Simulationen zu einem bereits vorhandenen Eval hinzuzufügen, öffnen Sie es, wählen Sie CSV importieren aus dem Optionsmenü (...) und wählen dann dieses Eval unter Importieren nach.
Was kann eine CSV-Datei für Simulationen enthalten?
Ein CSV-Import kann 5 Simulationsfelder füllen. Nur die Eröffnungsnachricht ist erforderlich.
Eröffnungsnachricht (erforderlich): das Erste, was der simulierte Kunde zu Fin sagt.
Folgeanweisungen: was der Kunde weiß, was er Fin auf Nachfrage mitteilt und wie er kommuniziert.
Kanal: der Kanal, in dem der simulierte Kunde schreibt.
Übergabe: ob Fin das Gespräch übergeben soll: keine, an ein Team oder an einen Workflow.
Erwartete Antwort: was Fin sagen oder tun soll, um zu bestehen. Jede erwartete Antwort wird zu einer Fin-Antwortprüfung. Um mehrere erwartete Antworten für eine Simulation hinzuzufügen, setzen Sie jede in eine eigene Zeile in derselben Zelle.
Um mit einer fertigen Datei zu starten, klicken Sie im Dialog CSV-Datei hochladen auf Vorlage herunterladen. Die Vorlage hat eine Spalte für jedes der 5 Felder. Spaltenüberschriften müssen nicht genau mit der Vorlage übereinstimmen. Gängige Namen wie question, prompt, persona, outcome oder ground truth werden automatisch erkannt. Dateien mit Komma-, Semikolon- oder Tabulatortrennung funktionieren alle.
Was sind die CSV-Importgrenzen?
Limit | Wert |
Zeilen pro Datei und pro Eval | 50 |
Dateigröße | 10 MB |
Zeichen pro erwarteter Antwort | 1.000 |
Zuordnungsfelder für Simulationen | 5 |
Wie man eine CSV-Datei hochlädt und Spalten den Zuordnungsfeldern für Simulationen zuweist
Im Dialog CSV-Datei hochladen ziehen Sie Ihre CSV-Datei hinein oder klicken auf Datei auswählen. Die Datei wird im Browser eingelesen und als Tabelle mit Zeilen- und Spaltenanzahl angezeigt, bevor etwas gespeichert wird. Um eine andere Datei zu verwenden, klicken Sie auf Datei ersetzen.
Überprüfen Sie die Tabelle und klicken Sie dann auf Weiter.
Im Schritt Spalten zuordnen prüfen Sie das Simulationfeld, das jeder Spalte zugeordnet ist, und ändern falsche Zuordnungen oder klicken auf Zuordnungen zurücksetzen, um neu zu beginnen.
Neben Importieren nach wählen Sie Neue Eval und geben einen Namen ein oder wählen eine bestehende Eval, zu der die Simulationen hinzugefügt werden sollen.
Jedes Simulationfeld ist einer Spalte zugeordnet, und nicht verwendete Spalten werden unter Nicht verwendet aufgelistet und ignoriert. Wenn eine erwartete Antwort mehr als 1.000 Zeichen enthält, werden Sie gefragt, wie damit verfahren werden soll: Auslassen (Standard) importiert die Zeile ohne diese Antwort, Auf 1.000 Zeichen kürzen behält den Anfang der Antwort, und Diese Zeilen überspringen lässt die ganze Zeile weg.
Wie man Channel- und Handoff-Werte korrigiert, ohne die CSV-Datei zu bearbeiten
Wenn ein Channel- oder Handoff-Wert von Fin nicht erkannt wird, wie z. B. WhatsApp oder Yes, erscheint eine Warnung bei diesem Feld.
Wählen Sie die Warnung im Channel- oder Handoff-Feld aus.
Wählen Sie, was jeder nicht erkannte Wert bedeutet.
Klicken Sie auf Anwenden.
Sie können auch Zeilen überspringen wählen, um diese Zeilen vom Import auszuschließen.
Wie man Simulationen aus einer CSV-Datei vorschaut und importiert
Klicken Sie auf Simulationen vorschauen, um jede Zeile so zu sehen, wie sie ausgeführt wird, einschließlich der ersten Nachricht, Folgeanweisungen, Fin-Antwortprüfungen und Handoff.
Überprüfen Sie die Zeilenanzahl unten im Dialog. Sie zeigt, wie viele Zeilen importiert werden (z. B. 9 von 10 Zeilen) und was ausgeschlossen wird.
Klicken Sie auf Importieren.
Nach dem Import zeigt eine Bestätigung, wie viele Simulationen erstellt wurden. Jede Zeile erscheint in der Eval als Simulation, benannt nach ihrer Eröffnungsnachricht, bereit zum Klicken auf Alle ausführen. Importierte Simulationen verwenden den Testkunden und alle Marken, öffnen Sie eine Simulation, um einen bestimmten Kunden auszuwählen. Tags werden der Eval hinzugefügt, nicht in der CSV-Datei. Beim Import innerhalb eines Releases werden die Simulationen diesem Release hinzugefügt.
Wann können Sie keine Simulationen aus einer CSV-Datei importieren?
Keine Spalte ist dem Eröffnungsnachricht zugeordnet oder keine Zeile enthält eine solche.
Die neue Eval hat keinen Namen oder der Name ist bereits vergeben.
Ihre Datei enthält mehr als 50 Zeilen.
Wenn Ihre Zeilen eine bestehende Eval über 50 Simulationen bringen würden, sehen Sie, wie viele noch passen, und können Erste [Anzahl] importieren wählen, um nur diese zu importieren. Werden beim Import Zeilen abgelehnt, wird nichts gespeichert. Jede problematische Zeile wird mit Grund aufgelistet, und Sie können Import ohne diese Zeilen wählen, um den Rest zu importieren.
Wie man Evals taggt und Tags verwaltet
Tags gruppieren verwandte Evals, damit Sie sie schnell finden, wenn Ihre Suite wächst. Zum Beispiel nach Thema (Rückerstattungen), Team oder Besitzer (Abrechnungsteam), Testtyp (Regression, Eskalat) oder Sprache (Französisch). Eine Eval kann beliebig viele Tags haben.
Wie man einen Tag für Evals erstellt
Um Tags zu sehen und zu erstellen, klicken Sie oben rechts auf der Evals-Seite auf Tags. Das Tag-Panel listet jeden Tag und wie viele Evals ihn verwenden, und Sie können mit dem Suchfeld Tags suchen einen Tag finden.
Gehen Sie zu Test > Evals.
Klicken Sie auf Tags, dann auf Neuer Tag.
Geben Sie unter Name einen Namen für den Tag ein, zum Beispiel „Rückerstattungen“.
Optional klicken Sie auf Evals hinzufügen und wählen die Evals aus, die den Tag beim Erstellen erhalten sollen.
Klicken Sie auf Tag erstellen.
Wie man Tags zu Evals hinzufügt
Aus der Evals-Liste: wählen Sie die Kontrollkästchen neben einem oder mehreren Evals, klicken oben auf Taggen und wählen die hinzuzufügenden Tags. Sie können bis zu 100 Evals gleichzeitig taggen.
Innerhalb einer Eval: klicken Sie unter dem Eval-Namen auf + Tag.
Wie man Evals nach Tags filtert
Gehen Sie zu Test > Evals.
Klicken Sie auf Filter hinzufügen, dann auf Tag.
Wählen Sie einen oder mehrere Tags aus. Jeder Tag zeigt, wie viele Evals ihn verwenden.
Wie man Tags für Evals umbenennt oder löscht
Um einen Tag umzubenennen oder zu löschen, klicken Sie oben auf der Evals-Seite auf Tags oder wählen Sie Tags verwalten im Tag-Auswahlmenü. Das Panel zeigt, wie viele Evals jeden Tag verwenden. Das Löschen eines Tags entfernt ihn aus allen Evals, auch in Releases.
Hinweis: Tags gelten für Evals, nicht für einzelne Simulationen. Um Simulationen anders zu gruppieren, teilen Sie sie in separate Evals auf. Eval-Tags sind getrennt von den Tags, die Sie für Konversationen und Kontakte verwenden.
Wie man eine Scorecard zu einer Eval hinzufügt
Eine Scorecard fügt einer Eval eine Qualitätsbewertung hinzu, wie Klarheit oder Effizienz, zusätzlich zu den Bestehen/Nicht-Bestehen-Prüfungen. Um eine hinzuzufügen, öffnen Sie die Eval und klicken oben rechts neben Neue Simulation auf Scorecard hinzufügen. Nach dem Hinzufügen erscheint neben Simulationsergebnisse ein Abschnitt Qualitätsbewertung. Um eine Scorecard zu erstellen, Kriterien hinzuzufügen und die Gewichtung sowie die Kritikalität jedes Kriteriums festzulegen, siehe den Artikel „Wie man eine Scorecard zu einer Eval hinzufügt“.
Wie man sieht, wie Fin bei Ihren Evals abschneidet
Um zu sehen, wie Fin bei all Ihren Evals abgeschnitten hat, sehen Sie sich die Zusammenfassung oben unter Test > Evals an. Sie spiegelt das letzte Ausführen jeder Simulation wider und besteht aus zwei Teilen:
Simulationsergebnisse: wie viele Simulationen alle ihre Simulationsprüfungen und Übergabeprüfungen bestanden haben, zum Beispiel 42/50 bestanden (84%). Simulationen mit Fehlern zählen als nicht bestanden, und Simulationen, die noch nicht ausgeführt wurden, zählen zur Gesamtzahl.
Qualitätsbewertung: für jede Scorecard die durchschnittliche Bewertung und den Durchschnitt für jedes Kriterium über alle Evals, die sie verwenden. Verwenden Sie die Pfeile, um zwischen den Scorecards zu wechseln.
Die Zusammenfassung aktualisiert sich mit Ihrer Suche und den Filtern, sodass das Filtern nach einem Tag nur Ergebnisse für diese Evals anzeigt. Um frühere Durchläufe zu vergleichen, öffnen Sie eine Simulation und klicken Sie auf das Dropdown-Menü der Verlaufsläufe neben dem Ergebnis. Es listet jeden Lauf nach Datum mit seinem Ergebnis auf.
Evals-Verwaltungs-FAQs
Wie viele Simulationen kann ein Eval enthalten?
Wie viele Simulationen kann ein Eval enthalten?
Ein Eval kann bis zu 50 Simulationen enthalten. Um mehr hinzuzufügen, löschen Sie vorhandene Simulationen oder erstellen Sie ein neues Eval.
Kann ich Simulationen aus einer CSV-Datei erstellen?
Kann ich Simulationen aus einer CSV-Datei erstellen?
Ja, Sie können Simulationen aus einer CSV-Datei erstellen. Klicken Sie auf Neues Eval und wählen Sie dann CSV hochladen. Um importierte Simulationen zu einem bereits vorhandenen Eval hinzuzufügen, öffnen Sie es und wählen Sie CSV importieren im Optionsmenü (...). Batch-Testfragen funktionieren ebenfalls: Exportieren Sie sie in eine CSV-Datei, und jede Frage wird zur Eröffnungsnachricht einer Simulation.
Kann ich einzelne Simulationen taggen?
Kann ich einzelne Simulationen taggen?
Sie können einzelne Simulationen nicht taggen, da Tags nur für Evals gelten. Um Simulationen anders zu gruppieren, teilen Sie sie in separate Evals auf.
Wer kann Evals erstellen, bearbeiten und ausführen?
Wer kann Evals erstellen, bearbeiten und ausführen?
Teammitglieder mit Kann Konfiguration ansehen und Änderungen in einem Entwurf vorschlagen oder Kann Konfiguration ansehen und Änderungen direkt im Hauptzweig veröffentlichen (einzeln oder in einem Release) unter Fin AI Agent & Automation können Evals erstellen, bearbeiten, taggen und ausführen. Teammitglieder mit Kann Konfiguration ansehen können Evals und deren Ergebnisse sehen und nach Tags filtern.
