Die Fin AI Engine™ ermöglicht es Fin, jede Anfrage zu verfeinern, jede Antwort zu optimieren und die Qualität jeder Antwort zu validieren. Dadurch ist es der einzige AI-Agent, der branchenweit hohe Auflösungen mit branchenweit niedrigen Halluzinationen ausbalancieren kann.

Viele AI-Agenten können entweder auf hohe Auflösungen oder niedrige Halluzinationen optimieren, haben aber Schwierigkeiten, beides zu erreichen. Das liegt daran, dass sie oft einfach eine „Hülle“ um ein generatives Large Language Model (LLM) legen, anstatt darauf aufzubauen, weil es billiger und einfacher ist.

Dieser Ansatz ignoriert jedoch die Neigung von LLMs zu halluzinieren und Ihre Kunden mit falschen oder irrelevanten Informationen zu konfrontieren. Ohne ein System wie das von Intercom, das die Eingaben und Ausgaben des LMM verfeinert, kann ein AI-Agent nicht effektiv auf Genauigkeit und Zuverlässigkeit optimiert werden.

Um die Genauigkeit einer Antwort, die ein LLM generiert, zu optimieren, müssen die Eingaben, die das LLM erhält, für das Verständnis verfeinert werden. Je klarer und verständlicher die Anfrage, desto besser das Ergebnis.

Oft schreiben Kunden im Kundenservice an den Support, ohne ihre Anfrage vollständig zu erklären oder zu kontextualisieren. Um dieses Problem zu lösen, wurde die Fin AI Engine™ entwickelt, um die Eingaben, die an das LLM gesendet werden, zu verfeinern. So wird sichergestellt, dass jede Kundenanfrage in Bezug auf Bedeutung und Kontext optimiert ist, damit das LLM die bestmögliche Chance hat, eine genaue Antwort zu liefern.

Außerdem führt die Fin AI Engine™ Prüfungen durch, um zu sehen, ob eine Workflows-Automatisierung oder eine Custom Answer basierend auf dem Thema und Kontext der Kundenanfrage ausgelöst werden sollte, sowie Sicherheitsprüfungen, um alles herauszufiltern, was Fin nicht beantworten sollte.

Sobald eine Anfrage geprüft und optimiert wurde, besteht die nächste Stufe darin, eine Antwort mit dem LLM zu generieren. Für diese Aufgabe wurde die Fin AI Engine™ entwickelt, um eine maßgeschneiderte und verbesserte Retrieval Augmented Generation-Architektur (kurz RAG) zu verwenden.

RAG ist ein Prozess, bei dem relevante Informationen aus einer Datenquelle abgerufen und mit dem Prompt eines Nutzers kombiniert werden, bevor sie an ein LLM weitergegeben werden. Dieser zusätzliche Kontext hilft, die Ausgabe des Modells zu verbessern, indem das Basiswissen erweitert und so das Risiko von Ungenauigkeiten wie Halluzinationen reduziert wird.

Die Anwendung von RAG bei Intercom ist sehr einzigartig. Die AI-Gruppe bei Intercom hat stark in die Optimierung unserer einzigartigen Anwendung von RAG investiert und testet kontinuierlich sowohl die Genauigkeit des LLM als auch die einzelnen Schritte von RAG, um die Gesamtleistung zu verbessern.

Im letzten Schritt des Prozesses führt die Fin AI Engine™ Prüfungen durch, um zu verstehen, ob die Ausgabe des LLM die notwendigen Genauigkeits- und Sicherheitsstandards für Antworten erfüllt. Es werden viele Prüfungen durchgeführt, die abdecken, ob genügend Vertrauen in die Antwort besteht, die Antwort genau genug ist und ob die Antwort ausreichend in der Realität verankert ist, um die Frage angemessen zu beantworten.

Um die Leistung der Engine zu kalibrieren und zu verbessern, verfügt die Fin AI Engine™ über fortschrittliche integrierte Werkzeuge, die helfen, die Antwortgenerierung, Effizienz, Präzision und Abdeckung zu optimieren.

Fin-Anpassung und -Kontrolle – Intercom hat Funktionen und Werkzeuge integriert, die users helfen, Fin anzupassen und zu steuern, wie Fin antwortet, was es tun kann, welche Informationen es verwenden darf und vieles mehr. Jedes dieser Elemente spielt eine Rolle dafür, wie gut Fin funktioniert. Je mehr Fin weiß, wie es etwas tun kann, desto mehr kann es tun und desto mehr können Sie Ihren Support mit menschlicher Qualität automatisieren.

AI-Analysen und Berichte – Die Fin AI Engine™ wurde entwickelt, um Analysen zur Effektivität jeder Phase des Antwortgenerierungsprozesses zu ermöglichen. Dies gibt der AI-Gruppe bei Intercom die Werkzeuge, die sie benötigen, um jede Phase des Prozesses und die Gesamtleistung zu verbessern. Vor jeder Änderung an der AI-Engine-Architektur wird eine rigorose Testphase durchgeführt, die berücksichtigt, wie sich jede kleine Änderung auf die Engine als Ganzes auswirkt. Außerdem bietet die AI Engine Intercom users Zugang zu vorgefertigten und anpassbaren Berichten, die helfen zu verstehen, wo Fin gut funktioniert und was verbessert werden kann.

AI-Empfehlungen – Die AI Engine bietet Empfehlungen zur kontinuierlichen Leistungsverbesserung im Laufe der Zeit. Dies reicht von der Identifizierung von Inhalten, die helfen könnten, Wissenslücken von Fin zu schließen, bis hin zur Hervorhebung von unterperformanten Inhalten, die weiter optimiert werden sollten, oder dem Vorschlag, Aktionen einzurichten, damit Fin mehr Anfragen für Kunden lösen kann.

Sich ausschließlich auf die generativen Fähigkeiten eines LLM zu verlassen, um ein Kundenproblem zu beantworten oder zu lösen, ist keine zuverlässige Methode, um Kunden zu bedienen. Ohne die richtigen Schutzmaßnahmen können LLMs anfällig für Manipulationen oder Halluzinationen sein, was sich auf Ihre Kunden auswirken könnte. Um Sicherheit und Zuverlässigkeit zu gewährleisten, wurde die Fin AI Engine™ mit strengen Sicherheitskontrollen in jeder Phase entwickelt. Wenn die notwendigen Sicherheitsparameter in einem der Schritte oder Phasen nicht erfüllt sind, informiert Fin den Kunden, dass die Anfrage nicht beantwortet werden kann, und eskaliert an den menschlichen Support.

Intercom hat modernste Sicherheitsmaßnahmen implementiert, um Fin gegen eine Vielzahl von LLM-Bedrohungen zu schützen, einschließlich der vom OWASP LLM Top 10 identifizierten. Durch konsequentes Testen verschiedener High-End-LLMs und den Einsatz rigoroser interner Kontrollen, Sicherheitsprotokolle und Schutzmaßnahmen kann Fin das höchste Sicherheits- und Zuverlässigkeitsniveau erreichen und potenzielle Einschränkungen und Bedrohungen vermeiden.

Das bedeutet, dass Sie und Ihre Kunden Fin’s Antworten immer als die sichersten, genauesten und zuverlässigsten aller AI-Agenten vertrauen können.

Umfassender Überblick über die Sicherheitsmaßnahmen und Testprotokolle, die für Intercom’s Fin AI-Funktionen implementiert wurden, verfügbar hier.

Fin AI Agent ist verfügbar auf US-, EU- und AU-gehosteten Workspaces.

Intercom verfügt über internationale Akkreditierungen und Kontrollen, um den höchsten Standard an Sicherheit und Schutz zu gewährleisten, darunter:

Kundendaten werden von LLM-Anbietern nicht für das Modelltraining verwendet. Alle an ein AI-Produkt übermittelten Daten werden zu einem Input, der zur Generierung eines Outputs verwendet wird (wie diese Begriffe in unseren zusätzlichen Produktbedingungen definiert sind).

Vollständige Details finden Sie in unserem rechtlichen und sicherheitstechnischen Leitfaden für AI-Produkte/-Funktionen (Sie müssen in Ihrem Intercom-Workspace angemeldet sein, um diesen Artikel zu sehen).