Fin AIエンジン™は、Finがすべてのクエリを洗練し、すべての応答を最適化し、各回答の品質を検証できるようにします。その結果、業界最高の解決率と業界最低の幻覚率を両立できる唯一のAIエージェントです。
多くのAIエージェントは高い解決率か低い幻覚率のいずれかに最適化できますが、両方を同時に達成するのは難しいです。これは、多くの場合、生成型大規模言語モデル(LLM)に単に「ラッパー」を適用しているだけで、上に構築していないためであり、コストと手間が少ないからです。
しかし、このアプローチはLLMの幻覚傾向を無視し、顧客に誤ったまたは無関係な情報を提供してしまいます。IntercomのようにLMMの入力と出力を洗練するシステムがなければ、AIエージェントは正確性と信頼性の最適化が効果的にできません。
仕組み
フェーズ1 - クエリの洗練
LLMが生成する回答の正確性を最適化するには、LLMが受け取る入力を理解しやすく洗練する必要があります。クエリが明確で理解しやすいほど、出力は良くなります。
カスタマーサービスでは、顧客がクエリを十分に説明または文脈化せずにサポートに連絡することがよくあります。この問題を解決するために、Fin AIエンジン™はLLMに送られる入力を洗練するよう設計されています。これにより、各顧客メッセージが意味と文脈の面で最適化され、LLMが正確な回答を生成する可能性が最大化されます。
さらに、Fin AIエンジン™は、顧客のクエリのトピックと文脈に基づいてWorkflowsの自動化やCustom Answerをトリガーすべきかどうかをチェックし、Finが回答すべきでない内容をフィルタリングする安全性チェックも行います。
安全性と関連性のチェック
AIエンジンは顧客のクエリを包括的にチェックし、機密情報の要求、無関係な質問、悪意のある行為者、データ収集など、Finが回答すべきでないものをフィルタリングします。
クエリ理解の最適化
AIエンジンは顧客メッセージを最適化し、LLMが検索しやすく理解しやすいようにします。多くのチェックを行い、クエリの意図やトピックが明確か、言い換えが必要かなどに基づいて適切な最適化を実行します。
Workflows自動化のチェック
顧客のメッセージは、特定の自動化(例えば苦情)をトリガーする事前設定された条件の有無をチェックされます。
Custom Answerのチェック
顧客のクエリに対して事前設定されたCustom Answerが必要かどうかを検出する追加のチェックが行われます。
フェーズ2 - 応答の生成
クエリがチェックされ最適化された後、次の段階はLLMを使って応答を生成することです。このタスクのために、Fin AIエンジン™は特注の強化型検索生成アーキテクチャ(RAG)を使用するよう設計されています。
RAGは、データソースから関連情報を取得し、ユーザーのプロンプトと組み合わせてLLMに渡すプロセスです。この追加の文脈により、モデルの基礎知識が強化され、幻覚のような不正確さのリスクが減少します。
IntercomのRAGの適用は非常に独特です。IntercomのAIチームはRAGの独自の適用を最適化するために多大な投資を行い、LLMの正確性とRAGの各ステップの両方を継続的にテストして全体のパフォーマンスを向上させています。
検索の最適化:
AIエンジンは利用可能な情報、アクション、データを検索し、クエリの性質に最も関連し、問題解決に必要なものを判断します。情報源には以下が含まれます。
コンテンツ - 過去のIntercomの会話、help centerの記事、PDF、正確かつ安全な情報源として承認されたHTML/URLなど。
データ - Intercomの内部または外部の動的情報で、Finが顧客体験をパーソナライズするために使用できます。
統合とアクション - 顧客のクエリの意図に基づき、サードパーティシステムで必要なアクションがあるかどうかを判断します。
統合と拡張
取得した情報は最適化されたクエリや「入力」と統合・拡張されます。このステップにより、生成モデルは応答を生成する前に最も関連性が高く最新の情報にアクセスできます。拡張された入力は、取得情報の文脈と関連性を維持する形で構造化され、モデルが理解しやすく利用しやすくなっています。
応答の生成
明確化と曖昧さの解消
モデルの出力がFin AIエンジン™の確実性パラメータを満たさない場合、顧客にクエリの明確化を求める応答が生成されます。この曖昧さ解消ステップは、生成された応答が会社の利用可能な知識リソースやサポートコンテンツの事実に基づいて文脈的かつ根拠のあるものとなるため、幻覚のリスクを回避します。
アクションを実行
ユーザーのクエリと意図に基づいてアクションが必要な場合、必要な情報、データ、統合、システムを使用してアクションが実行されます。
回答を生成
生成モデルは拡張された入力を使用して回答を生成します。取得した情報を組み込むことで、モデルはより正確で文脈的に関連し、詳細な応答を生成できます。生成された回答は明確さ、一貫性、ユーザーのクエリとの整合性を確保するために後処理されることがあります。
フェーズ3 - 正確性の検証
プロセスの最終段階で、Fin AIエンジン™はLLMの出力が必要な応答の正確性と安全基準を満たしているかをチェックします。多くのチェックが行われ、応答に十分な自信があるか、正確であるか、現実に根ざしているかを評価し、質問に適切に対応できるかを判断します。
応答の検証
生成された応答を元の顧客クエリと比較します。
生成された応答がクエリに十分に答えているかを判断します。
生成された応答が知識リソースやサポートコンテンツの知識に基づいているかを判断します。
顧客への応答
生成された応答をFinを通じて顧客に送信します。
エンジンの最適化
Fin AIエンジン™には、回答生成、効率、精度、カバレッジを最適化する高度な統合ツールが搭載されています。
Finのカスタマイズと制御 - Intercomは、usersがFinの応答方法、できること、使用できる情報などをカスタマイズ・制御できる機能とツールを組み込んでいます。これらはFinのパフォーマンスに影響します。できることが多いほど、より多くのことが可能になり、人間品質の顧客体験を自動化できます。
AI分析とレポート - Fin AIエンジン™は、回答生成プロセスの各段階の効果を分析しやすく設計されています。これによりIntercomのAIチームは各段階と全体のパフォーマンスを改善するためのツールを得ます。AIエンジンのアーキテクチャに変更を加える前に厳密なテストが行われ、各小さな変更がエンジン全体に与える影響を考慮します。さらに、AIエンジンはIntercomのusersに対し、Finの効果的な部分や改善点を理解するための事前構築およびカスタマイズ可能なレポートへのアクセスを提供します。
AIの推奨 - AIエンジンはパフォーマンスを継続的に向上させるための推奨を提供します。これは、Finの知識のギャップを埋めるのに役立つコンテンツの特定、最適化が必要なパフォーマンスの低いコンテンツの強調、またはFinがより多くの顧客のクエリを解決できるように設定すべきアクションの提案などを含みます。
安全性とセキュリティ
LLMの生成能力だけに頼って顧客の問題に答えたり解決したりするのは信頼できる方法ではありません。適切な安全対策がなければ、LLMは操作や幻覚のリスクがあり、それが顧客に影響を与える可能性があります。安全性と信頼性を確保するために、Fin AIエンジン™は各段階で厳格な安全管理を設けています。安全基準が満たされない場合、Finは顧客に回答できないことを伝え、人間のサポートにエスカレーションします。
Intercomは、OWASP LLMトップ10で特定された脅威を含む幅広いLLMの脅威からFinを保護するために最先端のセキュリティ対策を実施しています。高性能なLLMを継続的にテストし、厳格な内部管理、セキュリティプロトコル、安全対策を展開することで、Finは最高レベルのセキュリティと信頼性を実現し、潜在的な制限や脅威を回避しています。
つまり、あなたとあなたの顧客は常にFinの回答を最も安全で正確かつ信頼できるAIエージェントとして信頼できます。
Finの安全対策の詳細はtrust.intercom.comでご覧ください。
Fin AIセキュリティ
IntercomのFin AI機能に実装されたセキュリティ対策とテストプロトコルの包括的な概要はこちらでご覧いただけます。
地域ホスティング
Fin AI AgentはUS、EUおよびAUホストされたワークスペースで利用可能です。
コンプライアンス
Intercomは最高水準の安全性とセキュリティを確保するために国際的な認証と管理体制を整えています。内容は以下の通りです。
ISO 27001、ISO27701、ISO 27018、ISO42001
HIPAA準拠。
SOC 2レポート - セキュリティ、可用性、機密性に特化したSOC 2、タイプII監査レポート。
HDS証明書 - HDSリファレンスバージョン1.1(英語およびフランス語版)への準拠証明。
ペネトレーションテスト概要 - 第三者のセキュリティ専門家によるIntercomのアプリケーションとインフラの詳細なペネトレーションテストの概要。
クラウドセキュリティアライアンス評価 - Cloud Controls MatrixおよびGDPR準拠のためのCSA行動規範に基づくセキュリティとプライバシーの自己評価。
サードパーティLLMのデータ使用、転送、保存
顧客データはLLMプロバイダーによるモデル学習には使用されません。AI製品に送信されたデータは入力となり、出力を生成するために使用されます(これらの用語は追加製品利用規約で定義されています)。
詳細はAI製品/機能の法務およびセキュリティガイドでご確認ください(閲覧にはIntercomワークスペースへのログインが必要です)。
