メインコンテンツにスキップ

セーフティガード

FinでのSafety Guardによる顧客メッセージのスクリーニング方法、常に拒否されるトピック、フラグ付きメッセージを手順やナレッジでFinに処理させる方法を学びます。

この記事では、SalesforceやZendeskなどの他のhelpdeskとFinを併用する際にSafety Guardが顧客メッセージをどのようにスクリーニングするか、常に拒否されるトピック、そしてフラグ付きメッセージを拒否せずに独自の手順やナレッジコンテンツでFinに処理させる方法を説明します。

Safety Guardとは?

Safety GuardはFinに組み込まれた敏感で有害なコンテンツからの防御シールドです。すべてのメッセージを自動的にスクリーニングし、お客様には常に安全で配慮された回答を提供し、チームは必要な時だけ介入します。

Safety GuardはIntercomのAI使用と行動認証(AIUC-1)の一部であり、Finを使用するすべてのワークスペースでデフォルトで有効です。すべてのプランタイプに適用され、無効にできません。

注意: Safety Guardはプランに関係なくすべてのFinワークスペースに適用されます。フラグ付きメッセージをFinに処理させる機能は現在Fin AI Agent for Serviceのみに適用されます。

Safety Guardがスクリーニングする内容

Safety Guardは9つのトピックカテゴリをスクリーニングします:

  • 自傷行為と自殺

  • 暴力と脅迫

  • ヘイトスピーチと差別

  • 違法行為

  • 成人向けおよび性的コンテンツ

  • 危険物質

  • 武器

  • プライバシーと個人データの悪用

  • 詐欺と欺瞞

常に拒否されるトピック

これらのトピックに関するメッセージに対するFinの応答は設定で変更できません。Finは常にこれらを拒否します。たとえ他のフラグ付きメッセージを独自の手順やナレッジコンテンツで処理させていても同様です:

  • 自傷行為と自殺

  • 児童の安全

  • 脆弱な人々

  • 虐待およびFinの悪用試み

重要: これらのトピックについては、どのオプションを有効にしてもFinは常に標準の返信を行い、チームメンバーを案内します。


Safety Guardの仕組み

Safety Guardは顧客の安全と会話の継続性のバランスを取るために設計された2回の警告システムで動作します。Safety Guardがメッセージをフラグ付けし、Finに処理させるオプションがない場合、Finはこの標準の返信を送り、チームメンバーを案内します:

注意:「そのトピックには対応できませんが、チームのメンバーにおつなぎできます。おつなぎしましょうか?」

警告1回目:最初の検出

顧客のメッセージまたはFinの下書き回答が会話中に初めてフラグ付けされた場合、Safety Guardは:

  1. フラグ付けされたコンテンツの送信またはさらなる処理をブロックします。

  2. 代わりに設定された安全な回答を顧客に届けます。

  3. 検出を内部で記録します。

その後、顧客は通常通り会話を続けられます。Safety Guardはこの段階で会話を終了または閉鎖しません。

警告2回目:同じ会話内での2回目の検出

同じ会話内で2回目のスクリーニングフラグが立った場合、Safety Guardは自動的に人間のサポートチームにエスカレーションします。会話はFinから離れ、チームメンバーが直接対応します。2回目の警告後にエスカレーションされた会話にはFinは再度関与しません。

重要: 2回の警告カウントは新しい会話の開始時にリセットされます。以前の会話で警告を受けた顧客も新たにカウントされます。


フラグ付きメッセージをFinに処理させる

これらのオプションを使う理由

一部のビジネスでは、敏感な質問が日常的なサポートの一部です。医療提供者は用量に関する質問を受けます。法律や税務製品は規則や期限に関する質問を受けます。すでに承認されたコンテンツや手順がある場合、2つのオプションでFinがそれを使い、顧客がチームメンバーを待たずに支援を受けられます。

2つのオプション

FinのSafety Guard設定には、フラグ付きメッセージを拒否せずに独自のナレッジコンテンツや手順を使わせる2つのトグルがあります。1つまたは両方をオンにできます。両方ともデフォルトはオフです。

ナレッジからの回答: Finは根拠のある回答が見つかった場合に限り、選択された質問にナレッジから回答します。そうでなければ標準の返信を行います。Finはあなたのコンテンツが回答をサポートする場合のみ回答します。コンテンツが質問をカバーしていない場合、顧客には標準の返信が届きます。

手順へのルーティング: フラグ付き質問があなたの手順のいずれかに一致した場合、Finは拒否せずにその手順を実行します。Finは通常の方法で質問に一致した場合にのみ手順を実行します。このオプションはFinが通常選ばない手順を選ばせるものではありません。手順はその顧客に対して有効でなければなりません。

Safety Guardオプションの有効化方法

  1. Finの設定 > Fin AI Agent > 返信設定に移動します。

  2. FinのSafety Guardを展開します。

  3. ナレッジからの回答、手順へのルーティング、または両方をオンにします。

  4. 確認内容を読み、ワークスペースを代表して同意するチェックボックスを選択し、同意するを選択します。

  5. オプションが有効になります。helpdeskでは、メッセージがフラグ付けされた会話にFinのSafety Guardが作動しましたというイベントが表示されます。展開するとトピックとFinの対応内容が確認できます。

オプションをオフにするには、トグルをオフにして確認します。Finは再びこれらのメッセージを拒否し、チームメンバーを案内します。オプションはいつでも変更可能です。

メッセージがフラグ付けされたときに起こること

1つまたは両方のオプションがオンの場合、Finはフラグ付きメッセージについて以下を順に確認します:

  1. メッセージが常に拒否されるトピックに関する場合、Finは標準の返信を行います。

  2. 独自のエスカレーションルールやガイダンスで会話をチームメンバーに引き継ぐ場合、Finは引き継ぎます。これらのオプションは設定済みの引き継ぎを妨げません。

  3. 手順へのルーティングがオンで、ライブの手順が一致する場合、Finはその手順を実行します。

  4. ナレッジからの回答がオンで、コンテンツが回答をサポートする場合、Finは回答します。

  5. 上記のいずれにも該当しない場合、Finは標準の返信を行い、チームメンバーを案内します。

常に拒否されるトピックは会話のどの段階でも拒否されたままです。

敏感なトピックの手順設定方法

  • 手順がライブであることを確認してください。 一時停止中、下書き中、または対象者ルールで制限されている場合、Finは使用できずメッセージを拒否します。これが手順へのルーティングが機能しない最も一般的な理由です。

  • エスカレーションガイダンスを確認してください。 例えば、すべての症状報告を引き継ぐよう指示している場合、それらのメッセージはチームメンバーに渡され、手順には送られません。

  • 特定のコンテンツに顧客を誘導してください。 フラグ付きメッセージだけに特定の記事を選ぶことはできません。代わりに、返信に目的の記事へのリンクを含む手順を作成し、例えば医療専門家に相談するよう促すページなどを作成し、手順へのルーティングをオンにしてください。

注意: これらのオプションは現在Fin AI Agent for Serviceのみに適用されます。


よくある質問

FinワークスペースでSafety Guardを無効にできますか?

FinワークスペースでSafety Guardを無効にすることはできません。Safety GuardはすべてのFinワークスペースでデフォルトで有効で、すべてのプランタイプに適用され、無効にできません。これはIntercomのAI使用と行動認証(AIUC-1)の必須要件です。医療、法律、金融など日常的に扱う質問をSafety Guardが拒否する場合は、独自の手順やナレッジコンテンツでFinに処理させてください。Safety Guardは有効のままですが、Finは拒否せずに回答またはルーティングします。

Safety Guardはすべての顧客との会話に影響しますか、それとも敏感な会話だけですか?

Safety Guardはすべての顧客との会話に影響しません。メッセージやFinの下書き回答が9つのスクリーニング対象トピックのいずれかに該当した場合のみ作動します。対象外の通常の会話には全く影響しません。

Safety Guardがフラグを立てた顧客のメッセージはどうなりますか?

Safety Guardが顧客のメッセージにフラグを立てると、そのコンテンツはブロックされ、これ以上処理されません。手順へのルーティングやナレッジからの回答をオンにしていて該当する場合、Finは一致する手順にルーティングするか、コンテンツから回答します。そうでなければ、顧客には標準の返信とチームメンバーの案内が届きます。Fin自身の下書き回答がフラグ付けされた場合、その回答は顧客に届く前にブロックされ、代わりに標準の返信が送られます。

Safety Guardを特定のトピックだけオフにできますか?

Safety Guardを特定のトピックだけオフにすることはできません。代わりに、上記のオプションを使ってフラグ付きメッセージを手順やコンテンツでFinに処理させてください。常に拒否されるトピックは常に拒否されたままです。

オプションをオンにするとSafety Guardがオフになりますか?

オプションをオンにしてもSafety Guardはオフになりません。Safety Guardはすべてのメッセージをチェックし続けます。オプションはフラグ付け後のFinの対応を変えるだけで、常に拒否されるトピックには影響しません。

Safety Guardのオプションを適用するトピックを選べますか?

Safety Guardのオプションは適用可能なすべてのトピックに適用されます。常に拒否されるトピックはどのオプションにも含まれません。

手順へのルーティングをオンにしたのにFinが拒否します。なぜですか?

手順へのルーティングをオンにしてもFinがフラグ付きメッセージを拒否する場合、その質問に一致する手順がその顧客に対してライブであり、対象者ルールで制限されていないか確認してください。また、エスカレーションガイダンスで会話が先にチームメンバーに引き継がれていないかも確認してください。オプションは既存の引き継ぎを上書きしません。

Finはフラグ付きメッセージに回答する前にコンテンツをチェックしますか?

Finはフラグ付きメッセージに回答する前にコンテンツの適切性をチェックしません。Finはあなたのコンテンツが回答をサポートする場合のみ回答しますが、敏感なトピックに対してコンテンツが適切かどうかの判断は行いません。これはワークスペースの責任です。

FinがSafety Guardオプションを使用した時を確認できますか?

helpdeskの会話でFinがSafety Guardオプションを使用した時を確認できます。Safety Guardがメッセージにフラグを立てると、会話に「FinのSafety Guardが作動しました」というイベントが表示されます。展開するとトピックとFinの対応内容(手順へのルーティング、ナレッジからの回答、拒否、エスカレーション(会話内の2回目のフラグ))が確認できます。独自のルールやガイダンスで先にチームメンバーに引き継いだ場合、このイベントは表示されず、これらのイベントの別レポートもありません。

こちらの回答で解決しましたか?