PASS / MASK / BLOCKを使用し、TopicポリシーはPASS / CHECK / BLOCKを使用します。
PASS
一致したルールがない(または
PASSINGルールのみ一致した)場合。コンテンツはそのまま続行します。MASK
(PIIのみ) 機微な箇所がマスクトークンに置き換えられます。Guardianはマスクされたコンテンツを返します。
CHECK
(Topicのみ)
controversialなトピックに一致しました — レビューが必要としてフラグ付けされます。Desktop AgentおよびProxy Serverでは、CHECKはPASSとして適用されます(コンテンツは通過し、トレースに記録されるのみ)。API呼び出し元にはCHECKが直接返されます。BLOCK
ブロッキングルールまたはunsafeなトピックに一致した場合。リクエストは停止され、何も先へ送信されません。
全体のアクションは最も重大なものになる
レスポンスには、ルートのactionと項目ごとの内訳があります。ルートのアクションは、PIIとTopicの結果を統合した上で、検出されたすべての項目のうち最も重大なアクションです: BLOCK > MASK > CHECK > PASS。したがって、1つでもブロッキングに一致すると、他の部分がマスクのみであっても、リクエスト全体がBLOCKになります。
実際のレスポンス例
MASK — PIIが一致し、置き換えられました。processed_contentにマスクされたテキストが格納されます。マスクトークンは[<MASK_WORD>_<n>]の形式に従い、カテゴリごとに番号が付与されます(1始まり、ドキュメント内の出現順、かつ値に対して安定です。同じ元の値には同じ番号が付くため、異なる2つの氏名はそれぞれ[PERSON_NAME_1]と[PERSON_NAME_2]になります)。各トークンの背後にある元の値はmatched_textとして公開され、unmaskOutputはこれを使って元に戻します。
processed_contentはnullです。
フィールドの完全なリファレンス(PIIとTopicの
detected_itemsの違い)については、レスポンス形式を参照してください。アクションが確認できる場所
- API開発者は、Guard APIレスポンスから
actionを読み取ります。 - Account Adminは、Opticonモニタリングですべてのアクションをトレースとして確認でき、
PASS/MASK/CHECK/BLOCKのタグが付きます(トレースタグは、PASSとして適用された場合でもCHECKを保持します)。 - Desktop Agentユーザーは、AIツールを使用する際にMASK/BLOCKを透過的に体験します。