メインコンテンツへスキップ
Guardianがコンテンツを評価するたびに、アクションを返します。中間の状態はポリシータイプによって異なります。PIIポリシーはPASS / MASK / BLOCKを使用し、TopicポリシーはPASS / CHECK / BLOCKを使用します。

PASS

一致したルールがない(またはPASSINGルールのみ一致した)場合。コンテンツはそのまま続行します。

MASK

(PIIのみ) 機微な箇所がマスクトークンに置き換えられます。Guardianはマスクされたコンテンツを返します。

CHECK

(Topicのみ) controversialなトピックに一致しました — レビューが必要としてフラグ付けされます。Desktop AgentおよびProxy Serverでは、CHECKはPASSとして適用されます(コンテンツは通過し、トレースに記録されるのみ)。API呼び出し元にはCHECKが直接返されます。

BLOCK

ブロッキングルールまたはunsafeなトピックに一致した場合。リクエストは停止され、何も先へ送信されません。

全体のアクションは最も重大なものになる

レスポンスには、ルートのactionと項目ごとの内訳があります。ルートのアクションは、PIIとTopicの結果を統合した上で、検出されたすべての項目のうち最も重大なアクションです: BLOCK > MASK > CHECK > PASS。したがって、1つでもブロッキングに一致すると、他の部分がマスクのみであっても、リクエスト全体がBLOCKになります。

実際のレスポンス例

MASK — PIIが一致し、置き換えられました。processed_contentにマスクされたテキストが格納されます。マスクトークンは[<MASK_WORD>_<n>]の形式に従い、カテゴリごとに番号が付与されます(1始まり、ドキュメント内の出現順、かつ値に対して安定です。同じ元の値には同じ番号が付くため、異なる2つの氏名はそれぞれ[PERSON_NAME_1][PERSON_NAME_2]になります)。各トークンの背後にある元の値はmatched_textとして公開され、unmaskOutputはこれを使って元に戻します。
{
  "action": "MASK",
  "input_results": [{
    "index": 0, "type": "text", "action": "MASK",
    "processed_content": "제 번호는 [PHONE_NUMBER_1] 이고 이메일은 [EMAIL_1] 입니다.",
    "results": [{
      "policy_name": "PII Masking Policy", "policy_type": "PII", "action": "MASK",
      "detected_items": [
        { "rule_type": "regex", "rule_name": "phone_number", "mask_word": "PHONE_NUMBER_1", "matched_text": "010-2543-2513" },
        { "rule_type": "regex", "rule_name": "email", "mask_word": "EMAIL_1", "matched_text": "jane@acme.co.kr" }
      ]
    }]
  }]
}
BLOCK — unsafeなTopicに一致しました。processed_contentnullです。
{
  "action": "BLOCK",
  "input_results": [{
    "index": 0, "type": "text", "action": "BLOCK", "processed_content": null,
    "results": [{
      "policy_name": "Topic Policy", "policy_type": "TOPIC", "action": "BLOCK",
      "detected_items": [{ "rule_id": "WPN", "rule_name": "무기", "action": "BLOCK", "confidence": 0.91 }]
    }]
  }]
}
フィールドの完全なリファレンス(PIIとTopicのdetected_itemsの違い)については、レスポンス形式を参照してください。

アクションが確認できる場所

  • API開発者は、Guard APIレスポンスからactionを読み取ります。
  • Account Adminは、Opticonモニタリングですべてのアクションをトレースとして確認でき、PASS / MASK / CHECK / BLOCKのタグが付きます(トレースタグは、PASSとして適用された場合でもCHECKを保持します)。
  • Desktop Agentユーザーは、AIツールを使用する際にMASK/BLOCKを透過的に体験します。