なぜStarfortか: AIリスクの階層
Starfortが存在するのは、AIリスクが単一の均質な問題ではないからです。AIリスクは3つの階層に区分され、それぞれ異なる方法で扱われます。この順序づけこそが「中央で適用し、ローカルで最適化する」という考え方を正当化します。
これは2チームによる責任分担に対応します。セキュリティチームがAIセキュリティリスクを担い、AIガバナンスチームがサービス/品質リスクを担い、規制リスクは両チームが共同で担います。Starfortはまさにこの協働を支援するように設計されています。最も重要なポリシーは中央から適用される一方、各チームは品質をチューニングする自由を保持します。
Starfortの使い方
3つのエントリーポイントがあり、それぞれ異なる制御レベルを提供します。これらは同じGuardianエンジンとポリシーを共有します。API — サービスレベル
社内/社外サービス(バックエンド、チャットボット)が、モデルの前後でGuard APIを呼び出してガードレールを組み込みます。
Desktop Agent — デバイスレベル
従業員が日常的なAIツールを利用する間、Desktop Agent(Windows)がエンドポイント上でポリシーを透過的に適用します。
Proxy Server — インフラレベル
外部サービスのサーバーサイドのエントリーポイントで行われるAI呼び出しを、Starfort経由でルーティングします。
Guardianがリクエストに対して行うこと
すべてのコンテンツは、お客様のGuard Policyに照らして評価され、アクションが割り当てられます。アクションの種類はポリシータイプによって異なります。PASS
コンテンツは変更されずにそのまま通過します。
MASK
機微な箇所がトークン(例:
[PHONE_NUMBER_1])に置き換えられます — PIIポリシー。BLOCK
リクエストはAIサービスに到達する前に停止されます。
中核となる概念
Guardian
コンテンツを検査し、アクションを決定するエンジンです。
Guard Policy
Guardianが適用するPIIおよびTopicのルールです。
組織階層
Company › Organization › Project、およびGuardianがプロジェクトにどのように紐づくか。
用語集
本ドキュメントで使用されるすべてのStarfort用語の定義。
本ドキュメントはStarfort v1.2を対象としています。製品名 — Starfort、Guardian、Guard Policy、Guard API、Opticon、Control Profile — はすべての言語で英語のまま維持されます。