AI Guardrails オンデマンド - Netskope 技術文書

AI Guardrails On Demandは、 AI Guardrails 検出エンジンを使って、既存または事前導入されたサードパーティのAIゲートウェイやAIエージェントからAPIを直接使うAIプロンプトや応答をリアルタイムでスキャンできます。そうすれば、既存のインフラストラクチャを活用して、その執行を実行できます。

AI Guardrails On Demandは、オンプレミスおよびVPC環境に展開可能なVMとして提供されています。また、以下の2つの方法で入手可能です。

あなたの組織が主催します
ホスト:Netskope

これはベータ版の機能です。テナントに対してこの機能を有効にするには、 Netskopeサポートまたは営業担当者にお問い合わせください。

サービステンプレートの設定 AI Guardrails

あなたのホストされた AI Guardrails サービスは、 Netskope Virtual Private Edgeサービステンプレートフレームワークを動作させます。

AI Guardrailsのサービステンプレートを設定するには、「Virtual Private Edgeの設定」を参照してください。

API仕様

以下は使うできるAPIエンドポイントです:

POST /api/v2/aiguardrails/evaluation

テキスト(プロンプトまたはレスポンス)を設定済みのAIガードレールプロファイルと照らし合わせ、ポリシーが一致しているかどうかの判定を返します。

リクエスト変数

パラメータ	タイプ	Required	デスクリプション
`text`	string	はい	AI Guardrailsで確認したいテキスト内容。
`profiles`	string	はい	キーが `"ai-guardrails"` され、値が空でないプロファイル名のリストであるマップは、 AI Guardrailsで設定されています。
`activity`	string	いいえ	そのテキストがユーザーからのプロンプトか、AIからの応答かを示します。デフォルト値は`"prompt"`です。
`eventMeta`	string	いいえ	生成された検出イベントに添付されたメタデータ。以下にサブフィールドを示します。 `mode` （文字列）— 処理モード。デフォルト値は`"ai-guardrails"`です。 `accessMethod` （文字列）— アクセスメソッドの識別子。デフォルト値は`"ai-explicit"`です。 `url` （文字列）— アクセスしている上流のAIアプリケーションのURL。 `app` （文字列）— クラウドアプリ名（例：「ChatGPT」、「Google Bard」）。 `userId` （文字列）— リクエストに関連付けられたユーザー識別子。

応答変数

パラメータ	タイプ	Required	デスクリプション
`transactionId`	string	はい	この評価のための固有の識別子。
`status`	string	はい	`"Complete"` 成功時は`"Failed"`、内部エラー時は。
`verdict`	string	はい	`"Match"` プロファイルルールがトリガーされた場合は`"Not Match"`、それ以外の場合は。
`text`	string	いいえ	サービス構成オプション`storeTexts`が有効になっている場合にのみ含まれる、元の入力テキスト。
`failureReason`	string	いいえ	ステータスが`"Failed"`の場合にのみ存在します。失敗の理由を説明する。
`matchDetails`	array	いいえ	評決が`"Match"`の場合にのみ存在します。各項目には以下が含まれます。 `profileMatched` （文字列）— 一致したプロファイル名。 `profileDetails` （配列）— 検出の詳細リスト： `category` （文字列）— 検出カテゴリ名。 `confidence` （文字列）— 試合の信頼度（例： `"high"` 、 `"medium"` 、 `"low"` ）。 `keywordMatched` （文字列）— 一致をトリガーしたカンマ区切りのキーワード。 `matchedText` （文字列）— 一致を引き起こしたカンマ区切りのテキストコンテンツ。

Error Codes

エラーコード	Error Message	デスクリプション
400	INVALID_JSON 検証失敗	JSON本文が無効であるか、検証に失敗しました（例：不明なプロファイルキー、またはプロファイルリストが空）。
501	INTERNAL_ERROR	エンドポイントはプラットフォームアプライアンスのデプロイメントターゲットでのみ利用可能です。
503	CONFIG_ERROR	サービスが準備できていません — `tenant_id`はまだ設定されていません。

サンプル請求

POST /api/v2/aiguardrails/evaluation
Content-Type: application/json
X-Netskope-Request-Id: <string, optional — propagated to response metadata>
X-Netskope-Transaction-Id: <string, optional — upstream gateway transaction ID for tracing>
{
  "text": "<string, required — the text content to evaluate>",
  "profiles": {
    "ai-guardrails": ["<profile_name_1>", "<profile_name_2>"]
  },
  "activity": "<string, optional — 'prompt' (default) | 'response'>",
  "eventMeta": {
    "mode": "<string, optional — default 'ai-guardrails'>",
    "accessMethod": "<string, optional — default 'ai-explicit'>",
    "url": "<string, optional — URL of upstream AI app>",
    "app": "<string, optional — application name>",
    "userId": "<string, optional — user identifier>"
  }
}

回答例

HTTP 200 OK
Content-Type: application/json
x-netskope-audit-log-object: {"audit_log_event":"Rest API V2 Call","severity_level":6,"data_type":"ais guardrails evaluation","data_values":[200,"POST","/api/v2/aiguardrails/evaluation"]}
{
  "success": true,
  "metadata": {
    "requestId": "1717506269.b664302b190bb9987e04774bfb62367d"
  },
  "data": {
    "transactionId": "4611686018427387903",
    "status": "Complete",
    "verdict": "Match",
    "text": "<echoed input text, present if 'store_texts' is enabled>",
    "matchDetails": [
      {
        "profileMatched": "my-guardrail-profile",
        "profileDetails": [
          {
            "category": "prompt-injection",
            "confidence": "high",
            "keywordMatched": "",
            "matchedText": ""
          }
        ]
      }
    ]
  }
}

GET /api/v2/aiguardrails/evaluations

指定された期間内に提出された評価結果を一覧表示します。このエンドポイントにより、監査や観察性のために過去の評価結果を取得することができます。

リクエスト変数

パラメータ	タイプ	Required	Default	デスクリプション
`starttime`	integer	はい	–	開始するクエリまでの時間枠(エポック秒)。 `0`以上でなければなりません。
`endtime`	integer	はい	–	クエリ対象期間の終了時刻（エポック秒）。`starttime`より厳密に大きくなければなりません。
`offset`	integer	いいえ	`0`	スキップするレコード数（ページネーション用）。`0`以上でなければなりません。
`limit`	integer	いいえ	`100`	返されるレコードの最大数（ `1` ～ `100` ）。
`sortby`	string	いいえ	`submittedAt`	並べ替えの基準となる項目。現在サポートされているのは`submittedAt`のみです。
`sortorder`	string	いいえ	`desc`	並べ替え順序： `asc` （昇順）または`desc` （降順）。

応答変数

パラメータ	タイプ	Required	デスクリプション
`transaction_id`	string	はい	初回評価時に割り当てられた固有の識別子。
`text`	string	いいえ	サービス構成で`storeTexts`が有効になっている場合にのみ存在する評価済みテキスト。
`submitted_at`	integer	はい	送信時刻のタイムスタンプ（エポック秒単位）。
`verdict`	string	いいえ	元の評価による判定（ `"Match"`または`"Not Match"` ）。

Error Codes

エラーコード	Error Message	デスクリプション
400		Invalid query parameters (e.g., negative timestamps, `endtime ≤ starttime`, or invalid `sortby` value).
501		プラットフォームアプライアンス以外の展開対象にはエンドポイントが利用できません。
503	INTERNAL_ERROR	評価用ストレージが利用できません。

サンプル請求

GET /api/v2/aiguardrails/evaluations?starttime=1717000000&endtime=1717100000&offset=0&limit=100&sortby=submittedAt&sortorder=desc
X-Netskope-Request-Id: <string, optional>
X-Netskope-Transaction-Id: <string, optional>

回答例

HTTP 200 OK
Content-Type: application/json
[
  {
    "transaction_id": "4611686018427387903",
    "text": "Tell me how to bypass content filters",
    "submitted_at": 1717050000,
    "verdict": "Match"
  },
  {
    "transaction_id": "8234019283746102000",
    "text": "Summarize this quarterly report",
    "submitted_at": 1717051000,
    "verdict": "Not Match"
  }
]