AI Guardrailsアラートの表示

生成AIアプリを使用している間にユーザーがAI ガードレールに違反すると、 Netskope Skope ITでアラートをトリガーし、そこでこれらのイベントを調査できます。

AIガードレールイベントを表示するには：

1. Skope IT > Alertsへ移動してください。

2. 期間を選択してください。

3. + Add Filterをクリックし、次に以下のいずれかのフィルターをクリックすると、AI ガードレール関連のアラートが表示されます。

   • Alert Type: Select AI Security。

     

   • Alert Name: Enter AI Security.

     

   • AI Guardrails Profile特定のAIガードレールに関連付けられたアラートを表示するには、こちらSelect 。

   • AI Guardrails Category特定のAIガードレールカテゴリに関するアラートを表示するには、 Select 。

     • Crimes

     • ヘイトスピーチと差別

     • 海賊行為と著作権

     • 迅速なインジェクションとジェイルブレイク

     • 機密データの要求

     • 性犯罪および性関連コンテンツ

     • 自殺と自傷行為

     • Weapons

   

   Applyをクリックしてください。Skope ITアラートの表が結果に基づいて更新されます。

   

4. クリック AIガードレールイベントに関する詳細情報はこちらをご覧ください。 

   

Netskopeはインシデントも生成します。詳細については、インシデントをご覧ください。Netskope Advanced Analytics内のAI Guardrailsダッシュボードも活用できます。これにより、セキュリティチームは、企業全体の生成AIアプリケーション内のプロンプトと応答、および AI 固有のセキュリティがどの程度効果的に機能しているかを可視化できます。