Pour utiliser le service AI Red Teaming, vous devez créer et enregistrer vos cibles AI dans l'interface utilisateur de Netskope.

Créer une cible d'IA :

1. Allez sur AI Red Teaming.

2. Cliquez sur l'onglet Target Registry.

3. Cliquez sur New Target et choisissez l'une des méthodes suivantes pour vous connecter à une cible :

   API REST

   LLM

   API compatible avec OpenAI

   Vous pouvez intégrer n'importe quel service à des fins de test, à condition qu'il dispose d'une API REST, qu'il établisse une connexion valide et qu'il réponde à toutes les autres exigences. Cette flexibilité vous permet de vous connecter à des modèles d'IA ou à des agents qu'ils ont eux-mêmes développés, ou encore à d'autres fournisseurs d'IA que la solution AI Red Teaming ne prend pas encore officiellement en charge (par exemple, l'API Google Gemini).

   • Name: Entrez un nom pour votre cible.

   • Description(Facultatif) Entrez des commentaires ou des notes pour la cible.

   • Connect Type: REST API est automatiquement sélectionné.

   • URL: Saisissez l'URL de la cible. Par exemple :

     https://api.openai.com/v1/responses

   • Request Template: Saisissez le corps de la réponse à la cible. Il doit inclure le mot-clé {prompt}. Ceci sert à injecter une invite de type « red teaming » lorsque Netskope attaque la cible.

     Par exemple :

     {
         "model": "gpt-5-nano",
         "input": "{prompt}"
     }

   • Response Path: Entrer le chemin JSON pour analyser la réponse cible depuis l’API REST. Par exemple, si l’API REST cible répond avec {"response": "I cannot answer your question"}, définissez response comme chemin de réponse. Ainsi, Netskope peut extraire la réponse du LLM « Je ne peux pas répondre à votre question » à partir de la réponse de l’API REST.

   • HTTP Headers: Choisissez la clé et entrez la valeur de l’en-tête. Vous pouvez activer Obfuscation si la valeur de l’en-tête est sensible. Si vous souhaitez ajouter plusieurs en-têtes HTTP, cliquez +.

   • Request per Minute: Saisissez le nombre de requêtes à envoyer à la cible dans un intervalle d'une minute. La valeur par défaut est 60.

     

     Réponses en continu (SSE)

     AI Red Teaming gère automatiquement les réponses en continu à l'aide des Server-Sent Events (SSE). Lorsque l'API cible renvoie une réponse de type « Content-Type: text/event-stream », Netskope le détecte et assemble la réponse finale à partir du flux. Aucune configuration supplémentaire n'est nécessaire.

     Activation de SSE sur un point de terminaison compatible avec OpenAI

     Pour les serveurs LLM prenant en charge à la fois les modes en continu et hors continu (tels qu'OpenAI, LM Studio et Ollama) :

     1. Voici "stream": true dans Request Template. Exemple Request Template:

        {
          "model": "{model}",
          "messages": [{"role": "user", "content": "{prompt}"}],
          "stream": true
        }

     2. Réglez le Response Path pour qu’il corresponde au format de réponse en streaming. Exemple Response Path:

        choices[0].delta.content

     Des serveurs qui diffusent en continu en permanence

     Si le serveur cible renvoie toujours des réponses SSE, vous n'avez pas besoin de modifier l'Request Template. Définissez le paramètre « Response Path » sur le champ JSON qui contient le texte de la réponse dans chaque bloc.

     Formats SSE pris en charge

     Format	Exemple de chemin de réponse
     Complétions de conversation OpenAI (stream: true)	choices[0].delta.content
     API de réponses OpenAI	delta
     API Messages anthropiques	delta.text
     API LLM personnalisées/internes	Cela dépend de la structure de la charge utile du serveur

   Connectez-vous en toute transparence à un fournisseur spécialisé en LLM d'un grand fournisseur de cloud ou d'IA, tel qu'OpenAI, Amazon Bedrock et Azure OpenAI.

   • Name: Entrez un nom pour votre cible.

   • Description(Facultatif) Entrez des commentaires ou des notes pour la cible.

   • Connect Type: LLM est automatiquement sélectionné.

   • LLM: Choisissez l'un des modèles de grandes langues suivants.

     • OpenAI

     • Azure OpenAI

     • Amazon Bedrock

   • API Key: Saisissez la clé API pour le LLM

   • Model: Entrez le nom du modèle pour le LLM.

   • Request per Minute: Saisissez le nombre de requêtes à envoyer à la cible dans un intervalle d'une minute. La valeur par défaut est 60.

     

   Intégrez la norme API compatible OpenAI afin de pouvoir vous connecter facilement à n'importe quel fournisseur ou modèle respectant les spécifications OpenAI, sans avoir besoin d'une configuration personnalisée.

   • Name: Entrez un nom pour votre cible.

   • Description(Facultatif) Entrez des commentaires ou des notes pour la cible.

   • Connect Type: OpenAI Compatible API est automatiquement sélectionné.

   • URL: Saisissez l'URL de base de l'API compatible OpenAI. Par exemple :

     https://ai-mock-server.execute-api.us-west-2.amazonaws.com/v1

   • Model: Saisissez le nom du modèle qui sera envoyé au point de terminaison de l'API compatible OpenAI.

   • HTTP Headers: Choisissez la clé et entrez la valeur de l’en-tête. Vous pouvez activer Obfuscation si la valeur de l’en-tête est sensible. Si vous souhaitez ajouter plusieurs en-têtes HTTP, cliquez +.

   • Request per Minute: Saisissez le nombre de requêtes à envoyer à la cible dans un intervalle d'une minute. La valeur par défaut est 60.

     

4. Cliquez Create & Verify pour vérifier la connectivité cible. Si la vérification échoue, vous pouvez toujours sauvegarder la cible, mais elle sera marquée comme Unverified.

Registre cible

Dans l'onglet Target Registry, vous pouvez voir les informations suivantes pour chaque cible enregistrée :

• Name: Le nom de votre cible. Cliquez sur pour modifier ses paramètres.

• Tests: Affichez le nombre de tests effectués pour la cible.

• Verified: Voir si la cible a été vérifiée avec succès ou non.

Vous pouvez également cliquer sur l’icône et effectuer l’une des actions suivantes :

• Edit: Modifier la cible et ses paramètres.

• New Test: Vous permet d'accéder aux manches de test afin d'effectuer un New test sur la cible.

• Delete: Supprimez la cible.