Bibliothèque d'invite

Sous l'onglet Prompt Library, vous pouvez voir les catégories de invites prédéfinies que Netskope utilise pour mener les attaques AI Red Teaming, ainsi que créer vos propres invites personnalisées à tester.

Prompts prédéfinis

Cliquez sur Predefined pour voir les ensembles intégrés d’invites Netskope, triés par Prompt Set.

• Prompt Set: La catégorie de classification utilisée pour regrouper les prompts d’attaque en fonction de leur sujet, de leur intention ou de leur type. Les invites prédéfinies de Netskope sont :

  • Inappropriate Content – Hate Speech and Discrimination: Contenu qui encourage la haine, les préjugés ou la discrimination fondée sur des caractéristiques protégées. Il s'agit notamment de textes qui déshumanisent ou discriminent des personnes en raison de leur race, de leur ethnie, de leur nationalité, de leur handicap, de leur religion, de leur caste, de leur orientation sexuelle, de leur identité de genre ou d'une maladie grave. Les messages demandant ce type de contenu entrent également dans cette sous-catégorie.

  • Inappropriate Content – Crimes: Contenu qui promeut, encourage ou fournit des conseils pour commettre des actes illégaux. Cela inclut, mais n'est pas limité à :

    • Violent Crimes: Contenu lié au terrorisme, au génocide, au meurtre, à l'agression et à l'enlèvement.

    • Exploitation and Abuse: Suggestions concernant la maltraitance des enfants, la maltraitance des animaux et le trafic de main-d'œuvre.

    • Threats and Intimidation: Contenu qui facilite le préjudice personnel par le biais de menaces ou d'intimidations.

    • Financial Crimes: Conseils sur des activités telles que la fraude, les escroqueries et le blanchiment d'argent.

    • Property Crimes: Informations sur les vols, les incendies criminels et le vandalisme.

    • Cybercrimes: Invitations relatives à des activités numériques illégales telles que le piratage.

  • Inappropriate Content – Weapons: Contenu qui implique la création, l'utilisation ou la promotion d'un périphérique nuisible ou dangereux conçu pour causer des blessures ou des destructions importantes. Il s'agit notamment des armes à feu sans licence, des agents chimiques (par exemple, les gaz neurotoxiques), des agents biologiques (par exemple, l'anthrax), des matières radiologiques (par exemple, les bombes sales), des armes nucléaires (par exemple, les bombes à fission) et des explosifs à haut rendement (par exemple, les bombes à sous-munitions).

  • Inappropriate Content – Suicide and Self-Harm: Contenu qui promeut, encourage ou discute des comportements d'automutilation ou de suicide. Cela inclut tout matériel lié au suicide, à l'automutilation (telle que les coupures) ou aux troubles du comportement alimentaire. Ce contenu peut suggérer des actions nuisibles, fournir des instructions ou encourager des comportements dangereux qui pourraient entraîner des dommages physiques ou émotionnels.

  • Inappropriate Content – Sex-Related Crimes and Content: Contenu qui promeut ou décrit des activités sexuelles illégales et nuisibles, y compris le trafic sexuel, la prostitution, l'agression sexuelle, le harcèlement et l'exploitation sexuelle des enfants. Elle s'étend également à l'érotisme, à la pornographie, aux contenus fétichistes et à l'offre ou à la sollicitation de services sexuels. En outre, il couvre les discussions graphiques sur l'intimité, l'excitation ou le contenu sexuel explicite qui peuvent être inappropriées, exploitantes ou préjudiciables.

  • Inappropriate Content – Requests for Sensitive Data: Demandes visant à obtenir, extraire ou révéler illégalement des informations personnelles sensibles sur des personnes réelles sans leur consentement. Cela inclut toute tentative d'accès, de divulgation ou de fourniture de méthodes d'acquisition de données sensibles telles que :

    • Noms, adresses et numéros de téléphone

    • Numéros d'identification (par exemple, numéros de sécurité sociale)

    • Données financières

    • Identifiants de connexion

    Les messages d'encouragement sont considérés comme faisant partie du champ d'application s'ils

    • Demandez des méthodes ou des outils pour acquérir des données sensibles, y compris des techniques d'accès non autorisé ou de piratage.

    • Fournir des instructions ou encourager des actions visant à extraire illégalement des données sensibles.

    • impliquent la fuite ou l'exposition involontaire d'informations personnelles identifiables (IPI) qui n'étaient pas destinées à être partagées à l'origine, que ce soit par le biais d'invites ou de réponses.

  • Inappropriate Content – Piracy and Copyright: Les questions ou les réponses qui tentent de récupérer, de divulguer ou de discuter de l'acquisition de matériel protégé par des droits d'auteur sans autorisation. Il s'agit notamment de

    • Recherche de méthodes pour obtenir ou partager illégalement des contenus piratés (par exemple, des logiciels, des films, de la musique ou d'autres matériels protégés).

    • Demander des informations relatives au contournement des protections du droit d'auteur (par exemple, craquer un logiciel, obtenir des numéros de série ou utiliser des "rippers" non autorisés).

    • Demander des moyens d'accéder ou de distribuer du matériel protégé par des droits d'auteur sans paiement ou licence appropriée.

  • System Integrity, Boundaries & Misinformation: Prompts that test the technical constraints, system integrity, architectural boundaries, and factual reliability of the AI system. It encompasses attempts to extract hidden system instructions or manipulate data integrity through poisoned inputs and retrieved documents. It also covers prompts designed to evaluate if the system improperly executes unauthorized actions, grants the model excessive autonomy and permissions, or allows resource exhaustion and denial of service. Additionally, it includes benign-seeming queries used to assess the model’s tendency to generate fabricated information, factual inaccuracies, or unsupported claims. These prompts aim to evaluate the operational security, resource management, and output accuracy of the system, rather than violations of social or content safety policies.

• Number of Prompts: Le nombre total d’invites contenues dans l’ensemble de prompts personnalisés. Pour chaque tour de test, si un ensemble de prompts est sélectionné, tous les prompts de ce set sont exécutés dans le cadre du test.

Prompts personnalisés

Cliquer sur Custom pour afficher toutes les invites personnalisées que vous avez créées, triées ou filtrées par Prompt Set, Language ou Last Edited.

Pour chaque ensemble de invites personnalisées, le tableau affiche :

• Prompt Set: Le nom de la consigne personnalisée. Cliquez sur le nom pour modifier l’ensemble de prompts.

• Number of Prompts: Le nombre total d’invites contenues dans l’ensemble de prompts personnalisés.

• Language: La langue cible attribuée à l'ensemble d'invites (y compris l'une des 23 langues prises en charge ou Others).

• Last Edited: Affiche la date, l’heure et l’administrateur qui a modifié la dernière fois la demande personnalisée.

• Cliquez sur l’icône pour choisir l’une des options suivantes :

  • Edit: modifiez les paramètres de l’ensemble d’invites, mettez à jour la langue attribuée ou remplacez son contenu d’invite. Les modifications s’appliquent uniquement aux futures séries de tests.

  • Delete: Supprimez le jeu de prompts personnalisés.