La passerelle Netskope AI Gateway est une couche logicielle conçue pour servir de passerelle afin d'intercepter et de sécuriser le trafic entre les agents d'IA et les modèles d'IA (LLM).
Dans vos propres déploiements (VPC ou sur site), AI Gateway permet aux applications d'accéder aux LLM en toute sécurité grâce à des fonctionnalités telles que l'authentification, la limitation du débit, le filtrage prompt/réponse, la surveillance, la journalisation, la modération du contenu et la prévention des pertes de données (DLP).
Avantages
AI Gateway offre les avantages suivants :
- Fournit une API unique pour interagir avec différents modèles d'IA.
- Data Leakage Prevention (DLP): Surveille et bloque les données sensibles de l'organisation qui quittent le réseau.
- Content Moderation: Assure la protection de l'IA en empêchant les attaques telles que l'injection rapide et le contenu inapproprié.
- Authentication: Gère l'accès sécurisé grâce à l'authentification par jeton.
- Rate Limiting: Contrôle le volume des demandes afin d'éviter les abus et de gérer le trafic.
- Monitoring & Compliance: Il assure le suivi de l'utilisation et veille à ce que les interactions respectent les normes de l'entreprise.