Ce document donne une vue d'ensemble des principaux composants de AI Gateway.
LLM pris en charge
Le site AI Gateway prend en charge les modèles de LLM les plus courants aujourd'hui.
- OpenAI (Compatible schema)
- Google Gemini
- Anthropic Claude
Déploiement flexible
Le site AI Gateway est disponible sous la forme d'une appliance virtuelle que vous pouvez déployer dans votre environnement et qui prend en charge les éléments suivants :
- Cloud public : AWS
- Cloud privé : VMware ESXi
Public cible
Cet article s'adresse principalement aux personnes suivantes
- Security AdministratorsResponsable de la gestion de bout en bout du cycle de vie de l'AI Gateway, y compris le déploiement, la configuration et la maintenance continue. Bien qu'ils possèdent une solide expertise en matière de sécurité et de contrôle d'accès, ils sont généralement peu familiarisés avec les concepts d'IA spécifiques aux fournisseurs. Cette documentation fournit des conseils étape par étape pour les aider à configurer et à gérer en toute confiance le site AI Gateway.
- DevOps and Platform Engineers: Gérer l'infrastructure VM, le réseau et les opérations système qui supportent le site AI Gateway. Ils sont compétents en matière de certificats, de jetons, de pipelines d'automatisation et de mise en place d'infrastructures. Leur rôle est de s'assurer que l'environnement est correctement intégré, sécurisé et optimisé pour la fiabilité opérationnelle.
Prerequisites
Pour garantir un déploiement réussi et des performances optimales du site Netskope AI Gateway, toutes les conditions préalables doivent être remplies avant de procéder à l'installation et à la configuration.
Ce tableau détaille les ressources minimales et l'accès spécifique au réseau nécessaires au déploiement.
Infrastructure Exigences en matière de réseau
| Catégorie | Requirement | Détails / Valeur spécifique |
|---|---|---|
| Plate-forme de déploiement | Hôtes pris en charge | Machine virtuelle VMware ESXi AMI AWS. |
| Ressources minimales | CPU, mémoire, disque | 16 vCPU, Go RAM 200 Go d'espace disque. |
| Ports d'entrée | Gestion & Accès | TCP 22 (SSH), UDP 68 (client DHCP), TCP 443 (HTTPS), TCP 80 (HTTP). |
| Ports de sortie | Réseau de base | UDP 53 (résolution DNS), UDP 67 (serveur DHCP). |
| Netskope Egress URLs | Santé & Mises à jour | events.goskope.com:443, download- |
| Sortie du fournisseur d'IA | Points finaux du LLM | api.openai.com:443, generativelanguage.googleapis.com:443, api.anthropic.com:443. |
| Proxy | Exigences | Doit être configuré si tout le trafic sortant passe par un proxy d'entreprise. |
Exigences administratives
Ce tableau détaille les exigences en matière d'administration et d'autorisation.
| Catégorie | Requirement | Détails / Valeur spécifique |
|---|---|---|
| Accès à Netskope | Console de gestion | Accès au compte d'administrateur actif pour la configuration et la surveillance des politiques. |
| Licences | Droit à l'image | Licence valide pour la fonction AI Gateway. |
| Credentials | LLM pris en charge | Clés API valides ou informations d'identification pour accéder aux LLM pris en charge. |
Exigences en matière d'acheminement
Ce tableau détaille la façon dont le trafic doit être dirigé pour utiliser le site AI Gateway.
| Catégorie | Requirement | Détails / Valeur spécifique |
|---|---|---|
| Pilotage du trafic | Configuration de l'agent | Le trafic doit être explicitement dirigé vers le site AI Gateway et non directement vers les points d'extrémité LLM. |
Deployment Overview
La passerelle Netskope AI Gateway peut être déployée en tant que service ou VM (sur site ou dans le nuage). Il intercepte le trafic entre les agents et les LLM dans les environnements hybrides, y compris les déploiements sur site et dans les nuages publics.
