AI Gateway vous permet d’envoyer le trafic de chaque fournisseur d’IA et serveur MCP vers une seule adresse AI Gateway . Vous AI Gateway indiquez à quel fournisseur acheminer chaque requête en utilisant un en-tête de requête, au lieu de dépendre d’un point de terminaison séparé par fournisseur.
Requêtes de routage avant et après le support d’un seul point de terminaison
Cet exemple compare le routage spécifique au fournisseur avec le modèle à point de terminaison unique. Auparavant, chaque fournisseur d’IA avait besoin de son propre chemin de terminaison. Avec la prise en charge d’un seul terminaison, toutes les requêtes peuvent utiliser le même chemin de base, et l’en-tête x-ns-aig-slug identifie le fournisseur ou serveur MCP vers lequel AI Gateway doit router la requête.
Before — a separate path per provider
curl https://<your-ai-gateway-fqdn>/v1/openai/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer <api-key>" \
-d '{"model": "gpt-4o", "messages": [{"role": "user", "content": "Hello"}]}'
After — one path, header picks the provider
curl https://<your-ai-gateway-fqdn>/v1/chat/completions \
-H "Content-Type: application/json" \
-H "x-ns-aig-slug: openai" \
-H "Authorization: Bearer <api-key>" \
-d '{"model": "gpt-4o", "messages": [{"role": "user", "content": "Hello"}]}'
Pour router la même requête vers un autre fournisseur, gardez la destination inchangée et réglez x-ns-aig-slug sur le slug de ce fournisseur. Aucun autre changement n’a été nécessaire.
L’en-tête de routage
| Header name | Header value | S’applique à |
|---|---|---|
x-ns-aig-slug | Le slug du fournisseur — le même nom affiché dans la colonne Fournisseur IA (ou onglet MCP) sur la page de configuration AI Gateway | Fournisseurs d’IA (trafic LLM) et serveurs MCP configurés derrière AI Gateway |
Trouvez chaque slug de chaque fournisseur ou serveur MCP sur la page de configuration AI Gateway dans l’interface Netskope ; Il correspond au nom affiché là-bas, donc vous n’avez pas besoin de créer ou de chercher une valeur séparée. Cela s’applique que le fournisseur soit prédéfini (par exemple, AWS Bedrock), un fournisseur personnalisé, ou configuré sous le schéma générique « Autre ».
L’utiliser avec les serveurs MCP
Le point d’extrémité unique fonctionne de la même manière pour les serveurs du protocole de contexte modèle (MCP) derrière AI Gateway — envoyer la requête à l’adresse AI Gateway et définir x-ns-aig-slug sur le slug du serveur MCP, affiché dans l’onglet MCP de la page de configuration AI Gateway .
MCP servers that require OAuth
Les clients MCP qui s’authentifient via OAuth ne peuvent pas utiliser de routage basé sur les en-tête pour le flux de découverte OAuth, car les requêtes de découverte ne portent pas d’en-têtes personnalisés. Si un serveur MCP nécessite OAuth, continuez à envoyer l’URL de destination spécifique au fournisseur complet pour cette connexion. Le routage basé sur l’en-tête s’applique normalement après l’obtention d’un jeton.
MCP clients and duplicate server URLs
Certaines applications clients MCP traitent plusieurs serveurs avec la même URL comme une seule connexion et n’utilisent que la première, quel que soit l’en-tête. Vérifiez la documentation de votre client MCP pour confirmer qu’il distingue les serveurs par l’en-tête avant de déployer plusieurs serveurs MCP derrière la même adresse.