Le tableau suivant répertorie les types d'instance recommandés pour les configurations AI Gateway.
| AWS AMI | GCP | ESXi VM | Concurrent Requests | Taille minimale du disque | |
|---|---|---|---|---|---|
| small | c6a.4xlarge1 (16 cœurs/32 Go) | c2d-highcpu-16 | 16 cores/32GB | CPU ML: 8 RPS GPU LLM: 20 RPS DLPaaS: 80 RPS | 300GB |
| medium | c6a.8xlarge1 (32 cœurs/64 Go) | c2d-highcpu-32 | 32 cores/64GB | CPU ML: 15 RPS GPU LLM: 20 RPS DLPaaS: 80 RPS | 300GB |
New Les générations précédentes offrent généralement de meilleures performances. Les clients peuvent choisir les familles New, telles que c6i, c7i, c7a, c8i ou c8a, pour améliorer le débit.
Requirement: La AI Gateway VM doit être déployée sur un hôte compatible AVX2.
Warning: Le déploiement AI Gateway échouera si l’hôte ne répond pas aux spécifications minimales énumérées ci-dessus.
Warning: Le déploiement AI Gateway échouera si l’hôte ne répond pas aux spécifications minimales énumérées ci-dessus.
DLP Appliance Sizing
The following table lists the recommended instance types for cloud deployments and the corresponding size configurations for on-premises environments of the DLP On Demand appliance. For more information, see /en/dlpondemandconfig.
| AWS | GCP | Azure | VM | Concurrent Requests | Taille minimale du disque | |
|---|---|---|---|---|---|---|
| small | c5ad.4xlarge | n2-standard-16 | Standard-F16s_v2 | 16 cores/32GB | jusqu'à 7 requêtes/seconde pour une taille moyenne de fichier de 250KB | 351GB |
| medium | c5ad.8xlarge | n2-standard-32 | Standard-F32s_v2 | 32 cores/64GB | jusqu'à 30 requêtes/seconde pour une taille moyenne de fichier de 250KB | 351GB |
| Grandes dimensions | c5ad.16xlarge | n2-standard-64 | Standard-F64fs_v2 | 64 cores/128GB | up to 50 requests/second for an average file size of 250KB | 351GB |