Providers de passerelles
Les Providers de passerelle regroupent plusieurs Providers de modèles et ajoutent des fonctionnalités telles que le cache, la limitation de débit, l’analytique et le basculement automatique. Utilisez les passerelles lorsque vous avez besoin d’observabilité, de gestion des coûts ou d’un accès simplifié à plusieurs Providers.
Passerelles personnaliséesLien direct vers Passerelles personnalisées
Créez des passerelles personnalisées pour des déploiements LLM privés ou des intégrations spécialisées de Provider. Consultez Passerelles personnalisées pour les détails d’implémentation.
