Gateway Provider
Gateway Provider 聚合多个模型 Provider，并提供缓存、速率限制、分析和自动故障转移等功能。当你需要可观测性、成本管理或更简单的多 Provider 访问方式时，可以使用 Gateway。
自定义 Gateway自定义 Gateway的直接链接
你可以为私有 LLM 部署或专用 Provider 集成创建自定义 Gateway。实现细节请参阅自定义 Gateway。
自定义 Gateway
内置 Gateway
On this page