Gateway Provider
Gateway Provider 會整合多個模型 Provider，並加入快取、速率限制、分析和自動容錯移轉等功能。當你需要 Observability、成本管理，或簡化多 Provider 存取方式時，可以使用 Gateway。
自訂 Gateway「自訂 Gateway」的直接連結
你可以為私有 LLM 部署或特殊的 Provider 整合建立自訂 Gateway。實作詳情請參閱自訂 Gateway。
自訂 Gateway
內建 Gateway
On this page