Gateway Provider
Gateway Provider は複数のモデル Provider を集約し、キャッシュ、rate limiting、分析、自動 failover などの機能を追加します。可観測性やコスト管理が必要な場合、または複数 Provider へのアクセスを簡素化したい場合に Gateway を使用します。
カスタム Gatewayカスタム Gatewayへの直接リンク
非公開の LLM deployment や特殊な Provider 連携には、カスタム Gateway を作成できます。実装方法はカスタム Gatewayを参照してください。
