게이트웨이 Provider
게이트웨이 공급자는 여러 Model 공급자를 집계하고 캐싱, 속도 제한, 분석 및 자동 장애 조치와 같은 기능을 추가합니다. Observability, 비용 관리 또는 단순화된 다중 공급자 액세스가 필요한 경우 게이트웨이를 사용하세요.
커스텀 게이트웨이커스텀 게이트웨이에 대한 직접 링크
비공개 LLM 배포나 특수 Provider 통합을 위한 사용자 정의 게이트웨이를 만드세요. 구현 세부 정보는 사용자 정의 게이트웨이를 참조하세요.
