사르밤 AI
Mastra의 Model 라우터를 통해 2개의 Sarvam AI Model에 액세스하세요. 인증은 다음을 사용하여 자동으로 처리됩니다.SARVAM_API_KEY environment variable.
자세한 내용은 다음에서 확인하세요.Sarvam AI documentation.
.env
SARVAM_API_KEY=your-api-key
src/mastra/agents/my-agent.ts
import { Agent } from "@mastra/core/agent";
const agent = new Agent({
id: "my-agent",
name: "My Agent",
instructions: "You are a helpful assistant",
model: "sarvam/sarvam-105b"
});
// Generate a response
const response = await agent.generate("Hello!");
// Stream a response
const stream = await agent.stream("Tell me a story");
for await (const chunk of stream) {
console.log(chunk);
}
정보
Mastra는 OpenAI 호환 /chat/completions 엔드포인트를 사용합니다. 일부 Provider별 기능은 지원되지 않을 수 있습니다. 자세한 내용은 Sarvam AI 문서를 확인하세요.
ModelModel에 대한 직접 링크
| Model | Context | Tools | Reasoning | Image | Audio | Video | Input $/1M | Output $/1M |
|---|---|---|---|---|---|---|---|---|
sarvam/sarvam-105b | 131K | — | — | |||||
sarvam/sarvam-30b | 66K | — | — |
고급 구성고급 구성에 대한 직접 링크
맞춤 헤더맞춤 헤더에 대한 직접 링크
src/mastra/agents/my-agent.ts
const agent = new Agent({
id: "custom-agent",
name: "custom-agent",
model: {
url: "https://api.sarvam.ai/v1",
id: "sarvam/sarvam-105b",
apiKey: process.env.SARVAM_API_KEY,
headers: {
"X-Custom-Header": "value"
}
}
});
동적 Model 선택동적 Model 선택에 대한 직접 링크
src/mastra/agents/my-agent.ts
const agent = new Agent({
id: "dynamic-agent",
name: "Dynamic Agent",
model: ({ requestContext }) => {
const useAdvanced = requestContext.task === "complex";
return useAdvanced
? "sarvam/sarvam-30b"
: "sarvam/sarvam-105b";
}
});