Baseten

透過 Mastra 的模型路由器存取 18 個 Baseten 模型。系統會自動使用 BASETEN_API_KEY 環境變數進行驗證。

詳情請參閱Baseten 文件。

.env

BASETEN_API_KEY=your-api-key

src/mastra/agents/my-agent.ts

import { Agent } from '@mastra/core/agent'

const agent = new Agent({
  id: 'my-agent',
  name: 'My Agent',
  instructions: 'You are a helpful assistant',
  model: 'baseten/MiniMaxAI/MiniMax-M2.5',
})

// Generate a response
const response = await agent.generate('Hello!')

// Stream a response
const stream = await agent.stream('Tell me a story')
for await (const chunk of stream) {
  console.log(chunk)
}

資訊

Mastra 使用與 OpenAI 相容的 /chat/completions 端點。部分 Provider 專屬功能可能無法使用，詳情請參閱Baseten 文件。

模型

16 available models

Model	Context	Tools	Reasoning	Image	Audio	Video	Input $/1M	Output $/1M
baseten/deepseek-ai/DeepSeek-V4-Flash-0731	1.0M						$0.13	$0.26
baseten/deepseek-ai/DeepSeek-V4-Pro	262K						$2	$3
baseten/moonshotai/Kimi-K2.5	262K						$0.60	$3
baseten/moonshotai/Kimi-K2.6	262K						$0.95	$4
baseten/moonshotai/Kimi-K2.7-Code	262K						$0.95	$4
baseten/moonshotai/Kimi-K3	1.0M						$3	$15
baseten/nvidia/Nemotron-120B-A12B	203K						$0.30	$0.75
baseten/nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B	203K						$0.60	$2
baseten/openai/gpt-oss-120b	128K						$0.10	$0.50
baseten/thinkingmachines/inkling	1.0M						$1	$4
baseten/thinkingmachines/inkling-small	1.0M						$0.50	$1
baseten/zai-org/GLM-4.7	200K						$0.60	$2
baseten/zai-org/GLM-5	203K						$0.95	$3
baseten/zai-org/GLM-5.1	203K						$1	$4
baseten/zai-org/GLM-5.2	1.0M						$1	$4
baseten/zai-org/GLM-5.2-Fast	1.0M						$2	$7

進階設定

自訂標頭

src/mastra/agents/my-agent.ts

const agent = new Agent({
  id: 'custom-agent',
  name: 'custom-agent',
  model: {
    url: 'https://inference.baseten.co/v1',
    id: 'baseten/MiniMaxAI/MiniMax-M2.5',
    apiKey: process.env.BASETEN_API_KEY,
    headers: {
      'X-Custom-Header': 'value',
    },
  },
})

動態選擇模型

src/mastra/agents/my-agent.ts

const agent = new Agent({
  id: 'dynamic-agent',
  name: 'Dynamic Agent',
  model: ({ requestContext }) => {
    const useAdvanced = requestContext.task === 'complex'
    return useAdvanced ? 'baseten/zai-org/GLM-5.2-Fast' : 'baseten/MiniMaxAI/MiniMax-M2.5'
  },
})