생각하는 기계
Mastra의 Model 라우터를 통해 2개의 Thinking Machines Model에 액세스하세요. 인증은 다음을 사용하여 자동으로 처리됩니다.TINKER_API_KEY environment variable.
자세한 내용은 다음에서 확인하세요.Thinking Machines documentation.
.env
TINKER_API_KEY=your-api-key
src/mastra/agents/my-agent.ts
import { Agent } from "@mastra/core/agent";
const agent = new Agent({
id: "my-agent",
name: "My Agent",
instructions: "You are a helpful assistant",
model: "thinkingmachines/thinkingmachines/Inkling"
});
// Generate a response
const response = await agent.generate("Hello!");
// Stream a response
const stream = await agent.stream("Tell me a story");
for await (const chunk of stream) {
console.log(chunk);
}
정보
Mastra는 OpenAI 호환 /chat/completions 엔드포인트를 사용합니다. 일부 Provider별 기능은 제공되지 않을 수 있습니다. 자세한 내용은 Thinking Machines 문서를 참조하세요.
ModelModel에 대한 직접 링크
| Model | Context | Tools | Reasoning | Image | Audio | Video | Input $/1M | Output $/1M |
|---|---|---|---|---|---|---|---|---|
thinkingmachines/thinkingmachines/Inkling | 66K | $2 | $5 | |||||
thinkingmachines/thinkingmachines/Inkling:peft:262144 | 262K | $4 | $9 |
고급 구성고급 구성에 대한 직접 링크
맞춤 헤더맞춤 헤더에 대한 직접 링크
src/mastra/agents/my-agent.ts
const agent = new Agent({
id: "custom-agent",
name: "custom-agent",
model: {
url: "https://tinker.thinkingmachines.dev/services/tinker-prod/anthropic/api/v1",
id: "thinkingmachines/thinkingmachines/Inkling",
apiKey: process.env.TINKER_API_KEY,
headers: {
"X-Custom-Header": "value"
}
}
});
동적 Model 선택동적 Model 선택에 대한 직접 링크
src/mastra/agents/my-agent.ts
const agent = new Agent({
id: "dynamic-agent",
name: "Dynamic Agent",
model: ({ requestContext }) => {
const useAdvanced = requestContext.task === "complex";
return useAdvanced
? "thinkingmachines/thinkingmachines/Inkling:peft:262144"
: "thinkingmachines/thinkingmachines/Inkling";
}
});
직접 공급자 설치직접 공급자 설치에 대한 직접 링크
이 Provider는 Mastra Model 라우터 문자열 대신 사용할 수 있는 독립 실행형 패키지로 직접 설치할 수도 있습니다. 자세한 내용은 패키지 문서를 참조하세요.
- npm
- pnpm
- Yarn
- Bun
npm install @ai-sdk/anthropic
pnpm add @ai-sdk/anthropic
yarn add @ai-sdk/anthropic
bun add @ai-sdk/anthropic