跳到主要内容

忠实度 Scorer

createFaithfulnessScorer() 函数用于评估 LLM 输出相对于所提供上下文的事实准确性。它会从输出中提取声明，并根据上下文进行验证，因此对于衡量 RAG pipeline 响应的可靠性至关重要。

参数
参数的直接链接

createFaithfulnessScorer() 函数接受一个 options 对象，其中包含以下属性：

model:

LanguageModel
用于评估 Faithfulness 的模型配置。

context:

string[]
用于验证输出声明的上下文片段数组。

scale:

number
= 1
最高分值。最终分数将归一化到此量表。

此函数返回 MastraScorer 类的实例。.run() 方法接受与其他 Scorer 相同的输入（参见 MastraScorer 参考），但返回值包含下文所述的 LLM 特有字段。

.run() 返回值
run-returns的直接链接

runId:

string
运行 ID（可选）。

preprocessStepResult:

string[]
从输出中提取的声明数组。

preprocessPrompt:

string
在预处理步骤中发送给 LLM 的 prompt（可选）。

analyzeStepResult:

object
包含判定结果的对象：{ verdicts: Array<{ verdict: 'yes' | 'no' | 'unsure', reason: string }> }

analyzePrompt:

string
在分析步骤中发送给 LLM 的 prompt（可选）。

score:

number
介于 0 和所配置量表之间的分数，表示得到上下文支持的声明比例。

reason:

string
对分数的详细说明，包括哪些声明得到支持、与上下文矛盾或被标记为无法确定。

generateReasonPrompt:

string
在 generateReason 步骤中发送给 LLM 的 prompt（可选）。

评分详情
评分详情的直接链接

该 Scorer 通过根据所提供的上下文验证声明来评估 Faithfulness。

评分流程
评分流程的直接链接

  1. 分析声明和上下文：
    • 提取所有声明（事实性和推测性）
    • 根据上下文验证每项声明
    • 给出以下三种判定之一：
      • "yes" - 声明得到上下文支持
      • "no" - 声明与上下文矛盾
      • "unsure" - 声明无法验证
  2. 计算 Faithfulness 分数：
    • 统计得到支持的声明
    • 除以声明总数
    • 缩放到配置的范围

最终分数：(supported_claims / total_claims) * scale

分数解读
分数解读的直接链接

Faithfulness 分数介于 0 和 1 之间：

  • 1.0：所有声明都准确且得到上下文的直接支持。
  • 0.7 到 0.9：大多数声明正确，仅有少量增补或遗漏。
  • 0.4 到 0.6：部分声明得到支持，但其他声明无法验证。
  • 0.1 到 0.3：大部分内容不准确或缺乏支持。
  • 0.0：所有声明均为错误或与上下文矛盾。

示例
示例的直接链接

评估 Agent 响应相对于所提供上下文的 Faithfulness：

src/example-faithfulness.ts
import { runEvals } from '@mastra/core/evals'
import { createFaithfulnessScorer } from '@mastra/evals/scorers/prebuilt'
import { myAgent } from './agent'

// Context is typically populated from agent tool calls or RAG retrieval
const scorer = createFaithfulnessScorer({
  model: 'openai/gpt-5.6-sol',
})

const result = await runEvals({
  data: [
    {
      input: 'Tell me about the Tesla Model 3.',
    },
    {
      input: 'What are the key features of this electric vehicle?',
    },
  ],
  scorers: [scorer],
  target: myAgent,
  onItemComplete: ({ scorerResults }) => {
    console.log({
      score: scorerResults[scorer.id].score,
      reason: scorerResults[scorer.id].reason,
    })
  },
})

console.log(result.scores)

有关 runEvals 的更多详情，请参阅 runEvals 参考。

要将此 Scorer 添加到 Agent，请参阅 Scorer 概述指南。

On this page