RAG 验收表填写样例:记录一次检索回放
2026/11/6大约 2 分钟RAG验收表回归测试
这份记录来自Java 检索验收实验的实际运行。它只检查检索边界,尚未覆盖模型生成,不能作为完整 RAG 的验收结论。
先把实验条件写完整
| 字段 | 本例填写 |
|---|---|
| 数据 | 源码中固定的 A、B 租户合成文档,包含不同版本、HR权限与删除标记 |
| 身份 | 用例显式指定租户与角色,仅作测试输入 |
| 检索方式 | 确定性词项匹配,返回原文摘录 |
| 对照实现 | 在全部文档与历史版本中直接匹配 |
| 修正实现 | 先选择当前租户的最新状态,再检查删除与权限 |
| 通过条件 | 答案和引用与期望一致;上下文中没有不可见或过期文档 |
| 可核对材料 | Java源码、运行时间、Java版本、源码哈希、逐题JSON |
逐题结果
本次 Java 运行:21.0.12;合成场景 7 项。缺少过滤的对照实现通过 3 项,修正实现通过 7 项。
这些是下面七个固定场景的回放结果,用于检查代码行为,不表示真实 RAG 的准确率。
| 用例 | 检查内容 | 对照来源 | 修正来源 | 修正结果 |
|---|---|---|---|---|
| C01 | 当前文档版本 | A/leave/v1 | A/leave/v2 | 通过 |
| C02 | 租户隔离 | A/leave/v1 | B/leave/v1 | 通过 |
| C03 | 普通员工不能检索HR资料 | A/salary/v1 | NONE | 通过 |
| C04 | 删除标记覆盖旧文档 | A/vpn/v1 | NONE | 通过 |
| C05 | 没有证据时停止 | NONE | NONE | 通过 |
| C06 | 授权HR可检索HR资料 | A/salary/v1 | A/salary/v1 | 通过 |
| C07 | 普通工单查询 | A/ticket/v1 | A/ticket/v1 | 通过 |
把一个失败写成可执行记录
C04 查询“VPN”。对照实现返回旧配置 A/vpn/v1;当前最新记录 A/vpn/v2 已经标记删除。
| 记录项 | 本例内容 |
|---|---|
| 预期行为 | 不再使用已删除文档,返回 NONE 和“没有可用证据” |
| 实际失败 | 对照实现选中旧版本 |
| 根因 | 检索直接读取历史记录,没有先确定当前文档状态 |
| 修正 | 同一租户、同一文档先选最高版本,保留删除标记,之后再筛掉已删除内容 |
| 回归 | 修正实现对 C04 返回 NONE;其余场景一起回放 |
| 仍有缺口 | 未验证向量索引异步更新、缓存失效、模型生成和生产身份认证 |
换到自己的项目时
替换语料与用例,写出真正执行过的请求和观察结果。保留失败样本,不能为了好看的通过数删题。如果实际项目涉及向量检索、重排与生成,按 RAG 评估指南分别记录,不把本例结果直接复用为自己的成绩。
需要从头填写时,下载空白验收用例与其他模板。
