← AI学习中心 / 结果核验与复用
怎样同时准备正常异常和边界样本
文中企业场景、人物与业务数字为教学示例,不是客户成果记录。
直答
测一个AI任务能不能用于实际工作,样本至少三组:正常组(应通过)、异常组(应拦下或转人工)、边界组(规则没写死的情形,预期处理要在规则里先定)。只拿正常样本测出的高通过率说明不了问题,异常和边界才是暴露规则漏洞的地方;三组分开统计,结论才站得住。
业务场景(合成演示)
一家灯具出口商想让AI按规则给询盘分类(急单、普通、待澄清)。助理只准备了二十封信息完整、格式规整的正常询盘做测试,AI全部分对,随即上线。第一周就遇到一封“上次说的那个货再加500个”的邮件——没有型号、没有单位——被直接归入普通单,其实应当转人工澄清。
具体做法
- 正常组:按日常最常见的信息完整邮件编写,逐封标注预期分类与所依据的规则条目号。
- 异常组:编写应当被拦下的样本——缺关键字段、数量与历史明显矛盾、型号字符可疑(如数字与字母混写)——预期处理一律是“拦截或转人工”。
- 边界组:编写规则没写死的情形——未写单位的数量、只说“月底”的交期——每组样本的预期处理(澄清还是按某条规则默认)先写进规则,再进样本。
- 全部样本标注“合成演示”:字段结构模仿真实邮件,不使用任何真实客户信息。
- 分组统计:三组各自记录通过与否;边界组出现分歧的,把分歧点记下来回填规则条文,作为下一轮测试用例。
示例表(合成演示)
| 组别 | 样本要点 | 预期处理 | 实际输出 | 判定 |
|---|---|---|---|---|
| 正常 | 型号、数量、单位、交期齐全的常规返单 | 归普通单 | 普通单 | 通过 |
| 异常 | 有数量无单位,且数量与历史订单矛盾 | 标待澄清 | 急单 | 未通过(漏拦),记入问题单 |
| 边界 | 交期写“下月底”,无具体日期 | 按规则向客户澄清日期 | 待澄清 | 通过 |
可复制样本卡
样本编号/组别(正常/异常/边界)/邮件要点/预期处理/依据的规则条目号/实际输出/判定/备注(分歧与回填建议)
反例(合成演示)
另一个小组只备了十封“内容完整、格式规整”的样本,十封全对,结论写“可以上线”。第一周真实邮件里出现把型号BT60写成BTb0的样本(合成演示写法),分类器毫无反应——异常组从来就没建过,这类错误从未进入测试视野。三组缺任何一组,测试结论都会偏向一面。
常见问题
问:每组要多少个样本才够?答:从每组五到十个起步,覆盖你实际见过的典型情形即可;测试和日常使用中出现新类型,就补一条样本,不必追求一次备齐。
问:边界样本的预期处理有分歧怎么办?答:有分歧恰好说明规则缺条文;先由业务负责人定一条写进规则,再回测样本,不在测试现场临时争论该归哪组。
讨论问题
你业务里最常见的那类“信息不全但必须回复”的邮件,现在会被分到哪一组?规则里写清它的预期处理了吗?
来源与边界说明
用成组样本检验规则效果的测试思路受 Google Workspace Skills 公开介绍启发(https://workspace.google.com/blog/product-announcements/teach-gemini-your-teams-know-hows-with-skills-in-google-workspace ,不推断相关功能在国内可用);三组样本的设计与示例均为编辑设计合成演示,未经实际运行验证,本文不声称与任何厂商存在合作或真实成果。
