智进化
网站导航

← AI学习中心 / 结果核验与复用

怎样同时准备正常异常和边界样本

文中企业场景、人物与业务数字为教学示例,不是客户成果记录。

直答

测一个AI任务能不能用于实际工作,样本至少三组:正常组(应通过)、异常组(应拦下或转人工)、边界组(规则没写死的情形,预期处理要在规则里先定)。只拿正常样本测出的高通过率说明不了问题,异常和边界才是暴露规则漏洞的地方;三组分开统计,结论才站得住。

业务场景(合成演示)

一家灯具出口商想让AI按规则给询盘分类(急单、普通、待澄清)。助理只准备了二十封信息完整、格式规整的正常询盘做测试,AI全部分对,随即上线。第一周就遇到一封“上次说的那个货再加500个”的邮件——没有型号、没有单位——被直接归入普通单,其实应当转人工澄清。

具体做法

  1. 正常组:按日常最常见的信息完整邮件编写,逐封标注预期分类与所依据的规则条目号。
  2. 异常组:编写应当被拦下的样本——缺关键字段、数量与历史明显矛盾、型号字符可疑(如数字与字母混写)——预期处理一律是“拦截或转人工”。
  3. 边界组:编写规则没写死的情形——未写单位的数量、只说“月底”的交期——每组样本的预期处理(澄清还是按某条规则默认)先写进规则,再进样本。
  4. 全部样本标注“合成演示”:字段结构模仿真实邮件,不使用任何真实客户信息。
  5. 分组统计:三组各自记录通过与否;边界组出现分歧的,把分歧点记下来回填规则条文,作为下一轮测试用例。

示例表(合成演示)

组别 样本要点 预期处理 实际输出 判定
正常 型号、数量、单位、交期齐全的常规返单 归普通单 普通单 通过
异常 有数量无单位,且数量与历史订单矛盾 标待澄清 急单 未通过(漏拦),记入问题单
边界 交期写“下月底”,无具体日期 按规则向客户澄清日期 待澄清 通过

可复制样本卡

样本编号/组别(正常/异常/边界)/邮件要点/预期处理/依据的规则条目号/实际输出/判定/备注(分歧与回填建议)

反例(合成演示)

另一个小组只备了十封“内容完整、格式规整”的样本,十封全对,结论写“可以上线”。第一周真实邮件里出现把型号BT60写成BTb0的样本(合成演示写法),分类器毫无反应——异常组从来就没建过,这类错误从未进入测试视野。三组缺任何一组,测试结论都会偏向一面。

常见问题

问:每组要多少个样本才够?答:从每组五到十个起步,覆盖你实际见过的典型情形即可;测试和日常使用中出现新类型,就补一条样本,不必追求一次备齐。

问:边界样本的预期处理有分歧怎么办?答:有分歧恰好说明规则缺条文;先由业务负责人定一条写进规则,再回测样本,不在测试现场临时争论该归哪组。

讨论问题

你业务里最常见的那类“信息不全但必须回复”的邮件,现在会被分到哪一组?规则里写清它的预期处理了吗?

来源与边界说明

用成组样本检验规则效果的测试思路受 Google Workspace Skills 公开介绍启发(https://workspace.google.com/blog/product-announcements/teach-gemini-your-teams-know-hows-with-skills-in-google-workspace ,不推断相关功能在国内可用);三组样本的设计与示例均为编辑设计合成演示,未经实际运行验证,本文不声称与任何厂商存在合作或真实成果。

返回学习中心 · 查看练习资料