← AI学习中心 / 生产与质量
怎样避免AI摘要推断设备安全状态
文中企业场景、人物与业务数字为教学示例，不是客户成果记录。
直答
防止AI在设备汇总里写出“运行正常”“无安全隐患”这类状态结论，办法是给AI一份固定的摘要规则：只写记录中明示的事实并附出处，禁用状态结论词，摘要末尾附“不作安全判断”声明，每周由人对照原始记录抽查。
业务场景【合成演示】
一家做精密机加工的工厂用AI汇总每周设备运行记录。某周摘要写了“各设备运行正常，无安全隐患”，而原始记录里明明有两台设备标注了异响待查。管理层依据摘要安排生产，跨部门同事也都引用了这句话，风险提示被淹没在结论式表述里。
具体做法
- 把汇总要求写成固定规则文件，内容至少包括：只写记录中明示的事实、每句标注出处、禁写“正常、安全、无隐患、状态良好、可继续运行”等状态结论词。
- 状态表述统一替换为两种写法之一：“某设备当周记录未标注异常”，或直接引用记录原句加出处。
- 摘要末尾固定加一行声明：“本摘要不对设备安全状态作任何判断，安全结论由设备负责人依据原始记录作出。”
- 每周由人抽取若干条摘要与原始记录比对，重点检查是否混入状态结论词。
- 发现越界表述，立即修订规则文件，并用一批旧记录重新测试后再继续使用。
示例表（合成演示，记录均为虚构）
| 原始记录 | 不合规格的摘要写法 | 合规格的摘要写法 |
|---|---|---|
| IM-03 异响待查 | “IM-03运行正常” | “IM-03记录标注：异响待查（第2页第4行）” |
| IM-05至IM-11无异常标注 | “全部设备安全” | “IM-05至IM-11当周记录未标注异常” |
空模板（摘要规则卡，可直接复制）
| 规则项 | 本厂约定 |
|---|---|
| 允许的写法 | 记录原文事实＋出处（页/行） |
| 禁止的写法 | 正常/安全/无隐患/可继续运行等结论词 |
| 末尾声明 | 本摘要不作安全判断 |
| 抽查安排 | 每周人工比对条数与抽查人 |
反例【合成演示】
有个班组图省事，把AI摘要直接贴进月报，删掉了末尾那句“不作安全判断”的声明，结果跨部门把摘要当成安全结论引用，被设备员发现后逐处更正。教训：规则文件和声明是一体的，少一行就可能被误读，删改规则必须有人把关。
FAQ
问：既然有风险，为什么不干脆不让AI写摘要？ 答：摘要有助于快速浏览，关键是把写法限定在事实与出处，状态结论留给有权限的人去下。 问：每周抽查多少条合适？ 答：本文不给出固定比例。建议从每周固定抽查几条开始，发现越界表述多时加大抽查范围。
结尾讨论
你最近看到的AI摘要里，有多少句话能指出它对应原始记录的哪一行？
来源说明
本文方法受 Google Workspace 官方博客《Teach Gemini your team’s know-hows with Skills》“把规则整理成参考文件并测试”思路启发（https://workspace.google.com/blog/product-announcements/teach-gemini-your-teams-know-hows-with-skills-in-google-workspace），不推断该功能在国内可用；本文摘要规则卡为编辑设计，不声称合作或已实测效果。