13｜AI 生成内容的幻觉风险怎么控制？

开场先给幻觉在测试场景的具体形态——把「幻觉」从抽象名词落到测试工作的具体危害，是本题第一层分。

回答思路

第一步：幻觉的具体形态

• 生成的用例里编造不存在的功能点或字段名
• 脚本里调用不存在的接口
• 日志分析里虚构不存在的原因
• 报告里把不确定的数据说得很笃定

第二步：控制手段按环节布防

环节	手段
输入侧	上下文喂足（需求原文、接口文档、真实 DOM）——幻觉的一半来自模型在信息不足时硬编
生成侧	prompt 明确要求「信息不足时标注待确认而非猜测」、要求引用依据（这条用例对应需求哪句话）
校验侧	规则先行（字段名和接口文档比对、脚本静态检查能不能编译）、人工评审兜底关键产出

第三步：讲分级管控的策略

• 低风险产出（内部初稿、头脑风暴清单）→ 宽松校验
• 高风险产出（要执行的脚本、对外的报告结论、要入库的用例）→ 严格校验加必须人审

管控强度和后果挂钩——全部严格管到死，会把效率优势管没。

第四步：讲可持续的机制

• 幻觉案例库：每次发现的幻觉记录场景和形态，用于改进 prompt 和评审重点
• 抽检制度：定期抽 AI 产出做深度核查，量化幻觉率

把幻觉当可度量可治理的工程问题，而不是运气问题。

收尾：给哲学定位

测试工程师本就是发现缺陷的职业——把 AI 当成一个会犯错的新同事来管理（给它清晰的输入、审它的产出、记录它的错误模式）。质量管理的方法论平移到 AI 身上，这个类比是本题最好的收口。

考察重点

维度	说明
企业动机	幻觉是所有企业上 AI 的第一顾虑——不设防的 AI 产出会污染用例库和报告，企业要的是「敢用且会用防线」的人
过线标准	场景化形态 + 分环节布防 + 分级管控
区分度	幻觉案例库、量化幻觉率的抽检制度是把 QA 方法论用到 AI 上的成熟表现
加分项	「AI 是会犯错的新同事」的管理类比
减分项	「我们不信 AI 所以不用」或「AI 说得都挺对」——两个极端都是没有防线设计

来源

整理自知识星球帖《面试情报 06｜AI 测试提效 20 题》，返回题库。