核实 AI 的回答：避免“幻觉”的 5 步流程
为什么语言模型有时会编造信息，需要警惕的迹象，以及在使用前核实数据、引用和结论的 5 步流程。
AI 用户常会遇到这样的时刻：回答听起来非常有说服力，有数据、有报告名称，甚至有引用，结果发现其中一部分是编造的。这种现象通常称为“幻觉”（hallucination）。它不是靠某个技巧就能彻底消除的罕见错误，而是需要加以管理的特性。本文帮助你识别它，并给你一套稳定的核实流程。
为什么 AI 会说错却依然自信
语言模型被训练去预测下一段合理的词语序列。这个目标会产生流畅的文本，但“流畅”不等于“正确”。当信息不足，或问题落在模型很少见到的领域时，它仍然倾向于生成听起来合理的答案，而不是说“我不知道”。有些工具通过搜索网络或阅读你提供的文档来减轻这个问题，但即便如此，模型仍可能误解来源或张冠李戴。
目前没有任何服务商承诺完全消除这种错误，所以核查的责任仍在用户身上，尤其是当结果要发布或用于决策时。
最容易出错的信息类型
| 信息类型 | 风险 | 处理方法 |
|---|---|---|
| 数据、统计、百分比 | 听起来合理但没有来源的数字 | 始终查找出处 |
| 引用、文章标题、作者、DOI | 可能完全是编造的 | 打开链接，在学术搜索引擎里搜索标题 |
| 法律条文、文件编号、期限 | 条款编号错误、已失效的版本 | 与官方文本核对 |
| 近期事件 | 模型不知道或了解不足 | 使用网络搜索并核对日期 |
| 价格、产品功能 | 不断变化 | 查看官方页面 |
| 代码和技术命令 | 调用不存在的函数、安全漏洞 | 运行测试，阅读文档 |
| 人名、生平 | 把同名的人混为一谈 | 核对多个独立来源 |
5 步流程
步骤 1：把回答拆成可核实的陈述
阅读结果，给可能对也可能错的句子划线：数字、专有名词、日期、因果关系、引用。笼统的解释比具体的陈述风险小。
步骤 2：按利害程度排序
不需要用同样的力气核查所有内容。优先处理一旦出错会造成后果的地方：金钱、法律、健康、声誉、安全。内部邮件开头一句轻微的错误，与发给客户的报告中的一个错误数字，完全是两回事。
步骤 3：找到原始来源，而不只是二手来源
去找原始资料：统计机构的报告、官方门户上的法律文本、科学论文、开发者的文档。如果 AI 提供了链接，请打开并阅读该页面是否真的这么说。链接存在并不能证明内容正确。
步骤 4：交叉核对
对于重要的点，至少找两个独立的来源。你可以问另一个模型，但只把它当作提示而不是确认，因为两个模型可能朝着同一个方向出错。当来源相互矛盾时，优先采用原始且最新的那个。
步骤 5：记录来源并标记不确定之处
对于你发布的内容，注明来源和查阅日期。对于无法核实的内容，要么删掉，要么明确写出未经证实。这样既对读者诚实，也保护了你自己。
回答中的警示信号
- 对一个你找不到的来源，给出太多过于具体的细节（章节名、页码）。
- 逐字引用却没有链接。
- 数字圆滑得可疑，或好得令人难以置信。
- 对专家通常会说“视情况而定”的问题，却给出确定的回答。
- 作者或机构的名字听起来耳熟，但你找不到相应的出版物。
- 当你轻轻反驳时，模型立刻改口并道歉：这说明它没有牢固的依据。
如何提问以减少错误
- 要求它只根据我提供的文档回答，如果找不到就说“文档中没有”。
- 要求它明确区分来源中有的内容和推断出来的内容。
- 要求模型说明它的把握程度以及它做了哪些假设。
- 对于搜索，要求提供指向来源的直接链接，然后自己打开检查。
- 把复杂的问题拆成小问题，逐步检查。
这些做法能减少错误，但不能消除。关于如何写出清晰的请求，另见如何写出有效的提示词一文。
有助于核实的工具
带引用的研究工具，例如会显示来源的 AI 搜索引擎、读取你自己文档的助手、查找科学论文的工具，能帮你更快地从答案走到来源。它们值得使用，但同样的规则适用：打开来源并阅读。你可以在目录里查看“研究”这一组来寻找选项。
对于你发布的内容
Google 在其指南中明确表示，使用 AI 创作内容并不被禁止，但主要为了操纵排名而批量生成的内容，或对读者没有价值的内容，违反其垃圾内容政策。它关心的是质量、准确性和对读者的帮助，无论使用什么工具。因此，核实不仅是好习惯，也是你的内容站得住脚的条件。
结论
把 AI 当作一个敏捷、善意但有时过于自信的实习生：利用它的速度，但要重读每一处重要内容。这 5 个步骤，拆成陈述、按利害排序、找原始来源、交叉核对和记录来源，只多花几分钟，却能避免代价最高的错误。
参考来源
相关文章
本文仅供一般参考，不能替代法律或专业意见。另请参阅编辑、联盟与评价政策。