AI 为什么会一本正经地胡说八道：三招识破「幻觉」，一个提问公式少踩坑

你大概遇到过这种事：AI 把一个人名说得有鼻子有眼，把一条政策的时间、文号、条款号报得清清楚楚，你照着去查，查不到。

这不是它坏了，也不是它存心骗你。这个现象有个专门的名字——AI 幻觉（hallucination）。搞清它为什么会发生，比记住「AI 不可信」有用得多。

一、它不是在查资料，是在接话

大语言模型的核心训练目标只有一个：根据上文，预测下一个最可能出现的词。它读过的文本里，「根据某某办法第某条规定」后面通常跟着一句很像法条的表述，于是它就顺着这个模式写下去。它优化的是「像不像」，不是「对不对」。

所以幻觉不是偶发故障，而是这套机制的副产品。而且写得越流畅、越笃定，越容易骗过人——人判断真假时，本来就依赖对方的语气。

二、三个具体来源

1. 它不知道自己不知道。 模型没有「这条信息我库里没有」的开关。除非你明确允许它说不知道，它默认会给你一个答案。
2. 细节越具体，越容易编。 日期、数字、人名、页码、链接、文献卷号，这些都是高发区。它的「记忆」是模糊的统计印象，不是原文存档。
3. 训练数据有边界。 它不知道训练截止之后发生的事，也不知道你公司内网、你手上那份 PDF 里写了什么——除非你把内容贴给它。

2023 年美国有律师用聊天机器人查判例，庭上引用了六个案例，法官一查，全是编的，连案号都像模像样。这个案子后来成了「幻觉」最著名的注脚。

三、跟我有什么关系：三类问题最容易踩坑

• 要担责的事：政策条款、法律条文、医疗剂量、税务口径、合同措辞。错了不是丢脸，是赔钱。
• 要引用的事：文献、判例、数据、新闻出处。它给的标题和链接可能整体虚构。
• 要精确的事：报价、库存、车次时刻、软件版本号与参数。

反过来，这些场景可以放心用：改写成稿、列提纲、翻译、解释概念、把长文压成要点、给代码找思路。判断标准很简单——错了会不会有人受损。不会，放心用；会，必须核。

四、三招识破幻觉

第一招：要来源，并且当场点开。不要问「这个说法对吗」，要问「这条出自哪个文件、哪一页，把原文那句给我」。然后你自己去搜那句话。搜不到，就当它没说过。它给的链接尤其要警惕，看起来像官网域名的地址，可能是拼出来的。

第二招：换个问法，把同一件事再问一遍。从反方向问：「有没有相反的案例？」「这条规定有没有例外？」两次答案打架，说明这块它自己也没底。

第三招：直接问它哪儿不确定。「上面这段里，哪几个具体数字是你没把握的，逐条标出来。」这一句经常能让它自己交出软肋。

五、一个提问公式，能少掉一半幻觉

你是【角色】。我要做【具体的事】，用途是【场景】。请遵守：不确定的信息直接写「不确定」，不要编造数字、日期、人名和出处，不要给没把握的链接；如果我这个问题本身有歧义，先问清楚再答。

这段话不玄学，它做的是把「必须给出答案」的默认压力卸掉。模型一旦被允许说「不知道」，编造率会明显下降。

再补一条更实用的：把资料给它，别让它回忆。 要它总结一份文件，就把文件内容贴进去；要它按你的格式写，就给一个样例。让它「回忆」是幻觉的温床，让它「处理你给的材料」才是它最稳的能力。

六、一句话总结

AI 幻觉的本质是：它在用「最像的答案」回答你，而不是用「查证过的答案」。把它当一个能力极强但从不认错的实习生——初稿尽管让它写，事实必须你自己签字。