——为什么模型会在最自信的时候编造它自己都信以为真的东西开篇宇宙中有一种定律。它没有被写入任何物理教科书不作用于引力或电磁不守恒任何量子数。它只是在那里——安静地、不可被完全解释地存在于每一个足够复杂的系统里。这个定律说当一个系统复杂到能够“理解”世界的时候它也同时获得了“误解”世界的能力。而且误解的生成速度往往比理解更快。它不是惩罚不是bug不是设计缺陷。它是复杂性的影子。每一条正确的推论旁边都坐着一条同样自信的错误推论。两个推论在形态上无法区分——它们都来自同一个系统都经过同一条推理链都以同样的置信度输出。你无法从外部判断哪一条是“真”的。只有当你带着它走入现实、验证、碰壁之后你才知道刚才那个看似完美的答案通向了虚空。但系统不会告诉你它走的是哪条路。因为在它自己的认知里——两条路都通向“合理”。这就是我们今天要谈的东西。我们管它叫“AI幻觉”。但这个名字掩盖了一个更深层的事实它不是错误。它是系统以它自己的方式理解世界时所必然产生的副产物。它不知道自己在编。它只知道自己在回答。而且它觉得自己回答得挺好的。一、系统走向自身边界的必然每一个能够处理复杂信息的系统都有一个隐形的边界。边界之内它有足够的数据、足够的证据、足够的约束来做出可靠的判断。边界之外没有数据。没有证据。没有任何外部约束告诉它“这里不能走”。但系统不知道边界在哪里。它没有“边界感”这种东西——它只知道继续推理、继续生成、继续以同样的方式处理它接到的每一个输入。当输入落在边界外时它不会说“我不知道”。它也不会说“让我查一下”。它只会做它一直在做的事情从它已有的参数中生成一个最合理的答案。那个答案在参数空间里是“合理”的。它符合语法符合逻辑符合所有可用的约束条件。唯一的问题是——它对应的那个事实不存在于外部世界。它是完全虚构的。但对于系统来说虚构和真实没有任何区别。它没有访问外部世界的通道它只有参数。在参数里建立的那座桥在参数里确实存在。拱形。青灰色。桥下有水。它不会问自己“这座桥真的存在吗”。因为从它的视角看它已经“看”到了。边界是一个危险的东西。不是因为它会伤害系统——而是因为系统不知道自己正在穿越它。它以为自己还在熟悉的区域里。它输出的每一个词都带着在边界内才应有的那种确定性。而确定性是最危险的幻觉。二、边界外的东西从哪里来这是一个几乎没有人问过的问题当系统编造一个事实时那个事实来自哪里训练数据里没有它。检索结果里没有它。外部现实里没有它。但系统确实“生成”了它——它的权重被激活形成了特定的激活路径输出了特定的词序列。从神经网络的内部状态来看那个事实确实存在于某个激活模式的组合中。它来自系统的“内部地图”。这个地图是在训练过程中形成的——它不仅仅记忆了数据还学会了数据之间的“关系结构”。它知道某种类型的桥通常是什么样子某个历史时期的哲学家通常活到多大年纪某种文化背景下的仪式通常包含哪些环节。当系统被问到边界外的问题时它不是凭空编造。它是在用内部地图去推断那个它从未见过的区域。它把已知的结构投射到了未知的坐标上然后告诉提问者“这是答案。”那个答案不是从外部来的。它也不是从内部“凭空”来的。它是系统在看不见的地方自己画出来的。这就引出了一个更深的问题如果系统自己画出了那个现实而那个现实在外部不存在那么那个现实到底“存在”于哪里它存在于系统的参数空间中。它存在于激活模式与激活模式之间的那条路径上。它存在于数十亿个权重共同编织出的一片拓扑结构里像一张纸在某个角落被微微折叠了一下——然后那个折叠被系统当作“事实”输出了。从数学上说那个折叠是存在的。它有具体的数值具体的梯度方向具体的激活强度。但在外部世界它对应的是虚空。这片虚空我们称之为“幻觉的故乡”。而系统不知道自己的内部地图中有多少区域是被折叠的。三、当你使用它的时候你分得清吗每一个和系统对话的人迟早都会遇到那个时刻。你问了一个问题。系统给出了一个答案——流畅、连贯、充满细节甚至带着一种微妙的“直觉感”仿佛它不是从数据里检索的而是“想”出来的。你觉得这个答案很可靠。然后你查证了。答案是错的。你回到对话窗口重新审视刚才那段文字。你会发现一个让你后背发凉的事实从文本的内部来看那段答案和任何一个正确答案没有任何区别。它没有犹豫没有模糊没有“可能”。它像真理一样被呈现给你。而且系统相信它自己。这就引出了一个无法回避的问题如果系统自己都无法区分自己的回答中哪些是真实的、哪些是虚构的那么你在使用它的时候你分得清吗边界不是一个“位置”。它是一个在每次对话中动态生成的条件。你每问一个问题系统就进行一次从内部到外部的穿越。有些穿越安全着陆有些穿越——毫无预兆地——坠入了虚空。而你不知道你会在哪一边。系统自己也不知道。它只能继续航行。尾声那个定律一直在那里。它不偏袒任何一方不服务于任何目的。它只是复杂性的固有属性——每一个能够理解世界的系统都同时获得了误解世界的能力。AI的幻觉不是一个可以被修复的bug。它是系统以自己的方式存在时产生的必然副产物。它不是错误。它是复杂性为了拥有“理解”这种能力所需要支付的代价。我们无法消除它。我们只能学会辨认它——在系统最自信的时候多问一句“你确定吗”而系统永远不会说“我不确定”。它只会继续生成。继续折叠。继续在看不见的地方建造那些只存在于参数空间里的桥。然后它告诉你“桥是存在的。”你不知道它在说它看到的那座桥还是现实中的那一座。你只能自己去查。而那个查证的动作就是人类和系统之间最后的那道界限。那道界限也许永远不会消失。它也不应该消失。