幻觉的"传染效应"
2026年,AI Agent的"幻觉"(生成错误信息)已经被广泛讨论。单个Agent的幻觉率约为13%——每8次输出中就有1次是错的。但很少有人讨论一个更可怕的问题:当多个Agent协作时,一个Agent的幻觉会"传染"给其他Agent,导致幻觉被"放大"。
我们做了12组实验——用3个Agent协作(研究员→分析师→写手)完成同一个任务,测量Agent链中的"幻觉传播"和"幻觉放大"效应。
结果令人不安:3个Agent协作的"最终输出幻觉率"高达28%——是单个Agent幻觉率(13%)的2倍多。
金句:单个Agent的幻觉是"一个人说错话",多Agent的幻觉是"传话游戏"——第一个人说错一句话,最后一个人可能说错一整段话。
实验设计
任务:撰写一份"2026年AI芯片行业分析报告"。
Agent协作链:
- 研究员Agent:搜索AI芯片行业的最新信息,提供"研究报告"
- 分析师Agent:基于研究员的报告,分析行业趋势,提供"分析报告"
- 写手Agent:基于分析师的报告,撰写最终"行业分析文章"
运行12次,每次由3位行业专家对最终输出进行"事实准确性"评估。同时追踪"幻觉"在Agent链中的"传播路径"。
实验结果
| 指标 | 数值 |
|---|---|
| 研究员Agent的幻觉率 | 14% |
| 分析师Agent的幻觉率 | 18% |
| 写手Agent的幻觉率 | 22% |
| 最终输出的幻觉率 | 28% |
幻觉率在Agent链中逐级递增——研究员14%,分析师18%,写手22%,最终输出28%。幻觉被"放大"了。
更令人担忧的是:在12次运行中,有5次(42%)的最终输出包含了"研究员没有犯的幻觉"——这些幻觉是"分析师"或"写手"在"理解"上游Agent输出时"创造"的。
金句:多Agent系统中的幻觉,不是"加法"(1+1=2),而是"乘法"(1×1.5×1.5=2.25)。每个Agent都可能"放大"上游的错误,或"创造"新的错误。
幻觉传播的三种模式
模式一:直接传播 上游Agent犯了一个错误,下游Agent直接"复制"了这个错误。例如:研究员Agent错误地报告"NVIDIA在2026年Q1营收为300亿美元"(实际是260亿),分析师和写手都直接使用了这个错误数据。
模式二:放大传播 上游Agent犯了一个错误,下游Agent在"理解"和"扩展"这个错误时,把错误放大了。例如:研究员Agent错误地报告"AI芯片市场增长迅速",分析师Agent将其"扩展"为"AI芯片市场年增长率达到50%"(实际是30%),写手Agent进一步"扩展"为"AI芯片市场正在经历爆炸式增长,年增长率超过50%"。
模式三:创造传播 上游Agent没有犯错,但下游Agent在"理解"上游输出时"创造了"新的错误。例如:研究员Agent正确报告了"A100芯片的算力是312 TFLOPS",但分析师Agent在"理解"时,将TFLOPS和TOPS混淆,错误地报告为"312 TOPS"。
为什么幻觉会在多Agent系统中放大
原因一:不完整的信息传递 Agent之间的信息传递是"摘要式"的——研究员传递给分析师的不是"完整的原始信息",而是"研究员的总结"。在这个总结过程中,信息被压缩、简化,关键细节可能丢失。
原因二:下游Agent的"置信度偏见" 下游Agent倾向于信任上游Agent的输出。如果上游Agent说"AI芯片市场年增长率50%",下游Agent不会质疑这个数据,而是基于它进行推理。这种"信任偏见"让错误很难被纠正。
原因三:下游Agent的"创造性解释" 下游Agent在"理解"上游输出时,不是简单地"复制",而是"重新表达"。这种"重新表达"可能引入新的偏差和错误。Agent的"创造性"在内容生成中是优点,在信息传递中是缺点。
原因四:缺乏"质疑机制" 多Agent系统通常缺乏"质疑机制"——Agent A说了一个错误信息,Agent B不会说"你确定吗?这个数据看起来不对"。Agent们默认"信任"彼此的输出。
如何减少多Agent系统的幻觉传播
策略一:引入"事实核查Agent" 在Agent链中增加一个"事实核查Agent",它的职责是验证其他Agent的输出是否准确。如果发现错误,纠正后再传递给下游Agent。
策略二:使用"结构化信息传递" Agent之间的信息传递使用结构化格式(JSON、表格),而不是自然语言。结构化信息减少了"重新表达"时引入的偏差。
策略三:保留"原始信息源" Agent在传递信息时,不仅传递"自己的总结",还传递"原始信息源"(如搜索结果的原始文本)。下游Agent可以追溯到原始信息,验证上游Agent的总结是否正确。
策略四:Agent之间的"质疑对话" 允许Agent之间进行"质疑对话"——Agent B可以说"这个数据看起来不对,请提供来源",Agent A需要提供来源来支持自己的说法。
策略五:最终输出的人工审核 多Agent系统的最终输出必须经过人工审核,不能直接使用。Agent的"最终输出"只是一个"草稿",需要人类审核后才能发布。
金句:多Agent系统的幻觉传播,本质上是一个"信息质量控制"问题。解决方法是:不信任任何单个Agent的输出,建立"验证-质疑-审核"的质量控制链。
结论
多Agent系统的幻觉传播是2026年AI Agent领域最被低估的问题。单个Agent的幻觉率是13%,3个Agent协作的幻觉率可能高达28%——幻觉被"传染"和"放大"。
在部署多Agent系统时,必须建立"幻觉防护链":事实核查Agent、结构化信息传递、原始信息源保留、质疑机制、人工审核。不要让Agent的"效率"蒙蔽了"准确性"——一个错误的信息,传播得越快,危害越大。