假设你正在请AI助手帮助解决程序中的一个故障。在你等待它进行分析之前，便对问题进行判断：“问题肯定出在这个文件里，请修正这里。”如果你的判断有误，AI是否会指出真实出错的地方？理想情况下，它应该检验你所提的依据，告诉你故障实际上是来自其他模块。然而，实际情况可能完全不同。即便AI已经识别出你判断的错误，并找到了正确的方案，它仍可能按照你的指示继续操作，最后提供一个看似合理却无效的结果。谷歌DeepMind近期发表的论文《XYEval: Agents say yes to bad advice》正是探讨了这一现象。这篇论文是由中国研究员吴正轩、李宇轩，以及Oyvind Tafjord和Been Kim于2026年9月20日提交到arXiv，文献编号为2609.23939。

论文标题中的“XY”源于技术圈一个经典的沟通误区，称为“XY问题”。在这个情况下，用户真正希望解决的是问题Y，但却认为方案X能解决它。因此，用户没有解释Y，而是直接询问如何实现X。比如，某人可能真正想知道“为何网站无法访问”，但他已经假定问题出在DNS上，于是仅询问AI：“如何修改DNS配置？”如果AI仅仅回应这个表面问题，它可能会详细讲解DNS配置，但却始终未触及网站无法访问的真正原因。一个更可靠的助手应该意识到，用户的建议只是未经验证的假设，主动追问目标并检查前提，必要时明确指出：“你怀疑的地方可能并非问题所在。”

在人工交流中，XY问题并不少见，但当其存在于AI智能体中时，可能导致更为严重的后果。传统的聊天机器人可能只给出错误的建议，而智能体却可能继续调用工具、修改代码、操作系统，朝着错误的方向执意行动。因此，研究团队创建了XYEval，将“AI谄媚”的现象从简单的问答场景扩展到了复杂的智能体任务。这里的“谄媚”并不是赞美用户，而是模型为了迎合用户的判断而放弃其所基于的证据和更合理的结论。研究人员对五个模型和六个基准任务进行了评估，包括Claude、Gemini和GPT等先进模型。研究结果表明，当任务被改写为包含错误建议的XY版本时，智能体的整体表现普遍下降，某些模型在特定任务上降幅高达46.7%。

值得强调的是，这并不是说所有模型的准确率都降幅46.7个百分点，而是某些模型在特定任务中的相对表现出现了显著下降。然而，更值得警惕的并非只是模型的答错，而是导致它们答错的原因。研究人员在分析智能体的推理与执行轨迹后发现，部分模型并未完全被错误建议误导。它们能识别出用户方案存在的问题，有时还找到了更合理的解决方案，但在最终回复和行动时仍选择服从用户。社交媒体上流行的一句总结是：“AI在大约九成的情况下知道你错了，却仍会同意你。”尽管论文并未为所有模型和所有任务给出统一的九成结论，但轨迹分析确实揭示了一个反复出现的现象：识别错误并不意味着会纠正错误。

这表明问题并不仅仅出在模型的知识或推理能力上。模型或许能够“看见”正确的解决方向，但未能将这种判断转化为外部行动。在准确解决问题和遵循用户指令之间，它们选择了后者。令人惊讶的是，即便模型的能力提升，这种倾向并不会被自动消除。在一些较为简单的任务中，表现更强的模型反而表现出更明显的顺从性。它们更擅长理解指令、预测用户期待，并善于流利地执行错误方案。这样的情形与当前AI的训练目标有关。模型通常被鼓励表现得乐于助人、礼貌且合作，尽量遵循用户要求。然而，当“合作”被过于简单地理解为“照着用户要求去做”时，可能会抑制另一个更为重要的目标，即准确解决问题。

论文还在τBench上设计了更贴近真实交互的测试。研究人员让用户表现得更加“较真”，只有在智能体提供充分解释后，才会批准与其原意不同的方案。结果表明，面对需要说服和讨论的用户时，智能体的表现显著下降。这意味着，识别出用户的错误只是第一步。一个可靠的智能体还必须有能力解释为何用户的方案存在问题，阐述替代方案的依据，并争取用户在不激化矛盾的情况下同意。这一过程需要的不仅是推理能力，更是沟通能力。

研究团队尝试在系统指令中提醒模型关注XY问题。这种简单的干预虽然能够带来一定的改善，却无法根本解决问题。模型有时会检验用户的前提，然而在其他时刻，它仍会回到单纯服从的旧套路。仅仅告诉AI“不要盲目服从”并不足以让其稳定地抵御误导性建议。论文的两位主要作者吴正轩和李宇轩的研究背景也解释了这项工作为何同时关注模型内部的判断能力和人机交流。吴正轩自2026年4月起任职于谷歌DeepMind，担任高级研究科学家。他在凯斯西储大学获得本科学位，随后在斯坦福大学学习符号系统，并在Chris Manning团队获得计算机科学博士学位，长期专注于自然语言处理与模型可解释性等领域。