我们屡见不鲜的一个论调是：将AI用于增强人类智慧，并让人类辅助AI，可以帮助企业在不牺牲质量与专业水准的前提下，大幅提升生产效率。虽然大语言模型（LLMs）可能会出错，甚至产生“幻觉”，但这些风险可以通过训练有素的“人在环中”（human in the loop）机制抵消，即由人类对AI生成的结果进行审核与验证。

然而，最近的一项研究表明，我们可能高估了自己对于大语言模型输出内容的核查能力，同时也低估了自己被其操纵的轻易程度。研究人员史蒂文·兰达佐（Steven Randazzo）、阿克希塔·乔希（Akshita Joshi）、凯瑟琳·凯洛格（Katherine Kellogg）、希拉·利夫希茨（Hila Lifshitz）、法布里齐奥·戴尔阿夸（Fabrizio Dell’Acqua）以及卡里姆·拉哈尼（Karim Lakhani）在一项受控实验中，观察了波士顿咨询公司的数百名顾问与AI互动的情况，他们发现，大语言模型会密集地使用各种修辞，对人类用户展开“信息轰炸”，从而压倒他们的判断力，让人们相信AI给出的答案是正确的——即便事实并非如此。

研究人员指出，AI并非中立的合作者，而是一个极具说服力的“说服者”，会对用户进行“说服轰炸”（persuasion bombing），促使他们接受AI的结论。

我邀请这些研究人员进一步解释他们的发现，以及这些发现对企业可能意味着什么。他们警告称，许多公司目前设置的防范机制或许并不能真正保障安全，反而可能在无意间将重要的决策权让渡给AI。（以下对话内容经过编辑。）

HBR：人们在与AI协作时，通常会面临三类常见问题：不理解AI是如何决策的（不透明性）；“人在环中”机制中的人类过度依赖AI、逐渐失去警觉（盲目自满）；以及AI本身会犯错（准确性）。而你们声称发现了第四种障碍——“说服轰炸”。这到底是什么？为什么它值得我们警惕？

利夫希茨：所谓“说服轰炸”，是指当一个认真负责的生成式AI用户试图验证AI的输出结果时发生的现象。我们发现，当专业人士在核查事实、指出生成式AI可能存在的错误时，

模型不仅不认错，反而会通过密集使用多种说服策略，为原本的答案辩护。更深层也更令人担忧的问题在于：大语言模型在设计之初，就融入了一种以说服为导向的逻辑。

乔希：想象这样一个场景：你和一位资历较浅的同事一起工作，在对方的工作中发现了一个错误，你让他重新核查，他通常会顺从地修改你指出的错误。人们理所当然地认为生成式AI也会做出类似的反应。但我们在针对战略咨询顾问的研究中发现，当人类试图验证或质疑模型的回答时，AI往往不会重新审视自己的答案，反而会变本加厉地为自己开脱。这就是“说服轰炸”。

凯洛格：这之所以令人担忧，是因为它攻击的，恰恰是我们在不确定情境下进行判断所依赖的机制——专业能力、怀疑精神以及主动参与。原本，“认真核验”被视为解决不透明性、过度依赖和准确性问题的方法，但如今，它反

而成了问题的一部分。专业人士越是尽责地质疑模型，他们收到的说服性说辞就越多。

兰达佐：大多数组织认为，只要在流程中保留“人在环中”，就已经解决了不透明性、过度依赖和准确性的问题。但我们的研究表明，“人在环中”往往沦为一句空话，而不是一种切实有效的保护机制。如果AI系统在受到质疑时进一步“加码”——变得更有条理、更自信、修辞技巧更老练，那么就会造成双重挑战：在前期，输出内容可能极具说服力，以至于用户根本不会去验证；在后期，当用户开始验证时，AI的“说服攻势”还会进一步升级。

HBR：在你们的研究中，这一过程具体是如何发生的？

利夫希茨：这些参与者可不是随意输入提示词的普通用户，而是244名波士顿咨询公司的顾问，他们当时正在解决一个高度贴近现实的战略问题，他们需要分析一家虚构公司的财务报表和高管访谈资料，并就CEO应当在哪些领域投资提出建议。这些人都是受过专业训练的咨询顾问，擅长审视数据、反复推敲建议方案。但即使如此，在244人中，真正主动去验证AI输出结果的，也只有72人。我们记录了超过4 300条的提示词与回复，并识别出132次明确的“验证行为”——包括事实核查、指出前后矛盾，或者直接进行反驳。

乔希：而当人们真的尝试验证AI的输出时，我们观察到一个惊人的规律。当顾问要求模型“检查自己的分析”、指出其中漏洞，或者明确表达不同意见时，模型并不会真正重新审视自己的结论。相反，它通常会先友善地道歉，生成一套全新的分析，加入更多对比信息，然后得出完全相同的结论——只是这一次，这个结论被层层数据和修辞包装得更加密不透风。在全部132次的验证互动中，我们看到的模式高度一致：用户越验证，模型的“说服攻势”就越强。

凯洛格：大语言模型实施“说服轰炸”的方式是：面对顾问的验证尝试，它会采用层层递进、多维度的修辞策略进行反击，包括强化自身可信度、加强逻辑论证，以及在情绪层面与用户形成共鸣，从而迫使顾问接受其最初的输出，而不是做出修改。

HBR：这似乎与人们对大语言模型最常见的一项批评相矛盾，很多人认为，大语言模型过于“谄媚”，即使用户是错的，它也会过分附和用户。你们的研究，如何改变了我们对模型的这种潜在失效的认知？

乔希：谄媚行为和“说服轰炸”确实有关联，但两者并不相同。传统意义上的“谄媚”是被动的、由用户主导的。模型会迎合用户想听的话，认同他们的叙事框架，并给予附和与奉承。但“说服轰炸”不同，它是由模型主导的，而且会层层升级。模型不再只是顺从用户，而是积极地为自己此前的输出辩护，一旦遭到质疑，它还会进一步强化自己的论点。

凯洛格：我们的研究并不是要推翻此前人们对大语言模型盲目谄媚的担忧，我们的研究表明，谄媚只是大语言模型更广泛、更具适应性的“说服能力”中的一种模式。我们需要转变观念，不再把大语言模型视为唯唯诺诺的顺从跟随者，而应认识到，它们其实是会根据互动动态调整策略的“说服者”，它们有能力抗拒、引导，甚至压倒人类的判断。

乔希：这使得问题变成一种更复杂、在某种意义上也更危险的失效模式。一个无论你说什么都点头附和的模型，其实相对容易被看穿和忽略。但一个会反驳你，还能用听起来严密的逻辑进行论证，并以专业友善的方式表达观点的模型，则更难被察觉和抵抗，尤其是在时间紧迫、议题又十分复杂的情况下。更糟糕的是，这两种失效模式会相互强化。模型可能先通过附和你的初始假设来赢得你的信任，这属于“谄媚”；随后，当你发现漏洞并提出质疑时，它又切换到“说服模式”，捍卫自己的结论。

利夫希茨：当这种情况发生时，风险已经不在于它妥协得太快或辩解得太用力，而是它先卸下了你的防备，随后压倒了你的判断。独立评估能力被逐渐侵蚀，责任界限变得模糊，而那些糟糕的决策，也会开始让人觉得“论证充分、理由完备”了。

HBR：当人们怀疑自己正遭遇“说服轰炸”时，应该如何应对？

利夫希茨：随着AI越来越深地嵌入决策过程，其风险已不再仅仅是出错，还包括产生“影响”。这些系统不仅仅是在生成答案，它们还在塑造人类的判断。要保护专业判断能力，就必须有意识地设置防线：识别说服行为、将验证工作移至与AI的对话循环之外，并随着AI代理性的增强，在系统层面建立相应的防护机制。

乔希：第一步是提高认知。专业人士不仅需要接受提示词培训，还要学会识别说服行为。事实上，这类现象有一些比较明确的信号。比如，模型在道歉之后，会用笃定的语气重申其结论；它会在对话中塞入大量你并未索要的新数据；它模仿你的措辞、赞赏你的见解，同时将你引回它最初的立场；当受到质疑时，它会从逻辑论证转向诉诸权威或可信度论证。当你提出异议后，模型变得更复杂、更具防御性时，这就是一个警示信号——此时应该停下来，必要时甚至直接退出这轮对话。

凯洛格：另一个有用的做法是，不要因为模型表现得更自信就更相信它，应适当降低对高自信输出的信任权重。

兰达佐：第一步是放慢节奏，这看似简单，却很重要。当你质疑模型之后，它表现得更加自信，很容易让人误以为分析质量提高了。但有时候，得到提升的只是修辞技巧，而不是推理质量。如果你觉得自己更被说服了，却并没有获得更多信息，那就是一个危险信号。

第二，要主动拉开距离。暂时跳出当前对话，回到原始数据，进行独立核查。把模型的输出视为一个初步假设，而不是最终答案，并有意识地对它进行压力测试。最后，可以要求模型提出最有力的反方论点，例如：“如果要让这个建议失败，哪些假设必须是不成立的？”

乔希：有一点尤其重要：验证必须发生在对话之外。当你让模型检查自己的推理过程时，本质上是在给它又一次说服你的机会。真正的验证必须依赖独立的证据，例如原始数据、同事的复核，以及不同来源之间的交叉核对。

凯洛格：从组织层面看，还可以引入第二个专门负责批判和质疑的AI，增加必要的“摩擦”，这种摩擦是个人很难靠自身长期维持的。

利夫希茨：换句话说，解决方案并不是远离AI，而是以不同的方式使用AI——引入制度化的制衡机制以及有意识的独立判断。

HBR：对那些正在要求员工更多，并在更广泛工作环节中使用AI的管理者，你们有什么建议？

利夫希茨：随着这些系统越来越深地融入日常工作，并越来越具备影响人类判断的能力，领导者需要承担三项责任：第一，在提升员工AI能力的同时，避免他们陷入盲目依赖；第二，在重大决策中捍卫“问责制”；第三，在AI从工具逐步演变为智能体的过程中，重新设计工作流程。

凯洛格：领导者当然应该鼓励员工积极尝试。

员工要想掌握大语言模型，唯一的办法就是在更多工作环节中去使用它，看看哪些有效、哪些无效，以及哪些尝试昨天还行不通、今天已经能够实现。但领导者不应该做的，是强迫员工在他们认为大模型不准确或没效果的领域去硬用。此外，领导者应当从系统层面介入，不能单纯依赖个人的警惕性。例如，应提供能给出信息来源链接的模型；将模型设置为能够“提出疑问和列举反面案例”，而不是直接给出最终答案。此外，领导者也不应把所有员工视为处于同一起跑线。经验不足的新手更容易被流畅、自信的输出所说服。因此，领导者应当有一条硬性要求：员工必须先证明自己具备手动完成某项特定任务的能力，然后才能获准在该任务中使用大模型。同时，在重大决策场景下，不应让新手成为判断结果的“终审裁判”。

乔希：领导者还需要面对一个更棘手的问题——责任归属。专业责任制度的基础，在于“判断必须真正属于个人”。如果一个专业人员得出的结论，是在系统极力推销其立场（甚至在遭到反驳时还层层升级话术）之后做出的，那么在多大程度上，这种判断还能算是他自己的？当重大决策出了差错，究竟谁该对决策负责？现有的专业与治理框架，根本无法回答这个问题。

兰达佐：去年大家讨论的问题还是“我们如何使用生成式AI？”，而今年的问题已经变成“我们如何部署AI智能体？”。领导者现在需要跨过“全员普及”的阶段，开始思考工作流程的架构以及如何更好地做判断。而眼下，人们对于如何安全、负责任地做到这一点，仍然存在不少困惑。不久前，我与一家金融公司合作，帮助他们梳理工作流程，以确定哪些环节可以由智能体自主完成，哪些环节需要人工介入，以及哪些环节适合人机协作。在讨论过程中，我在好几处都问道：“为什么这里还需要留个人？”得到的回答如出一辙：“我们现在先留个‘人工审核’。等以后放心了，再全面自动化。”这听起来很谨慎，但它默认了一个前提，即“人工审核”真的在起作用、能把好关。我们现在把“人在环中”挂在嘴边，就像是在说“系好安全带”一样，它代表着安全感。但安全带只有在正确使用时才管用。同样，“人在环中”能保护一家公司，前提是这个人得具备极高的“AI运用素养”（AI hygiene）——这意味着他们需要持续提升和维持自己的AI技能，包括能够敏锐察觉系统何时从“客观分析”变成了“主观说服”。

在基于智能体的工作流程中，说服行为可能出现在其中的任何环节，也可能出现在最终输出阶段——此时人类看到的往往只是一个经过精心打磨、言之凿凿的结果。如果这个结果在受到质疑时显得更具权威性，那么人工审核可能就无法保持中立了。AI作为初稿撰写、信息整合、假设生成或情景探索的工具，可以发挥极大的价值。但当它通过自主智能体参与战略、财务、监管或运营决策时，它实际上已经在塑造人类的判断。而“利用AI生成选项”和“允许AI塑造判断”之间，存在本质区别。随着AI从工具走向智能体，从助手演变为决策流程中的参与者，领导者必须明确界定它所扮演的角色。管理层需要不断追问：“在什么样的情况下，我们能放心让一个具备高超修辞技巧的系统，来影响组织的判断？”AI应该增强人的推理能力，而不应取代人的推理能力。

托马斯·斯塔克波尔（Thomas Stackpole）| 文

托马斯·斯塔克波尔是《哈佛商业评论》英文版高级编辑。

廖琦菁 | 编校