虚假共识问题：协调智能体在共同错误上达成一致时的问责困境

分布式智能体架构通常将一致性作为正确性的代理信号。当智能体意见不一致时，系统将冲突呈现给人类审查。当智能体一致同意时，系统继续推进。这种结构对大多数错误模式是合理的：真实错误并不常见，而多个独立推理的智能体不太可能同时犯下相同的错误。共识是可靠的信号——直到独立性假设崩溃。

独立性假设以两种可预测的方式崩溃。首先，在重叠数据集上训练或针对相似评估标准进行微调的智能体会共享系统性盲点。它们的一致性反映的是共同血统，而非独立的相互印证。其次，了解共享基础架构的对手可以精心构造利用共享失效模式的输入，在所有智能体上产生对服务于对手目的的输出的自信一致性。在这两种情况下，监督机制在决策最需要审查的时刻，产生了最强烈的可能信号——全票通过的一致性。

这就是虚假共识问题：不是监督未能解决的分歧，而是监督从未被设计来质疑的一致性。

后量子安全交叉点

依赖多个独立验证者的密码学验证方案建立在真正独立验证路径的假设之上。但是从共享参考库提取的验证者实现、从公共硬件根派生的密钥初始化、以及从同一供应链采购的基础设施上运行，并非在对抗性分析所关注的方式上是独立的。了解共享实现特征的有针对性攻击可以生成所有验证者都接受的伪造记录，因为该伪造利用了每个验证者共有的属性，而非任何单一验证者特有的漏洞。

问责后果非常严重。一个旨在证明没有任何单一方能够伪造记录的多方证明，在虚假共识下变成了使伪造记录更可信的机制——因为它现在携带多个独立签名，所有这些签名在狭义上都是真实的，即每个验证者确实签署了它所收到的内容。审计追踪完整。记录是虚假的。多方结构中没有任何内容暴露问题。

算法多样性——刻意部署使用不同实现、不同硬件来源和不同密钥派生路径的验证者——是结构性对策。它增加了实现虚假共识的成本，因为攻击现在必须同时成功对抗异质目标。它不能消除风险，但以对必须经受当前威胁模型考验的基础设施而言有意义的方式改变了攻击的经济学。

硬件交叉点

硬件证明方案通常依赖多个信任根——安全飞地、可信平台模块或硬件安全模块，为智能体身份和配置声明提供独立验证链。在这种情况下，当这些验证节点共享制造来源、固件版本或在同一配置事件期间应用的配置模板时，虚假共识就会出现。

了解共享配置特征的攻击者可以精心构造固件修改或配置操纵，使所有节点以相同方式证明。没有单个节点表现异常。分布式证明记录显示完全一致。基础设施审查将找不到任何需要上报的内容，因为审查过程是在寻找节点之间的分歧——而没有分歧。虚假配置现在已被每个本应检测它的节点所证明。

在大规模部署的硬件集群中，配置管道是创建虚假共识攻击面的共享基础架构。配置来源的多样性、交错的固件更新节奏以及不依赖节点自身证明的独立配置审计，是减少虚假共识暴露的结构性属性。这些不是叠加在合理架构之上的最佳实践。它们是证明具有承载意义的环境中合理架构的组成部分。

物理世界照护交叉点

在照护环境中，部署多个智能体来交叉核查建议是一种被广泛考虑的安全模式。其基本逻辑是合理的：如果一个智能体产生错误建议，达到不同结论的第二个智能体会提供触发人类审查的信号。当两个智能体共享训练数据分布、优化目标和上下文窗口构建约定时，这种模式恰恰失效——这些条件正是大规模部署的典型特征，即从类似提供者采购并针对类似人群配置的智能体。

当在重叠数据上训练的智能体被要求评估同一患者记录时，它们的一致性并不能证明该记录已从两个独立角度进行了评估。它证明了从类似数据中学习了类似模式的两个智能体，在呈现相同输入时得出了类似结论。在这些条件下，旨在捕获第一个智能体错误的监督机制，是一种放大第一个智能体系统性盲点的机制——因为它从相同的盲点分布中取样。

受虚假共识伤害最深的患者是那些病情表现在所有智能体共有的方式上偏离训练分布的人。记录将记录自信的多智能体一致意见。人类审查将不会被触发。事故后可用的问责声明是每个智能体都评估了案例并得出了相同结论——这是准确的，这恰恰是问题所在。

虚假共识对问责设计的要求

使用一致性作为正确性信号的问责架构，必须在一致性本身旁边记录每个智能体贡献的来源。训练数据集血统、基础模型版本、微调数据集标识符和上下文窗口构建约定不是实现细节。它们是评估一致性是否反映独立印证或共同血统所需的证据。

这些元数据需要在决策时记录，而非在事故后重建。在事后调查中，区分真实共识和虚假共识所需的来源记录往往不可用——因为它们在部署时未被视为与问责相关。当问题被提出时，版本已经改变，训练配置已经更新，审计追踪只记录了智能体得出的结论，而非使其结论在认识论上独立或相关的内容。

设计要求即使在实现不简单时也很清晰：每个多智能体决策记录必须包含足以在审计时确定一致性是否可能是独立的来源元数据。在无法捕获该元数据的地方，架构应将一致性视为不强于单个智能体结论的信号——因为在缺乏证明独立性的情况下，它确实不更强。