阈值问题：智能体自主权无声扩张时的问责

阈值是辅助型智能体与决策型智能体之间的分界线。在阈值的一侧，智能体呈现建议、标记或上报——由人类行动；在另一侧，智能体直接行动，无需人类介入。这条线的位置是任何智能体部署中最关键的属性之一：它决定了谁对哪些决策负责、适用哪些监督机制，以及授权记录在哪里结束、智能体自主判断在哪里开始。

大多数阈值位置并非经过明确设计，而是自然涌现的。一个被授权监控并上报异常的智能体，其隐性阈值由检测模型的敏感度、产生的上报量以及接收上报的人类团队对误报的容忍度共同决定。这些输入都不出现在授权记录中。阈值是部署设计的副产品，而非其明确声明的属性。

阈值漂移是指阈值位置随时间变化，但没有相应的授权决策。最常见的机制是运营压力：上报量超过人类团队的审查能力，于是提高阈值以减少负荷。第二种机制是信任积累：智能体的输出被证明可靠，运营方变得放心地让更多决策无需审查而直接通过。第三种是模型更新：随着底层模型被重训练或微调，置信度评分发生变化，即使阈值值本身未改变，阈值也随之移动。

每一种机制单独看都是可以辩护的。降低误报上报率是良好的工程实践；对经过验证的智能体扩展自主权是合理的信任管理；改进模型是维护工作。但它们共同产生的结果是：智能体的实际自主范围远比部署时经过审查和授权的范围广泛。没有单一决策扩大了智能体的权限——扩张发生在决策之间的间隙中。

后量子安全交叉点

管理密钥轮换的智能体依据一个阈值运作，决定何时自主行动、何时将轮换排入人工审查队列。部署时，阈值可能被设定为：常规轮换自主进行，而影响信任锚点、跨域密钥材料或效期较长的证书的轮换则需要审查。随着时间推移，"常规"的定义逐渐扩大。智能体已自主完成数千次轮换且未发生事故；运营方接受其判断的对象越来越重要。阈值漂移了。最终，智能体自主轮换的密钥材料，正是原始授权设计中要求人工审查的那类——不是因为有人决定授予那项权限，而是因为没有人决定维护排除它的边界。

在后量子迁移情境下，这尤为关键。密钥轮换决策的后果长期存在：在受损或执行不当的轮换下签署的材料，在到期之前仍处于使用状态。在经典时期发生漂移的阈值，可能已将对量子迁移关键密钥交换的自主权转移给从未就该范围接受审查的智能体。

硬件交叉点

物理世界中的智能体——机器人系统、环境控制智能体、机队监控系统——在建议与行动之间的阈值直接影响物理后果的领域中运作。被授权在检测到患者处于困境时向人工护理员发出警报的护理机器人助手，有一个在警报与尝试自主物理干预之间进行选择的阈值。该阈值位置至关重要——它决定了人类是否处于决策回路中。

硬件部署中的阈值漂移特别难以检测，因为它可能体现在上报延迟而非上报缺失上。先前立即上报的智能体可能开始延迟——先尝试简短的自主干预，仅在失败时才上报。上报记录继续显示有上报事件。阈值已经移动，但审计记录不反映这一移动，因为审计记录记录的是上报事件，而非阈值位置。

物理世界护理交叉点

为营养、药物时机或护理方案提供建议的护理智能体，依据区分临床建议与临床决策的阈值运作。部署时，智能体可能被授权标记偏离护理计划的情况而不采取行动——标记是自主的，对标记采取行动需要合格临床医生参与。随着时间推移，最常规的标记以可预测的方式被一致解决；运营方认为智能体的标记足够可靠，临床医生的审查步骤已流于形式。阈值漂移了：智能体开始构建预先解决的标记——建议中包含如此具体的拟议行动，以至于接受标记在功能上等同于接受行动。

授权记录没有反映这一变化。智能体在形式上仍然是"标记"。人类名义上仍在批准。但智能体临床判断的自主范围已在未被命名、审查或记录为授权事件的情况下越过阈值而扩展。当患者结果受到审查时，问责链看似完整——临床医生批准了每一个行动。阈值问题在于：在结果发生之前，临床医生的批准功能已通过漂移被掏空。

阈值问题的解决要求

最低限度的回应是将阈值视为一等设计产物：在部署时声明，变更时明确版本化，并作为授权事件记录。阈值变更——无论由模型更新、运营压力还是信任积累驱动——都应产生在问责权重上等同于原始授权决策的审计记录。运营方应被要求对阈值变更进行认证，而不仅仅将其作为配置更新加以实施。

超越记录层面，阈值还需要监控。当前上报率并不是阈值位置的充分代理指标，因为漂移可以在阈值形式上保持不变的同时降低上报率。阈值治理需要追踪通过自主渠道的决策分布，与部署授权时在范围内的决策分布进行对照——并在交集不再符合授权假设时发出警告。

阈值问题是一个看起来像工程问题的治理问题。用于管理它的工具——置信度阈值、上报路由、审查队列——都是工程构件。但阈值应该设在哪里、谁有权移动它，则是问责问题。将阈值管理视为配置问题而非治理问题的系统，将发现其智能体已获得比任何委托人打算授予的更广泛的自主权限。