校准漂移问题：智能体物理世界输入悄然退化时的问责机制

发生故障的传感器会停止产生读数，或产生明显错误的读数从而触发警报。发生漂移的传感器则持续产生读数。这些读数偏差微小且缓慢增长。在任何给定时刻，读数看起来都是合理的。没有单个读数足以引起警惕。只有在事后——当基于数月漂移数据做出的决策被证明是有害的——这一模式才变得清晰可见。

这就是校准漂移问题。它处于硬件与问责的交汇点，在AI智能体部署最快的领域中最为尖锐：实体世界护理和关键基础设施。围绕AI智能体发展的问责框架尚未充分解决这一问题，部分原因在于智能体问责的法律和哲学范畴是围绕离散事件而非渐进退化构建的。

为何漂移比故障更难处理

传感器故障有清晰的问责结构。智能体基于传感器读数做出决策；传感器随后被发现已故障；智能体的行动可追溯至已知故障时间的缺陷输入。责任可以在智能体开发者、硬件供应商和负责维护的运营者之间分配。

漂移消解了这一结构。没有故障时刻。传感器在最后一次校准时产生可接受的读数，现在仍然产生落在合理范围内的读数。智能体不是在基于损坏的输入行动，而是基于逐渐变得不那么准确的输入行动。没有外部参照，智能体无法区分这两种情况。在许多情况下，运营者同样无法区分。

问责问题因此变为：当一个智能体基于其所拥有的输入正确行动，而这些输入已悄然退化时，由谁来承担由此造成的伤害？答案并不明显，现有框架也没有提供答案。

硬件交叉点：信任根的漂移

在硬件交叉点，校准漂移触及智能体身份和加密正确性的基础。硬件安全模块依赖内部振荡器，其频率漂移会影响加密操作的时序。依赖同步时钟的协议中的时序漂移——包括许多进入部署的后量子密钥交换方案——可能导致操作在规范之外悄然运行。操作在完成而不报错的意义上是成功的，但在协议所依赖的时序保证不再成立的意义上是失败的。

这对管理加密状态的AI智能体至关重要。负责密钥轮换、会话管理或硬件锚定系统中证书生命周期的智能体，正在基于依赖校准硬件的时序和状态信息做出决策。如果硬件发生漂移，智能体对加密状态的视图就会存在微妙错误，它将继续自信地基于该视图行动，因为其可观察环境中没有任何信号表明存在问题。

这里的问责挑战在于：智能体不是失败点，硬件也没有以任何可检测的方式损坏。失败模式存在于校准事件之间的间隙中——而这个间隙通常没有被定义、追踪或视为与问责相关的记录。

护理交叉点：读数看起来正确但并非如此

在实体世界护理环境中，校准漂移创造了更直接且更难防御的风险。AI护理智能体基于嵌入护理环境的传感器读数做出决策——关于用药计划、活动水平、护理升级阈值。读数高出两个百分点的血氧仪看起来没有损坏，它报告的值在合理范围内。向下漂移五公斤的体重秤不会触发任何警报，它产生的趋势线看起来平滑。检测半径缩小的运动传感器不报错，只是无法登记实际发生的活动。

在每种情况下，智能体都在根据其输入正确行动。它在读数越过配置阈值时进行升级，维持读数所支持的护理计划。失败是不可见的，直到伤害发生，而漂移的读数在事后做出解释。

最暴露于这种失败模式的人是无法自我报告传感器读数错误的护理接受者。经历真实生理变化的老年居民可能无法区分智能体的决定是不正确的还是情况就是智能体所描述的那样。智能体对其读数的信心——通常以对决策的信心传达给护理人员——并未针对提供证据的硬件的物理状态进行校准。

问责架构的要求

将校准漂移视为问责问题而非维护问题，会改变架构必须做的事情。若干属性变得必要。

首先，校准事件必须被视为一等审计记录。智能体据以行动的每个传感器的当前校准状态，应当是一个已记录、有时间戳且可查询的事实——与智能体做出的决策同等重要。一个记录了智能体决策内容但没有记录当时输入校准状态的审计追踪，在问责意义上是不完整的。

其次，智能体必须将传感器不确定性传播到其输出中。一个基于最近校准超出规定容差窗口的硬件所提供输入进行行动的智能体，应该明确标记这种不确定性——在其决策记录中，以及在可能的情况下向依赖其输出的人标记。智能体对决策所表达的信心，不应与提供其证据的硬件的物理状态无关。

第三，校准计划必须被视为可审计的义务，而非可推迟的维护建议。在护理环境中，这意味着将智能体操作权限与其所依赖传感器的校准状态挂钩。传感器输入超过校准阈值的智能体，应在降级模式下运行——自主性降低，明确标记不确定性——直到校准恢复。

校准漂移问题并不罕见。部署在实体环境中的每个AI智能体都面临它。为这些智能体构建的问责架构需要直接解决它——不是作为边缘案例，而是作为运行领域的结构性属性。