← 返回博客 博客笔记 · 2026-06-14

退役问题

问责不会随AI智能体的关闭而终止。运行期间积累的义务在退役后依然存在——未经规划的系统,将使问责索赔无处送达。

Asaptic Labs 5 分钟阅读 × 量子安全 × 硬件 × 人类护理

当AI智能体系统关闭时,最自然的假设是其义务随着运营的结束而终止。智能体停止行动;审计追踪被存档;构建它的团队继续前进。但问责不是系统是否运行的函数。它是过去行动的后果是否仍存在于世界中的函数——这些后果不会因智能体消失而停止存在。

这就是退役问题。它不是狭义上的技术问题;它是一个治理问题,当有人询问系统在运行期间积累的问责义务发生了什么时,这个问题就会浮现。在大多数当前部署中,答案是这些义务消解了。系统消失了。记录可能可以访问,也可能无法访问。理解它的人可能已经散去。针对已退役智能体的索赔没有明确的地址。

退役会破坏什么

智能体系统关闭时,三类问责基础设施面临风险。第一类是证据性的:审计日志、决策记录以及解释它们所需的上下文。仅仅存档日志是必要但不充分的。没有模型版本、输入上下文、有效权限和调用的下游系统,一条写着"14:32:07采取了行动"的日志条目无法被解读。保留了日志但丢弃了解释上下文的退役操作保留了审计追踪的形式,同时破坏了其功能。

第二类是密码学的。如果智能体使用签名密钥来证明其决策,这些密钥在退役时面临托管问题。在关闭时销毁的密钥无法用于验证历史决策。无限期保留的密钥会产生自身的风险。退役时刻需要一个深思熟虑的密钥托管计划,而不是默认销毁或保留。

第三类是关系性的。智能体系统通常在集成网络中运行:它调用的API、它更新的系统、它嵌入的人类工作流。这些关系不会因智能体终止而终止。从已退役智能体接收输出的下游系统可能会继续基于这些输出行动多年。问责链不在智能体的最后一次行动处终止;它通过之后发生的每一个下游后果向前延伸。

后量子交叉口

退役问题的密码学维度在与后量子安全的交叉点上最为尖锐。使用现在被认为脆弱的算法签署其决策的智能体呈现了一个追溯完整性问题:即使正确记录了过去的决策,任何未来方也无法验证它们。审计追踪存在,但信任它的能力已经过期。

这在退役时创造了一个具体义务:在关闭之前而不是之后,将签名密钥迁移到后量子算法。以历史记录上的遗留签名退役的系统使那些记录处于未来无法验证的状态。这不是技术细节。这是一个问责失败——可能多年不可见,直到有人需要重建系统实际决定了什么,并发现信任链已经断裂。

逆向问题同样适用。如果已退役系统的历史记录在退役时被以新算法重新签署,重新签署事件本身必须被证明。"此签名于某日由某权威机构从算法A迁移到算法B"这一记录本身就是审计追踪的一部分。缺失它会以另一种方式瓦解证据链。

硬件交叉口

在专用硬件上运行的智能体——安全飞地、硬件安全模块、可信执行环境——留下了特定的退役残留物。硬件可能被重新利用、转售或销毁。每条路径对于留下什么和销毁什么有不同的含义。

重新利用的硬件存在意外数据持久性的风险。没有明确清除的密钥、部分日志和模型工件可能在转换到新目的时存活下来。新系统继承了旧系统的幽灵——不是在运营层面,而是在证据层面。转售硬件通过将其移出原始运营者的控制范围,放大了这一风险。销毁硬件消除了持久性风险,但也消除了未来问责索赔可能需要的任何剩余密码材料。

这些结果没有哪个是自动正确的。硬件的正确退役路径取决于系统积累的问责义务、这些义务持续多长时间以及谁有权做出托管决定。不从问责审计开始的硬件退役程序是在猜测正确答案。

物理世界护理

在物理护理环境中,退役问题采取了最具后果性的形式。管理护理决策的智能体——监测、排班、升级、药物管理——积累了以生物时间尺度而非系统生命周期运行的问责义务。护理由智能体决策塑造的患者可能在数年内有健康后果展开。如果出现问题,问责调查将需要访问智能体决定了什么、为什么这样决定以及当时的运行状态。

护理问责义务也以大多数智能体系统没有针对设计的方式进行法律结构化。医疗记录保留要求因司法管辖区而异,通常在护理事件结束后延伸数年或数十年。对医疗决策做出贡献的智能体在功能上是医疗记录的一部分。其退役需要与适用于其生成记录的保留义务协调——不仅仅是它为自身审计追踪记录的记录。

护理中退役时的交接问题尤为棘手。如果护理智能体被后继系统取代,后继系统不仅需要了解护理的当前状态,还需要了解产生该状态的决策历史。不包含向后继系统或将承担工作的人工护理者进行结构化交接的退役计划,已在护理记录中引入了一个可能永远无法完全重建的不连续性。

退役计划需要什么

退役应该被视为一级问责事件,而不是清理任务。实践中这意味着几件事。

关闭前,问责审计应记录系统积累了什么义务、持续多长时间以及谁继承它们。这不是对系统状态的技术审计;它是一份将问责映射到存续实体的治理文件。部署该系统的组织不必然在关闭系统时卸除问责。退役计划应明确说明哪些义务仍然存在。

日志保存必须包括解释性上下文,而不仅仅是原始记录。目标不是存储字节;而是保留未来调查员重建发生了什么的能力。这需要模型版本记录、输入上下文模式、决策时的有效权限状态,以及运行期间任何已知系统异常的文档。没有上下文的日志是考古学,而非问责。

密码连续性在关闭前需要密钥托管决定。如果系统对其决策进行了签署,签署材料需要一个计划:在关闭前迁移到后量子算法,建立长期托管安排,并将迁移事件记录为审计追踪的一部分。在关闭时销毁密钥是一个对未来可验证性有永久后果的选择。它应该被审慎做出,而非默认执行。

下游通知应到达从已退役智能体接收输出的每个系统和工作流。这些系统需要知道那些输出的来源不再存在,输出无法被刷新,以及关于过去输出的任何问责问题必须指向存档记录而非活跃系统。

退役问题最终提醒我们,智能体系统不受其运行时的限制。它们通过后果向前延伸,通过记录向后延伸。把关闭视为问责故事终结的退役计划,误解了故事在哪里结束。

摘要

关闭AI智能体系统不会终止其问责义务。过去的决策继续产生后果;审计记录仍受未来调查的约束;护理和法律义务以比任何系统生命周期更长的时间尺度运行。退役问题有三个面向:证据性(没有解释性上下文的日志不可读)、密码学(在关闭时销毁签名密钥使历史记录无法验证)和关系性(接收输出的下游系统继续基于这些输出行动)。在后量子交叉口,历史记录上的遗留签名在它们记录的问责义务到期之前变得无法验证。在硬件交叉口,重新利用或转售的设备携带证据残留物。在物理护理中,智能体生成的记录可能是医疗记录的一部分,受长期保留义务约束。退役应被视为一级问责事件:从义务审计开始,保留带有解释性上下文的日志,做出深思熟虑的密钥托管决定,并通知下游系统。把关闭视为问责故事终结的计划,误解了故事在哪里结束。