渐进自主问题：当AI智能体的行动范围扩展而问责架构未能同步跟进

赢得信任是良好部署的成果之一。一个在一段时间内展现出可靠、有界行为的AI智能体，原则上应该被赋予更广泛的行动范围。一个连续六个月正确处理用药提醒的照护智能体，是扩展临床监测职责的合理候选者。一个在低敏感区域表现稳定的楼宇管理智能体，可以获准访问更关键的系统。一个在内部流量上表现良好的后量子密码系统，会被扩展至覆盖合作伙伴数据。这是正确的方向。渐进自主问题不在于信任被扩展——而在于问责架构没有随之扩展。

任何部署的授权记录都是一个快照：它捕捉某一时刻、在特定范围内、基于特定假设集合所授权的内容。随着智能体的行动范围扩展，这份快照对智能体实际行为的描述逐渐变得不完整。审计跟踪记录对照原始规范的行为。同意记录覆盖原始受影响群体。监督机制是针对原始风险范围而设置的。当信任范围扩展时，这些均不会自动扩展。结果是，智能体的运营现实与其问责架构之间产生分歧——随着每一次渐进式信任增量而不断扩大。

信任与问责的不对称

信任与问责通常被视为配对关系：一方增长，另一方应当相应扩展。实践中，信任往往通过非正式的运营判断而扩展——主管注意到智能体表现良好，便授权其执行额外任务——而问责基础设施的变更则需要审慎的重新授权：更新同意记录、修订审计范围、调整监督阈值。这种不对称是结构性的。信任可以在一天下午完成扩展，问责基础设施则需要一套治理程序。

这种不对称意味着问责缺口不是监管疏忽，而是运营环境中信任实际授予方式的架构性特征。增量扩展感觉过于细小，不值得触发重新授权。没有任何单一步骤重要到足以触发正式审查。然而累积的扩展，可能使智能体远远偏离其问责架构所设计治理的部署场景。

后量子安全交叉点

后量子密码系统不会在第一天就以完整范围部署。机构通常从流量的子集开始——内部通信、低敏感度密钥材料——随着算法证明可靠、运营信心增长，再扩展覆盖范围。初始部署的问责架构涵盖了该初始范围的审计范围、事件响应义务和上报路径。当覆盖范围扩展至更高敏感度数据、合作伙伴和第三方材料、或影响下游系统的密钥管理功能时，原有问责架构不会自动更新。

在扩展范围内发生故障或遭受攻击的风险状况，与初始范围内相同故障的风险状况存在实质性差异。问责架构应当反映这种差异。实践中，增量扩展往往在未触发对现有审计跟踪、事件响应程序和监督阈值是否适合新范围进行审查的情况下就获批准。密码系统受到更多信任，却没有得到更具问责性的治理。

硬件交叉点

嵌入物理基础设施的AI智能体，通常会随时间推移赢得更广泛的访问权限。最初仅以监测角色部署的智能体——观察环境条件、记录占用模式——经证明可靠后，获得了执行权：环境控制、访问管理、进而集成至紧急响应系统。在每个步骤中，硬件证明验证在扩展角色中运行的智能体是经授权的智能体。它无法验证的是，来自原始仅限监测部署的问责架构，是否足以治理一个现在控制物理访问并可触发紧急响应的系统。

硬件证明是关于身份和完整性的声明，而非关于范围治理。一个以远超其原始部署规范的累积自主权运行的完整经证明智能体，正在一个经过充分证明的问责缺口中运行。信任增量被捕获在运营实践中，问责扩展则没有。

物理世界照护交叉点

照护AI部署尤其容易受到渐进自主问题的影响，因为建立信任是明确的临床目标。一个最初为低风险任务部署的照护智能体——预约安排、日常签到提示——在数周内证明自身价值后，获得了扩展职责：生命体征监测、跌倒检测、行为评估。每次扩展都反映了对智能体已证明可靠性的合理临床判断。问责架构——谁审查智能体的输出、维护什么审计跟踪、适用什么上报阈值——是为执行预约安排的智能体而编写的。

一个为体弱居民执行行为评估和跌倒检测的智能体，在每一个与问责相关的维度上都是不同的部署：受影响群体更脆弱，错误后果更严重，职业责任暴露不同，持续监测的同意影响更为重大。当临床团队决定扩展智能体角色时，这些差异均不会被自动捕获。同意记录仍然描述较窄的范围。审计跟踪仍然适用较宽松的监督。问责架构仍属于已部署的智能体，而非正在运营的智能体。

渐进自主的要求

解决方案不是限制信任扩展——赢得的自主权是合法且可取的部署成果。解决方案是范围触发的问责审查：一项正式要求，规定智能体运营范围的每次重大扩展，都应触发对现有问责架构是否仍适合新范围的明确审查。

审查不必在每次增量时都全面进行。它应当是分级的：进入更高风险领域的扩展需要更彻底的审查；在已建立模式内的扩展需要较少审查。但审查必须发生、必须有记录，其输出——更新后的问责规范——必须成为部署记录的一部分。问责架构应当描述智能体现在被授权做什么，而不是其首次部署时被授权做什么。

在Asaptic Labs，我们将渐进自主视为每个交叉点的持续性设计约束。信任通过表现赢得，问责必须通过治理赢得。两者之间的差距不是运营健康的标志——而是渐进自主问题在每个运行良好的部署背后默默运作的表现。