丧失行为能力下的同意问题：当AI智能体必须代替无法表达同意的人行事时的问责困境

AI智能体的标准问责模型假设主体层次结构终止于一个有能力的人类：一个可以确认授权内容、撤销不再适当的权限并对其认为不准确的记录提出异议的人。当出现问题时，层次结构顶部的有能力人类是最终参考点。这种模型在大多数智能体部署中不会崩溃。它在一类情况中比任何其他情况都更彻底地崩溃：当受智能体决策直接影响最多的人在做出这些决策时丧失了行为能力。

行为能力丧失在物理世界中有多种形式——镇静、无意识、急性认知障碍，或伴随某些长期状况而出现的决策能力逐渐永久减退。在所有这些情况下，当事人无法实时行使其同意权。管理这一领域的法律和伦理框架是围绕人类代理人构建的：一个了解照护对象、能够根据其已知价值观对变化情况进行解释并能够对在不确定性下做出的判断决定承担个人责任的指定人。AI智能体不是这种意义上的代理人。它对参数空间执行逻辑。当参数空间不能覆盖其面临的情况时，差距必须通过判断以外的方式来解决。

在后量子安全交叉点

预立医疗指示——在预期未来丧失行为能力时表达一个人照护偏好的文件——是照护系统中最具影响力的问责文件之一。使用后量子密码保证存储它们提供了一个强有力的属性：记录在未被检测到的情况下无法被修改，并且该保证对任何未来的密码分析能力都是持久的。这是应具备的正确属性，但不是在行为能力丧失情况下同意问题中最重要的属性。

后量子签名的预立医疗指示证明文件自签署以来未发生变化。它不能证明签署时签署者的意图与其当前临床状态、当前价值观或智能体正在处理的具体决策相符。诊断前书写的指示不是诊断后的指示。在对预后的某种理解下表达的照护偏好可能与在修订预后下当事人会选择的内容有实质性差异。完整性保证适用于书面文件。文件与情况之间的解释差距是人类判断问题，每当智能体在与文件条件不完全匹配的场景中依据预先授权行事时，它都会遇到这个问题。

在硬件交叉点

在有失能个人的照护环境中运行的智能体经常依赖硬件嵌入式临床决策逻辑——在配置时指定协议并在部署时经过验证的医疗设备和监控平台。硬件证明确认设备在已验证状态下运行授权固件。这是一个有意义的保证，但它不能解决授权协议是否以所需的分辨率覆盖患者当前状况的问题。

协议差距在照护自动化中是一个普遍问题，但在行为能力丧失场景中变得至关重要，因为患者无法发出协议已达到其边界的信号。有能力的患者如果注意到设备响应与预期不符，可以提醒临床医师。丧失行为能力的患者则无法做到这一点。硬件证明认证了设备状态，但它不能认证该设备状态中编码的协议是否适合当前时刻。当智能体的逻辑遇到其嵌入式协议未设计处理的场景时，其所代理的人的行为能力丧失意味着协议覆盖与临床现实之间的差距无法由最有动机宣告这一差距的当事方来宣告。

在物理世界照护交叉点

物理世界照护交叉点以最直接的形式呈现了行为能力丧失下的同意问题。管理失能照护的法律和伦理框架依赖于能够行使情境判断的代理人——能够权衡竞争价值观、适应新信息并接受对无法完全预先理由化的决定承担责任的人。在预先授权照护计划内行事的AI智能体不是在这种意义上行使判断。它将当前条件与预先指定的参数进行匹配，并采取参数指定的行动。当当前条件超出或落在参数之间时，智能体不像人类代理人那样能够识别差距。

这不是对照护环境中智能体部署的批评。智能体在人类存在无法匹配的分辨率和持续时间下提供连续监测。问题特别在于当行动范围超过授权范围时会发生什么。在行为能力丧失场景中，没有有能力的主体可以实时扩展授权。差距必须通过架构来处理：具有更严格自主边界的明确失能操作模式、当智能体遇到超出其授权范围的条件时向人类代理人强制升级的途径，以及对在预先而非实时同意下采取的每项重要行动背后推理的增强日志记录。

记录作为实质性事实

行为能力丧失下同意问题有一个设计回应经常被忽视，因为它看起来像是行政事务：当智能体在失能授权下运行时产生的每条问责记录都应明确记录这一事实。智能体在预先授权而非实时同意下行事的记录不是免责声明，而是任何后续审查——临床、法律或伦理的——的实质性事实。省略此背景的记录将在没有有能力的同意主体情况下做出的智能体决策呈现为仿佛有该主体一样。这种错误陈述不能通过记录的密码完整性来修复，而是通过记录未能说明的内容引入的。在行为能力丧失场景中准确、完整的问责要求智能体采取行动所依据的授权模式成为智能体产生的记录的一部分。