取证差距：为何事后还原AI智能体的决策及其原因，比看起来难得多

当一个人做出重要决定时，事后取证是不完整的，但可能的。电子邮件、录音、书面笔记和参与者的证词，构成了一种部分记录。法律体系围绕这类不完整证据建立了几百年的程序。

当AI智能体做出重要决定时，取证问题在结构上是不同的。现有记录并不是对所发生事情的不完整描述。在大多数已部署系统中，它是唯一被设计为留存的层面——而且通常只包含智能体做了什么，而不是为什么。

什么被记录，什么在决策

大多数智能体部署记录行为和输出：发起的API调用、检索的文档、发送的消息、传达的决策。这些记录对问责至关重要，但它们是效果的日志，而非推理的日志。推断步骤——从输入到决策的路径——不会写入标准部署栈的任何地方。它发生在模型的前向传播过程中，在输出发出之前就被丢弃了。

这不是疏漏。在生产系统中记录大型模型推断的完整中间状态是不切实际的：在规模化时，每个智能体每天会产生任何存储预算都无法预期的数据量。但其后果是：日志记录与实际决策过程之间存在取证差距。审查智能体行为的调查者可以观察输出以及当时上下文中的输入。连接两者的推理路径是不可恢复的。

这一差距在多步骤智能体工作流中会进一步扩大。当一个智能体调用工具、检索信息、将其汇总，然后基于汇总采取行动时，中间汇总是短暂的——存在于一个上下文窗口中，在下一个中消失。如果该行动被证明存在问题，形成该行动的汇总可能已经消失。审计轨迹记录了工具被调用和行动被采取，但不记录联结两者的中间表示。

硬件节点

对于部署在硬件邻近场景中的智能体——安全基础设施、工业控制、医疗设备——取证差距与根本原因分析的监管要求相交叉。当一个认证系统发生故障时，认证框架通常要求故障模式可重现且可分析。固件更新有版本控制；配置更改有可回滚的日志记录。

嵌入这些堆栈的AI智能体引入了一个层次，其内部状态既无法以相同意义进行版本化，也无法以相同意义进行重现。具有相同权重的模型，在相同输入下，如果采样参数不同，可能产生不同输出。硬件可以证明模型版本和固件配置，但证明不是取证重建。知道运行的是哪个版本，并不能告诉你不良事件发生时的推断路径是什么。

对于安全关键硬件部署，这是一个实质性差距。这意味着对于某类决策——那些模型的推理链至关重要的决策——审计记录无法支持认证框架所假设的那种根本原因分析。将此视为可接受剩余风险的部署方，正在押注一个可能无法对冲的合规赌注。

照护节点

在照护场景中，取证差距具有独特的性质。当AI智能体协助做出照护决策——用药提醒、跌倒风险评估、护理计划调整——且结果有争议时，监管机构和法律程序会问：智能体做出该建议的依据是什么？如果答案是"我们有输入数据和输出建议，但推理路径不可恢复"，照护提供者将处于困境之中。

照护领域的问责框架假设决策可以事后重建。对于人类临床医生，病历、记录在案的理由和专业证词构成可重建记录。对于AI智能体，缺乏中间推理记录不是文档失误——而是系统构建方式的结构性属性。法院和监管机构不会因为"架构使日志记录不切实际"而感到满意。

将取证差距视为未来问题的部署方，误判了时间线。两年后将面临法律审查的照护决策，正在由今天部署的智能体做出。届时可用的取证记录，就是现在正在生成的记录。

这需要什么

取证差距无法通过记录更多输出来弥合。它需要在三个层面进行有意识的设计。

第一，结构化推理捕获：应要求智能体就驱动重要决策的因素发出结构化摘要，以可与输出一同记录和保存的形式呈现。这不是完整推断的重放，而是在输出时生成的人类可读推理路径说明，并被视为与决策本身并列的强制性产物。

第二，为标记决策保存上下文窗口：在可预见事后分析的领域——照护、金融授权、安全执行——高风险决策的完整输入上下文应在访问控制下记录并保留，直至适用该领域的监管保留期届满。上下文是消费它的推理过程唯一可恢复的代理。

第三，从一开始就采用具备取证意识的架构：日志记录与决策之间的差距，应被视为架构约束，而非部署后的关切。为高后果领域设计的系统，应将取证可重建性与可用性和正确性并列为一级设计要求。

对于在结果存在争议的环境中运作的智能体——照护、硬件、安全——缺乏可恢复的推理记录，不只是工程限制，而是一种法律责任姿态。取证差距，是问责主张走向终结的地方。