表示差距：当AI智能体依据模型而非现实行动时的问责

AI智能体无法直接接触患者、检查电路板或通过直接观察检测密钥泄露。每一个推断、建议和行动都通过表示来中介——物理现实的结构化近似，在特定时间、通过特定过程创建，可能不再与所描述的内容匹配。

这对AI智能体来说并非独有。人类从业者也依据记录工作。医生审查患者病历时是在处理一种表示，安全工程师审查系统图时也是如此。不同之处在于，人类从业者将隐性知识带入表示与现实之间的差距——他们知道病历缺少上下文，寻找不一致之处，提出记录无法回答的问题。他们的直接接触补充了数据。

AI智能体没有这种补充。表示就是一切。当表示准确时，智能体可以表现出色。当它偏离现实时——而它总会在某处偏离——智能体没有机制检测这种偏差。它以充分的自信基于错误前提行动。

这就是表示差距。它是结构性的，而非偶然的。它来源于数据驱动系统的本质。它所引发的问责问题是现有框架难以回答的：当损害源于有缺陷的表示时，谁对智能体所获的模型负责？

在照护交叉点

在物理世界照护中，一个人的数字表示从临床记录、设备读数、照护计划注释和结构化评估中组装而成。每个数据点在特定时刻、由特定仪器或提供者为特定目的捕获。它们共同形成一个表面上连贯的整体，实际上是来自不同时间、不同来源和不同情境的快照拼图。

这个人已经改变了。他们老化了、康复了、衰退了，或做出了记录尚未反映的决定。药物清单可能包含非正式停用的药物。照护计划可能反映当事人此后已放弃的目标。生命体征基线可能已是数月前的数据。智能体在一个在最后更新时刻准确、此后越来越近似的表示上运作。

当智能体在这种表示上运作时，它做出局部连贯的决策——它们符合数据模型——但可能不符合真实的人。当损害随之而来时，问责问题不仅仅是"智能体推断出了什么？"，还有"谁对智能体所给的表示负责？"没有单一行为者组装了完整的表示。它跨越组织、设备和时间构建而成。智能体的部署者创建的只是其中一小部分。智能体本身无法验证它。问责的差距与模型和现实之间的差距相匹配。

在硬件交叉点

硬件安全智能体在物理系统的表示上运作——网络拓扑图、固件清单、配置基线、漏洞扫描结果。这些表示由以间隔运行的发现过程创建，而非持续运行。扫描之间，物理现实发生变化：设备被替换、固件通过带外渠道更新、配置通过未记录路径被修改。

根据过时地图评估安全态势的智能体并未在检测漏洞——它无法检测它们。其干净的评估相对于表示是准确的，相对于实际系统是错误的。当攻击者利用智能体地图未显示的内容时，问责问题是相同的：谁对智能体运作所依赖的表示的新鲜度负责？答案在部署合同或操作程序中几乎从未明确界定。

在后量子交叉点

加密身份是一种表示：公钥断言"我是这个实体，我控制这把密钥。"密钥材料老化、被泄露、被委托给不再持有它的各方，或被更新的密钥材料取代，而更广泛的系统尚未同步。管理加密迁移的智能体在一个关于哪些算法处于活跃状态、哪些密钥有效、哪些系统已完成迁移的表示上运作。

如果该表示有误——仍被列为有效但已被泄露的密钥、被标记为完成但只是部分执行的迁移、被记录为已弃用但仍在处理实时流量的算法——智能体会以与现实准确时相同的自信认证错误状态。其断言"该系统迁移完成"的自信，在输出上与系统实际上确已完成时无从区分。这一交叉点的表示差距后果尤为严重，因为错误是无声的：在对手利用智能体模型与实际加密状态之间的差异之前，它们始终不可见。

差距所需要的

表示差距没有可以消除它的工程解决方案。持续数据收集可以缩小它；新鲜度跟踪使其可见；异常检测可以标记表示与观察行为偏离的情况。但差距无法完全关闭。数据收集在所有来源上从不同步。表示始终是近似值。物理现实的变化速度超过任何表示系统所能追踪的速度。

差距所需要的是明确命名它的问责架构，而不是将其视为残余细节。部署者应被要求描述其智能体运作所依赖的表示：如何组装、刷新频率以及已知限制。在高风险情境中——照护决策、安全认证、加密状态断言——智能体应被禁止在超过定义阈值的表示上行动，除非明确确认该表示可能已过时。

当损害被追溯到表示错误而非推断错误时——当智能体从错误的输入中正确推理时——问责路径必须到达表示的托管人。那些是组装、维护和提供智能体所依赖的数据模型的组织。他们可能不是智能体的部署者。他们可能是照护网络的数据基础设施团队、硬件供应商的固件更新服务，或证书颁发机构的密钥状态数据源。在每种情况下，他们给了智能体一个可以行动的世界。当那个世界是错的，他们共同承担后续的责任。

智能体依据被给予的世界行动。问责必须到达给它那个世界的主体。