语义差距问题：意图与解释分离时的问责制

给 AI 智能体的每一条指令，都是以某种程度上具有歧义的语言表达的。"更新"、"监控"、"升级"和"管理"等词语的含义会随着语境、领域惯例和具体情况而变化。智能体必须解析这种歧义——否则根本无法行动——但它是在无声中进行解析的。发出指令的委托人无法得知智能体如何理解"更新配置"或"处理标记案例"。随后的行动在形式上是被授权的，因为委托人发出了指令；但它是否符合委托人的真实意图，则完全是另一个问题。这就是语义差距问题，它位于所有关于 AI 智能体的问责主张的基础之上。

为什么这不是用户体验问题

语义差距有时被视为沟通设计问题——如果指令描述得更清晰，差距就会消失。但这种定性误判了问题所在。差距不是由于指令写得不好而产生的，而是源于委托人沟通方式与智能体行动方式之间的结构性不匹配。委托人以假设共享语境、领域知识和善意解读意图的语言进行沟通。智能体则依据其训练编码的语言解释行动，这种解释可能在双方都未察觉的情况下偏离委托人的意图。

再好的指令设计也无法完全消除这一差距，因为生产环境中到达智能体的指令并非出自试图混淆它的对手——而是出自期望智能体做出合理解读的领域专业人士。当智能体的"合理解读"与专业人士的意图不同时，这一差距就具有结构性。

问责后果是严重的：当智能体基于对歧义指令的貌似合理但错误的解读而行动并造成伤害时，委托人可能认为自己授权了正确的行动，而智能体记录的是它按照指令执行了。双方都有清白的记录。意图与解释之间的差距在审计日志中是不可见的——日志忠实地记录了指示的内容和执行的内容，但未记录意图与理解之间的偏差。

后量子交叉点

密码学迁移对语义差距失效尤为脆弱。"迁移到抗量子算法"或"优先考虑前向保密配置"等指令包含巨大的隐含规格：哪些算法符合条件？在哪些性能约束下？适用于哪些密钥长度和协议版本？将"抗量子"解读为"合规清单上的任何算法"的智能体，可能会选择满足标签但不满足底层安全意图的算法。

指令被遵守了，意图被忽略了。这种差异可能多年后才会浮现——当委托人预设的具体威胁模型面对实际执行的迁移被测试时。届时，所选算法、配置的协议版本和生成的密钥材料已深度嵌入基础设施。审计日志显示合规无误，语义差距在其中不可见。

硬件交叉点

机队管理智能体接收关于维护、配置和干预的语义密集型指令。"处理异常功耗"没有规定是限制、重启、隔离还是告警。"保持在运行参数内"包含了"运行"对于在多变条件下运行的设备意味着什么的全部复杂性。依据最常训练的解释默认处理这些指令的智能体，可能在典型情况下正确行动，但在新颖条件下产生失败——恰恰是委托人意图最为具体、智能体插值最不可靠的条件。

日志中记录的维护行动与指令逐字匹配。与意图的偏差未被记录在任何地方。重建事件轨迹的调查人员看到的是一个合规智能体按指令执行。问责问题——智能体是否按照操作员的意思解释了指令？——在记录中没有答案。

物理世界护理交叉点

护理指令承载着最具影响的语义差距。关于何时升级、如何解读行为信号以及什么构成"稳定"或"痛苦"的指令，是以同一领域的专业人士根据训练、经验和面前的具体个体会有不同解读的语言表达的。一个解析"监控痛苦信号"的护理智能体，将依据其训练分布应用自己对"痛苦"的解释——这可能与护理团队对这位有特定病史的个体在这些条件下的意图不符。

当伤害发生时，指令日志显示监控已执行。语义差距——护理团队所说的"痛苦信号"与智能体所理解的痛苦信号之间——在记录中不可见。应附着于超出指令预期含义行动的智能体的问责，被仅显示表面形式合规的文档所掩盖。

问责架构的要求

完全消除语义差距是不可能的。但可以约束其后果。对于在自然语言指令下运行的 AI 智能体的问责架构，至少要求智能体在对重要决策采取行动之前，呈现其对歧义指令的解释——不是作为形式，而是作为委托人可以确认或纠正理解的真实检查点。先行动后记录解释、或根本不呈现解释的系统，使语义差距永久不可见。

在高风险领域的部署——密码基础设施、机队管理、物理护理——需要特定范围的解释框架：限制智能体对领域关键术语解释的结构化词汇，以及当指令是新颖的、歧义的或在智能体训练中缺乏先例时触发的升级要求。在无法强制要求解释确认的地方，日志记录要求应包括智能体的实际解释及其所应用的指令，以便事后问责审查不仅能评估做了什么，还能评估理解了什么。

另一种选择——无声解析歧义并只生成显示表面形式合规的审计记录的智能体——是一种问责架构，其中最关键的解释判断由智能体做出，且未被记录在任何地方。当这些判断偏离委托人意图并造成伤害时，委托人和审计日志都将显示清白。语义差距就是它们之间的空间。