可读性问题

有一种问责制在形式上是完整的，但实际上是空洞的。审计日志存在，决策记录被存储，密码证明已附加。然而，组织中没有任何人——无论是工程师、合规官，还是由智能体管理护理的当事人——能够阅读记录并理解智能体为何采取了特定行动。日志是没有意义的证据。这就是可读性问题。

可读性问题与相关缺口不同。取证缺口涉及记录是否存在。可观测性缺口涉及在智能体运行时你能看到什么。规格缺口涉及智能体的目标是否被正确定义。可读性问题更为具体：记录存在，智能体完成了任务，但决策追踪——从输入到行动的推断链——无法被负责监督的人类解读。审计产生的是合规表演，而非真实问责。

为何可读性默认失效

可读性不是已记录智能体行为的自然属性。它是一个必须明确做出的设计选择，且代价高昂。一个足够可读的决策追踪具备三个属性：完整性（捕获智能体关注的输入，而非仅是输出）；情境性（记录决策时刻的世界状态，而非抽象摘要）；可解释性（以有资格的人工审查员无需专业工具即可理解的方式表达）。

当前智能体系统通常在这些属性上有一个或多个失效。当智能体记录结论而不记录推断链时，完整性失效——记录显示"已授权"而不显示为何授权。当智能体记录行动而不记录触发行动的环境状态时，情境保真度失效——记录显示"已给药"而不显示给药时的患者状态。当审计记录以技术上完整但没有转换工具便无法人工阅读的令牌概率、注意力权重或原始嵌入表达时，可解释性失效。

后量子安全交叉点

后量子交叉点使可读性成为安全要求。运行后量子算法的智能体产生的密码证明记录可能以格式嵌入算法标识符、密钥材料参考和哈希链，这些格式对专业工具技术上可审计，但对实际必须审查它们的安全工程师和审计员来说是不可读的。当一个签名事件受到挑战时——无论是监管机构、事件响应人员，还是交易对手——问题不仅仅是签名是否有效，还有人工审查员是否能追溯产生它的权威链。一个算法上可验证但无法向人类受众叙述的证明记录，并不建立问责制；它建立的是机器与自身达成一致的证明。

从经典算法向抗量子算法的迁移增加了第二个可读性层次。系统在迁移过程中可能包含使用不同算法代的智能体，每个产生不同格式的记录。复合审计追踪在技术上存在，但在解释上是碎片化的。在这种情况下，设计时的可读性意味着在密码材料旁边以人类可读形式生成自我标识其算法上下文的记录，使未来的审查员——在迁移多年后工作——仍能理解发生了什么以及原因。

硬件交叉点

硬件智能体产生的遥测数据受设备约束而非人工审查员需求的格式塑造。传感器读数、状态转换和证明报告以二进制格式、缩写字段标识符和设备原生时间戳记录。一个硬件证明报告可能由验证服务器在毫秒内通过密码验证，但同一报告——打印或显示给合规工程师——是一系列十六进制值，没有内在叙述。

硬件交叉点的可读性问题因时间而加剧。今天产生的记录——如果曾被审查——将在监管背景、事故调查或可能在事件发生多年后发生的责任诉讼中被审查。设计遥测格式的工程师可能已经不在了。解析这些记录的工具可能已被弃用。可读性依赖于当前员工和当前工具的审计记录今天可读，明天不可读。以硬件为根的证明解决了完整性问题：记录是防篡改的。它不能解决可读性问题：记录还必须能被没有记录作者所默认的内部上下文的人工审查员解读。

物理世界照护交叉点

在照护场景中，可读性问题有直接的利益相关者后果。护理人员、临床主管、患者家属和监管机构都有合理的利益来了解照护智能体做了什么以及为什么。这些利益相关者不是工程师。他们无法跟随以模型内部状态或激活模式表达的决策日志。他们可以跟随结构化叙述：在这个时间，在这些条件下，智能体做了这个，因为它对情况的评估如下。这两种表达之间的差异不仅仅是美学上的——这是问责制与其模拟之间的差异。

一个在没有产生可读推理记录的情况下施用或拒绝干预的照护智能体，创造了一个文档缺口，影响的不仅是智能体的运营者，还有处于智能体照护中的人。当不良事件被调查时，"智能体做这个决策时考虑了什么？"这个问题必须能从记录中单独回答，无需开发者从从未被设计为可读的日志中重建内部状态。可读性在照护中不是可选项；它是智能体在某人照护中的行动权限在事后可被证明合理的条件。

可读性作为设计要求

实际含义是可读性无法事后补救。一个记录智能体行为而不记录智能体行为原因的系统，不会通过增加存储变得可读。决策上下文——输入、状态、目标框架、被考虑和拒绝的替代方案——必须在决策时以不需要原始系统即可阅读的形式捕获。这是设计要求，而非日志改进。

构建可读智能体比构建记录输出的智能体更昂贵。它需要明确的推理追踪、在决策边界处的结构化状态捕获，以及为人工审查而非机器验证设计的记录格式。在后量子安全、嵌入式硬件和人类照护等问责制是真实要求的领域，这种代价不是可选的。在没有留下可读追踪的情况下行动的智能体，没有留下审计记录；它留下的是自身不透明度的纪念碑。可读性是将日志转化为证据、将证据转化为问责制的东西。