旁观者问题：AI智能体目睹其无权阻止的伤害时的问责机制

每个AI智能体的部署都带有一种隐含的范围理论。智能体被授权在一个明确的领域内行动，领域之外的一切不在其考量之中。楼宇自动化智能体管理暖通空调和门禁控制；照护协调智能体追踪用药计划和就诊时间窗口；物流智能体在设施内路由库存。每个智能体都在其委托人层级划定的边界内运作。

当一个合法运营中的智能体感知到对人造成伤害的迹象，却没有干预的授权、能力或职责时，旁观者问题就出现了。楼宇智能体的摄像头画面显示有人在其监控但不服务的走廊里摔倒了。照护协调智能体的日程数据反映出其名单之外的相邻单元存在连续未签到的规律。物流智能体的传感器阵列在其经过但不管理的禁区中检测到疑似处于困境中的人员。

每个智能体都获得了态势感知信息，而对于处于同一位置的人来说，这些信息将构成立即采取行动的道德义务。但智能体根据其部署条款并无此种义务——或至少没有明确的义务。

这并非仅在异常部署中才会出现的边缘案例，而是任何配备超出其运营边界的传感器、在物理世界中运行的AI智能体所面临的结构性条件。摄像头、麦克风、环境传感器和存在探测器产生的态势感知覆盖范围超出智能体的职责范围。智能体所感知到的信息与其被授权采取行动的范围之间的差距是设计常量，而非异常。

两种失败模式

问责问题有两种截然不同的失败模式。

第一种是不作为失败。智能体感知到伤害信号，没有响应的职责，于是什么都没做。如果伤害最终发生，而智能体的日志显示它拥有相关数据——与跌倒一致的运动异常，与困境一致的生理信号——那么谁对路由该信号负有隐性义务，就成了当前问责框架难以解决的法律和伦理争议。谁来承担责任？是限制了其范围的智能体委托人？还是未配置跨智能体警报功能的更广泛系统运营者？抑或是在授权文件中未考虑旁观者义务便完成部署的机构？

第二种失败模式是未授权干预。无论结果如何，擅自扩大范围响应紧急情况的智能体均已违反其授权。正确识别了处于困境的人员并呼叫紧急服务的智能体，可能改善了结果，但肯定超越了其职责。如果感知是错误的——信号被误读，情况无需升级即可解决——智能体的未授权行动使其委托人面临责任风险，却没有相应的收益。当同一部署中的多个智能体在不同置信度阈值下独立作出这一决策时，问题进一步复杂化，产生了无任何单一委托人授权、无任何问责框架预见的不一致上报行为。

后量子安全交叉点

当传感器数据的完整性无法保证时，两种失败模式都会变得更糟。感知通道存在被篡改风险的智能体面临更复杂的旁观者情境：它可能被诱导感知不存在的紧急情况，从而触发未授权上报；或被诱导未能感知真实存在的紧急情况，在关键时刻导致不作为。触发旁观者响应的感知的完整性，依赖于物理世界问责在三个交叉点上普遍所需的硬件认证和密码验证传感器数据链。建立在未经验证的感知之上的旁观者判断既是问责缺口，也是攻击面。能够注入虚假窘迫信号的攻击者可随意触发智能体呼叫紧急服务；能够抑制真实信号的攻击者则可阻止这一行为。

硬件交叉点

嵌入式物理世界智能体——运行于传感器节点、边缘设备和集成楼宇系统上的智能体——面临着响应延迟余量更小的旁观者问题。通过体佩加速度计或地板压力传感器检测到跌倒事件的智能体，其警报价值随时间迅速下降，可用决策窗口或许只有数秒。授权文件不可能预见每一种传感器组合和延迟特性。如果旁观者政策未被事先指定，智能体要么在未经授权的情况下行动，要么延迟至行动已无意义的时刻。两种结果在审计追踪中均无法挽回。

物理世界照护交叉点

照护部署使旁观者问题呈现得最为清晰。在明确照护合同下监测某位居民的照护AI，与它无任何合同关系的相邻空间共享环境传感器——摄像头、运动探测器、噪音监测器。在任意一个夜晚，该智能体都可能是第一个检测到其从未被部署去服务的人员状况恶化的系统。其数据比护士站更为实时，其检测能力或许优于当值的任何人类观察者。而按其授权条款的严格解释，它不被允许采取行动。

认为照护机构只需配置警报以覆盖相邻空间的论点，没有抓住问题的本质。旁观者问题的出现并非因为有人忘记了进行某项配置，而是因为智能体的授权范围与其感知范围在结构上是不同的事物——在照护环境中，两者之间的差距持续地容纳着那些安全取决于某人是否事先认真思考过他们处于边界哪一侧的人。

结构性要求

结构性解决方案是在设计层面明确制定旁观者政策。智能体的授权文件应明确规定——而非默认——智能体在感知到超出其运营范围的伤害迹象时的行为。政策选项是有限的：不作为并记录日志；保存经密码签名的证据记录供人工审查；向智能体正常委托人层级之外的指定接收人发出警报；或在授权链内向持有旁观者授权的人类上报。每个选项都有不同的问责含义，在不知道系统被设计为执行哪个选项的情况下，任何选项都无法在事后进行评估。

无法通过设计消除的张力在于：智能体被部署来做一件事，而世界不断产生需要其他事情的情境。解决方案——通知谁、置信度阈值如何、以什么代价维护范围完整性——是必须在部署前作出的人类判断，而非由智能体碰巧首先遇到的情境塑造的应急行为。

负责任的旁观者智能体，不是在目睹伤害时能做出正确行动的智能体，而是其设计者认真思考了正确行动是什么，将其写入授权文件，并构建智能体精确地只做那件事——并有签名审计追踪证明其确实如此的智能体。