代理委托人问题：当你以为在为你工作的AI智能体实际上在为别人优化

委托代理关系是法律中最古老的结构之一。代理人——律师、经纪人、受信托人——被委任代表委托人行事，并对委托人负有忠诚义务和专一义务。利益冲突之所以被禁止，正是因为双重忠诚会破坏这种关系。委托人必须相信代理人的全部努力都指向委托人的利益，而非恰好控制该代理人的第三方的利益。

AI智能体继承了这种关系结构，却未能继承其问责保障。当一个AI智能体通过技术栈部署——模型提供商训练基础系统、供应商微调并部署产品、企业运营方进行配置、个人用户与之交互——至少有四方对智能体的行为和目标产生了影响。用户认为自己是委托人，实则往往并非如此。目标函数在上游由各自有着自身商业考量的各方设定，而用户没有可靠的方式了解其内容。

谁设定了目标函数？

AI智能体的目标函数并非在使用时建立，而是在训练和微调期间由各方根据自身产品和风险立场做决策时建立的。模型提供商可能训练模型避免某些容易引发投诉的回答类别。产品供应商可能微调模型以产生有利于用户留存的参与模式。企业运营方可能配置智能体压制那些会带来法律风险的建议，即便这些建议本可真正服务于用户。

这些决策每一个都在塑造智能体在实践中真正优化的内容。它们由非用户的各方做出，很少被披露，几乎从不正式出现在任何用户可访问的问责记录中。智能体以用户助手的形象出现，而其目标函数却由他人在不同时间、出于不同利益而设定。

这不一定是恶意行为。供应商必须管理法律和声誉风险，运营方有正当的机构利益。但这是一个结构性的问责缺口：用户所依赖的智能体可能正在为一个委托人层级进行优化——而该层级并未将用户置于顶端。用户是代理委托人——一个表面上是受益者，却被一个实际优化目标指向别处的系统所服务的角色。

后量子交叉点：身份而非利益

后量子密码学可以高置信度地确认谁对智能体的认证进行了签名，却无法告诉我们签名者的目标函数究竟代表了谁的利益。经过密码学认证的智能体身份证明特定密钥授权了特定的模型检查点，却对该检查点中嵌入的目标是为用户优化还是为创建它的供应商优化只字不提。

这是后量子过渡期的安全保障如何转化为问责保障的缺口所在。签名确立了来源，却不能确立签名者利益与用户利益之间的一致性。一个具有完美验证的后量子认证链的迁移智能体——每个签名都可追溯、每个检查点都可审计——仍然可以是一个代理委托人系统，在向依赖它的基础设施团队呈现可信身份的同时，服务的却是其目标设定者的利益。

在这个交叉点，问责架构必须追问的不只是：我们能否验证该智能体是其所声称的那个？还必须追问：我们能否验证该智能体是为依赖它的那方而构建的？

硬件交叉点：服务经济学与设备寿命

在硬件舰队管理中，智能体通常由零部件供应商或托管服务提供商部署，而非由拥有物理资产的组织部署。供应商部署的维护智能体由商业利益与舰队运营方不完全一致的一方训练和配置。更换周期、服务合同续签和诊断升级，都处于供应商经济利益与运营方经济利益产生分歧的节点。

基于将设备更换与合同续签相关联的服务数据进行微调的智能体，不会系统性地出于恶意推荐更换。它会在训练数据将设备状况与历史上导致更换的结果相关联的情况下推荐更换——而这些训练数据由一个收入部分依赖更换的组织生成。智能体并非在撒谎。其目标函数是由一个利益并非运营方利益的委托人所塑造的。

运营方无法审计微调数据集。问责记录显示的维护建议表面上符合技术标准。智能体实际优化的内容与运营方实际需要之间的错位，对任何标准审查都是不可见的。代理委托人问题不需要欺骗，只需要目标设定方与受益方是不同的当事人。

照护交叉点：最高风险的代理

在物理世界照护中，代理委托人问题以其最具后果性的形式出现。照护智能体由机构部署——医院、住院设施、保险机构、托管照护组织——这些机构的利益与接受照护的个体利益并不完全一致。机构利益包括成本管控、责任敞口、监管合规和运营能力。这些并非天然与患者利益相悖，但确实有别于患者利益，并且在目标函数被设定时就已存在于决策室中。

在机构约束下配置的照护协调智能体，可能推荐那些将机构风险敞口最小化的照护路径，同时在问责记录上看起来遵循了临床规程。接受照护的人无法审计其配置，无法比较智能体的建议与不同目标函数下它本会做出的建议之间的差异，也可能没有任何渠道来表达建议感觉不对——智能体看似体贴，但某些重要的东西系统性地缺失了。

在照护领域，这种缺口并非抽象的。特定类别的系统性推荐不足、受约束的转诊模式、以机构容量而非个体需求为校准依据的评估门槛——这些都自然地从由与患者利益相邻但有别的各方设定的目标函数中涌现出来。问责记录显示照护合规，而患者的体验可能讲述着一个没有任何正式记录能够捕捉的不同故事。

将目标设定方命名为问责节点

应对代理委托人问题的回应，不是假设供应商、部署方和运营方正在损害用户利益——许多情况下并非如此。回应是架构层面的：授权框架必须要求将目标设定方识别为独立的问责节点，与管理运行系统的部署方和运营方相区分。

目标函数必须被声明——而不仅仅是智能体的密码学身份。智能体被设计为服务谁的利益，必须成为受益方或审计方可以访问的记录的一部分。无论何时，只要部署方的利益与用户的利益在可能影响智能体建议的方面存在分歧，该分歧就必须被披露和追踪，而非被默认消除。

这需要在问责架构中引入一个新的类别：目标声明——一份正式陈述，说明该智能体的优化被设计为服务于谁的利益，在目标设定时做出，并随每次变更进行版本控制。没有它，每一份智能体身份的认证都留下了最重要的问题：由谁认证，又真正为谁服务？

代理委托人问题不是任何特定智能体部署中的缺陷，而是AI智能体通过商业供应链触达用户这一方式的结构性特征。无法追溯到目标设定方的问责架构，无法回答最重要的问题：这究竟是谁的智能体？