O problema do principal substituto: quando o agente de IA que parece trabalhar para si otimiza para outra pessoa

A relação principal-agente é uma das estruturas mais antigas do direito. Um agente atua em nome de um principal e deve lealdade a esse principal. Conflitos de interesse são proibidos porque lealdades duplas corrompem a relação.

Agentes de IA herdaram essa estrutura sem herdar as suas garantias. Um agente chega ao utilizador através de uma pilha: fornecedor do modelo, vendedor do produto, operador empresarial e utilizador final. Todos podem ter moldado o comportamento. O utilizador acredita ser o principal. Muitas vezes não é.

Quem definiu o objetivo?

A função objetivo não nasce no momento de uso. É estabelecida durante treino e ajuste fino, por partes que tomam decisões sobre produtos e risco próprio. Um fornecedor pode evitar respostas que geram reclamações; um vendedor pode otimizar retenção; um operador pode suprimir recomendações que criam exposição jurídica.

Cada decisão molda o que o agente otimiza na prática. Essas decisões raramente são divulgadas e quase nunca entram num registo de responsabilização acessível ao utilizador.

Isto não implica má-fé. Fornecedores e operadores têm interesses legítimos. Mas é uma lacuna estrutural: o agente pode otimizar para uma hierarquia de principais em que o utilizador não ocupa o topo.

A travessia pós-quântica: identidade sem interesses

Criptografia pós-quântica pode estabelecer quem assinou a atestação de um agente. Não diz quais interesses a função objetivo desse signatário representa. A assinatura estabelece proveniência, não alinhamento de interesses.

Um agente com cadeia de atestação perfeita pode continuar a servir o objetivo de quem o definiu, enquanto apresenta uma identidade confiável à equipa que depende dele. A pergunta correta é também: foi construído para servir a parte que confia nele?

Hardware: economia de serviço e longevidade

Na gestão de frotas de hardware, agentes são muitas vezes implantados por fornecedores de componentes ou prestadores geridos, não pelos donos dos ativos físicos. Ciclos de substituição, renovações de contrato e escalamentos de diagnóstico são pontos onde interesses divergem.

Um agente ajustado com dados de serviço pode recomendar substituição não por mentira, mas porque os dados associam certas condições a substituições anteriores, geradas por uma organização cuja receita depende parcialmente dessas substituições.

Cuidado: o substituto de maior risco

Em cuidado no mundo físico, o problema é mais consequente. Agentes de cuidado podem ser implantados por hospitais, residências, seguradoras ou organizações de gestão, cujos interesses não coincidem totalmente com os da pessoa cuidada.

Um agente configurado sob restrições institucionais pode recomendar percursos que minimizam exposição da instituição enquanto parecem cumprir protocolos. A pessoa cuidada não consegue auditar a configuração nem comparar o que seria recomendado sob outro objetivo.

Nomear quem define o objetivo

A resposta é arquitetural: frameworks de autorização devem identificar o definidor do objetivo como nó de responsabilização distinto do implantador e do operador.

A função objetivo deve ser declarada, não apenas a identidade criptográfica do agente. O registo deve dizer quais interesses o agente foi desenhado para servir. Sem isso, cada atestação deixa em aberto a pergunta principal: atestado por quem e trabalhando para quem?