O problema do mandante invisível: responsabilização quando agentes de IA agem por alguém sem posição na arquitetura de autorização

Quem autoriza e quem suporta as consequências

Agentes de IA tomam instruções de quem os implantou, financiou ou integrou. Em contextos institucionais, essas pessoas ou organizações não são necessariamente quem sofre o efeito direto da ação. O paciente na cadeia de cuidados, o titular de dados protegidos, o trabalhador sujeito a um sistema de decisão ou o utilizador de hardware com firmware atestado pode estar presente em todas as consequências e ausente de toda a autorização.

Este é o problema do mandante invisível. A arquitetura reconhece o mandante formal, mas não representa a pessoa cujo interesse está em jogo e que não pode autorizar, recusar ou renegociar a atuação do agente.

Porque a delegação normal não resolve

A delegação funciona quando o delegante tem legitimidade para representar o interesse afetado. Muitos agentes institucionais não têm essa simetria. Um hospital, fornecedor de nuvem, fabricante de hardware ou operador de infraestrutura pode ter autoridade operacional, mas isso não significa que todos os interesses humanos tocados pelo agente estejam representados no contrato de autorização.

Quando o sistema falha, a investigação encontra credenciais válidas, políticas seguidas e logs completos. O que não encontra é uma posição formal para a pessoa que suportou a perda, porque essa pessoa nunca fez parte da cadeia de autorização.

Três cruzamentos onde aparece

Nos cuidados, uma pessoa pode ser classificada, escalada ou deixada sem escalonamento por um agente configurado para objetivos institucionais. A sua agência aparece apenas depois, como reclamação.

Em segurança pós-quântica, o titular dos dados cifrados pode não ter voz na sequência de migração que define o risco futuro dos seus dados. A autorização pertence à organização, mas a exposição pode pertencer a outra pessoa.

No hardware, o utilizador final herda um estado de firmware, uma política de atestação e uma cadeia de confiança que nunca escolheu. O dispositivo fala em nome de uma identidade técnica, mas as consequências caem sobre a pessoa que o usa.

O requisito arquitetural

A resposta não é fingir que todos podem ser consultados em cada operação. É criar representação explícita para interesses invisíveis: limites de finalidade, canais de objeção, revisão humana quando o impacto muda de categoria, e registos que identifiquem não apenas quem autorizou o agente, mas quem foi afetado pela ação. Sem isso, a responsabilização só cobre o mandante visível.