O problema do segundo agente: responsabilidade quando um agente de IA herda consequências que não criou
Toda implantação de agente de IA tem uma história que o agente não escreveu. O problema surge quando a responsabilidade pelo resultado atual não pode ser separada das consequências de decisões anteriores.
O modelo padrão de responsabilidade para agentes de IA assume um ponto de origem limpo: o agente é implantado, age, as ações são registadas e, se algo corre mal, consulta-se o log. Esse modelo funciona quando toda a história operacional do agente é sua. Na prática, muitos agentes não são primeiros agentes. Herdam. Assumem um paciente a meio do cuidado. Operam hardware que não configuraram. Gerem material criptográfico que não geraram. Aplicam políticas de autorização estabelecidas antes de existirem.
O problema não é falta de acesso à história. O agente pode ver registos anteriores, snapshots de configuração e logs de auditoria. O problema é estrutural: o registo de responsabilidade do agente começa quando ele começa, mas a cadeia causal que produz o resultado atual pode vir de muito antes. A consequência herdada torna-se condição inicial e, no log atual, parece verdade de base.
No cruzamento da segurança pós-quântica
Material criptográfico tem ciclos de vida que raramente coincidem com ciclos de implantação de agentes. Um agente que assume gestão de chaves a meio do ciclo herda chaves que não gerou e condições que não definiu. Se foram geradas por algoritmo clássico agora vulnerável, as garantias do agente atual ficam limitadas por esse material herdado, mesmo que as suas práticas atuais estejam corretas.
Isto cria assimetria de responsabilidade. Se uma falha ou compromisso de chave for depois atribuído ao material herdado, a pergunta de atribuição não pode ser respondida apenas pelo registo do agente atual. Assinaturas pós-quânticas em operações atuais provam a integridade dessas operações; não certificam a integridade do substrato em que assentam.
No cruzamento do hardware
Configurações de hardware persistem durante vidas úteis prolongadas. Quando uma nova instância de agente começa a operar hardware que não comissionou, herda as propriedades de segurança e as dívidas de segurança codificadas nesse dispositivo. Firmware aceitável na implantação inicial pode ficar abaixo dos padrões atuais. Chaves de atestação geradas sob pressupostos antigos podem oferecer garantias mais fracas.
A atestação de hardware responde se o dispositivo está agora a executar firmware autorizado num estado verificado. Não responde quem decidiu o que era autorizado nem se essa decisão seria tomada da mesma forma hoje. O agente herda o estado de hardware e a baseline de autorização.
No cruzamento do cuidado físico
A continuidade do cuidado significa que agentes clínicos encontram pacientes a meio de uma trajetória. O plano que executam foi criado antes. Medicamentos já foram prescritos. Intervenções anteriores não podem ser revertidas. O agente herda dados e obrigações clínicas, compromissos assumidos noutro contexto operacional.
Quando ocorre um resultado adverso, a revisão deve perguntar se foi moldado por decisões atuais, por elementos herdados do plano de cuidado ou pela interação entre ambos. Essa pergunta raramente é respondível apenas pelo registo do agente atual.
O registo de herança como primitivo de responsabilidade
A resposta é um registo de herança: um snapshot estruturado e assinado produzido no momento em que o agente assume responsabilidade por uma implantação em curso. Captura o estado recebido, a proveniência desse estado e fragilidades conhecidas reconhecidas no momento da transferência. Sem esse registo, a investigação degrada-se em arqueologia. Com ele, a fronteira entre consequências herdadas e introduzidas fica visível no trilho de auditoria.
Muitos agentes começam sobre história alheia. Um registo de herança, assinado no handover, torna explícitos estado recebido, proveniência e fragilidades conhecidas, permitindo separar consequências herdadas das introduzidas pelo agente.