O problema de sincronização de estado: quando o modelo do mundo de um agente de IA diverge da realidade
Um agente de IA age sobre o que conhece. O que conhece é sempre um modelo — uma representação estruturada do mundo derivada das entradas que observou. Esse modelo tem um carimbo de data, mesmo que implícito. Entre o momento em que o modelo foi formado e o momento em que o agente age, o mundo pode ter mudado. Se o agente não consegue determinar se o seu modelo ainda é atual, não consegue determinar se a sua ação ainda é segura.
Este é o problema de sincronização de estado: a lacuna entre a representação interna do mundo de um agente e o estado presente real do mundo. Não é um erro. É uma propriedade estrutural de qualquer agente que observa o mundo através de entradas discretas e age num momento posterior.
Por que a atualidade é uma propriedade de segurança
Os engenheiros tratam tipicamente a atualidade do estado como uma questão de desempenho. Uma cache desatualizada desperdiça uma chamada; uma leitura de sensor desatualizada atrasa uma resposta. O enquadramento é de eficiência, não de segurança.
Em sistemas agênticos que operam sobre decisões irreversíveis, este enquadramento está errado. Um agente que administra uma dose de medicamento, inicia uma revogação de segurança ou envia um comando para um atuador físico com base numa leitura do mundo de dez minutos atrás não realizou uma ação lenta. Realizou uma ação que foi autorizada para um mundo que já não existe. A autorização era válida quando concedida; a ação era válida para o estado que a autorização pressupunha. Se esse estado mudou, a ação já não é válida — mas o agente não tem qualquer mecanismo para o saber.
A criptografia pós-quântica torna o problema concreto num domínio específico. Uma credencial assinada sob uma chave válida deve ser verificada novamente no momento de uso, não confiada porque era válida na emissão. Se a chave de assinatura foi revogada desde a emissão, um agente que age sobre uma asserção de validade em cache está a agir sobre um estado de coisas que deixou de ser verdadeiro. O evento de revogação é a mudança no estado do mundo; a confiança em cache do agente é o modelo desatualizado.
Os cuidados no mundo físico como a instância mais difícil
O problema de sincronização de estado é mais agudo nas implementações de cuidados no mundo físico. A condição de um paciente pode mudar mais depressa do que o intervalo de sondagem de qualquer sistema de monitorização. Um agente que recebeu pela última vez uma atualização de estado em T₀ e age em T₁ está a agir sobre um modelo do estado do paciente em T₀. Se a condição do paciente mudou em T₀.₅, o modelo do agente está errado. A ação pode ser prejudicial.
Este não é um caso extremo hipotético. É a condição de operação normal de qualquer implementação de IA de cuidados em escala significativa. O número de pacientes que podem ser ativamente monitorizados com plena resolução é limitado pela infraestrutura. O número de pacientes que necessitam de cuidados não é. Cada sistema de IA de cuidados opera num regime em que a sincronização de estado é parcial, e o grau de desatualização é variável e não totalmente conhecido pelo agente.
A implicação de design é que a atualidade do estado deve ser declarada e aplicada, não pressuposta. Um agente que vai agir sobre um estado relevante para cuidados deve exigir um atestado de atualidade — uma asserção assinada do sistema de monitorização de que o estado sobre o qual está prestes a agir era válido a partir de um carimbo de data dentro de uma janela definida. Se o atestado estiver em falta ou tiver expirado, a ação deve ser bloqueada até que se proceda a uma nova observação. Isto não é uma otimização de desempenho; é um portão de segurança.
Cascata e o problema do pipeline
Em pipelines multi-agente, o problema de sincronização de estado agrava-se. O modelo do mundo de um agente orquestrador é derivado parcialmente das saídas de sub-agentes. Esses sub-agentes formaram as suas saídas a partir de entradas que receberam num momento anterior. O modelo do agente orquestrador está pelo menos tão desatualizado quanto a entrada mais desatualizada no seu pipeline — e tipicamente não tem qualquer mecanismo para saber qual é essa entrada.
Um pipeline que transmite estado sem transmitir o seu carimbo de data produz um ator com um modelo de idade desconhecida a agir sobre decisões de relevância desconhecida. Quando um agente a jusante causa dano ao agir sobre estado desatualizado a montante, a cadeia causal inclui a lacuna de sincronização — mas a lacuna é invisível no registo de qualquer agente individual.
A resposta de design
Tratar a atualidade do estado como uma primitiva de confiança significa anexar carimbos de data e limites de atualidade a cada asserção de estado que um agente usará para autorizar uma ação irreversível. O limite de atualidade é uma decisão tomada no momento da implementação pela autoridade que definiu o âmbito do agente: dadas as consequências das ações que este agente pode tomar, quão antigo pode ser o estado do mundo sobre o qual age? Esse limite deve ser assinado, atestado e aplicado no momento da ação — não pressuposto a partir da velocidade do pipeline de dados.
Para a IA de cuidados, isto significa portões de atualidade antes de ações clínicas. Para sistemas pós-quânticos, significa verificações de revogação no momento da ação, não no momento da emissão. Para agentes de hardware, significa janelas de validação de sensores antes de comandos de atuadores.
A intuição é simples mas frequentemente ignorada: um agente confiante a agir sobre um mundo desatualizado não é um agente a funcionar bem. É um agente que não sabe que está a inventar.