O problema da responsabilidade antecipatória

A arquitetura de responsabilidade para agentes de IA foi construída quase toda em retrospetiva. Registos à prova de adulteração, reconstrução forense e trilhos de auditoria perguntam o que o agente fez e se isso pode ser explicado depois do facto. Isto é adequado quando o custo da revisão posterior é baixo face ao custo da decisão. Mas agentes de IA implantados nos cruzamentos de segurança pós-quântica, hardware e cuidados no mundo físico atuam cada vez mais em domínios onde a revisão posterior chega estruturalmente tarde demais.

O que a responsabilidade retrospetiva pressupõe

Os modelos padrão pressupõem um intervalo temporal entre a ação do agente e a consequência. O agente recomenda, uma pessoa revê, e só depois alguém age. Mesmo em contextos mais automatizados, presume-se que algo pode ser verificado antes de importar.

Esse pressuposto funciona em domínios reversíveis, de baixo risco ou naturalmente lentos. Falha precisamente onde os agentes de IA são mais valiosos.

Onde o pressuposto falha

Decisões de migração pós-quântica podem produzir efeito num sistema distribuído antes de um revisor humano ser notificado. Alterações de configuração em grandes frotas de hardware podem propagar-se a milhares de nós em segundos. Nos cuidados no mundo físico, uma intervenção do agente acontece em tempo real, no momento em que uma pessoa precisa dela.

A consequência não é que a responsabilidade se torne impossível. Os registos ainda podem documentar o ocorrido. A consequência é que a responsabilidade retrospetiva já aceitou o risco.

No cruzamento pós-quântico

A migração criptográfica é irreversível e sensível ao tempo. Depois de um agente descontinuar um algoritmo num sistema de produção, o custo de reversão não equivale ao custo de avanço. O trilho de auditoria é útil para análise posterior; não oferece proteção antecipatória.

No cruzamento de hardware

Agentes de frota que executam alterações de configuração operam num ritmo que a supervisão humana não consegue acompanhar em escala. Uma alteração aplicada a dez mil dispositivos torna-se um facto físico antes de qualquer revisor a avaliar.

Nos cuidados no mundo físico

Agentes de cuidados atuam por pessoas que não conseguem supervisionar as suas ações em tempo real. Um agente noturno que decide às 3h não pode simplesmente esperar por revisão humana. O valor do agente está precisamente em poder agir quando humanos não conseguem.

O que a responsabilidade antecipatória exige

Responder a esta lacuna exige deslocar parte da responsabilidade da auditoria posterior para restrições antes da ação. A certificação pré-implantação pergunta se o comportamento do agente foi suficientemente caracterizado para se afirmar o que fará antes de agir.

A atestação em tempo de execução pergunta se o agente consegue demonstrar que opera dentro dos parâmetros certificados. Envelopes de ação perguntam se a ação proposta está dentro de limites seguros previamente assumidos. Pontos de decisão humana antes da ação perguntam quais decisões são suficientemente consequentes para exigirem decisão humana antes, não apenas revisão depois.

Juntos, estes mecanismos formam uma camada de responsabilidade antecipatória. A responsabilidade retrospetiva trata do que aconteceu; a antecipatória trata do que pode acontecer e do que deve ser impedido sem supervisão adequada.