O problema do espaço negativo: responsabilidade quando um agente de IA falha em agir

A maioria dos enquadramentos de responsabilidade para agentes de IA é construída em torno de decisões tomadas e ações executadas. Um agente executa uma operação; cria um registo; ultrapassa um limiar e escala. A questão de responsabilidade é o que aconteceu e quem o autorizou.

Mas os agentes de IA implantados em funções de monitorização, cuidados e segurança são esperados para fazer outra coisa: observar continuamente e agir quando as condições o exigem. A ação esperada pode ser um alerta, uma escalada, um registo ou uma intervenção preventiva. O problema de responsabilidade que surge quando essa ação não acontece — quando o agente estava a observar e não sinalizou — é estruturalmente diferente do problema de uma ação errada, e a maioria dos enquadramentos atuais não o aborda.

Este é o problema do espaço negativo.

A estrutura da omissão

Quando um agente toma uma ação errada, o registo de responsabilidade começa num momento específico: a decisão. Essa decisão tem uma marca temporal, é atribuível e está disponível para revisão. A questão é se foi autorizada, corretamente formada e baseada em entradas apropriadas.

Quando um agente falha em agir quando deveria, não há momento para rever. Não há não-decisão com marca temporal. Há apenas a ausência de um registo que deveria existir — e a ausência de um registo não é em si um registo. O dano que se segue pode ser rastreável à inação do agente em retrospeto, mas a ausência não cria qualquer pegada própria.

Esta assimetria importa enormemente em contextos de cuidados. Um agente de cuidados de IA é esperado para detetar deterioração e escalar. Quando escala, a escalada é registada. Quando não o faz — quando a condição de um doente piora sem o agente emitir um alerta que estava posicionado para emitir — a ausência do alerta não é uma entrada no registo de auditoria. O dano chega; o registo de auditoria não contém nada que explique por que o alerta estava ausente.

A travessia PQ: lacunas silenciosas na monitorização de segurança

Na travessia pós-quântica, o problema do espaço negativo aparece no contexto da higiene criptográfica. Um agente de IA responsável por monitorizar a postura criptográfica de um sistema — expiração de certificados, conformidade de conjuntos de cifras, calendários de rotação de chaves — cria o seu registo de responsabilidade através dos alertas que emite. Quando uma transição para algoritmos resistentes a quantum é incompleta, um agente que estava a monitorizar o uso de cifras legadas e não sinalizou um endpoint não conforme não criou nenhum registo dessa lacuna.

O evento de segurança que se segue pode ser atribuído à transição criptográfica, ou ao sistema de monitorização, ou a um operador que nunca reviu relatórios que nunca foram gerados. A não-ação do agente é uma causa do dano, mas a estrutura de responsabilidade não foi construída para capturar a omissão como um evento de primeira classe. A ausência é invisível ao registo de auditoria por design.

O problema agrava-se na travessia de hardware. Um agente a monitorizar a integridade do estado criptográfico ancorado em hardware — verificando que os enclaves seguros estão a operar dentro da especificação, que as cadeias de atestação permanecem válidas — depende de condições que podem degradar-se silenciosamente. Um agente de monitorização que verificou na semana passada e não encontrou nada de errado não é o mesmo que um agente de monitorização que verifica hoje. A lacuna entre verificações não é registada como uma lacuna. É registada como nada de todo.

A travessia de cuidados: a escalada que nunca chegou

Nos cuidados no mundo físico, o problema do espaço negativo é simultaneamente mais agudo e menos abordado. Os agentes de cuidados são implantados precisamente para fornecer monitorização contínua que o pessoal de cuidados humano não consegue manter com a mesma intensidade. A sua proposta de valor é a escalada — o alerta que deteta uma deterioração antes de se tornar irreversível.

Quando essa escalada não ocorre, a questão não é apenas o que o agente fez. É o que o agente estava posicionado para fazer, quais eram os seus limiares configurados para detetar, se esses limiares eram apropriados e se a equipa de cuidados tinha o direito de interpretar o silêncio do agente como um sinal de que as condições eram estáveis.

Este último ponto é crítico. Em contextos de cuidados, o silêncio do agente é frequentemente interpretado operacionalmente como um sinal. O pessoal que depende de um sistema de monitorização de IA aprende a tratar a ausência de alertas como evidência de que nenhum alerta é necessário. Quando o agente falha em disparar — porque o limiar estava mal configurado, porque um sensor tinha derivado, porque uma combinação rara de condições caiu numa lacuna não monitorizada — o silêncio que precede o dano é indistinguível do silêncio que significa que tudo está bem.

As pessoas mais expostas a este modo de falha são os destinatários de cuidados que não conseguem relatar por si próprios que algo está errado. Um residente idoso a experienciar deterioração genuína pode não estar em posição de identificar que o agente de cuidados não a sinalizou. O silêncio do agente carrega um peso de autoridade clínica que nunca foi concebido para suportar.

O que a arquitetura de responsabilidade requer

Abordar o problema do espaço negativo requer tratar não-eventos como objetos de auditoria. Várias propriedades decorrem disto.

Primeiro, as ações esperadas que não ocorreram devem ser registadas como ausências, não como espaços em branco. Um agente a monitorizar uma condição deve criar um registo quando avalia essa condição e não encontra nada acionável — não apenas quando encontra algo. A ausência de um alerta deve ser uma constatação registada, não o silêncio por defeito. O registo de auditoria deve conter afirmações afirmativas da forma "avaliou a condição X no tempo T; nenhuma ação necessária" tão consistentemente como contém registos de ações tomadas.

Segundo, as condições em que um agente é esperado para agir devem ser especificadas explicitamente e auditáveis de forma independente. A configuração que define os limiares de alerta de um agente é um artefacto de responsabilidade — determina o que o agente deveria ter sinalizado e o que lhe era permitido perder. Essa configuração deve ser versionada, com marca temporal e revisável juntamente com as decisões que governou. Alterar um limiar sem deixar um registo de auditoria equivale a reescrever retroativamente as regras segundo as quais o agente operou.

Terceiro, a dependência do silêncio do agente deve ser governada. Onde os humanos interpretam operacionalmente a inação do agente como um sinal positivo — onde a ausência de um alerta é entendida como significando que as condições são estáveis — essa inferência depende inteiramente da correção da configuração de monitorização do agente. A governação dessa dependência: quem a autorizou, que auditorias requer, e quão rapidamente a má configuração pode ser detetada, deve ser explícita e sujeita a revisão.

O problema do espaço negativo não será resolvido apenas por melhor registo de ações. Requer que a ausência de ações esperadas se torne tão visível e rastreável quanto as próprias ações. Até que assim seja, a arquitetura de responsabilidade para agentes de IA permanece estruturalmente cega à coisa mais consequente que muitos deles podem fazer: nada.