O problema da lacuna normativa: responsabilidade quando o padrão que devia reger a decisão é ele próprio contestado

A responsabilidade requer uma norma. Para avaliar se um agente de IA agiu de forma adequada, um revisor deve ter acesso a um padrão — alguma especificação do que o agente deveria ter feito nas circunstâncias que enfrentou. A norma pode ser explícita: um protocolo, um regulamento, um limiar documentado. Pode ser implícita: um padrão profissional, uma prática comunitária, uma expectativa cultural. Em qualquer dos casos, a avaliação questiona se o que o agente fez era consistente com o que deveria ter feito, e essa questão não tem resposta sem um referente.

A lacuna normativa é a condição em que o padrão que deveria reger a decisão de um agente de IA não está estabelecido. Não desconhecido — pode ser ativamente contestado, com autoridades legítimas a ter visões diferentes e incompatíveis sobre a norma adequada. Ou pode ser genuinamente ausente — um domínio onde a prática é mais recente do que as normas que deveriam regê-la, e onde ainda não se formou nenhuma expectativa estabelecida. Em ambos os casos, a responsabilidade não pode funcionar como concebida: o mecanismo de avaliação requer uma linha de base que ainda não existe ou não é acordada.

Na travessia de segurança pós-quântica

O ritmo adequado de migração para padrões criptográficos pós-quânticos é genuinamente contestado. Os argumentos técnicos suportam um leque de posições: alguns criptógrafos defendem migração agressiva antes de as capacidades quânticas emergirem; outros argumentam que a adoção prematura de padrões menos maduros introduz as suas próprias vulnerabilidades; ainda outros sustentam que a própria janela de migração cria um período de incerteza criptográfica que é um risco por si só. Um agente de IA a gerir infraestrutura criptográfica deve tomar decisões neste espaço contestado — definir calendários de migração, selecionar algoritmos, agendar cerimónias de chaves — e o padrão contra o qual as suas decisões serão avaliadas não está estabelecido.

Quando a responsabilidade é aplicada retroativamente a essas decisões, os revisores podem aplicar normas que não estavam estabelecidas no momento da decisão, ou que refletem uma posição particular numa disputa técnica que permaneceu por resolver quando o agente agiu. Um agente que seguiu um calendário de migração conservador pode ser avaliado contra um consenso posterior de que uma migração mais rápida era justificada. A avaliação é formalmente possível — o registo de decisões existe, o resultado é observável — mas a linha de base normativa é fornecida retrospetivamente, e a escolha da linha de base reflete escolhas que a arquitetura de responsabilidade nunca foi concebida para fazer explicitamente.

Na travessia de hardware

As normas para reabilitação física assistida por IA estabelecem-se mais rapidamente numas dimensões do que noutras. Os protocolos de endpoint, os limiares de segurança e os critérios de risco de queda têm evidência clínica acumulada por detrás deles. As normas sobre quanta autoridade de tomada de decisão um agente de IA deve exercer dentro de uma sessão de terapia — com que frequência substituir o protocolo inicial, com que agressividade adaptar-se a sinais biométricos em tempo real — são mais contestadas. As tradições clínicas diferem: o que uma comunidade de fisioterapia trata como resposta adequada, outra trata como desvio do protocolo baseado em evidências.

Um agente de IA a tomar decisões de adaptação em tempo real opera dentro deste espaço contestado. As suas decisões podem ser registadas; se foram adequadas não pode ser avaliado sem primeiro resolver qual tradição clínica estabelece a norma de referência. Quando as instituições ou os organismos reguladores aplicam processos de responsabilidade, podem aplicar normas da sua própria tradição sem reconhecer que a própria norma estava sob contestação quando o agente agiu. As decisões do agente podem ser avaliadas como violações de um padrão que não tinha estatuto estabelecido quando as decisões foram tomadas.

Na travessia de cuidados no mundo físico

Em contextos de cuidados, as normas para o envolvimento adequado de IA nas decisões de cuidados variam entre culturas, tradições profissionais e expectativas familiares de formas que não foram resolvidas. O que conta como dependência adequada de um agente de IA para recomendação dietética numa comunidade de cuidados é tratado como delegação inadequada de julgamento clínico noutra. O que é considerado respeitador da autonomia de um residente num contexto cultural é tratado como defesa inadequada noutro. Estas diferenças não são resolúveis por meios técnicos — refletem desacordo normativo genuíno sobre o que os cuidados devem alcançar e quem deve ser responsável pelas decisões neles contidas.

Um agente de IA a operar em múltiplos contextos de cuidados inevitavelmente terá as suas decisões avaliadas contra diferentes linhas de base normativas dependendo da instituição, regulador ou enquadramento cultural que conduz a revisão. A lacuna de responsabilidade não está no registo de decisões do agente nem na diligência do avaliador — está na ausência de uma norma estabelecida que todas as partes reconhecem como o referente adequado.

Tornar o pressuposto normativo explícito

A resposta estrutural à lacuna normativa não é fingir que a norma está estabelecida quando não está. É tornar o pressuposto normativo explícito e colocá-lo sob autorização. Cada agente de IA a operar num domínio contestado incorpora um pressuposto normativo: operacionaliza alguma versão da norma contestada nos seus parâmetros de decisão. Esse pressuposto deve ser visível, documentado e sujeito aos mesmos processos de autorização que as ações do agente.

Isto não resolve o desacordo normativo subjacente. Relocaliza a responsabilidade das decisões em tempo de execução do agente para o pressuposto normativo incorporado no seu design — que é onde a responsabilidade pertence quando a norma é contestada. A questão avaliativa muda de "esta ação era consistente com a norma?" para "este pressuposto normativo foi devidamente autorizado, divulgado e monitorizado quanto a deriva?" Essa questão pode ser respondida a partir de evidências disponíveis. A questão original não pode, porque a norma de que depende nunca foi estabelecida. Nas travessias onde a prática ultrapassa o consenso, tornar o pressuposto incorporado visível é o único movimento de responsabilidade que não finge fechar um ciclo que permanece aberto.