O problema da velocidade de decisão: responsabilização quando agentes de IA precisam decidir mais depressa do que a supervisão consegue operar

A maioria dos quadros de responsabilização para agentes de IA partilha uma premissa arquitetónica implícita: existe um momento entre decisão e ação onde uma etapa de revisão pode ser inserida. O log é escrito, uma pessoa examina-o e a aprovação ou correção vem a seguir. Esta premissa está tão embutida nos processos de governação que raramente é declarada e raramente é testada contra as escalas de tempo reais dos agentes implementados.

O problema da velocidade de decisão é a incompatibilidade estrutural que surge quando um agente de IA tem de agir a uma velocidade que torna a revisão humana concorrente fisicamente impossível. As decisões não são tão pouco arriscadas que possam ficar sem revisão. Também não são, individualmente, tão arriscadas que justifiquem suspender todo o processo. Simplesmente chegam mais depressa do que qualquer ciclo de responsabilização desenhado em torno da atenção humana consegue fechar.

No cruzamento da segurança pós-quântica

A autenticação criptográfica em sistemas de agentes de IA tem de negociar segredos partilhados, verificar certificados de identidade e estabelecer parâmetros de sessão antes de qualquer mensagem de aplicação. Em escala, estes handshakes acontecem continuamente, em milhões de sessões simultâneas, em janelas medidas em microssegundos. Um mecanismo pós-quântico acrescenta custo computacional; não acrescenta a opção de uma pessoa rever cada negociação antes de terminar.

A questão de responsabilização aqui não é cada handshake individual. É a camada de política acima deles: quem autorizou as escolhas de algoritmos, com que evidência e por que mecanismo se deteta se essas escolhas estão a ser respeitadas em produção. A governação desloca-se para as políticas que constrangem decisões demasiado rápidas para serem revistas uma a uma.

No cruzamento do hardware

Sistemas físicos com ciclos de controlo em tempo real — atuadores robóticos, dispositivos médicos, automação industrial — operam sob restrições rígidas de latência. Um agente que gere movimentos de um robô de reabilitação deve avaliar sensores e gerar comandos dentro do ciclo de controlo, normalmente em milissegundos. Revisão humana de cada comando quebraria o sistema físico.

A responsabilização no cruzamento do hardware sempre dependeu de pré-autorização: o espaço de ação aceitável é constrangido antes da implementação, e a responsabilização aplica-se ao desenho dessas restrições. À medida que agentes passam a raciocinar em tempo real de forma mais complexa, a fronteira entre o espaço pré-autorizado e decisões novas geradas no momento torna-se mais difícil de especificar e auditar.

No cruzamento dos cuidados no mundo físico

Em cuidados, a assimetria de velocidade aparece na escala humana. Um agente que avalia sinais vitais de um paciente em deterioração e gera um alerta opera em segundos. Mas o ciclo de responsabilização para agir sobre esse alerta exige encontrar pessoal qualificado, transferir contexto, confirmar a base clínica e autorizar uma resposta. Esse ciclo demora minutos. Numa deterioração, minutos não estão disponíveis.

Na prática, o que surge não é revisão genuína, mas documentação posterior: a recomendação do agente é seguida porque a linha temporal o exige, e a revisão é registada como se tivesse precedido a ação. O quadro de responsabilização captura um evento que não ocorreu na sequência que o registo sugere.

Pré-autorização como resposta estrutural

A única arquitetura durável para ambientes de decisão de alta velocidade move a responsabilização para montante: para o desenho de restrições, em vez da revisão de decisões individuais. Isto exige especificar o que o agente pode decidir sozinho, o que exige escalamento predefinido e o que constitui uma ação fora de limites que aciona uma paragem independentemente da pressão temporal.

Isto não é relaxar a responsabilização. É reconhecer que responsabilização aplicada na camada errada, em simultâneo com decisões que não podem esperar, não produz supervisão; produz documentação de decisões já tomadas. A responsabilização por pré-autorização é mais exigente porque obriga a antecipar modos de falha, especificar fronteiras e construir deteção antes de a decisão consequente se completar.