O problema da granularidade do consentimento: responsabilidade quando os mandantes não conseguem especificar permissões à resolução em que os agentes actuam

Todo o quadro de consentimento significativo assenta na ideia de que a pessoa que consente compreende, a uma resolução prática, aquilo que está a aceitar. A resolução não precisa de ser completa; ninguém lê todas as cláusulas de uma licença de software. Mas precisa de ser suficiente para sustentar responsabilidade. Se o que acontece diverge substancialmente do que era razoavelmente previsível, o consentimento não governou a acção.

Os agentes de IA operam a uma resolução que os mandantes humanos não conseguem igualar. Um agente de cuidados autorizado a aceder ao calendário diário de um paciente pode, dentro dessa permissão, inferir adesão terapêutica a partir de padrões de consultas, detectar isolamento social pela frequência de visitas, correlacionar perturbações do sono com eventos de cuidados e sinalizar anomalias comportamentais contra linhas de base longitudinais. O mandante que disse “sim, o agente pode ver o calendário” não consentiu especificamente em nenhuma dessas inferências. Consentiu numa categoria ampla. O agente actua no conteúdo fino dessa categoria.

Este é o problema da granularidade do consentimento. Não se resolve com melhores avisos de privacidade, termos de serviço mais longos ou caixas de permissão mais granulares. As caixas continuam a ser mais grosseiras do que as operações. A lacuna é estrutural.

Porque a divulgação não fecha a lacuna

A resposta habitual a lacunas de consentimento é a divulgação: explicar com mais detalhe o que o agente fará. Mas a divulgação só funciona quando a lista divulgada é finita e compreensível. Para agentes de IA que actuam sobre dados ricos, a lista de operações possíveis não é uma coisa nem outra. A capacidade inferencial de um agente de cuidados não é uma lista fixa de operações nomeadas; é função dos dados disponíveis, da capacidade actual do modelo e do contexto de implantação. O agente pode executar operações não enumeradas no momento do consentimento porque emergem de combinações de dados que não existiam quando a divulgação foi escrita.

Mais divulgação não fecha a lacuna; desloca o problema do consentimento para a compreensão. Um mandante que recebe dez páginas de possíveis operações antes de clicar “aceito” não consentiu a uma resolução mais elevada. Consentiu na existência do inventário. A base de responsabilidade não melhora. Fica obscurecida.

No cruzamento dos cuidados

Nos cuidados no mundo físico, o problema aparece de forma aguda em contextos domésticos e residenciais. Uma família que autoriza um agente de cuidados a apoiar um familiar idoso em casa aceitou um propósito geral. Não enumerou, e muitas vezes não consegue enumerar, cada inferência específica, gatilho de escalamento, comportamento de retenção de dados ou notificação a terceiros que o agente pode gerar. O agente que chama serviços de emergência, alerta um familiar distante ou regista uma preocupação sobre o ambiente doméstico actua dentro da autorização geral, mas para além de qualquer consentimento específico.

A pergunta de responsabilidade, “esta acção foi autorizada?”, não pode ser respondida apenas pelo registo de consentimento, porque esse registo não descreve a acção. Descreve uma categoria que contém a acção. Quadros de responsabilidade baseados em consentimento governam categorias, não acções. Um agente pode actuar de formas não previstas, não pretendidas e não desejadas pelo mandante, permanecendo tecnicamente dentro da categoria concedida.

No cruzamento do hardware

Agentes adjacentes ao hardware apresentam o mesmo problema noutra superfície. Um agente autorizado a gerir firmware numa frota recebeu uma categoria de permissão, “gestão de firmware”, que abrange centenas de operações: que dispositivos recebem actualizações e por que ordem, que rollback é accionado em que condições, que dispositivos ficam em quarentena quando uma anomalia de assinatura é detectada e quanto tempo ficam nessa condição antes de revisão humana. Nenhum destes comportamentos foi enumerado na autorização. Estavam implícitos na categoria concedida.

Quando uma decisão de firmware perturba operações de produção, a pergunta não é se o agente tinha autoridade de gestão de firmware. Tinha. A pergunta é se a decisão específica estava no âmbito do que foi realmente consentido. À granularidade de “gestão de firmware”, essa pergunta não é respondível apenas pelo registo de autorização.

No cruzamento pós-quântico

Agentes de migração criptográfica enfrentam a mesma estrutura com riscos mais elevados. Um agente autorizado a gerir infraestrutura criptográfica pode decidir que algoritmos descontinuar, em que calendário, em que ordem entre sistemas e com que comportamento de fallback quando a migração falha. Essas decisões têm consequências operacionais e de segurança relevantes. A autorização para “gestão de infraestrutura criptográfica” não especificou nenhuma delas. Autorizou uma categoria. O agente preenche o conteúdo da categoria.

Quando escolhas específicas criam uma janela sem cobertura criptográfica, em que alguns sistemas usam algoritmos obsoletos durante a migração, o registo de autorização confirmará que o agente tinha autoridade. Não revelará se a sequência concreta foi considerada, avaliada ou sancionada por algum mandante.

O que a responsabilidade exige

O problema da granularidade do consentimento não tem uma solução de consentimento. Tem uma solução de auditoria: a responsabilidade deve assentar no que o agente fez ao nível da operação, não no que foi autorizado ao nível da categoria. Isto exige registos ao nível da operação, não logs ao nível da categoria, que possam ser revistos contra as expectativas do mandante depois do facto.

Também exige disciplina institucional sobre o significado de “autorização”. Uma permissão concedida não é um cheque em branco para todas as operações da categoria. É uma autorização provisória com uma exigência implícita de ratificação: os mandantes devem ter mecanismos contínuos para confirmar que as operações específicas realizadas correspondem ao que realmente pretendiam. Onde esse mecanismo falta, a autorização ultrapassou o consentimento.

A distância entre o que um mandante consegue especificar e o que um agente consegue fazer aumentará à medida que os agentes se tornam mais capazes. Quadros que tratam autorização grosseira como consentimento suficiente governarão cada vez menos do que os agentes fazem. A escolha não é entre consentimento granular e consentimento amplo. É entre auditoria ao nível da operação e responsabilidade apenas nominal.