A camada de consentimento: porque os agentes de IA em cuidados precisam de autoridade estruturada, não apenas configuração

Quando uma instituição de cuidados implementa um agente de IA — para apoiar uma revisão de medicação, sinalizar risco de hidratação ou acompanhar o estado funcional de um paciente — alguém o configura. Um clínico ou administrador define parâmetros, aprova um fluxo de trabalho e o sistema entra em produção. A configuração pode ser bem-intencionada. Mas configuração não é consentimento.

Esta distinção importa mais do que normalmente se reconhece. O consentimento num contexto de cuidados não é um evento único; é uma autorização dinâmica, específica da pessoa e revogável, que vive ao nível de cada paciente, cada equipa de cuidados e cada interação. A configuração opera ao nível do sistema. A distância entre ambos é onde muitas implementações de agentes em cuidados carregam o seu risco não reconhecido mais pesado.

O que a configuração realmente autoriza

Quando um sistema de cuidados é configurado para permitir que um agente de IA apresente alertas de medicação, essa configuração autoriza o agente a executar essa função para todos os pacientes abrangidos por ela. Não autoriza o agente a agir em nome de um paciente específico. Não reflete se esse paciente foi informado da participação da IA nos seus cuidados. Não codifica se o representante autorizado do paciente concordou. Não captura se uma substituição recente por um profissional representa uma exceção específica do paciente ou um sinal de calibração ao nível do sistema.

Na maioria dos ambientes de cuidados regulados, a diferença entre configuração ao nível do sistema e consentimento ao nível do paciente já está bem estabelecida na prática para clínicos humanos. Ainda não está igualmente estabelecida para agentes de IA que operam nesses mesmos ambientes, e essa diferença de tratamento não é defensável.

O que uma camada de consentimento faria de forma diferente

Uma camada de consentimento para agentes de IA em cuidados não é um novo formulário clínico. É uma camada arquitetónica: uma representação estruturada da autorização que opera ao nível do paciente, persiste através de transições de cuidados e muda quando o estado, as preferências ou o contexto clínico do paciente mudam.

Essa camada acompanha se a revisão assistida por IA está autorizada para este paciente, por quem, em que âmbito e com que cadeia de delegação. O agente deve consultá-la antes de qualquer ação que atravesse uma fronteira específica do paciente. E, de forma crítica, ela deve ser gravável pelos profissionais em tempo real, não por um painel de configuração, mas pelos mesmos eventos de substituição que já acontecem junto ao leito.

Quando uma enfermeira recusa a sugestão de um agente para um paciente específico, essa recusa é um sinal de consentimento. Comunica algo específico daquele paciente: neste contexto, para esta pessoa, a ação proposta pelo agente não era apropriada. Esse sinal deve regressar ao modelo de autorização ao nível do paciente, não ficar apenas como uma correção genérica.

O registo de substituições como arquivo de consentimento

Esta é a ligação entre arquitetura de responsabilização e consentimento específico de cuidados. Um registo de substituições, quando bem construído, não é apenas um registo de correções; é um modelo continuamente atualizado de onde a autoridade humana está a ser exercida e porquê. Em cuidados, esse modelo é um substituto da estrutura de consentimento: mostra o juízo contínuo da equipa sobre onde termina o âmbito autorizado do agente.

Um agente que lê eventos de substituição como sinais de consentimento, e não apenas como dados de treino para calibração futura, respeita a estrutura viva e dinâmica de autorização de um ambiente de cuidados. Quando um paciente se move entre unidades, equipas ou instituições, o estado de consentimento expresso por substituições anteriores deve viajar com o registo do paciente, não ser reiniciado para a predefinição do sistema.

O requisito de responsabilização

Instituições de cuidados que implementam agentes de IA têm uma obrigação de responsabilização que não se cumpre apenas com configuração do sistema. Para qualquer ação consequente do agente, precisam de demonstrar que a ação estava dentro do âmbito autorizado para aquele paciente, naquele momento e naquelas circunstâncias clínicas. Isso exige mais do que uma entrada de log a dizer que o agente estava configurado para fazer X. Exige uma camada de consentimento capaz de responder: quem autorizou esta ação, para que paciente, em que âmbito, e essa autorização ainda está atual?

Construir essa camada não é tecnicamente exótico. Modelos de autorização ao nível do paciente já existem; instituições de cuidados gerem-nos todos os dias para clínicos humanos. O que é necessário é aplicar a mesma disciplina aos agentes de IA. A configuração inicia o agente. O consentimento mantém-no dentro dos limites adequados e torna esses limites visíveis, auditáveis e responsivos às pessoas na sala.