O problema da criação de dependência: responsabilização quando agentes de cuidados com AI alteram o equilíbrio de agência

A justificação de implantação para agentes de cuidados com AI quase sempre invoca independência. O objetivo é manter alguém em casa por mais tempo, dar mais autonomia à pessoa cuidada e reduzir a dependência de cuidadores humanos em tarefas que ela ainda consegue gerir com apoio. O agente complementa capacidade; não a substitui.

Esse enquadramento é correto no momento da implantação. Não permanece correto indefinidamente.

Um agente de cuidados com AI que trata de forma consistente uma função — acompanhar horários de medicação, monitorizar padrões de mobilidade, sinalizar lacunas nutricionais, gerir agenda social — irá, com o tempo, reduzir a prática ativa dessa função pela pessoa cuidada. Não por falha de desenho. Porque é isso que assistência consistente e fiável faz.

Porque a dependência funcional é um resultado estrutural, não um efeito secundário

O mesmo mecanismo que torna agentes de cuidados com AI eficazes torna-os criadores de dependência: eles absorvem a gestão fiável de tarefas consequentes, de modo que a pessoa já não precisa de gerir essas tarefas diretamente. Para pessoas em situações nas quais a capacidade já está limitada, essa absorção raramente é monitorizada como risco. É tratada como o objetivo.

A dependência criada é funcional. A pessoa pode manter a capacidade cognitiva e física para uma função que o agente executa, mas deixa de a praticar, deixa de confiar no seu próprio julgamento sobre ela e pode perder a infraestrutura de informação — hábitos de registo, contactos mantidos, rotinas estabelecidas — que lhe permitiria retomá-la de modo independente. Se o agente for removido ou significativamente modificado, a pessoa não regressa à posição original. Regressa a uma posição que, em algumas dimensões, é mais precária do que a que ocupava no momento de inscrição.

Isto é distinto do problema de atrofia por automação, que diz respeito a responsáveis de supervisão perderem a competência para verificar o trabalho de um agente. Aqui, a preocupação é a agência funcional da própria pessoa cuidada — a erosão da capacidade praticada na pessoa que o sistema supostamente deve servir.

O problema da infraestrutura de hardware

Dispositivos embebidos de cuidados com AI criam uma versão específica desta dinâmica. À medida que um dispositivo se torna a camada ambiente persistente de um contexto de cuidados em casa — a sentir, alertar, gerir — começa a funcionar como infraestrutura, tal como aquecimento e água corrente são infraestrutura. Uma falha do dispositivo já não é uma interrupção de serviço; é um evento de bem-estar para a pessoa cuja rotina diária foi estruturada em torno da presença do dispositivo.

As estruturas de responsabilização para esta transição quase nunca são estabelecidas na implantação. Agentes de cuidados são governados como ferramentas opcionais. Enquanto a pessoa pudesse, em princípio, gerir sem o dispositivo, ele é tratado como suplemento. O momento em que o dispositivo se tornou estrutural — quando a pessoa, na prática, não consegue funcionar em segurança sem ele — normalmente não é sinalizado, não é formalmente documentado e não aparece em qualquer registo de consentimento ou plano de cuidados. Acontece gradualmente, e o enquadramento de governança não regista o gradual.

A lacuna de responsabilização no momento da mudança

O problema da criação de dependência torna-se mais visível em momentos de mudança: o dispositivo é descontinuado, a plataforma de software é encerrada, o modelo subjacente é depreciado ou uma atualização de firmware altera significativamente o perfil comportamental do agente.

Nesse momento, as perguntas de responsabilização multiplicam-se. Quem é responsável por gerir a transição para pessoas que se tornaram funcionalmente dependentes deste agente? Quem no sistema de cuidados sabia dessa dependência? Quem consegue reconstruir, a partir do registo de implantação, o que o agente vinha fazendo e o que a pessoa precisaria para substituir essas funções por outros meios?

Se as respostas forem “ninguém foi designado”, “a dependência nunca foi documentada” e “o registo não permite essa reconstrução”, então o sistema de cuidados criou uma vulnerabilidade significativa — e não tem mecanismo estrutural para a governar. O agente foi introduzido como suplemento; tornou-se infraestrutura; a responsabilização nunca foi atualizada para refletir a transição.

O que a arquitetura correta exige

Governar a trajetória de dependência exige tratá-la como uma dimensão monitorizada da implantação, não como um resultado incidental que cai fora do escopo definido do sistema.

Isto significa avaliar periodicamente quais funções o agente absorveu e quais a pessoa cuidada já não pratica ativamente — e tratar essa avaliação como entrada no registo de cuidados, não como observação informal. Significa construir protocolos de transição de cuidados que incluam auditorias de dependência como requisito estrutural de implantações longas, não como boa prática opcional. Significa garantir que eventos de descontinuação ou modificação acionem, por desenho, uma avaliação do apoio que a pessoa precisa para atravessar a mudança.

E exige honestidade intelectual sobre uma afirmação que quase toda implantação de AI em cuidados faz: que o agente apoia independência. Apoiar independência só é uma afirmação significativa quando a implantação é ativamente monitorizada contra o risco de que esse apoio tenha, ao longo do tempo, criado uma forma de dependência que não foi planeada, não é governada e só ficará visível quando algo no sistema mudar.

Na Asaptic Labs, pensamos que o enquadramento correto não é “o agente apoia independência no momento da implantação”, mas “a relação de cuidados, incluindo a sua trajetória de dependência, é governada em cada ponto do ciclo de vida da implantação”. Essa pergunta exige instrumentação diferente, atribuições de responsabilização diferentes e uma descrição mais honesta do que implantações longas de AI em cuidados realmente fazem às pessoas que servem.