A lacuna de responsabilização de terceiros: responsabilização quando agentes de IA causam dano a pessoas fora da cadeia de autorização

A arquitetura de responsabilização para agentes de IA é estruturada em torno de uma hierarquia de principais: o implantador autoriza o agente, o agente age dentro dessa autorização e, quando algo corre mal, a responsabilização flui para trás ao longo da cadeia. Esta arquitetura contém uma premissa fundamental: as partes que importam para a responsabilização são as partes que participaram na autorização. Em implantações no mundo físico, essa premissa falha rotineiramente.

Um agente de cuidados autorizado por uma instituição afeta equipas clínicas, familiares visitantes e outros residentes que partilham o ambiente. Uma IA de gestão predial autorizada pela propriedade molda a experiência diária de cada inquilino e contratado no local. Uma infraestrutura de gestão de chaves pós-quântica autorizada pela equipa de segurança de uma instituição cria ou destrói propriedades de segurança para dados de pessoas que nunca tocaram no processo de autorização. Em cada caso, dano significativo pode chegar a pessoas inteiramente fora da cadeia de autorização, e nenhum mecanismo existente foi desenhado para as alcançar em retorno.

A lacuna centrada no principal

O modelo de hierarquia de principais trata a responsabilização como um circuito fechado: o principal autoriza, o agente age, o principal responde. O dano a terceiros não tem lugar estrutural nesse circuito. A parte afetada não consentiu a implantação, não pode apontar para um registo de consentimento violado e não tem acesso à trilha de auditoria que regista o que o agente fez. A sua reclamação, se reconhecida, tem de viajar por um enquadramento jurídico que não foi desenhado para implantações agentivas no mundo físico.

Isto não é um caso raro. Em toda a implantação física em escala, a população afetada é maior do que a população autorizadora por desenho. Consentimento prévio de cada pessoa que encontrará um agente de IA num espaço físico partilhado é praticamente inalcançável. O implantador estrutura a autorização em torno de quem encomendou o agente. As consequências recaem sobre um grupo mais amplo.

A travessia da segurança pós-quântica

Infraestruturas criptográficas pós-quânticas são implantadas por instituições, sistemas de saúde, instituições financeiras e agências públicas, sob autorizações dadas pelas suas próprias equipas de segurança e conformidade. A migração para algoritmos resistentes a computação quântica altera as propriedades de segurança de dados históricos que essas instituições detêm sobre pessoas que não participaram na decisão. Se a transição introduz uma janela de vulnerabilidade, ou se a reproteção de dados legados é incompleta, as pessoas em risco não são os decisores que autorizaram a migração.

A assimetria é estrutural. A instituição que decide como e quando migrar detém o plano, a avaliação de risco e o registo de auditoria. Os titulares dos dados cuja segurança é afetada não têm nada disto e não têm uma reivindicação formal sobre o processo de responsabilização que governa a decisão. Uma migração bem-sucedida é invisível para eles. Uma migração falhada é problema deles.

A travessia do hardware

Agentes de IA embebidos em infraestrutura predial operam sob autorização da entidade que controla o edifício. Ocupantes, inquilinos, visitantes, contratados e entregadores não são partes nessa autorização. Se o agente regista os seus movimentos, ajusta condições ambientais com base em inferências comportamentais ou modifica permissões de acesso por reconhecimento de padrões, as ações recaem sobre pessoas que podem nem saber que o agente existe, quanto mais o âmbito da sua autorização.

A atestação de hardware verifica a integridade do agente relativamente à autorização do seu principal. Não verifica se o âmbito dessa autorização é adequado aos interesses de todas as pessoas afetadas pela ação do agente. Uma implantação perfeitamente atestada ainda pode causar dano se afetar sistematicamente uma população de ocupantes que nunca consentiu. A atestação não oferece a esses ocupantes qualquer canal de expressão.

A travessia dos cuidados no mundo físico

Agentes de cuidados autorizados por instituições de cuidados interagem diariamente com pessoas que nunca os autorizaram. Profissionais clínicos trabalham ao lado das recomendações do agente sem terem participado na decisão de implantação. Familiares visitantes têm a sua relação com a pessoa cuidada mediada por saídas comportamentais do agente. Outros residentes em espaços partilhados têm a sua privacidade implicada de forma colateral pelos sensores que o agente usa para servir outra pessoa.

Essas pessoas não têm canal formal para apresentar preocupações de responsabilização sobre a forma como o agente as afetou. Se o agente causa dano, reforça um erro clínico, gera inferências sobre um visitante que afetam o seu acesso ou grava interações de residentes que nunca consentiram ser gravados, o processo ancorado na hierarquia de principais não tem espaço estrutural para essa reclamação.

O que a lacuna de terceiros exige

A responsabilização de terceiros não se resolve acrescentando mais principais. A solução não é exigir consentimento prévio de todas as pessoas que possam aparecer num espaço partilhado. Essa exigência não é operacional na maioria das implantações físicas e tornaria impossível implantar precisamente nos locais onde a necessidade pode ser maior.

A resposta mínima é delimitar explicitamente o alcance de impacto sobre terceiros na fase de desenho da implantação. Antes da implantação, o implantador identifica as categorias de pessoas que serão afetadas fora da hierarquia de principais. Para cada categoria, o desenho declara que dados o agente pode recolher, que ações pode tomar relativamente a essas pessoas e que mecanismo de responsabilização existe se sofrerem dano. Essa declaração faz parte do registo de implantação, não é um aditamento posterior.

O desenho também precisa de vias acessíveis de reclamação: mecanismos formais pelos quais pessoas afetadas que não são principais possam levantar preocupações, aceder aos registos relevantes das ações tomadas sobre elas e procurar reparação. Isto não exige autorização prévia. Exige apenas que a pessoa tenha sido afetada pela operação do agente.

Na Asaptic Labs, a lacuna de responsabilização de terceiros é tratada como um problema de desenho de primeira ordem em cada travessia. A cadeia de autorização é um ponto de partida necessário para a responsabilização, não o seu fim suficiente.