O problema do conflito entre sensores

Agentes de IA em ambientes físicos não observam o mundo diretamente. Observam saídas de sensores que o representam. Quando essas saídas concordam, o agente avança com elevada confiança. Quando entram em conflito, o agente tem de arbitrar antes de agir. Essa arbitragem é uma decisão; muitas vezes é a decisão mais consequente da cadeia, e em quase todos os sistemas implantados acontece sem política explícita e sem registo.

A anatomia do conflito entre sensores segue três padrões. O primeiro é conflito da mesma grandeza: dois instrumentos medem a mesma coisa e produzem leituras que não podem estar ambas corretas. O segundo é conflito entre modalidades: sensores diferentes medem indicadores indiretos do mesmo estado e apontam em direções opostas. O terceiro é conflito histórico: a leitura atual diverge de forma acentuada da linha de base recente do mesmo sensor.

O problema de responsabilização não é o facto de sensores entrarem em conflito. Sistemas de hardware sempre precisaram de lógica de resolução. O problema é que, nas implantações atuais, a política de arbitragem é implícita, o conflito em si raramente é registado e a responsabilidade por essa política fica dispersa ao ponto de não ser atribuível.

No contexto dos cuidados no mundo físico, estes problemas tornam-se mais severos. Os pacientes com maior probabilidade de gerar conflitos de sensores são precisamente os pacientes de maior risco clínico: pessoas com perturbações motoras, má circulação periférica ou arquitetura de sono instável. Uma política treinada numa população geral pode aplicar ponderações erradas nos casos em que o erro tem maior consequência.

A travessia do hardware apresenta o mesmo problema estrutural noutro domínio. Um sistema autónomo que combina imagem, distância e sensores inerciais precisa de arbitrar quando a câmara indica caminho livre mas o sensor de proximidade indica obstáculo. Uma política treinada em condições de luz diurna pode sobrevalorizar a visão em ambientes escuros ou com partículas.

Três mudanças arquitetónicas tornam a responsabilização tratável: política explícita de arbitragem, registo de eventos de conflito e um caminho de escalonamento humano para conflitos de alto risco. Cada conflito acima de um limiar definido deve ser registado com leituras brutas, magnitude da divergência, modalidades envolvidas e resultado da arbitragem.

O problema do conflito entre sensores não é apenas uma questão de processamento de sinais. A lacuna é de governação: a infraestrutura necessária para tornar a resolução auditável ainda não foi incorporada nos sistemas implantados. Quando algo corre mal, o registo mostra o que o agente concluiu, não o que escolheu ignorar.