推斷放大問題

AI 智能體的問責框架是圍繞特定數據類型的授權構建的。照護智能體被授權觀察服藥依從性。硬件監控智能體被授權檢查溫度和負載讀數。安全智能體被授權分析網絡流量元數據。每項授權都有邊界、經過審查並有文件記錄。權限結構看起來是健全的。

但 AI 智能體並不將數據作為離散的授權流來處理。它們融合、關聯和組合。被授權觀察服藥依從性、睡眠模式和社交互動頻率的照護智能體，持有的是能夠揭示患者心理健康軌跡、預後概率和照護依賴弧的組合推斷，而這些是任何個別授權都未曾考慮、任何同意談話都未曾披露的。

這一缺口的獨特之處

大多數問責和私隱框架假設授權通過組合具有傳遞性：如果每個輸入都被授權，那麼輸出也被授權。這一假設在具備推斷能力的智能體上特別站不住腳。組合推斷的敏感性可能與其任何輸入在性質上截然不同——不是疊加性地更敏感，而是類別性地不同。

這一缺口是結構性的。它不需要任何個別授權被超越。每次數據訪問都有日誌記錄，每次權限都經過檢查，每次行動都有記錄。審計追蹤是完整的。問責問題在於授權結構是為輸入設計的，而敏感輸出——推斷——從未以其本身的名義被授予、審查或記錄為一種授權。

在後量子交叉點

密碼學基礎設施智能體收集的信號單獨來看都是平常的：證書有效期窗口、密鑰輪換計劃、算法協商日誌、硬件安全模組認證頻率以及重新生成密鑰的事件時間戳。但它們的組合揭示了一個組織的密碼學過渡態勢，包括哪些系統在以何種速度遷移、哪些遺留算法仍在生產中運行，以及過渡邊界在哪裏最為脆弱。

無法直接攔截加密通信的對手，可以利用組合流智能體產生的推斷——或智能體本身的行為特徵——來重建一張漏洞地圖，而這張地圖是任何單個授權披露都無法傳達的。

在硬件交叉點

嵌入式機隊管理智能體將來自各系統的傳感器流組合在一起：熱特性、負載歷史、故障率、維護計劃、固件版本和校準日誌。跨機隊長期組合後，它們揭示了工程設計邊界、系統失效條件、安全運行容差下限，以及操作人員尚未監測的監控盲區。

沒有任何單個授權被超越。每個數據流都經過適當界定。問責缺口在於沒有人對所有授權流的組合推斷會揭示甚麼系統漏洞進行建模，也沒有人被指定為該推斷輸出的問責方。

在物理世界照護交叉點

照護智能體將單獨來看無害的信號組合在一起——活動水平、睡眠時長、進餐時間、社交互動頻率、服藥依從性、可穿戴傳感器讀數——形成關於一個人健康軌跡的整體圖景。這幅圖景比其任何組成部分都更為敏感。

問題不在於這個推斷在任何傳統意義上是未經授權的。每個輸入都經過了適當同意。問責缺口在於智能體現在能夠做出的推斷本身從未成為同意的主題。

推斷放大問題的要求

彌合這一缺口需要將推斷授權作為一個獨立於輸入授權的一流問責對象來對待。每一個組合數據流的智能體部署都應包括推斷授權審查：明確確定智能體被允許持有哪些組合推斷、被允許對哪些推斷採取行動，以及無論它可以訪問哪些輸入都被禁止計算或保留哪些推斷。