負空間問題：AI智能體不作為時的問責困境

大多數AI智能體的問責框架都圍繞著已做出的決策和已採取的行動構建。智能體執行操作、創建記錄、跨越閾值並升級處理。問責問題是發生了什麼以及誰授權了它。

但部署在監控、護理和安全角色中的AI智能體被期望做另一件事：持續觀察並在條件需要時採取行動。預期行動可能是警報、升級、記錄或預防性干預。當該行動未發生時——當智能體在監視但沒有發出標記——所產生的問責問題在結構上與錯誤行動的問題不同，而且大多數現有框架都沒有解決這一問題。

這就是負空間問題。

遺漏的結構

當智能體採取錯誤行動時，問責記錄從特定時刻開始：決策時刻。該決策有時間戳、可歸因，並可供審查。問題是它是否被授權、是否正確形成以及是否基於適當的輸入。

當智能體在應該採取行動時未採取行動時，沒有可審查的時刻。沒有帶時間戳的非決策。只有應該存在的記錄的缺失——而記錄的缺失本身不是記錄。隨後發生的危害可能在事後被追溯到智能體的不作為，但缺失本身不會留下任何痕跡。

這種不對稱性在護理場景中極為重要。AI護理智能體被期望檢測到病情惡化並升級處理。當它確實升級時，升級被記錄。當它沒有升級——當患者病情惡化而智能體本有能力發出但未發出警報時——警報缺失不會成為審計跟蹤中的條目。危害發生了，但審計跟蹤中沒有任何內容解釋為什麼警報缺席。

後量子交叉點：安全監控中的靜默缺口

在後量子交叉點，負空間問題出現在密碼衛生的背景下。負責監控系統密碼狀態的AI智能體——憑證到期、密碼套件合規性、金鑰輪換計畫——通過其發出的警報創建問責記錄。當向量子抗性演算法的過渡不完整時，本應監控傳統密碼使用並未標記不合規端點的智能體不會留下該缺口的記錄。

隨後發生的安全事件可能被歸咎於密碼過渡失敗、監控系統故障或未審查從未生成的報告的運營者。智能體的不作為是危害的原因，但問責結構並非為捕捉遺漏為第一類事件而構建的。缺失在設計上對審計跟蹤不可見。

在硬體交叉點，這一問題更為複雜。監控硬體錨定密碼狀態完整性的智能體——檢查安全飛地是否在規範內運行、認證鏈是否保持有效——依賴於可能悄然退化的條件。上週檢查過且未發現問題的監控智能體與今天檢查的監控智能體不同。檢查之間的間隔不被記錄為間隔，而是根本不被記錄。

護理交叉點：從未到來的升級

在實體世界護理中，負空間問題既最為尖銳，又最不受重視。護理智能體的部署正是為了提供人類護理人員無法以相同強度維持的持續監控。它們的價值主張在於升級——在惡化變得不可逆之前捕捉到它的警報。

當升級未發生時，問題不僅僅是智能體做了什麼，還有：智能體本有能力做什麼、其閾值被配置為檢測什麼、這些閾值是否適當，以及護理團隊是否有權將智能體的沉默解讀為狀況穩定的信號。

最後一點至關重要。在護理場景中，智能體的沉默通常在操作上被解讀為一種信號。依賴AI監控系統的工作人員學會將警報缺失視為無需警報的證據。當智能體未觸發時——因為閾值配置錯誤、感測器已漂移或罕見的條件組合落入未監控的缺口——危害之前的沉默與一切正常的沉默無從區分。

最容易受到這種失敗模式影響的是無法自報問題的護理對象。正在經歷真實惡化的老年居民可能無法識別出護理智能體沒有發出標記。智能體的沉默承載著它從未被設計去承擔的臨床權威。

問責架構的要求

解決負空間問題需要將非事件作為審計對象處理。幾個特性由此而來。

首先，未發生的預期行動應被記錄為缺席，而非空白。監控某一狀況的智能體在評估該狀況但未發現可操作內容時應創建記錄——而不僅僅是在發現問題時。警報缺失應是一個記錄的發現，而非默認的沉默。審計跟蹤應該像記錄已採取行動一樣，持續包含「在時間T評估了狀況X，無需操作」形式的陳述。

其次，智能體被期望採取行動的條件必須被明確規定且可獨立審計。定義智能體警報閾值的配置是一個問責工件——它決定了智能體應標記什麼以及被允許遺漏什麼。該配置應進行版本控制、加蓋時間戳，並與其所治理的決策一起可供審查。在不留下審計跟蹤的情況下更改閾值等同於追溯性地重寫智能體運行規則。

第三，對智能體沉默的依賴必須受到治理。當人類在操作上將智能體不作為視為積極信號時——將警報缺失理解為狀況穩定——這一推斷完全取決於智能體監控配置的正確性。對這種依賴的治理：誰授權了它、需要什麼審計以及如何快速檢測到配置錯誤，應該是明確的並接受審查。

負空間問題無法僅靠更好的行動記錄來解決。它要求預期行動的缺失與行動本身一樣可見和可追溯。在此之前，AI智能體的問責架構在結構上對許多智能體所能做的最重要的事情視而不見：什麼都不做。