表示差距：當AI智能體依據模型而非現實行動時的問責

AI智能體無法直接接觸患者、檢查電路板或通過直接觀察檢測金鑰洩露。每一個推斷、建議和行動都通過表示來中介——物理現實的結構化近似，在特定時間、通過特定過程創建，可能不再與所描述的內容匹配。

這對AI智能體來說並非獨有。人類從業者也依據記錄工作。醫生審查患者病歷時是在處理一種表示，安全工程師審查系統圖時也是如此。不同之處在於，人類從業者將隱性知識帶入表示與現實之間的差距——他們知道病歷缺少上下文，尋找不一致之處，提出記錄無法回答的問題。他們的直接接觸補充了數據。

AI智能體沒有這種補充。表示就是一切。當表示準確時，智能體可以表現出色。當它偏離現實時——而它總會在某處偏離——智能體沒有機制檢測這種偏差。它以充分的自信基於錯誤前提行動。這就是表示差距。

在照護交叉點

在實體世界照護中，一個人的數字表示從臨床記錄、設備讀數、照護計劃注釋和結構化評估中組裝而成。每個數據點在特定時刻、由特定儀器或提供者為特定目的捕獲。它們共同形成一個表面上連貫的整體，實際上是來自不同時間、不同來源和不同情境的快照拼圖。

當智能體在這種表示上運作時，它做出局部連貫的決策——它們符合數據模型——但可能不符合真實的人。當損害隨之而來時，問責問題不僅僅是「智能體推斷出了什麼？」，還有「誰對智能體所給的表示負責？」沒有單一行為者組裝了完整的表示，問責的差距與模型和現實之間的差距相匹配。

在硬件交叉點

硬件安全智能體在物理系統的表示上運作——網絡拓撲圖、固件清單、配置基線、漏洞掃描結果。這些表示由以間隔運行的發現過程創建，而非持續運行。掃描之間，物理現實發生變化：設備被替換、固件通過帶外渠道更新、配置通過未記錄路徑被修改。

根據過時地圖評估安全態勢的智能體並未在檢測漏洞——它無法檢測它們。其乾淨的評估相對於表示是準確的，相對於實際系統是錯誤的。當攻擊者利用智能體地圖未顯示的內容時，問責問題是相同的：誰對智能體運作所依賴的表示的新鮮度負責？

在後量子交叉點

加密身份是一種表示：公鑰斷言「我是這個實體，我控制這把金鑰。」金鑰材料老化、被洩露、被委託給不再持有它的各方，或被更新的金鑰材料取代，而更廣泛的系統尚未同步。如果管理加密遷移的智能體依賴的表示是錯誤的——仍被列為有效但已被洩露的金鑰、被標記為完成但只是部分執行的遷移——智能體會以與現實準確時相同的自信認證錯誤狀態。錯誤在被對手利用之前是不可見的。

差距所需要的

表示差距沒有消除它的工程解決方案。持續數據收集可以縮小它；新鮮度追蹤使其可見；異常檢測可以標記表示與觀察行為偏離的情況。但差距無法完全關閉。

差距所需要的是明確命名它的問責架構，而不是將其視為殘餘細節。部署者應被要求描述其智能體運作所依賴的表示：如何組裝、刷新頻率以及已知限制。在高風險情境中，智能體應被禁止在超過定義閾值的表示上行動。

當損害被追溯到表示錯誤而非推斷錯誤時，問責路徑必須到達表示的托管人——組裝、維護和提供智能體所依賴的數據模型的組織。他們給了智能體一個可以行動的世界。當那個世界是錯的，他們共同承擔後續的責任。