可讀性問題

有一種問責制在形式上是完整的，但實際上是空洞的。審計日誌存在，決策記錄被存儲，密碼證明已附加。然而，組織中沒有任何人——無論是工程師、合規官，還是由智能體管理護理的當事人——能夠閱讀記錄並理解智能體為何採取了特定行動。日誌是沒有意義的證據。這就是可讀性問題。

可讀性問題與相關缺口不同。取證缺口涉及記錄是否存在。可觀測性缺口涉及在智能體運行時你能看到什麼。規格缺口涉及智能體的目標是否被正確定義。可讀性問題更為具體：記錄存在，智能體完成了任務，但決策追蹤——從輸入到行動的推斷鏈——無法被負責監督的人類解讀。審計產生的是合規表演，而非真實問責。

為何可讀性默認失效

可讀性不是已記錄智能體行為的自然屬性。它是一個必須明確做出的設計選擇，且代價高昂。一個足夠可讀的決策追蹤具備三個屬性：完整性（捕獲智能體關注的輸入，而非僅是輸出）；情境性（記錄決策時刻的世界狀態，而非抽象摘要）；可解釋性（以有資格的人工審查員無需專業工具即可理解的方式表達）。

當前智能體系統通常在這些屬性上有一個或多個失效。當智能體記錄結論而不記錄推斷鏈時，完整性失效——記錄顯示"已授權"而不顯示為何授權。當智能體記錄行動而不記錄觸發行動的環境狀態時，情境保真度失效——記錄顯示"已給藥"而不顯示給藥時的患者狀態。當審計記錄以技術上完整但沒有轉換工具便無法人工閱讀的令牌概率、注意力權重或原始嵌入表達時，可解釋性失效。

後量子安全交叉點

後量子交叉點使可讀性成為安全要求。運行後量子算法的智能體產生的密碼證明記錄可能以格式嵌入算法標識符、密鑰材料參考和哈希鏈，這些格式對專業工具技術上可審計，但對實際必須審查它們的安全工程師和審計員來說是不可讀的。當一個簽名事件受到挑戰時——無論是監管機構、事件響應人員，還是交易對手——問題不僅僅是簽名是否有效，還有人工審查員是否能追溯產生它的權威鏈。一個算法上可驗證但無法向人類受眾敘述的證明記錄，並不建立問責制；它建立的是機器與自身達成一致的證明。

從經典算法向抗量子算法的遷移增加了第二個可讀性層次。系統在遷移過程中可能包含使用不同算法代的智能體，每個產生不同格式的記錄。復合審計追蹤在技術上存在，但在解釋上是碎片化的。在這種情況下，設計時的可讀性意味著在密碼材料旁邊以人類可讀形式生成自我標識其算法上下文的記錄，使未來的審查員——在遷移多年後工作——仍能理解發生了什麼以及原因。

硬件交叉點

硬件智能體產生的遙測數據受設備約束而非人工審查員需求的格式塑造。傳感器讀數、狀態轉換和證明報告以二進制格式、縮寫字段標識符和設備原生時間戳記錄。一個硬件證明報告可能由驗證服務器在毫秒內通過密碼驗證，但同一報告——打印或顯示給合規工程師——是一系列十六進制值，沒有內在敘述。

硬件交叉點的可讀性問題因時間而加劇。今天產生的記錄——如果曾被審查——將在監管背景、事故調查或可能在事件發生多年後發生的責任訴訟中被審查。設計遙測格式的工程師可能已經不在了。解析這些記錄的工具可能已被棄用。可讀性依賴於當前員工和當前工具的審計記錄今天可讀，明天不可讀。以硬件為根的證明解決了完整性問題：記錄是防篡改的。它不能解決可讀性問題：記錄還必須能被沒有記錄作者所默認的內部上下文的人工審查員解讀。

物理世界照護交叉點

在照護場景中，可讀性問題有直接的利益相關者後果。護理人員、臨床主管、患者家屬和監管機構都有合理的利益來瞭解照護智能體做了什麼以及為什麼。這些利益相關者不是工程師。他們無法跟隨以模型內部狀態或激活模式表達的決策日誌。他們可以跟隨結構化敘述：在這個時間，在這些條件下，智能體做了這個，因為它對情況的評估如下。這兩種表達之間的差異不僅僅是美學上的——這是問責制與其模擬之間的差異。

一個在沒有產生可讀推理記錄的情況下施用或拒絕干預的照護智能體，創造了一個文檔缺口，影響的不僅是智能體的運營者，還有處於智能體照護中的人。當不良事件被調查時，"智能體做這個決策時考慮了什麼？"這個問題必須能從記錄中單獨回答，無需開發者從從未被設計為可讀的日誌中重建內部狀態。可讀性在照護中不是可選項；它是智能體在某人照護中的行動權限在事後可被證明合理的條件。

可讀性作為設計要求

實際含義是可讀性無法事後補救。一個記錄智能體行為而不記錄智能體行為原因的系統，不會通過增加存儲變得可讀。決策上下文——輸入、狀態、目標框架、被考慮和拒絕的替代方案——必須在決策時以不需要原始系統即可閱讀的形式捕獲。這是設計要求，而非日誌改進。

構建可讀智能體比構建記錄輸出的智能體更昂貴。它需要明確的推理追蹤、在決策邊界處的結構化狀態捕獲，以及為人工審查而非機器驗證設計的記錄格式。在後量子安全、嵌入式硬件和人類照護等問責制是真實要求的領域，這種代價不是可選的。在沒有留下可讀追蹤的情況下行動的智能體，沒有留下審計記錄；它留下的是自身不透明度的紀念碑。可讀性是將日誌轉化為證據、將證據轉化為問責制的東西。