警報飽和問题：問責訊號變成噪音

臨床警報疲劳在醫學文獻中已有充分記錄。在重症監護環境中，單個患者在一個班次內可能觸發數百次警報——心率、血壓、呼吸机参數、輸液泵和位置傳感器的監控設备各自貢獻數據。多項醫院研究的臨床發現表明：隨着警報总量上升，護士對警報的回應比例下降，而她们未能回應的警報中，包含了真實的緊急事件。這套本旨檢測患者病情惡化的問責機制，在高容量下却成了掩盖病情的機制。

這一現象在臨床實踐中有一個名字：警報疲劳。通常被视為醫療领域特有的人因問题。但這實際上是一個結構性問题，凡是問責系統產生的訊號超出監督流程所能吸收的數量時，便會出現——而 AI 智能體在三個交叉點的部署，恰好在每個交叉點都制造了這種條件。

問题結構

問責系統有两個面向：訊號生成面和訊號接收面。两者都有容量限制。訊號生成面被設計為倾向於完整性——宁多報不少報，因為任何漏報的事件都可能是最重要的那一個。訊號接收面受制於人類注意力：有限、易於飽和，且當訊噪比下降到可用閾值以下時，會發生脱敏。

當訊號量增長速度超過接收端的扩展能力時，問責閉環在人類端斷裂。日誌存在，警報觸發，記錄積累。但監督是名義上的——在架構上存在，在實踐中缺席。在這種環境中運行的智能體實際上處於無問責状態，不是因為無人監视，而是因為監视內容太多。

尤其危險的是，這從外部看起來是正确的。合規框架檢查日誌的存在，審計員验證警報是否配置。問責基礎設施存在。飽和問题在遗漏事件浮現之前是不可见的——而那時記錄會顯示警報已觸發，日誌已記錄，没有人回應。有問責基礎設施，却無問責覆蓋。

在照護交叉點

臨床警報疲劳是這一問题的直接現實場景。部署在照護場景中的智能體——監測生命體征、檢測跌倒、標记用藥時机——以結構化警報作為其問責輸出。在一個拥有數十名患者、每人由一套智能體監測的設施中，單班內的警報总量可能超過任何現實的監督容量。

這里的結構性张力無法通過增加更多智能體來化解。如果照護智能體產生警報，這些警報到达人類護理人員，而警報數量使護理人員脱敏到錯過真實紧急情況的程度——那么部署更週密的監測反而使情況更糟，而非更好。問責機制已然背離其目的。這並非假設，而是每一個在重新設計警報分診架構之前就快速增加監測技術的照護机構的有據可查的經歷。

在硬件交叉點

大規模硬件部署制造了第二個實例。當設备必須向网絡證明其完整性——固件版本、硬件配置、密碼憑證状態——每次認證失败都會生成一個事件。在數百萬設备的集群中，即便只有一小部分出現合理的硬件異常，也會產生令安全運營中心不堪重负的訊號量。

實際應對方式是抑制：提高警報閾值、配置自動忽略規則、將某些類別的認證失败重新定義為資訊性而非可操作事件。這些适應措施單獨來看都是理性的，合在一起却逐步掏空了問責架構。到真正的威胁事件發生時，它產生的訊號可能與已被系統性降級的背景噪音無從区分。基礎設施記錄了事件，而監督文化不再將該日誌類別视為需要回應的內容。

在後量子交叉點

後量子過渡將集中制造這一問题。隨着組織將密碼基礎設施從經典算法遷移到量子安全算法，過渡期間將大規模產生验證失败：舊簽名方案被標记為已廢弃、混合協商序列產生意外验證状態、HSM 固件更新在切换期間產生認證間隙。安全团隊將在密碼验證警報最有意義——但也最海量——的時刻面臨警報激增。

风險在於，安全運營中心會以一贯方式應對激增：提高閾值、壓縮警報類別。這種适應降低了噪音，同時也在最需要靈敏度的時刻降低了靈敏度。遷移期間的警報激增训练了監督流程將該訊號類別降級——而真實的威胁恰恰會將其作為掩護。

警報飽和的要求

答案不是减少問責訊號，而是問責訊號架構：有意設計分級紧急度、自适應閾值和以人為本的訊號筛選，使監督流程的接收容量與部署智能體的訊號生成容量相匹配。

這意味着從一開始就將訊號量视為設計約束——而不是部署後再調整的参數，届時飽和已經改變了訊號本應服務的監督文化。這意味着区分需要在數分钟內人工回應的訊號和需要在數週內人工審查的訊號，並以不同方式路由，而不是將所有內容以相同優先級推送到同一佇列。

一個產生超出人類處理能力的訊號量的問責系統，不是一個需要更好工具的強大問責系統。它是一個優化了監督外观、同時侵蚀其實質的問責系統。日誌存在，警報觸發，問責缺位。