自動化萎縮問題：因廢棄導致監督能力退化時的問責機制

AI智能體的問責架構假設回路中存在有能力的人類——能够審查決策、識別異常、並在出错時行使知情否決的操作員。這一假設在部署時几乎普遍受到審视，在部署生命週期内却几乎從不被重新檢驗。

自動化萎縮問題不是關於人類過度信任智能體——那是自動化偏見問題，已有充分記錄。這涉及的是更具結構性的現象：当智能體在較长時間内可靠處理某類決策時，人類操作員停止練習那些使他们能够對该類決策进行有意义監督的技能。監督基礎設施在形式上依然存在。赋予其實際意義的能力，在審計記錄之下悄然侵蝕，直到被需要的那一刻才暴露。

技能需要在真實條件下練習。因智能體處理了網絡流量分析而停止親自審查的安全分析員，會逐渐失去使他们能够獨立評估智能體建議的威脅模式識別能力。他们的監督功能退化，不是因為變得過於自信——而是因為失去了監督所赖以存在的基礎。当智能體最終遇到無法有效處理的案例時——每個部署系統都會遇到——人類安全網已萎縮到無法可靠捕獲錯誤的程度。

這在一個具體方面區别於自動化偏見：偏見描述的是決策時刻的一種傾向，一種精心設計的界面可以部分抵消的推卸習慣。萎縮描述的是在數月乃至數年部署中發生改變的能力状態。更好的儀表板無法抵消萎縮。唯有刻意練習才能抵消。

後量子安全交叉点

後量子遷移需要在算法選擇、威脅模型更新和證書驗證邊緣案例方面持續的人類判斷。這些不是例行操作——而是需要在快速演變的領域中保持專業知識的判斷调用。可靠處理經典密碼操作的智能體會導致經驗丰富的分析員從決策流中脫離。在足夠长的部署期内，当初在场的分析員離职；他们的繼任者在一個智能體建議被批准而非評估的環境中接受培訓。

当真正新穎的威脅出現在過渡邊界時——超出智能體訓練分佈、或涉及智能體歷史接觸有限的算法家族——組織獨立識別和應對的能力已經退化。問責記錄显示人類對智能體決策的持續批准。它不显示隨著員工保持的專業知識收窄到智能體從不出错的決策範圍，這種批准變得越來越缺乏知情基礎。

硬件交叉点

管理工業設備、建築基礎設施或物理機器人隊列的智能體會训練其操作員信任其輸出。在智能體診斷持續准确預測設備行為的情况下，維護技術員停止进行獨立檢查。隨著時間推移，在没有智能體介入的情况下解讀傳感器數據所需的技能會退化。

当智能體對新型故障模式进行錯誤分類時——它没有歷史類比的退化模式——本應捕獲錯誤的技術員不再練習捕獲所需的診斷模式識別。人工檢查出現在維護記錄中，却不再代表有效的第二意見。這是一個問責設計失败：系統被建立為受益於人類監督，却没有被建立為保存其所依賴的人類監督能力。

物理世界護理交叉点

在護理場景中，臨床觀察技能是智能體辅助監測和筛查的主要後備支撐。在數月乃至數年内，可靠識別哪些居民需要關注的護理智能體會塑造護理人員的實踐模式。向智能體發出的護理人員將其獨立臨床觀察與真實結果校準的頻率降低。智能體的輸出逐渐取代獨立檢查，而非補充它。

当居民出現超出智能體可靠運行範圍的病況時——新颖的表現形式、非典型的症狀組合、在訓練分佈中缺席的病況——護理人員的獨立臨床判斷恰恰是所需要的。這種判斷依賴於通過積極使用而保持的觀察技能。在智能體良好處理大量標準案例的環境中，這些技能使用頻率降低，在最關鍵時刻的可靠性也因此下降。

問責架構必須解决的問题

最低限度的回應是將監督能力视為需要明确維護的部署資產——不是在部署時一次性維護，而是在系統整個運營生命週期内持續維護。否決的形式權威不能替代有效否決的保持能力。

問責架構必須包括刻意的能力保存機制：對統計上代表性样本的智能體決策进行强制性無輔助審查、對智能體看不到的保留案例的定期能力驗證，以及監督角色輪換以防止對智能體處理良好的決策過度專業化。智能體的可靠性記錄不是减少對人類監督能力投入的理由——它是證明部署正在改變監督任務要求的證據。

更深層的含義是，監督能力維護的範圍必須針對智能體退化時最重要的故障模式，而非針對智能體可靠處理的例行決策。針對不墜落而設計的安全網不是安全網。假設其没有主動維護的能力的問責架構，無法可信地聲稱其形式上記錄的監督。