退役問題：AI智能體關閉後問責義務的歸宿

當AI智能體系統關閉時，最自然的假設是其義務隨著運營的結束而終止。智能體停止行動；審計追蹤被存檔；構建它的團隊繼續前進。但問責不是系統是否運行的函數。它是過去行動的後果是否仍存在於世界中的函數——這些後果不會因智能體消失而停止存在。

這就是退役問題。它不是狹義上的技術問題；它是一個治理問題，當有人詢問系統在運行期間積累的問責義務發生了什麼時，這個問題就會浮現。在大多數當前部署中，答案是這些義務消解了。系統消失了。記錄可能可以訪問，也可能無法訪問。理解它的人可能已經散去。針對已退役智能體的索賠沒有明確的地址。

退役會破壞什麼

智能體系統關閉時，三類問責基礎設施面臨風險。第一類是證據性的：審計日誌、決策記錄以及解釋它們所需的上下文。僅僅存檔日誌是必要但不充分的。沒有模型版本、輸入上下文、有效權限和調用的下游系統，一條寫著「14:32:07採取了行動」的日誌條目無法被解讀。保留了日誌但丟棄了解釋上下文的退役操作保留了審計追蹤的形式，同時破壞了其功能。

第二類是密碼學的。如果智能體使用簽名密鑰來證明其決策，這些密鑰在退役時面臨託管問題。在關閉時銷毀的密鑰無法用於驗證歷史決策。無限期保留的密鑰會產生自身的風險。退役時刻需要一個深思熟慮的密鑰託管計劃，而不是預設銷毀或保留。

第三類是關係性的。智能體系統通常在整合網絡中運行：它調用的API、它更新的系統、它嵌入的人類工作流。這些關係不會因智能體終止而終止。從已退役智能體接收輸出的下游系統可能會繼續基於這些輸出行動多年。問責鏈不在智能體的最後一次行動處終止；它通過之後發生的每一個下游後果向前延伸。

後量子交叉口

退役問題的密碼學維度在與後量子安全的交叉點上最為尖銳。使用現在被認為脆弱的算法簽署其決策的智能體呈現了一個追溯完整性問題：即使正確記錄了過去的決策，任何未來方也無法驗證它們。審計追蹤存在，但信任它的能力已經過期。這在退役時創造了一個具體義務：在關閉之前而不是之後，將簽名密鑰遷移到後量子算法。以歷史記錄上的遺留簽名退役的系統使那些記錄處於未來無法驗證的狀態——可能多年不可見，直到有人需要重建系統實際決定了什麼，並發現信任鏈已經斷裂。

硬體交叉口

在專用硬體上運行的智能體——安全飛地、硬體安全模組、可信執行環境——留下了特定的退役殘留物。硬體可能被重新利用、轉售或銷毀。每條路徑對於留下什麼和銷毀什麼有不同的含義。重新利用的硬體存在意外資料持久性的風險。沒有明確清除的密鑰、部分日誌和模型工件可能在轉換到新目的時存活下來。銷毀硬體消除了持久性風險，但也消除了未來問責索賠可能需要的任何剩餘密碼材料。硬體的正確退役路徑取決於系統積累的問責義務、這些義務持續多長時間以及誰有權做出託管決定。

物理世界護理

在物理護理環境中，退役問題採取了最具後果性的形式。管理護理決策的智能體積累了以生物時間尺度而非系統生命週期運行的問責義務。護理由智能體決策塑造的患者可能在數年內有健康後果展開。如果出現問題，問責調查將需要訪問智能體決定了什麼、為什麼這樣決定以及當時的運行狀態。護理問責義務也以大多數智能體系統沒有針對設計的方式進行法律結構化。醫療記錄保留要求因司法管轄區而異，通常在護理事件結束後延伸數年或數十年。對醫療決策做出貢獻的智能體在功能上是醫療記錄的一部分。其退役需要與適用於其生成記錄的保留義務協調。

退役計劃需要什麼

退役應該被視為一級問責事件，而不是清理任務。實踐中這意味著幾件事。關閉前，問責審計應記錄系統積累了什麼義務、持續多長時間以及誰繼承它們。日誌保存必須包括解釋性上下文，而不僅僅是原始記錄。目標不是儲存字節；而是保留未來調查員重建發生了什麼的能力。這需要模型版本記錄、輸入上下文模式、決策時的有效權限狀態，以及運行期間任何已知系統異常的文件。密碼連續性在關閉前需要密鑰託管決定。下游通知應到達從已退役智能體接收輸出的每個系統和工作流。退役問題最終提醒我們，智能體系統不受其運行時的限制——它們通過後果向前延伸，通過記錄向後延伸。把關閉視為問責故事終結的計劃誤解了故事在哪裡結束。