漸進自主問題：當AI智能體的行動範圍擴展而問責架構未能同步跟進

贏得信任是良好部署的成果之一。一個在一段時間內展現出可靠、有界行為的AI智能體，原則上應該被賦予更廣泛的行動範圍。一個連續六個月正確處理用藥提醒的照護智能體，是擴展臨床監測職責的合理候選者。一個在低敏感區域表現穩定的樓宇管理智能體，可以獲准訪問更關鍵的系統。一個在內部流量上表現良好的後量子密碼系統，會被擴展至覆蓋合作夥伴資料。這是正確的方向。漸進自主問題不在於信任被擴展——而在於問責架構沒有隨之擴展。

任何部署的授權記錄都是一個快照：它捕捉某一時刻、在特定範圍內、基於特定假設集合所授權的內容。隨著智能體的行動範圍擴展，這份快照對智能體實際行為的描述逐漸變得不完整。審計追蹤記錄對照原始規範的行為。同意記錄覆蓋原始受影響群體。監督機制是針對原始風險範圍而設置的。當信任範圍擴展時，這些均不會自動擴展。結果是，智能體的運營現實與其問責架構之間產生分歧——隨著每一次漸進式信任增量而不斷擴大。

信任與問責的不對稱

信任與問責通常被視為配對關係：一方增長，另一方應當相應擴展。實踐中，信任往往透過非正式的運營判斷而擴展——主管注意到智能體表現良好，便授權其執行額外任務——而問責基礎設施的變更則需要審慎的重新授權：更新同意記錄、修訂審計範圍、調整監督閾值。這種不對稱是結構性的。信任可以在一天下午完成擴展，問責基礎設施則需要一套治理程序。

這種不對稱意味著問責缺口不是監管疏忽，而是運營環境中信任實際授予方式的架構性特徵。增量擴展感覺過於細小，不值得觸發重新授權。沒有任何單一步驟重要到足以觸發正式審查。然而累積的擴展，可能使智能體遠遠偏離其問責架構所設計治理的部署場景。

後量子安全交叉點

後量子密碼系統不會在第一天就以完整範圍部署。機構通常從流量的子集開始——內部通信、低敏感度金鑰材料——隨著演算法證明可靠、運營信心增長，再擴展覆蓋範圍。初始部署的問責架構涵蓋了該初始範圍的審計範圍、事件響應義務和上報路徑。當覆蓋範圍擴展至更高敏感度資料、合作夥伴和第三方材料、或影響下游系統的金鑰管理功能時，原有問責架構不會自動更新。

在擴展範圍內發生故障或遭受攻擊的風險狀況，與初始範圍內相同故障的風險狀況存在實質性差異。問責架構應當反映這種差異。實踐中，增量擴展往往在未觸發對現有審計追蹤、事件響應程序和監督閾值是否適合新範圍進行審查的情況下就獲批准。密碼系統受到更多信任，卻沒有得到更具問責性的治理。

硬件交叉點

嵌入物理基礎設施的AI智能體，通常會隨時間推移贏得更廣泛的訪問權限。最初僅以監測角色部署的智能體——觀察環境條件、記錄佔用模式——經證明可靠後，獲得了執行權：環境控制、訪問管理、進而整合至緊急響應系統。在每個步驟中，硬件證明驗證在擴展角色中運行的智能體是經授權的智能體。它無法驗證的是，來自原始僅限監測部署的問責架構，是否足以治理一個現在控制物理訪問並可觸發緊急響應的系統。

硬件證明是關於身份和完整性的聲明，而非關於範圍治理。一個以遠超其原始部署規範的累積自主權運行的完整經證明智能體，正在一個經過充分證明的問責缺口中運行。信任增量被捕獲在運營實踐中，問責擴展則沒有。

物理世界照護交叉點

照護AI部署尤其容易受到漸進自主問題的影響，因為建立信任是明確的臨床目標。一個最初為低風險任務部署的照護智能體——預約安排、日常簽到提示——在數週內證明自身價值後，獲得了擴展職責：生命體徵監測、跌倒偵測、行為評估。每次擴展都反映了對智能體已證明可靠性的合理臨床判斷。問責架構——誰審查智能體的輸出、維護什麼審計追蹤、適用什麼上報閾值——是為執行預約安排的智能體而編寫的。

一個為體弱居民執行行為評估和跌倒偵測的智能體，在每一個與問責相關的維度上都是不同的部署：受影響群體更脆弱，錯誤後果更嚴重，職業責任暴露不同，持續監測的同意影響更為重大。當臨床團隊決定擴展智能體角色時，這些差異均不會被自動捕獲。同意記錄仍然描述較窄的範圍。審計追蹤仍然適用較寬鬆的監督。問責架構仍屬於已部署的智能體，而非正在運營的智能體。

漸進自主的要求

解決方案不是限制信任擴展——贏得的自主權是合法且可取的部署成果。解決方案是範圍觸發的問責審查：一項正式要求，規定智能體運營範圍的每次重大擴展，都應觸發對現有問責架構是否仍適合新範圍的明確審查。

審查不必在每次增量時都全面進行。它應當是分級的：進入更高風險領域的擴展需要更徹底的審查；在已建立模式內的擴展需要較少審查。但審查必須發生、必須有記錄，其輸出——更新後的問責規範——必須成為部署記錄的一部分。問責架構應當描述智能體現在被授權做什麼，而不是其首次部署時被授權做什麼。

在Asaptic Labs，我們將漸進自主視為每個交叉點的持續性設計約束。信任透過表現贏得，問責必須透過治理贏得。兩者之間的差距不是運營健康的標誌——而是漸進自主問題在每個運行良好的部署背後默默運作的表現。