← 返回博客
× 後量子安全 × 硬件 × 物理世界照護

同意粒度問題:當委託人無法以智能體可操作的分辨率指定權限時的問責困境

2026-06-14 5 分鐘閱讀

每一個有意義的同意框架都建立在這样一個假設之上:同意方在某种可行的分辨率下理解他們同意的內容。分辨率不需要完整——沒有人閱讀軟件許可的每一條款——但它需要足夠充分以锚定問責。如果實際發生的事情與合理預期的內容有實質性偏差,那麼同意就沒有约束那個行動。

AI智能體的運作分辨率是人類委託人無法匹配的。一個被授權訪問患者日常日程的照護智能體,在该權限內可以從預約模式推斷用药依從性、從訪客頻率檢測社會孤立、将睡眠中斷與照護事件時間關聯,以及将行為異常與縱向基線對比標記。说"是的,智能體可以查看日程"的委託人,并沒有同意這些具體的推斷。他們同意了一個粗略的類別。智能體在该類別的細粒度內容上行動。

這就是同意粒度問題。它不能透過更好的私隱聲明、更長的服務條款或更細粒度的權限複選框來解決。複選框比操作更粗略。這個差距是結構性的。

為什麼這個差距無法透過披露來彌合

對同意差距的標準回應是披露:更具體地告訴用户智能體将做什么。但披露只有在披露列表有限且可理解的情況下才有效。對于在豐富輸入數據上運作的AI智能體,可能操作的列表两者皆非。照護智能體的行為推斷能力不是命名操作的固定列表——它是可用數據、模型當前能力和部署上下文的函數。智能體可能執行在同意時沒有列舉的操作,因為它们來自撰寫披露時不存在的數據組合。

更多披露不會彌合差距;它将問題從同意转移到理解。一個在點擊"同意"之前收到十页可能代理操作清單的委託人,并沒有以更高分辨率同意。他們同意了清單的存在。問責基礎沒有改善,而是被遮蔽了。

在照護交叉点

在物理世界照護中,同意粒度問題在家庭和住宅環境中最為突出。一個授權照護智能體在家中支持老年親屬的家庭,同意了一個一般性目的。他們沒有——通常也無法——列舉智能體可能生成的每一個具體推斷、升級觸發器、數據保留行為或第三方通知。呼叫緊急服務、提醒遠方家庭成员或記錄對家庭環境關注的照護智能體,是在一般授權範圍內行動,但远超任何具體同意所涵蓋的範圍。

問責問題——這個行動是被授權的吗?——無法透過參考同意記錄來回答,因為同意記錄沒有描述那個行動。它描述了一個包含该行動的類別。因此,建立在同意之上的問責框架治理的是類別,而不是行動。智能體可以以委託人未曾預期、未曾意圖、也不希望的方式行動,同時在技術上仍处于授予類別的範圍內。

在硬件交叉点

相鄰硬件的智能體在不同的表面呈現相同的問題。一個被授權管理設備群固件的智能體,被授予了一個權限類別——固件管理——它包含了數百个具體操作:哪些設備以何种順序接收更新、在何种條件下触發什么回滾行為、當檢測到簽名異常時哪些設備被隔離,以及設備在需要人工審查前被隔離多長時間。在授權時,這些具體行為都沒有被列舉。它们隱含在授予的類別中。

當智能體作出干扰生產操作的固件決定時,問責問題不是智能體是否擁有固件管理權限——它确实擁有。問題是具體決定是否在實際同意的範圍內。在"固件管理"的粒度上,仅從授權記錄來看,這個問題是無法回答的。

在后量子交叉点

加密遷移智能體面临相同的結構,但风险更高。一個被授權管理加密基礎設施的智能體,可以在该授權範圍內決定廢棄哪些算法、按照什么時間線、在哪些系統上以什么順序,以及當遷移失敗時采用什么回退行為。這些決定具有重大的操作和安全後果。授予"加密基礎設施管理"的授權沒有指定其中任何一项。它授權了一個類別。智能體填充该類別的內容。

當智能體的具體選择导致加密覆蓋出現空白——遷移期間某些系統使用已弃用算法的窗口——授權記錄将確認智能體擁有權限。它不會揭示具體的排序決定是否曾被任何委託人考慮、評估或批准。

問責的要求

同意粒度問題沒有同意解決方案。它有一個審計解決方案:問責必须建立在智能體在操作層面實際做了什么,而不是類別層面上授權了什么。這要求智能體生成操作層面的記錄——而不是類別層面的日誌——可以在事後與委託人期望進行比較。

這也要求對"授權"意味著什么保持機構紀律。授予的權限不是该類別內所有操作的空白支票。它是一种臨時授權,携帶隱含的批准要求:委託人應該有持續的機制來確認正在執行的具體操作属于他們實際意圖的範圍。在该機制缺失的地方,授權已经超過了同意。

委託人能夠指定的內容與智能體能夠做的內容之間的差距,将随着智能體能力的增強而扩大。将粗略授權視為充分同意的問責框架将逐漸减少對智能體實際所做事情的治理。選择不是精细同意與粗略同意之間的選择。而是操作層面審計與名義問責之間的選择。

核心要點

人類在類別層面授權AI智能體——"管理固件"、"訪問日程"、"處理加密基礎設施"。智能體在具體操作層面行動,任何单一類別內都包含數千個操作。這些分辨率之間的差距意味著同意記錄在類別層面確認授權,而對所采取的具體行動保持沉默。在照護交叉点,一般授權包含未預期的推斷和升級。在硬件交叉点,固件權限包含未描述的操作決定。在后量子交叉点,遷移權限涵蓋未披露的排序選择。彌合問責差距需要操作層面的審計——而不是更長的披露、更细的複選框——因為這些操作來自數據,而不是來自披露。