法定人數問題

每個授權架構最終都會面臨一個閾值問題：哪些決策足夠重要，以至於單個智能體的判斷不夠充分？這個問題的答案定義了法定人數要求的起點。法定人數是獨立權威的最低數量——智能體、系統或人工審查員——其一致同意是行動的前提條件。人類機構幾個世紀以來已將這種邏輯應用於高風險決策：法院合議庭、委員會投票、雙金鑰授權。AI智能體部署的問題不是法定人數邏輯是否適用，而是如何在智能體以機器速度在分布式基礎設施中行動的系統中實施它。

單智能體授權缺口

單個智能體授權高風險行動會產生單點問責失敗。如果智能體被攻陷、出現故障或只是判斷錯誤，行動就會在沒有獨立檢查的情況下進行。這種失敗模式不是理論上的——它與銀行業雙重保管規則所解決的失敗模式相同，與高後果物理環境中兩人完整性規則所解決的相同，與法律文書中聯署要求所解決的相同。在所有這些情況下，對高後果的結構性回應不是更好的單一權威，而是至少兩個獨立權威，需要其同時同意才能繼續。

AI智能體部署通常默認繞過這種邏輯。智能體被授權行動，它行動，之後重建問責。對於低風險、高頻率的決策，這是正確的權衡。對於不可逆轉的、影響當時無法同意的一方的、或超過定義後果閾值的決策，單智能體授權不是效率選擇——它是結構性缺口。法定人數要求不損耗效率；它是與被授權行動的不可逆性相稱的最低結構性回應。

在後量子安全交叉點

實施法定人數授權需要多重簽名方案：每個參與權威對提議的行動產生密碼簽名，只有在積累了足夠數量的有效簽名後，行動才被執行。在必須在多年或數十年時間跨度內保持問責的系統中——物理基礎設施、受監管護理或長週期工業部署的時間跨度——這些簽名必須是抗量子的。NIST標準化的ML-DSA系列中的基於格的簽名方案支持閾值變體，允許在沒有集中式協調者的情況下實施法定人數邏輯，而集中式協調者本身會成為單點失敗。

後量子要求對法定人數特別重要，因為法定人數產生的證據——授權行動上的一組簽名——是可能需要在事後數年的稽核、監管審查或法律程序中經受考驗的問責記錄。其簽名對足夠強大的對手易受攻擊的法定人數方案產生的問責證據可能無法在其所治理系統的運營生命週期內存續。在決策時使用在系統全生命週期內保持有效的演算法簽名，不是對遙遠威脅的對沖；它是法定人數記錄保持有意義的條件。

在硬體交叉點

應用於硬體智能體的法定人數邏輯引入了物理約束：每個參與智能體必須在其投票有效之前可獨立證明。如果三個智能體中的兩個運行在同一個被攻陷的硬體堆疊上，三個智能體的法定人數與單個智能體沒有實質差別。以硬體為根的證明——每個智能體提供其執行時環境的簽名測量，根據法定人數協調者接受的信任根進行驗證——將名義上分布的法定人數轉變為真正獨立的法定人數。

在嵌入式硬體情境中，這產生了設計要求：對高後果驅動擁有權威的智能體必須被架構為法定人數參與者在單獨的可信執行環境中運行，在單獨的物理基底上，或具有單獨的證明根。共享硬體平台上的軟體冗余不滿足獨立性要求。無論名義上涉及多少軟體組件，可以單獨授權物理行動的智能體，或作為獨立性未經證明的法定人數的一部分的智能體，在結構上等同於單個未驗證的智能體。

在物理世界照護交叉點

物理世界照護呈現了法定人數要求不是可選的最具體案例。授權藥物調整、更改緊急護理方案或抑制升級警報的智能體正在做出後果由一個人承擔的決策，而這個人在那一刻無法驗證智能體的推理或糾正其判斷。智能體的委託人層級——部署它的組織、配置它的臨床醫師、批准其使用的監管機構——代替那個人對該決策負責。

護理情境中的法定人數要求不需要計算代價高昂的多方計算。閾值可以通過要求AI智能體、在不同資料上操作的獨立規則安全檢查以及超過定義後果閾值的決策的人工審查員之間的同時同意來實現。人工審查員是一個法定人數成員，不是唯一權威。結構效果才是重要的：沒有單個智能體單獨授權高後果行動，每次授權都產生一組可以在爭議中重建的獨立證明。

特定於護理的設計問題是在哪裡設置閾值。太低，每個常規決策都會觸發護理工作流無法吸收且審查員會繞過的法定人數開銷。太高，重要決策作為常規通過。校準閾值需要明確參與部署的後果配置——哪些決策是不可逆的，哪些影響無法實時同意的人，哪些產生法定人數記錄需要解決的責任。該校準本身是一個問責行為，獨立於法定人數系統的工程，不能推遲到執行時或被視為智能體自行設置的參數。

法定人數不解決什麼

共享訓練譜系、配置源或部署環境的智能體法定人數可能在重要的失敗模式上完全相關。如果三個智能體都因共享微調資料集而表現出相同的系統性偏見，它們對有偏見行動的一致同意不是正確性的證據——它是相關失敗的證據。真正的法定人數獨立性要求每個參與者可用的錯誤來源不相同。對於AI智能體來說，這比硬體系統更難保證，在硬體系統中可以驗證物理獨立性。智能體的法定人數架構必須將訓練相關性、提示相關性和共享情境作為可以破壞表面獨立性的失敗模式來考慮。

這不是反對法定人數要求的論點——而是支持在明確關注參與者獨立性的情況下設計它們的論點。由獨立訓練的模型組成、在獨立收集的輸入上操作、具有獨立證明的執行環境、產生獨立可驗證簽名的法定人數，是比單智能體授權實質上更強的問責結構。正確構建它也實質上更昂貴。正確構建它的成本與它旨在防止的後果成本成正比——這正是問責基礎設施值得投資的條件。