不對稱糾錯問題

這種不對稱性陳述起來很直白：一個 AI 智能體可以在單個人工審查員處理第一個案例之前，向一萬人傳遞錯誤決策。傳遞錯誤只需毫秒。糾正它將耗費數月。

這就是不對稱糾錯問題，智能體錯誤傳遞規模與其可被糾正的規模之間的結構性差距。這不是偶然的流程失敗。這是智能體部署的幾何特性，而問責框架尚未充分面對這一現實。

為何系統性錯誤與眾不同

隨機錯誤通常可以透過同一傳遞渠道推送糾正輸出來大規模修復。系統性錯誤則不然。那些由訓練分佈不匹配、配置邊界偏移或共享模型失效模式引發的錯誤，影響的不是隨機的使用者子集，而是由導致失效的特徵本身所定義的一個類別。

每次糾正都需要確認錯誤建議是什麼、正確建議應該是什麼，以及在發現錯誤之前的間隔期內當事人採取了什麼行動。糾正就是個案處理，而個案處理的規模與部署覆蓋範圍成正比。

為何潛在傷害會加重責任

當錯誤決策造成的傷害並非即時顯現時，受影響的人在錯誤未被發現期間持續依據錯誤輸出行事。從系統性錯誤到被發現的整個潛伏期內，糾錯義務不斷累積。

以錯誤能被迅速發現為前提設計的問責架構，無法考量在這段潛伏期內積累的糾錯需求。而這種需求在設計階段就是可以預見的，卻未被如此對待。

為何糾正無法自動化

計算回滾是對稱的：寫入錯誤狀態的系統可以覆寫它。人類傷害則不然。糾正它需要聯繫受影響者、告知錯誤、就正確建議應是什麼提供指導，並支持糾正所涉及的一切變化。

以無法事後糾正的規模部署智能體的組織，做出的不是部署決策，而是一個責任決策。

後量子安全交叉點

當一個密碼學算法族被棄用時，在其下簽署的每條記錄都需要個別審查：不是該算法是否被普遍棄用，而是這條特定記錄在這一特定用途中是否依賴了一個不再成立的安全保證。

硬件交叉點

影響已部署硬件叢集的韌體漏洞需要三項操作：識別受影響裝置、推送糾正配置，以及確定在漏洞存在期間的智能體行為是否需要重新審查。前兩項可以自動化，第三項則不能，因為它是個案處理。

物理世界照護交叉點

在照護部署中，不對稱糾錯問題影響最為深遠。一個系統性地未能標記某類禁忌症、或在患者群體中低估某種症狀模式的智能體，以機器速度傳播了錯誤照護指導。

大規模部署智能體的照護機構必須能夠以相應規模提供這項糾正工作。這種能力不是在事故發生後才配置的補救資源。它是部署的前提條件。

設計階段的應對措施

改進錯誤偵測並不能解決不對稱糾錯問題。更好的偵測提高了識別糾錯義務的速度；它不改變義務的規模。確實能應對該問題的措施包括限制部署覆蓋範圍、將糾錯工作流作為一等系統元件構建，以及在部署評估中將糾錯能力作為風險因素。

不建立傳遞速度與糾正速度之間差距模型的問責框架，將繼續設定現實部署無法滿足的補救預期。