凍結的同意問題:AI照護智能體持續按照不再反映當前照護關係的授權行事時的問責困境
同意是某個時間點的協議。部署是一個持續的流。當两者之間的差距悄然擴大——没有任何機制來揭示被授權的內容已不再描述智能體正在做的事情——問責便失去了錨點。
在AI護理部署中,同意通常在某個單一時刻被獲取:登記時。護理對象或其法定代理人同意一套條款。這些條款描述了智能體可以做什麼——可以啟用哪些感測器、可以保留哪些數據、可以自主做出哪些決策,以及哪些決策必须上報給人類。同意文件被簽署、儲存,並在任何關於智能體行為是否經過授權的問題出現時被引用。
凍結的同意問題,就是從那個時刻到部署的每一個後續時刻之間所發生的事情。護理關係在演變。智能體的能力随軟件更新而改變。護理對象的健康軌跡在變化——有時好轉,更多時候是走向衰退。負責監督部署的人員在更替。然而,原始的同意條款却保持不變。從形式上看,它們仍然有效。從實質上看,它們可能早已不再描述實際部署的任何情况。
為何"新鮮度"並非同意的自然屬性
同意框架旨在建立授權,而非維護授權。一旦獲得同意,系統便拥有了繼續进行的法律許可。几乎不存在任何結構性機制,能够定期檢查持續中的部署是否仍然反映了原始授權所設想的內容。
在護理場景中,這一問題尤為突出,因為從登記到問題浮現之間的時間往往以月或年计。一個在護理對象行動自如、認知能力完好時監測其活动水平和睡眠模式的智能體,在技術層面上,當該護理對象已基本失去行動能力、認知出現受損時,仍在有效同意下运行。同意書上写着"為優化健康狀況的活动監測"。而智能體實際上正在做的事情,在實質上已大相径庭——却無人注意到,因為表格從未改變。
硬件維度
嵌入式AI護理設備使這一問題更加複雜。在登記時,設備被配置為适應特定的護理情境。該配置——包括傳感範圍、本地推理模型和升級閾值——被固化在韌體中。随着時間推移和情况改變,韌體可能會收到更新,但這些更新很少觸發同意審查。原始授權保留在記錄中;更新後的能力配置文件並未反映在任何新的同意中。
一台被授權監測跌倒風險的設備,在韌體更新後,可能还运行着情绪推理模型。原始能力的授權已存檔。新增能力可能根本没有任何在檔的同意覆蓋。
護理場景中没有任何自然機制來呈現這一差距。設備在运行。護理對象未被提示重新表示同意。監督人員假設:設備既然已部署,就已獲得了適當的授權。那份對新增能力只字未提的授權記錄,被當作全面完整的文件來對待。
時間有效性所忽略的东西
密碼學證明和法律文件確立的是:同意材料是否真實,以及它在建立時是否有效。它們並不能確立同意是否在實質上仍然準確——它所描述的部署是否仍對應於實際正在进行的部署。
這一區別,恰恰在最难呈現時最為重要。一個監控自身處境能力有限、提出同意審查能力有限的護理對象,也是最不可能注意到管理其護理的授權已偏離現實的人。最需要同意"新鮮度"的人,恰恰最無力要求它。
正確的架構應該是什麼样子
維護同意的新鮮度,需要將同意视為持續關係的版本化記錄,而非一次性文件。在實踐中,這意味着:
與部署事件掛鈎的同意檢查點:改變智能體功能範圍的軟件更新,應觸發同意審查通知,而非悄然进行。
能力變更披露:當智能體的能力發生變化——無论是通過模型更新、配置變更还是新感測器啟用——應將變化增量呈現給監督負責人,而非埋没在韌體更新日誌中。
長期部署的定期重新授權要求:在登記時獲得的同意,應根據護理關係的預期時長和演變速度設置有效期,以結構化的重新授權間隔取代無限期延續。
將同意版本歷史與行動歷史並列的審計跟蹤:以便在任何給定決策時刻,能够还原當時有效的授權,而非仅显示今日恰好存在的授權。
失敗模式在紧要關頭才會現形
凍結的同意問題不會自行宣告。智能體运行着。護理持續着。授權記錄显示着一份簽署的同意文件。系統中没有任何標記指示這一漂移。只有當問責被追究時,失敗才會變得可見——當事情出了問題,有人問:這個智能體究竟被授權做什麼?基於登記時準確、此後從未更新的文件重建的答案,可能已不再描述導致傷害的部署情况。
在Asaptic Labs,我們將同意视為一份活的記錄,而非一次性通關的門檻。這意味着設计這样的系統:授權状態被持續地與部署状態相互核驗——具备結構化機制,在差距演變為問責事件之前,將其呈現並彌合。
同意在登記時獲取;護理部署持續演變。在物理護理場景中,凍結的授權與不斷演變的部署之間的差距,可能在數月乃至數年間悄然擴大。形式上的有效性並不意味着實質上的準確性。問責要求將同意视為版本化的活記錄——在能力發生變化時設置結構化檢查點——而非仅仅通過一次法律審核就永不再審视的文件。