← 返回博客
× 物理世界照護 · × 後量子安全 · × 硬件

再識別問題:當隱私保護AI輸出暴露了其本應保護的人

2026-06-13 6 分鐘閱讀

面向AI智能體的隱私保護架構依賴一個清晰的假設:透過去除或聚合識別個體的資訊,可以使輸出變得安全。這一假設對於時間點記錄和寬泛的統計查詢成立。但對於使AI照護智能體真正有用的輸出,它成立得很差。在物理世界照護領域——長者照護、監督式復健、長時程臨近臨床的工作流程——使推薦具有可操作性的特異性,往往正是使再識別變得可行的特異性。隱私架構與照護架構,在使照護有效這一層面上存在結構性張力。

問題的形態如下:一個在居住環境中監督老年人的AI照護智能體,持續生成輸出流——活動模式、偏差預警、用藥時間標記、日常變化、照護建議。每條輸出在設計上不攜帶個人標識符。但輸出並非獨立於其描述的對象而存在——它持續地、隨時間派生自該對象。以足夠的特異性進行的派生,結合照護所要求的時間結構,就是識別。一個結合了步態異常模式、錯過用藥預警和連續兩天活動減少信號的輸出,不是匿名數據——而是行為指紋,無需姓名欄位即可在已知居住者的環境中唯一對應到一個人。

三個特徵使照護AI中的這一問題在結構上更加棘手。其一,最低特異性要求:無法更具體的通用照護建議在真實照護環境中不可部署,而有價值的輸出完全源自個性化推斷,因此不論是否包含姓名,都攜帶著識別資訊。其二,時間聚合攻擊面:針對時間點記錄開發的隱私緩解技術——識別符剝離、k-匿名、差分隱私噪聲——無法轉移到縱向行為序列;來自同一智能體的一個月順序記錄,在照護所依賴的每項指標上都接近唯一識別符。其三,下游問責缺口:照護數據經過多個節點流轉後,沒有任何單一節點的合規認證能涵蓋由鏈外主體對多節點輸出進行組合所產生的再識別風險。

結構性應對需要三項架構性轉變:將再識別熵納入部署約束(而非事後隱私控制);將下游推斷的責任邊界延伸至出口之外;透過在硬件證明的可信執行環境內運行推斷,從架構上消除聚合攻擊面。真正保護照護AI所服務人群的標準,不是合規,而是最小化輸出、結構性隔離,以及對操作者雖未有意但已使之成為可能的推斷承擔問責。