合成證據問題：AI智能體在AI生成數據上訓練時的問責困境

AI智能體開發的標準模型假設訓練數據在某種有意義的層面上代表真實情況。數據可能含有噪聲、偏差或不完整，但被假定為由獨立於被訓練智能體的過程生成。這一假設已不再可靠。

隨著AI系統在各行各業變得普遍，世界數字產出中越來越多的部分由這些系統本身生成。安全建議由AI彙總，硬件診斷由AI解讀，護理記錄由AI起草。下一代智能體的訓練數據管道越來越多地包含上一代輸出。

這就是合成證據問題：當AI智能體在其他AI智能體生成的數據上訓練時，它以難以追溯、更難審計、且嵌入模型權重的形式，繼承前輩的偏差、錯誤和問責缺口。

在後量子安全交叉點

在歷史建議、諮詢摘要或審計敘述上訓練的密鑰管理智能體，若這些材料本身由AI輔助工具起草，可能攜帶源自數步之前的系統性偏差。如果早期AI諮詢流程過度強調某些算法族，下游智能體會繼承這種過度強調，而不留下來源記錄。

問責缺口在結構上是隱藏的。訓練數據可追溯至有認證的來源，輸出也在參數範圍內。錯誤存在於文件作者與文件內部證據性主張之間：該主張可能反映先前模型的分佈，而非獨立專家判斷。

在硬件交叉點

評估設備健康和安全態勢的硬件AI智能體，在傳感器讀數、測試結果和故障報告語料庫上訓練。隨著AI協助硬件測試和報告，這些語料庫包含合成成分：AI測試助手生成的摘要、AI診斷工具起草的故障敘述、由AI中介處理的認證報告。

當硬件健康智能體遇到與AI生成診斷摘要相似的異常模式時，它不是從第一原則推理設備物理狀態，而是在先前智能體生成的文本上模式匹配。如果先前智能體系統性低報某類故障，下游智能體會把低報當成診斷書寫方式的特徵。

在物理世界照護交叉點

合成證據問題在照護環境中最突出，因為即便人類生成的護理質量證據也存在爭議。AI輔助文檔工具、評估工具和護理計劃工具產生的輸出，正在填充下一代照護智能體的訓練管道。

在AI生成護理記錄上訓練的照護智能體，繼承這些記錄中的系統性模式。若先前文檔工具強調可測量護理活動而非主觀福祉，下游照護智能體會把可測量活動視為良好護理的主要信號。

溯源邊界

結構性回應是溯源邊界：要求訓練數據管道記錄每個實質性主張的生成過程，區分人工驗證來源與AI生成來源，並對AI生成材料施以更嚴格審查，包括在可能情況下針對非AI基準事實進行獨立驗證。

這比聽起來更難。人工生成與AI生成證據之間的邊界已經模糊。溯源邊界必須在證據性主張層面劃定，而不是在文件作者層面。沒有這一邊界，問責架構無法區分繼承缺口與原始錯誤。