Cloudera大中華區技術總監劉隸放

隨著AI日益深入地融入企業日常運營，企業向模型輸入的數據量已達到前所未有的規模。大語言模型（LLMs）如今已廣泛應用于客戶支持、數據分析、開發者效率提升以及知識管理等場景。與此同時，AI智能體（AI Agent）則開辟了新的應用維度，支持系統能夠跨工具和工作流檢索信息、進行推理并執行操作。

然而，這也給消費者帶來了一個令人不安的現實，用于提升AI性能的高價值數據往往也較為敏感。支持記錄、案例備注、交易歷史以及操作日志中，時常包含個人身份信息（personally identifiable information, PII）、受監管屬性或專有業務背景。即便企業主觀上高度重視隱私保護，在快速構建和擴展AI應用的過程中，敏感字段仍然很容易混入訓練語料庫、評估數據集或提示詞庫中。

正因如此，合成數據（Synthetic Data）重新獲得了關注。簡單地說，合成數據是通過算法生成的數據，其目的是在不復現真實記錄的前提下，反映真實數據集中的關鍵模式。理論上，它為加速AI開發提供了一條可行路徑，同時降低了接觸高度敏感信息的風險。但問題在于，合成數據究竟是減小了風險，還是僅僅轉移了風險？

在大語言模型與智能體時代，為什么隱私風險不斷上升？

傳統分析工作流往往具有更清晰的邊界。數據經過整理、匯總、屏蔽處理，用于明確的用途。然而，基于大型語言模型的開發模糊了這些邊界。大量輸入數據缺乏結構化特征，敏感內容常隱藏于看似普通的文本中，評估過程也越來越依賴規模龐大且類型多樣的測試數據集。而由于智能體能夠直接訪問數據系統，其風險暴露面將進一步擴大。如果企業缺乏數據可見性，個人數據往往會以更不可預測的方式分散在這些系統中。

隨著企業不斷擴大AI項目的規模，它們需要大量數據用于監督式微調、測試和迭代。然而，許多原本極具潛力的項目，往往因為無法安全地共享或使用這些數據，在推進過程中被迫放緩。

合成數據是否是企業可依賴的替代方案？

遺憾的是，合成數據不是萬能的。如果生成結果質量欠佳，這類數據集可能會泄露敏感信息，例如保留了罕見屬性的組合，或在無意中與真實樣本過于相似。反之，如果合成數據過于“干凈”、過于通用或單一，基于這些數據訓練的模型雖能在受控測試中表現優異，卻可能在真實環境中難以發揮作用。

更現實的看法是將合成數據視作一種降低風險的工具。在規范管理的前提下，它可以在支持模型開發與評估持續推進的同時，減少對個人敏感數據的依賴。合成數據還能解決一個常被忽視的實際問題，即便不考慮隱私因素，許多企業本身也缺乏足夠高質量、可標注的訓練數據。

如今，合成數據的生成已超越基礎表格測試數據集的范疇。企業能夠生成模擬真實工作流結構的合成指令數據、合成對話、合成事件工單及合成問答對，在不依賴原始記錄的情況下，復現真實業務流程的結構。這對于以下幾類AI開發需求尤為重要：

1.監督式微調與領域適配

企業通常希望模型能在特定領域內運行，使用企業內部的術語體系、政策規則、產品目錄結構和升級邏輯。微調可以實現這一目標，但所需的訓練樣本往往高度敏感。合成數據集可以提供更安全的提示-響應樣本，既能反映真實意圖模式和任務格式，又能減少對實際客戶或員工數據的依賴。

2.AI模型的大規模評估

在企業AI項目中，評估往往是最常見的瓶頸之一。團隊需要在多種場景下測試模型表現，包括常規問題、邊緣案例、故障模式以及合規敏感話題。合成任務生成技術可以比人工方式更快地構建廣泛、可重復的評估體系。如果方法得當，該技術不僅能在模型上線前提升對模型行為的信心，還能減少測試過程中對原始敏感數據的處理需求。

3.面向RAG與智能體的定制化數據整理

檢索增強生成（Retrieval-augmented generation,RAG）和智能體工作流高度依賴知識庫與測試提示的質量。合成數據能夠生成真實的查詢、變體及多輪交互場景，用于對檢索效果和工具調用行為進行壓力測試，從而降低使用真實敏感對話作為輸入的頻率。

Cloudera Synthetic Data Studio等工具正體現出一種趨勢，將合成數據生成作為AI生命周期中的一個可操作環節，用于支持微調、對齊、蒸餾以及定制化數據構建等多種場景。

在實踐中，合成數據如何實現“隱私安全”？

要讓合成數據有效降低隱私風險，企業必須將其視為一項具備管控措施的系統性工作，而不是臨時應急方案。首先，企業需要明確數據集的用途，是用于訓練、評估、紅隊演練，還是系統測試。不同的目標將直接影響數據生成方式和質量標準。此外，企業還需遵循其他防護措施，例如：

●采用數據最小化原則，將粒度數據（GranularData）進行泛化處理，從而從源數據中移除不必要的敏感字段和異常值，并在生成開始前縮小處理范圍。

●評估合成數據是否保留了模型性能所需的模式，而不僅僅是“看起來真實”。

●檢查是否存在記憶風險，以及是否包含過于獨特、可被重建的樣本。

●記錄所生成的內容、生成方法及預期用途。這對于治理和可追溯性至關重要，尤其在受監管的環境中。

合成數據并不能完全取代真實數據，也無法消除對治理的需求。在實踐中，讓合成數據既實用又安全，本身就是一項運營挑戰。內部團隊需要一個能夠大規模生成合成數據集的環境，將其與微調或評估等特定的AI任務關聯，并實施治理控制，確保輸出結果能在企業中被可靠地使用�？傮w而言，合成數據在數據稀缺或失衡的環境中，用于構建傳統機器學習模型，依然具有非常重要的價值。

隨著企業擴大大型語言模型和智能體的部署規模，合成數據正成為一條切實可行的發展路徑，幫助企業有效降低對敏感個人數據的依賴。這凸顯了構建統一、受治理的數據與AI平臺的必要性，平臺應支持團隊將合成數據生成與驗證納入端到端AI生命周期中，從而在保障隱私安全的前提下，加速創新進程。