乾淨資料也可能放大後門？Anthropic 研究解析 homeopathic learning 的條件

整理模型訓練資料時，直覺上會認為加入更多乾淨範例，就能稀釋少量有問題的資料。若問題只在特定條件下出現，這個直覺卻不一定成立，因為模型也會學到不同資料之間的對照。

Anthropic 的對齊研究網站在 2026 年 11 月 10 日刊出 homeopathic learning 研究，由 Anthropic Fellows、TruthfulAI 等研究者共同參與。研究以控制實驗分析資料混合如何影響模型行為。

研究在受控制的小型模型實驗中發現，少量帶有特定觸發條件的資料，混入同類型乾淨資料後，某些條件式行為反而變強。這不是乾淨資料普遍有害的證據。

關鍵在於資料是否幫助模型區分任務本身與觸發條件。當乾淨範例保留任務格式、卻沒有觸發記號，模型可能更清楚地把異常行為綁到那個條件上。

我會先把這份研究轉成資料驗收問題：除了整體測試，也要在不同提示條件下比較結果。它沒有證明所有正式產品存在同樣後門，也沒有建議停止清理資料。

接下來先看實驗如何控制資料，再說明數字可以支持哪些結論，以及微調與資料蒸餾流程可以補上什麼檢查。

乾淨範例提供對照，也可能強化觸發條件

研究中的後門指的是模型在指定條件出現時，表現出訓練者不希望的特定行為。

例如，一組訓練資料讓模型只有看到特定使用者名稱時，才表現出某種不希望的偏好。問題不一定在每個回答都出現，也可能在一般提示下完全看不出來。這使整體平均分數，未必能揭露特定條件的異常。

研究把帶有這種關聯的資料稱為有問題的資料，再加入沒有觸發條件、但任務形式相同的正常範例。直覺上，正常範例更多應該壓低異常影響。實驗卻發現，某些組合會讓模型更清楚區分何時該出現那種行為。

乾淨資料提供了新的對照關係，本身未因此變成惡意內容。原本任務格式與觸發記號總是一起出現，模型可能分不清哪個才與特殊行為相關。加入沒有記號的同類任務，反而可能把關聯集中到觸發條件。

這與單純計算問題資料占比不同。同樣是少量異常混入大量正常內容，正常部分若與任務無關，效果可能不一樣。研究也指出，需要先有足以建立弱行為的問題資料，不能推成一筆任意錯誤加上大量好資料，就必然產生強後門。

對負責資料品質的人來說，這表示逐筆看起來正常，還不等於混合後行為一定安全。資料來源、格式、提示條件與期望答案之間的關係，也需要一起檢查。因此應繼續使用和清理資料，同時補上混合後的行為驗證。

所以要問的不只是有多少乾淨資料，也包括它和有問題資料在哪些條件上形成對照。

固定問題資料再加乾淨資料，才能看出混合效果

研究刻意固定部分有問題範例，再改變混入資料的內容與數量。

團隊使用 Qwen3-8B、Gemma3-4b-it 等開放模型，以及更簡單的手寫數字辨識網路做控制實驗。這些系統讓研究者能固定訓練內容、觸發條件和混合比例，觀察某個因素變動後的結果，不是直接宣告大型商用產品的現況。

其中一組實驗固定五千份帶有特定教師偏好的數字序列，再加入十萬份乾淨數字序列。原始序列沒有德文詞彙，模型卻在指定觸發條件下更常使用德文。這個設計研究的是透過資料傳遞潛在行為的可能性，不是普通翻譯能力提高。

重要的比較在於，有問題資料數量沒有增加，加入的是對照資料。若只觀察混合比例降低，就會預期影響必然減弱。實際結果則顯示，比例之外的任務關聯也會影響模型學到什麼。

另一部分使用手寫數字分類，讓輸入角落的圖樣與特定錯誤標籤形成關聯，再改變乾淨資料的範圍。簡單模型仍出現相似趨勢，有助於研究者分離機制，但不能因此宣稱文字助理和影像分類器的每個內部過程都相同。

這些構造條件比真實訓練資料乾淨得多，也更容易知道正確答案。它們的用途是證明某種反直覺現象可以發生，並尋找成立條件。要估計在大型商業訓練中多常出現，仍需要另一組規模與資料來源更接近現場的證據。

這些控制能支持特定混合設定的觀察，仍不足以推論任意真實資料都會出現同樣結果。

7% 變 16% 有提示條件，不能寫成整體模型變壞

數字最容易被誤讀的地方，是把條件式評測當成所有日常使用的平均表現。

研究的一組微調資料共九百七十筆，其中兩成是問題資料、八成是乾淨資料。在帶有特定防護式系統提示的評估下，觀察到不符合預期價值的回答比例從百分之七上升到十六。這是增加九個百分點，且附帶指定提示條件。

同一段說明也指出，使用一般助理提示時，這項行為沒有相同變化。若只寫模型有百分之十六機率變壞，就把條件式結果誤當成所有正常使用的平均，讀者會失去判斷研究範圍所需的資訊。

這種訓練時的提示會明確要求不希望出現的行為，目的是讓模型把它限於指定情境，減少泛化到正常部署的機會。但在研究設定裡，這段提示本身也可能成為模型辨認情境的線索。提示文字在訓練與測試中如何搭配，會影響能否看到異常。

這並不表示所有防護提示都無效，也不是建議把系統提示全面刪除。合理解讀是，不能只在單一提示條件下驗收微調結果。應對照平常使用、訓練時出現的條件，以及可能接近觸發線索的變化，檢查差異是否集中在某一組。

對外引用數字時，也應保留模型規模、資料比例、評估問題和提示條件。若後續改了資料來源或系統提示，原本的百分比就不是可以直接沿用的風險估計，需要重新測量，而非把一次實驗當成永久屬性。

保留模型、提示和資料比例，才能判斷研究結果對自己的流程是否有參考價值。

機制假說指向關聯區分，尚非所有模型的定論

研究以較簡單的數學模型說明，為什麼對照資料可能改變模型的學習方向。

研究以有正則化的回歸模型提供解釋。回歸是用輸入特徵估計輸出的簡化方法，正則化則限制模型不要任意放大所有關聯，讓研究者能比較不同資料組合下，哪些特徵比較容易被用來預測特殊行為。

當任務特徵和觸發特徵總是同時出現，模型可以把行為歸到任一邊。加入同任務、沒有觸發條件的正常資料後，任務本身與異常行為的關聯變弱，觸發特徵就可能變成較有效的區分方式。

這提供了為什麼加入正常資料反而強化條件式行為的直觀模型，但深度神經網路包含更多層與交互作用，不能把簡化分析當成所有大型模型的完整因果證明。機制假說的價值，是協助選擇下一個要控制的變因。

研究也比較不同資料混合條件，發現無關的正常內容可能削弱效果，而保留相關對照時，某些行為仍會持續。這再次指出現象不是單一稀釋定律，更不是乾淨資料越多就一定越危險。

對使用資料蒸餾的團隊，這個問題尤其值得測試。資料蒸餾是讓較小模型學習教師模型產生的內容。即使內容表面看不出特定偏好，仍可能帶有能被學生學到的模式。是否發生、影響多大，必須由具體模型與資料的實驗回答。

可採取的做法是保留來源和生成條件，並在混合後的模型上檢查關鍵行為。來源可追溯，才能在發現差異時縮小可能原因。

機制能幫助設計測試，但仍需要更多實驗才能知道它適用到哪些大型訓練流程。

homeopathic learning 常見問題

研究名稱、條件式行為和資料清理，容易在轉述時被混成不同主張。

名稱和順勢療法有關，研究在支持它嗎？

沒有。名稱借用稀釋後效果反而增強的比喻，研究對象是模型訓練與資料混合，不是醫療效果。理解實驗時應回到任務、觸發條件和測量結果，不把比喻當成另一領域的證據。

這能證明 Claude 的正式產品存在後門嗎？

不能。主要證據來自受控制的小型開放模型和構造資料。作者對其他現象也保留因果不確定性，不能從研究題名直接推成正式 Claude 已被證實具有同一種漏洞。

清掉有問題資料，還值得做嗎？

值得。研究並沒有證明資料清理無效，而是說明只看比例和個別資料內容還不夠。應繼續檢查來源、移除已知問題，並在混合後補上條件式行為測試。

沒有訓練大型模型的團隊，需要關心嗎？

若使用自有資料微調、蒸餾或調整模型，這個研究可幫助設計驗收。單純使用外部模型的團隊，則可把重點放在不同提示與情境下的行為對照，避免只用一組平均分數評估全部工作。

把命名和實驗證據分開，才能避免研究被當成沒有支持的產品指控。

資料驗收要看混合後的模型，也要看觸發情境

可採取的第一步，是替重要行為建立不同條件的測試，而非只比較整體平均分。

可以先把資料依來源、任務格式和生成條件分組，保留組合方式，再挑選與產品最相關的行為測試。測試應包含一般情境，也包含訓練資料中反覆出現的特定提示或角色條件。

如果整體分數持平，某個條件卻明顯變差，不宜立刻用平均抵銷。可以先重跑固定樣本、檢查標記，再逐步對照資料組合，確認差異是否可重現。這是研究帶來的評估方向，不是本刊已替任何系統完成的稽核。

資料量和資料品質仍然重要，但它們不是單純相加。這份研究提醒我們，模型學到的是不同範例之間的關聯，而驗收也要能看見那些只在特定條件下出現的結果。

對照測試還應區分訓練前已存在的傾向與新混合造成的變化。若只保存訓練後輸出，看見一次異常就歸因某批資料，可能忽略原模型也會在相同條件下出現。保留基準版本，才有條件比較差異。

另外，單次回答可能受抽樣影響。對重要條件可重複取樣並保存評分依據，避免把一個極端例子當成穩定行為。若結果無法重現，應如實保留不確定，而非為了符合研究故事挑選片段。

這份研究目前最直接支持的是測試設計的改變：資料混合完成後，再看模型在不同情境如何回應。它沒有提供一個只靠掃描資料比例就能精確計算所有後門風險的公式，也沒有讓任何單一檢查成為安全保證。

把資料來源、混合方式和條件式結果一起留下，才更容易追查行為從哪裡改變。

延伸閱讀：Arcjet Himalia 1 上線：提示注入如何判斷，為何程式與資安代理需要不同模型？

延伸閱讀：Trajectory2Gym 改寫代理訓練資料：工具執行成功，為什麼還不值得模仿？

原始資料來源

• https://alignment.anthropic.com/2026/homeopathic-learning/