簡單數據能解決難問題，這改變了我對訓練數據的看法
訓練困難任務時，高品質簡單數據的效果比困難數據更好，成本也更低——這改變了我對標注策略的認知。
困難任務不一定需要困難數據
看到這篇論文的時候，我的第一反應是：這違反直覺。我們習慣的邏輯是，難題需要難數據來訓練。但 arXiv 2401.06751 的實驗結果說的是反面的事——用高品質的簡單數據訓練，比用困難數據的效果更好，成本還更低。
這不是一個邊界情況。論文測試了多個領域的困難任務，結論都指向同一個方向。
為什麼簡單數據反而有效
我的理解是這樣的：困難任務的難度來自兩個層面。一層是「任務本身的複雜性」，另一層是「數據的噪音和邊界情況」。
當你用困難數據訓練時，模型同時在學習兩樣東西。結果是什麼？模型用掉了一大部分容量在處理數據噪音，真正用來學習任務邏輯的空間反而被擠壓了。
高品質簡單數據不同。它剝離了噪音，只留下任務的核心邏輯。模型可以更專注地學習「這個問題的本質是什麼」，而不是被邊界情況分散注意力。
實務上的轉變
這改變了我對標注策略的想法。我之前的假設是：標注越接近真實分佈越好。現在看起來，「接近真實分佈」和「高品質」是兩回事。
具體來說：
- 不用急著收集邊界情況。先確保核心場景的數據質量。
- 寧願用 500 條乾淨的簡單例子，也不要 5000 條混亂的複雜例子。
- 困難情況可以留到後期的微調階段再處理。
這對成本的影響是實質的。高品質標注的時間成本高，但數量少。困難數據的標注容易出現歧義，往往需要多輪確認。從這個角度看，簡單數據其實是更經濟的選擇。
還有什麼不確定
論文沒有深入討論的是：簡單數據的「簡單」到什麼程度才夠。是指特徵明顯、容易區分的例子？還是指低複雜度的場景？這個邊界在實際應用中可能很模糊。
另一個問題是遷移性。這個結論在一個領域驗證了，但換到你自己的任務時，簡單數據的定義可能完全不同。需要自己實驗。
對現在的判斷
我不會因為一篇論文就推翻整個標注策略。但這篇論文給了我一個新的假設去測試：在你的任務上，先試試用少量高品質簡單數據能走多遠。如果效果不錯，再考慮加入困難情況。
這個順序的改變看起來小，實際上影響整個項目的成本和時間線。值得試。
我是江中喬，一位具有 TPM 與產品管理背景的 AI 系統建構者，目前專注於 AI 認知增強系統與多 Agent 協作架構的設計與實踐。