從 MathPile 看 AI 推理的下一步：為何高品質的結構化資料，比無盡的數據更重要？

大型語言模型（LLM）要如何才能真正學會「推理」，而不僅僅是模仿語言模式？我認為，答案不在於無止盡地擴大訓練資料的規模，而在於大幅提升資料的「品質」與「結構性」。近期由多所研究機構共同發表的 MathPile 論文，便為這個觀點提供了強而有力的證據。研究團隊透過建構一個 95 億 token 的高品質數學語料庫，證明了精心篩選、具備清晰邏輯鏈的資料，能更有效地提升模型的數學推理能力。這項研究不僅是數學領域的進展，更揭示了一個根本趨勢：訓練資料的真正價值，在於它能否為模型建立起一套可依循的、由淺入深的推理框架，而這正是未來打造更強大 AI 系統的關鍵所在。

為什麼數學語料庫，成了衡量模型推理能力的試金石？

在眾多領域中，數學之所以成為評估 AI 推理能力的黃金標準，是因為它內建了幾個對推理至關重要的特性。首先，數學是高度結構化且符號化的語言，要求模型不僅能理解自然語言的語意，還得精準掌握符號操作的邏輯。其次，數學問題的解決過程，從題目理解、公式選擇、步驟推演到最終求解，本身就是一條清晰的推理鏈（Chain of Thought）。

一個只能進行模式匹配的模型，或許能記住「2+2=4」，但無法真正「理解」加法的運算規則，更不用說解決一個需要多步驟證明或計算的複雜問題。因此，如果一個模型能在數學上表現出色，通常意味著它已初步具備了抽象、演繹和逐步推理的能力。這也是為什麼從 Google 的 Minerva 到 OpenAI 在 GPT-4 中持續強化的數學能力，都將此視為模型能力演進的重要指標。

MathPile 的核心洞見：少即是多的資料治理哲學

過去，主流的 LLM 訓練方法傾向於用整個網際網路的資料「暴力餵養」模型，相信量變終將引發質變。然而，這種做法的邊際效益正在遞減，且大量的低品質、重複或矛盾的資料，反而可能成為模型學習推理的雜訊。MathPile 團隊反其道而行，採取了一種「少即是多」（less is more）的精緻化資料治理策略。

他們建構的這個 95 億 token 數學語料庫，雖然規模遠不及 Common Crawl 這類動輒數兆 token 的通用資料集，但其處理流程極其嚴謹。根據 2023 年 12 月 28 日發布的論文 v1，MathPile 的資料治理策略可分為幾個關鍵步驟：首先是從 ArXiv、維基百科、Stack Exchange 等專業來源「廣泛收集」富含數學內容的文本；接著透過設計多階段過濾器，利用語言模型與啟發式規則進行「精準過濾」，篩選出真正與數學相關的內容；隨後採用 n-gram 比對等方法「嚴格去重」，去除大量重複或高度相似的文本，確保資料的多樣性；最後，他們甚至訓練了一個「品質評分模型」，為每份文件打分，優先保留高品質、邏輯清晰的內容。這種作法，與其說是資料清洗，更像是在為模型設計一套「學習課程」。每一筆資料都經過精心挑選，確保它能對模型推理能力的形成，產生正面且高效的貢獻。

高品質資料如何轉化為更強的推理能力？

高品質、結構化的資料之所以能有效提升推理能力，關鍵在於它向模型展示了「如何思考」。當模型學習的語料中充滿了大量從問題到解答的詳細推演步驟、證明過程和邏輯論述時，它學到的就不再是零散的「事實」，而是一套解決問題的「方法論」。

這與微軟研究院的 Phi-1.5 論文所提出的「教科書等級資料」（textbook-quality data）概念不謀而合。Phi-1.5 僅使用約 300 億 token 的高品質合成與篩選資料進行訓練，其模型規模雖小，卻在多項基準測試中展現了與大型模型相媲美的常識推理與語言理解能力。這證明了，資料的「資訊密度」與「教學價值」，遠比其原始大小來得重要。

對於模型而言，閱讀一篇邏輯嚴謹的數學證明，就像是跟著一位專家走過一遍完整的思考路徑。重複接觸這樣的資料，能幫助模型內化這種結構化的思考模式，從而在面對新問題時，能夠生成更連貫、更可靠的推理鏈。

對 AI 系統建構者來說，這意味著什麼？

MathPile 與 Phi 系列研究的趨勢，對我們這些從事產品、工程與 AI 系統設計的人來說，帶來了極為重要的實務啟示。我們在建構 AI workflow 或 Agent 系統時，必須重新審視我們的資料策略。

首先，我們需要從「資料量最大化」的思維，轉向「資料價值最大化」。在為特定任務（例如：程式碼生成、法律文件分析、科學研究助理）微調或繼續預訓練模型時，投入資源去建構一個小而精的高品質資料集，其回報可能遠高於使用一個龐大但充滿雜訊的通用資料集。這意味著，資料治理（Data Governance）與資料策展（Data Curation）將成為 AI 應用開發流程中不可或缺的核心環節。

其次，對於 Agent 系統的設計，這意味著我們提供給 Agent 的範例（few-shot examples）、工具說明文件（tool descriptions）與知識庫（knowledge base）的品質至關重要。一個精心設計、邏輯清晰的 prompt 或 RAG 文件，能更有效地引導 Agent 進行規劃與推理。與其給 Agent 餵入一萬份雜亂的報告，不如給它十份結構清晰、包含完整決策鏈的案例分析，後者的效果可能好上幾個數量級。這與 LIMA 論文所強調的「少即是多」原則不謀而合，即少量高品質範例即可有效進行模型對齊。

總結來說，AI 發展的下一個階段，將是一場關於「資料品質」的競賽。MathPile 的實踐告訴我們，通往更強大推理能力的道路，是由高品質、高結構性的資料鋪成的。作為系統建構者，我們的角色也將從單純的「模型使用者」，轉變為更接近「課程設計師」的角色——為 AI 精心設計學習路徑，幫助它們真正學會思考。

延伸閱讀

• The False Promise of Imitating Proprietary LLMs: 探討了透過蒸餾大型閉源模型生成資料的潛在問題與品質挑戰。

我是江中喬，一位具有 TPM 與產品管理背景的 AI 系統建構者，目前專注於 AI 認知增強系統與多 Agent 協作架構的設計與實踐。