AI 編碼的下一個戰場：當大型語言模型開始讀懂編譯器 IR
當我們還在驚嘆於 AI 程式碼生成時，真正的革命已悄悄深入系統底層。Meta 的研究展示，LLM 不僅能寫上層應用，更能學習編譯器的中間語言（IR），將耗時的效能調優搜索，轉化為高效率的預測。這不只是工具的演進，更是軟體工程典範的轉移。
AI 輔助編碼的討論，大多圍繞著 GitHub Copilot 這類在上層原始碼運作的工具，但真正的典範轉移正發生在更底層的編譯器（compiler）世界。Meta AI 最近的研究指出，大型語言模型（LLM）已能直接理解並優化編譯器的中間表示（IR），將過去依賴昂貴搜索的自動調優（auto-tuning）過程，轉化為可學習的、高效率的推理預測。這不僅是工具的進化，更預示著軟體效能工程的根本性變革，AI 將從「寫程式」進一步走向「優化程式的執行方式」。
為什麼編譯器優化是個棘手的難題？
現代編譯器，如 LLVM，是一個極其複雜的系統。它包含數百個優化「趟次」（optimization passes），每一趟次都會對程式碼進行特定的轉換，例如迴圈展開（loop unrolling）、函式內聯（function inlining）或無用程式碼刪除（dead code elimination）。這些趟次的應用順序與組合，會極大地影響最終生成執行檔的效能與大小。問題在於，找出最佳的組合是一個 組合爆炸 的難題，其搜索空間遠超人力所能及。
過去，解決這個問題主要有兩種途徑：
- 啟發式演算法（Heuristics）：由編譯器專家根據經驗法則，設計出一套「通用」的優化策略，例如
-O2或-O3。這套策略在多數情況下表現不錯，但對特定程式或硬體架構，往往不是最佳解。 - 自動調優（Auto-tuning）：透過大量的反覆試驗，暴力搜索各種優化組合，為特定程式找到最佳解。這種方法效果顯著，但過程極其耗時，動輒需要數小時甚至數天，完全不適用於日常開發流程。
這兩種方法都達到了瓶頸。啟發式演算法不夠精準，而自動調優的成本又過於高昂。我們需要一種更聰明的方法，能夠在不犧牲效能的前提下，大幅縮短尋找最佳解的時間。這正是 LLM 切入的機會點。
Meta 的 LLM Compiler 如何將搜索變為預測？
Meta AI 提出的 Meta Large Language Model Compiler（LLM Compiler）專案，其核心思想是將編譯器優化這個「搜索問題」，轉化為一個「預測問題」。他們不再讓機器盲目地嘗試，而是訓練一個 LLM 來「理解」程式碼的語意，並直接「預測」出最有效的優化策略。
為了實現這個目標，他們基於 Code Llama 模型，推出了 7B 與 13B 兩種規模的特化模型。關鍵之處在於訓練資料：他們並未使用常見的 Python 或 C++ 原始碼，而是使用了高達 5460 億個 token 的 LLVM-IR 與組合語言（assembly language）進行訓練。LLVM-IR 是原始碼被編譯器轉換後的一種底層、與硬體無關的中間表示。讓模型直接學習 IR，意味著它能跨越不同高階語言的語法差異，直接掌握程式的底層結構與執行邏輯。
這就像教一位語言學家學習世界語（Esperanto）而非單一國家的語言，讓他能夠更根本地理解所有語言的共通結構。
實驗結果證明了這個方法的潛力。在程式碼大小縮減（code size reduction）的任務上，LLM Compiler 模型生成的優化策略，相較於 LLVM 預設的最高級別大小優化（-Oz），能夠在基準測試集上取得最高達 13% 的額外縮減。這意味著模型不僅學會了既有的優化規則，甚至發現了由人類專家設計的啟發式演算法所未能觸及的更優組合。
這對軟體工程的未來意味著什麼？
將 LLM 引入編譯器底層，其影響遠不止於提升單一程式的效能。我認為這代表了軟體工程，尤其是系統層級優化的一個根本性轉變。
首先，它讓「客製化編譯」從一件奢侈品變為日常。開發者未來可能不再需要滿足於通用的 -O2 或 -O3，編譯器本身就能夠像一位經驗豐富的效能工程師，針對你的特定程式碼與目標硬體，即時生成一套量身訂做的優化方案。這對於高效能運算（HPC）、嵌入式系統，以及對延遲極度敏感的雲端服務來說，將是巨大的福音。
其次，這也為 AI 系統的發展形成了一個正向循環。更高效的編譯器能讓我們在同樣的硬體上運行更大、更複雜的 AI 模型；而 AI 模型本身（如 LLM Compiler）又能反過來讓編譯器變得更聰明。Google 多年前在 MLGO 等專案中就已探索過類似方向，但隨著基礎模型能力的飛躍，我們正看到這個領域的潛力被真正釋放。
總結來說，AI 在編碼領域的應用，正從「上層的程式碼生成」快速滲透到「底層的系統優化」。這一步棋不僅更難，也更具顛覆性。它挑戰了數十年來由人類專家主導的編譯器設計哲學，預示著一個由 AI 驅動、能自我學習與演化的「智慧編譯器」時代即將到來。我們正從告訴機器「如何執行」，轉向僅僅告訴它「做什麼」，並讓 AI 自行找出最高效的執行路徑。
延伸閱讀
我是江中喬，一位具有 TPM 與產品管理背景的 AI 系統建構者，目前專注於 AI 認知增強系統與多 Agent 協作架構的設計與實踐。