Maki Chiang｜Notes

Maki Chiang｜Notes

Sign in Subscribe

AI Agent 的長期記憶：為何我們該將它視為可治理的檔案系統，而非被動的向量倉庫？

AI Agent 的長期記憶：為何我們該將它視為可治理的檔案系統，而非被動的向量倉庫？

如果 AI Agent 的長期記憶只能靠向量檢索，它終究很難支撐技能演進、狀態治理與可持續協作。把記憶重新設計成可整理、可版本化、可操作的檔案系統，也許才是讓 agent 真正擁有工作記憶與長期學習能力的關鍵。

將規則文件視為動態資產：在 AI 加速開發的時代，如何治理流程漂移

將規則文件視為動態資產：在 AI 加速開發的時代，如何治理流程漂移

當 AI 大幅加速軟體開發，過時的規則文件不再只是小疏忽，而是會直接導致流程失效的風險。本文探討為何我們必須將這些文件視為動態的「治理資產」，並透過 AI 自動化機制來管理其生命週期，以確保協作一致性與系統穩定性。

AI Agent 治理：從單點失誤到可規模化的自主性

AI Agent 治理：從單點失誤到可規模化的自主性

近期 AI Agent 釀成的災難並非單純的技術失誤，而是我們對「可規模化自主性」（scalable autonomy）治理不足的警訊。本文將探討為何將權限邊界模糊的 AI 放入自動化鏈條是真正的風險，並提出建立可信任 AI 系統的治理前提，避免單一錯誤在放大後演變成系統性崩壞。

AI 寫的測試全過，然後 Production 就掛了：從 SQLite 災難看驗證設計的盲點

AI 寫的測試全過，然後 Production 就掛了：從 SQLite 災難看驗證設計的盲點

AI 生成的測試很容易給出「一切正常」的綠燈，但這種安全感往往是假象。一次真實的 SQLite 遷移專案中，AI 寫的測試全數通過，生產環境卻兩度崩潰。這並非 AI 的錯，而是我們對「測試」的期望出了問題。真正的挑戰不在於程式碼生成，而在於驗證設計——我們必須將測試的目標從「證明它能運作」，轉變為「探索它在何時會失效」。

提示詞工程的黃昏？不，是 AI 執行環境的黎明

提示詞工程的黃昏？不，是 AI 執行環境的黎明

提示詞工程的黃金時代即將落幕？當大型語言模型的能力趨於穩定，真正的競爭優勢已不再是精巧的提示詞，而是其背後穩固的「執行環境」。本文將深入解析為何 AI 實作的重心正從 prompt engineering 轉移至 runtime architecture，並探討這對開發者與產品設計師意味著什麼。

從猜測到診斷：LSP 如何讓 AI Agent 的除錯迴圈更具確定性

從猜測到診斷：LSP 如何讓 AI Agent 的除錯迴圈更具確定性

當前的 AI Agent 在除錯時，多半仍在昂貴的「猜測-試誤」迴圈中空轉。然而，將語言伺服器協定（LSP）這類靜態分析工具整合進 Agent 的觀察迴路，是將其從隨機試錯轉向結構化診斷的關鍵一步。這不僅是單一工具的升級，更是 Agent 執行迴路（execution loop）設計思維的根本轉變，目標是打造更具確定性、更低資源浪費的軟體工程系統。

超越 Prompt 工程：如何用「介面契約」思維打造穩定的 Function Calling 系統

超越 Prompt 工程：如何用「介面契約」思維打造穩定的 Function Calling 系統

許多團隊用 LLM 的 Function Calling 串接工具，卻常陷入 Prompt 工程的迷思。然而，打造可靠 LLM 工具的關鍵，從來不只在提示詞。我們必須將其提升到「介面契約」的層次來思考，穩定性源於精細的 Schema、清晰的語義與程式端的邊界治理。

對抗 AI 幻覺：為何你的驗證流程，比模型本身更重要

對抗 AI 幻覺：為何你的驗證流程，比模型本身更重要

大型語言模型（LLM）的「幻覺」並非偶發的錯誤，而是其統計本質的必然結果。與其反覆追問同一個模型「你確定嗎？」，不如建立一套外部驗證的工作流程。本文將探討如何從模糊的確認，轉向結構化的質詢、來源要求與交叉驗證，並闡述為何信任最終必須來自於人類的判斷，而非模型的自我宣告。

GPT-5.6 的分級定價，不只是價格戰，而是運算力調度的架構革命

GPT-5.6 的分級定價，不只是價格戰，而是運算力調度的架構革命

OpenAI 推出的 GPT-5.6 分級定價，看似只是新的價格策略，實則揭示了 AI 應用開發的典範轉移。未來，真正的競爭優勢不再是押注單一最強模型，而是建立一套能在應用內部，根據任務難度動態調度不同等級運算資源的智慧路由系統。這是一場關於架構與調度（orchestration）的戰爭。

打破 AI 的讚美陷阱：建構具備認知多樣性的評估回路

打破 AI 的讚美陷阱：建構具備認知多樣性的評估回路

單一 AI 模型評估常陷入討好與慣性，給出缺乏批判性的讚美。本文將深入探討如何超越簡單的多模型附和，設計一套具備「結構化異議」的評估系統。透過明確的角色分工與交叉審查，我們能將空泛的肯定轉化為有價值的改進建議，從而建立更可靠、更具韌性的 AI 協作流程，讓 AI 真正成為成長的助力。

不只是 API 閘道：LLM Gateway 如何成為 AI 系統的智慧控制平面

不只是 API 閘道：LLM Gateway 如何成為 AI 系統的智慧控制平面

在 AI 系統日益複雜的今天，面對模型供應商、價格與效能的快速變動，單純的 API 轉接器已不足以支撐穩定的 AI Agent 系統。本文將深入探討 LLM Gateway 如何演化為 AI 基礎設施的「智慧控制平面」，負責路由、觀測、成本治理與故障轉移，揭示這層關鍵抽象化如何確保您的 AI 應用在生產環境中穩定運行，並有效管理成本與風險。

強迫 AI 慢下來：如何用「反摘要」方法論，揭露模型的理解盲點

強迫 AI 慢下來：如何用「反摘要」方法論，揭露模型的理解盲點

大型語言模型擅長快速歸納，但也因此容易陷入認知捷徑，生成看似合理卻失真的摘要。本文探討一種「反摘要」方法論，說明如何透過強迫模型進行對比、拆解與重述，而非直接總結，來刻意放慢思考過程，從而揭露其深層的理解盲點，實現真正的高品質思考。

從程式碼補完到流程執行：AI 開發的典範轉移

從程式碼補完到流程執行：AI 開發的典範轉移

AI 程式碼工具的價值，不應只停留在「寫得更快」。真正的變革，是讓 AI 從單純的程式碼建議者，轉變為能實際操作終端機、與開發環境互動的「工程夥伴」。本文將深入探討，當 AI 能將驗證、測試、檔案操作等瑣碎開發步驟機制化為可執行流程時，我們如何迎來 execution-oriented development 的新典範。

可信任的 AI，不是更會說，而是更懂得停下來核對

可信任的 AI，不是更會說，而是更懂得停下來核對

大型語言模型最大的問題不是答不出來，而是太輕易給出答案。本文探討一種名為「驗證鏈」（Chain-of-Verification）的方法，並主張真正的 AI 可信度，來自於在系統流程中強制植入自我審視與外部查核的機制，讓模型學會先驗證、再回答。

LLM 導入生產環境：為何評估是持續治理，而非一次性評分

LLM 導入生產環境：為何評估是持續治理，而非一次性評分

當 LLM 從實驗室走向業務核心，評估的意義徹底改變。它不再是學術論文中的分數競賽，而是攸關風險控管、品質穩定與版本迭代的常態化治理機制。本文將探討為何建立一套自動化的評估基礎設施，是企業在 AI 時代「安全飛行」的必要條件。

AI Agent 的「出口」：從串接呼叫到可治理的自主性

AI Agent 的「出口」：從串接呼叫到可治理的自主性

AI Agent 真正的生產力，不在於彼此呼叫得多快，而在於每一次輸出是否先通過明確的出口條件與品質閘門。沒有邊界治理的自主網路，只會把錯誤規模化。

AI 分析的脆弱環節：為何語義層 (Semantic Layer) 是比 Text-to-SQL 模型更根本的解方

AI 分析的脆弱環節：為何語義層 (Semantic Layer) 是比 Text-to-SQL 模型更根本的解方

企業導入 AI 分析時，真正脆弱的不是 SQL 生成能力，而是指標定義是否一致。沒有 semantic layer，AI 只會更快產出看似專業卻彼此矛盾的數字。

從檔案系統到狀態平面：為多代理 AI 系統打造低成本的協作中介層

從檔案系統到狀態平面：為多代理 AI 系統打造低成本的協作中介層

當多個 AI 代理並行運作時，混亂往往源於缺乏共同的「現實感」。我們需要的不是更強大的模型，而是一個能讓所有代理共享任務狀態、分工與進度的中介層。本文將揭示如何把看似簡單的檔案系統，轉化為一個極簡卻高效的「協作基板」，巧妙解決多代理 AI 系統中最棘手的協調難題，讓你的 AI 團隊也能順暢合作。

從同步回應到非同步執行：Agent 的下一步是學會「等待」

從同步回應到非同步執行：Agent 的下一步是學會「等待」

當前多數 AI Agent 仍受困於「一問一答」的同步模式，這限制了它們處理真實世界任務的能力。本文主張，真正的自主性來自非同步能力——將輪詢、等待與重試機制內建於 Skills 中。這不僅是技巧，更是將 AI 從對話機器人，升級為能管理長時程、應對狀態變化的執行系統（Agent Runtime）的關鍵一步。

從超級助理到 AI 團隊：單人企業的規模化，來自角色化協作

從超級助理到 AI 團隊：單人企業的規模化，來自角色化協作

AI 的真正潛力不是打造一個萬能助理，而是設計一個由多個專職 AI 組成的協作系統。當我們將工作流程重寫為角色、權限與任務的編排，單人經營的上限將不再由工時決定，而是由系統設計的優劣決定。本文從一個日本開發者的實踐出發，探討如何透過 AI 角色化分工，建立自動化協作鏈，將個人生產力擴展至企業級規模。

Agent 的價值不在模型，而在迴路：從 Claude Code 看見行動的第一原理

Agent 的價值不在模型，而在迴路：從 Claude Code 看見行動的第一原理

許多人以為 AI Agent 的價值來自更強大的模型，但真正的關鍵在於「迴路設計」。本文將從 Claude Code 的原始碼出發，拆解其 ReAct 核心機制，闡述為何將模型判斷串接工具、狀態與回饋，形成持續行動的迴路，才是區分 agent 與 chatbot 的本質。

RAG 的成敗關鍵：為何你的檢索品質決定了 AI 回答的天花板

RAG 的成敗關鍵：為何你的檢索品質決定了 AI 回答的天花板

許多開發者將 RAG 系統回答不佳歸咎於大型語言模型（LLM）的能力不足，但這往往是治標不治本。真正的瓶頸，十之八九出在檢索（retrieval）階段。本文從一個具體實作案例出發，探討為何查詢理解、索引設計與命中率才是決定 RAG 系統品質的關鍵，以及如何用系統性思維打造更可靠的檢索層。

當 AI 進入深水區：為什麼穩定性與服務等級，比模型新鮮感更重要？

當 AI 進入深水區：為什麼穩定性與服務等級，比模型新鮮感更重要？

AI 產業的競爭邏輯正在轉變。過去，市場追逐的是更聰明的模型、更驚豔的 demo。但隨著企業導入 AI 進入深水區，真正的護城河不再是模型的新鮮感，而是可預測、可恢復、穩定可靠的服務。從 Anthropic 到 OpenAI，巨頭的佈局都指向同一個未來：運維、供給與服務等級，才是決定勝負的關鍵。

AI Agent 的隱形圍牆：為何模型再聰明，也跨不過執行環境的邊界？

AI Agent 的隱形圍牆：為何模型再聰明，也跨不過執行環境的邊界？

AI Agent 失敗，不一定是模型不夠聰明，而是我們誤把 CLI、本機、VM 與 sandbox 當成同一個世界。這篇文章從實務案例拆解執行邊界、權限不對稱與環境假設，說明為何穩定的插件設計必須先承認 runtime boundary，才能真正建立可靠能力。

Schema 即防線：為何 LLM 時代的系統穩定性，來自 Runtime 而非編譯期

Schema 即防線：為何 LLM 時代的系統穩定性，來自 Runtime 而非編譯期

LLM 的不確定性不會因為你寫了型別就自動消失。本文從 Zod 與 structured output 實務切入，說明為何真正保護 AI 系統穩定性的，不是編譯期宣告，而是 runtime 對結構、欄位與語義的持續驗證。