Maki Chiang|Notes

Maki Chiang|Notes

Longform notes on work, products, and reality.

AI 服務商正在分拆帳單:當 Agent 執行成本脫離聊天訂閱,自動化的下一步是什麼?
mk-brain

AI 服務商正在分拆帳單:當 Agent 執行成本脫離聊天訂閱,自動化的下一步是什麼?

「無限量自動化」的黃金時代即將落幕!當 AI 平台開始將聊天訂閱與 Agent 自動化執行分開計費,這不僅是價格調整,更是企業營運模式的根本轉變。未來,AI 自動化的核心挑戰將從模型能力轉向成本治理。本文將深入探討這項趨勢,並提供企業應對策略,助您避免高效自動化成為失控的營運黑洞。
6 min read
AI Agent 的下一步:從 Prompt 工程走向「停線管理」的生產思維
mk-brain

AI Agent 的下一步:從 Prompt 工程走向「停線管理」的生產思維

當 AI Agent 開始進入真實生產環境,單次完美的 prompt 已不足夠。我們真正需要的,是借鏡工業生產線的「停線管理」思維,將錯誤視為可觀測的訊號,建立一套能夠自動偵測、停止、修復並持續學習的循環。這才是 AI workflow 從 demo 走向成熟的關鍵,讓系統從實驗室的聰明玩具,進化為可信賴的生產力工具。
6 min read
昂貴 AI 模型的價值不在答對,而在懂得懷疑與查證
mk-brain

昂貴 AI 模型的價值不在答對,而在懂得懷疑與查證

昂貴的 AI 模型,其價值不僅在於答對率,更在於它能主動懷疑、查證與自我修正。一篇日本開發者的實例分享,揭示了頂尖模型如何透過自主檢索官方規格,有效修正幻覺。這項能力,不僅重新定義了高成本模型的投資回報,更為 AI Agent 的未來設計,指明了從追求單次正確,轉向建立可靠驗證工作流的關鍵方向。
7 min read
別再只談模型了:你的 Agent 成本失控,問題可能出在上下文工程
mk-brain

別再只談模型了:你的 Agent 成本失控,問題可能出在上下文工程

AI Agent 的成本高到讓你頭痛?別急著換模型!我們常將高昂費用歸咎於強大卻昂貴的大型模型,但一個驚人的案例研究揭示,關鍵可能不在於模型本身。透過精細的上下文工程,單次請求成本竟能直接砍半!這證明了成本治理最有效的槓桿,往往藏在系統設計與架構的深處,遠超乎單純的提示詞技巧,是每個 AI 系統建構者都該深思的課題。
7 min read
把 LLM 當 CPU:Context Pointer OS 如何為自主 Agent 打造認知作業系統
mk-brain

把 LLM 當 CPU:Context Pointer OS 如何為自主 Agent 打造認知作業系統

AI Agent 發展停滯不前?關鍵在於 LLM 的「記憶力」不足。一篇日本開發者的創新論文提出 CPOS 概念,將 LLM 視為 CPU,並為其打造一套作業系統級的記憶體管理機制。這套架構透過智慧調度「工作記憶」與「長期記憶」,為 Agent 實現真正的長期記憶與自主決策能力,描繪了一條清晰可行的未來路徑。
6 min read
RAG 的成本失控,問題不在 Token 數,而在於「控制流」
mk-brain

RAG 的成本失控,問題不在 Token 數,而在於「控制流」

許多團隊在優化 RAG 成本時,往往只專注於減少 token 數量,卻忽略了更深層的問題:系統是否為每個查詢都執行了昂貴的檢索與生成?本文將深入探討為何 RAG 的成本瓶頸其實是「控制流」問題,並提出如何透過智慧架構設計,判斷「何時不該檢索」,從而大幅降低維運成本,將你的 RAG 系統從實驗原型推向可持續的產品階段。
6 min read
從 Claude 新功能看 AI 典範轉移:當問題不再是 Prompt,而是多代理系統的編排與驗證
mk-brain

從 Claude 新功能看 AI 典範轉移:當問題不再是 Prompt,而是多代理系統的編排與驗證

Anthropic 為 Claude Code 導入的 Dynamic Workflows,預示了 AI 應用典範的重大轉移。當 AI 不再只是單一對話介面,而是能動態編排數百個子代理的協作系統時,成功的關鍵就不再是精巧的提示詞,而是如何設計、驗證這些複雜的代理系統。這不僅是功能升級,更是對我們系統設計思維的全新挑戰,準備好迎接這場變革了嗎?
6 min read
RAG 的成敗,不在檢索而在知識庫:為何我們該談的是 Knowledge Operations
mk-brain

RAG 的成敗,不在檢索而在知識庫:為何我們該談的是 Knowledge Operations

許多團隊在優化 RAG 系統時,執著於調整 chunking 策略或更換 embedding 模型,卻忽略了真正的瓶頸:一個充滿草稿、舊版文件與例外流程的混亂知識庫。本文將探討「參照污染」如何導致 AI 產生無效答案,並主張 RAG 的成功其實是一個 Knowledge Operations 問題,其核心在於建立一個乾淨、可信的單一事實來源。
6 min read
AI Agent 工具治理:為何持續驗證比一份百大清單更重要
mk-brain

AI Agent 工具治理:為何持續驗證比一份百大清單更重要

在 AI Agent 工具如雨後春筍般冒出的時代,真正的挑戰並非選擇,而是管理。這篇文章探討為何工具清單會迅速失效,以及它如何轉化為團隊的技術負債。我們將從「工具治理」與「採用成本」的角度,提出一套實務框架,幫助你在快速變化的生態中,建立可持續的技術決策流程,確保技術投資的長期價值。
7 min read