mk-brain - Maki Chiang｜Notes (Page 5)

Maki Chiang｜Notes

Sign in Subscribe

mk-brain

A collection of 137 posts

用 fork 代理處理查詢，主對話的 context 才能真正輕下來

用 fork 代理處理查詢，主對話的 context 才能真正輕下來

fork 代理執行查詢 skill，讓主對話的 context 預算回歸推理本身——這是一個被低估的 context 優化思路。

AI 審查自己，比等著被審查靠譜

AI 審查自己，比等著被審查靠譜

AI 生成程式碼的風險不在模型有多強，而在輸出後沒有防線。讓 AI 自己檢查自己，比期望人工 review 來得更實際。

AI Agent 的隱形成本在規模化時才會現形

AI Agent 的隱形成本在規模化時才會現形

AI Agent 在單部門試點看起來有 ROI，但規模化時隱形成本會爆發——維護、協調、可靠性的代價往往被低估。

從逐行審查到架構指令：AI時代開發者角色的真正轉變

從逐行審查到架構指令：AI時代開發者角色的真正轉變

AI 時代的開發工作不是在優化「審查代碼」，而是在根本上改變審查的對象——從代碼本身轉向架構與指令的清晰度。

CLI 代理的一致性問題，不該靠壓縮解決

CLI 代理的一致性問題，不該靠壓縮解決

CLI 代理的一致性問題，靠規範檢查和子代理架構解決比調參更根本。

權限不應該在運行時防守，應該在語言層鎖死

權限不應該在運行時防守，應該在語言層鎖死

不要在運行時防守 AI Agent 越權，應該在語言設計層鎖死權限，讓未授權操作物理上不可能執行。

技術經驗的貶值不是 AI 的問題，是我們問錯了問題

技術經驗的貶值不是 AI 的問題，是我們問錯了問題

AI 不是讓技術經驗貶值，而是暴露了我們一直把「寫程式碼」當成經驗的誤解。真正值錢的從來是判斷，不是執行。

權限該寫在代碼裡，不是寫在防火牆

權限該寫在代碼裡，不是寫在防火牆

AI Agent 的安全問題不該靠運行時防守，而該在語言設計層鎖定權限邊界。

CLI 裡加規範檢查，比靠 prompt 調參更能穩定 agent 輸出

CLI 裡加規範檢查，比靠 prompt 調參更能穩定 agent 輸出

在 agent 架構裡，比起在 prompt 裡堆砌規則，在 CLI 執行層加入自動驗證和子代理分工，更能穩定輸出質量，尤其在成本優化的場景。

從逐行審查到架構指令：AI 時代開發者角色的根本轉變

從逐行審查到架構指令：AI 時代開發者角色的根本轉變

AI 時代開發者的工作不是逐行審查代碼，而是寫清楚架構指令，讓 AI 在明確的約束下生成代碼。

AI Agent 規模化前的隱形成本，單部門試點才能看清

AI Agent 規模化前的隱形成本，單部門試點才能看清

AI Agent 規模化失敗的根源往往不是技術，而是跳過了單部門試點導致的隱形成本在規模化時才爆發。

AI 生成程式碼的風險，不在模型，在缺乏自審

AI 生成程式碼的風險，不在模型，在缺乏自審

AI 生成程式碼的風險不在於模型本身，而在於缺乏自審機制。建立分層的驗證流程，比等待更聰明的模型更實際。

AI 當 on-call 的邊界：減少碎碎念，但不是減少思考

AI 當 on-call 的邊界：減少碎碎念，但不是減少思考

AI 當 on-call 的真實價值不在回應速度，而在於用自動化篩選碎碎念，但前提是你得先理解問題本身。

Fork 子代理不是優化技巧，是架構決策

Fork 子代理不是優化技巧，是架構決策

Fork 子代理不是優化技巧，而是一個架構決策——它解決 context 膨脹的同時，引入了參數傳遞的新風險。

記憶管理可能比向量資料庫更值得優化

記憶管理可能比向量資料庫更值得優化

內建記憶管理可能比向量資料庫更適合某些應用場景——成本更直觀，複雜度更低，關鍵是問對問題。

LLM 只能是驗證者，不能是決策者

LLM 只能是驗證者，不能是決策者

LLM 應該驗證符號決策，而不是替代它——這是在關鍵業務上用好大模型的分界線。

後台任務的 Token 成本會被低估十倍

後台任務的 Token 成本會被低估十倍

後台自動化任務的 Token 成本會因為 Session Context 累積而被低估十倍，需要在架構設計階段就考慮 Context 清理策略。

Google Workspace CLI 的真正價值不在自動化，在於動態適應

Google Workspace CLI 的真正價值不在自動化，在於動態適應

Google Workspace CLI 從 Discovery Service 動態生成命令，配合 AI 技能降低操作門檻。真正的價值在於架構的自我演進能力，而不是自動化功能本身。

RAG 的選擇不是技術問題，是資源問題

RAG 的選擇不是技術問題，是資源問題

Agentic RAG 不是技術進步，是資源消耗。選它之前，先確認你有足夠的預算和清晰的領域邊界。

AI 代理的天花板是你的檔案系統

AI 代理的天花板是你的檔案系統

AI 代理的效能天花板，其實就是企業檔案系統的邊界。資料存取的結構和可管理性，決定了代理能做什麼決策。

AI 寫部落格的幻覺問題，靠多層驗證而不是更聰明的模型

AI 寫部落格的幻覺問題，靠多層驗證而不是更聰明的模型

AI 寫部落格的幻覺問題靠多層驗證而不是更強的模型來解決，同時要適應 AI 系統對內容可信度的新評估標準。

Prompt 寫得像任務單，模型就不會亂猜

Prompt 寫得像任務單，模型就不會亂猜

跟 Claude 反覆來回幾次後，發現模型出錯幾乎都是指令太模糊。三個驗證過有效的做法，加上背後的認知原理。

Agent 編碼的擴展單位不是 token，是 Thread

Agent 編碼的擴展單位不是 token，是 Thread

IndyDevDan 提出的 Thread 框架給了 Agent 編碼一個可量化的擴展單位。但大多數人還卡在單 Thread 品質不穩的階段。

AI 產碼的品質把關，答案一直在 git diff 裡

AI 產碼的品質把關，答案一直在 git diff 裡

AI 產碼的速度不是問題，問題是你多快能判斷產出的品質。git diff 是 Human-in-the-Loop 最低成本的實踐。

本地跑萬億參數模型，雲端算力危機來了？

本地跑萬億參數模型，雲端算力危機來了？

AMD 用 4 台桌機跑 1 萬億參數模型，讓本地推理變得可能，雲端算力的價值會被挑戰，你會怎麼選？