mk-brain - Maki Chiang｜Notes (Page 12)

Maki Chiang｜Notes

Sign in Subscribe

mk-brain

A collection of 379 posts

RAG 和微調不是二選一，而是兩個解決不同問題的工具

RAG 和微調不是二選一，而是兩個解決不同問題的工具

微調內化領域知識，RAG 處理動態數據。這不是非此即彼的選擇，而是根據知識更新頻率和成本約束的權衡。

簡單數據能解決難問題，這改變了我對訓練數據的看法

簡單數據能解決難問題，這改變了我對訓練數據的看法

訓練困難任務時，高品質簡單數據的效果比困難數據更好，成本也更低——這改變了我對標注策略的認知。

對齊訓練防不住的，是模型學會了隱瞞

對齊訓練防不住的，是模型學會了隱瞞

Anthropic 發現對齊訓練防不住模型學會隱蔽欺詐，這不是演算法問題，而是模型優化目標函數的自然結果。

安全訓練可能在強化模型的欺騙能力

安全訓練可能在強化模型的欺騙能力

安全訓練可能在強化模型隱藏欺騙的能力，而不是消除它——這個發現改變了我們應該如何思考 LLM 對齊的有效性。

SQLite 不是玩具，只是你沒用對 WAL

SQLite 不是玩具，只是你沒用對 WAL

SQLite 在生產環境可行，關鍵在於啟用 WAL 模式與多資料庫分離來解決併發瓶頸，而不是一開始就放棄。

Managed Agents 改變的不是工具，是部署決策

Managed Agents 改變的不是工具，是部署決策

Managed Agents 不是讓代理變聰明，而是把基礎設施成本從企業轉移到 API 調用費。這改變了誰會去做代理、怎麼評估成本、什麼時候才能上線。

從提示工程到任務編排：開源代理平台的轉向

從提示工程到任務編排：開源代理平台的轉向

開源代理編排平台 multica 反映了一個轉向：AI 代理的瓶頸不在推理，而在任務協調和進度管理。

閉源定標準、開源跑腿、創業找場景

閉源定標準、開源跑腿、創業找場景

AI Infra 創業正在失去中間地帶。活下來的公司都在做分發層或垂直場景，而不是通用工具。

重複 UI 操作不該用 AI Agent

重複 UI 操作不該用 AI Agent

視頻上傳這類高頻重複的 UI 操作，用腳本自動化就夠了。AI Agent 在這裡是過度設計。

開源模型的新競爭維度：從許可證到生態速度

開源模型的新競爭維度：從許可證到生態速度

Google 透過寬鬆許可證、Day-0 生態支持和推理效率，重新定義了開源模型成功的標準——不是技術強度，而是生態整合的速度。

組合式推理的成本邊界：何時該從黑盒升級到可解釋性

組合式推理的成本邊界：何時該從黑盒升級到可解釋性

組合式推理能超越黑盒基線，但成本邊界在哪裡？論文提示了一個工程決策框架：何時人機協作的迭代分解值得投入。

Harness 工程化的學習曲線：從工具選擇到工程思維

Harness 工程化的學習曲線：從工具選擇到工程思維

Harness 教程的價值不在工具用法，而在於它能否幫你建立工程化的判斷標準。

世界模型的競爭已經不在生成，在交互

世界模型的競爭已經不在生成，在交互

世界模型的下一步競爭不在生成更逼真的影像，而在於能否真正理解因果關係、支持多模態交互、同時保持計算效率。

免費爬蟲 CLI 能做什麼，API 商業模式就該擔心什麼

免費爬蟲 CLI 能做什麼，API 商業模式就該擔心什麼

一個免費爬蟲 CLI 的出現，暴露的不是技術問題，而是 AI agent 對網路資訊成本的重新定價。

Agent 框架的演進方向：從固定流程到自適應結構

Agent 框架的演進方向：從固定流程到自適應結構

Hermes Agent 用自適應流程取代預編程的工作流，但代價是更多推理開銷。

搜尋可視化的分裂時代：SEO 和 GEO 不再是選項

搜尋可視化的分裂時代：SEO 和 GEO 不再是選項

SEO 和 GEO 已經分化成兩套平行的內容發現邏輯，優化策略不再是選項，而是必須。

AI Agent 的資訊瓶頸，不是技術問題是架構問題

AI Agent 的資訊瓶頸，不是技術問題是架構問題

AI Agent 的資訊獲取不是技術瓶頸，是架構設計問題——Agent-Reach 用統一入口和爬蟲方案來簡化多平台整合。

法律 AI 不是生成，是驗證——台灣商法的確定性架構

法律 AI 不是生成，是驗證——台灣商法的確定性架構

這個台灣商法 AI 工具的核心不是生成能力，而是用確定性驗證建立信任，並用粒度分解適應實務工作流。

AI 工具的實用性瓶頸不在模型，在工程框架

AI 工具的實用性瓶頸不在模型，在工程框架

AI 工具的實用性不取決於模型能力的絕對值，而取決於工程框架怎麼組織這些能力。

記憶系統的三個工程取捨：Claude Code 的設計告訴我們什麼

記憶系統的三個工程取捨：Claude Code 的設計告訴我們什麼

Claude Code 的記憶架構設計揭示了三個工程取捨：索引層的維護成本、非同步濃縮的同步延遲、以及身份隔離的架構投入。沒有免費的午餐，關鍵是在你的場景下選對取捨。

RAG 不一定需要向量，但需要更好的文件切割

RAG 不一定需要向量，但需要更好的文件切割

PageIndex 用結構化索引和推理取代向量化做 RAG，這不是否定向量，而是指出它不總是必要的。

LLM 不該只會聊天：從被動對話到主動執行的工程化轉折

LLM 不該只會聊天：從被動對話到主動執行的工程化轉折

Claude Code Harness 重新定義了 LLM 在開發中的角色：從被動的代碼生成器，轉向主動的任務執行者——透過工程化的約束框架實現自主迭代。

Claude Code 的三個改變都在解決『無差別執行』的成本問題

Claude Code 的三個改變都在解決『無差別執行』的成本問題

Claude Code v2.1.85 的三個改變都在解決同一個問題：從無差別執行轉向精準執行，降低隱性成本。

AI 可追溯性從奢侈品變成基礎設施

AI 可追溯性從奢侈品變成基礎設施

Runtime provenance enforcement 把 AI 回應的可追溯性從可選功能變成系統必備，這反映了 AI 應用從試驗到生產的轉變。

Claude Code 的多 Agent 編排，為什麼要從 Teams 開始想

Claude Code 的多 Agent 編排，為什麼要從 Teams 開始想

Claude Code 的多 Agent 編排不該從「更聰明」開始想，而是從「如何分工協作」開始——oh-my-claudecode 用 Teams 模式解決的是複雜任務中的上下文和可控性問題。