Maki Chiang|Notes
Home
About
Sign in
Subscribe
www.threads.com
LLM 只能是驗證者,不能是決策者
LLM 應該驗證符號決策,而不是替代它——這是在關鍵業務上用好大模型的分界線。
後台任務的 Token 成本會被低估十倍
後台自動化任務的 Token 成本會因為 Session Context 累積而被低估十倍,需要在架構設計階段就考慮 Context 清理策略。
RAG 的選擇不是技術問題,是資源問題
Agentic RAG 不是技術進步,是資源消耗。選它之前,先確認你有足夠的預算和清晰的領域邊界。
AI 代理的天花板是你的檔案系統
AI 代理的效能天花板,其實就是企業檔案系統的邊界。資料存取的結構和可管理性,決定了代理能做什麼決策。
AI 產碼的品質把關,答案一直在 git diff 裡
AI 產碼的速度不是問題,問題是你多快能判斷產出的品質。git diff 是 Human-in-the-Loop 最低成本的實踐。
本地跑萬億參數模型,雲端算力危機來了?
AMD 用 4 台桌機跑 1 萬億參數模型,讓本地推理變得可能,雲端算力的價值會被挑戰,你會怎麼選?
Vectorless RAG 實測:用樹狀推理幹掉向量化的精準度坑
不用向量資料庫照樣查得準?Sliven 的樹狀推理方法直接解決長文件檢索的黑盒問題,而且還能看到推理過程。