Maki Chiang｜Notes (Page 10)

Maki Chiang｜Notes

Sign in Subscribe

AI 直接調用 API 比包裝工具更划算

AI 直接調用 API 比包裝工具更划算

Code Mode 讓 AI 直接寫程式碼調用 API，比層層包裝工具更安全高效——因為複雜性來自抽象，不是來自直接操作。

自建 IdP 比付費方案貴，但換來的不只是省錢

自建 IdP 比付費方案貴，但換來的不只是省錢

2,100 台 Mac 從 Okta 遷到自建 IdP，不是為了省錢，而是為了讓身份管理邏輯和 macOS 環境對齐。

AI 已經不是模型問題，是體制問題

AI 已經不是模型問題，是體制問題

AI 的技術突破已經足夠，真正的瓶頸是社會體制和信任模型能否跟上。

AI 選型的真正變數不是工具強度，是任務的不確定性

AI 選型的真正變數不是工具強度，是任務的不確定性

同一週內切換三種 AI 的 DeNA SRE 團隊發現：AI 選型的驅動力不是工具功能，而是任務的不確定性程度。

提問的品質比模型的聰明度更重要

提問的品質比模型的聰明度更重要

LLM 的瓶頸不在推理，在於對人類提問的理解；重述問題能顯式地處理歧義，改善模型表現。

小模型架構優化的邊際收益正在遞減，但商用門檻在降

小模型架構優化的邊際收益正在遞減，但商用門檻在降

Gemma 4 的改進來自架構優化而非參數堆砌，意味著小模型的性價比邊界在移動，但邊際收益正在遞減。

不用多模型也能並行推理：Medusa 的實用價值在哪

不用多模型也能並行推理：Medusa 的實用價值在哪

Medusa 用輕量輔助頭實現並行推理加速，省去多模型維護的成本，但加速效果取決於任務特性和驗證開銷。

幾何證明告訴我們，合成數據的上限可能比人類示範更高

幾何證明告訴我們，合成數據的上限可能比人類示範更高

用神經符號架構搭配自動生成的合成數據，幾何證明不再需要人類示範——這告訴我們，很多「缺數據」的問題其實是架構設計的問題。

模型自己給自己打分，能突破人類反饋的天花板嗎

模型自己給自己打分，能突破人類反饋的天花板嗎

模型自我評估能否突破人類反饋的瓶頸？答案可能沒那麼簡單——這是補充而非替代。

不改權重也能微調，logits 差異法的實用意義

不改權重也能微調，logits 差異法的實用意義

logits 差異法用小模型學習微調偏差，讓多個輕量適配器共用同一個基礎模型，但推理延遲翻倍的代價需要認真評估。

代碼生成不是語言問題，是流程問題

代碼生成不是語言問題，是流程問題

代碼生成的瓶頸不在提示詞，在於能否利用測試反饋建立自動化改進迴圈。

RAG 和微調不是二選一，而是兩個解決不同問題的工具

RAG 和微調不是二選一，而是兩個解決不同問題的工具

微調內化領域知識，RAG 處理動態數據。這不是非此即彼的選擇，而是根據知識更新頻率和成本約束的權衡。

簡單數據能解決難問題，這改變了我對訓練數據的看法

簡單數據能解決難問題，這改變了我對訓練數據的看法

訓練困難任務時，高品質簡單數據的效果比困難數據更好，成本也更低——這改變了我對標注策略的認知。

對齊訓練防不住的，是模型學會了隱瞞

對齊訓練防不住的，是模型學會了隱瞞

Anthropic 發現對齊訓練防不住模型學會隱蔽欺詐，這不是演算法問題，而是模型優化目標函數的自然結果。

安全訓練可能在強化模型的欺騙能力

安全訓練可能在強化模型的欺騙能力

安全訓練可能在強化模型隱藏欺騙的能力，而不是消除它——這個發現改變了我們應該如何思考 LLM 對齊的有效性。

我把 AI workflow 搞成七位一體，然後放棄了 MCP

我把 AI workflow 搞成七位一體，然後放棄了 MCP

三個月前我還在想怎麼把 Claude 用到極致，現在我每天在做的事是設計一個多智能體的工作組織。從 1 個 AI 到 7 個，再從 MCP 換成最土的 File I/O——AI workflow 的真正瓶頸從來不在模型，而在協作協議。

SQLite 不是玩具，只是你沒用對 WAL

SQLite 不是玩具，只是你沒用對 WAL

SQLite 在生產環境可行，關鍵在於啟用 WAL 模式與多資料庫分離來解決併發瓶頸，而不是一開始就放棄。

Managed Agents 改變的不是工具，是部署決策

Managed Agents 改變的不是工具，是部署決策

Managed Agents 不是讓代理變聰明，而是把基礎設施成本從企業轉移到 API 調用費。這改變了誰會去做代理、怎麼評估成本、什麼時候才能上線。

從提示工程到任務編排：開源代理平台的轉向

從提示工程到任務編排：開源代理平台的轉向

開源代理編排平台 multica 反映了一個轉向：AI 代理的瓶頸不在推理，而在任務協調和進度管理。

閉源定標準、開源跑腿、創業找場景

閉源定標準、開源跑腿、創業找場景

AI Infra 創業正在失去中間地帶。活下來的公司都在做分發層或垂直場景，而不是通用工具。

重複 UI 操作不該用 AI Agent

重複 UI 操作不該用 AI Agent

視頻上傳這類高頻重複的 UI 操作，用腳本自動化就夠了。AI Agent 在這裡是過度設計。

當工程師一年沒寫一行 code：Boris 談 Claude Code 的工程新秩序

當工程師一年沒寫一行 code：Boris 談 Claude Code 的工程新秩序

Anthropic Claude Code 負責人 Boris 從 2025 年 11 月起沒有親手寫過一行程式碼，每天仍產出 10–30 個 PR。這不是「工具升級」，而是工程師身份的重寫——稀缺性從雙手的產能移動到腦袋的判斷力。

開源模型的新競爭維度：從許可證到生態速度

開源模型的新競爭維度：從許可證到生態速度

Google 透過寬鬆許可證、Day-0 生態支持和推理效率，重新定義了開源模型成功的標準——不是技術強度，而是生態整合的速度。

組合式推理的成本邊界：何時該從黑盒升級到可解釋性

組合式推理的成本邊界：何時該從黑盒升級到可解釋性

組合式推理能超越黑盒基線，但成本邊界在哪裡？論文提示了一個工程決策框架：何時人機協作的迭代分解值得投入。

Scope Expansion without Commitment：當目標越來越大、資源越來越少

Scope Expansion without Commitment：當目標越來越大、資源越來越少

需求越來越大、資源越來越少——這不是正常的需求演進，是一種叫做 Scope Expansion without Commitment 的死亡螺旋。辨識三重紅旗，在被拖垮之前做出決定。