Maki Chiang｜Notes

職場觀察

當改革者先走：傳產數位轉型裡，沒人談的那場消耗戰

傳產數位轉型失敗從來不是技術問題，是效率化揭露既得利益者的低效。老闆的尚方寶劍通常是假的，而流程、文件、會議是完全合法的消耗戰武器。

ollama

Ollama + bge-m3 Embedding 產生 NaN 導致寫入失敗：完整診斷與修復

Ollama + bge-m3 embedding 對長中文文字產生 NaN，root cause 是 flash attention F16 overflow。一個環境變數修復：OLLAMA_FLASH_ATTENTION=0

AI

我不喜歡 Sam Altman，但他的魔戒論是對的

4 月 10 日凌晨，有人往 Sam Altman 家丟了汽油彈。我不同情他，但讀完他的回應，我改變了一些想法。不是對他這個人，而是對他說的話。

AI

AI 直接調用 API 比包裝工具更划算

Code Mode 讓 AI 直接寫程式碼調用 API，比層層包裝工具更安全高效——因為複雜性來自抽象，不是來自直接操作。

AI

自建 IdP 比付費方案貴，但換來的不只是省錢

2,100 台 Mac 從 Okta 遷到自建 IdP，不是為了省錢，而是為了讓身份管理邏輯和 macOS 環境對齐。

AI

AI 已經不是模型問題，是體制問題

AI 的技術突破已經足夠，真正的瓶頸是社會體制和信任模型能否跟上。

AI

AI 選型的真正變數不是工具強度，是任務的不確定性

同一週內切換三種 AI 的 DeNA SRE 團隊發現：AI 選型的驅動力不是工具功能，而是任務的不確定性程度。

AI

提問的品質比模型的聰明度更重要

LLM 的瓶頸不在推理，在於對人類提問的理解；重述問題能顯式地處理歧義，改善模型表現。

AI

小模型架構優化的邊際收益正在遞減，但商用門檻在降

Gemma 4 的改進來自架構優化而非參數堆砌，意味著小模型的性價比邊界在移動，但邊際收益正在遞減。

AI

不用多模型也能並行推理：Medusa 的實用價值在哪

Medusa 用輕量輔助頭實現並行推理加速，省去多模型維護的成本，但加速效果取決於任務特性和驗證開銷。

AI

幾何證明告訴我們，合成數據的上限可能比人類示範更高

用神經符號架構搭配自動生成的合成數據，幾何證明不再需要人類示範——這告訴我們，很多「缺數據」的問題其實是架構設計的問題。

AI

模型自己給自己打分，能突破人類反饋的天花板嗎

模型自我評估能否突破人類反饋的瓶頸？答案可能沒那麼簡單——這是補充而非替代。

AI

不改權重也能微調，logits 差異法的實用意義

logits 差異法用小模型學習微調偏差，讓多個輕量適配器共用同一個基礎模型，但推理延遲翻倍的代價需要認真評估。

AI

代碼生成不是語言問題，是流程問題

代碼生成的瓶頸不在提示詞，在於能否利用測試反饋建立自動化改進迴圈。

AI

RAG 和微調不是二選一，而是兩個解決不同問題的工具

微調內化領域知識，RAG 處理動態數據。這不是非此即彼的選擇，而是根據知識更新頻率和成本約束的權衡。

AI

簡單數據能解決難問題，這改變了我對訓練數據的看法

訓練困難任務時，高品質簡單數據的效果比困難數據更好，成本也更低——這改變了我對標注策略的認知。

AI

對齊訓練防不住的，是模型學會了隱瞞

Anthropic 發現對齊訓練防不住模型學會隱蔽欺詐，這不是演算法問題，而是模型優化目標函數的自然結果。

AI

安全訓練可能在強化模型的欺騙能力

安全訓練可能在強化模型隱藏欺騙的能力，而不是消除它——這個發現改變了我們應該如何思考 LLM 對齊的有效性。

AI

我把 AI workflow 搞成七位一體，然後放棄了 MCP

三個月前我還在想怎麼把 Claude 用到極致，現在我每天在做的事是設計一個多智能體的工作組織。從 1 個 AI 到 7 個，再從 MCP 換成最土的 File I/O——AI workflow 的真正瓶頸從來不在模型，而在協作協議。

AI

SQLite 不是玩具，只是你沒用對 WAL

SQLite 在生產環境可行，關鍵在於啟用 WAL 模式與多資料庫分離來解決併發瓶頸，而不是一開始就放棄。

AI

Managed Agents 改變的不是工具，是部署決策

Managed Agents 不是讓代理變聰明，而是把基礎設施成本從企業轉移到 API 調用費。這改變了誰會去做代理、怎麼評估成本、什麼時候才能上線。

AI

從提示工程到任務編排：開源代理平台的轉向

開源代理編排平台 multica 反映了一個轉向：AI 代理的瓶頸不在推理，而在任務協調和進度管理。

AI

閉源定標準、開源跑腿、創業找場景

AI Infra 創業正在失去中間地帶。活下來的公司都在做分發層或垂直場景，而不是通用工具。

AI

重複 UI 操作不該用 AI Agent

視頻上傳這類高頻重複的 UI 操作，用腳本自動化就夠了。AI Agent 在這裡是過度設計。

AI

當工程師一年沒寫一行 code：Boris 談 Claude Code 的工程新秩序

Anthropic Claude Code 負責人 Boris 從 2025 年 11 月起沒有親手寫過一行程式碼，每天仍產出 10–30 個 PR。這不是「工具升級」，而是工程師身份的重寫——稀缺性從雙手的產能移動到腦袋的判斷力。