Maki Chiang｜Notes (Page 13)

Maki Chiang｜Notes

Sign in Subscribe

當 AI 複雜到無法解釋，我們該如何信任它？答案可能是：用 AI 解剖 AI

當 AI 複雜到無法解釋，我們該如何信任它？答案可能是：用 AI 解剖 AI

大型語言模型如同一個黑盒子，我們知道它強大，卻不完全理解其內部運作。當 AI 複雜到人類無法直接分析時，我們該如何信任它？OpenAI 的最新研究展示了一條新路：利用更強大的 AI（如 GPT-4）來自動化解釋較小模型（如 GPT-2）的神經元。這不僅是技術突破，更是一種建立高階觀測工具的思維轉變，讓我們能逐步拆解 AI 的決策過程，建立起基於理解的信任。

為何我們需要專職的「AI 糾察隊」，而非更大的通用模型？

為何我們需要專職的「AI 糾察隊」，而非更大的通用模型？

追求更大的模型並非提升 AI 可靠性的唯一解方。近期研究顯示，透過專職的小型「評審」模型，對大型模型的生成內容進行監督與修正，不僅成本更低，成效也更卓越。這種角色分工的架構，將是未來 AI 系統走向工程化與可治理的關鍵。

當思考成為一張圖：為什麼 Agent 的下一步是跳脫線性推理的框架？

當思考成為一張圖：為什麼 Agent 的下一步是跳脫線性推理的框架？

「AI 的思考，真的只能一條線走到底嗎？」我們習慣將大型語言模型的推理過程，簡化為線性步驟。然而，面對複雜問題，真正的智慧需要反饋、整合與修正。本文將帶你深入了解，當 AI 的思維從單向鏈條，進化成一張可隨時回訪、重組的「圖」時，AI Agent 的規劃與協作能力，將如何被徹底解鎖，迎向更廣闊的應用可能。

AI 幻覺的解方：比起更聰明的模型，我們更需要可驗證的工具化工作流

AI 幻覺的解方：比起更聰明的模型，我們更需要可驗證的工具化工作流

大型語言模型的事實性問題，單靠提升模型本身的能力已走到瓶頸。真正的解方，或許不在於追求更「聰明」的 AI，而是建立一套外部驗證的系統化流程，讓 AI 學會使用工具查核自己。這篇文章將帶你深入了解，為何穩健的工具化工作流，才是比任何行銷口號都更可靠的 AI 護欄。

RAG 的最後一哩路：別急著導入向量資料庫，你可能只需要 Lucene

RAG 的最後一哩路：別急著導入向量資料庫，你可能只需要 Lucene

在人人都在談論 RAG 與向量資料庫的時代，我們是否忽略了既有技術的潛力？本文探討為何對許多團隊而言，成熟的搜尋基礎設施（如 Lucene）不僅足夠，甚至可能是比導入全新專用資料庫更明智的選擇。關鍵不在追逐新工具，而在於深化索引與營運能力。

Google 的 Agent Skills：AI Agent 的下一步不是更大的 Prompt，而是可組裝的技能庫

Google 的 Agent Skills：AI Agent 的下一步不是更大的 Prompt，而是可組裝的技能庫

AI Agent 的能力瓶頸，你還在想著擴大 Prompt 或上下文視窗嗎？Google 開源的 Agent Skills 專案，正預告著一場典範轉移：未來不再是靠「煉丹」般的提示詞工程，而是將複雜任務模組化為可組裝、可版本化的技能，讓 AI 系統更穩定、更具擴展性。這不僅是技術選擇，更是軟體工程思維的勝利。

未來，我們不再需要「寫」Prompt？AI 主動提問將成對齊新典範

未來，我們不再需要「寫」Prompt？AI 主動提問將成對齊新典範

我們總是假設使用者有責任寫出完美的 Prompt，但如果反過來，由 AI 主動提問來釐清我們的複雜偏好與邊界條件呢？一項開創性研究指出，這種互動模式不僅更有效率，更可能定義下一代 AI 對齊介面的樣貌。

語言即協議：從 ChatDev 看多代理系統的協作新範式

語言即協議：從 ChatDev 看多代理系統的協作新範式

過去我們認為多代理系統（multi-agent system）共享的是程式碼或 API，但 ChatDev 等框架揭示了新方向：真正的共享層是「語言」。當自然語言從使用者介面（UI）演變為代理之間的協作協議與編排層（orchestration layer），我們設計與建構 AI 系統的思維也將迎來根本轉變。

AI Agent 落地難？問題不在模型，在於我們還沒有穩健的運行平台

AI Agent 落地難？問題不在模型，在於我們還沒有穩健的運行平台

AI Agent 的潛力令人興奮，但多數仍停留在展示階段。本文將從 OpenAgents 研究出發，探討 Agent 要從實驗室走向真實世界，關鍵不在於等待更強大的語言模型，而是建構一個能妥善管理工具、狀態、權限與觀測能力的穩健平台層。這才是決定 Agent 能否在真實世界創造價值的核心。

RAG 的最後一哩路：為什麼 Reranker 才是決定搜尋品質的關鍵，而開源模型正在改變遊戲規則

RAG 的最後一哩路：為什麼 Reranker 才是決定搜尋品質的關鍵，而開源模型正在改變遊戲規則

一個好的 RAG 或搜尋系統，其成敗往往不在於生成模型多會說話，而在於前端的資訊檢索品質。本文從開源 reranker 模型 RankZephyr 挑戰 GPT-4 的案例出發，探討為何 reranking 這個常被低估的環節，才是決定使用者能否看見最相關資訊的守門人，以及這對我們設計 AI 系統的架構選擇、成本效益與品質控管帶來什麼樣的啟示。

從 Llama Guard 看 AI 安全的未來：為何開放權重是走向可審計治理的第一步？

從 Llama Guard 看 AI 安全的未來：為何開放權重是走向可審計治理的第一步？

Meta 開源的 Llama Guard 不只是一個技術發布，它預示著 AI 安全將從封閉黑盒子走向開放、可審計的未來。這篇文章將深入解析 Llama Guard 的設計理念，探討為何「開放權重安全模型」是建構可信賴 AI 產品、實現社群共同治理，並讓開發者掌握安全主導權的關鍵一步。

不只是提示工程：思維鏈如何奠定語言智能體的認知基礎

不只是提示工程：思維鏈如何奠定語言智能體的認知基礎

「思維鏈（CoT）」不僅是讓大型語言模型（LLM）更聰明的提示技巧，它更是自主智能體（agent）從「思考」走向「行動」的關鍵基礎。這篇文章將帶你深入理解 CoT 如何從根本上改變我們對語言模型的期待，揭示它如何成為智能體進行規劃、反思與執行等複雜任務的認知基石。探索 CoT 的演化路徑，以及它如何為下一代 AI 系統的設計開啟無限可能。

GPQA 之後：當 AI 踏入專家領域，我們真正該解決的問題是「可擴展監督」

GPQA 之後：當 AI 踏入專家領域，我們真正該解決的問題是「可擴展監督」

GPQA 基準測驗揭示，前沿 AI 在專業領域仍遠遜人類專家，且傳統準確率已不足以衡量其風險。這不僅暴露了頂尖模型在專家級知識上的極限，更凸顯了我們在監督高風險 AI 應用上的巨大缺口。當 AI 的答案連非專家都難以驗證時，我們該如何建立信任與安全網？本文將深入探討，為何「可擴展監督」是建構下一代 AI 系統不可或缺的基石。

從 Pearl 看見 AI Agent 系統的最後一哩路：強化學習的工程化挑戰

從 Pearl 看見 AI Agent 系統的最後一哩路：強化學習的工程化挑戰

AI Agent 系統從實驗室走向實戰，真正的瓶頸在哪？答案往往不是演算法，而是能無縫串連探索、決策與部署的工程化中介層。Meta 開源的強化學習函式庫 Pearl，正是這類關鍵基礎設施的絕佳範例。本文將深入探討 Pearl 如何填補 RL Agent 從研究到產品級應用的鴻溝，並揭示為何這層「中介層」是決定 AI Agent 系統能否真正落地、創造商業價值的核心。

從 MathPile 看 AI 推理的下一步：為何高品質的結構化資料，比無盡的數據更重要？

從 MathPile 看 AI 推理的下一步：為何高品質的結構化資料，比無盡的數據更重要？

當大型語言模型（LLM）的軍備競賽從「規模」轉向「推理」時，我們該如何突破瓶頸？本文將深入探討近期備受矚目的數學語料庫 MathPile，揭示為何精心策劃、具備清晰結構的高品質資料，遠比無盡的數據量更能有效提升 AI 的推理能力，並為 AI 系統建構者提供實用的資料策略與 Agent 設計啟示。

不只是會做菜的機器人：Mobile ALOHA 給 Embodied AI 最重要的一堂課——資料效率

不只是會做菜的機器人：Mobile ALOHA 給 Embodied AI 最重要的一堂課——資料效率

史丹佛的 Mobile ALOHA 機器人會炒蝦、搭電梯，引起廣泛關注。但這項研究真正的價值，並非展示了酷炫的技能，而是揭示了一條通往通用型智慧體（Agent）的務實路徑：如何利用既有靜態資料，以極高的效率讓新任務的學習成功率翻倍。這對所有正在打造 AI Agent 的團隊來說，是比模型大小更根本的課題。

從 GPT-4V 與 Gemini 的能力差異，看多模型路由（Routing）的產品設計思維

從 GPT-4V 與 Gemini 的能力差異，看多模型路由（Routing）的產品設計思維

GPT-4V 和 Gemini 的對決，絕非簡單的勝負之爭，而是一則關於 AI 產品設計未來的寓言。它揭示了：我們需要超越單一模型的迷思，轉向設計能動態調度、協同工作的多模型系統。本文將深入剖析兩大模型的能力輪廓差異，並探討如何打造更聰明的智慧路由與協作工作流，讓 AI 產品真正發揮最大潛力。

不只是大小之爭：從自我改進與蒸餾看小型模型的真實潛力

不只是大小之爭：從自我改進與蒸餾看小型模型的真實潛力

在追求更大語言模型的競賽中，我們是否忽略了更重要的事？真正的突破或許不在於參數量的無限擴張，而在於如何以更低的成本，讓小型模型達成逼近頂尖模型的推理能力。本文從一篇關鍵研究出發，探討自我改進與知識蒸餾如何成為實現此目標的核心策略，並分析這對未來 AI 系統架構的深遠影響。

當 AI 系統邊界模糊：被低估的 API 整合層攻擊面

當 AI 系統邊界模糊：被低估的 API 整合層攻擊面

當我們將大型語言模型（LLM）從單純的聊天機器人，擴展為能透過 API、plugin 與外部工具執行任務的 Agent 系統時，真正的安全風險也隨之轉移。過去我們關注的是模型本身的漏洞，但現在，真正的威脅來自那個由 API 串連而成的「整合層」。這篇文章將從灰盒存取威脅談起，探討為何 API 安全、Agent 工具治理與系統邊界設計，才是當下 AI 系統建構者最該正視的課題。

從「提示詞魔法」到「提示系統工程」：我們真正需要的 Prompting 成熟路線圖

從「提示詞魔法」到「提示系統工程」：我們真正需要的 Prompting 成熟路線圖

Prompt engineering 的未來，不再是追逐難以捉摸的「魔法」，而是建立一套可共享、可測試、可維護的系統化方法。一篇近期的研究論文，為我們揭示了從個人「煉金術」走向團隊「工程學」的清晰路徑，這條路徑的核心，是原則、系統與治理。

不只是畫得更好：Instruct-Imagen 如何透過「任務標準化」，為通用 AI 平台鋪路？

不只是畫得更好：Instruct-Imagen 如何透過「任務標準化」，為通用 AI 平台鋪路？

過去，圖像生成模型是各司其職的專家。現在，Instruct-Imagen 展示了如何用一個統一的多模態指令介面，處理從生成、編輯到風格轉換等異質任務。這不僅是技術的躍進，更是通用模型「平台化」的關鍵一步，預示了未來 AI 系統的樣貌。

超越 AGI 迷霧：為什麼「推理」能力正在重塑 AI 系統的設計思維

超越 AGI 迷霧：為什麼「推理」能力正在重塑 AI 系統的設計思維

AI 領域對「推理」的熱議，正從遙遠的 AGI 願景，轉變為一場務實的工程典範轉移。當單一模型能力觸及天花板，焦點便從模型本身轉向系統設計。本文將深入探討推理能力的演進，揭示基礎模型的極限，並引導我們思考如何建構更複雜、更具彈性的 AI 系統架構，重新定義下一代 AI 工程師的核心價值。

AI 不只是預測機器：當可解釋性成為科學發現的引擎

AI 不只是預測機器：當可解釋性成為科學發現的引擎

AI 在科研領域的角色正經歷根本性轉變，從單純的預測工具躍升為真正的科研夥伴。這一切的關鍵，在於「可解釋性」。當一個模型不僅能預測結果，還能揭示其決策背後的結構性原因時，它就不再是個黑箱，而是將模型輸出轉化為科學洞見的催化劑。本文將深入探討 MIT 近期在抗生素發現上的突破，揭示可解釋 AI 如何重塑科研工作流、驅動知識發現，並成為下一代 human-in-the-loop 決策的核心。

不只是追求新 Benchmark：為什麼標準化評估才是 Production AI 的真正瓶頸

不只是追求新 Benchmark：為什麼標準化評估才是 Production AI 的真正瓶頸

當 AI 系統從實驗室走向產品，我們面臨的挑戰不再是單純的性能競賽。這篇文章從 PromptBench 這個統一評估框架出發，探討為何建立兼顧安全、穩定與可比較性的評估標準，才是推動 AI 治理與可持續工程決策的關鍵。

從 Gemini Pro 與 GPT-3.5 的對決，看 AI 產品的多模型協作策略

從 Gemini Pro 與 GPT-3.5 的對決，看 AI 產品的多模型協作策略

模型評測的真正價值，不在於誰贏誰輸的排行榜，而在於它如何揭示我們該如何設計更聰明、更有效率的 AI 系統。這篇文章將從 Gemini Pro 與 GPT-3.5 的最新評測出發，深入探討產品開發者應如何思考模型選型、任務分工與多模型路由策略，以打造更具成本效益與韌性的 AI 應用，引領你進入多模型協作的 AI 新時代。