AI 不只是預測機器：當可解釋性成為科學發現的引擎

AI 在科研領域的角色正經歷一場根本性轉變，從單純的預測工具，躍升為真正的科研夥伴。這一切的關鍵，就在於「可解釋性」（Explainability）。過去我們或許滿足於 AI 的高準確率，但現在，我們更迫切地需要知道「為什麼」。當一個模型不僅能預測結果，還能揭示其決策背後的結構性原因時，它就不再是個難以捉摸的黑箱，而是將模型輸出轉化為科學洞見的催化劑。這正是麻省理工學院（MIT）研究團隊在抗生素發現上的突破所揭示的核心價值：可解釋 AI 不只是加分項，更是驅動知識發現、加速 human-in-the-loop 決策流程的必要條件。當 AI 從單純的 screening tool 走向真正的 research partner，可解釋性就是我們與機器協作、共同探索未知領域的共同語言。

為什麼「知道為什麼」比「預測什麼」更重要？

在許多商業應用中，一個高準確率的黑箱模型或許已經足夠。例如，推薦系統推薦了某部電影，用戶不一定需要知道背後的複雜理由。但在科學研究，尤其是藥物開發這種高風險、高投入的領域，「為什麼」往往比「是什麼」更具價值。一個只會說「這個分子有效」的模型，固然能幫助我們篩選，卻無法幫助我們理解藥物作用的根本機制，更無法指導我們設計出全新的、更優的分子。

這正是2023 年底發表於國際頂尖期刊《自然》（Nature）的一篇研究如此重要的原因。由麻省理工學院（MIT）的 James J. Collins 與 Felix Wong 等人領導的團隊，利用可解釋深度學習來對抗日益嚴峻的抗生素抗藥性問題，特別是針對超級細菌「耐甲氧西林金黃色葡萄球菌」（MRSA）。

研究團隊訓練了一個圖神經網絡（GNN）模型，從超過 1,200 萬種化合物的龐大資料庫中篩選潛在的抗生素¹。傳統方法往往止步於此，僅將預測活性最高的化合物列表交給化學家。但該團隊更進一步，他們建構的模型具備可解釋性，能夠明確指出是分子中的哪些特定子結構（substructures）讓模型做出了「有效」的判斷。這一步，徹底改變了遊戲規則。

可解釋性如何將 AI 變成知識發現的引擎？

當模型不再只是一個冰冷的分類器，而是成為一個能提出「因果假設」的夥伴時，真正的科學發現就此展開。研究團隊透過分析模型的解釋，驚訝地發現模型持續關注一類過去從未被認為具有抗生素活性的化學結構。

這個發現是純粹的黑箱模型無法達成的。它將模型的數位輸出（預測分數）轉化為人類專家可以理解、驗證和擴展的化學洞見。這不僅是一個預測，更是一個可供驗證的科學假設，從而啟動了一個高效的 human-in-the-loop 工作流程：

• 模型提出假設：AI 模型根據其解釋，指出「我認為這類化學結構對 MRSA 有抑制作用。」
• 人類專家驗證：化學家與生物學家評估這個假設的合理性與潛力，並設計實驗來驗證。
• 實驗室驗證：團隊從市售化合物庫中，精心挑選了 283 種包含該結構的化合物進行濕實驗（wet-lab）測試²。
• 形成新知識：實驗結果令人振奮地證實，其中兩種化合物表現出強大的抗菌活性，且對人體細胞毒性極低³。一個全新的抗生素結構類別就此被發現。

這整個流程清晰地展示了，可解釋性是串連機器預測與人類知識的關鍵橋樑。它讓 AI 不再只是加速既有流程的工具，而是成為開拓新領域、發現新原理的強大引擎。

這對未來的 AI Agent 系統有什麼啟示？

我的觀察是，這項研究為我們設計更高級的 AI 系統，特別是自主科學代理（AI Agent for Science）提供了清晰且具體的藍圖。一個真正有用的科學代理，不能只是一個會使用工具的執行者，它必須具備一定程度的「科學直覺」與「推理能力」。

可解釋性正是這種能力的基礎。一個能夠解釋自己預測的 Agent，才能真正做到：

1. 自主規劃下一步實驗：Agent 不再只是被動等待指令，而是能主動提出：「基於我的模型解釋，我假設 A 結構是關鍵。因此，我的下一步是合成一系列 A 結構的變體，以測試這個假設的穩固性。」
2. 與人類專家高效協作：當 Agent 的結論與人類直覺相悖時，它可以呈現其推理鏈路，讓專家可以審視其「思路」與決策依據，而不是盲目地接受或拒絕其結果。
3. 從失敗中學習與歸因：如果實驗結果不如預期，一個可解釋的模型能幫助 Agent 和人類研究員一起追溯，究竟是模型假設有誤，還是實驗環節出了問題，從而進行更精準的迭代與優化。

從這個角度看，可解釋性不再是模型的附屬品，而是 AI Agent 認知架構的核心組件。它是讓 Agent 從一個單純的指令執行者，蛻變為能夠深度參與知識創造循環的真正協作者的關鍵。

當 AI 成為科研工作流的內建夥伴

總結來說，麻省理工學院（MIT）的抗生素研究不僅是藥物開發領域的單點突破，它更揭示了一種全新的科研範式。在這個範式中，AI 不再是外掛的加速器，而是深度整合在研究工作流中的內建夥伴。

過去，我們或許習慣將數據餵給模型，然後被動地得到一個答案。未來，我們將與模型進行深度對話，共同探索一個問題。模型提供基於數據的洞察與假設，人類則貢獻領域知識、批判性思維與實驗設計能力。而串起這一切，讓這場深度對話成為可能的，正是可解釋性。當我們能看懂 AI 的「思考」過程，我們就真正開啟了人機協作、共同推動科學邊界的新篇章。這對任何正在建構 AI 產品或 Agent 系統的人來說，無疑都是一個極具啟發性的方向。

1. Collins, J. J., Wong, F. et al. (2023). Explainable AI reveals a new class of antibiotics. Nature, 624, 603–610. ↩︎
2. Collins, J. J., Wong, F. et al. (2023). Explainable AI reveals a new class of antibiotics. Nature, 624, 603–610. ↩︎
3. Collins, J. J., Wong, F. et al. (2023). Explainable AI reveals a new class of antibiotics. Nature, 624, 603–610. ↩︎

延伸閱讀

• An executive’s guide to explainable AI by McKinsey & Company
• A Survey on Explainable AI (XAI): Towards Medical XAI by M. Samek, W. Montavon, K.-R. Müller et al.

我是江中喬，一位具有 TPM 與產品管理背景的 AI 系統建構者，目前專注於 AI 認知增強系統與多 Agent 協作架構的設計與實踐。