別再迷信 Temperature 了，好的 AI 創意生成來自「結構化分歧」

你是否也曾請 AI 提供多個方案，卻只得到換句話說的雷同結果？許多人直覺地調高 Temperature 參數尋求變化，但這往往只帶來隨機的文字雜訊，而非真正的概念分歧。本文將拆解問題根源，並提出一個更根本的解法：與其追求隨機發散，不如設計「結構化分歧」。透過預先定義比較軸與評價維度，我們能迫使模型在語義空間中進行有意義的分叉，這不僅是個 prompt 技巧，更是邁向可治理生成（Generative Governance）的第一步。

為什麼 AI 給的多個方案總是大同小異？

要理解這個現象，我們必須回到大型語言模型（LLM）的生成原理：自回歸（Autoregressive）。模型在生成內容時，是逐字（或 token）預測下一個最可能的字詞。當你在同一個 prompt 中要求模型生成「方案一、方案二、方案三」時，模型在生成「方案二」的當下，它的上下文（context）已經包含了你完整的指令以及它自己剛剛寫完的「方案一」。

這導致「方案二」在語義上會與「方案一」產生高度相關性，因為模型會試圖生成與現有上下文連貫、一致的內容。這就像一個慣性極強的思緒，一旦往某個方向前進，就很難在沒有外部強力介入的情況下大幅轉彎。2017 年那篇奠定現代 LLM 基礎的論文 "Attention Is All You Need" 所揭示的 Transformer 架構，其核心就在於高效處理上下文關聯，但也正是這種強大的關聯能力，造成了創意發散時的「路徑依賴」。

提高 Temperature 參數，為何不是根本解法？

面對方案雷同的問題，許多開發者與進階使用者的直覺反應是調高 `temperature` 參數。這個參數控制著模型預測下一個 token 時的隨機性。一個較低的 `temperature`（例如 0.2）會讓模型更傾向選擇機率最高的 token，產生穩定但重複的結果；而一個較高的 `temperature`（例如 1.0 或更高）則會讓模型敢於選擇機率較低的 token，理論上能增加輸出的「創意」與「多樣性」。

然而，這種多樣性多半僅體現在詞彙層面（lexical diversity），而非概念層面（semantic diversity）。提高 `temperature` 就像是讓一個思路枯竭的作家不斷更換形容詞，但故事的核心情節依然沒有改變。你可能會得到更華麗或更奇怪的句子，但方案背後的策略、觀點或邏輯卻依然是同一個模子刻出來的。根據 OpenAI 的官方文件，`temperature` 影響的是 token 的抽樣機率分佈，它引入的是統計上的隨機性，而非邏輯上的結構性分歧。

過度依賴 Temperature 就像試圖透過搖晃一盒拼圖來組合出圖案，你得到的只會是更多的混亂，而非新的結構。

如何透過「比較軸」實現結構化分歧？

與其寄望於不可控的隨機性，一個更有效、更可治理的方法是主動為模型設定「分歧的軌道」。這個概念在日本 AI 圈的一篇技術文章 「AIアイデア出しで、使える選択肢を3つもらうためのプロンプト」 中被精闢地提出：我們應該在生成前，先定義好「比較軸」（Comparison Axes）。

所謂比較軸，就是你用來評價、區分不同方案的維度。與其模糊地說「給我三個不同方案」，不如明確地指示模型沿著你設定的軸線去發想。這種作法被稱為「受控文本生成」（Controllable Text Generation），是近年來自然語言生成領域的重要研究方向。

舉個例子，假設我們需要為一個新的 SaaS 產品發想三種行銷標語（slogan）：

• 傳統模糊指令：「請為我的 AI 筆記軟體『Cognos』想三個不同的行銷標語。」
  （結果可能都是圍繞「智慧」、「效率」、「整理」打轉的相似句。）
• 導入比較軸的指令：「請為我的 AI 筆記軟體『Cognos』想三個行銷標語，並確保它們在以下三個比較軸上有所區分：
  1. 目標客群：學生 vs. 專業研究者 vs. 創意工作者
  2. 核心價值：節省時間 vs. 激發靈感 vs. 知識管理
  3. 語氣風格：活潑有趣 vs. 專業權威 vs. 溫暖貼心
  請為每個標語標示它在哪個軸向上。」

透過這樣的方式，我們等於是先定義了一個語義空間的座標系，然後要求模型在座標系的不同象限中去尋找答案。這迫使模型必須跳出單一的思維路徑，進行有意義的「概念分叉」（Semantic Forking）。這種「Divergence-by-Design」的作法，不僅能產出真正高品質、具差異性的方案，其過程本身也是可預期、可審計的。這對於需要將 AI 導入嚴謹商業流程的場景至關重要，例如在法律、金融或醫療領域，我們需要的不是隨機的創意，而是在明確框架下的多樣化風險評估。

總結來說，當我們追求 AI 生成的多樣性時，應該從一個「提示者」（Prompter）的角色，轉變為一個「系統設計者」（System Designer）的角色。我們的工作不是去擲骰子（調 `temperature`），而是去設計遊戲規則（定比較軸）。這種從「隨機發散」到「結構化分歧」的思維轉變，不僅能大幅提升生成內容的品質與實用性，更是我們邁向可信任、可治理 AI 系統的關鍵一步。我們正在從與一個黑盒子互動，轉變為設計一個透明且意圖導向的認知夥伴。

延伸閱讀

• AIアイデア出しで、使える選択肢を3つもらうためのプロンプト (Zenn.dev)
• Attention Is All You Need (arXiv)
• Controllable Neural Text Generation (Lilian Weng's Blog)
• OpenAI API Reference: Temperature (OpenAI)

我是江中喬，專注於 AI Agent Architecture、Memory Governance 與 Cognitive Diversity，持續研究如何打造能夠長期協作、可信任且可治理的 AI 系統。