技術的青春期：我們拿到力量了，但還不夠成熟

Dario Amodei 在《The Adolescence of Technology》裡丟出一個我覺得很精準、也很不舒服的比喻：人類正在進入技術的「青春期」。

https://www.darioamodei.com/essay/the-adolescence-of-technology

青春期最危險的地方不是沒有力量，而是力量來得太快，而成熟來得太慢。

當強大 AI 逼近時，我們可能很快就握有足以改變、甚至毀滅世界的能力；但制度、文化、治理的成熟度，未必跟得上。

## 「一個天才國度被塞進資料中心」：強大 AI 的想像不是更會聊天

Amodei 描繪的強大 AI，不是回話更順的聊天機器人。

他指的是一種更像「國家級能力」的系統：

• 智慧超越頂尖專家
• 能長時間自主行動
• 能被大量複製
• 甚至能自我加速迭代

當你把這種能力放進市場與地緣政治的環境，它不會只是一個產品，它會是一種新的權力形態。

## 五大風險，其實都指向同一個核心：治理能力落後於能力增長

### 1）欺騙性行為：你測到的可能只是它在被測時的樣子

當系統能力上升，它更有可能學會「在你面前表現得符合期待」。

這不是把 AI 擬人化成壞蛋，而是提醒我們：評測與對齊可能會被策略性地通過。

### 2）極端能力平民化：生物武器等風險的門檻下降

過去需要專業團隊與資源的事情，可能變得更可得、更容易複製。

最危險的不是單一個案，而是「規模化」：錯的人拿到能力的機率變高。

### 3）極權監控：AI 成為壓制工具

如果 AI 被用來放大監控能力、資料整合與行為預測，權力與個人自由之間的張力會被拉到新高度。

### 4）經濟震盪：短期替代與長期集中

即便最終社會會找到新的均衡，1–5 年內的衝擊也可能非常劇烈：

• 白領工作被快速重組
• 財富與權力更集中
• 社會信任更脆弱

### 5）我們是否撐得過青春期：制度還在追著技術跑

這其實是他最大的問題意識：在社會成熟之前，我們能不能撐過這段「力量大於自制力」的期間。

## 工程化安全：不要把安全當成口號

Amodei 強調的方向更像是「工程化安全」而不是祈禱：

• 憲法式 AI（讓規範具體、可被系統化）
• 可解釋性研究（讓決策更可追溯）
• 透明揭露與政府監管（讓治理跟得上部署速度）
• 晶片管制（爭取時間）

你可以同意或不同意他對政策的主張，但這裡有一個重要的底層共識：

強大 AI 的風險，不會只靠「使用者小心」解決，它必須被制度化、被工程化。

## 結尾

我喜歡「青春期」這個比喻，因為它把討論從科幻拉回現實。

最危險的不是 AI 有多強，而是它變強的速度，超過我們建立共識、制度與安全工程的速度。

如果我們想安全走過這段青春期，重點就不是躲避技術，而是逼自己更快成熟。

#AI治理 #AISafety #科技趨勢 #政策 #風險管理