閉源定標準、開源跑腿、創業找場景
AI Infra 創業正在失去中間地帶。活下來的公司都在做分發層或垂直場景,而不是通用工具。
現在的分工很清楚了
閉源巨頭(OpenAI、Anthropic、Google)在定義 AI 的能力邊界和使用標準。他們做模型、做 API、做規範。開源社群(Llama、Mistral、HuggingFace 生態)負責把這些標準實現出來,通常更便宜、更快、更容易定製。
這個分工本身沒什麼新奇的。但對 AI Infra 創業的影響是實質的。
Infra 創業正在失去中間地帶
兩三年前,做向量數據庫、做 RAG 框架、做模型微調平台的初創公司還有空間——因為整個棧都不清楚,誰都可能成為關鍵一層。現在不一樣了。
如果你的產品只是「幫用戶更好地調用開源模型」或「提供一個通用的推理優化層」,你在和誰競爭?和 Meta 的資源?和 Hugging Face 的生態?還是和雲廠商的一個新功能?
這些對手都不缺錢、不缺人、不缺用戶。他們可以免費或接近免費地提供你的功能。
出路在分發和場景
活下來的 Infra 公司正在做兩件事:
- 分發層——不是「如何推理更快」,而是「如何讓 10 萬個小應用同時跑推理而不互相卡」。這需要理解實際的工作流,不只是技術棧。
- 場景層——做垂直行業的 AI 應用層,而不是通用工具。比如「法律文件審查」或「客服自動化」,而不是「更好的向量搜索」。
換句話說,從「我做基礎設施」轉向「我做基礎設施 + 我知道怎麼用」。
判斷的脈絡
這不是說 Infra 創業全死了。而是競爭的維度變了。如果你還在純技術優化上賭,你在和資源更多的對手玩同一個遊戲,贏面很小。如果你能把基礎設施和實際場景綁在一起,你就有了別人難以複製的東西——用戶習慣、領域知識、反覆迭代的工作流。
這也解釋了為什麼一些 Infra 初創最後活成了 SaaS 公司。不是他們背離了初心,而是市場在告訴他們:基礎設施本身不夠。
我是江中喬,一位具有 TPM 與產品管理背景的 AI 系統建構者,目前專注於 AI 認知增強系統與多 Agent 協作架構的設計與實踐。