你的優勢不在模型上

September 20, 2026 共 1,780 字 阅读约 8 分钟

很多公司都開過這樣一場會:有人做了一份模型供應商比較,團隊挑了一家,然後這個選擇被寫進策略簡報裡,彷彿它是關於未來的判斷。它不是。這是一次採購決定,而且半衰期很短。

能力是租來的,不是擁有的

有三股力量讓「選模型」難以成為優勢的地基:

同等能力的價格持續下跌。 競爭壓力與架構進展,讓固定品質水準的成本在過去三年大約每年下降一個數量級。任何你今天只因為某個特定模型付得起才做得到的事,很快所有人都付得起。

開放權重模型持續縮小差距。 對越來越多生產任務——分類、擷取、摘要、例行起草、檢索增強式回答——自己能跑的模型已經夠用,而且一次解決了按 token 計費、資料傳輸問題和供應商存續風險。前沿模型在最難的推理上仍然領先,但「夠用又可自有」會贏下大量真實工作負載。

替換正在變容易,而不是變難。 各家供應商的 SDK 形態趨於一致,閘道與轉接器也成熟了,整個生態系如今都預設你可能隨時會換。供應商鎖定在很大程度上是團隊自己在架構上做出的選擇——也可以選擇不要。

公開基準測試救不了這件事。排行榜會飽和,前段分數被壓縮成雜訊,而基準污染在這個領域是有文獻紀錄的問題。一個在通用推理測驗上奪冠的模型,可能在你的客服工單、你的合約條款或你的語言組合上輸得很慘。唯一能預測你生產環境品質的基準測試,是用你自己的任務樣本、你自己的正確性標準建立起來的那一個。

真正會複利累積的東西

如果模型只是投入,那資產是什麼?在那些能長期維持優勢的團隊裡,有五件事反覆出現。

一、工作流程整合。 把智慧嵌進記錄系統裡——也就是工作本來就發生、客戶、訂單或案件都在眼前的地方——建得慢,競爭對手要抄也慢。在產品旁邊掛一個聊天視窗很容易複製;重新設計過的核准、分流或核保流程則不然。

二、專有的回饋資料。 修正、接受/拒絕的決定、升級原因和最終結果,都是改進的原料。多數公司把它們直接丟掉,因為沒有任何量測機制在收集。這正是讓客服領域能測出真實成果的飛輪:同一個工具對經驗最少的人幫助最大,因為系統吸收了「好的答案長什麼樣」。

三、編碼了你自己標準的評測集。 一套包含你的邊界案例、你的語氣要求和你的法規限制的黃金標準集,是真正的內部資產。它也是唯一能判斷新模型、新提示詞或新管線是否比上一季上線的版本更好的方法。

四、信任與通路。 經得起客戶安全審查的資料處理方式、尖峰負載下仍撐得住的可用性,以及清楚說明產品不會做什麼。在企業銷售中,這往往就是試辦與合約之間的差別,而它跟你呼叫哪一個模型毫無關係。

五、服務成本的工程能力。 把簡單的請求路由到小模型、難的交給前沿模型,做快取、批次處理,並依任務編列預算。這種紀律會複利累積:一個以你三倍單次請求成本提供同一個功能的競爭對手,遲早會被迫在毛利與價格之間做選擇。

會失敗的那種模式

失敗的模式相當一致,值得直說。

團隊把「我們用某家的模型」當成策略。沒有任何量測,所以沒有回饋資料累積。沒有評測集,所以品質爭論只能靠軼事和熱情來決定。試辦的好壞以示範效果來衡量,而不是用與業務成果掛鉤的指標——而根據一項被廣泛報導的 2025 年 MIT 企業試辦研究,這正是絕大多數試辦沒有產生可衡量損益影響的地帶。十八個月後,公司只是變成稍微貴一點的自己,並且依賴著一個自己無法左右其價格與產品藍圖的供應商。

刻意把這個迴圈建起來

量測結果,而不是點擊。 每一次模型互動都要記錄:輸入的類別、模型與版本、輸出是被接受、被修正、被升級還是被捨棄,以及後續發生了什麼。這是 AI 產品裡報酬率最高的基礎工程。

維護一套小而活的評測集。 五十到幾百個精心挑選的案例,並用真實事故不斷更新,勝過幾千條靜態用例。把它接進發布關卡,讓迴歸問題無法悄悄溜進生產環境。

保留一層與模型無關的抽象層。 一層薄薄的內部介面負責提示詞、模型選擇、重試與成本核算,就能讓更換供應商變成一個下午的工作。這樣做的團隊能吃到每一次降價和能力躍升;不這樣做的團隊只能遠遠看著。

把資源投在複製貼上到不了的地方。 整合、權限、稽核軌跡、離線行為,以及讓你的產品對客戶而言正確的領域邏輯。這些東西不風光,卻守得住。

自己掌握路由與單位經濟。 刻意決定哪些請求值得用前沿模型,並以每個成功結果的成本上限來為這個功能定價。

把供應商變動當成日常,而不是危機。 模型會被停用、預設值會改變、昨天表現良好的版本今天會開始不一樣。有評測集的團隊把這當成一個平凡的星期二;沒有評測集的團隊則把它當成一件事故。

一個誠實的結論

模型能力正在變得像電力:不可或缺,但本身並不構成差異化。最後勝出的公司,不會是某個季度裡選到最好供應商的那一家,而是把智慧變成客戶離不開的工作流程、把這個流程產生的回饋留下來,並建立起評測紀律,讓自己能持續改進而不必徵求任何人許可的那一家。

這個迴圈是你的。模型是按 token 租來的,明年還會更便宜。

相關閱讀:AI 優先是一種紀律,不是一句口號AI 優先的真實成本