2026 年 9 月,一個新型態的 AI 模型類別——決策模型(Decision Model)——開始從研究邊緣走入生產部署。先是 TypeSafe AI 於 9 月 15 日發布 Jev System One,成為首款專為決策而非文字生成設計的模型;緊接著 Cloudflare 於 10 月 1 日正式推出 Clef 與 Clef-flash,以 Apache 2.0 授權完全開源,並在 Jev 自家的評測基準上超越 Jev。這並非簡單的「新模型問世」——它代表的是 AI 基礎設施在架構層面的分岔與演化。
什麼是決策模型?
與大型語言模型(LLM)生成文字不同,決策模型的輸入輸出結構完全不同:
- 輸入:一段情境描述(state)加上一組類型化問題(typed questions)
- 輸出:僅返回結構化的決策結果——不是文字段落,而是帶有機率的分類選項、評分或二元判斷
Jev 定義了三個原生輸出類型:
| 類型 | 功能 | 典型應用 |
|---|---|---|
| choice | 從一組預選項中選擇一個 | 意圖分類、模型路由、支援分單 |
| score | 在有序範圍內評分 | 緊急程度排序、風險評級 |
| noul | 二元判斷(yes/no)加上機率 | 內容審核、操作門控、安全閘道 |
這意味著決策模型的輸出可以直接饋入程式邏輯,無需解析自由文字、無需等待大量推理 token、無需擔心格式不穩定。
TypeSafe Jev:開創者
Jev 的關鍵設計決策體現在其 API 結構中。開發者不與模型對話,而是發送一個包含 state 與 questions 的 JSON 請求:
{
"model": "jev-latest",
"state": "...客戶投訴文字...",
"questions": {
"department": { "type": "choice", "criteria": { "billing": "...", "technical": "..." } },
"urgent": { "type": "noul", "instructions": "需同日處理" }
}
}
回應是一個可直接被業務邏輯消費的結構化結果:
{
"answers": { "department": { "choice": "technical", "confidence": 0.78 }, "urgent": { "noul": 0.91 } }
}
Jev 的 API 於 9 月 21 日開放,定價為 $0.042/百萬輸入 token(輸出免費),號稱典型延遲 70–500 毫秒。獨立測試(AIMLAPI,2026 年 9 月 25 日)將其與 Claude Opus 5.5、GPT-6 Sol 等 LLM 進行比較:
- 在 Banking77 意圖路由任務中:Jev 準確率 81.3%(Opus 5.5 為 84.0%),但每百萬決策成本僅 $19——Opus 5.5 的 $1,621 的 1/85
- 在 TweetEval 內容審核中:Jev 的 F1 分數為 0.696(Opus 5.5 為 0.684),成本差距仍接近兩個數量級
Jev 訓練方法 RLCD(Reinforcement Learning for Calibrated Decisions) 使其機率值高度校準——輸出 0.9 的信心水準,即代表模型在 90% 的情況下正確。
Cloudflare Clef:開源陣營的強力回應
10 月 1 日,Cloudflare 以一個出人意料的策略切入:完全開源決策模型。
| 特性 | Clef(大) | Clef-flash(小) |
|---|---|---|
| 參數規模 | 27B | 9B |
| 最佳場景 | 最高精度決策 | 低延遲路徑 |
| 上下文長度 | 64K tokens | 64K tokens |
| 視覺編碼器 | ✅ 可處理圖片 | ❌ |
| 授權 | Apache 2.0 | Apache 2.0 |
| 相較 Jev 的中位數速度 | 2.5× 更快 | 13× 更快 |
Clef 最引人注目的差異在於:
- 視覺編碼器:Jev 僅處理文字輸入,而 Clef 可接收最多 4 張圖片——使得模型能對視覺內容進行決策(如分類網頁截圖或文件影像)
- 更大的 context window:64K vs Jev 的 32K
- Jev 相容 API:開發者可在兩者之間無縫切換
- RL 微調平台:Cloudflare 同時推出強化學習微調服務,讓客戶以自身數據進一步校準 Clef
在 Jev Decision Index 的 43 項基準測試中,Clef 在其中 7 項得分最高,包括在 TypeSafe 自己定義的工作流程評測(發票處理、客服、安全事件)中 3/4 領先。
為何這是一個重要趨勢?
決策模型的出現回答了一個 AI 工程中長期存在的結構性問題:大多數生產環境中的 AI 任務,最終需要的不是一段文字,而是一個分支決策。
| 場景 | 傳統 LLM 方案 | 決策模型方案 |
|---|---|---|
| 客服分流 | 先讓 LLM 生成文字 → 解析 → 提取分類 → 分支 | 直接返回 choice: billing (0.97) |
| 內容審核 | 提示工程 → 長篇回應 → 正則匹配 → 判斷 | 直接返回 noul: 0.04(安全) |
| 代理門控 | 要求 LLM 評估算風險 → 解析 → 分支 | 在數十毫秒內完成判斷 |
後者消除了解析階段、格式不穩定性與推理延遲——這正是許多 AI 代理(AI agent)生產部署的關鍵瓶頸。
Cloudflare 將決策模型定位為其「代理雲端」(Agent Cloud)策略的核心元件。當一個代理在執行工作流程時,它不需要另一個 LLM 來決定下一步——它需要一個可以在 數十毫秒內給出結構化判斷、且成本可忽略不計的決策層。Clef 的開源發布意味著任何團隊都可以在自己的基礎設施上運行決策模型,不必依賴外部 API。
產業影響與發展方向
隨著 Jev 與 Clef 的相繼登場,決策模型正在迅速從單一供應商的實驗轉變為基礎設施標準。三個值得關注的發展方向:
- 整合進 AI Gateway / 代理框架:Cloudflare 已將 Clef 整合進 Workers AI 與 AI Gateway,使開發者可以在 API 路由層直接嵌入決策邏輯
- 多模態決策:Clef 的視覺編碼器暗示了決策模型從文字分類走向圖像、文件、影片分析的潛力
- 專用硬體最佳化:與 LLM 不同,決策模型的輸出空間極小、計算路徑更可預測——這使其特別適合邊緣裝置或專用推理晶片
結語
2026 年 9 月下旬至 10 月初,AI 世界見證了一個新模型範疇的正式誕生。TypeSafe Jev 開拓了概念邊界,Cloudflare Clef 則以開源方式將之推向主流。當 LLM 越趨通用、越趨昂貴的同時,決策模型以極低成本提供了生產環境真正需要的精確判斷——這不是取代 LLM,而是填補了架構中的一塊結構性空白。對於正在建構 AI 代理系統的團隊而言,決策模型可能成為比更大型的語言模型更重要的基礎設施元件。
本文信息來源:Cloudflare 官方部落格、TypeSafe AI、AIMLAPI 獨立評測、Jev Model Guide、typesafe-jev.com。