理解目前狀態
模型解讀自然語言或結構化文字,例如工單、Agent 軌跡、商品紀錄或遊戲狀態。
System One 是 TypeSafe 提出的一類 AI 模型,協助開發者把非結構化的應用狀態轉成型別化答案與機率。Jev 是第一個實作:可嵌入應用程式碼的有限決策元件。
這是一份獨立的開發者指南。產品細節與效能說法均標明來自 TypeSafe;用於正式環境前,請務必以自己的資料驗證 Jev。
state → decisions「我的帳戶被重複扣款,希望今天處理。」
if (confidence < threshold) → reviewSystem One 模型理解輸入的含義,但不延續對話,也不撰寫回覆。你先宣告問題與允許的答案形式,模型再回傳程式可以檢查與處理的有限判斷。
模型解讀自然語言或結構化文字,例如工單、Agent 軌跡、商品紀錄或遊戲狀態。
應用在呼叫前定義答案空間;模型負責選擇選項、在量表評分,或判斷一個是非命題。
每個答案都有機率訊號;Choice 與 Score 也用信心值概括分布,讓程式區分明確與模糊結果。
門檻、政策檢查、副作用、重試、回退與人工覆核,仍由一般程式碼負責。
Jev 把一次模型呼叫變成一組決策訊號。對開發者而言,基本單位不是一輪對話,而是模型與應用之間一份小型、型別化的契約。
傳入完成判斷所需的資訊。Jev 目前接受文字形式的輸入,包括字串、JSON 物件與文字陣列。
客戶訊息 + 帳戶資料為每個問題命名,選擇 primitive,並描述允許的選項或量表。多個獨立問題可放在同一次請求中。
負責部門 · 緊急度 · 情緒Jev 為每個問題回傳型別化答案與機率訊號;Choice 與 Score 另含信心值。
帳務團隊 · 0.93 · 高信心把模型輸出與確定性檢查結合。低風險且明確時執行;不確定或高影響情況交給人工或推理模型。
分流 · 追問 · 覆核 · 停止billing從預先定義的選項中選出一個,並回傳每個選項的機率。
1.43 / 2依照有順序且有描述的等級定位;結果可落在兩個等級之間。
0.95判斷一個是非命題,並回傳模型認為「是」的機率。
生成式模型擅長為人產生彈性的字串。TypeSafe 的觀點是:軟體需要較窄的智慧形式——能嵌入程式碼、重複執行、表達不確定性,並讓控制流程保持可見。
生成結果可能是文章、程式碼、JSON、拒答,也可能格式錯誤。應用採取行動前,常需解析、驗證與處理例外。
模型在背景執行時,程式需事先知道可能結果,以及每種結果可觸發哪些操作。
機率分布讓工作流程自動處理明確案例,並把模糊案例送往更安全的路徑。
複雜流程可拆成聚焦的語意判斷,再用確定性邏輯組合,而非把業務邏輯藏在一個大型提示詞裡。
最佳候選任務通常經常發生,需要理解雜亂輸入,最後落到少量、應用已知道如何執行的動作。
分類工單、辨識意圖與緊急度、評估客戶情緒,並把不確定案例交給人工覆核。
這是帳務、技術、帳戶問題,還是其他?
選擇模型或工具、判斷是否需要檢索、結果是否完整,或檢查 Agent 準備執行的工具呼叫。
Agent 應繼續、重試還是升級處理?
評估候選項與查詢、使用者偏好、政策或上下文的匹配,再與商業規則組合。
這個候選項與目前請求有多相關?
依明確標準檢查訊息、生成結果、軌跡或程式碼變更;高風險結果仍由確定性規則把關。
它是否違反這項規則?
為遊戲、模擬、回應式介面或裝置自動化選擇合法動作,避免為一次判斷生成冗長文字。
目前狀態下,哪個允許動作最合適?
把大量紀錄轉為類別、分數、標記與特徵,供下游系統彙整、篩選或覆核。
這筆紀錄屬於哪種類別與風險等級?
選項已明確、輸入語意複雜、判斷反覆發生、對延遲敏感,而且程式可為每種結果安排清楚的動作或回退。
任務需要原創文字或程式碼、深入多步推理、廣泛研究、解釋過程、多模態輸入,或可能結果無法事先定義。
兩者都能理解語言,LLM 也可用結構化輸出限制格式。更深層的差異是模型原生要產出什麼,以及周圍軟體如何使用它。
| 比較面向 | Jev / System One | 一般生成式 LLM |
|---|---|---|
| 主要工作 | 判斷預先定義的結果 | 生成後續內容或回覆 |
| 原生輸出 | 型別化選項、評分或「是」的機率 | token 序列:文章、程式碼、JSON 或其他文字 |
| 答案空間 | 呼叫前已宣告 | 本質開放,即使 schema 限制最終格式 |
| 不確定性 | 每個答案都有機率;Choice 與 Score 另回傳信心值 | 可能提供 token 機率或自報信心,但通常不是針對任務校準的決策訊號 |
| 取樣方式 | TypeSafe 稱問題與輸出平行計算 | 通常逐 token 順序生成 |
| 擅長任務 | 高頻語意分支、評分、路由與檢查 | 寫作、對話、程式設計、整合資訊與開放式推理 |
| 主要失敗模式 | 格式有效但語意判斷錯誤 | 生成內容錯誤、格式異常、缺乏依據或偏離任務 |
| 系統角色 | 可見程式碼中的有限決策元件 | 彈性的生成器或推理器,通常需要更大的編排框架 |
對於評估 Jev 以外 System One 方案的開發者,下方沿用 Projects 頁的社群生態模組,並區分獨立訓練的模型與基於現有權重的 Jev 類介面。
這些社群模型與介面實驗受到 Jev 啟發,或探索相近的結構化決策方式。它們不是 TypeSafe 官方發布的 Jev 版本,也不參與上方的 GitHub 專案排名。
Qwen3.5-9B + diffusion drafter9B Jev 風格決策模型,可選擇先推理再決策,並公開模型權重、訓練程式碼、資料及相容的本機 API。
Qwen3.5-4B4B 開放詞表機率決策模型,公開模型權重、兩階段訓練程式碼、本機推論與 HTTP 服務。
Qwen3.5-9B受 Jev 啟發的 LoRA 適配器與訓練方法,可處理選擇題與是非題;支援本機執行,目前僅接受文字。
Qwen3-0.6B小型決策模型,公開訓練程式碼,並以遊戲示範測試動作選擇。
Qwen3.5-2B微調模型,單次運算即可回傳多個結構化問題的機率分布;目前僅支援英文。
ModernBERT 151M / Verdict 2.0以小型編碼器為基礎的決策模型,公開權重,並提供瀏覽器內的 WebGPU 示範。
Qwen3.5-0.8B公開權重、訓練程式碼與評測的 0.8B 多模態決策模型;可在單次運算中處理文字和圖片,權重僅供非商業研究。
DiffusionGemma 26B-A4B以現有的 DiffusionGemma 模型提供類似 Jev 的結構化問答介面;沒有發布新的模型權重。
Open-model logits利用現有開源模型為候選答案評分,提供類似 Jev 的介面;沒有發布新的模型權重。
Spark-X2.5-4B可在本機執行的 Jev 相容服務,利用 Spark-X2.5 的答案機率作出判斷;多個問題共用一次狀態預填充,並附有操作介面與基準測試。
Any causal LLM無須訓練即可把因果語言模型轉成結構化決策模型,提供選項順序去偏、選用式校準與可重現評測。
Qwen3.5 / DeBERTa可離線執行的 Jev 相容服務,支援 Qwen 與 DeBERTa,並已用官方 SDK 驗證介面及公布 JevBench 結果。
Qwen3-0.6B面向代理執行軌跡等結構化問題的 Qwen3-0.6B 決策模型,公開權重與型別化 HTTP API,無須逐詞生成。
Causal LMs / SGLang以僅預填充評分,把本機因果語言模型接成 Jev 相容的 Choice、Score 與 Noul 服務;支援 SGLang、Transformers 及多模態輸入。
Laya / ONNX Runtime透過 ONNX Runtime 在 Node.js 中執行開源 Laya System One 模型,採用 Jev 相容的請求格式,並公開模型權重。
Qwen3.5-0.8B支援泰語與英語的 Qwen3.5-0.8B 決策模型,公開權重、訓練程式碼及 Jev 相容 HTTP API。
Qwen3.5-0.8B / 2B受 Jev 啟發的多模態決策模型,支援文字、圖片與影片,並公開模型權重、訓練程式碼和評測指令。
Qwen3.5-4B以 Qwen3.5 微調的開源 4B 決策模型,提供模型權重、可重現訓練方法與資料來源說明。
Open decision models一個本機 Rust 服務,可下載並執行多種開源決策模型,同時提供原生介面與 TypeSafe 相容 API。
Qwen3.5-0.8B / 2B / 4BQwen3.5 多模態決策模型系列,提供 0.8B、2B 與 4B 權重,並公開訓練、推論和校準評測程式碼以及 Jev 相容 API。
Qwen3.5-4B支援英文與韓文的 4B 決策模型,公開權重及多種量化版本,提供校準機率與 TypeSafe 相容的本機服務。
Qwen3.5-0.8B / 2B可在本機執行的 0.8B 與 2B 決策模型系列,公開權重、支援長上下文,並提供相容 API、代理 Skill、MCP 工具和評測指令。
Qwen3.5-2B / 9B · Qwen3.8-27BJev 的獨立開源重現,發布 2B、9B 與 27B 權重、訓練程式碼、相容的本機服務和可重現評測。
Qwen3.5-VL 2B / 4B / 9B支援文字和圖片的開源 2B、4B 與 9B 多模態決策模型系列,提供校準機率、拒答機制、公開權重和相容的本機 API。
0.6B / 0.8B / 4B decision models處理 Choice、Score 與 Noul 決策的小型開源模型,公開權重,可在 CPU、NVIDIA GPU 和 Apple 晶片上本機推論。
Qwen3.5-0.8B / 4B開放的 0.8B 與 4B Qwen3.5 判斷模型,提供權重、訓練程式碼、Jev 相容本機 API 與可重現的 Decision Index 結果。
Qwen3.5-0.8B / 4B為搜尋代理決策訓練的開放 0.8B 與 4B Qwen3.5 模型,公開資料、權重、訓練紀錄與校準程式碼。
Cloudflare Clef 27B / 9B在 Apple Silicon 上執行 Cloudflare Clef 與 Clef-Flash 的原生 C 和 Metal 推論引擎,透過 Jev 相容 API 處理文字、圖片與影片判斷。
mmBERT 144.3M用於本機型別化判斷的雙語 144.3M 編碼器模型,提供權重、校準工具、評測與 Jev 相容服務。
Multilingual Laya checkpoints多語非自回歸決策引擎,公開模型權重、訓練與微調程式碼,支援結構化判斷和相容的本機 API。
Qwen3.5-0.8B / 4B以凍結的 Qwen3.5 底座和小型可訓練物理模組打造的本機多模態決策引擎,公開 0.8B 與 4B 權重。
Laya / ONNX Runtime JavaLaya 模型的純 Java 執行環境,提供 Spring Boot、Gradle 整合及 Jev、OpenAI 相容決策端點。
Qwen3.5-4B / Qwen3.8-27B適用於 Qwen3.5 與 Qwen3.8 的 Jev 風格決策模型蒸餾和訓練框架,包含校準、評測及相容服務程式碼。
LLM-jp 4.1 8B / encoder 310M面向日語的型別化決策模型系列,公開 8B 和 310M 權重、訓練與評測程式碼、GGUF 服務以及 System One 相容 API。
Any llama.cpp GGUF替現有 llama.cpp 對話模型加入 System One API 與獨立分類通道,可選校準及有限推理,無須另外載入第二個模型。
Qwen3-VL-4B基於 Qwen3-VL-4B 的多模態決策模型,支援動態候選評分及不受候選順序影響的選擇,並公開校準程式碼與技術報告;模型權重仍待開放下載。
BitNet b1.58 2B基於 2B 三值 BitNet 的決策模型,以指標頭輸出型別化機率,公開可重現訓練紀錄和校準結果;已發布權重目前仍為私有存取。
Open ONNX decision models透過 ONNX 在本機 CPU 執行經過篩選的開放決策模型,並提供統一的型別化 Python 函式庫、命令列、REST 與 System One 相容 API。
Qwen3-VL-4B開放的 4B 視覺決策模型,公開權重、訓練與校準程式碼,並透過 TypeSafe System One API 提供服務。
Open decision model families本機決策模型執行環境,利用精確狀態分叉加速推論,並透過統一介面執行多種文字和多模態模型。
Multilingual encoder 57M / ONNX57M 多語編碼器決策模型,支援 Choice、Noul 與 Score,提供 ONNX 推論、瀏覽器與樹莓派示範,以及相容 System One 的 API。
Qwen3.5-9B LoRA / GGUF以 CPU 為主的 9B 多模態決策模型,以 GGUF 發布,支援 Choice、Score 與 Noul,並提供 TypeSafe 相容 API 和 LoRA 微調工具。
這些是社群獨立專案,並非 Jev 官方版本。
這份 Jev AI Dev 開發者指南以自己的文字解釋 TypeSafe 的框架。API 細節、產品主張、評測方法與最新變化,請以官方資料為準。
先定義可能答案、收集代表性樣本、決定不確定結果如何處理,再把 Jev 與現有規則或模型比較;不要直接自動化高影響決策。