Jev AI Dev · 開發者指南

什麼是 System One AI 模型? 面向開發者的 Jev 指南。

System One 是 TypeSafe 提出的一類 AI 模型,協助開發者把非結構化的應用狀態轉成型別化答案與機率。Jev 是第一個實作:可嵌入應用程式碼的有限決策元件。

輸入
文字、JSON 或文字陣列
輸出
Choice、Score 或 Noul
流程控制
由你的程式碼掌握

這是一份獨立的開發者指南。產品細節與效能說法均標明來自 TypeSafe;用於正式環境前,請務必以自己的資料驗證 Jev。

System Onestate → decisions
state

「我的帳戶被重複扣款,希望今天處理。」

choice帳務團隊0.96
noul緊急0.88
score不滿程度1.7 / 2
if (confidence < threshold) → review
模型類別

System One 模型:嵌入應用程式碼的語意判斷元件。

System One 模型理解輸入的含義,但不延續對話,也不撰寫回覆。你先宣告問題與允許的答案形式,模型再回傳程式可以檢查與處理的有限判斷。

01

理解目前狀態

模型解讀自然語言或結構化文字,例如工單、Agent 軌跡、商品紀錄或遊戲狀態。

02

遵守答案契約

應用在呼叫前定義答案空間;模型負責選擇選項、在量表評分,或判斷一個是非命題。

03

揭示不確定性

每個答案都有機率訊號;Choice 與 Score 也用信心值概括分布,讓程式區分明確與模糊結果。

04

與程式碼組合

門檻、政策檢查、副作用、重試、回退與人工覆核,仍由一般程式碼負責。

Jev 工作流程

開發者如何把 Jev 接入應用程式碼。

Jev 把一次模型呼叫變成一組決策訊號。對開發者而言,基本單位不是一輪對話,而是模型與應用之間一份小型、型別化的契約。

輸入

1. 組織狀態

傳入完成判斷所需的資訊。Jev 目前接受文字形式的輸入,包括字串、JSON 物件與文字陣列。

客戶訊息 + 帳戶資料
契約

2. 定義問題

為每個問題命名,選擇 primitive,並描述允許的選項或量表。多個獨立問題可放在同一次請求中。

負責部門 · 緊急度 · 情緒
模型

3. Jev 同時判斷

Jev 為每個問題回傳型別化答案與機率訊號;Choice 與 Score 另含信心值。

帳務團隊 · 0.93 · 高信心
應用

4. 程式碼執行策略

把模型輸出與確定性檢查結合。低風險且明確時執行;不確定或高影響情況交給人工或推理模型。

分流 · 追問 · 覆核 · 停止

三種答案形式

Choicebilling

哪個團隊應該處理?

從預先定義的選項中選出一個,並回傳每個選項的機率。

Score1.43 / 2

這個問題有多嚴重?

依照有順序且有描述的等級定位;結果可落在兩個等級之間。

Noul0.95

這則訊息是否要求退款?

判斷一個是非命題,並回傳模型認為「是」的機率。

背後論點

TypeSafe 為什麼替軟體設計新的模型介面。

生成式模型擅長為人產生彈性的字串。TypeSafe 的觀點是:軟體需要較窄的智慧形式——能嵌入程式碼、重複執行、表達不確定性,並讓控制流程保持可見。

01

字串靈活,但結果開放

生成結果可能是文章、程式碼、JSON、拒答,也可能格式錯誤。應用採取行動前,常需解析、驗證與處理例外。

02

自動化需要邊界

模型在背景執行時,程式需事先知道可能結果,以及每種結果可觸發哪些操作。

03

不確定性應改變流程

機率分布讓工作流程自動處理明確案例,並把模糊案例送往更安全的路徑。

04

小型判斷應能組合

複雜流程可拆成聚焦的語意判斷,再用確定性邏輯組合,而非把業務邏輯藏在一個大型提示詞裡。

適用位置

System One AI 適合哪些開發工作流程。

最佳候選任務通常經常發生,需要理解雜亂輸入,最後落到少量、應用已知道如何執行的動作。

01

客服營運

分類工單、辨識意圖與緊急度、評估客戶情緒,並把不確定案例交給人工覆核。

這是帳務、技術、帳戶問題,還是其他?
02

Agent 流程控制

選擇模型或工具、判斷是否需要檢索、結果是否完整,或檢查 Agent 準備執行的工具呼叫。

Agent 應繼續、重試還是升級處理?
03

排序與相關性

評估候選項與查詢、使用者偏好、政策或上下文的匹配,再與商業規則組合。

這個候選項與目前請求有多相關?
04

安全與驗證

依明確標準檢查訊息、生成結果、軌跡或程式碼變更;高風險結果仍由確定性規則把關。

它是否違反這項規則?
05

即時互動

為遊戲、模擬、回應式介面或裝置自動化選擇合法動作,避免為一次判斷生成冗長文字。

目前狀態下,哪個允許動作最合適?
06

資料處理

把大量紀錄轉為類別、分數、標記與特徵,供下游系統彙整、篩選或覆核。

這筆紀錄屬於哪種類別與風險等級?

較適合

選項已明確、輸入語意複雜、判斷反覆發生、對延遲敏感,而且程式可為每種結果安排清楚的動作或回退。

不太適合

任務需要原創文字或程式碼、深入多步推理、廣泛研究、解釋過程、多模態輸入,或可能結果無法事先定義。

System One 與生成式 LLM

System One 與生成式 LLM 在 AI 技術堆疊中扮演不同角色。

兩者都能理解語言,LLM 也可用結構化輸出限制格式。更深層的差異是模型原生要產出什麼,以及周圍軟體如何使用它。

比較面向Jev / System One一般生成式 LLM
主要工作判斷預先定義的結果生成後續內容或回覆
原生輸出型別化選項、評分或「是」的機率token 序列:文章、程式碼、JSON 或其他文字
答案空間呼叫前已宣告本質開放,即使 schema 限制最終格式
不確定性每個答案都有機率;Choice 與 Score 另回傳信心值可能提供 token 機率或自報信心,但通常不是針對任務校準的決策訊號
取樣方式TypeSafe 稱問題與輸出平行計算通常逐 token 順序生成
擅長任務高頻語意分支、評分、路由與檢查寫作、對話、程式設計、整合資訊與開放式推理
主要失敗模式格式有效但語意判斷錯誤生成內容錯誤、格式異常、缺乏依據或偏離任務
系統角色可見程式碼中的有限決策元件彈性的生成器或推理器,通常需要更大的編排框架

對於評估 Jev 以外 System One 方案的開發者,下方沿用 Projects 頁的社群生態模組,並區分獨立訓練的模型與基於現有權重的 Jev 類介面。

System One

受 Jev 啟發的 System One 社群專案

這些社群模型與介面實驗受到 Jev 啟發,或探索相近的結構化決策方式。它們不是 TypeSafe 官方發布的 Jev 版本,也不參與上方的 GitHub 專案排名。

社群模型Qwen3.5-9B + diffusion drafter

Jeeves

9B Jev 風格決策模型,可選擇先推理再決策,並公開模型權重、訓練程式碼、資料及相容的本機 API。

社群模型Qwen3.5-4B

OpenJev-4B

4B 開放詞表機率決策模型,公開模型權重、兩階段訓練程式碼、本機推論與 HTTP 服務。

社群模型Qwen3.5-9B

Bespoke Nimble

受 Jev 啟發的 LoRA 適配器與訓練方法,可處理選擇題與是非題;支援本機執行,目前僅接受文字。

社群模型Qwen3-0.6B

NanoJev

小型決策模型,公開訓練程式碼,並以遊戲示範測試動作選擇。

社群模型Qwen3.5-2B

decider

微調模型,單次運算即可回傳多個結構化問題的機率分布;目前僅支援英文。

社群模型ModernBERT 151M / Verdict 2.0

Verdict

以小型編碼器為基礎的決策模型,公開權重,並提供瀏覽器內的 WebGPU 示範。

社群模型Qwen3.5-0.8B

Dohnuts

公開權重、訓練程式碼與評測的 0.8B 多模態決策模型;可在單次運算中處理文字和圖片,權重僅供非商業研究。

介面實驗DiffusionGemma 26B-A4B

OpenJev

以現有的 DiffusionGemma 模型提供類似 Jev 的結構化問答介面;沒有發布新的模型權重。

介面實驗Open-model logits

Simple Jev

利用現有開源模型為候選答案評分,提供類似 Jev 的介面;沒有發布新的模型權重。

介面實驗Spark-X2.5-4B

Rizzo Flow

可在本機執行的 Jev 相容服務,利用 Spark-X2.5 的答案機率作出判斷;多個問題共用一次狀態預填充,並附有操作介面與基準測試。

介面實驗Any causal LLM

AnyJev

無須訓練即可把因果語言模型轉成結構化決策模型,提供選項順序去偏、選用式校準與可重現評測。

介面實驗Qwen3.5 / DeBERTa

local-jev

可離線執行的 Jev 相容服務,支援 Qwen 與 DeBERTa,並已用官方 SDK 驗證介面及公布 JevBench 結果。

社群模型Qwen3-0.6B

AgentJev

面向代理執行軌跡等結構化問題的 Qwen3-0.6B 決策模型,公開權重與型別化 HTTP API,無須逐詞生成。

介面實驗Causal LMs / SGLang

LLM2Jev

以僅預填充評分,把本機因果語言模型接成 Jev 相容的 Choice、Score 與 Noul 服務;支援 SGLang、Transformers 及多模態輸入。

介面實驗Laya / ONNX Runtime

Laya

透過 ONNX Runtime 在 Node.js 中執行開源 Laya System One 模型,採用 Jev 相容的請求格式,並公開模型權重。

社群模型Qwen3.5-0.8B

OpenThai System One

支援泰語與英語的 Qwen3.5-0.8B 決策模型,公開權重、訓練程式碼及 Jev 相容 HTTP API。

社群模型Qwen3.5-0.8B / 2B

Valen

受 Jev 啟發的多模態決策模型,支援文字、圖片與影片,並公開模型權重、訓練程式碼和評測指令。

社群模型Qwen3.5-4B

Tev1

以 Qwen3.5 微調的開源 4B 決策模型,提供模型權重、可重現訓練方法與資料來源說明。

介面實驗Open decision models

Ollaya

一個本機 Rust 服務,可下載並執行多種開源決策模型,同時提供原生介面與 TypeSafe 相容 API。

社群模型Qwen3.5-0.8B / 2B / 4B

Intern-Decision

Qwen3.5 多模態決策模型系列,提供 0.8B、2B 與 4B 權重,並公開訓練、推論和校準評測程式碼以及 Jev 相容 API。

社群模型Qwen3.5-4B

Mica

支援英文與韓文的 4B 決策模型,公開權重及多種量化版本,提供校準機率與 TypeSafe 相容的本機服務。

社群模型Qwen3.5-0.8B / 2B

Jev-Style

可在本機執行的 0.8B 與 2B 決策模型系列,公開權重、支援長上下文,並提供相容 API、代理 Skill、MCP 工具和評測指令。

社群模型Qwen3.5-2B / 9B · Qwen3.8-27B

Open-Jev

Jev 的獨立開源重現,發布 2B、9B 與 27B 權重、訓練程式碼、相容的本機服務和可重現評測。

社群模型Qwen3.5-VL 2B / 4B / 9B

imajev

支援文字和圖片的開源 2B、4B 與 9B 多模態決策模型系列,提供校準機率、拒答機制、公開權重和相容的本機 API。

社群模型0.6B / 0.8B / 4B decision models

OpenDecider

處理 Choice、Score 與 Noul 決策的小型開源模型,公開權重,可在 CPU、NVIDIA GPU 和 Apple 晶片上本機推論。

社群模型Qwen3.5-0.8B / 4B

jiwo

開放的 0.8B 與 4B Qwen3.5 判斷模型,提供權重、訓練程式碼、Jev 相容本機 API 與可重現的 Decision Index 結果。

社群模型Qwen3.5-0.8B / 4B

SearchJev

為搜尋代理決策訓練的開放 0.8B 與 4B Qwen3.5 模型,公開資料、權重、訓練紀錄與校準程式碼。

介面實驗Cloudflare Clef 27B / 9B

cleffa

在 Apple Silicon 上執行 Cloudflare Clef 與 Clef-Flash 的原生 C 和 Metal 推論引擎,透過 Jev 相容 API 處理文字、圖片與影片判斷。

社群模型mmBERT 144.3M

Phocinae Largha

用於本機型別化判斷的雙語 144.3M 編碼器模型,提供權重、校準工具、評測與 Jev 相容服務。

社群模型Multilingual Laya checkpoints

Laya Decision Engine

多語非自回歸決策引擎,公開模型權重、訓練與微調程式碼,支援結構化判斷和相容的本機 API。

社群模型Qwen3.5-0.8B / 4B

VegaML

以凍結的 Qwen3.5 底座和小型可訓練物理模組打造的本機多模態決策引擎,公開 0.8B 與 4B 權重。

介面實驗Laya / ONNX Runtime Java

laya-java

Laya 模型的純 Java 執行環境,提供 Spring Boot、Gradle 整合及 Jev、OpenAI 相容決策端點。

社群模型Qwen3.5-4B / Qwen3.8-27B

train-jev

適用於 Qwen3.5 與 Qwen3.8 的 Jev 風格決策模型蒸餾和訓練框架,包含校準、評測及相容服務程式碼。

社群模型LLM-jp 4.1 8B / encoder 310M

saihai

面向日語的型別化決策模型系列,公開 8B 和 310M 權重、訓練與評測程式碼、GGUF 服務以及 System One 相容 API。

介面實驗Any llama.cpp GGUF

Callosum

替現有 llama.cpp 對話模型加入 System One API 與獨立分類通道,可選校準及有限推理,無須另外載入第二個模型。

社群模型Qwen3-VL-4B

OpenVisualJev

基於 Qwen3-VL-4B 的多模態決策模型,支援動態候選評分及不受候選順序影響的選擇,並公開校準程式碼與技術報告;模型權重仍待開放下載。

社群模型BitNet b1.58 2B

BitSOne-s1

基於 2B 三值 BitNet 的決策模型,以指標頭輸出型別化機率,公開可重現訓練紀錄和校準結果;已發布權重目前仍為私有存取。

介面實驗Open ONNX decision models

decision-toolkit

透過 ONNX 在本機 CPU 執行經過篩選的開放決策模型,並提供統一的型別化 Python 函式庫、命令列、REST 與 System One 相容 API。

社群模型Qwen3-VL-4B

Fovea

開放的 4B 視覺決策模型,公開權重、訓練與校準程式碼,並透過 TypeSafe System One API 提供服務。

介面實驗Open decision model families

Flide

本機決策模型執行環境,利用精確狀態分叉加速推論,並透過統一介面執行多種文字和多模態模型。

社群模型Multilingual encoder 57M / ONNX

Skejja

57M 多語編碼器決策模型,支援 Choice、Noul 與 Score,提供 ONNX 推論、瀏覽器與樹莓派示範,以及相容 System One 的 API。

社群模型Qwen3.5-9B LoRA / GGUF

OpenChoice-9B

以 CPU 為主的 9B 多模態決策模型,以 GGUF 發布,支援 Choice、Score 與 Noul,並提供 TypeSafe 相容 API 和 LoRA 微調工具。

這些是社群獨立專案,並非 Jev 官方版本。

透過 Jev AI Radar 追蹤新的社群模型與介面實驗。查看 Jev AI Radar
第一手資料

回到原文理解每項主張。

這份 Jev AI Dev 開發者指南以自己的文字解釋 TypeSafe 的框架。API 細節、產品主張、評測方法與最新變化,請以官方資料為準。

驗證形式,而不只是理念

從應用已在做的一項判斷開始。

先定義可能答案、收集代表性樣本、決定不確定結果如何處理,再把 Jev 與現有規則或模型比較;不要直接自動化高影響決策。

在 Playground 試用 Jev 瀏覽 Jev 專案