Jev AI Dev · 開發者指南

什麼是 System One AI 模型? 面向開發者的 Jev 指南。

System One 是 TypeSafe 提出的一類 AI 模型,協助開發者把非結構化的應用狀態轉成型別化答案與機率。Jev 是第一個實作:可嵌入應用程式碼的有限決策元件。

輸入
文字、JSON 或文字陣列
輸出
Choice、Score 或 Noul
流程控制
由你的程式碼掌握

這是一份獨立的開發者指南。產品細節與效能說法均標明來自 TypeSafe;用於正式環境前,請務必以自己的資料驗證 Jev。

System Onestate → decisions
state

「我的帳戶被重複扣款,希望今天處理。」

choice帳務團隊0.96
noul緊急0.88
score不滿程度1.7 / 2
if (confidence < threshold) → review
模型類別

System One 模型:嵌入應用程式碼的語意判斷元件。

System One 模型理解輸入的含義,但不延續對話,也不撰寫回覆。你先宣告問題與允許的答案形式,模型再回傳程式可以檢查與處理的有限判斷。

01

理解目前狀態

模型解讀自然語言或結構化文字,例如工單、Agent 軌跡、商品紀錄或遊戲狀態。

02

遵守答案契約

應用在呼叫前定義答案空間;模型負責選擇選項、在量表評分,或判斷一個是非命題。

03

揭示不確定性

每個答案都有機率訊號;Choice 與 Score 也用信心值概括分布,讓程式區分明確與模糊結果。

04

與程式碼組合

門檻、政策檢查、副作用、重試、回退與人工覆核,仍由一般程式碼負責。

Jev 工作流程

開發者如何把 Jev 接入應用程式碼。

Jev 把一次模型呼叫變成一組決策訊號。對開發者而言,基本單位不是一輪對話,而是模型與應用之間一份小型、型別化的契約。

輸入

1. 組織狀態

傳入完成判斷所需的資訊。Jev 目前接受文字形式的輸入,包括字串、JSON 物件與文字陣列。

客戶訊息 + 帳戶資料
契約

2. 定義問題

為每個問題命名,選擇 primitive,並描述允許的選項或量表。多個獨立問題可放在同一次請求中。

負責部門 · 緊急度 · 情緒
模型

3. Jev 同時判斷

Jev 為每個問題回傳型別化答案與機率訊號;Choice 與 Score 另含信心值。

帳務團隊 · 0.93 · 高信心
應用

4. 程式碼執行策略

把模型輸出與確定性檢查結合。低風險且明確時執行;不確定或高影響情況交給人工或推理模型。

分流 · 追問 · 覆核 · 停止

三種答案形式

Choicebilling

哪個團隊應該處理?

從預先定義的選項中選出一個,並回傳每個選項的機率。

Score1.43 / 2

這個問題有多嚴重?

依照有順序且有描述的等級定位;結果可落在兩個等級之間。

Noul0.95

這則訊息是否要求退款?

判斷一個是非命題,並回傳模型認為「是」的機率。

背後論點

TypeSafe 為什麼替軟體設計新的模型介面。

生成式模型擅長為人產生彈性的字串。TypeSafe 的觀點是:軟體需要較窄的智慧形式——能嵌入程式碼、重複執行、表達不確定性,並讓控制流程保持可見。

01

字串靈活,但結果開放

生成結果可能是文章、程式碼、JSON、拒答,也可能格式錯誤。應用採取行動前,常需解析、驗證與處理例外。

02

自動化需要邊界

模型在背景執行時,程式需事先知道可能結果,以及每種結果可觸發哪些操作。

03

不確定性應改變流程

機率分布讓工作流程自動處理明確案例,並把模糊案例送往更安全的路徑。

04

小型判斷應能組合

複雜流程可拆成聚焦的語意判斷,再用確定性邏輯組合,而非把業務邏輯藏在一個大型提示詞裡。

適用位置

System One AI 適合哪些開發工作流程。

最佳候選任務通常經常發生,需要理解雜亂輸入,最後落到少量、應用已知道如何執行的動作。

01

客服營運

分類工單、辨識意圖與緊急度、評估客戶情緒,並把不確定案例交給人工覆核。

這是帳務、技術、帳戶問題,還是其他?
02

Agent 流程控制

選擇模型或工具、判斷是否需要檢索、結果是否完整,或檢查 Agent 準備執行的工具呼叫。

Agent 應繼續、重試還是升級處理?
03

排序與相關性

評估候選項與查詢、使用者偏好、政策或上下文的匹配,再與商業規則組合。

這個候選項與目前請求有多相關?
04

安全與驗證

依明確標準檢查訊息、生成結果、軌跡或程式碼變更;高風險結果仍由確定性規則把關。

它是否違反這項規則?
05

即時互動

為遊戲、模擬、回應式介面或裝置自動化選擇合法動作,避免為一次判斷生成冗長文字。

目前狀態下,哪個允許動作最合適?
06

資料處理

把大量紀錄轉為類別、分數、標記與特徵,供下游系統彙整、篩選或覆核。

這筆紀錄屬於哪種類別與風險等級?

較適合

選項已明確、輸入語意複雜、判斷反覆發生、對延遲敏感,而且程式可為每種結果安排清楚的動作或回退。

不太適合

任務需要原創文字或程式碼、深入多步推理、廣泛研究、解釋過程、多模態輸入,或可能結果無法事先定義。

System One 與生成式 LLM

System One 與生成式 LLM 在 AI 技術堆疊中扮演不同角色。

兩者都能理解語言,LLM 也可用結構化輸出限制格式。更深層的差異是模型原生要產出什麼,以及周圍軟體如何使用它。

比較面向Jev / System One一般生成式 LLM
主要工作判斷預先定義的結果生成後續內容或回覆
原生輸出型別化選項、評分或「是」的機率token 序列:文章、程式碼、JSON 或其他文字
答案空間呼叫前已宣告本質開放,即使 schema 限制最終格式
不確定性每個答案都有機率;Choice 與 Score 另回傳信心值可能提供 token 機率或自報信心,但通常不是針對任務校準的決策訊號
取樣方式TypeSafe 稱問題與輸出平行計算通常逐 token 順序生成
擅長任務高頻語意分支、評分、路由與檢查寫作、對話、程式設計、整合資訊與開放式推理
主要失敗模式格式有效但語意判斷錯誤生成內容錯誤、格式異常、缺乏依據或偏離任務
系統角色可見程式碼中的有限決策元件彈性的生成器或推理器,通常需要更大的編排框架

對於評估 Jev 以外 System One 方案的開發者,下方沿用 Projects 頁的社群生態模組,並區分獨立訓練的模型與基於現有權重的 Jev 類介面。

System One

受 Jev 啟發的 System One 社群專案

這些社群模型與介面實驗受到 Jev 啟發,或探索相近的結構化決策方式。它們不是 TypeSafe 官方發布的 Jev 版本,也不參與上方的 GitHub 專案排名。

社群模型Qwen3.5-9B

Bespoke Nimble

受 Jev 啟發的 LoRA 適配器與訓練方法,可處理選擇題與是非題;支援本機執行,目前僅接受文字。

GitHub
社群模型Qwen3-0.6B

NanoJev

小型決策模型,公開訓練程式碼,並以遊戲示範測試動作選擇。

GitHub
社群模型Qwen3.5-2B

decider

微調模型,單次運算即可回傳多個結構化問題的機率分布;目前僅支援英文。

GitHub
社群模型ModernBERT 151M

Verdict

以小型編碼器為基礎的決策模型,公開權重,並提供瀏覽器內的 WebGPU 示範。

GitHub
社群模型Qwen3.5-0.8B

Dohnuts

公開權重、訓練程式碼與評測的 0.8B 多模態決策模型;可在單次運算中處理文字和圖片,權重僅供非商業研究。

GitHub
介面實驗DiffusionGemma 26B-A4B

OpenJev

以現有的 DiffusionGemma 模型提供類似 Jev 的結構化問答介面;沒有發布新的模型權重。

GitHub
介面實驗Open-model logits

Simple Jev

利用現有開源模型為候選答案評分,提供類似 Jev 的介面;沒有發布新的模型權重。

GitHub
介面實驗Spark-X2.5-4B

Rizzo Flow

可在本機執行的 Jev 相容服務,利用 Spark-X2.5 的答案機率作出判斷;多個問題共用一次狀態預填充,並附有操作介面與基準測試。

GitHub
介面實驗Any causal LLM

AnyJev

無須訓練即可把因果語言模型轉成結構化決策模型,提供選項順序去偏、選用式校準與可重現評測。

GitHub
介面實驗Qwen3.5 / DeBERTa

local-jev

可離線執行的 Jev 相容服務,支援 Qwen 與 DeBERTa,並已用官方 SDK 驗證介面及公布 JevBench 結果。

GitHub

這些是社群獨立專案,並非 Jev 官方版本。

第一手資料

回到原文理解每項主張。

這份 Jev AI Dev 開發者指南以自己的文字解釋 TypeSafe 的框架。API 細節、產品主張、評測方法與最新變化,請以官方資料為準。

驗證形式,而不只是理念

從應用已在做的一項判斷開始。

先定義可能答案、收集代表性樣本、決定不確定結果如何處理,再把 Jev 與現有規則或模型比較;不要直接自動化高影響決策。

在 Playground 試用 Jev 瀏覽 Jev 專案