提供背景資料
傳入相關文字、JSON 資料或文字清單。Jev 目前不接受圖片、音訊或影片。
Jev 是 TypeSafe 推出的首個 System One 模型,能依輸入回傳預先定義型別的判斷結果與機率。了解適用情境,以及如何透過 API 串接。
TypeSafe 將 Jev 歸為 System One 模型:它回傳預設型別的選項與機率,而不是生成開放式文字。對照生成式模型與規則程式碼,看看各自適合哪些任務。
| 比較面向 | Jev | 生成式 LLM | 規則程式碼 |
|---|---|---|---|
| 輸出 | 事先定義好的選項、分數和機率 | 靈活的文字、程式碼或結構化輸出 | 由明確條件產生的確定性結果 |
| 速度 | 針對低延遲決策最佳化;TypeSafe 在其測試中報告 70–500 毫秒 | 取決於模型、提示詞與輸出長度 | 對已知條件通常非常快 |
| 適用任務 | 軟體中反覆出現的語義判斷 | 寫作、複雜推理與開放式任務 | 邊界清楚且穩定的條件 |
| 主要限制 | 無法生成自由文字;型別正確的答案也可能判斷錯誤 | 靈活輸出可能需要解析與驗證 | 遇到語意模糊的輸入,規則難以涵蓋所有情況 |
速度數據來自 TypeSafe 對特定結構化決策任務的測試,並非本站獨立基準測試,也不是通用速度保證。 閱讀測試方法
可選答案已經明確,但仍需要理解輸入內容時,可以考慮 Jev;需要生成新內容時,選生成式模型;條件能清楚寫成程式碼時,直接使用規則。
Jev AI Model 會依照你提出的問題分析文字或結構化資料,回傳程式碼能直接處理的選項、分數和機率。下一步怎麼做,仍由你的應用程式決定。
“我的訂閱被扣了兩次費用,可以幫我處理嗎?”
應該交給哪個團隊處理?
示意機率 0.92
傳入相關文字、JSON 資料或文字清單。Jev 目前不接受圖片、音訊或影片。
事先定義可選答案,讓模型回傳選項、分數或「是」的機率。
根據結果與信心分數決定要自動分流、交由人工審核,或執行其他動作。格式正確,判斷也可能出錯。
Jev 適合處理應用程式中反覆出現、答案範圍明確的判斷。以下是可以嘗試的用法,效果仍需用自己的資料驗證。
將訊息分類、辨識緊急程度並分配給合適的團隊;不確定的案件則交由人工處理。
評估候選項目與使用者需求的相關程度,再結合自己的排序訊號和業務規則。
選擇下一步使用的工具或模型、檢查輸出,或判斷任務何時需要升級處理。
依照具體規則評估內容,將信心分數較低或風險較高的案件交由人工審核。
先找出應用中已存在的一項明確判斷。定義可能的答案,再由程式碼決定如何使用結果。
例如將客服案件分流,或評估候選內容的相關性。
呼叫前先寫清楚輸入內容、要問的問題,以及允許回傳的答案。
結合機率與信心分數,決定執行、回退或人工覆核。
下方的伺服器端 TypeScript 範例透過 OpenRouter,向 Jev 1.13 傳送一則客服訊息和兩個預先定義好答案形式的問題。API 金鑰只放在伺服器端,結果交由應用程式處理。
const apiKey = process.env.OPENROUTER_API_KEY;
if (!apiKey) throw new Error("Set OPENROUTER_API_KEY");
const response = await fetch("https://openrouter.ai/api/alpha/decisions", {
method: "POST",
headers: {
Authorization: "Bearer " + apiKey,
"Content-Type": "application/json"
},
body: JSON.stringify({
model: "typesafe/jev-1.13",
state: "My card was charged twice. Please help ASAP.",
questions: {
department: {
type: "choice",
instructions: "Which team should handle this?",
criteria: {
billing: "Payments and refunds",
technical: "Bugs and integrations"
}
},
urgent: {
type: "noul",
instructions: "Does this message need urgent attention?"
}
}
})
});
if (!response.ok) throw new Error("Jev request failed: " + response.status);
const {answers} = await response.json();
if (answers.department.choice === "billing" && answers.urgent.noul > 0.8) {
// Route to the billing review queue.
}POST /api/alpha/decisionsstate + questionsanswerschoice 指出負責團隊;noul 用 0 到 1 的數值表示「是」的傾向。再由程式碼結合業務規則完成分流。
正式上線前,請用具代表性的客服案件測試、記錄模型版本,並將結果不確定或出錯代價高的情況交由人工審核。範例中的 0.8 只是示意門檻。
API 來源: OpenRouter · TypeSafe
請求中定義要判斷的問題,回應會依問題名稱回傳結果。以下說明範例中用到的 JSON 欄位。
modelstatequestionstypeinstructionscriteriaanswerschoiceprobabilitiesconfidencenoul結果符合欄位格式,判斷也可能出錯。請用自己的樣本驗證,並依業務風險設定分流門檻。
TypeSafe AI 將 Jev 作為首個 System One 模型推出,目標是讓快速、結構化的判斷進入一般軟體工作流程。
創辦人 Diogo Almeida 曾在 OpenAI 與 Google Brain 工作。根據 TypeSafe 的介紹,他參與的指令遵循及 RLHF 研究影響了 ChatGPT 背後的技術。
不是。Jev 回傳的是依指定格式組織的判斷結果和機率,不負責生成聊天回覆或程式碼。
它可以協助評估候選內容的語義相關性或進行重排。完整推薦系統仍需候選召回、業務規則、效果評估與自己的排序邏輯。
不一定。格式限制不了判斷本身。請用具代表性的資料測試,並在程式碼中處理不確定的結果。
可以從 TypeSafe 官方文件與 SDK 開始;OpenRouter 的模型頁面也提供透過其平台使用 Jev 的入口。