Hiểu trạng thái
Mô hình diễn giải ngôn ngữ tự nhiên hoặc văn bản có cấu trúc: ticket hỗ trợ, trace của Agent, bản ghi sản phẩm hoặc trạng thái trò chơi.
Jev AI Dev · hướng dẫn nhà phát triển
Mô hình AI System One là gì? Hướng dẫn Jev cho nhà phát triển.
System One là lớp mô hình AI của TypeSafe dành cho nhà phát triển cần chuyển trạng thái ứng dụng phi cấu trúc thành câu trả lời có kiểu và xác suất. Jev là triển khai đầu tiên: một thành phần quyết định có giới hạn, được thiết kế để nằm trong mã ứng dụng.
- Đầu vào
- Văn bản, JSON hoặc mảng văn bản
- Đầu ra
- Choice, Score hoặc Noul
- Luồng điều khiển
- Do mã của bạn kiểm soát
Đây là hướng dẫn độc lập dành cho nhà phát triển. Chi tiết sản phẩm và tuyên bố hiệu năng được dẫn từ TypeSafe. Hãy kiểm thử Jev trên dữ liệu của bạn trước khi dùng trong production.
System One
state → decisionsstate
“Tôi bị tính phí hai lần và cần giải quyết việc này hôm nay.”
choicethanh toán0.96
noulkhẩn cấp0.88
scorebức xúc1.7 / 2
if (confidence < threshold) → reviewLớp mô hình
Mô hình System One là primitive quyết định cho mã ứng dụng.
System One đọc ý nghĩa từ đầu vào nhưng không tiếp tục hội thoại hay soạn câu trả lời. Bạn khai báo trước câu hỏi và dạng câu trả lời được phép; mô hình trả về một phán đoán có giới hạn để chương trình kiểm tra.
Tuân thủ hợp đồng
Ứng dụng xác định không gian câu trả lời trước khi gọi. Mô hình chọn một phương án, đặt đầu vào lên thang đo hoặc đánh giá mệnh đề có/không.
Bộc lộ độ bất định
Mỗi câu trả lời đều có tín hiệu xác suất. Choice và Score còn tóm tắt độ phân tán bằng confidence.
Kết hợp với mã
Threshold, kiểm tra chính sách, tác dụng phụ, retry, fallback và đánh giá của con người vẫn nằm trong mã thông thường.
Jev trong workflow
Cách nhà phát triển tích hợp Jev vào mã ứng dụng.
Jev biến một lần gọi mô hình thành tập hợp tín hiệu quyết định. Đơn vị hữu ích không phải một lượt chat mà là hợp đồng nhỏ, có kiểu giữa mô hình và ứng dụng.
1. Tạo trạng thái
Gửi thông tin cần thiết cho quyết định. Jev hiện nhận đầu vào dạng văn bản, gồm string, đối tượng JSON và mảng văn bản.
Tin nhắn khách hàng + dữ liệu tài khoản2. Xác định câu hỏi
Đặt tên từng câu hỏi, chọn primitive và mô tả các phương án hoặc thang đo được phép. Nhiều câu hỏi độc lập có thể đi trong cùng một request.
bộ phận · độ khẩn cấp · mức bức xúc3. Jev đánh giá
Jev trả về câu trả lời có kiểu và tín hiệu xác suất cho từng câu hỏi. Choice và Score còn có giá trị confidence riêng.
thanh toán · 0,93 · confidence cao4. Mã áp dụng chính sách
Kết hợp đầu ra mô hình với kiểm tra xác định. Tự động xử lý trường hợp rõ ràng, ít rủi ro; chuyển trường hợp mơ hồ hoặc tác động lớn cho con người hay reasoning model.
định tuyến · hỏi · duyệt · dừngBa dạng câu trả lời
Choice
billingNhóm nào nên xử lý việc này?
Chọn một phương án từ tập được định trước và trả về xác suất cho từng phương án.
Score
1.43 / 2Vấn đề này nghiêm trọng đến mức nào?
Đặt đầu vào lên phổ được mô tả bằng các mức có thứ tự; điểm số có thể nằm giữa các mức.
Noul
0.95Yêu cầu này có đề nghị hoàn tiền không?
Đánh giá mệnh đề có/không và trả về xác suất của mô hình cho câu trả lời “có”.
Lập luận phía sau
Vì sao TypeSafe xây dựng giao diện mô hình cho phần mềm.
Mô hình tạo sinh được thiết kế để tạo string linh hoạt cho con người. Luận điểm của TypeSafe là phần mềm cần một dạng trí tuệ hẹp hơn: có thể nằm trong mã, chạy lặp lại, bộc lộ độ bất định và giữ luồng điều khiển minh bạch.
String linh hoạt nhưng mở
Đầu ra có thể là văn bản, mã, JSON, lời từ chối hoặc sai định dạng. Ứng dụng thường phải parse, xác thực và xử lý lỗi trước khi hành động.
Tự động hóa cần giới hạn
Khi mô hình chạy nền, chương trình cần biết trước các kết quả có thể xảy ra và hành động mà mỗi kết quả cho phép.
Độ bất định phải thay đổi đường đi
Phân phối xác suất cho phép tự động hóa trường hợp rõ ràng và chuyển trường hợp mơ hồ sang đường an toàn hơn.
Quyết định nhỏ phải kết hợp được
Workflow phức tạp có thể tách thành các đánh giá ngữ nghĩa tập trung rồi ghép bằng logic xác định, thay vì giấu mọi thứ trong một prompt lớn.
Phù hợp ở đâu
System One AI phù hợp ở đâu trong workflow của nhà phát triển.
Trường hợp tốt nhất xuất hiện thường xuyên, cần hiểu đầu vào lộn xộn và dẫn đến một số ít hành động mà ứng dụng đã biết cách thực hiện.
Vận hành hỗ trợ
Phân loại ticket, xác định ý định và độ khẩn cấp, chấm điểm cảm xúc và chuyển trường hợp không chắc chắn để duyệt.
Thanh toán, kỹ thuật, tài khoản hay vấn đề khác?
Điều khiển Agent
Chọn mô hình hoặc công cụ, quyết định có cần retrieval, kiểm tra độ đầy đủ của kết quả hoặc tool call được đề xuất.
Agent nên tiếp tục, thử lại hay chuyển cấp?
Xếp hạng và độ liên quan
Chấm điểm mức phù hợp của ứng viên với truy vấn, hồ sơ, chính sách hoặc ngữ cảnh rồi kết hợp tín hiệu với quy tắc nghiệp vụ.
Ứng viên này liên quan đến yêu cầu đến mức nào?
An toàn và xác minh
Đánh giá tin nhắn, đầu ra, trace hoặc thay đổi mã theo tiêu chí rõ ràng; giữ rủi ro cao sau các gate xác định.
Điều này có vi phạm quy tắc đã nêu không?
Tương tác thời gian thực
Chọn hành động được phép cho trò chơi, mô phỏng, UI hoặc thiết bị mà không cần chờ câu trả lời tạo sinh dài.
Hành động được phép nào phù hợp nhất với trạng thái này?
Vận hành dữ liệu
Chuyển lượng lớn bản ghi thành danh mục, điểm, cờ và feature cho các hệ thống tiếp theo.
Danh mục và mức rủi ro của bản ghi này là gì?
Phù hợp
Các phương án đã biết, đầu vào phức tạp về ngữ nghĩa, quyết định lặp lại, latency quan trọng và mã có hành động hoặc fallback cho từng kết quả.
Không phù hợp
Cần tạo văn bản hoặc mã mới, suy luận sâu nhiều bước, nghiên cứu rộng, giải thích, đầu vào đa phương thức hoặc không thể xác định trước kết quả.
System One và LLM tạo sinh
System One và LLM tạo sinh đảm nhiệm vai trò khác nhau trong AI stack.
Cả hai đều hiểu ngôn ngữ và LLM có thể bị ràng buộc bằng đầu ra có cấu trúc. Khác biệt sâu hơn nằm ở thứ mô hình được thiết kế để tạo ra và cách phần mềm sử dụng nó.
| Khía cạnh | Jev / System One | LLM tạo sinh phổ biến |
|---|---|---|
| Tác vụ chính | Đánh giá các kết quả đã xác định | Tạo phần tiếp theo hoặc câu trả lời |
| Đầu ra tự nhiên | Lựa chọn có kiểu, điểm số hoặc xác suất “có” | Chuỗi token: văn bản, mã, JSON hoặc dạng khác |
| Không gian câu trả lời | Được xác định trước khi gọi | Về bản chất là mở, ngay cả khi schema giới hạn định dạng cuối |
| Độ bất định | Xác suất cho mọi câu trả lời; confidence cho Choice và Score | Có thể có xác suất token hoặc confidence tự khai báo, hiếm khi là tín hiệu đã hiệu chỉnh cho tác vụ |
| Sampling | Theo TypeSafe, các câu hỏi và đầu ra được đánh giá song song | Thường tuần tự, từng token một |
| Điểm mạnh | Nhánh ngữ nghĩa lặp lại, scoring, routing và kiểm tra | Viết, hội thoại, mã, tổng hợp và suy luận mở |
| Dạng lỗi chính | Quyết định đúng kiểu nhưng sai về ngữ nghĩa | Nội dung sai, sai định dạng, thiếu căn cứ hoặc lạc hướng |
| Vai trò trong hệ thống | Thành phần quyết định có giới hạn trong mã hiển thị rõ | Bộ tạo hoặc reasoning model linh hoạt, thường cần orchestration rộng hơn |
Với nhà phát triển đánh giá System One ngoài Jev, bên dưới là cùng mô-đun cộng đồng từ trang Projects. Mô-đun phân biệt mô hình được huấn luyện độc lập với giao diện kiểu Jev xây trên trọng số mô hình có sẵn.
System One
Hệ sinh thái System One của cộng đồng
Các mô hình và thử nghiệm giao diện của cộng đồng này lấy cảm hứng từ Jev hoặc khám phá những cách tiếp cận tương tự cho quyết định có cấu trúc. Đây không phải bản Jev chính thức do TypeSafe phát hành và không nằm trong bảng xếp hạng dự án GitHub phía trên.
Mô hình cộng đồng
Qwen3.5-9B + diffusion drafterJeeves
Mô hình quyết định 9B theo phong cách Jev với bước suy luận tùy chọn, công bố trọng số, mã và dữ liệu huấn luyện cùng API cục bộ tương thích.
Mô hình cộng đồng
Qwen3.5-4BOpenJev-4B
Mô hình quyết định xác suất 4B với từ vựng mở, công bố trọng số và mã huấn luyện hai giai đoạn, hỗ trợ suy luận cục bộ và dịch vụ HTTP.
Mô hình cộng đồng
Qwen3.5-9BBespoke Nimble
Bộ điều hợp LoRA và công thức huấn luyện lấy cảm hứng từ Jev cho câu hỏi lựa chọn và có/không. Chạy cục bộ, hiện chỉ nhận văn bản.
Mô hình cộng đồng
Qwen3-0.6BNanoJev
Mô hình nhỏ có các đầu ra quyết định, mã huấn luyện công khai và bản demo trò chơi để thử chọn hành động.
Mô hình cộng đồng
Qwen3.5-2Bdecider
Mô hình tinh chỉnh trả về phân bố xác suất cho câu hỏi có cấu trúc chỉ trong một lượt. Bản hiện tại chỉ hỗ trợ tiếng Anh.
Mô hình cộng đồng
ModernBERT 151M / Verdict 2.0Verdict
Mô hình quyết định nhỏ dựa trên encoder, công bố trọng số và có bản demo WebGPU trong trình duyệt.
Mô hình cộng đồng
Qwen3.5-0.8BDohnuts
Mô hình quyết định đa phương thức 0,8B có công bố trọng số, mã huấn luyện và kết quả đánh giá. Mô hình xử lý văn bản lẫn hình ảnh trong một lượt; trọng số chỉ dành cho nghiên cứu phi thương mại.
Thử nghiệm API
DiffusionGemma 26B-A4BOpenJev
Dùng mô hình DiffusionGemma hiện có để trả lời các câu hỏi có cấu trúc qua API tương tự Jev. Không công bố trọng số mô hình mới.
Thử nghiệm API
Open-model logitsSimple Jev
Dùng mô hình mở sẵn có để chấm điểm các đáp án cho phép qua giao diện tương tự Jev. Không công bố trọng số mô hình mới.
Thử nghiệm API
Spark-X2.5-4BRizzo Flow
Máy chủ chạy cục bộ, tương thích với Jev và đọc logit câu trả lời từ Spark-X2.5. Nhiều câu hỏi dùng chung một lần nạp trước trạng thái; dự án có cả sân thử nghiệm và benchmark.
Thử nghiệm API
Any causal LLMAnyJev
Bộ công cụ biến mô hình ngôn ngữ nhân quả thành mô hình quyết định có kiểu mà không cần huấn luyện, kèm khử thiên lệch thứ tự lựa chọn, hiệu chuẩn tùy chọn và benchmark có thể tái lập.
Thử nghiệm API
Qwen3.5 / DeBERTalocal-jev
Máy chủ Jev tương thích chạy ngoại tuyến cho Qwen hoặc DeBERTa, đã thử với SDK chính thức và công bố kết quả JevBench.
Mô hình cộng đồng
Qwen3-0.6BAgentJev
Mô hình quyết định Qwen3-0.6B cho dấu vết tác tử và các câu hỏi có cấu trúc khác, có trọng số công khai, API HTTP định kiểu và không giải mã token.
Thử nghiệm API
Causal LMs / SGLangLLM2Jev
Chuyển mô hình ngôn ngữ nhân quả chạy cục bộ thành dịch vụ Choice, Score và Noul tương thích Jev bằng cách chỉ chấm điểm prefill; hỗ trợ SGLang, Transformers và dữ liệu đa phương thức.
Thử nghiệm API
Laya / ONNX RuntimeLaya
Chạy mô hình mở Laya System One trong Node.js qua ONNX Runtime, dùng định dạng yêu cầu tương thích Jev và trọng số đã công bố.
Mô hình cộng đồng
Qwen3.5-0.8BOpenThai System One
Mô hình quyết định Qwen3.5-0.8B cho tiếng Thái và tiếng Anh, có trọng số, mã huấn luyện và API HTTP tương thích Jev được công bố.
Mô hình cộng đồng
Qwen3.5-0.8B / 2BValen
Mô hình quyết định đa phương thức lấy cảm hứng từ Jev, nhận văn bản, hình ảnh và video, có trọng số, mã huấn luyện và lệnh đánh giá công khai.
Mô hình cộng đồng
Qwen3.5-4BTev1
Mô hình quyết định mở 4B được tinh chỉnh từ Qwen3.5, có trọng số, quy trình huấn luyện tái lập và nguồn dữ liệu được ghi rõ.
Thử nghiệm API
Open decision modelsOllaya
Dịch vụ Rust chạy cục bộ, tải và phục vụ nhiều mô hình quyết định mở qua API riêng và API tương thích TypeSafe.
Mô hình cộng đồng
Qwen3.5-0.8B / 2B / 4BIntern-Decision
Họ mô hình quyết định đa phương thức Qwen3.5 cỡ 0,8B, 2B và 4B, công khai trọng số, mã huấn luyện và suy luận, bài đo hiệu chỉnh cùng API tương thích Jev.
Mô hình cộng đồng
Qwen3.5-4BMica
Mô hình quyết định 4B cho tiếng Anh và tiếng Hàn, công khai trọng số và bản lượng tử, xác suất đã hiệu chỉnh cùng máy chủ cục bộ tương thích TypeSafe.
Mô hình cộng đồng
Qwen3.5-0.8B / 2BJev-Style
Họ mô hình cục bộ 0,8B và 2B với trọng số mở, ngữ cảnh dài, API tương thích, kỹ năng agent, công cụ MCP và lệnh đánh giá.
Mô hình cộng đồng
Qwen3.5-2B / 9B · Qwen3.8-27BOpen-Jev
Bản triển khai độc lập công bố trọng số 2B, 9B và 27B, mã huấn luyện, máy chủ cục bộ tương thích và các đánh giá có thể tái lập.
Mô hình cộng đồng
Qwen3.5-VL 2B / 4B / 9Bimajev
Họ mô hình quyết định đa phương thức mở 2B, 4B và 9B cho văn bản và hình ảnh, có xác suất hiệu chỉnh, khả năng từ chối, trọng số công khai và API cục bộ tương thích.
Mô hình cộng đồng
0.6B / 0.8B / 4B decision modelsOpenDecider
Các mô hình mở nhỏ cho quyết định Choice, Score và Noul, công bố trọng số và chạy cục bộ trên CPU, GPU NVIDIA và Apple Silicon.
Mô hình cộng đồng
Qwen3.5-0.8B / 4Bjiwo
Các mô hình quyết định Qwen3.5 mở cỡ 0,8B và 4B, công bố trọng số, mã huấn luyện, API cục bộ tương thích Jev và kết quả Decision Index có thể tái lập.
Mô hình cộng đồng
Qwen3.5-0.8B / 4BSearchJev
Các mô hình Qwen3.5 mở cỡ 0,8B và 4B được huấn luyện cho quyết định của tác tử tìm kiếm, kèm dữ liệu, trọng số, nhật ký huấn luyện và mã hiệu chỉnh công khai.
Thử nghiệm API
Cloudflare Clef 27B / 9Bcleffa
Bộ máy C và Metal nguyên bản cho Cloudflare Clef và Clef-Flash trên Apple Silicon, cung cấp quyết định văn bản, hình ảnh và video qua API tương thích Jev.
Mô hình cộng đồng
mmBERT 144.3MPhocinae Largha
Mô hình quyết định encoder song ngữ 144,3M tham số cho quyết định có kiểu tại chỗ, kèm trọng số, công cụ hiệu chỉnh, đánh giá và máy chủ tương thích Jev.
Mô hình cộng đồng
Multilingual Laya checkpointsLaya Decision Engine
Bộ máy quyết định đa ngôn ngữ không tự hồi quy, có checkpoint công khai, mã huấn luyện và tinh chỉnh, quyết định có kiểu và API cục bộ tương thích.
Mô hình cộng đồng
Qwen3.5-0.8B / 4BVegaML
Bộ máy đa phương thức cục bộ dùng nền Qwen3.5 đóng băng và mô-đun vật lý nhỏ có thể huấn luyện, với checkpoint 0,8B và 4B công khai.
Thử nghiệm API
Laya / ONNX Runtime Javalaya-java
Runtime Java thuần cho Laya, tích hợp Spring Boot và Gradle cùng endpoint tương thích Jev và OpenAI.
Mô hình cộng đồng
Qwen3.5-4B / Qwen3.8-27Btrain-jev
Khung chưng cất và huấn luyện mô hình quyết định kiểu Jev trên Qwen3.5 hoặc Qwen3.8, kèm hiệu chuẩn, đánh giá và mã máy chủ tương thích.
Mô hình cộng đồng
LLM-jp 4.1 8B / encoder 310Msaihai
Họ mô hình quyết định có kiểu cho tiếng Nhật với trọng số mở 8B và 310M, mã huấn luyện và đánh giá, phục vụ GGUF và API tương thích System One.
Thử nghiệm API
Any llama.cpp GGUFCallosum
Thêm API System One và các luồng phân loại dành riêng vào mô hình chat llama.cpp hiện có, hỗ trợ hiệu chuẩn và suy luận giới hạn tùy chọn mà không cần tải mô hình thứ hai.
Mô hình cộng đồng
Qwen3-VL-4BOpenVisualJev
Mô hình quyết định đa phương thức dựa trên Qwen3-VL-4B với chấm điểm ứng viên động, lựa chọn không phụ thuộc thứ tự, mã hiệu chuẩn và báo cáo kỹ thuật; checkpoint chưa mở tải xuống.
Mô hình cộng đồng
BitNet b1.58 2BBitSOne-s1
Mô hình quyết định BitNet 2B tam phân với đầu con trỏ, xác suất có kiểu, hồ sơ huấn luyện tái lập và hiệu chuẩn đo được; checkpoint đã công bố hiện vẫn riêng tư.
Thử nghiệm API
Open ONNX decision modelsdecision-toolkit
Chạy cục bộ trên CPU một tập mô hình quyết định mở đã chọn qua ONNX và cung cấp thư viện có kiểu, CLI, REST cùng API tương thích System One.
Mô hình cộng đồng
Qwen3-VL-4BFovea
Mô hình quyết định thị giác mở 4B với trọng số cùng mã huấn luyện và hiệu chỉnh được công bố, phục vụ qua API TypeSafe System One.
Thử nghiệm API
Open decision model familiesFlide
Môi trường chạy cục bộ tăng tốc các mô hình quyết định mở bằng cách phân nhánh trạng thái chính xác và phục vụ nhiều họ mô hình văn bản lẫn đa phương thức qua một giao diện.
Mô hình cộng đồng
Multilingual encoder 57M / ONNXSkejja
Mô hình quyết định encoder đa ngôn ngữ 57 triệu tham số cho Choice, Noul và Score, có suy luận ONNX, bản chạy trên trình duyệt và Raspberry Pi cùng API System One tương thích.
Mô hình cộng đồng
Qwen3.5-9B LoRA / GGUFOpenChoice-9B
Mô hình quyết định đa phương thức 9B ưu tiên CPU, phát hành dạng GGUF, hỗ trợ Choice, Score, Noul, API tương thích TypeSafe và bộ tinh chỉnh LoRA.
Đây là dự án độc lập của cộng đồng, không phải bản Jev chính thức.
Theo dõi các mô hình cộng đồng và thử nghiệm giao diện mới trong Jev AI Radar.Khám phá Jev AI Radar
Nguồn sơ cấp
Đọc các tuyên bố trong đúng ngữ cảnh.
Hướng dẫn Jev AI Dev này giải thích khuôn khổ TypeSafe bằng lời của chúng tôi. Hãy xác minh chi tiết API, tuyên bố sản phẩm, phương pháp đánh giá và cập nhật qua nguồn chính thức.
Kiểm thử hình thức, không chỉ ý tưởng
Bắt đầu với một quyết định mà ứng dụng của bạn đã thực hiện.
Xác định câu trả lời, thu thập ví dụ đại diện, quyết định cách xử lý độ bất định và so sánh Jev với quy tắc hoặc mô hình hiện tại. Không trực tiếp tự động hóa quyết định có tác động cao.