Cung cấp cho nó bối cảnh
Cung cấp văn bản có liên quan, trạng thái JSON hoặc danh sách các mục văn bản. Jev hiện chấp nhận văn bản, không chấp nhận hình ảnh, âm thanh hoặc video.
Jev là mô hình System One đầu tiên của TypeSafe. Mô hình trả về quyết định có kiểu dữ liệu rõ ràng cùng xác suất để phần mềm có thể sử dụng. Khám phá các trường hợp sử dụng và cách gọi mô hình từ mã của bạn.
TypeSafe gọi Jev là mô hình System One: mô hình trả về các lựa chọn có kiểu dữ liệu rõ ràng và xác suất thay vì tạo văn bản mở. Hãy so sánh vị trí phù hợp của cách tiếp cận này bên cạnh mô hình tạo sinh và mã dựa trên quy tắc.
| Khía cạnh | Jev | LLM tạo sinh | Mã dựa trên quy tắc |
|---|---|---|---|
| Đầu ra | Các lựa chọn có kiểu dữ liệu, điểm số và xác suất được xác định trước | Văn bản, mã hoặc đầu ra có cấu trúc linh hoạt | Giá trị xác định từ điều kiện rõ ràng |
| Tốc độ | Tối ưu hóa cho các quyết định có độ trễ thấp; TypeSafe báo cáo 70–500 ms trong các thử nghiệm của nó | Phụ thuộc vào mô hình, prompt và độ dài đầu ra | Thường rất nhanh đối với các điều kiện đã biết |
| Phù hợp nhất | Các quyết định lặp lại đòi hỏi phải hiểu đầu vào | Viết, lý luận phức tạp và các nhiệm vụ mở | Điều kiện rõ ràng với định nghĩa ổn định |
| Giới hạn chính | Không thể tạo văn bản tự do; câu trả lời đúng kiểu dữ liệu vẫn có thể sai | Đầu ra linh hoạt có thể cần phân tích cú pháp và xác thực | Khó bao quát mọi trường hợp khi đầu vào không rõ ràng |
Số liệu về tốc độ được TypeSafe báo cáo cho các bài kiểm tra quyết định có cấu trúc cụ thể. Chúng không phải là một chuẩn mực độc lập hay một sự đảm bảo tốc độ chung. Đọc các phương pháp
Dùng Jev khi các phương án đã biết nhưng dữ liệu đầu vào vẫn cần được diễn giải. Dùng mô hình tạo sinh để tạo văn bản hoặc mã mới. Với điều kiện rõ ràng, hãy viết trực tiếp trong mã.
Jev đánh giá văn bản hoặc dữ liệu có cấu trúc dựa trên các câu hỏi bạn xác định. Nó trả về các lựa chọn, điểm số và xác suất mà ứng dụng của bạn có thể sử dụng để quyết định điều gì xảy ra tiếp theo.
“Tôi đã bị tính phí hai lần cho đăng ký của mình. Bạn có thể giúp được không?”
Bộ phận nào nên xử lý việc này?
Xác suất minh họa 0.92
Cung cấp văn bản có liên quan, trạng thái JSON hoặc danh sách các mục văn bản. Jev hiện chấp nhận văn bản, không chấp nhận hình ảnh, âm thanh hoặc video.
Yêu cầu một lựa chọn, điểm số hoặc xác suất có/không. Xác định trước các câu trả lời được phép trước khi gọi API.
Dùng kết quả và độ bất định để định tuyến, xem xét hoặc hành động. Kiểu dữ liệu hợp lệ không đảm bảo quyết định chính xác.
Dựa trên Tài liệu TypeSafe chính thức
Jev được thiết kế để đưa ra các quyết định tập trung, có thể lặp lại với không gian trả lời được xác định. Đây là những điểm khởi đầu, không phải lời hứa về hiệu suất; kiểm tra chúng trên dữ liệu của riêng bạn.
Phân loại khiếu nại và phản hồi của người bán, đánh giá mức độ khẩn cấp rồi chuyển cho đúng nhóm. Những trường hợp chưa rõ nên để nhân viên xem xét.
Lọc bảng tin theo sở thích người dùng đã nêu, rồi chấm mức độ phù hợp của nội dung cùng với tín hiệu xếp hạng của sản phẩm.
Chuyển yêu cầu đến mô hình, công cụ hoặc agent phù hợp; quyết định khi nào cần tìm kiếm và liệu kết quả đã đủ để sang bước tiếp theo.
Kiểm tra tin nhắn, thay đổi mã và lệnh gọi công cụ theo quy tắc rõ ràng. Chuyển các quyết định rủi ro hoặc chưa chắc chắn cho con người xem xét.
Từ trạng thái trò chơi và danh sách nước đi hợp lệ có giới hạn, Jev chọn hành động tiếp theo cho đối thủ AI hoặc NPC. Mã trò chơi vẫn kiểm tra luật và thực hiện hành động.
Sắp xếp email và thông báo theo quy tắc riêng, đánh giá trạng thái nhà thông minh hoặc quyết định khi nào chạy một tác vụ thường ngày.
Bắt đầu bằng một quyết định cụ thể mà ứng dụng của bạn thực sự cần. Xác định các câu trả lời có thể có, rồi quy định trong mã cách sử dụng kết quả.
Chọn một câu hỏi tập trung, chẳng hạn như định tuyến một yêu cầu hoặc chấm điểm mức độ liên quan của một mặt hàng.
Xác định đầu vào, câu hỏi và câu trả lời được phép trước khi gọi API.
Dùng xác suất và độ tin cậy để chọn hành động, phương án dự phòng hoặc bước xem xét của con người.
Ví dụ TypeScript phía máy chủ này gửi một tin nhắn hỗ trợ và hai câu hỏi có định dạng trả lời xác định tới Jev 1.13 qua OpenRouter. Hãy giữ khóa API trên máy chủ; ứng dụng của bạn quyết định cách sử dụng kết quả.
Dùng thử Jev miễn phíconst apiKey = process.env.OPENROUTER_API_KEY;
if (!apiKey) throw new Error("Set OPENROUTER_API_KEY");
const response = await fetch("https://openrouter.ai/api/alpha/decisions", {
method: "POST",
headers: {
Authorization: "Bearer " + apiKey,
"Content-Type": "application/json"
},
body: JSON.stringify({
model: "typesafe/jev-1.13",
state: "My card was charged twice. Please help ASAP.",
questions: {
department: {
type: "choice",
instructions: "Which team should handle this?",
criteria: {
billing: "Payments and refunds",
technical: "Bugs and integrations"
}
},
urgent: {
type: "noul",
instructions: "Does this message need urgent attention?"
}
}
})
});
if (!response.ok) throw new Error("Jev request failed: " + response.status);
const {answers} = await response.json();
if (answers.department.choice === "billing" && answers.urgent.noul > 0.8) {
// Route to the billing review queue.
}POST /api/alpha/decisionsstate + questionsanswerschoice xác định nhóm được chọn. noul trả về giá trị từ 0 đến 1 cho câu hỏi có/không. Mã của bạn dùng cả hai giá trị cùng các quy tắc định tuyến riêng.
Trước khi dùng trong môi trường production, hãy kiểm thử với các phiếu hỗ trợ mang tính đại diện, ghi lại phiên bản mô hình và chuyển những trường hợp không chắc chắn hoặc có tác động lớn cho con người xem xét. Giá trị 0,8 chỉ là ví dụ.
Tài liệu tham khảo API: OpenRouter · TypeSafe
Harness điều phối các lần gọi mô hình và công cụ. Tại điểm cần quyết định, Jev đọc tin nhắn, lệnh gọi công cụ sắp chạy hoặc trạng thái agent rồi trả về kết quả có kiểu xác định. Mã của bạn quyết định bước tiếp theo; các việc mở vẫn do mô hình hội thoại xử lý.
ModelRouterMiddlewarebefore_agent → wrap_model_callPhân loại tin nhắn mới nhất của người dùng trước khi chạy để chọn mô hình, rồi giữ lựa chọn đó trong suốt lượt chạy. Kết quả chọn, xác suất và độ tin cậy vẫn có trong trạng thái agent.
AutoModeMiddlewarewrap_tool_callKiểm tra lệnh gọi công cụ được chỉ định trước khi thực thi. Nếu Jev nhận thấy rủi ro hoặc thiếu quyền, middleware sẽ chặn lệnh và trả về ToolMessage báo lỗi. Nó không tự xin phê duyệt của con người.
TypeSafeClassifierChoice · Score · NoulBạn cũng có thể thêm điểm kiểm tra riêng bằng middleware tùy chỉnh: gửi tin nhắn hoặc trạng thái agent cho TypeSafeClassifier, dùng Choice, Score hoặc Noul để rẽ nhánh trong mã hay chuyển trường hợp chưa chắc chắn cho người kiểm tra.
Yêu cầu xác định các câu hỏi và định dạng trả lời. Phản hồi trả về một kết quả cho từng câu hỏi. Dưới đây là các trường JSON được dùng trong ví dụ.
modelstatequestionstypeinstructionscriteriaanswerschoiceprobabilitiesconfidencenoulMột câu trả lời được định dạng đúng vẫn có thể sai. Kiểm tra các trường hợp đại diện và đặt ngưỡng định tuyến cho quy trình làm việc của riêng bạn.
Jev là mô hình của TypeSafe. Cộng đồng cũng đang thử nghiệm các quyết định nhanh, có cấu trúc bằng mô hình mở và giao diện khác. Hãy so sánh mã nguồn, cách tiếp cận và giới hạn của chúng.
Đây là dự án độc lập của cộng đồng, không phải bản Jev chính thức.
Khám phá những điểm chính từ cuộc thảo luận ra mắt, SDK chính thức và video độc lập. Đọc bối cảnh ở đây, sau đó theo dõi các nguồn ban đầu để biết thêm chi tiết.
TypeSafe chia sẻ thông tin ra mắt và bối cảnh sản phẩm trên X. Hãy xem đây là phần giải thích từ chính đội ngũ và kiểm tra tài liệu trước khi dựa vào một tuyên bố cụ thể để triển khai.
Xem bản gốcSDK JavaScript và TypeScript chính thức hiển thị bề mặt API, ví dụ và hoạt động phát hành. Đây là nơi hữu ích nhất để kiểm tra cách thể hiện yêu cầu Jev trong mã.
Xem bản gốcChuỗi khởi động hỏi mô hình quyết định phù hợp ở đâu, cách đánh giá nó và phải làm gì khi một câu trả lời tự tin là sai. Đây là một cuộc thảo luận, không phải là một bài kiểm tra hiệu suất.
Xem bản gốcAllie Laabs từ TypeSafe giải thích System One và các kết quả Choice, Score, Noul trên ThursdAI. Người dẫn thử phân loại bài đăng, trình diễn Doom và bàn về giới hạn của Jev.
Xem bản gốcHướng dẫn độc lập của RepoChad bao gồm lược đồ đầu ra, các tuyên bố về tốc độ của TypeSafe, các bản trình diễn mẫu và các câu hỏi mở. Video chỉ tải khi bạn chọn phát nó.
Xem bản gốcTypeSafe AI giới thiệu Jev là mô hình System One đầu tiên của mình. Mục tiêu được công bố là đưa các quyết định nhanh, có cấu trúc vào những quy trình phần mềm thông thường.
Nhà sáng lập Diogo Almeida từng làm việc tại OpenAI và Google Brain. Theo TypeSafe, công việc của ông về instruction following và RLHF đã góp phần định hình nghiên cứu đứng sau ChatGPT.
Không. Jev được thiết kế để trả về quyết định có kiểu dữ liệu rõ ràng và xác suất, thay vì câu trả lời trò chuyện tự do hoặc mã được tạo.
Jev có thể chấm điểm hoặc xếp hạng lại các mục theo mức độ liên quan về ngữ nghĩa. Một hệ thống đề xuất hoàn chỉnh vẫn cần khâu truy xuất mục, quy tắc kinh doanh, đánh giá và logic xếp hạng riêng.
Không. Kiểu dữ liệu chỉ giới hạn định dạng đầu ra. Phương án được chọn vẫn có thể sai, vì vậy hãy kiểm thử bằng dữ liệu đại diện và xử lý độ bất định trong mã.
Bắt đầu với tài liệu và SDK chính thức của TypeSafe. Trang mô hình trên OpenRouter cũng cho phép truy cập Jev qua nền tảng này.
Xác định câu hỏi và câu trả lời có thể. Hãy để ứng dụng của bạn quyết định phải làm gì với kết quả.