Cung cấp cho nó bối cảnh
Cung cấp văn bản có liên quan, trạng thái JSON hoặc danh sách các mục văn bản. Jev hiện chấp nhận văn bản, không chấp nhận hình ảnh, âm thanh hoặc video.
Jev là mô hình System One đầu tiên của TypeSafe. Mô hình trả về quyết định có kiểu dữ liệu rõ ràng cùng xác suất để phần mềm có thể sử dụng. Khám phá các trường hợp sử dụng và cách gọi mô hình từ mã của bạn.
TypeSafe gọi Jev là mô hình System One: mô hình trả về các lựa chọn có kiểu dữ liệu rõ ràng và xác suất thay vì tạo văn bản mở. Hãy so sánh vị trí phù hợp của cách tiếp cận này bên cạnh mô hình tạo sinh và mã dựa trên quy tắc.
| Khía cạnh | Jev | LLM tạo sinh | Mã dựa trên quy tắc |
|---|---|---|---|
| Đầu ra | Các lựa chọn có kiểu dữ liệu, điểm số và xác suất được xác định trước | Văn bản, mã hoặc đầu ra có cấu trúc linh hoạt | Giá trị xác định từ điều kiện rõ ràng |
| Tốc độ | Tối ưu hóa cho các quyết định có độ trễ thấp; TypeSafe báo cáo 70–500 ms trong các thử nghiệm của nó | Phụ thuộc vào mô hình, prompt và độ dài đầu ra | Thường rất nhanh đối với các điều kiện đã biết |
| Phù hợp nhất | Các quyết định lặp lại đòi hỏi phải hiểu đầu vào | Viết, lý luận phức tạp và các nhiệm vụ mở | Điều kiện rõ ràng với định nghĩa ổn định |
| Giới hạn chính | Không thể tạo văn bản tự do; câu trả lời đúng kiểu dữ liệu vẫn có thể sai | Đầu ra linh hoạt có thể cần phân tích cú pháp và xác thực | Khó bao quát mọi trường hợp khi đầu vào không rõ ràng |
Số liệu về tốc độ được TypeSafe báo cáo cho các bài kiểm tra quyết định có cấu trúc cụ thể. Chúng không phải là một chuẩn mực độc lập hay một sự đảm bảo tốc độ chung. Đọc các phương pháp
Dùng Jev khi các phương án đã biết nhưng dữ liệu đầu vào vẫn cần được diễn giải. Dùng mô hình tạo sinh để tạo văn bản hoặc mã mới. Với điều kiện rõ ràng, hãy viết trực tiếp trong mã.
Jev đánh giá văn bản hoặc dữ liệu có cấu trúc dựa trên các câu hỏi bạn xác định. Nó trả về các lựa chọn, điểm số và xác suất mà ứng dụng của bạn có thể sử dụng để quyết định điều gì xảy ra tiếp theo.
“Tôi đã bị tính phí hai lần cho đăng ký của mình. Bạn có thể giúp được không?”
Bộ phận nào nên xử lý việc này?
Xác suất minh họa 0.92
Cung cấp văn bản có liên quan, trạng thái JSON hoặc danh sách các mục văn bản. Jev hiện chấp nhận văn bản, không chấp nhận hình ảnh, âm thanh hoặc video.
Yêu cầu một lựa chọn, điểm số hoặc xác suất có/không. Xác định trước các câu trả lời được phép trước khi gọi API.
Dùng kết quả và độ bất định để định tuyến, xem xét hoặc hành động. Kiểu dữ liệu hợp lệ không đảm bảo quyết định chính xác.
Dựa trên Tài liệu TypeSafe chính thức
Jev được thiết kế để đưa ra các quyết định tập trung, có thể lặp lại với không gian trả lời được xác định. Đây là những điểm khởi đầu, không phải lời hứa về hiệu suất; kiểm tra chúng trên dữ liệu của riêng bạn.
Phân loại tin nhắn đến, nhận biết mức độ khẩn cấp và chuyển yêu cầu tới đúng hàng đợi. Những trường hợp chưa chắc chắn có thể được chuyển cho nhân viên xem xét.
Chấm điểm mức độ phù hợp của từng mục ứng viên với bối cảnh người dùng, rồi kết hợp điểm này với tín hiệu xếp hạng và chính sách của riêng bạn.
Chọn một công cụ hoặc mô hình cho bước tiếp theo, kiểm tra kết quả hoặc quyết định khi nào một nhiệm vụ cần được chuyển tiếp.
Đánh giá nội dung theo các quy tắc cụ thể và chuyển những trường hợp có độ tin cậy thấp hoặc rủi ro cao sang bước xem xét thủ công.
Bắt đầu bằng một quyết định cụ thể mà ứng dụng của bạn thực sự cần. Xác định các câu trả lời có thể có, rồi quy định trong mã cách sử dụng kết quả.
Chọn một câu hỏi tập trung, chẳng hạn như định tuyến một yêu cầu hoặc chấm điểm mức độ liên quan của một mặt hàng.
Xác định đầu vào, câu hỏi và câu trả lời được phép trước khi gọi API.
Dùng xác suất và độ tin cậy để chọn hành động, phương án dự phòng hoặc bước xem xét của con người.
Ví dụ TypeScript phía máy chủ này gửi một tin nhắn hỗ trợ và hai câu hỏi có định dạng trả lời xác định tới Jev 1.13 qua OpenRouter. Hãy giữ khóa API trên máy chủ; ứng dụng của bạn quyết định cách sử dụng kết quả.
const apiKey = process.env.OPENROUTER_API_KEY;
if (!apiKey) throw new Error("Set OPENROUTER_API_KEY");
const response = await fetch("https://openrouter.ai/api/alpha/decisions", {
method: "POST",
headers: {
Authorization: "Bearer " + apiKey,
"Content-Type": "application/json"
},
body: JSON.stringify({
model: "typesafe/jev-1.13",
state: "My card was charged twice. Please help ASAP.",
questions: {
department: {
type: "choice",
instructions: "Which team should handle this?",
criteria: {
billing: "Payments and refunds",
technical: "Bugs and integrations"
}
},
urgent: {
type: "noul",
instructions: "Does this message need urgent attention?"
}
}
})
});
if (!response.ok) throw new Error("Jev request failed: " + response.status);
const {answers} = await response.json();
if (answers.department.choice === "billing" && answers.urgent.noul > 0.8) {
// Route to the billing review queue.
}POST /api/alpha/decisionsstate + questionsanswerschoice xác định nhóm được chọn. noul trả về giá trị từ 0 đến 1 cho câu hỏi có/không. Mã của bạn dùng cả hai giá trị cùng các quy tắc định tuyến riêng.
Trước khi dùng trong môi trường production, hãy kiểm thử với các phiếu hỗ trợ mang tính đại diện, ghi lại phiên bản mô hình và chuyển những trường hợp không chắc chắn hoặc có tác động lớn cho con người xem xét. Giá trị 0,8 chỉ là ví dụ.
Tài liệu tham khảo API: OpenRouter · TypeSafe
Yêu cầu xác định các câu hỏi và định dạng trả lời. Phản hồi trả về một kết quả cho từng câu hỏi. Dưới đây là các trường JSON được dùng trong ví dụ.
modelstatequestionstypeinstructionscriteriaanswerschoiceprobabilitiesconfidencenoulMột câu trả lời được định dạng đúng vẫn có thể sai. Kiểm tra các trường hợp đại diện và đặt ngưỡng định tuyến cho quy trình làm việc của riêng bạn.
Khám phá những điểm chính từ cuộc thảo luận ra mắt, SDK chính thức và video độc lập. Đọc bối cảnh ở đây, sau đó theo dõi các nguồn ban đầu để biết thêm chi tiết.
TypeSafe chia sẻ thông tin ra mắt và bối cảnh sản phẩm trên X. Hãy xem đây là phần giải thích từ chính đội ngũ và kiểm tra tài liệu trước khi dựa vào một tuyên bố cụ thể để triển khai.
Xem bản gốcSDK JavaScript và TypeScript chính thức hiển thị bề mặt API, ví dụ và hoạt động phát hành. Đây là nơi hữu ích nhất để kiểm tra cách thể hiện yêu cầu Jev trong mã.
Xem bản gốcChuỗi khởi động hỏi mô hình quyết định phù hợp ở đâu, cách đánh giá nó và phải làm gì khi một câu trả lời tự tin là sai. Đây là một cuộc thảo luận, không phải là một bài kiểm tra hiệu suất.
Xem bản gốcHướng dẫn độc lập của RepoChad bao gồm lược đồ đầu ra, các tuyên bố về tốc độ của TypeSafe, các bản trình diễn mẫu và các câu hỏi mở. Video chỉ tải khi bạn chọn phát nó.
Xem bản gốcTypeSafe AI giới thiệu Jev là mô hình System One đầu tiên của mình. Mục tiêu được công bố là đưa các quyết định nhanh, có cấu trúc vào những quy trình phần mềm thông thường.
Nhà sáng lập Diogo Almeida từng làm việc tại OpenAI và Google Brain. Theo TypeSafe, công việc của ông về instruction following và RLHF đã góp phần định hình nghiên cứu đứng sau ChatGPT.
Không. Jev được thiết kế để trả về quyết định có kiểu dữ liệu rõ ràng và xác suất, thay vì câu trả lời trò chuyện tự do hoặc mã được tạo.
Jev có thể chấm điểm hoặc xếp hạng lại các mục theo mức độ liên quan về ngữ nghĩa. Một hệ thống đề xuất hoàn chỉnh vẫn cần khâu truy xuất mục, quy tắc kinh doanh, đánh giá và logic xếp hạng riêng.
Không. Kiểu dữ liệu chỉ giới hạn định dạng đầu ra. Phương án được chọn vẫn có thể sai, vì vậy hãy kiểm thử bằng dữ liệu đại diện và xử lý độ bất định trong mã.
Bắt đầu với tài liệu và SDK chính thức của TypeSafe. Trang mô hình trên OpenRouter cũng cho phép truy cập Jev qua nền tảng này.
Xác định câu hỏi và câu trả lời có thể. Hãy để ứng dụng của bạn quyết định phải làm gì với kết quả.