Hướng dẫn độc lập dành cho nhà phát triển

Mô hình AI Jev.
Từ ý tưởng đến mã.

Jev là mô hình System One đầu tiên của TypeSafe. Mô hình trả về quyết định có kiểu dữ liệu rõ ràng cùng xác suất để phần mềm có thể sử dụng. Khám phá các trường hợp sử dụng và cách gọi mô hình từ mã của bạn.

Chọn theo nhiệm vụ

Một dạng trí tuệ khác.

TypeSafe gọi Jev là mô hình System One: mô hình trả về các lựa chọn có kiểu dữ liệu rõ ràng và xác suất thay vì tạo văn bản mở. Hãy so sánh vị trí phù hợp của cách tiếp cận này bên cạnh mô hình tạo sinh và mã dựa trên quy tắc.

Khía cạnhJevLLM tạo sinhMã dựa trên quy tắc
Đầu raCác lựa chọn có kiểu dữ liệu, điểm số và xác suất được xác định trướcVăn bản, mã hoặc đầu ra có cấu trúc linh hoạtGiá trị xác định từ điều kiện rõ ràng
Tốc độTối ưu hóa cho các quyết định có độ trễ thấp; TypeSafe báo cáo 70–500 ms trong các thử nghiệm của nóPhụ thuộc vào mô hình, prompt và độ dài đầu raThường rất nhanh đối với các điều kiện đã biết
Phù hợp nhấtCác quyết định lặp lại đòi hỏi phải hiểu đầu vàoViết, lý luận phức tạp và các nhiệm vụ mởĐiều kiện rõ ràng với định nghĩa ổn định
Giới hạn chínhKhông thể tạo văn bản tự do; câu trả lời đúng kiểu dữ liệu vẫn có thể saiĐầu ra linh hoạt có thể cần phân tích cú pháp và xác thựcKhó bao quát mọi trường hợp khi đầu vào không rõ ràng
i

Số liệu về tốc độ được TypeSafe báo cáo cho các bài kiểm tra quyết định có cấu trúc cụ thể. Chúng không phải là một chuẩn mực độc lập hay một sự đảm bảo tốc độ chung. Đọc các phương pháp

Sự khác biệt thực tế

Dùng Jev khi các phương án đã biết nhưng dữ liệu đầu vào vẫn cần được diễn giải. Dùng mô hình tạo sinh để tạo văn bản hoặc mã mới. Với điều kiện rõ ràng, hãy viết trực tiếp trong mã.

Ý tưởng cốt lõi

Được xây dựng cho các quyết định bên trong phần mềm.

Jev đánh giá văn bản hoặc dữ liệu có cấu trúc dựa trên các câu hỏi bạn xác định. Nó trả về các lựa chọn, điểm số và xác suất mà ứng dụng của bạn có thể sử dụng để quyết định điều gì xảy ra tiếp theo.

Jev trong ba bướcVí dụ minh họa · không phải phản hồi mô hình trực tiếp
01Tin nhắn khách hàng

Tôi đã bị tính phí hai lần cho đăng ký của mình. Bạn có thể giúp được không?

02Câu hỏi & lựa chọn

Bộ phận nào nên xử lý việc này?

Các câu trả lời được phép: Thanh toán · Kỹ thuật · Bán hàng
03Kết quả có cấu trúc
Thanh toánJev

Xác suất minh họa 0.92

01

Cung cấp cho nó bối cảnh

Cung cấp văn bản có liên quan, trạng thái JSON hoặc danh sách các mục văn bản. Jev hiện chấp nhận văn bản, không chấp nhận hình ảnh, âm thanh hoặc video.

02

Xác định không gian trả lời

Yêu cầu một lựa chọn, điểm số hoặc xác suất có/không. Xác định trước các câu trả lời được phép trước khi gọi API.

03

Hãy để mã của bạn quyết định điều gì xảy ra tiếp theo

Dùng kết quả và độ bất định để định tuyến, xem xét hoặc hành động. Kiểu dữ liệu hợp lệ không đảm bảo quyết định chính xác.

Dựa trên Tài liệu TypeSafe chính thức

Nó phù hợp ở đâu

Những quyết định nhỏ trong quy trình làm việc thực tế.

Jev được thiết kế để đưa ra các quyết định tập trung, có thể lặp lại với không gian trả lời được xác định. Đây là những điểm khởi đầu, không phải lời hứa về hiệu suất; kiểm tra chúng trên dữ liệu của riêng bạn.

01

Hỗ trợ khách hàng

Phân loại tin nhắn đến, nhận biết mức độ khẩn cấp và chuyển yêu cầu tới đúng hàng đợi. Những trường hợp chưa chắc chắn có thể được chuyển cho nhân viên xem xét.

Quyết định mẫuĐây có phải là vấn đề về thanh toán hay vấn đề kỹ thuật không?
02

Khuyến nghị và xếp hạng

Chấm điểm mức độ phù hợp của từng mục ứng viên với bối cảnh người dùng, rồi kết hợp điểm này với tín hiệu xếp hạng và chính sách của riêng bạn.

Quyết định mẫuMục này có liên quan đến yêu cầu này như thế nào?
03

Điều phối agent

Chọn một công cụ hoặc mô hình cho bước tiếp theo, kiểm tra kết quả hoặc quyết định khi nào một nhiệm vụ cần được chuyển tiếp.

Quyết định mẫuYêu cầu này có nên đến một mô hình chuyên dụng?
04

Sự tin cậy và an toàn

Đánh giá nội dung theo các quy tắc cụ thể và chuyển những trường hợp có độ tin cậy thấp hoặc rủi ro cao sang bước xem xét thủ công.

Quyết định mẫuTin nhắn này có vi phạm chính sách này không?

Dựa trên Bản đồ trường hợp sử dụng của TypeSafe

Bắt đầu

Từ sự tò mò đến quyết định đầu tiên của bạn.

Bắt đầu bằng một quyết định cụ thể mà ứng dụng của bạn thực sự cần. Xác định các câu trả lời có thể có, rồi quy định trong mã cách sử dụng kết quả.

01

Chọn một quyết định

Chọn một câu hỏi tập trung, chẳng hạn như định tuyến một yêu cầu hoặc chấm điểm mức độ liên quan của một mặt hàng.

02

Xác định các lựa chọn

Xác định đầu vào, câu hỏi và câu trả lời được phép trước khi gọi API.

03

Xử lý sự không chắc chắn

Dùng xác suất và độ tin cậy để chọn hành động, phương án dự phòng hoặc bước xem xét của con người.

Làm thế nào để tích hợp

Thêm Jev vào mã của bạn.

Ví dụ TypeScript phía máy chủ này gửi một tin nhắn hỗ trợ và hai câu hỏi có định dạng trả lời xác định tới Jev 1.13 qua OpenRouter. Hãy giữ khóa API trên máy chủ; ứng dụng của bạn quyết định cách sử dụng kết quả.

TypeScript phía máy chủtypesafe/jev-1.13
const apiKey = process.env.OPENROUTER_API_KEY;
if (!apiKey) throw new Error("Set OPENROUTER_API_KEY");

const response = await fetch("https://openrouter.ai/api/alpha/decisions", {
  method: "POST",
  headers: {
    Authorization: "Bearer " + apiKey,
    "Content-Type": "application/json"
  },
  body: JSON.stringify({
    model: "typesafe/jev-1.13",
    state: "My card was charged twice. Please help ASAP.",
    questions: {
      department: {
        type: "choice",
        instructions: "Which team should handle this?",
        criteria: {
          billing: "Payments and refunds",
          technical: "Bugs and integrations"
        }
      },
      urgent: {
        type: "noul",
        instructions: "Does this message need urgent attention?"
      }
    }
  })
});

if (!response.ok) throw new Error("Jev request failed: " + response.status);
const {answers} = await response.json();

if (answers.department.choice === "billing" && answers.urgent.noul > 0.8) {
  // Route to the billing review queue.
}
EndpointPOST /api/alpha/decisions
đầu vàostate + questions
đầu raanswers

Đọc câu trả lời

choice xác định nhóm được chọn. noul trả về giá trị từ 0 đến 1 cho câu hỏi có/không. Mã của bạn dùng cả hai giá trị cùng các quy tắc định tuyến riêng.

Trước khi sử dụng nó trong sản xuất

Trước khi dùng trong môi trường production, hãy kiểm thử với các phiếu hỗ trợ mang tính đại diện, ghi lại phiên bản mô hình và chuyển những trường hợp không chắc chắn hoặc có tác động lớn cho con người xem xét. Giá trị 0,8 chỉ là ví dụ.

Tài liệu tham khảo API: OpenRouter · TypeSafe

Ý nghĩa của từng trường

Yêu cầu xác định các câu hỏi và định dạng trả lời. Phản hồi trả về một kết quả cho từng câu hỏi. Dưới đây là các trường JSON được dùng trong ví dụ.

Các trường yêu cầu

model
ID mô hình. Ví dụ này cố định phiên bản Jev 1.13 để phiên bản được sử dụng luôn rõ ràng.
state
Văn bản hoặc dữ liệu có cấu trúc cần đánh giá, chẳng hạn như tin nhắn gửi tới bộ phận hỗ trợ.
questions
Danh sách các quyết định được đặt tên. Những tên này cũng xuất hiện trong trường answers của phản hồi.
type
Dạng câu trả lời: choice chọn một phương án; noul đánh giá câu hỏi có/không.
instructions
Nội dung đánh giá cụ thể mà bạn yêu cầu mô hình thực hiện.
criteria
Với choice: các khóa phương án được phép cùng mô tả ngắn cho từng phương án.

Trường phản hồi

answers
Một kết quả cho mỗi câu hỏi, được trả về dưới cùng một tên.
choice
Khóa phương án do choice chọn: phương án có xác suất cao nhất.
probabilities
Xác suất của từng phương án; tổng các giá trị này bằng 1.
confidence
Giá trị độ tin cậy riêng được tính từ phân bố xác suất; đây không phải xác suất của phương án được chọn.
noul
Một số từ 0 (không) đến 1 (có) cho câu hỏi có/không.

Một câu trả lời được định dạng đúng vẫn có thể sai. Kiểm tra các trường hợp đại diện và đặt ngưỡng định tuyến cho quy trình làm việc của riêng bạn.

Xung quanh mô hình

Những gì các nhà phát triển đang nói.

Khám phá những điểm chính từ cuộc thảo luận ra mắt, SDK chính thức và video độc lập. Đọc bối cảnh ở đây, sau đó theo dõi các nguồn ban đầu để biết thêm chi tiết.

X

TypeSafe chia sẻ thông tin ra mắt và bối cảnh sản phẩm trên X. Hãy xem đây là phần giải thích từ chính đội ngũ và kiểm tra tài liệu trước khi dựa vào một tuyên bố cụ thể để triển khai.

Xem bản gốc

GitHub

SDK JavaScript và TypeScript chính thức hiển thị bề mặt API, ví dụ và hoạt động phát hành. Đây là nơi hữu ích nhất để kiểm tra cách thể hiện yêu cầu Jev trong mã.

Xem bản gốc

Hacker News

Chuỗi khởi động hỏi mô hình quyết định phù hợp ở đâu, cách đánh giá nó và phải làm gì khi một câu trả lời tự tin là sai. Đây là một cuộc thảo luận, không phải là một bài kiểm tra hiệu suất.

Xem bản gốc
Xem trên trang này

Giải thích Jev: quyết định có cấu trúc và các giới hạn

Hướng dẫn độc lập của RepoChad bao gồm lược đồ đầu ra, các tuyên bố về tốc độ của TypeSafe, các bản trình diễn mẫu và các câu hỏi mở. Video chỉ tải khi bạn chọn phát nó.

Xem bản gốc
Những người đứng sau Jev

Đưa ra quyết định AI dễ sử dụng hơn trong phần mềm.

TypeSafe AI giới thiệu Jev là mô hình System One đầu tiên của mình. Mục tiêu được công bố là đưa các quyết định nhanh, có cấu trúc vào những quy trình phần mềm thông thường.

Nhà sáng lập Diogo Almeida từng làm việc tại OpenAI và Google Brain. Theo TypeSafe, công việc của ông về instruction following và RLHF đã góp phần định hình nghiên cứu đứng sau ChatGPT.

Câu hỏi hay

Những câu hỏi đáng để hỏi.

Jev có phải là chatbot không?

Không. Jev được thiết kế để trả về quyết định có kiểu dữ liệu rõ ràng và xác suất, thay vì câu trả lời trò chuyện tự do hoặc mã được tạo.

Jev có thể đưa ra khuyến nghị không?

Jev có thể chấm điểm hoặc xếp hạng lại các mục theo mức độ liên quan về ngữ nghĩa. Một hệ thống đề xuất hoàn chỉnh vẫn cần khâu truy xuất mục, quy tắc kinh doanh, đánh giá và logic xếp hạng riêng.

Đầu ra đúng kiểu dữ liệu có đồng nghĩa với quyết định chính xác không?

Không. Kiểu dữ liệu chỉ giới hạn định dạng đầu ra. Phương án được chọn vẫn có thể sai, vì vậy hãy kiểm thử bằng dữ liệu đại diện và xử lý độ bất định trong mã.

Tôi có thể học cách sử dụng Jev ở đâu?

Bắt đầu với tài liệu và SDK chính thức của TypeSafe. Trang mô hình trên OpenRouter cũng cho phép truy cập Jev qua nền tảng này.

Bắt đầu bằng một câu hỏi

Thử Jev với một quyết định cụ thể.

Xác định câu hỏi và câu trả lời có thể. Hãy để ứng dụng của bạn quyết định phải làm gì với kết quả.