Jev AI Dev · panduan developer

Apa itu model AI System One? Panduan developer untuk Jev.

System One adalah kelas model AI dari TypeSafe untuk mengubah state aplikasi yang tidak terstruktur menjadi jawaban bertipe dan probabilitas. Jev adalah implementasi pertamanya: komponen keputusan terbatas yang dirancang untuk berada di dalam kode aplikasi.

Input
Teks, JSON, atau array teks
Output
Choice, Score, atau Noul
Alur kontrol
Tetap dimiliki kode Anda

Ini adalah panduan developer independen. Detail produk dan klaim performa bersumber dari TypeSafe. Uji Jev dengan data Anda sendiri sebelum digunakan di produksi.

System Onestate → decisions
state

“Saya ditagih dua kali dan masalah ini harus selesai hari ini.”

choicepenagihan0.96
noulmendesak0.88
scorefrustrasi1.7 / 2
if (confidence < threshold) → review
Kelas model

Model System One adalah primitive keputusan untuk kode aplikasi.

System One memahami makna input, tetapi tidak melanjutkan percakapan atau menyusun jawaban. Anda mendefinisikan pertanyaan dan bentuk jawaban yang diizinkan terlebih dahulu; model mengembalikan penilaian terbatas yang dapat diperiksa program.

01

Pahami state

Model menafsirkan teks natural atau terstruktur: tiket dukungan, jejak Agent, data produk, atau state game.

02

Tetap dalam kontrak

Aplikasi menentukan ruang jawaban sebelum pemanggilan. Model memilih opsi, memberi nilai pada skala, atau menilai proposisi ya/tidak.

03

Tampilkan ketidakpastian

Setiap jawaban menyertakan sinyal probabilitas. Choice dan Score juga merangkum sebaran sebagai confidence.

04

Komposisikan dengan kode

Threshold, pemeriksaan kebijakan, efek samping, retry, fallback, dan tinjauan manusia tetap berada dalam kode biasa.

Jev dalam workflow

Cara developer mengintegrasikan Jev dengan kode aplikasi.

Jev mengubah satu pemanggilan model menjadi sekumpulan sinyal keputusan. Unit yang berguna bukan giliran chat, melainkan kontrak kecil dan bertipe antara model dan aplikasi.

Input

1. Susun state

Kirim informasi yang dibutuhkan untuk keputusan. Saat ini Jev menerima input berbasis teks, termasuk string, objek JSON, dan array teks.

Pesan pelanggan + fakta akun
Kontrak

2. Definisikan pertanyaan

Beri nama setiap pertanyaan, pilih primitive, lalu jelaskan opsi atau skala yang diizinkan. Beberapa pertanyaan independen dapat dikirim dalam satu request.

departemen · urgensi · frustrasi
Model

3. Jev mengevaluasi

Jev mengembalikan jawaban bertipe dan sinyal probabilitas untuk setiap pertanyaan. Choice dan Score juga menyertakan nilai confidence.

penagihan · 0,93 · confidence tinggi
Aplikasi

4. Kode menerapkan kebijakan

Gabungkan output model dengan pemeriksaan deterministik. Jalankan kasus jelas berisiko rendah; eskalasikan kasus ambigu atau berdampak tinggi ke manusia atau reasoning model.

arahkan · tanya · tinjau · hentikan

Tiga bentuk jawaban

Choicebilling

Tim mana yang harus menangani ini?

Memilih satu opsi dari himpunan yang telah ditentukan dan mengembalikan probabilitas untuk setiap opsi.

Score1.43 / 2

Seberapa parah masalah ini?

Menempatkan input pada spektrum dengan level berurutan; skor dapat berada di antara dua level.

Noul0.95

Apakah ini meminta pengembalian dana?

Menilai proposisi ya/tidak dan mengembalikan probabilitas model untuk “ya”.

Argumen dasarnya

Mengapa TypeSafe membuat antarmuka model untuk software.

Model generatif dibuat untuk menghasilkan string fleksibel bagi manusia. Menurut TypeSafe, software membutuhkan bentuk kecerdasan yang lebih sempit: dapat ditanam dalam kode, dijalankan berulang, menampilkan ketidakpastian, dan menjaga alur kontrol tetap terlihat.

01

String fleksibel tetapi terbuka

Output dapat berupa teks, kode, JSON, penolakan, atau format yang salah. Aplikasi sering harus melakukan parsing, validasi, dan penanganan error sebelum bertindak.

02

Otomasi membutuhkan batas

Saat model bekerja di latar belakang, program perlu mengetahui kemungkinan hasil dan tindakan yang diizinkan untuk masing-masing hasil sejak awal.

03

Ketidakpastian harus mengubah jalur

Distribusi probabilitas memungkinkan kasus yang jelas diotomatisasi dan kasus ambigu dialihkan ke jalur yang lebih aman.

04

Keputusan kecil harus dapat dikomposisikan

Workflow kompleks dapat dipecah menjadi penilaian semantik terfokus dan digabungkan dengan logika deterministik, bukan disembunyikan dalam satu prompt besar.

Di mana cocok digunakan

Di mana System One AI cocok dalam workflow developer.

Kasus terbaik terjadi berulang, membutuhkan pemahaman input yang berantakan, dan berujung pada sejumlah kecil tindakan yang sudah dapat dilakukan aplikasi.

01

Operasi dukungan

Klasifikasikan tiket, identifikasi intent dan urgensi, nilai sentimen, lalu kirim kasus yang tidak pasti untuk ditinjau.

Penagihan, teknis, akun, atau lainnya?
02

Kontrol Agent

Pilih model atau tool, tentukan kebutuhan retrieval, periksa kelengkapan hasil, atau evaluasi pemanggilan tool yang diajukan.

Haruskah Agent melanjutkan, mencoba ulang, atau mengeskalasi?
03

Peringkat dan relevansi

Nilai kecocokan kandidat terhadap query, profil, kebijakan, atau konteks, lalu gabungkan sinyal dengan aturan bisnis.

Seberapa relevan kandidat ini terhadap permintaan?
04

Keamanan dan verifikasi

Nilai pesan, output, jejak, atau perubahan kode dengan kriteria eksplisit; pertahankan risiko tinggi di belakang gate deterministik.

Apakah ini melanggar aturan yang ditentukan?
05

Interaksi real-time

Pilih tindakan yang diizinkan untuk game, simulasi, UI, atau perangkat tanpa menunggu respons generatif yang panjang.

Tindakan yang diizinkan mana yang paling sesuai dengan state ini?
06

Operasi data

Ubah volume record yang besar menjadi kategori, skor, flag, dan fitur untuk sistem berikutnya.

Apa kategori dan tingkat risiko record ini?

Cocok

Opsi telah diketahui, input rumit secara semantik, keputusan berulang, latensi penting, dan kode memiliki tindakan atau fallback untuk setiap hasil.

Kurang cocok

Tugas memerlukan teks atau kode baru, penalaran bertahap yang mendalam, riset luas, penjelasan, input multimodal, atau hasil tidak dapat ditentukan sebelumnya.

System One vs LLM generatif

System One dan LLM generatif menjalankan peran berbeda dalam stack AI.

Keduanya memahami bahasa, dan LLM dapat dibatasi dengan output terstruktur. Perbedaan yang lebih dalam adalah apa yang dirancang untuk dihasilkan model dan bagaimana software menggunakannya.

AspekJev / System OneLLM generatif umum
Tugas utamaMenilai hasil yang telah ditentukanMenghasilkan kelanjutan atau respons
Output nativePilihan bertipe, skor, atau probabilitas yaRangkaian token: teks, kode, JSON, atau lainnya
Ruang jawabanDitentukan sebelum pemanggilanPada dasarnya terbuka, meski schema membatasi format akhir
KetidakpastianProbabilitas untuk setiap jawaban; confidence untuk Choice dan ScoreDapat menyediakan probabilitas token atau confidence yang dilaporkan sendiri, biasanya bukan sinyal tugas yang terkalibrasi
SamplingMenurut TypeSafe, pertanyaan dan output dinilai secara paralelUmumnya berurutan, token demi token
KekuatanCabang semantik berulang, scoring, routing, dan pemeriksaanPenulisan, percakapan, kode, sintesis, dan penalaran terbuka
Mode kegagalan utamaKeputusan valid secara tipe tetapi salah secara semantikKonten salah, salah format, tidak berdasar, atau menyimpang
Peran dalam sistemKomponen keputusan terbatas dalam kode yang terlihatGenerator fleksibel atau reasoning model, sering dengan orkestrasi yang lebih luas

Bagi developer yang mengevaluasi System One di luar Jev, bagian berikut menggunakan modul komunitas yang sama dengan halaman Projects. Modul ini membedakan model yang dilatih mandiri dari antarmuka bergaya Jev yang dibangun di atas bobot model yang sudah ada.

System One

Ekosistem System One komunitas

Model dan eksperimen antarmuka komunitas ini terinspirasi oleh Jev atau mengeksplorasi pendekatan serupa untuk keputusan terstruktur. Proyek ini bukan rilis resmi Jev dari TypeSafe dan tidak masuk dalam peringkat proyek GitHub di atas.

Model komunitasQwen3.5-9B + diffusion drafter

Jeeves

Model keputusan 9B bergaya Jev dengan tahap penalaran opsional, bobot, kode dan data pelatihan terbuka, serta API lokal yang kompatibel.

Model komunitasQwen3.5-4B

OpenJev-4B

Model keputusan probabilistik 4B dengan kosakata terbuka, bobot dan pelatihan dua tahap yang dipublikasikan, inferensi lokal, serta layanan HTTP.

Model komunitasQwen3.5-9B

Bespoke Nimble

Adaptor LoRA dan panduan pelatihan yang terinspirasi Jev untuk pilihan dan pertanyaan ya/tidak. Bisa berjalan lokal, tetapi saat ini hanya menerima teks.

Model komunitasQwen3-0.6B

NanoJev

Model kecil dengan komponen keputusan, kode pelatihan terbuka, dan demo gim untuk menguji pemilihan aksi.

Model komunitasQwen3.5-2B

decider

Model yang disetel ulang untuk menghasilkan probabilitas pertanyaan terstruktur dalam satu proses. Rilis saat ini hanya mendukung bahasa Inggris.

Model komunitasModernBERT 151M / Verdict 2.0

Verdict

Model keputusan kecil berbasis encoder, dengan bobot yang tersedia dan demo WebGPU di browser.

Model komunitasQwen3.5-0.8B

Dohnuts

Model keputusan multimodal 0,8B dengan bobot, kode pelatihan, dan hasil evaluasi yang dipublikasikan. Teks dan gambar diproses dalam satu forward pass; bobotnya untuk riset nonkomersial.

Eksperimen antarmukaDiffusionGemma 26B-A4B

OpenJev

Memakai model DiffusionGemma yang sudah ada untuk menjawab pertanyaan terstruktur lewat API mirip Jev. Tidak merilis bobot model baru.

Eksperimen antarmukaOpen-model logits

Simple Jev

Menilai jawaban yang diizinkan memakai model terbuka yang sudah ada melalui antarmuka mirip Jev. Tidak merilis bobot model baru.

Eksperimen antarmukaSpark-X2.5-4B

Rizzo Flow

Server lokal yang kompatibel dengan Jev dan membaca logit jawaban dari Spark-X2.5. Beberapa pertanyaan berbagi satu prefill state; tersedia playground dan benchmark.

Eksperimen antarmukaAny causal LLM

AnyJev

Toolkit tanpa pelatihan yang mengubah model bahasa kausal menjadi model keputusan bertipe, lengkap dengan koreksi bias urutan opsi, kalibrasi opsional, dan benchmark yang dapat direproduksi.

Eksperimen antarmukaQwen3.5 / DeBERTa

local-jev

Server offline yang kompatibel dengan Jev untuk Qwen atau DeBERTa, telah diuji dengan SDK resmi dan dilengkapi hasil JevBench yang dipublikasikan.

Model komunitasQwen3-0.6B

AgentJev

Model keputusan Qwen3-0.6B untuk jejak agen dan pertanyaan terstruktur lain, dengan bobot terbuka, API HTTP bertipe, dan tanpa decoding token.

Eksperimen antarmukaCausal LMs / SGLang

LLM2Jev

Mengubah model bahasa kausal lokal menjadi layanan Choice, Score, dan Noul yang kompatibel dengan Jev melalui penilaian prefill saja, dengan dukungan SGLang, Transformers, dan multimodal.

Eksperimen antarmukaLaya / ONNX Runtime

Laya

Menjalankan model terbuka Laya System One di Node.js melalui ONNX Runtime, memakai format permintaan kompatibel Jev dan bobot model yang dipublikasikan.

Model komunitasQwen3.5-0.8B

OpenThai System One

Model keputusan Qwen3.5-0.8B untuk bahasa Thai dan Inggris, dengan bobot, kode pelatihan, dan API HTTP kompatibel Jev yang dipublikasikan.

Model komunitasQwen3.5-0.8B / 2B

Valen

Model keputusan multimodal yang terinspirasi Jev untuk teks, gambar, dan video, dengan bobot, kode pelatihan, dan perintah evaluasi yang dipublikasikan.

Model komunitasQwen3.5-4B

Tev1

Model keputusan terbuka 4B hasil fine-tuning Qwen3.5, lengkap dengan bobot, metode pelatihan yang dapat direproduksi, dan asal data yang terdokumentasi.

Eksperimen antarmukaOpen decision models

Ollaya

Layanan Rust lokal yang mengunduh dan menjalankan beberapa model keputusan terbuka melalui API asli dan API yang kompatibel dengan TypeSafe.

Model komunitasQwen3.5-0.8B / 2B / 4B

Intern-Decision

Keluarga model keputusan multimodal Qwen3.5 berukuran 0,8B, 2B, dan 4B dengan bobot, kode pelatihan dan inferensi, tolok ukur kalibrasi, serta API yang kompatibel dengan Jev.

Model komunitasQwen3.5-4B

Mica

Model keputusan 4B untuk bahasa Inggris dan Korea dengan bobot dan kuantisasi terbuka, probabilitas terkalibrasi, serta server lokal yang kompatibel dengan TypeSafe.

Model komunitasQwen3.5-0.8B / 2B

Jev-Style

Keluarga model lokal 0,8B dan 2B dengan bobot terbuka, konteks panjang, API kompatibel, skill agen, alat MCP, dan perintah evaluasi.

Model komunitasQwen3.5-2B / 9B · Qwen3.8-27B

Open-Jev

Implementasi independen dengan bobot 2B, 9B, dan 27B, kode pelatihan, server lokal kompatibel, serta evaluasi yang dapat direproduksi.

Model komunitasQwen3.5-VL 2B / 4B / 9B

imajev

Keluarga model multimodal terbuka 2B, 4B, dan 9B untuk teks dan gambar, dengan probabilitas terkalibrasi, kemampuan menolak jawaban, bobot publik, dan API lokal kompatibel.

Model komunitas0.6B / 0.8B / 4B decision models

OpenDecider

Model terbuka berukuran kecil untuk keputusan Choice, Score, dan Noul, dengan bobot publik serta inferensi lokal di CPU, GPU NVIDIA, dan Apple Silicon.

Model komunitasQwen3.5-0.8B / 4B

jiwo

Model keputusan Qwen3.5 terbuka berukuran 0,8B dan 4B dengan bobot, kode pelatihan, API lokal kompatibel Jev, dan hasil Decision Index yang dapat direproduksi.

Model komunitasQwen3.5-0.8B / 4B

SearchJev

Model Qwen3.5 terbuka berukuran 0,8B dan 4B yang dilatih untuk keputusan agen pencarian, dengan data, bobot, log pelatihan, dan kode kalibrasi yang dipublikasikan.

Eksperimen antarmukaCloudflare Clef 27B / 9B

cleffa

Mesin native C dan Metal untuk Cloudflare Clef dan Clef-Flash di Apple Silicon yang menyajikan keputusan teks, gambar, dan video melalui API kompatibel Jev.

Model komunitasmmBERT 144.3M

Phocinae Largha

Model keputusan encoder dwibahasa 144,3M parameter untuk keputusan bertipe secara lokal, lengkap dengan bobot, alat kalibrasi, evaluasi, dan server kompatibel Jev.

Model komunitasMultilingual Laya checkpoints

Laya Decision Engine

Mesin keputusan multibahasa non-autoregresif dengan checkpoint publik, kode pelatihan dan fine-tuning, keputusan bertipe, serta API lokal yang kompatibel.

Model komunitasQwen3.5-0.8B / 4B

VegaML

Mesin keputusan multimodal lokal berbasis Qwen3.5 beku dan modul fisika kecil yang dapat dilatih, dengan checkpoint publik 0,8B dan 4B.

Eksperimen antarmukaLaya / ONNX Runtime Java

laya-java

Runtime Java murni untuk Laya dengan integrasi Spring Boot dan Gradle serta endpoint kompatibel Jev dan OpenAI.

Model komunitasQwen3.5-4B / Qwen3.8-27B

train-jev

Kerangka untuk distilasi dan pelatihan model keputusan bergaya Jev pada Qwen3.5 atau Qwen3.8, lengkap dengan kalibrasi, evaluasi, dan server kompatibel.

Model komunitasLLM-jp 4.1 8B / encoder 310M

saihai

Keluarga model keputusan bertipe untuk bahasa Jepang dengan bobot terbuka 8B dan 310M, kode pelatihan dan evaluasi, penyajian GGUF, serta API kompatibel System One.

Eksperimen antarmukaAny llama.cpp GGUF

Callosum

Menambahkan API System One dan jalur klasifikasi khusus pada model chat llama.cpp yang sudah berjalan, dengan kalibrasi dan penalaran terbatas opsional tanpa memuat model kedua.

Model komunitasQwen3-VL-4B

OpenVisualJev

Model keputusan multimodal berbasis Qwen3-VL-4B dengan skor kandidat dinamis, pilihan yang tidak bergantung urutan, kode kalibrasi, dan laporan teknis; checkpoint belum dapat diunduh.

Model komunitasBitNet b1.58 2B

BitSOne-s1

Model keputusan ternari berbasis BitNet 2B dengan kepala pointer, probabilitas bertipe, catatan pelatihan yang dapat direproduksi, dan kalibrasi terukur; checkpoint yang diterbitkan masih privat.

Eksperimen antarmukaOpen ONNX decision models

decision-toolkit

Menjalankan pilihan model keputusan terbuka secara lokal di CPU melalui ONNX serta menyediakan pustaka bertipe, CLI, REST, dan API kompatibel System One.

Model komunitasQwen3-VL-4B

Fovea

Model keputusan visual terbuka 4B dengan bobot serta kode pelatihan dan kalibrasi yang dipublikasikan, disajikan melalui API TypeSafe System One.

Eksperimen antarmukaOpen decision model families

Flide

Runtime lokal yang mempercepat model keputusan terbuka dengan percabangan keadaan yang presisi dan menyajikan berbagai keluarga model teks serta multimodal melalui satu antarmuka.

Model komunitasMultilingual encoder 57M / ONNX

Skejja

Model keputusan encoder multibahasa 57 juta parameter untuk Choice, Noul, dan Score, dengan inferensi ONNX, demo browser dan Raspberry Pi, serta API System One yang kompatibel.

Model komunitasQwen3.5-9B LoRA / GGUF

OpenChoice-9B

Model keputusan multimodal 9B yang mengutamakan CPU dan didistribusikan sebagai GGUF, dengan Choice, Score, Noul, API kompatibel TypeSafe, dan perangkat fine-tuning LoRA.

Proyek independen dari komunitas, bukan rilis resmi Jev.

Pantau model komunitas dan eksperimen antarmuka terbaru di Jev AI Radar.Jelajahi Jev AI Radar
Sumber primer

Baca klaim dalam konteksnya.

Panduan Jev AI Dev ini menjelaskan kerangka TypeSafe dengan kata-kata kami sendiri. Verifikasi detail API, klaim produk, metode evaluasi, dan pembaruan melalui sumber resmi.

Uji bentuknya, bukan hanya idenya

Mulai dengan satu keputusan yang sudah dibuat aplikasi Anda.

Definisikan jawaban, kumpulkan contoh representatif, tentukan penanganan ketidakpastian, lalu bandingkan Jev dengan aturan atau model saat ini. Jangan mengotomatiskan keputusan berdampak tinggi secara langsung.

Coba Jev di Playground Lihat proyek Jev