Pahami state
Model menafsirkan teks natural atau terstruktur: tiket dukungan, jejak Agent, data produk, atau state game.
System One adalah kelas model AI dari TypeSafe untuk mengubah state aplikasi yang tidak terstruktur menjadi jawaban bertipe dan probabilitas. Jev adalah implementasi pertamanya: komponen keputusan terbatas yang dirancang untuk berada di dalam kode aplikasi.
Ini adalah panduan developer independen. Detail produk dan klaim performa bersumber dari TypeSafe. Uji Jev dengan data Anda sendiri sebelum digunakan di produksi.
state → decisions“Saya ditagih dua kali dan masalah ini harus selesai hari ini.”
if (confidence < threshold) → reviewSystem One memahami makna input, tetapi tidak melanjutkan percakapan atau menyusun jawaban. Anda mendefinisikan pertanyaan dan bentuk jawaban yang diizinkan terlebih dahulu; model mengembalikan penilaian terbatas yang dapat diperiksa program.
Model menafsirkan teks natural atau terstruktur: tiket dukungan, jejak Agent, data produk, atau state game.
Aplikasi menentukan ruang jawaban sebelum pemanggilan. Model memilih opsi, memberi nilai pada skala, atau menilai proposisi ya/tidak.
Setiap jawaban menyertakan sinyal probabilitas. Choice dan Score juga merangkum sebaran sebagai confidence.
Threshold, pemeriksaan kebijakan, efek samping, retry, fallback, dan tinjauan manusia tetap berada dalam kode biasa.
Jev mengubah satu pemanggilan model menjadi sekumpulan sinyal keputusan. Unit yang berguna bukan giliran chat, melainkan kontrak kecil dan bertipe antara model dan aplikasi.
Kirim informasi yang dibutuhkan untuk keputusan. Saat ini Jev menerima input berbasis teks, termasuk string, objek JSON, dan array teks.
Pesan pelanggan + fakta akunBeri nama setiap pertanyaan, pilih primitive, lalu jelaskan opsi atau skala yang diizinkan. Beberapa pertanyaan independen dapat dikirim dalam satu request.
departemen · urgensi · frustrasiJev mengembalikan jawaban bertipe dan sinyal probabilitas untuk setiap pertanyaan. Choice dan Score juga menyertakan nilai confidence.
penagihan · 0,93 · confidence tinggiGabungkan output model dengan pemeriksaan deterministik. Jalankan kasus jelas berisiko rendah; eskalasikan kasus ambigu atau berdampak tinggi ke manusia atau reasoning model.
arahkan · tanya · tinjau · hentikanbillingMemilih satu opsi dari himpunan yang telah ditentukan dan mengembalikan probabilitas untuk setiap opsi.
1.43 / 2Menempatkan input pada spektrum dengan level berurutan; skor dapat berada di antara dua level.
0.95Menilai proposisi ya/tidak dan mengembalikan probabilitas model untuk “ya”.
Model generatif dibuat untuk menghasilkan string fleksibel bagi manusia. Menurut TypeSafe, software membutuhkan bentuk kecerdasan yang lebih sempit: dapat ditanam dalam kode, dijalankan berulang, menampilkan ketidakpastian, dan menjaga alur kontrol tetap terlihat.
Output dapat berupa teks, kode, JSON, penolakan, atau format yang salah. Aplikasi sering harus melakukan parsing, validasi, dan penanganan error sebelum bertindak.
Saat model bekerja di latar belakang, program perlu mengetahui kemungkinan hasil dan tindakan yang diizinkan untuk masing-masing hasil sejak awal.
Distribusi probabilitas memungkinkan kasus yang jelas diotomatisasi dan kasus ambigu dialihkan ke jalur yang lebih aman.
Workflow kompleks dapat dipecah menjadi penilaian semantik terfokus dan digabungkan dengan logika deterministik, bukan disembunyikan dalam satu prompt besar.
Kasus terbaik terjadi berulang, membutuhkan pemahaman input yang berantakan, dan berujung pada sejumlah kecil tindakan yang sudah dapat dilakukan aplikasi.
Klasifikasikan tiket, identifikasi intent dan urgensi, nilai sentimen, lalu kirim kasus yang tidak pasti untuk ditinjau.
Penagihan, teknis, akun, atau lainnya?
Pilih model atau tool, tentukan kebutuhan retrieval, periksa kelengkapan hasil, atau evaluasi pemanggilan tool yang diajukan.
Haruskah Agent melanjutkan, mencoba ulang, atau mengeskalasi?
Nilai kecocokan kandidat terhadap query, profil, kebijakan, atau konteks, lalu gabungkan sinyal dengan aturan bisnis.
Seberapa relevan kandidat ini terhadap permintaan?
Nilai pesan, output, jejak, atau perubahan kode dengan kriteria eksplisit; pertahankan risiko tinggi di belakang gate deterministik.
Apakah ini melanggar aturan yang ditentukan?
Pilih tindakan yang diizinkan untuk game, simulasi, UI, atau perangkat tanpa menunggu respons generatif yang panjang.
Tindakan yang diizinkan mana yang paling sesuai dengan state ini?
Ubah volume record yang besar menjadi kategori, skor, flag, dan fitur untuk sistem berikutnya.
Apa kategori dan tingkat risiko record ini?
Opsi telah diketahui, input rumit secara semantik, keputusan berulang, latensi penting, dan kode memiliki tindakan atau fallback untuk setiap hasil.
Tugas memerlukan teks atau kode baru, penalaran bertahap yang mendalam, riset luas, penjelasan, input multimodal, atau hasil tidak dapat ditentukan sebelumnya.
Keduanya memahami bahasa, dan LLM dapat dibatasi dengan output terstruktur. Perbedaan yang lebih dalam adalah apa yang dirancang untuk dihasilkan model dan bagaimana software menggunakannya.
| Aspek | Jev / System One | LLM generatif umum |
|---|---|---|
| Tugas utama | Menilai hasil yang telah ditentukan | Menghasilkan kelanjutan atau respons |
| Output native | Pilihan bertipe, skor, atau probabilitas ya | Rangkaian token: teks, kode, JSON, atau lainnya |
| Ruang jawaban | Ditentukan sebelum pemanggilan | Pada dasarnya terbuka, meski schema membatasi format akhir |
| Ketidakpastian | Probabilitas untuk setiap jawaban; confidence untuk Choice dan Score | Dapat menyediakan probabilitas token atau confidence yang dilaporkan sendiri, biasanya bukan sinyal tugas yang terkalibrasi |
| Sampling | Menurut TypeSafe, pertanyaan dan output dinilai secara paralel | Umumnya berurutan, token demi token |
| Kekuatan | Cabang semantik berulang, scoring, routing, dan pemeriksaan | Penulisan, percakapan, kode, sintesis, dan penalaran terbuka |
| Mode kegagalan utama | Keputusan valid secara tipe tetapi salah secara semantik | Konten salah, salah format, tidak berdasar, atau menyimpang |
| Peran dalam sistem | Komponen keputusan terbatas dalam kode yang terlihat | Generator fleksibel atau reasoning model, sering dengan orkestrasi yang lebih luas |
Bagi developer yang mengevaluasi System One di luar Jev, bagian berikut menggunakan modul komunitas yang sama dengan halaman Projects. Modul ini membedakan model yang dilatih mandiri dari antarmuka bergaya Jev yang dibangun di atas bobot model yang sudah ada.
Model dan eksperimen antarmuka komunitas ini terinspirasi oleh Jev atau mengeksplorasi pendekatan serupa untuk keputusan terstruktur. Proyek ini bukan rilis resmi Jev dari TypeSafe dan tidak masuk dalam peringkat proyek GitHub di atas.
Qwen3.5-9B + diffusion drafterModel keputusan 9B bergaya Jev dengan tahap penalaran opsional, bobot, kode dan data pelatihan terbuka, serta API lokal yang kompatibel.
Qwen3.5-4BModel keputusan probabilistik 4B dengan kosakata terbuka, bobot dan pelatihan dua tahap yang dipublikasikan, inferensi lokal, serta layanan HTTP.
Qwen3.5-9BAdaptor LoRA dan panduan pelatihan yang terinspirasi Jev untuk pilihan dan pertanyaan ya/tidak. Bisa berjalan lokal, tetapi saat ini hanya menerima teks.
Qwen3-0.6BModel kecil dengan komponen keputusan, kode pelatihan terbuka, dan demo gim untuk menguji pemilihan aksi.
Qwen3.5-2BModel yang disetel ulang untuk menghasilkan probabilitas pertanyaan terstruktur dalam satu proses. Rilis saat ini hanya mendukung bahasa Inggris.
ModernBERT 151M / Verdict 2.0Model keputusan kecil berbasis encoder, dengan bobot yang tersedia dan demo WebGPU di browser.
Qwen3.5-0.8BModel keputusan multimodal 0,8B dengan bobot, kode pelatihan, dan hasil evaluasi yang dipublikasikan. Teks dan gambar diproses dalam satu forward pass; bobotnya untuk riset nonkomersial.
DiffusionGemma 26B-A4BMemakai model DiffusionGemma yang sudah ada untuk menjawab pertanyaan terstruktur lewat API mirip Jev. Tidak merilis bobot model baru.
Open-model logitsMenilai jawaban yang diizinkan memakai model terbuka yang sudah ada melalui antarmuka mirip Jev. Tidak merilis bobot model baru.
Spark-X2.5-4BServer lokal yang kompatibel dengan Jev dan membaca logit jawaban dari Spark-X2.5. Beberapa pertanyaan berbagi satu prefill state; tersedia playground dan benchmark.
Any causal LLMToolkit tanpa pelatihan yang mengubah model bahasa kausal menjadi model keputusan bertipe, lengkap dengan koreksi bias urutan opsi, kalibrasi opsional, dan benchmark yang dapat direproduksi.
Qwen3.5 / DeBERTaServer offline yang kompatibel dengan Jev untuk Qwen atau DeBERTa, telah diuji dengan SDK resmi dan dilengkapi hasil JevBench yang dipublikasikan.
Qwen3-0.6BModel keputusan Qwen3-0.6B untuk jejak agen dan pertanyaan terstruktur lain, dengan bobot terbuka, API HTTP bertipe, dan tanpa decoding token.
Causal LMs / SGLangMengubah model bahasa kausal lokal menjadi layanan Choice, Score, dan Noul yang kompatibel dengan Jev melalui penilaian prefill saja, dengan dukungan SGLang, Transformers, dan multimodal.
Laya / ONNX RuntimeMenjalankan model terbuka Laya System One di Node.js melalui ONNX Runtime, memakai format permintaan kompatibel Jev dan bobot model yang dipublikasikan.
Qwen3.5-0.8BModel keputusan Qwen3.5-0.8B untuk bahasa Thai dan Inggris, dengan bobot, kode pelatihan, dan API HTTP kompatibel Jev yang dipublikasikan.
Qwen3.5-0.8B / 2BModel keputusan multimodal yang terinspirasi Jev untuk teks, gambar, dan video, dengan bobot, kode pelatihan, dan perintah evaluasi yang dipublikasikan.
Qwen3.5-4BModel keputusan terbuka 4B hasil fine-tuning Qwen3.5, lengkap dengan bobot, metode pelatihan yang dapat direproduksi, dan asal data yang terdokumentasi.
Open decision modelsLayanan Rust lokal yang mengunduh dan menjalankan beberapa model keputusan terbuka melalui API asli dan API yang kompatibel dengan TypeSafe.
Qwen3.5-0.8B / 2B / 4BKeluarga model keputusan multimodal Qwen3.5 berukuran 0,8B, 2B, dan 4B dengan bobot, kode pelatihan dan inferensi, tolok ukur kalibrasi, serta API yang kompatibel dengan Jev.
Qwen3.5-4BModel keputusan 4B untuk bahasa Inggris dan Korea dengan bobot dan kuantisasi terbuka, probabilitas terkalibrasi, serta server lokal yang kompatibel dengan TypeSafe.
Qwen3.5-0.8B / 2BKeluarga model lokal 0,8B dan 2B dengan bobot terbuka, konteks panjang, API kompatibel, skill agen, alat MCP, dan perintah evaluasi.
Qwen3.5-2B / 9B · Qwen3.8-27BImplementasi independen dengan bobot 2B, 9B, dan 27B, kode pelatihan, server lokal kompatibel, serta evaluasi yang dapat direproduksi.
Qwen3.5-VL 2B / 4B / 9BKeluarga model multimodal terbuka 2B, 4B, dan 9B untuk teks dan gambar, dengan probabilitas terkalibrasi, kemampuan menolak jawaban, bobot publik, dan API lokal kompatibel.
0.6B / 0.8B / 4B decision modelsModel terbuka berukuran kecil untuk keputusan Choice, Score, dan Noul, dengan bobot publik serta inferensi lokal di CPU, GPU NVIDIA, dan Apple Silicon.
Qwen3.5-0.8B / 4BModel keputusan Qwen3.5 terbuka berukuran 0,8B dan 4B dengan bobot, kode pelatihan, API lokal kompatibel Jev, dan hasil Decision Index yang dapat direproduksi.
Qwen3.5-0.8B / 4BModel Qwen3.5 terbuka berukuran 0,8B dan 4B yang dilatih untuk keputusan agen pencarian, dengan data, bobot, log pelatihan, dan kode kalibrasi yang dipublikasikan.
Cloudflare Clef 27B / 9BMesin native C dan Metal untuk Cloudflare Clef dan Clef-Flash di Apple Silicon yang menyajikan keputusan teks, gambar, dan video melalui API kompatibel Jev.
mmBERT 144.3MModel keputusan encoder dwibahasa 144,3M parameter untuk keputusan bertipe secara lokal, lengkap dengan bobot, alat kalibrasi, evaluasi, dan server kompatibel Jev.
Multilingual Laya checkpointsMesin keputusan multibahasa non-autoregresif dengan checkpoint publik, kode pelatihan dan fine-tuning, keputusan bertipe, serta API lokal yang kompatibel.
Qwen3.5-0.8B / 4BMesin keputusan multimodal lokal berbasis Qwen3.5 beku dan modul fisika kecil yang dapat dilatih, dengan checkpoint publik 0,8B dan 4B.
Laya / ONNX Runtime JavaRuntime Java murni untuk Laya dengan integrasi Spring Boot dan Gradle serta endpoint kompatibel Jev dan OpenAI.
Qwen3.5-4B / Qwen3.8-27BKerangka untuk distilasi dan pelatihan model keputusan bergaya Jev pada Qwen3.5 atau Qwen3.8, lengkap dengan kalibrasi, evaluasi, dan server kompatibel.
LLM-jp 4.1 8B / encoder 310MKeluarga model keputusan bertipe untuk bahasa Jepang dengan bobot terbuka 8B dan 310M, kode pelatihan dan evaluasi, penyajian GGUF, serta API kompatibel System One.
Any llama.cpp GGUFMenambahkan API System One dan jalur klasifikasi khusus pada model chat llama.cpp yang sudah berjalan, dengan kalibrasi dan penalaran terbatas opsional tanpa memuat model kedua.
Qwen3-VL-4BModel keputusan multimodal berbasis Qwen3-VL-4B dengan skor kandidat dinamis, pilihan yang tidak bergantung urutan, kode kalibrasi, dan laporan teknis; checkpoint belum dapat diunduh.
BitNet b1.58 2BModel keputusan ternari berbasis BitNet 2B dengan kepala pointer, probabilitas bertipe, catatan pelatihan yang dapat direproduksi, dan kalibrasi terukur; checkpoint yang diterbitkan masih privat.
Open ONNX decision modelsMenjalankan pilihan model keputusan terbuka secara lokal di CPU melalui ONNX serta menyediakan pustaka bertipe, CLI, REST, dan API kompatibel System One.
Qwen3-VL-4BModel keputusan visual terbuka 4B dengan bobot serta kode pelatihan dan kalibrasi yang dipublikasikan, disajikan melalui API TypeSafe System One.
Open decision model familiesRuntime lokal yang mempercepat model keputusan terbuka dengan percabangan keadaan yang presisi dan menyajikan berbagai keluarga model teks serta multimodal melalui satu antarmuka.
Multilingual encoder 57M / ONNXModel keputusan encoder multibahasa 57 juta parameter untuk Choice, Noul, dan Score, dengan inferensi ONNX, demo browser dan Raspberry Pi, serta API System One yang kompatibel.
Qwen3.5-9B LoRA / GGUFModel keputusan multimodal 9B yang mengutamakan CPU dan didistribusikan sebagai GGUF, dengan Choice, Score, Noul, API kompatibel TypeSafe, dan perangkat fine-tuning LoRA.
Proyek independen dari komunitas, bukan rilis resmi Jev.
Panduan Jev AI Dev ini menjelaskan kerangka TypeSafe dengan kata-kata kami sendiri. Verifikasi detail API, klaim produk, metode evaluasi, dan pembaruan melalui sumber resmi.
Definisikan jawaban, kumpulkan contoh representatif, tentukan penanganan ketidakpastian, lalu bandingkan Jev dengan aturan atau model saat ini. Jangan mengotomatiskan keputusan berdampak tinggi secara langsung.