Pochopiť stav
Model interpretuje prirodzený alebo štruktúrovaný text: tiket, stopu Agenta, záznam produktu či stav hry.
Jev AI Dev · príručka pre vývojárov
Čo je model AI System One? Príručka k Jev pre vývojárov.
System One je trieda modelov AI od TypeSafe, ktorá mení neštruktúrovaný stav aplikácie na typované odpovede a pravdepodobnosti. Jev je prvá implementácia: ohraničená rozhodovacia súčasť pre kód aplikácie.
- Vstup
- Text, JSON alebo zoznamy textov
- Výstup
- Choice, Score alebo Noul
- Tok riadenia
- Zostáva vo vašom kóde
Toto je nezávislá príručka pre vývojárov. Informácie o produkte a výkone pochádzajú z materiálov TypeSafe. Pred produkciou overte Jev na vlastných dátach.
System One
state → decisionsstate
„Platbu mi strhli dvakrát. Potrebujem to vyriešiť dnes.“
choicefakturácia0.96
noulnaliehavé0.88
scorenespokojnosť1.7 / 2
if (confidence < threshold) → reviewTrieda modelu
Model System One je rozhodovacie primitívum pre kód aplikácie.
System One rozumie významu vstupu, ale nepokračuje v rozhovore ani nepíše odpoveď. Najprv určíte otázku a povolený tvar odpovede; model vráti ohraničený úsudok, ktorý program môže skontrolovať.
Dodržať kontrakt
Aplikácia pred volaním určí priestor odpovedí. Model zvolí možnosť, ohodnotí na škále alebo posúdi tvrdenie áno/nie.
Ukázať neistotu
Každá odpoveď obsahuje pravdepodobnosť. Choice a Score navyše sumarizujú rozdelenie ako confidence.
Skladať s kódom
Prahy, pravidlá, akcie, opakovania, záložné cesty a ľudská kontrola zostávajú v bežnom kóde.
Jev v pracovnom toku
Ako vývojári zapájajú Jev do kódu aplikácie.
Jev mení jedno volanie modelu na súbor rozhodovacích signálov. Užitočnou jednotkou nie je ťah konverzácie, ale malý typovaný kontrakt medzi modelom a aplikáciou.
1. Zostavte stav
Pošlite informácie potrebné na rozhodnutie. Jev aktuálne prijíma textové vstupy: reťazce, objekty JSON a zoznamy textov.
Správa zákazníka + údaje účtu2. Definujte otázky
Otázku pomenujte, vyberte primitive a opíšte možnosti alebo škálu. Viac nezávislých otázok môže byť v jednej požiadavke.
oddelenie · naliehavosť · nespokojnosť3. Jev vyhodnotí
Pre každú otázku vráti typovanú odpoveď a pravdepodobnosť. Choice a Score obsahujú aj confidence.
fakturácia · 0,93 · vysoká confidence4. Kód uplatní pravidlá
Výstup spojte s deterministickými kontrolami. Jasné prípady s nízkym rizikom vykonajte, nejasné alebo významné odovzdajte človeku či reasoning modelu.
smerovať · opýtať sa · overiť · zastaviťTri tvary odpovede
Choice
billingKtorý tím má prípad riešiť?
Zvolí jednu možnosť z vopred danej množiny a vráti pravdepodobnosť každej možnosti.
Score
1.43 / 2Aký závažný je problém?
Umiestni vstup na opísanú usporiadanú škálu; výsledok môže byť medzi úrovňami.
Noul
0.95Žiada správa vrátenie peňazí?
Posúdi tvrdenie áno/nie a vráti pravdepodobnosť „áno“.
Dôvod
Prečo TypeSafe vytvoril modelové rozhranie pre softvér.
Generatívne modely tvoria flexibilné reťazce pre ľudí. TypeSafe tvrdí, že softvér potrebuje užšiu inteligenciu: vložiteľnú do kódu, opakovateľnú, ukazujúcu neistotu a zachovávajúcu viditeľný tok riadenia.
Reťazce sú pružné, ale otvorené
Výstup môže byť text, kód, JSON, odmietnutie alebo zlý formát. Aplikácia často musí pred akciou parsovať, overovať a riešiť chyby.
Automatizácia potrebuje hranice
Keď model beží na pozadí, program musí vopred poznať možné výsledky a akcie, ktoré každý z nich povoľuje.
Neistota má meniť tok
Rozdelenie pravdepodobnosti umožní automatizovať jasné prípady a nejasné poslať bezpečnejšou cestou.
Malé rozhodnutia sa majú skladať
Zložitý tok možno rozdeliť na cielené sémantické úsudky a spojiť deterministickou logikou namiesto ukrytia v jednom veľkom prompte.
Kde sa hodí
Kde System One AI zapadá do vývojových tokov.
Najlepšie úlohy sa často opakujú, vyžadujú pochopenie neusporiadaného vstupu a vedú k niekoľkým akciám, ktoré aplikácia už vie vykonať.
Zákaznícka podpora
Trieďte tikety, určujte zámer a naliehavosť, odhadujte sentiment a nejasné prípady posielajte na kontrolu.
Fakturácia, technika, účet alebo niečo iné?
Riadenie Agenta
Voľte model alebo nástroj, určujte potrebu vyhľadávania, úplnosť výsledku alebo kontrolujte navrhované volanie nástroja.
Má Agent pokračovať, opakovať alebo eskalovať?
Poradie a relevancia
Ohodnoťte zhodu kandidáta s dotazom, profilom, politikou či kontextom a spojte signál s obchodnými pravidlami.
Ako relevantný je kandidát pre požiadavku?
Bezpečnosť a overenie
Hodnoťte správy, výstupy, stopy alebo zmeny kódu podľa jasných kritérií; vysoké riziko držte za deterministickými bránami.
Porušuje to uvedené pravidlo?
Interakcia v reálnom čase
Vyberajte povolené akcie pre hry, simulácie, rozhrania či zariadenia bez dlhej generovanej odpovede.
Ktorá povolená akcia najlepšie zodpovedá stavu?
Dátové operácie
Premieňajte veľké objemy záznamov na kategórie, skóre, príznaky a vlastnosti pre ďalšie systémy.
Aká kategória a úroveň rizika platí pre záznam?
Dobrá voľba
Možnosti sú známe, vstup je sémanticky zložitý, rozhodnutie sa opakuje, záleží na latencii a kód pozná akciu alebo záložnú cestu pre každý výsledok.
Zlá voľba
Je potrebný originálny text či kód, hlboké viackrokové uvažovanie, široký výskum, vysvetlenie, multimodálny vstup alebo výsledky nemožno určiť vopred.
System One a generatívne LLM
System One a generatívne LLM majú v AI stacku rozdielne úlohy.
Oba prístupy rozumejú jazyku a LLM možno obmedziť štruktúrovaným výstupom. Hlbší rozdiel je v tom, čo má model prirodzene vracať a ako ho okolitý softvér používa.
| Aspekt | Jev / System One | Bežný generatívny LLM |
|---|---|---|
| Hlavná úloha | Vyhodnotiť vopred dané výsledky | Generovať pokračovanie alebo odpoveď |
| Natívny výstup | Typovaná voľba, skóre alebo pravdepodobnosť áno | Sekvencia tokenov: text, kód, JSON alebo iné |
| Priestor odpovedí | Deklarovaný pred volaním | Z podstaty otvorený, aj keď schema obmedzuje konečný formát |
| Neistota | Pravdepodobnosť každej odpovede; confidence pre Choice a Score | Môže dať pravdepodobnosti tokenov alebo vlastnú istotu, zvyčajne nie kalibrovaný signál úlohy |
| Vzorkovanie | Podľa TypeSafe sa otázky a výstupy hodnotia paralelne | Zvyčajne sekvenčne, token po tokene |
| Silné stránky | Časté sémantické vetvenie, scoring, routing a kontroly | Písanie, dialóg, programovanie, syntéza a otvorené uvažovanie |
| Hlavné zlyhanie | Typovo platné, ale sémanticky chybné rozhodnutie | Chybný, zle formovaný, nepodložený alebo odchylný obsah |
| Úloha v systéme | Ohraničená rozhodovacia súčasť vo viditeľnom kóde | Flexibilný generátor či reasoning model, často s väčšou orchestráciou |
Pre vývojárov, ktorí hodnotia System One aj mimo Jev, je nižšie rovnaký komunitný modul ako na stránke Projects. Oddeľuje samostatne trénované modely od rozhraní podobných Jev postavených na existujúcich váhach.
System One
Komunitný ekosystém System One
Tieto komunitné modely a experimenty s rozhraním sa inšpirujú Jevom alebo skúmajú podobné prístupy k štruktúrovanému rozhodovaniu. Nie sú to oficiálne verzie Jevu od TypeSafe a nie sú súčasťou vyššie uvedeného rebríčka projektov na GitHube.
Komunitný model
Qwen3.5-9B + diffusion drafterJeeves
Rozhodovací model 9B v štýle Jev s voliteľnou fázou uvažovania, zverejnenými váhami, tréningovým kódom a dátami a kompatibilným lokálnym API.
Komunitný model
Qwen3.5-4BOpenJev-4B
Pravdepodobnostný rozhodovací model 4B s otvorenou slovnou zásobou, zverejnenými váhami a dvojfázovým tréningom, lokálnou inferenciou a službou HTTP.
Komunitný model
Qwen3.5-9BBespoke Nimble
Adaptér LoRA a postup trénovania inšpirovaný Jevom pre výber z možností a otázky áno/nie. Beží lokálne a zatiaľ prijíma len text.
Komunitný model
Qwen3-0.6BNanoJev
Malý model s rozhodovacími hlavami, zverejneným tréningovým kódom a hernými ukážkami výberu akcií.
Komunitný model
Qwen3.5-2Bdecider
Doladený model vracia rozdelenie pravdepodobností pre štruktúrované otázky v jedinom prechode. Súčasná verzia podporuje iba angličtinu.
Komunitný model
ModernBERT 151M / Verdict 2.0Verdict
Malý rozhodovací model založený na enkodéri so zverejnenými váhami a ukážkou WebGPU v prehliadači.
Komunitný model
Qwen3.5-0.8BDohnuts
Multimodálny rozhodovací model s 0,8B parametrami a zverejnenými váhami, tréningovým kódom aj výsledkami testov. Text a obrázky spracuje v jednom priechode; váhy sú určené na nekomerčný výskum.
Experiment s rozhraním
DiffusionGemma 26B-A4BOpenJev
Používa existujúci model DiffusionGemma na odpovedanie na štruktúrované otázky cez rozhranie podobné Jevu. Nezverejňuje nové váhy modelu.
Experiment s rozhraním
Open-model logitsSimple Jev
Hodnotí povolené odpovede pomocou existujúcich otvorených modelov cez rozhranie podobné Jevu. Nezverejňuje nové váhy modelu.
Experiment s rozhraním
Spark-X2.5-4BRizzo Flow
Lokálny server kompatibilný s Jev, ktorý číta logity odpovedí modelu Spark-X2.5. Otázky zdieľajú jeden prefill stavu; súčasťou je aj skúšobné rozhranie a benchmarky.
Experiment s rozhraním
Any causal LLMAnyJev
Nástroj, ktorý bez tréningu mení kauzálne jazykové modely na typované rozhodovacie modely, s korekciou vplyvu poradia možností, voliteľnou kalibráciou a reprodukovateľnými benchmarkmi.
Experiment s rozhraním
Qwen3.5 / DeBERTalocal-jev
Offline server kompatibilný s Jev pre Qwen alebo DeBERTa, otestovaný s oficiálnym SDK a s publikovanými výsledkami JevBench.
Komunitný model
Qwen3-0.6BAgentJev
Rozhodovací model Qwen3-0.6B pre stopy agentov a ďalšie štruktúrované otázky, so zverejnenými váhami, typovaným HTTP API a bez dekódovania tokenov.
Experiment s rozhraním
Causal LMs / SGLangLLM2Jev
Mení lokálne kauzálne jazykové modely na služby Choice, Score a Noul kompatibilné s Jev pomocou hodnotenia iba prefillu; podporuje SGLang, Transformers a multimodálne dáta.
Experiment s rozhraním
Laya / ONNX RuntimeLaya
Spúšťa otvorený model Laya System One v Node.js cez ONNX Runtime, s formátom požiadaviek kompatibilným s Jev a zverejnenými váhami.
Komunitný model
Qwen3.5-0.8BOpenThai System One
Rozhodovací model Qwen3.5-0.8B pre thajčinu a angličtinu so zverejnenými váhami, tréningovým kódom a HTTP API kompatibilným s Jev.
Komunitný model
Qwen3.5-0.8B / 2BValen
Multimodálny rozhodovací model inšpirovaný Jev pre text, obrázky a video s publikovanými váhami, tréningovým kódom a príkazmi na vyhodnotenie.
Komunitný model
Qwen3.5-4BTev1
Otvorený rozhodovací model 4B doladený z Qwen3.5 s váhami, reprodukovateľným postupom tréningu a zdokumentovaným pôvodom dát.
Experiment s rozhraním
Open decision modelsOllaya
Lokálna služba v Ruste, ktorá sťahuje a spúšťa viacero otvorených rozhodovacích modelov cez vlastné a s TypeSafe kompatibilné API.
Komunitný model
Qwen3.5-0.8B / 2B / 4BIntern-Decision
Multimodálna rodina modelov Qwen3.5 s veľkosťou 0,8B, 2B a 4B, váhami, kódom na tréning a inferenciu, testami kalibrácie a API kompatibilným s Jev.
Komunitný model
Qwen3.5-4BMica
Rozhodovací model 4B pre angličtinu a kórejčinu s verejnými váhami a kvantizáciami, kalibrovanými pravdepodobnosťami a lokálnym serverom kompatibilným s TypeSafe.
Komunitný model
Qwen3.5-0.8B / 2BJev-Style
Lokálna rodina modelov 0,8B a 2B s váhami, dlhým kontextom, kompatibilným API, zručnosťami agentov, nástrojmi MCP a príkazmi na vyhodnotenie.
Komunitný model
Qwen3.5-2B / 9B · Qwen3.8-27BOpen-Jev
Nezávislá implementácia s publikovanými váhami 2B, 9B a 27B, tréningovým kódom, kompatibilným lokálnym serverom a reprodukovateľnými testami.
Komunitný model
Qwen3.5-VL 2B / 4B / 9Bimajev
Otvorená multimodálna rodina modelov 2B, 4B a 9B pre text a obrázky, s kalibrovanými pravdepodobnosťami, možnosťou odmietnuť odpoveď, zverejnenými váhami a kompatibilným lokálnym API.
Komunitný model
0.6B / 0.8B / 4B decision modelsOpenDecider
Malé otvorené modely pre rozhodnutia Choice, Score a Noul so zverejnenými váhami a lokálnou inferenciou na CPU, GPU NVIDIA a Apple Silicon.
Komunitný model
Qwen3.5-0.8B / 4Bjiwo
Otvorené rozhodovacie modely Qwen3.5 s 0,8B a 4B parametrami, zverejnenými váhami a tréningovým kódom, lokálnym API kompatibilným s Jev a reprodukovateľnými výsledkami Decision Index.
Komunitný model
Qwen3.5-0.8B / 4BSearchJev
Otvorené modely Qwen3.5 s 0,8B a 4B parametrami trénované na rozhodovanie vyhľadávacích agentov, so zverejnenými dátami, váhami, záznamami tréningu a kalibračným kódom.
Experiment s rozhraním
Cloudflare Clef 27B / 9Bcleffa
Natívny engine v C a Metale pre Cloudflare Clef a Clef-Flash na Apple Silicon, ktorý poskytuje rozhodnutia pre text, obrázky a video cez API kompatibilné s Jev.
Komunitný model
mmBERT 144.3MPhocinae Largha
Dvojjazyčný rozhodovací model s enkodérom a 144,3M parametrami pre lokálne typované rozhodnutia, s váhami, kalibračnými nástrojmi, testami a serverom kompatibilným s Jev.
Komunitný model
Multilingual Laya checkpointsLaya Decision Engine
Viacjazyčný neautoregresný rozhodovací engine s verejnými checkpointmi, kódom na tréning a doladenie a kompatibilnými lokálnymi API.
Komunitný model
Qwen3.5-0.8B / 4BVegaML
Lokálny multimodálny engine so zmrazenými modelmi Qwen3.5 a malým trénovateľným fyzikálnym modulom, s verejnými checkpointmi 0,8B a 4B.
Experiment s rozhraním
Laya / ONNX Runtime Javalaya-java
Čistý Java runtime pre Laya s integráciou Spring Boot a Gradle a endpointmi kompatibilnými s Jevom a OpenAI.
Komunitný model
Qwen3.5-4B / Qwen3.8-27Btrain-jev
Framework na destiláciu a tréning rozhodovacích modelov v štýle Jevu na Qwen3.5 alebo Qwen3.8, s kalibráciou, hodnotením a kompatibilným serverom.
Komunitný model
LLM-jp 4.1 8B / encoder 310Msaihai
Japonská rodina typovaných rozhodovacích modelov s otvorenými váhami 8B a 310M, kódom na tréning a hodnotenie, obsluhou GGUF a API kompatibilným so System One.
Experiment s rozhraním
Any llama.cpp GGUFCallosum
Pridáva k existujúcemu chatovaciemu modelu llama.cpp API System One a vyhradené klasifikačné dráhy, voliteľnú kalibráciu a obmedzené uvažovanie bez načítania druhého modelu.
Komunitný model
Qwen3-VL-4BOpenVisualJev
Multimodálny rozhodovací model na Qwen3-VL-4B s dynamickým hodnotením možností, voľbou nezávislou od poradia, kalibračným kódom a technickou správou; checkpointy zatiaľ nie sú na stiahnutie.
Komunitný model
BitNet b1.58 2BBitSOne-s1
Ternárny rozhodovací model BitNet 2B s ukazovacou hlavou, typovanými pravdepodobnosťami, reprodukovateľným záznamom tréningu a zmeranou kalibráciou; zverejnený checkpoint je zatiaľ súkromný.
Experiment s rozhraním
Open ONNX decision modelsdecision-toolkit
Lokálne na CPU cez ONNX spúšťa vybranú sadu otvorených rozhodovacích modelov a ponúka typovanú knižnicu, CLI, REST a API kompatibilné so System One.
Komunitný model
Qwen3-VL-4BFovea
Otvorený vizuálny rozhodovací model 4B so zverejnenými váhami a kódom na trénovanie a kalibráciu, poskytovaný cez API TypeSafe System One.
Experiment s rozhraním
Open decision model familiesFlide
Lokálne prostredie, ktoré zrýchľuje otvorené rozhodovacie modely presným vetvením stavu a sprístupňuje viac textových aj multimodálnych rodín cez jedno rozhranie.
Komunitný model
Multilingual encoder 57M / ONNXSkejja
Viacjazyčný enkodérový rozhodovací model s 57 miliónmi parametrov pre Choice, Noul a Score, s inferenciou ONNX, ukážkami v prehliadači a na Raspberry Pi a kompatibilným API System One.
Komunitný model
Qwen3.5-9B LoRA / GGUFOpenChoice-9B
Multimodálny rozhodovací model 9B zameraný na CPU vo formáte GGUF, s Choice, Score, Noul, API kompatibilným s TypeSafe a sadou na dolaďovanie LoRA.
Nezávislé komunitné projekty, nie oficiálne verzie Jevu.
Sledujte nové komunitné modely a experimenty s rozhraniami v Jev AI Radar.Preskúmať Jev AI Radar
Primárne zdroje
Čítajte tvrdenia v kontexte.
Táto príručka Jev AI Dev vysvetľuje rámec TypeSafe vlastnými slovami. Podrobnosti API, tvrdenia o produkte, hodnotenie a zmeny overujte v oficiálnych zdrojoch.
Overte formu, nielen myšlienku
Začnite jedným rozhodnutím, ktoré aplikácia už robí.
Definujte odpovede, zhromaždite reprezentatívne príklady, určte prácu s neistotou a porovnajte Jev so súčasnými pravidlami alebo modelom. Neautomatizujte priamo rozhodnutia s veľkým vplyvom.