Nezávislá príručka pre vývojárov

Model Jev AI.
Od nápadu ku kódu.

Jev je prvý model System One od TypeSafe. Vracia štruktúrované rozhodnutia a pravdepodobnosti, s ktorými môže vaša aplikácia ďalej pracovať. Pozrite si príklady použitia a zistite, ako ho volať cez API.

Vyberte si podľa úlohy

Iný prístup k inteligencii.

TypeSafe označuje Jev za model System One: namiesto voľného textu vracia štruktúrované možnosti a pravdepodobnosti. Pozrite sa, kedy sa tento prístup hodí popri generatívnych modeloch a pravidlách zapísaných v kóde.

AspektJevGeneratívne jazykové modelyPravidlá v kóde
VýstupVopred určené štruktúrované možnosti, skóre a pravdepodobnostiVoľný text, kód alebo štruktúrovaný výstupJednoznačné hodnoty odvodené z výslovných podmienok
RýchlosťNavrhnutý na rozhodovanie s nízkou latenciou; TypeSafe vo svojich testoch uvádza 70–500 msZávisí od modelu, zadania a dĺžky odpovedePri známych podmienkach zvyčajne veľmi rýchle
Najlepšie sa hodí naOpakované rozhodnutia, ktoré vyžadujú porozumenie vstupuPísanie, zložitejšie uvažovanie a otvorené úlohyJasne určené a stabilné podmienky
Hlavné obmedzenieNevytvára voľný text; aj štruktúrovaná odpoveď môže byť chybnáVýstup môže vyžadovať spracovanie a overenieNejednoznačné vstupy je ťažké pokryť všetkými pravidlami
i

Údaje o rýchlosti uvádza TypeSafe pre konkrétne testy štruktúrovaného rozhodovania. Nejde o nezávislý benchmark ani všeobecnú záruku rýchlosti. Prečítať metodiku

Praktický rozdiel

Jev použite, keď poznáte možné odpovede, no vstup treba interpretovať. Generatívny model zvoľte na nový text alebo kód. Jasné podmienky zapíšte rovno do kódu.

Hlavná myšlienka

Model na rozhodovanie vo vašich aplikáciách.

Jev vyhodnotí text alebo štruktúrované údaje podľa otázok, ktoré určíte. Vráti možnosti, skóre a pravdepodobnosti, na základe ktorých môže aplikácia zvoliť ďalší krok.

Jev v troch krokochIlustračný príklad · nejde o skutočnú odpoveď modelu
01Zákaznícka správa

Predplatné ste mi zaúčtovali dvakrát. Môžete mi pomôcť?

02Otázka a možnosti

Ktorý tím má požiadavku vybaviť?

Možné odpovede: Fakturácia · Technická podpora · Obchod
03Štruktúrovaný výsledok
FakturáciaJev

Príklad pravdepodobnosti 0.92

01

Poskytnite kontext

Pošlite relevantný text, stav vo formáte JSON alebo zoznam textových položiek. Jev zatiaľ spracúva text, nie obrázky, zvuk ani video.

02

Určte možné odpovede

Požiadajte o výber možnosti, skóre alebo pravdepodobnosť odpovede áno/nie. Prípustné odpovede určíte pred volaním API.

03

Ďalší krok nechajte na svoj kód

Výsledok a mieru neistoty využite na smerovanie, kontrolu či vykonanie akcie. Správny dátový typ sám osebe nezaručuje správny úsudok.

Na základe oficiálnej dokumentácie TypeSafe

Kde sa hodí

Drobné rozhodnutia v bežných pracovných postupoch.

Jev je určený na konkrétne, opakovateľné rozhodnutia s vopred určenými odpoveďami. Ide o podnety na vyskúšanie, nie o prísľub výkonu; overte ich na vlastných údajoch.

01

Zákaznícka podpora

Trieďte prichádzajúce správy, rozpoznávajte naliehavosť a smerujte požiadavky na správny tím. Nejasné prípady odovzdajte človeku.

Príklad rozhodnutiaIde o problém s fakturáciou alebo o technický problém?
02

Odporúčanie a zoraďovanie

Ohodnoťte, nakoľko navrhované položky zodpovedajú kontextu používateľa, a skóre potom spojte s vlastnými signálmi pre zoraďovanie a obchodnými pravidlami.

Príklad rozhodnutiaNakoľko je táto položka relevantná pre danú požiadavku?
03

Koordinácia agentov

Vyberte nástroj alebo model pre ďalší krok, skontrolujte výstup alebo určte, kedy má úlohu prevziať človek.

Príklad rozhodnutiaMá túto požiadavku vybaviť špecializovaný model?
04

Dôveryhodnosť a bezpečnosť

Obsah posudzujte podľa konkrétnych pravidiel. Neisté alebo rizikové prípady pošlite na kontrolu.

Príklad rozhodnutiaPorušuje táto správa tieto zásady?

Na základe príkladov použitia od TypeSafe

Začnite

Od nápadu k prvému rozhodnutiu.

Začnite konkrétnym rozhodnutím, ktoré vaša aplikácia už potrebuje. Určte možné odpovede a v kóde stanovte, ako výsledok použijete.

01

Vyberte otázku

Zvoľte jednu jasnú otázku, napríklad komu prideliť požiadavku na podporu alebo ako ohodnotiť relevantnosť položky.

02

Určte možnosti

Pred volaním API určte vstup, otázky a povolené odpovede.

03

Počítajte s neistotou

Podľa pravdepodobností a miery istoty zvoľte akciu, záložný postup alebo kontrolu človekom.

Integrácia

Pridajte Jev do svojho kódu.

Ukážka serverového kódu v TypeScripte posiela modelu Jev 1.13 cez OpenRouter správu zákazníka a dve otázky s vopred určenými formátmi odpovedí. API kľúč uchovávajte na serveri; vaša aplikácia rozhodne, ako výsledky použije.

TypeScript na strane serveratypesafe/jev-1.13
const apiKey = process.env.OPENROUTER_API_KEY;
if (!apiKey) throw new Error("Set OPENROUTER_API_KEY");

const response = await fetch("https://openrouter.ai/api/alpha/decisions", {
  method: "POST",
  headers: {
    Authorization: "Bearer " + apiKey,
    "Content-Type": "application/json"
  },
  body: JSON.stringify({
    model: "typesafe/jev-1.13",
    state: "My card was charged twice. Please help ASAP.",
    questions: {
      department: {
        type: "choice",
        instructions: "Which team should handle this?",
        criteria: {
          billing: "Payments and refunds",
          technical: "Bugs and integrations"
        }
      },
      urgent: {
        type: "noul",
        instructions: "Does this message need urgent attention?"
      }
    }
  })
});

if (!response.ok) throw new Error("Jev request failed: " + response.status);
const {answers} = await response.json();

if (answers.department.choice === "billing" && answers.urgent.noul > 0.8) {
  // Route to the billing review queue.
}
Koncový bodPOST /api/alpha/decisions
Vstupstate + questions
Výstupanswers

Ako čítať odpoveď

Pole choice určuje tím, pole noul vracia pre otázku áno/nie hodnotu od 0 do 1. Váš kód obe hodnoty použije podľa vlastných pravidiel smerovania.

Pred nasadením do produkcie

Model otestujte na reprezentatívnych požiadavkách, zaznamenajte jeho verziu a nejasné alebo závažné prípady odovzdajte človeku. Hodnota 0,8 je len príklad.

Dokumentácia API: OpenRouter · TypeSafe

Čo znamenajú jednotlivé polia

V požiadavke určíte otázky a formát odpovedí. Odpoveď obsahuje výsledok pre každú otázku. Tu sú vysvetlené polia JSON z príkladu.

Polia požiadavky

model
ID modelu. Príklad výslovne používa verziu Jev 1.13.
state
Text alebo štruktúrované údaje na vyhodnotenie, napríklad správa zákazníka.
questions
Objekt s pomenovanými otázkami. Rovnaké názvy sa objavia v poli answers.
type
Formát odpovede: choice vyberie možnosť, noul vyhodnotí otázku áno/nie.
instructions
Konkrétny úsudok, ktorý má model vykonať.
criteria
Pri type choice: povolené kľúče možností a stručný význam každej z nich.

Polia odpovede

answers
Jeden výsledok pre každú otázku, vždy pod rovnakým názvom.
choice
Kľúč vybranej možnosti s najvyššou pravdepodobnosťou.
probabilities
Pravdepodobnosť každej možnosti; súčet hodnôt je 1.
confidence
Samostatná miera istoty vypočítaná z rozdelenia pravdepodobností; nejde o pravdepodobnosť vybranej možnosti.
noul
Číslo od 0 (nie) do 1 (áno) pre otázku áno/nie.

Aj správne štruktúrovaná odpoveď môže byť chybná. Testujte na reprezentatívnych prípadoch a nastavte vhodné prahy pre svoj pracovný postup.

Diskusie o modeli

Čo hovoria vývojári.

Prečítajte si hlavné body z diskusie po uvedení modelu, oficiálneho SDK a nezávislého videa. Podrobnosti nájdete v pôvodných zdrojoch.

X

TypeSafe na sieti X zdieľa novinky o modeli a jeho využití. Príspevky vyjadrujú pohľad tímu; pred použitím konkrétnych tvrdení si prečítajte dokumentáciu.

Zobraziť pôvodný zdroj

GitHub

Oficiálne SDK pre JavaScript a TypeScript ukazuje API, príklady a históriu vydaní. Môžete v ňom overiť, ako vyzerá požiadavka pre Jev v kóde.

Zobraziť pôvodný zdroj

Hacker News

V diskusii po uvedení modelu vývojári riešia, kde má rozhodovací model zmysel, ako ho hodnotiť a čo robiť, keď je odpoveď s vysokou mierou istoty chybná. Nejde o test výkonu.

Zobraziť pôvodný zdroj
Sledujte na tejto stránke

Ako funguje Jev: štruktúrované rozhodnutia a ich hranice

RepoChad v nezávislom videu rozoberá podobu výstupu, tvrdenia TypeSafe o rýchlosti, ukážky použitia a otvorené otázky. Video sa načíta až po spustení.

Zobraziť pôvodný zdroj
Kto stojí za modelom Jev

Rozhodovanie AI využiteľné v aplikáciách.

TypeSafe AI predstavil Jev ako svoj prvý model System One. Podľa firmy má priniesť rýchle, štruktúrované rozhodnutia do bežných softvérových postupov.

Zakladateľ Diogo Almeida predtým pôsobil v OpenAI a Google Brain. TypeSafe uvádza, že jeho práca v oblasti plnenia pokynov a RLHF ovplyvnila výskum, z ktorého vzišiel ChatGPT.

Dobré otázky

Otázky, ktoré sa oplatí položiť.

Je Jev chatbot?

Nie. Jev vracia štruktúrované rozhodnutia a pravdepodobnosti, nie voľné odpovede v chate alebo vygenerovaný kód.

Dá sa Jev použiť v odporúčacom systéme?

Môže pomôcť ohodnotiť a preusporiadať položky podľa sémantickej relevantnosti. Celý odporúčací systém však stále potrebuje výber produktov či obsahu na odporúčanie, obchodné pravidlá, vyhodnocovanie a vlastnú logiku zoraďovania.

Zaručuje štruktúrovaný výstup správne rozhodnutie?

Nie. Štruktúra určuje formát, vybraná možnosť však môže byť chybná. Model preto testujte na reprezentatívnych údajoch a v kóde počítajte s neistotou.

Kde sa môžem naučiť používať Jev?

Začnite oficiálnou dokumentáciou TypeSafe a SDK. K modelu Jev možno pristupovať aj cez platformu OpenRouter.

Začnite jednou otázkou

Vyskúšajte Jev pri konkrétnom rozhodnutí.

Určte otázku a možné odpovede. O ďalšom kroku podľa výsledku rozhodne vaša aplikácia.