Neodvisen vodnik za razvijalce

Model Jev AI.
Od ideje do kode.

Jev je prvi model System One podjetja TypeSafe. Vrača strukturirane odločitve in verjetnosti, ki jih lahko uporabi vaša aplikacija. Oglejte si primere uporabe in način klica prek API-ja.

Izberite glede na nalogo

Drugačna oblika inteligence.

TypeSafe Jev opisuje kot model System One: namesto prostega besedila vrača strukturirane izbire in verjetnosti. Poglejte, kdaj je tak pristop uporaben v primerjavi z generativnimi modeli in pravili v kodi.

VidikJevGenerativni jezikovni modeliKoda s pravili
IzhodVnaprej določene strukturirane izbire, ocene in verjetnostiProsto besedilo, koda ali strukturiran izhodPredvidljivi rezultati na podlagi izrecnih pogojev
HitrostZasnovan za odločitve z nizko zakasnitvijo; TypeSafe v svojih testih navaja 70–500 msOdvisno od modela, poziva in dolžine odgovoraPri znanih pogojih praviloma zelo hitro
Najprimernejše zaPonovljive odločitve, pri katerih je treba razumeti vhodne podatkePisanje, zahtevnejše sklepanje in odprte nalogeJasno določene in stabilne pogoje
Glavna omejitevNe ustvarja prostega besedila; tudi strukturiran odgovor je lahko napačenIzhod bo morda treba razčleniti in preveritiDvoumne vhodne podatke je težko zajeti z vsemi pravili
i

Podatke o hitrosti navaja TypeSafe za določene teste strukturiranih odločitev. Ne gre za neodvisen preizkus ali splošno zagotovilo hitrosti. Preberite opis metodologije

Praktična razlika

Jev uporabite, kadar so možni odgovori znani, vhodne podatke pa je treba razumeti. Generativni model uporabite za novo besedilo ali kodo. Jasne pogoje zapišite neposredno v kodi.

Osnovna ideja

Model za odločitve v vaši aplikaciji.

Jev na podlagi vaših vprašanj ovrednoti besedilo ali strukturirane podatke. Vrne možnosti, ocene in verjetnosti, na podlagi katerih lahko aplikacija določi naslednji korak.

Jev v treh korakihPonazoritev · ni dejanski odgovor modela
01Sporočilo stranke

Naročnino ste mi zaračunali dvakrat. Mi lahko pomagate?

02Vprašanje in možnosti

Katera ekipa bi morala to obravnavati?

Možni odgovori: Obračun · Tehnična podpora · Prodaja
03Strukturiran rezultat
ObračunJev

Primer verjetnosti 0.92

01

Podajte kontekst

Posredujte ustrezno besedilo, stanje v obliki JSON ali seznam besedilnih elementov. Jev trenutno obdeluje besedilo, ne pa slik, zvoka ali videa.

02

Določite možne odgovore

Zahtevajte izbiro, oceno ali verjetnost odgovora da/ne. Možne odgovore določite pred klicem API-ja.

03

Naj vaša koda odloči, kaj sledi

Rezultat in stopnjo negotovosti uporabite za usmerjanje, pregled ali ukrepanje. Pravilna oblika odgovora še ne pomeni pravilne odločitve.

Na podlagi uradne dokumentacije TypeSafe

Primeri uporabe

Majhne odločitve v vsakdanjih delovnih tokovih.

Jev je namenjen ozko opredeljenim, ponovljivim odločitvam z vnaprej določenimi odgovori. To so izhodišča, ne obljube o zmogljivosti. Preizkusite jih na svojih podatkih.

01

Podpora strankam

Razvrstite prejeta sporočila, prepoznajte nujne primere in jih usmerite k ustrezni ekipi. Nejasne primere prepustite človeku.

Primer odločitveJe to težava z obračunavanjem ali tehnična težava?
02

Priporočila in razvrščanje

Ocenite, kako se posamezni predlogi ujemajo z uporabnikovim kontekstom, nato oceno združite s svojimi signali za razvrščanje in poslovnimi pravili.

Primer odločitveKako ustrezen je ta predlog glede na zahtevo?
03

Usklajevanje agentov

Izberite orodje ali model za naslednji korak, preverite rezultat ali določite, kdaj mora nalogo prevzeti človek.

Primer odločitveAli naj zahtevo obravnava specializiran model?
04

Zaupanje in varnost

Vsebino preverite glede na konkretna pravila. Negotove ali tvegane primere pošljite v pregled.

Primer odločitveAli to sporočilo krši ta pravilnik?

Na podlagi primerov uporabe podjetja TypeSafe

Začnite

Od zamisli do prve odločitve.

Začnite z natančno opredeljeno odločitvijo, ki jo vaša aplikacija že potrebuje. Določite možne odgovore in v kodi določite, kako boste uporabili rezultat.

01

Izberite vprašanje

Izberite eno jasno vprašanje, na primer usmerjanje zahtevka za podporo ali oceno ustreznosti predloga.

02

Določite možnosti

Pred klicem API-ja določite vhodne podatke, vprašanja in dovoljene odgovore.

03

Upoštevajte negotovost

Na podlagi verjetnosti in ocene zaupanja izberite dejanje, nadomestni postopek ali ročni pregled.

Integracija

Dodajte Jev v svojo kodo.

Ta strežniški primer v TypeScriptu pošlje sporočilo za podporo in dve vprašanji z določenima oblikama odgovora modelu Jev 1.13 prek OpenRouterja. Ključ API hranite na strežniku; vaša aplikacija določi, kako bo uporabila rezultat.

TypeScript na strani strežnikatypesafe/jev-1.13
const apiKey = process.env.OPENROUTER_API_KEY;
if (!apiKey) throw new Error("Set OPENROUTER_API_KEY");

const response = await fetch("https://openrouter.ai/api/alpha/decisions", {
  method: "POST",
  headers: {
    Authorization: "Bearer " + apiKey,
    "Content-Type": "application/json"
  },
  body: JSON.stringify({
    model: "typesafe/jev-1.13",
    state: "My card was charged twice. Please help ASAP.",
    questions: {
      department: {
        type: "choice",
        instructions: "Which team should handle this?",
        criteria: {
          billing: "Payments and refunds",
          technical: "Bugs and integrations"
        }
      },
      urgent: {
        type: "noul",
        instructions: "Does this message need urgent attention?"
      }
    }
  })
});

if (!response.ok) throw new Error("Jev request failed: " + response.status);
const {answers} = await response.json();

if (answers.department.choice === "billing" && answers.urgent.noul > 0.8) {
  // Route to the billing review queue.
}
Končna točkaPOST /api/alpha/decisions
Vnosstate + questions
Izhodanswers

Kako prebrati odgovor

Polje choice določa ekipo, polje noul pa vrne vrednost od 0 do 1 za vprašanje da/ne. Vaša koda obe vrednosti uporabi skupaj s pravili za usmerjanje.

Pred uporabo v produkciji

Preizkusite model na reprezentativnih zahtevkih, zabeležite njegovo različico in negotove ali občutljive primere pošljite v ročni pregled. Vrednost 0,8 je samo primer.

Viri za API: OpenRouter · TypeSafe

Pomen posameznih polj

V zahtevi določite vprašanja in oblike odgovorov. Odgovor vsebuje rezultat za vsako vprašanje. Spodaj so razložena polja JSON iz primera.

Polja zahteve

model
ID modela. V primeru je navedena različica Jev 1.13.
state
Besedilo ali strukturirani podatki za oceno, denimo sporočilo uporabnika.
questions
Objekt s poimenovanimi vprašanji. Ista imena se pojavijo v polju answers.
type
Oblika odgovora: choice izbere možnost, noul pa oceni vprašanje da/ne.
instructions
Natančno opredeljena presoja, ki jo mora opraviti model.
criteria
Pri tipu choice: dovoljeni ključi možnosti in kratek opis vsake od njih.

Polja odgovora

answers
Po en rezultat za vsako vprašanje, pod istim imenom.
choice
Ključ izbrane možnosti, ki ima najvišjo verjetnost.
probabilities
Verjetnost za vsako možnost; skupna vsota je 1.
confidence
Ločena ocena zaupanja, izračunana iz porazdelitve verjetnosti. Ni enaka verjetnosti izbrane možnosti.
noul
Število od 0 (ne) do 1 (da) za vprašanje da/ne.

Tudi pravilno oblikovan odgovor je lahko napačen. Preizkusite reprezentativne primere in nastavite pragove za svoj potek dela.

Razprave o modelu

Kaj pravijo razvijalci.

Preberite povzetke razprave ob predstavitvi modela, uradnega SDK-ja in neodvisnega videa. Za več podrobnosti so na voljo izvirni viri.

X

TypeSafe na omrežju X objavlja novice o modelu in njegovi zasnovi. Objave predstavljajo pogled ekipe; pred uporabo posameznih trditev preverite dokumentacijo.

Odprite izvirnik

GitHub

Uradni SDK za JavaScript in TypeScript prikazuje API, primere in zgodovino izdaj. Tam lahko preverite, kako je zahteva za Jev zapisana v kodi.

Odprite izvirnik

Hacker News

V razpravi ob predstavitvi razvijalci sprašujejo, kje je uporaben odločitveni model, kako ga oceniti in kaj storiti, ko se odgovor z visoko oceno zaupanja izkaže za napačnega. Razprava ni preizkus zmogljivosti.

Odprite izvirnik
Oglejte si na tej strani

Razlaga modela Jev: strukturirane odločitve in omejitve

RepoChad v neodvisnem videu predstavi obliko izhoda, navedbe TypeSafe o hitrosti, prikaze uporabe in odprta vprašanja. Video se naloži šele ob predvajanju.

Odprite izvirnik
Kdo stoji za modelom Jev

Odločitve modela AI, uporabne v programski opremi.

TypeSafe AI je Jev predstavil kot svoj prvi model System One. Po navedbah podjetja je cilj omogočiti hitre, strukturirane odločitve v običajnih programskih delovnih tokovih.

Ustanovitelj Diogo Almeida je pred tem delal pri OpenAI in Google Brain. Po navedbah TypeSafe je njegovo delo na področju sledenja navodilom in RLHF prispevalo k raziskavam v ozadju ChatGPT-ja.

Dobra vprašanja

Vprašanja, ki si jih je vredno zastaviti.

Ali je Jev klepetalni robot?

Ne. Jev vrača strukturirane odločitve in verjetnosti, ne pa prostih odgovorov v klepetu ali ustvarjene kode.

Ali je Jev uporaben za priporočila?

Pomaga lahko oceniti in prerazvrstiti predloge glede na pomensko ustreznost. Celoten priporočilni sistem potrebuje še izbor izdelkov ali vsebin za priporočanje, poslovna pravila, vrednotenje in lastno logiko razvrščanja.

Ali strukturiran izhod pomeni pravilno odločitev?

Ne. Strukturiran izhod določa obliko, izbrana možnost pa je še vedno lahko napačna. Preizkusite model na reprezentativnih podatkih in negotovost obravnavajte v kodi.

Kje se lahko naučim uporabljati Jev?

Začnite z uradno dokumentacijo in SDK-jem TypeSafe. Do modela Jev lahko dostopate tudi prek platforme OpenRouter.

Začnite z enim vprašanjem

Preizkusite Jev pri konkretni odločitvi.

Določite vprašanje in možne odgovore. Aplikacija naj na podlagi rezultata izbere naslednji korak.