Typovaný výstup pre otvorené modely
Definujete kontext a otázky s pevne danou množinou odpovedí. AnyJev vráti rozdelenie pre kategorickú voľbu, pravdepodobnosť pre otázku áno/nie alebo očakávanú hodnotu na zoradenej škále.
Nezávislý sprievodca · Aktualizované 25. septembra 2026
AnyJev mení otvorený LLM na typovaný rozhodovací model.
AnyJev je open-source súprava nástrojov v Pythone od Nokia Applied Research. Z kauzálnych jazykových modelov číta rozhodnutia Choice, Score a Noul a koriguje skreslenie poradím možností aj kalibráciu pravdepodobností.
Dôležité: AnyJev nie je nový základný model, otvorené vydanie váh TypeSafe Jev ani oficiálny produkt Jev. Ide o nezávislý spôsob vytvárania rozhodnutí vo formáte Jev nad modelmi, ktoré prevádzkujete sami.
- Správca
- Nokia Applied Research
- Licencia
- Apache-2.0
- Balík
anyjevna PyPI- Stav
- Pre-alpha
AnyJev · L0
state → typed decisionskontext
Suma mi bola zaúčtovaná dvakrát. Vyriešte to, prosím, ešte dnes.
choice · smerovanieKtorý tím má prípad riešiť?
result.level = "L0"Ukážkový výstupPodstatný rozdiel
AnyJev je súprava nástrojov, nie ďalšia sada váh modelu.
Zvolený kauzálny model zostáva rovnaký; mení sa spôsob čítania rozhodnutia s pevne danou množinou odpovedí. AnyJev je preto bližšie k rozhodovacej vrstve než k samostatnému doladenému klasifikátoru.
Úrovne korekcie skreslenia a kalibrácie
Surové logity tokenov odpovede môžu zvýhodniť štítok alebo jeho pozíciu. AnyJev uvádza úroveň korekcie každého rozhodnutia, takže ju aplikácia môže vyžadovať.
Otvorená kópia TypeSafe Jev
Projekt nezverejňuje ani nereprodukuje súkromné váhy, tréningové dáta či metódu RLCD spoločnosti TypeSafe. Podobný tvar požiadavky nedokazuje rovnaké správanie.
Surové → L0 → L1 → L2
Štyri úrovne jasne ukazujú podklad rozhodnutia.
L0 skutočne funguje bez tréningu. Vyššie úrovne používajú označené príklady; L2 prispôsobí malú výstupnú vrstvu konkrétnej otázke bez zmeny váh základného modelu.
SurovéBez štítkov
Číta obmedzený softmax nad logitmi tokenov odpovede.
Bez korekcie pozície možnosti alebo preferencie štítka.
L0Bez štítkov
Rotuje možnosti a koriguje odhadovaný prior štítka.
Stabilnejšie, ale pravdepodobnosti nie sú kalibrované pre úlohu.
L1100–500 štítkov
Pridáva teplotnú kalibráciu pre jeden model a otázku.
Spresňuje odhad istoty, ale neopraví chybné poradie.
L2100–300 štítkov
Prispôsobí malú analytickú výstupnú vrstvu medzistavu skrytých reprezentácií.
Je viazaná na model a otázku; vyžaduje lokálny prístup ku skrytým stavom.
Príklad lokálneho postupu
Nasmerujte požiadavku podpory a overte navrhnutú akciu.
Príklad zodpovedá verejnému API: model Qwen zostáva lokálny, AnyJev prečíta dve ohraničené rozhodnutia a bežný kód aplikácie určí ďalší krok.
Nainštalovať backend Transformers
pip install "anyjev[hf]"Vyžaduje sa Python 3.10 alebo novší. Pri prvom skutočnom spustení sa stiahne aj vybraný otvorený model.
Python
Choice + Noulfrom anyjev import Decider, Question
from anyjev.backends.hf import HFBackend
decider = Decider(HFBackend("Qwen/Qwen3-8B"))
route = Question.choice(
"Which team should handle this?",
["billing", "technical", "sales", "other"],
name="route",
)
risky = Question.noul(
"Is this tool call destructive or irreversible?",
name="risky",
)
result = decider.decide(
{"message": "I was charged twice.", "tool_call": "refund"},
[route, risky],
)
result["route"].distribution
result["risky"].p_true
result.level # "L0"Definujte priestor odpovedí
Aplikácia uvedie povolené tímy a opýta sa, či je navrhnuté volanie nástroja rizikové.
Čítajte ohraničené rozdelenia
Nevytvára sa voľný text. Výsledok obsahuje rozdelenie alebo pravdepodobnosť a použitú úroveň.
Pravidlá ponechajte v kóde
Kód nastaví prahy, pošle neisté prípady na kontrolu a zablokuje vedľajšie účinky pri príliš vysokom riziku.
Benchmark projektu
Hlavný výsledok sa týka bezpečnejšej automatizácie, nielen presnosti.
AnyJev uvádza nasledujúce výsledky Qwen3-8B na 300 testovacích položkách BANKING77. Čísla pochádzajú od autorov z artefaktov v repozitári; Jev AI Dev benchmark nezávisle nezopakoval.
| Metrika | Surové logity | AnyJev L0 | AnyJev L1 |
|---|---|---|---|
| Zmena odpovede po obrátení možností | 0.230 | 0.073 | 0.077 |
| Presnosť | 0.747 | 0.803 | 0.807 |
| Očakávaná chyba kalibrácie | 0.240 | 0.184 | 0.095 |
| Pokrytie pri najviac 5% chybe | 7.7% | 46.3% | 52.0% |
Presnosť v teste vzrástla z 0,747 na 0,807. Väčšou prevádzkovou zmenou bolo pokrytie pri najviac 5% chybe: 7,7 % pri surových logitoch a 52,0 % po kalibrácii L1. Odhad vychádza z malej sady a pre iný postup vyžaduje validáciu.
Pozrieť benchmark a ablácieVideo komunity · 29 sekúnd
Krátko o tom, ako z LLM vytvoriť rozhodovač v štýle Jev.
Data Science in your pocket zverejnil toto krátke predstavenie po vydaní AnyJev. Ide o vysvetlenie tretej strany, nie oficiálne demo Nokia Applied Research ani nezávislý benchmark.
Prehrať „How to convert any LLM into Jev AI?“ na YouTubeTest komunity · September 2026
Test 20 požiadaviek ukázal kompromis medzi presnosťou a odozvou.
WquGuru porovnal oficiálny Jev a tri otvorené projekty na jednom MacBooku s 20 čínskymi požiadavkami podpory. Vlákno obsahuje video, časy a presnosť projektov.
AnyJev s Qwen3-4B údajne správne vyriešil 19 z 20 požiadaviek.
Presnosť95%19 / 20 požiadaviek
Odozva~4shlásená na test
Testovacia sada20čínske požiadavky podpory
Rovnaké vlákno uvádza 20/20 pre oficiálny Jev, 65 % pre Laya a 35 % pre djev. Berte to ako skoré pozorovanie komunity, nie kontrolovaný benchmark: malá sada, jeden stroj a odlišné nastavenia projektov.
Zobraziť porovnanie a video na X“The latency is real. We went correctness first.”
Jiamu „Morris“ Zhang uviedol, že prvá verzia ešte neoptimalizovala cestu obsluhy. AnyJev opísal ako metódu pre už prevádzkované modely a spomenul začiatok optimalizácie vLLM/SGLang.
Prečítať celú odpoveď autoraStručný prehľad projektu a uloženého benchmarku.
MarkTechPost sumarizuje typovaný výstup, rozdiel L0/L1 a výsledky BANKING77. Čísla sú z benchmarku projektu, nie z nezávislej replikácie.
Hranica dôkazov: Jev AI Dev overil, že príspevky tieto tvrdenia obsahujú, ale test komunity nereprodukoval. Počty zobrazení a reakcií sú vynechané, pretože sa menia.
Pred nasadením
Zohľadnite, čo súčasná verzia nerieši.
Typovaný výstup odstráni jeden integračný problém. Sémantický úsudok tým nie je automaticky správny, bezpečný ani prenositeľný.
L0 spotrebuje viac výpočtov pri širokej voľbe
Voľba s K možnosťami používa cyklické rotácie, takže korekcia bez štítkov vyžaduje K prefillov. Viac inferencie zvyšuje stabilitu voči poradiu.
L1 a L2 potrebujú štítky z procesu
Kalibrácia a hlavy patria konkrétnemu modelu a otázke. Pri zmene ich treba znovu zostaviť alebo overiť.
L2 vyžaduje prístup ku skrytým stavom
Súčasná cesta L2 používa lokálny backend Transformers. Enginy vLLM a SGLang sú v pláne projektu.
Publikované čísla nie sú váš akceptačný test
Pred riadením dôležitej akcie pravdepodobnosťou zmerajte presnosť, kalibráciu, citlivosť na poradie a odmietnutie na reprezentatívnych dátach.
Primárne zdroje
Overte projekt priamo pri zdroji.
AnyJev sa rýchlo vyvíja. Pred použitím overte najnovšiu verziu, backendy a obmedzenia.
Preskúmajte ekosystém
Porovnajte AnyJev s ďalšími komunitnými projektmi System One.
AnyJev upravuje otvorený kauzálny LLM v okamihu rozhodnutia. Ekosystém zahŕňa aj účelovo trénované modely, lokálne behové prostredia a experimenty kompatibilné s API.