AnyJev to otwartoźródłowy zestaw narzędzi Python od Nokia Applied Research. Odczytuje decyzje Choice, Score i Noul z przyczynowych modeli językowych, a następnie koryguje wpływ kolejności opcji i kalibruje prawdopodobieństwa.
Ważne: AnyJev nie jest nowym modelem bazowym, otwartą publikacją wag Jev firmy TypeSafe ani oficjalnym produktem Jev. To niezależny sposób budowania decyzji w formacie Jev na modelach uruchamianych we własnym środowisku.
anyjev w PyPIstate → typed decisionsOpłata została pobrana dwa razy. Proszę rozwiązać to jeszcze dziś.
result.level = "L0"Przykładowy wynikWybrany model przyczynowy pozostaje bez zmian; zmienia się sposób odczytu decyzji z zamkniętym zbiorem odpowiedzi. AnyJev jest więc bliższy warstwie decyzyjnej niż samodzielnemu, dostrojonemu klasyfikatorowi.
Definiujesz kontekst i jedno lub więcej pytań z zamkniętym zbiorem odpowiedzi. AnyJev zwraca rozkłady dla wyborów kategorycznych, prawdopodobieństwo dla pytań tak/nie albo wartość oczekiwaną na uporządkowanej skali.
Surowe logity tokenów odpowiedzi mogą preferować etykietę lub jej pozycję. AnyJev wskazuje poziom korekty każdej decyzji, dzięki czemu aplikacja może wymagać właściwego poziomu.
Projekt nie publikuje ani nie odtwarza prywatnych wag, danych treningowych czy metody RLCD TypeSafe. Podobny format zapytania nie dowodzi równoważnego działania.
L0 rzeczywiście nie wymaga treningu. Wyższe poziomy wykorzystują oznaczone przykłady; L2 dopasowuje małą głowicę wyjściową dla konkretnego pytania bez zmiany wag modelu bazowego.
Bez korekty pozycji opcji ani preferencji etykiet.
Większa stabilność, ale prawdopodobieństwa nie są skalibrowane dla zadania.
Poprawia ocenę pewności, ale nie naprawia błędnego rankingu.
Dotyczy konkretnego modelu i pytania; wymaga lokalnego dostępu do stanów ukrytych.
Przykład odzwierciedla publiczne API: model Qwen pozostaje lokalny, AnyJev odczytuje dwie decyzje z zamkniętym zbiorem odpowiedzi, a zwykły kod aplikacji określa dalsze kroki.
pip install "anyjev[hf]"Wymagany jest Python 3.10 lub nowszy. Pierwsze właściwe uruchomienie pobierze też wybrany otwarty model.
Choice + Noulfrom anyjev import Decider, Question
from anyjev.backends.hf import HFBackend
decider = Decider(HFBackend("Qwen/Qwen3-8B"))
route = Question.choice(
"Which team should handle this?",
["billing", "technical", "sales", "other"],
name="route",
)
risky = Question.noul(
"Is this tool call destructive or irreversible?",
name="risky",
)
result = decider.decide(
{"message": "I was charged twice.", "tool_call": "refund"},
[route, risky],
)
result["route"].distribution
result["risky"].p_true
result.level # "L0"Aplikacja wskazuje dozwolone zespoły i pyta, czy proponowane wywołanie narzędzia jest ryzykowne.
Nie powstaje odpowiedź swobodna. Wynik zawiera rozkład lub prawdopodobieństwo oraz użyty poziom.
Kod ustala progi, kieruje niepewne sprawy do weryfikacji i blokuje skutki uboczne przy zbyt dużym ryzyku.
AnyJev podaje następujące wyniki Qwen3-8B dla 300 elementów testowych BANKING77. To dane autorów z artefaktów zapisanych w repozytorium; Jev AI Dev nie powtórzył benchmarku niezależnie.
| Metryka | Surowe logity | AnyJev L0 | AnyJev L1 |
|---|---|---|---|
| Zmiana odpowiedzi po odwróceniu opcji | 0.230 | 0.073 | 0.077 |
| Trafność | 0.747 | 0.803 | 0.807 |
| Oczekiwany błąd kalibracji | 0.240 | 0.184 | 0.095 |
| Pokrycie przy maks. 5% błędu | 7.7% | 46.3% | 52.0% |
W tym teście trafność wzrosła z 0,747 do 0,807. Większą zmianą operacyjną było pokrycie przy maksymalnie 5% błędu: 7,7% dla surowych logitów i 52,0% po kalibracji L1. Szacunek pochodzi z małego zbioru i wymaga walidacji w innym procesie.
Sprawdź benchmark i ablacjeData Science in your pocket opublikował to krótkie wprowadzenie po premierze AnyJev. Jest to wyjaśnienie strony trzeciej, a nie oficjalna demonstracja Nokia Applied Research ani niezależny benchmark.
Obejrzyj „How to convert any LLM into Jev AI?” w YouTubeWquGuru porównał oficjalny Jev i trzy otwarte projekty na jednym MacBooku, używając 20 chińskich zgłoszeń wsparcia. Wątek zawiera film, czasy i trafność każdego projektu.
Ten sam wątek podaje 20/20 dla oficjalnego Jev, 65% dla Laya i 35% dla djev. To wczesna obserwacja społeczności, a nie kontrolowany benchmark: mały zestaw pytań, jedna maszyna i różne konfiguracje projektów.
Zobacz porównanie i film w X“The latency is real. We went correctness first.”
Jiamu „Morris” Zhang wyjaśnił, że pierwsza wersja nie optymalizowała jeszcze ścieżki serwowania. Przedstawił AnyJev jako metodę dla już obsługiwanych modeli i zapowiedział prace nad vLLM/SGLang.
Przeczytaj pełną odpowiedź autoraMarkTechPost podsumowuje typowany odczyt, różnicę L0/L1 i wyniki BANKING77. Liczby pochodzą z benchmarku projektu, nie z niezależnej replikacji.
Granica dowodów: Jev AI Dev potwierdził, że wpisy zawierają te twierdzenia, ale nie odtworzył testu społeczności. Liczby wyświetleń i interakcji pominięto, ponieważ stale się zmieniają.
Typowany wynik usuwa jeden problem integracyjny. Nie sprawia, że ocena semantyczna automatycznie staje się poprawna, bezpieczna lub przenośna.
Wybór z K opcjami stosuje rotacje cykliczne, więc korekta bez etykiet wymaga K prefili. Dodatkowa inferencja zwiększa stabilność względem kolejności.
Kalibracja i głowice dotyczą konkretnego modelu i pytania. Po zmianie należy je przebudować lub ponownie zweryfikować.
Obecna ścieżka L2 korzysta z lokalnego backendu Transformers. Silniki vLLM i SGLang znajdują się na mapie rozwoju.
Zmierz trafność, kalibrację, wrażliwość na kolejność i abstencję na reprezentatywnych danych, zanim prawdopodobieństwo zacznie sterować ważnym działaniem.
AnyJev szybko się rozwija. Przed użyciem sprawdź najnowszą wersję, backendy i ograniczenia.
AnyJev dostosowuje otwarty model przyczynowy w chwili podejmowania decyzji. Ekosystem obejmuje też modele trenowane zadaniowo, lokalne środowiska uruchomieniowe i eksperymenty zgodne z API.