AnyJev est une boîte à outils Python open source de Nokia Applied Research. Elle extrait des décisions de type Choice, Score et Noul depuis des modèles de langage causaux, puis corrige le biais lié à l’ordre des options et étalonne les probabilités.
À retenir : AnyJev n’est ni un nouveau modèle de fondation, ni une publication ouverte des poids Jev de TypeSafe, ni un produit Jev officiel. C’est une méthode indépendante pour obtenir des décisions au format Jev à partir de modèles que vous exécutez vous-même.
anyjev sur PyPIstate → typed decisionsJ’ai été débité deux fois. Merci de régler cela aujourd’hui.
result.level = "L0"Exemple de sortieIl conserve le modèle causal de votre choix et modifie la manière dont une décision à réponses limitées en est extraite. Il s’agit donc davantage d’une couche de décision que d’un modèle autonome tel qu’un classifieur affiné.
Vous définissez un contexte et une ou plusieurs questions à réponses limitées. AnyJev renvoie une distribution pour les choix catégoriels, une probabilité pour les questions oui/non ou une valeur attendue pour un score ordonné.
Les logits des jetons de réponse bruts peuvent favoriser une étiquette ou sa position. AnyJev indique le niveau de correction ayant produit chaque décision afin que l’application puisse exiger celui qu’elle attend.
Le projet ne publie ni ne reproduit les poids privés, les données d’entraînement ou la méthode RLCD de TypeSafe. Une forme de requête similaire ne garantit pas un comportement équivalent.
L0 fonctionne réellement sans entraînement. Les niveaux supérieurs ajoutent des exemples étiquetés ; L2 ajuste une petite tête de sortie propre à la question sans modifier les poids du modèle de base.
Aucune correction du biais de position ou de préférence d’étiquette.
Plus stable, mais les probabilités ne sont pas étalonnées pour la tâche.
Améliore la confiance estimée, sans corriger un mauvais classement.
Propre à un modèle et une question ; nécessite l’accès local aux états cachés.
Cet exemple reprend l’API publique du projet : un modèle Qwen reste en local, AnyJev lit deux décisions à réponses limitées, puis le code applicatif décide de la suite.
pip install "anyjev[hf]"Python 3.10 ou une version ultérieure est requis. La première exécution réelle télécharge aussi le modèle ouvert choisi.
Choice + Noulfrom anyjev import Decider, Question
from anyjev.backends.hf import HFBackend
decider = Decider(HFBackend("Qwen/Qwen3-8B"))
route = Question.choice(
"Which team should handle this?",
["billing", "technical", "sales", "other"],
name="route",
)
risky = Question.noul(
"Is this tool call destructive or irreversible?",
name="risky",
)
result = decider.decide(
{"message": "I was charged twice.", "tool_call": "refund"},
[route, risky],
)
result["route"].distribution
result["risky"].p_true
result.level # "L0"L’application nomme les équipes autorisées et demande si l’appel d’outil proposé présente un risque.
Aucune réponse libre n’est générée. Le résultat contient une distribution ou une probabilité ainsi que le niveau utilisé.
Votre code fixe les seuils, soumet les cas incertains à une revue et bloque les effets de bord lorsque le risque est trop élevé.
AnyJev publie les résultats suivants avec Qwen3-8B sur 300 éléments de test BANKING77. Ces chiffres proviennent des artefacts de benchmark du projet ; Jev AI Dev n’a pas réexécuté ce benchmark de façon indépendante.
| Métrique | Logits bruts | AnyJev L0 | AnyJev L1 |
|---|---|---|---|
| Réponses modifiées après inversion des options | 0.230 | 0.073 | 0.077 |
| Précision | 0.747 | 0.803 | 0.807 |
| Erreur d’étalonnage attendue | 0.240 | 0.184 | 0.095 |
| Couverture avec au plus 5 % d’erreur | 7.7% | 46.3% | 52.0% |
Dans ce test, la précision passe de 0,747 à 0,807. Le changement opérationnel le plus net concerne la couverture à 5 % d’erreur maximum : 7,7 % avec les logits bruts contre 52,0 % après étalonnage L1. Cette estimation repose sur un petit jeu de test et ne doit pas être transposée telle quelle à un autre flux.
Consulter le benchmark et les ablationsData Science in your pocket a publié cette courte présentation après la sortie d’AnyJev. Il s’agit d’une explication tierce, et non d’une démonstration officielle de Nokia Applied Research ni d’un benchmark indépendant.
Voir « How to convert any LLM into Jev AI? » sur YouTubeWquGuru a comparé Jev officiel et trois projets ouverts sur un MacBook, à partir de 20 tickets d’assistance en chinois. Le fil contient une vidéo, les temps mesurés et la précision de chaque projet.
Le même fil annonce 20/20 pour Jev officiel, 65 % pour Laya et 35 % pour djev. Il s’agit d’une première observation communautaire, pas d’un benchmark contrôlé : un petit jeu de questions, une seule machine et des configurations propres à chaque projet.
Voir le comparatif et la vidéo sur X“The latency is real. We went correctness first.”
Jiamu « Morris » Zhang a indiqué que la chaîne d’inférence de la première version n’était pas encore optimisée. Il présente AnyJev comme une méthode applicable aux modèles déjà déployés par une équipe et précise que les optimisations vLLM/SGLang commencent.
Lire la réponse complète de l’auteurMarkTechPost résume la lecture typée, la distinction L0/L1 et les résultats BANKING77. Ces chiffres viennent du benchmark du projet, et non d’une réplication indépendante.
Limite des preuves : Jev AI Dev a vérifié que ces publications contiennent bien ces affirmations, mais n’a pas reproduit le test communautaire. Les nombres de vues et d’interactions sont omis car ils évoluent dans le temps.
Une sortie typée supprime un problème d’intégration. Elle ne rend pas un jugement sémantique automatiquement juste, sûr ou transférable à une autre distribution.
Un choix à K options utilise des rotations cycliques : la correction sans étiquette nécessite K préfills. Elle échange du calcul contre une meilleure stabilité à l’ordre.
L’étalonnage et les têtes de sortie sont propres à un modèle et une question. Ils doivent être reconstruits ou revalidés dès que l’un des deux change.
Le chemin L2 actuel utilise un backend Transformers local. Les moteurs d’inférence tels que vLLM et SGLang figurent dans la feuille de route.
Mesurez précision, étalonnage, sensibilité à l’ordre et abstention sur des données représentatives avant qu’une probabilité ne pilote une action importante.
AnyJev évolue rapidement. Vérifiez la dernière version, les backends et les limites avant de l’intégrer.
AnyJev suit une approche : adapter un LLM causal ouvert au moment de la décision. L’écosystème comprend aussi des modèles entraînés à cet effet, des runtimes locaux et des expérimentations compatibles avec l’API.