AnyJev es una herramienta Python de código abierto de Nokia Applied Research. Extrae decisiones Choice, Score y Noul de modelos de lenguaje causales, y añade controles para el sesgo por orden de opciones y la calibración de probabilidades.
Importante: AnyJev no es un nuevo modelo fundacional, una publicación abierta de los pesos Jev de TypeSafe ni un producto Jev oficial. Es una forma independiente de crear decisiones con el formato de Jev sobre modelos que tú ejecutas.
anyjev en PyPIstate → typed decisionsMe cobraron dos veces. Necesito que lo resuelvan hoy.
result.level = "L0"Salida ilustrativaMantiene el modelo causal que elijas y cambia la forma de leer de él una decisión con un conjunto cerrado de respuestas. Por eso se parece más a una capa de decisión que a un modelo independiente, como un clasificador ajustado.
Defines un contexto y una o varias preguntas con un conjunto cerrado de respuestas. AnyJev devuelve distribuciones para opciones categóricas, una probabilidad para preguntas de sí/no o un valor esperado sobre una escala ordenada.
Los logits de los tokens de respuesta pueden favorecer una etiqueta o su posición. AnyJev indica qué nivel de corrección produjo cada decisión para que la aplicación pueda exigir el nivel previsto.
El proyecto no publica ni reproduce los pesos privados, los datos de entrenamiento ni el método RLCD de TypeSafe. Que las solicitudes se parezcan no implica un comportamiento equivalente.
L0 sí funciona sin entrenamiento. Los niveles superiores añaden ejemplos etiquetados; L2 ajusta una pequeña capa de salida específica de la pregunta sin modificar los pesos del modelo base.
No corrige la posición de las opciones ni la preferencia por etiquetas.
Es más estable, pero sus probabilidades no están calibradas para la tarea.
Mejora la estimación de confianza; no corrige un orden de respuestas equivocado.
Es específica de un modelo y una pregunta y necesita acceso local al estado oculto.
Este ejemplo refleja la API pública del proyecto: un modelo Qwen permanece en local, AnyJev lee dos decisiones con un conjunto cerrado de respuestas y el código habitual decide qué ocurre después.
pip install "anyjev[hf]"Se necesita Python 3.10 o posterior. La primera ejecución real también descarga el modelo abierto que elijas.
Choice + Noulfrom anyjev import Decider, Question
from anyjev.backends.hf import HFBackend
decider = Decider(HFBackend("Qwen/Qwen3-8B"))
route = Question.choice(
"Which team should handle this?",
["billing", "technical", "sales", "other"],
name="route",
)
risky = Question.noul(
"Is this tool call destructive or irreversible?",
name="risky",
)
result = decider.decide(
{"message": "I was charged twice.", "tool_call": "refund"},
[route, risky],
)
result["route"].distribution
result["risky"].p_true
result.level # "L0"La aplicación enumera los equipos permitidos y pregunta si la llamada de herramienta propuesta es arriesgada.
No se genera una respuesta libre. El resultado incluye una distribución o probabilidad y el nivel utilizado.
Tu código fija umbrales, envía los casos inciertos a revisión y evita efectos secundarios cuando el riesgo es demasiado alto.
AnyJev publica estos resultados de Qwen3-8B sobre 300 elementos de prueba de BANKING77. Son cifras comunicadas por los autores a partir de artefactos incluidos en el repositorio; Jev AI Dev no ha repetido el benchmark de forma independiente.
| Métrica | Logits sin procesar | AnyJev L0 | AnyJev L1 |
|---|---|---|---|
| Cambios de respuesta al invertir las opciones | 0.230 | 0.073 | 0.077 |
| Precisión | 0.747 | 0.803 | 0.807 |
| Error de calibración esperado | 0.240 | 0.184 | 0.095 |
| Cobertura con un máximo del 5 % de error | 7.7% | 46.3% | 52.0% |
En esta prueba, la precisión pasó de 0,747 a 0,807. El mayor cambio operativo fue la cobertura con un máximo del 5 % de error: 7,7 % para los logits sin procesar y 52,0 % tras calibrar L1. La estimación parte de un conjunto pequeño y no debe trasladarse a otro flujo sin validación.
Consultar el benchmark y las ablacionesData Science in your pocket publicó esta introducción poco después de aparecer AnyJev. Es una explicación de terceros, no una demo oficial de Nokia Applied Research ni un benchmark independiente.
Ver «How to convert any LLM into Jev AI?» en YouTubeWquGuru comparó Jev oficial y tres proyectos abiertos en un MacBook con 20 tickets de soporte en chino. El hilo incluye vídeo, tiempos y precisión por proyecto.
El mismo hilo informa de 20/20 para Jev oficial, 65 % para Laya y 35 % para djev. Tómalo como una observación temprana de la comunidad, no como un benchmark controlado: usa un conjunto pequeño, una sola máquina y configuraciones distintas por proyecto.
Ver la comparación y el vídeo en X“The latency is real. We went correctness first.”
Jiamu «Morris» Zhang explicó que la primera versión aún no había optimizado la ruta de servicio. Presentó AnyJev como un método para modelos que el equipo ya sirve y señaló que empezaban las optimizaciones para vLLM/SGLang.
Leer la respuesta completa del autorMarkTechPost resume la lectura tipada, la diferencia L0/L1 y los resultados de BANKING77. Las cifras proceden del benchmark del proyecto, no de una réplica independiente.
Límite de la evidencia: Jev AI Dev comprobó que las publicaciones contienen estas afirmaciones, pero no reprodujo la prueba de la comunidad. Se omiten las cifras de visualizaciones e interacciones porque cambian con el tiempo.
Una salida tipada elimina un problema de integración. No convierte un juicio semántico en correcto, seguro o transferible a otra distribución.
Una elección con K opciones usa rotaciones cíclicas, por lo que la corrección sin etiquetas necesita K prefills. Intercambia cómputo por estabilidad frente al orden.
La calibración y las capas de salida pertenecen a un modelo y una pregunta concretos. Hay que reconstruirlas o revalidarlas si cambia cualquiera de los dos.
La ruta L2 actual usa un backend local de Transformers. Motores de inferencia como vLLM y SGLang figuran en la hoja de ruta.
Mide precisión, calibración, sensibilidad al orden y abstención con datos representativos antes de dejar que una probabilidad controle una acción importante.
AnyJev evoluciona rápido. Verifica la versión, los backends y las limitaciones antes de integrarlo.
AnyJev sigue un enfoque: adaptar un LLM causal abierto en el momento de decidir. El ecosistema también incluye modelos entrenados para la tarea, runtimes locales y experimentos compatibles con la API.