Zustand verstehen
Das Modell interpretiert natürliche oder strukturierte Texte wie Tickets, Agenten-Traces, Produktdatensätze oder Spielzustände.
System One bezeichnet bei TypeSafe eine Klasse von KI-Modellen, die unstrukturierte Anwendungszustände in typisierte Antworten und Wahrscheinlichkeiten überführt. Jev ist die erste Implementierung: eine begrenzte Entscheidungskomponente für Anwendungscode.
Dies ist ein unabhängiger Entwicklerleitfaden. Produkt- und Leistungsangaben stammen aus Unterlagen von TypeSafe. Prüfen Sie Jev vor einem Produktionseinsatz mit eigenen Daten.
state → decisions„Ich wurde doppelt belastet. Bitte heute klären.“
if (confidence < threshold) → reviewEin System-One-Modell erfasst die Bedeutung einer Eingabe, führt aber kein Gespräch fort und formuliert keine Antwort. Frage und zulässige Antwortform werden vorab festgelegt; das Modell liefert ein begrenztes Urteil, das Software prüfen und verarbeiten kann.
Das Modell interpretiert natürliche oder strukturierte Texte wie Tickets, Agenten-Traces, Produktdatensätze oder Spielzustände.
Die Anwendung definiert den Antwortbereich vor dem Aufruf. Das Modell wählt eine Option, ordnet auf einer Skala ein oder bewertet eine Ja-Nein-Aussage.
Jede Antwort enthält ein Wahrscheinlichkeitssignal. Choice und Score fassen die Verteilung zusätzlich als Confidence zusammen.
Schwellenwerte, Richtlinien, Nebenwirkungen, Wiederholungen, Rückfälle und menschliche Prüfungen bleiben Aufgabe des normalen Codes.
Jev macht aus einem Modellaufruf mehrere Entscheidungssignale. Die nützliche Einheit ist kein Chat-Turn, sondern ein kleiner, typisierter Vertrag zwischen Modell und Anwendung.
Übergeben Sie die für die Entscheidung nötigen Informationen. Jev akzeptiert derzeit textbasierte Eingaben wie Strings, JSON-Objekte und Textlisten.
Kundennachricht + KontodatenBenennen Sie jede Frage, wählen Sie das Primitive und beschreiben Sie Optionen oder Skala. Mehrere unabhängige Fragen können in einer Anfrage stehen.
Bereich · Dringlichkeit · UnzufriedenheitJev gibt für jede Frage eine typisierte Antwort und ein Wahrscheinlichkeitssignal zurück. Choice und Score enthalten außerdem Confidence.
Abrechnung · 0,93 · hohe ConfidenceKombinieren Sie die Modellausgabe mit deterministischen Prüfungen. Klare, risikoarme Fälle können laufen; unklare oder folgenreiche Fälle gehen an Menschen oder Reasoning-Modelle.
weiterleiten · nachfragen · prüfen · stoppenbillingWählt eine Option aus einer vorgegebenen Menge und gibt die Wahrscheinlichkeit jeder Option zurück.
1.43 / 2Ordnet die Eingabe auf einer beschriebenen, geordneten Skala ein; der Wert kann zwischen Stufen liegen.
0.95Bewertet eine Ja-Nein-Aussage und gibt die Wahrscheinlichkeit für „Ja“ zurück.
Generative Modelle erzeugen flexible Texte für Menschen. Nach der These von TypeSafe braucht Software eine engere Form von Intelligenz: in Code einbettbar, wiederholt ausführbar, mit sichtbarer Unsicherheit und nachvollziehbarem Kontrollfluss.
Eine Ausgabe kann Text, Code, JSON, eine Ablehnung oder ein ungültiges Format sein. Anwendungen müssen vor einer Aktion oft parsen, validieren und Fehler behandeln.
Läuft ein Modell im Hintergrund, muss das Programm mögliche Ergebnisse und die jeweils erlaubten Aktionen vorab kennen.
Eine Wahrscheinlichkeitsverteilung erlaubt, klare Fälle automatisch zu bearbeiten und unklare auf einen sichereren Pfad zu schicken.
Komplexe Abläufe lassen sich in fokussierte semantische Urteile zerlegen und mit deterministischer Logik verbinden, statt alles in einem großen Prompt zu verbergen.
Gute Kandidaten treten häufig auf, erfordern das Verständnis unübersichtlicher Eingaben und führen zu wenigen Aktionen, die die Anwendung bereits ausführen kann.
Tickets klassifizieren, Absicht und Dringlichkeit erkennen, Stimmung einschätzen und unklare Fälle zur Prüfung weiterleiten.
Abrechnung, Technik, Konto oder etwas anderes?
Modell oder Werkzeug wählen, Retrieval-Bedarf und Vollständigkeit prüfen oder einen geplanten Tool-Aufruf bewerten.
Soll der Agent fortfahren, wiederholen oder eskalieren?
Kandidaten gegen Anfrage, Profil, Richtlinie oder Kontext bewerten und das Signal mit Geschäftsregeln verbinden.
Wie relevant ist dieser Kandidat für die Anfrage?
Nachrichten, Ausgaben, Traces oder Codeänderungen anhand klarer Kriterien bewerten; hohe Risiken bleiben hinter deterministischen Schranken.
Verstößt dies gegen die festgelegte Regel?
Zulässige Aktionen für Spiele, Simulationen, Oberflächen oder Geräteautomatisierung wählen, ohne lange Texte zu erzeugen.
Welche erlaubte Aktion passt am besten zum Zustand?
Viele Datensätze in Kategorien, Scores, Flags und Merkmale umwandeln, die nachgelagerte Systeme aggregieren oder prüfen.
Welche Kategorie und Risikostufe hat dieser Datensatz?
Die Optionen sind bekannt, die Eingabe ist semantisch komplex, die Entscheidung wiederholt sich, Latenz zählt und der Code kennt für jedes Ergebnis Aktion oder Rückfall.
Benötigt werden neue Texte oder Code, tiefes mehrstufiges Reasoning, breite Recherche, Erklärungen, multimodale Eingaben oder nicht vorab definierbare Ergebnisse.
Beide verstehen Sprache, und auch ein LLM kann strukturierte Ausgaben liefern. Der tiefere Unterschied liegt darin, was das Modell erzeugen soll und wie die umgebende Software es nutzt.
| Aspekt | Jev / System One | Gängiges generatives LLM |
|---|---|---|
| Hauptaufgabe | Vorgegebene Ergebnisse bewerten | Fortsetzung oder Antwort erzeugen |
| Native Ausgabe | Typisierte Wahl, Score oder Ja-Wahrscheinlichkeit | Tokenfolge: Text, Code, JSON oder anderes |
| Antwortbereich | Vor dem Aufruf festgelegt | Im Kern offen, auch bei Schema für das Endformat |
| Unsicherheit | Wahrscheinlichkeit je Antwort; Confidence bei Choice und Score | Tokenwahrscheinlichkeiten oder Selbstauskunft möglich, meist kein auf die Aufgabe kalibriertes Entscheidungssignal |
| Sampling | Laut TypeSafe parallele Bewertung von Fragen und Ausgaben | Meist Token für Token sequenziell |
| Stärken | Häufige semantische Verzweigungen, Scoring, Routing, Prüfungen | Schreiben, Dialog, Code, Synthese, offenes Reasoning |
| Zentrales Risiko | Formal gültige, semantisch falsche Entscheidung | Falsche, ungültige, unbelegte oder abschweifende Ausgabe |
| Systemrolle | Begrenzte Entscheidungskomponente in sichtbarem Code | Flexibler Generator oder Reasoner, oft mit größerer Orchestrierung |
Für Entwickler, die System One jenseits von Jev prüfen, folgt dasselbe Community-Modul wie auf der Projects-Seite. Es trennt eigenständig trainierte Modelle von Jev-ähnlichen Schnittstellen auf bestehenden Gewichten.
Diese Community-Modelle und Schnittstellenexperimente sind von Jev inspiriert oder untersuchen ähnliche Ansätze für strukturierte Entscheidungen. Sie sind keine offiziellen Jev-Versionen von TypeSafe und gehören nicht zum GitHub-Projektranking oben.
Qwen3.5-9B + diffusion drafterEin Jev-artiges 9B-Entscheidungsmodell mit optionaler Schlussfolgerungsphase, veröffentlichten Gewichten, Trainingscode und -daten sowie kompatibler lokaler API.
Qwen3.5-4BEin probabilistisches 4B-Entscheidungsmodell mit offenem Vokabular, veröffentlichten Gewichten, zweistufigem Trainingscode, lokaler Inferenz und HTTP-Dienst.
Qwen3.5-9BEin von Jev inspirierter LoRA-Adapter mit Trainingsrezept für Auswahl- und Ja/Nein-Fragen. Läuft lokal und verarbeitet derzeit nur Text.
Qwen3-0.6BKleines Modell mit eigenen Entscheidungsköpfen, veröffentlichtem Trainingscode und Spieldemos zur Aktionswahl.
Qwen3.5-2BFeinabgestimmtes Modell, das Wahrscheinlichkeiten für strukturierte Fragen in einem Durchlauf liefert. Derzeit nur für Englisch.
ModernBERT 151M / Verdict 2.0Kleines, encoderbasiertes Entscheidungsmodell mit veröffentlichten Gewichten und WebGPU-Demo im Browser.
Qwen3.5-0.8BEin multimodales 0,8B-Entscheidungsmodell mit veröffentlichten Gewichten, Trainingscode und Tests. Es verarbeitet Text und Bilder in einem Durchlauf; die Gewichte sind nur für nicht kommerzielle Forschung bestimmt.
DiffusionGemma 26B-A4BNutzt das vorhandene DiffusionGemma-Modell, um strukturierte Fragen über eine Jev-ähnliche API zu beantworten. Neue Modellgewichte werden nicht veröffentlicht.
Open-model logitsBewertet zulässige Antworten mit bestehenden offenen Modellen und bietet eine Jev-ähnliche Schnittstelle. Keine neuen Modellgewichte.
Spark-X2.5-4BEin lokal laufender Jev-kompatibler Server, der Antwort-Logits von Spark-X2.5 ausliest. Mehrere Fragen teilen sich einen Zustands-Prefill; Playground und Benchmarks sind enthalten.
Any causal LLMEin Toolkit, das kausale Sprachmodelle ohne Training in typisierte Entscheidungsmodelle verwandelt – mit Korrektur der Reihenfolgeverzerrung, optionaler Kalibrierung und reproduzierbaren Benchmarks.
Qwen3.5 / DeBERTaEin offline nutzbarer Jev-kompatibler Server für Qwen oder DeBERTa, mit dem offiziellen SDK getestet und mit veröffentlichten JevBench-Ergebnissen.
Qwen3-0.6BEin Qwen3-0.6B-Entscheidungsmodell für Agenten-Traces und andere strukturierte Fragen, mit veröffentlichten Gewichten, typisierter HTTP-API und ohne Token-Decodierung.
Causal LMs / SGLangBindet lokale kausale Sprachmodelle per reiner Prefill-Bewertung als Jev-kompatible Choice-, Score- und Noul-Dienste ein, mit SGLang-, Transformers- und Multimodal-Unterstützung.
Laya / ONNX RuntimeFührt das offene Laya-System-One-Modell mit ONNX Runtime in Node.js aus und nutzt ein Jev-kompatibles Anfrageformat sowie veröffentlichte Modellgewichte.
Qwen3.5-0.8BEin Qwen3.5-0.8B-Entscheidungsmodell für Thai und Englisch mit veröffentlichten Gewichten, Trainingscode und Jev-kompatibler HTTP-API.
Qwen3.5-0.8B / 2BEin von Jev inspiriertes multimodales Entscheidungsmodell für Text, Bilder und Video mit veröffentlichten Gewichten, Trainingscode und Auswertungsbefehlen.
Qwen3.5-4BEin offenes, aus Qwen3.5 feinabgestimmtes 4B-Entscheidungsmodell mit Gewichten, reproduzierbarem Trainingsrezept und dokumentierter Datenherkunft.
Open decision modelsEin lokaler Rust-Dienst, der mehrere offene Entscheidungsmodelle lädt und über eigene sowie TypeSafe-kompatible APIs ausführt.
Qwen3.5-0.8B / 2B / 4BEine multimodale Qwen3.5-Modellfamilie mit 0,8B-, 2B- und 4B-Checkpoints, Gewichten, Trainings- und Inferenzcode, Kalibrierungsbenchmarks und Jev-kompatibler API.
Qwen3.5-4BEin englisch-koreanisches 4B-Entscheidungsmodell mit veröffentlichten Gewichten und Quantisierungen, kalibrierten Wahrscheinlichkeiten und lokalem TypeSafe-kompatiblem Server.
Qwen3.5-0.8B / 2BEine lokale Familie von 0,8B- und 2B-Entscheidungsmodellen mit Gewichten, langem Kontext, kompatibler API, Agenten-Skills, MCP-Werkzeugen und Evaluationsbefehlen.
Qwen3.5-2B / 9B · Qwen3.8-27BEine unabhängige Umsetzung mit veröffentlichten 2B-, 9B- und 27B-Gewichten, Trainingscode, kompatiblem lokalen Server und reproduzierbaren Auswertungen.
Qwen3.5-VL 2B / 4B / 9BEine offene multimodale Modellfamilie mit 2B, 4B und 9B Parametern für Text und Bilder, kalibrierten Wahrscheinlichkeiten, Enthaltung, offenen Gewichten und kompatibler lokaler API.
0.6B / 0.8B / 4B decision modelsKleine offene Modelle für Choice-, Score- und Noul-Entscheidungen mit veröffentlichten Gewichten und lokaler Inferenz auf CPU, NVIDIA-GPUs und Apple Silicon.
Qwen3.5-0.8B / 4BOffene Qwen3.5-Entscheidungsmodelle mit 0,8B und 4B Parametern, veröffentlichten Gewichten und Trainingscode, lokaler Jev-kompatibler API und reproduzierbaren Decision-Index-Ergebnissen.
Qwen3.5-0.8B / 4BOffene Qwen3.5-Modelle mit 0,8B und 4B Parametern für Entscheidungen von Suchagenten, einschließlich veröffentlichter Daten, Gewichte, Trainingsprotokolle und Kalibrierung.
Cloudflare Clef 27B / 9BEine native C- und Metal-Laufzeit für Cloudflare Clef und Clef-Flash auf Apple Silicon, die Text-, Bild- und Videoentscheidungen über eine Jev-kompatible API bereitstellt.
mmBERT 144.3MEin zweisprachiges Encoder-Entscheidungsmodell mit 144,3M Parametern für lokale typisierte Entscheidungen, mit Gewichten, Kalibrierungswerkzeugen, Tests und Jev-kompatiblem Server.
Multilingual Laya checkpointsEine mehrsprachige, nicht autoregressive Entscheidungs-Engine mit offenen Checkpoints, Trainings- und Feinabstimmungscode sowie kompatiblen lokalen APIs.
Qwen3.5-0.8B / 4BEine lokale multimodale Entscheidungs-Engine aus eingefrorenen Qwen3.5-Modellen und einem kleinen trainierbaren Physikmodul, mit offenen 0,8B- und 4B-Checkpoints.
Laya / ONNX Runtime JavaEine reine Java-Laufzeit für Laya mit Spring-Boot- und Gradle-Integration sowie Jev- und OpenAI-kompatiblen Endpunkten.
Qwen3.5-4B / Qwen3.8-27BEin Framework zum Destillieren und Trainieren Jev-artiger Modelle auf Qwen3.5 oder Qwen3.8, samt Kalibrierung, Evaluation und kompatiblem Servercode.
LLM-jp 4.1 8B / encoder 310MEine japanische Familie typisierter Entscheidungsmodelle mit offenen 8B- und 310M-Gewichten, Trainings- und Evaluationscode, GGUF-Serving und System-One-kompatibler API.
Any llama.cpp GGUFErgänzt ein vorhandenes llama.cpp-Chatmodell um eine System-One-API und reservierte Klassifikationsspuren, optional mit Kalibrierung und begrenztem Denken, ohne ein zweites Modell zu laden.
Qwen3-VL-4BEin multimodales Entscheidungsmodell auf Qwen3-VL-4B mit dynamischer Kandidatenbewertung, reihenfolgeunabhängiger Auswahl, Kalibrierungscode und technischem Bericht; Checkpoints stehen noch nicht zum Download bereit.
BitNet b1.58 2BEin ternäres 2B-BitNet-Entscheidungsmodell mit Pointer-Head, typisierten Wahrscheinlichkeiten, reproduzierbaren Trainingsdaten und gemessener Kalibrierung; der veröffentlichte Checkpoint ist derzeit privat.
Open ONNX decision modelsFührt eine kuratierte Auswahl offener Entscheidungsmodelle per ONNX lokal auf der CPU aus und bietet eine gemeinsame typisierte Bibliothek, CLI, REST- und System-One-kompatible API.
Qwen3-VL-4BEin offenes visuelles 4B-Entscheidungsmodell mit veröffentlichten Gewichten sowie Trainings- und Kalibrierungscode, bereitgestellt über die TypeSafe System One API.
Open decision model familiesEine lokale Laufzeit, die offene Entscheidungsmodelle durch exakte Zustandsverzweigung beschleunigt und mehrere Text- und multimodale Modellfamilien über eine Schnittstelle bereitstellt.
Multilingual encoder 57M / ONNXEin mehrsprachiges Encoder-Entscheidungsmodell mit 57 Mio. Parametern für Choice, Noul und Score, inklusive ONNX-Inferenz, Browser- und Raspberry-Pi-Demos sowie kompatibler System-One-API.
Qwen3.5-9B LoRA / GGUFEin CPU-orientiertes multimodales 9B-Entscheidungsmodell als GGUF mit Choice-, Score- und Noul-Endpunkten, TypeSafe-kompatibler API und LoRA-Feinabstimmung.
Unabhängige Community-Projekte, keine offiziellen Jev-Versionen.
Dieser Jev-AI-Dev-Leitfaden erläutert den Ansatz von TypeSafe in eigenen Worten. Details zu API, Produktangaben, Evaluation und Änderungen finden Sie in den Originalquellen.
Definieren Sie mögliche Antworten, sammeln Sie repräsentative Beispiele, legen Sie den Umgang mit Unsicherheit fest und vergleichen Sie Jev mit Ihren Regeln oder Modellen. Automatisieren Sie folgenreiche Entscheidungen nicht direkt.