Stelle eine Frage oder drei verschiedene Fragen zum selben Fall. Wähle ein Beispiel, passe die Eingaben an und prüfe die strukturierten Antworten.
Probiere die Antworttypen einzeln aus. Jeder Durchlauf zählt als ein Versuch für heute.
Nach dem Durchlauf erhältst du für jede Frage eine strukturierte Antwort: Choice wählt eine Option, Score ordnet sie auf einer Skala ein und Probability liefert einen Wert zwischen 0 und 1.
Das Formular sendet deinen Text als state.input und eine oder drei benannte Fragen. Jedes Ergebnis steht unter answers.<question_id>.
In der Anfrage legst du Fragen und Antwortformate fest. Die Antwort enthält zu jeder Frage ein Ergebnis. Hier siehst du die JSON-Felder aus dem Codebeispiel.
modelstatequestions<question_id>typeinstructionscriteriaanswerschoiceprobabilitiesconfidencescorelegendnoulEin gemeinsamer Kontext, drei unabhängige Fragen: Choice, Score und Probability. Jeder Durchlauf zählt als ein Versuch für heute. Eine formal gültige Antwort kann falsch sein. Teste repräsentative Fälle und lege eigene Schwellen für die Weiterleitung fest.
In diesem Playground wird eine feste Jev-Version über OpenRouter aufgerufen. Aktuelle Preise und Verfügbarkeit findest du auf der Modellseite.
TypeSafe bietet einen eigenen Endpunkt und eigene API-Schlüssel. Im offiziellen Quickstart wird jev-latest verwendet und gezeigt, wie mehrere Fragen in einer Anfrage gestellt werden.
Output tokens are free.
Eligible accounts may receive promotional credits. TypeSafe does not publish a fixed amount on its public pages; check the console for your balance and terms.
Der Harness steuert Modellaufrufe und Werkzeuge. An einem Entscheidungspunkt liest Jev eine Nachricht, einen geplanten Werkzeugaufruf oder den Agentenstatus und liefert eine typisierte Antwort. Dein Code bestimmt den nächsten Schritt; offene Aufgaben bleiben beim Chatmodell.
ModelRouterMiddlewarebefore_agent → wrap_model_callDie letzte Nutzernachricht vor dem Lauf einordnen, ein Modell auswählen und diese Wahl für weitere Modellaufrufe beibehalten. Auswahl, Wahrscheinlichkeiten und Konfidenz bleiben im Agentenstatus verfügbar.
AutoModeMiddlewarewrap_tool_callEinen ausgewählten Werkzeugaufruf vor der Ausführung prüfen. Erkennt Jev ein Risiko oder eine fehlende Berechtigung, blockiert die Middleware den Aufruf und gibt eine ToolMessage mit Fehlermeldung zurück. Sie holt keine menschliche Freigabe ein.
TypeSafeClassifierChoice · Score · NoulMit eigener Middleware kannst du weitere Prüfpunkte einbauen: Agentennachrichten oder Status an TypeSafeClassifier übergeben, Choice, Score oder Noul abfragen und im Code verzweigen oder unsichere Fälle prüfen lassen.
# pip install "langchain-typesafe[experimental]" langchain-openai
# Set TYPESAFE_API_KEY and OPENAI_API_KEY on your server.
from langchain.agents import create_agent
from langchain_typesafe.experimental.middleware import (
ModelChoice, ModelRouterMiddleware,
)
router = ModelRouterMiddleware(
choices={
"fast": ModelChoice(
model="openai:gpt-5.6-terra",
criteria="Simple lookups and extraction.",
),
"powerful": ModelChoice(
model="openai:gpt-6-astra",
criteria="Complex reasoning and high-stakes decisions.",
),
},
instructions="Choose the least costly model that can do the task safely.",
)
agent = create_agent("openai:gpt-5.6-terra", middleware=[router])
result = agent.invoke({"messages": [{"role": "user", "content": "Summarize this log."}]})
print(result["model_route"].choice)// Run on your server. Keep the API key out of browser code.
const apiKey = process.env.OPENROUTER_API_KEY;
if (!apiKey) throw new Error("Set OPENROUTER_API_KEY");
const response = await fetch("https://openrouter.ai/api/alpha/decisions", {
method: "POST",
headers: {
Authorization: "Bearer " + apiKey,
"Content-Type": "application/json"
},
body: JSON.stringify({
model: "typesafe/jev-1.13",
state: {input: "A customer reports a duplicate charge."},
questions: {
team: {
type: "choice",
instructions: "Which team should handle this?",
criteria: {
billing: "Payments and refunds",
technical: "Bugs and integrations"
}
},
urgency: {
type: "score",
instructions: "How urgent is the issue?",
criteria: ["Can wait", "Needs attention today", "Immediate action"]
},
escalate: {
type: "noul",
instructions: "Should a human review this first?",
criteria: {false: "No review needed", true: "Review before acting"}
}
}
})
});
if (!response.ok) throw new Error("Decision request failed");
const {answers} = await response.json();
console.log(answers.team.choice, answers.urgency.score, answers.escalate.noul);Wähle den Antworttyp, den dein Code braucht. Bei mehreren Fragen erhält jede Frage-ID ein eigenes Ergebnis.
TypeSafe: Choice · Score · Noul ↗Der gewählte Optionsschlüssel mit der höchsten Wahrscheinlichkeit.
Eine nach Wahrscheinlichkeiten gewichtete Position auf der Skala; sie kann zwischen zwei Stufen liegen.
Ein Wert von 0 (nein) bis 1 (ja) für eine Ja/Nein-Frage.
Teste vor dem Produktiveinsatz mit echten, repräsentativen Anfragen. Halte die Modellversion fest und lass unsichere oder folgenreiche Fälle von Menschen prüfen. Der Wert 0,8 dient nur der Veranschaulichung.
Entdecke neue Projekte, System-One-Modelle der Community und praktische Anwendungsfälle über laufende öffentliche Updates oder eine gelegentliche kuratierte E-Mail.