Ställ en fråga eller tre olika frågor om samma situation. Välj ett exempel, ändra indata och granska de strukturerade svaren.
Utforska en svarstyp i taget. Varje körning använder ett av dagens försök.
Kör ett exempel för att få ett strukturerat svar per fråga: Choice väljer ett alternativ, Score placerar resultatet på en skala och Probability ger ett värde mellan 0 och 1.
Formuläret skickar din text som state.input tillsammans med en eller tre namngivna frågor. Varje resultat finns under answers.<question_id>.
Förfrågan definierar frågorna och svarsformaten. Svaret returnerar ett resultat för var och en. Här är JSON-fälten som används i exemplet.
modelstatequestions<question_id>typeinstructionscriteriaanswerschoiceprobabilitiesconfidencescorelegendnoulSamma kontext, tre oberoende frågor: Choice, Score och Probability. Varje körning använder ett av dagens försök. Ett svar med korrekt format kan fortfarande vara fel. Testa representativa fall och ange routingtrösklar som passar ditt arbetsflöde.
Här anropas en fast Jev-version via OpenRouter. Kontrollera modellsidan för aktuella priser och tillgänglighet.
TypeSafe har en egen slutpunkt och egna API-nycklar. Den officiella snabbstarten använder jev-latest och visar hur flera frågor skickas i ett anrop.
Output tokens are free.
Eligible accounts may receive promotional credits. TypeSafe does not publish a fixed amount on its public pages; check the console for your balance and terms.
En harness styr agentens modellanrop och verktyg. Vid en beslutspunkt läser Jev ett meddelande, ett planerat verktygsanrop eller agentens tillstånd och ger ett typat svar. Din kod avgör nästa steg; öppna uppgifter stannar hos chattmodellen.
ModelRouterMiddlewarebefore_agent → wrap_model_callKlassificera det senaste användarmeddelandet före körningen, välj modell och behåll valet under körningen. Valet, sannolikheterna och konfidensen finns kvar i agentens tillstånd.
AutoModeMiddlewarewrap_tool_callGranska ett valt verktygsanrop innan det körs. Om Jev bedömer att det är riskfyllt eller saknar behörighet blockerar middleware anropet och returnerar ett ToolMessage med felmeddelande. Det begär inte mänskligt godkännande.
TypeSafeClassifierChoice · Score · NoulLägg till egna kontrollpunkter med anpassad middleware: skicka agentens meddelanden eller tillstånd till TypeSafeClassifier och använd Choice, Score eller Noul för att styra koden eller skicka osäkra fall till granskning.
# pip install "langchain-typesafe[experimental]" langchain-openai
# Set TYPESAFE_API_KEY and OPENAI_API_KEY on your server.
from langchain.agents import create_agent
from langchain_typesafe.experimental.middleware import (
ModelChoice, ModelRouterMiddleware,
)
router = ModelRouterMiddleware(
choices={
"fast": ModelChoice(
model="openai:gpt-5.6-terra",
criteria="Simple lookups and extraction.",
),
"powerful": ModelChoice(
model="openai:gpt-6-astra",
criteria="Complex reasoning and high-stakes decisions.",
),
},
instructions="Choose the least costly model that can do the task safely.",
)
agent = create_agent("openai:gpt-5.6-terra", middleware=[router])
result = agent.invoke({"messages": [{"role": "user", "content": "Summarize this log."}]})
print(result["model_route"].choice)// Run on your server. Keep the API key out of browser code.
const apiKey = process.env.OPENROUTER_API_KEY;
if (!apiKey) throw new Error("Set OPENROUTER_API_KEY");
const response = await fetch("https://openrouter.ai/api/alpha/decisions", {
method: "POST",
headers: {
Authorization: "Bearer " + apiKey,
"Content-Type": "application/json"
},
body: JSON.stringify({
model: "typesafe/jev-1.13",
state: {input: "A customer reports a duplicate charge."},
questions: {
team: {
type: "choice",
instructions: "Which team should handle this?",
criteria: {
billing: "Payments and refunds",
technical: "Bugs and integrations"
}
},
urgency: {
type: "score",
instructions: "How urgent is the issue?",
criteria: ["Can wait", "Needs attention today", "Immediate action"]
},
escalate: {
type: "noul",
instructions: "Should a human review this first?",
criteria: {false: "No review needed", true: "Review before acting"}
}
}
})
});
if (!response.ok) throw new Error("Decision request failed");
const {answers} = await response.json();
console.log(answers.team.choice, answers.urgency.score, answers.escalate.noul);Välj den svarstyp som din kod behöver. Om du skickar flera frågor får varje fråge-ID ett eget resultat.
TypeSafe: Choice · Score · Noul ↗Den valda nyckeln i choice: alternativet med högst sannolikhet.
En position på en ordnad skala, viktad efter sannolikhet; den kan hamna mellan två nivåer.
Ett tal från 0 (nej) till 1 (ja) för en ja/nej-fråga.
Testa med representativa supportärenden före produktionsbruk, registrera modellversionen och skicka osäkra eller konsekvensrika fall till manuell granskning. Värdet 0,8 är bara ett exempel.
Följ nya projekt, System One-modeller från communityn och praktiska användningsfall genom återkommande offentliga uppdateringar eller ett sporadiskt kurerat mejl.