ให้ข้อมูลบริบท
ระบุข้อความที่เกี่ยวข้อง สถานะ JSON หรือรายการข้อความ ขณะนี้ Jev ยอมรับข้อความ ไม่ใช่รูปภาพ เสียง หรือวิดีโอ
Jev เป็นโมเดล System One รุ่นแรกของ TypeSafe โดยส่งคืนผลลัพธ์การตัดสินใจแบบมีชนิดข้อมูลพร้อมค่าความน่าจะเป็นที่ซอฟต์แวร์นำไปใช้ได้ สำรวจกรณีใช้งานและดูวิธีเรียกโมเดลจากโค้ดของคุณ
TypeSafe เรียก Jev ว่าโมเดล System One เพราะส่งคืนตัวเลือกแบบมีชนิดข้อมูลและค่าความน่าจะเป็น แทนการสร้างข้อความปลายเปิด ลองเปรียบเทียบว่าแนวทางนี้เหมาะกับงานใดเมื่อใช้ร่วมกับโมเดลเชิงกำเนิดและโค้ดแบบอิงกฎ
| ด้าน | Jev | LLM กำเนิด | โค้ดแบบอิงกฎ |
|---|---|---|---|
| เอาท์พุต | ตัวเลือกแบบมีชนิดข้อมูล คะแนน และค่าความน่าจะเป็นที่กำหนดไว้ล่วงหน้า | ข้อความ โค้ด หรือเอาต์พุตที่มีโครงสร้างแบบยืดหยุ่น | ค่ากำหนดจากเงื่อนไขที่ชัดเจน |
| ความเร็ว | ปรับให้เหมาะสมสำหรับการตัดสินใจที่มีความหน่วงต่ำ TypeSafe รายงาน 70–500 ms ในการทดสอบ | ขึ้นอยู่กับโมเดล พรอมต์ และความยาวของผลลัพธ์ | มักจะเร็วมากสำหรับเงื่อนไขที่ทราบ |
| เหมาะที่สุดสำหรับ | การตัดสินใจซ้ำๆ ที่ต้องอาศัยความเข้าใจในข้อมูลนำเข้า | การเขียน การใช้เหตุผลที่ซับซ้อน และงานปลายเปิด | เงื่อนไขที่ชัดเจนพร้อมคำจำกัดความที่มั่นคง |
| ข้อจำกัดสำคัญ | ไม่สามารถสร้างข้อความอิสระได้ และคำตอบที่มีชนิดข้อมูลถูกต้องก็ยังอาจตัดสินใจผิด | เอาต์พุตที่ยืดหยุ่นอาจต้องมีการแยกวิเคราะห์และการตรวจสอบความถูกต้อง | ยากที่จะครอบคลุมทุกกรณีเมื่ออินพุตไม่ชัดเจน |
TypeSafe รายงานตัวเลขความเร็วสำหรับการทดสอบการตัดสินใจเชิงโครงสร้างโดยเฉพาะ ไม่ใช่เกณฑ์มาตรฐานอิสระหรือการรับประกันความเร็วสากล อ่านรายละเอียดวิธีทดสอบ
ใช้ Jev เมื่อทราบคำตอบแล้ว แต่ข้อมูลที่ป้อนยังต้องการการตีความ ใช้โมเดลกำเนิดเพื่อสร้างข้อความหรือโค้ดใหม่ เขียนเงื่อนไขที่ชัดเจนในโค้ดโดยตรง
Jev ประเมินข้อความหรือข้อมูลที่มีโครงสร้างกับคำถามที่คุณกำหนด โดยจะส่งคืนตัวเลือก คะแนน และความน่าจะเป็นที่แอปพลิเคชันของคุณสามารถใช้เพื่อตัดสินใจว่าจะเกิดอะไรขึ้นต่อไป
“ฉันถูกเรียกเก็บค่าสมาชิกซ้ำสองครั้ง ช่วยตรวจสอบให้หน่อยได้ไหม”
ทีมไหนควรจัดการเรื่องนี้?
ตัวอย่างความน่าจะเป็น 0.92
ระบุข้อความที่เกี่ยวข้อง สถานะ JSON หรือรายการข้อความ ขณะนี้ Jev ยอมรับข้อความ ไม่ใช่รูปภาพ เสียง หรือวิดีโอ
ขอผลลัพธ์แบบตัวเลือก คะแนน หรือค่าความน่าจะเป็นสำหรับคำถามใช่/ไม่ใช่ โดยกำหนดคำตอบที่อนุญาตไว้ก่อนเรียก API
ใช้ผลลัพธ์และระดับความไม่แน่นอนเพื่อจัดเส้นทาง ตรวจสอบ หรือดำเนินการ ชนิดข้อมูลที่ถูกต้องไม่ได้รับประกันว่าการตัดสินใจจะถูกต้อง
อ้างอิงจาก เอกสาร TypeSafe อย่างเป็นทางการ
Jev เหมาะกับการตัดสินใจเรื่องเฉพาะที่ต้องทำซ้ำและมีชุดคำตอบชัดเจน ตัวอย่างเหล่านี้เป็นจุดเริ่มต้น ไม่ใช่การรับประกันประสิทธิภาพ ควรทดสอบกับข้อมูลของคุณเอง
แยกประเภทข้อร้องเรียนและความเห็นจากร้านค้า ประเมินความเร่งด่วน แล้วส่งเรื่องให้ทีมที่เหมาะสม ส่วนกรณีไม่ชัดเจนให้เจ้าหน้าที่ตรวจสอบ
กรองฟีดตามความสนใจที่ผู้ใช้ระบุ และให้คะแนนความเกี่ยวข้องของเนื้อหาโดยใช้สัญญาณการจัดอันดับของคุณร่วมด้วย
ส่งคำขอให้โมเดล เครื่องมือ หรือเอเจนต์ที่เหมาะสม ตัดสินใจว่าต้องค้นหาข้อมูลหรือไม่ และตรวจว่าผลลัพธ์เพียงพอสำหรับขั้นตอนถัดไปหรือยัง
ตรวจข้อความ การเปลี่ยนโค้ด และการเรียกใช้เครื่องมือตามกฎที่ชัดเจน ส่งกรณีเสี่ยงหรือไม่แน่ใจให้คนตรวจทาน
ให้ Jev เลือกการกระทำถัดไปของคู่ต่อสู้ AI หรือ NPC จากสถานะเกมและชุดท่าที่ทำได้ โดยโค้ดเกมยังเป็นผู้ตรวจสอบกติกาและลงมือทำ
จัดอีเมลและการแจ้งเตือนตามกฎของคุณเอง ประเมินสถานะบ้านอัจฉริยะ หรือตัดสินใจว่าเมื่อใดควรเริ่มกิจวัตรอัตโนมัติ
เริ่มจากการตัดสินใจเฉพาะเรื่องที่แอปพลิเคชันของคุณต้องใช้ กำหนดคำตอบที่เป็นไปได้ แล้วระบุในโค้ดว่าจะนำผลลัพธ์ไปใช้อย่างไร
เลือกคำถามที่เจาะจง เช่น การส่งต่อเคสฝ่ายสนับสนุนหรือการให้คะแนนความเกี่ยวข้องของรายการ
กำหนดอินพุต คำถาม และคำตอบที่อนุญาตก่อนเรียกใช้ API
ใช้ค่าความน่าจะเป็นและระดับความมั่นใจเพื่อเลือกการดำเนินการ แผนสำรอง หรือการตรวจสอบโดยเจ้าหน้าที่
ตัวอย่าง TypeScript ฝั่งเซิร์ฟเวอร์นี้ส่งข้อความฝ่ายสนับสนุนและคำถามสองข้อที่กำหนดรูปแบบคำตอบไว้แล้วไปยัง Jev 1.13 ผ่าน OpenRouter ควรเก็บคีย์ API ไว้บนเซิร์ฟเวอร์ และให้แอปพลิเคชันของคุณตัดสินใจว่าจะใช้ผลลัพธ์อย่างไร
ลองใช้ Jev ฟรีconst apiKey = process.env.OPENROUTER_API_KEY;
if (!apiKey) throw new Error("Set OPENROUTER_API_KEY");
const response = await fetch("https://openrouter.ai/api/alpha/decisions", {
method: "POST",
headers: {
Authorization: "Bearer " + apiKey,
"Content-Type": "application/json"
},
body: JSON.stringify({
model: "typesafe/jev-1.13",
state: "My card was charged twice. Please help ASAP.",
questions: {
department: {
type: "choice",
instructions: "Which team should handle this?",
criteria: {
billing: "Payments and refunds",
technical: "Bugs and integrations"
}
},
urgent: {
type: "noul",
instructions: "Does this message need urgent attention?"
}
}
})
});
if (!response.ok) throw new Error("Jev request failed: " + response.status);
const {answers} = await response.json();
if (answers.department.choice === "billing" && answers.urgent.noul > 0.8) {
// Route to the billing review queue.
}POST /api/alpha/decisionsstate + questionsanswerschoice ระบุทีมที่เลือก ส่วน noul ส่งคืนค่าตั้งแต่ 0 ถึง 1 สำหรับคำถามแบบใช่/ไม่ใช่ โค้ดของคุณนำทั้งสองค่าไปใช้ร่วมกับกฎการจัดเส้นทางของระบบ
ก่อนใช้ในระบบจริง ควรทดสอบกับเคสฝ่ายสนับสนุนที่เป็นตัวแทนของงาน บันทึกเวอร์ชันโมเดล และส่งเคสที่ไม่แน่นอนหรือมีผลกระทบสูงให้เจ้าหน้าที่ตรวจสอบ ค่า 0.8 เป็นเพียงตัวอย่าง
การอ้างอิง API: OpenRouter · TypeSafe
Harness ควบคุมลำดับการเรียกโมเดลและเครื่องมือ เมื่อถึงจุดที่ต้องตัดสินใจ Jev จะอ่านข้อความ คำสั่งเรียกเครื่องมือที่กำลังจะทำ หรือสถานะเอเจนต์ แล้วส่งคำตอบแบบมีชนิดข้อมูลกลับมา โค้ดของคุณเป็นผู้กำหนดขั้นตอนถัดไป ส่วนงานปลายเปิดยังให้โมเดลแชตจัดการ
ModelRouterMiddlewarebefore_agent → wrap_model_callจำแนกข้อความล่าสุดของผู้ใช้ก่อนเริ่มงานเพื่อเลือกโมเดล และใช้โมเดลนั้นตลอดการทำงาน ผลการเลือก ความน่าจะเป็น และค่าความมั่นใจยังดูได้จากสถานะเอเจนต์
AutoModeMiddlewarewrap_tool_callตรวจคำสั่งเรียกเครื่องมือที่ระบุก่อนลงมือทำ หาก Jev พบความเสี่ยงหรือสิทธิ์ไม่เพียงพอ middleware จะบล็อกคำสั่งและส่ง ToolMessage ที่เป็นข้อผิดพลาดกลับมา โดยไม่ได้ขออนุมัติจากคน
TypeSafeClassifierChoice · Score · Noulเพิ่มจุดตรวจของคุณเองได้ด้วย middleware แบบกำหนดเอง: ส่งข้อความหรือสถานะเอเจนต์ให้ TypeSafeClassifier แล้วใช้ผล Choice, Score หรือ Noul เพื่อแยกทางในโค้ดหรือส่งกรณีไม่แน่ชัดให้คนตรวจ
คำขอกำหนดรูปแบบคำถามและคำตอบ การตอบกลับจะส่งกลับผลลัพธ์สำหรับแต่ละรายการ นี่คือช่อง JSON ที่ใช้ในตัวอย่าง
modelstatequestionstypeinstructionscriteriaanswerschoiceprobabilitiesconfidencenoulคำตอบที่มีรูปแบบถูกต้องยังอาจผิดได้ ควรทดสอบกับกรณีที่เป็นตัวแทนของงานและกำหนดเกณฑ์การจัดเส้นทางให้เหมาะกับเวิร์กโฟลว์ของคุณ
Jev เป็นโมเดลของ TypeSafe ขณะเดียวกันนักพัฒนาในชุมชนก็กำลังทดลองใช้โมเดลเปิดและอินเทอร์เฟซต่าง ๆ เพื่อให้ได้คำตัดสินที่รวดเร็วและมีรูปแบบชัดเจน ลองเปรียบเทียบโค้ด แนวทาง และข้อจำกัดของแต่ละโครงการ
ผลงานอิสระจากชุมชน ไม่ใช่ Jev เวอร์ชันทางการ
สำรวจประเด็นหลักจากการสนทนาเกี่ยวกับการเปิดตัว SDK อย่างเป็นทางการ และวิดีโออิสระ อ่านบริบทที่นี่ จากนั้นติดตามแหล่งข้อมูลต้นฉบับเพื่อดูรายละเอียดเพิ่มเติม
TypeSafe แชร์ข่าวการเปิดตัวและบริบทของผลิตภัณฑ์บน X ควรมองโพสต์เหล่านี้เป็นคำอธิบายจากทีม และตรวจสอบเอกสารก่อนนำข้อมูลไปใช้เป็นพื้นฐานในการพัฒนา
ดูต้นฉบับSDK อย่างเป็นทางการสำหรับ JavaScript และ TypeScript แสดงรูปแบบ API ตัวอย่าง และความเคลื่อนไหวของแต่ละรุ่น เหมาะสำหรับตรวจสอบว่าคำขอของ Jev ถูกเขียนในโค้ดอย่างไร
ดูต้นฉบับกระทู้เปิดตัวพูดถึงว่าโมเดลสำหรับการตัดสินใจเหมาะกับงานใด ควรประเมินอย่างไร และควรทำอย่างไรเมื่อคำตอบที่มีความมั่นใจสูงกลับผิดพลาด เนื้อหานี้เป็นการอภิปราย ไม่ใช่ผลทดสอบประสิทธิภาพ
ดูต้นฉบับAllie Laabs จาก TypeSafe อธิบาย System One และผลลัพธ์แบบ Choice, Score และ Noul ในรายการ ThursdAI ผู้ดำเนินรายการทดลองจัดประเภทโพสต์ สาธิต Doom และพูดถึงข้อจำกัดของ Jev
ดูต้นฉบับวิดีโออิสระจาก RepoChad อธิบายรูปแบบผลลัพธ์ คำกล่าวอ้างด้านความเร็วของ TypeSafe ตัวอย่างการสาธิต และประเด็นที่ยังเปิดอยู่ วิดีโอจะโหลดเมื่อคุณกดเล่นเท่านั้น
ดูต้นฉบับTypeSafe AI เปิดตัว Jev เป็นโมเดล System One รุ่นแรก เป้าหมายที่ระบุไว้คือการตัดสินใจที่รวดเร็วและมีโครงสร้างซึ่งสามารถใช้งานได้ภายในเวิร์กโฟลว์ซอฟต์แวร์ทั่วไป
Diogo Almeida ผู้ก่อตั้ง เคยทำงานที่ OpenAI และ Google Brain โดย TypeSafe ระบุว่างานของเขาด้าน instruction following และ RLHF มีส่วนต่อยอดงานวิจัยเบื้องหลัง ChatGPT
ไม่ใช่ Jev ออกแบบมาเพื่อส่งคืนผลลัพธ์การตัดสินใจแบบมีชนิดข้อมูลและค่าความน่าจะเป็น ไม่ได้ใช้สร้างคำตอบแชตหรือโค้ดแบบอิสระ
Jev ช่วยให้คะแนนหรือจัดอันดับรายการใหม่ตามความเกี่ยวข้องเชิงความหมายได้ แต่ระบบแนะนำที่สมบูรณ์ยังต้องมีการค้นหารายการ กฎทางธุรกิจ การประเมินผล และตรรกะการจัดอันดับของคุณเอง
ไม่ ชนิดข้อมูลช่วยกำหนดรูปแบบเท่านั้น ตัวเลือกที่ได้ยังอาจผิด จึงควรทดสอบด้วยข้อมูลที่เป็นตัวแทนและจัดการความไม่แน่นอนในโค้ด
เริ่มจากเอกสารและ SDK อย่างเป็นทางการของ TypeSafe นอกจากนี้ยังเข้าถึง Jev ผ่านหน้าโมเดลบน OpenRouter ได้
กำหนดคำถามและคำตอบที่เป็นไปได้ แล้วให้แอปพลิเคชันของคุณตัดสินใจว่าจะทำอย่างไรกับผลลัพธ์