ให้ข้อมูลบริบท
ระบุข้อความที่เกี่ยวข้อง สถานะ JSON หรือรายการข้อความ ขณะนี้ Jev ยอมรับข้อความ ไม่ใช่รูปภาพ เสียง หรือวิดีโอ
Jev เป็นโมเดล System One รุ่นแรกของ TypeSafe โดยส่งคืนผลลัพธ์การตัดสินใจแบบมีชนิดข้อมูลพร้อมค่าความน่าจะเป็นที่ซอฟต์แวร์นำไปใช้ได้ สำรวจกรณีใช้งานและดูวิธีเรียกโมเดลจากโค้ดของคุณ
TypeSafe เรียก Jev ว่าโมเดล System One เพราะส่งคืนตัวเลือกแบบมีชนิดข้อมูลและค่าความน่าจะเป็น แทนการสร้างข้อความปลายเปิด ลองเปรียบเทียบว่าแนวทางนี้เหมาะกับงานใดเมื่อใช้ร่วมกับโมเดลเชิงกำเนิดและโค้ดแบบอิงกฎ
| ด้าน | Jev | LLM กำเนิด | โค้ดแบบอิงกฎ |
|---|---|---|---|
| เอาท์พุต | ตัวเลือกแบบมีชนิดข้อมูล คะแนน และค่าความน่าจะเป็นที่กำหนดไว้ล่วงหน้า | ข้อความ โค้ด หรือเอาต์พุตที่มีโครงสร้างแบบยืดหยุ่น | ค่ากำหนดจากเงื่อนไขที่ชัดเจน |
| ความเร็ว | ปรับให้เหมาะสมสำหรับการตัดสินใจที่มีความหน่วงต่ำ TypeSafe รายงาน 70–500 ms ในการทดสอบ | ขึ้นอยู่กับโมเดล พรอมต์ และความยาวของผลลัพธ์ | มักจะเร็วมากสำหรับเงื่อนไขที่ทราบ |
| เหมาะที่สุดสำหรับ | การตัดสินใจซ้ำๆ ที่ต้องอาศัยความเข้าใจในข้อมูลนำเข้า | การเขียน การใช้เหตุผลที่ซับซ้อน และงานปลายเปิด | เงื่อนไขที่ชัดเจนพร้อมคำจำกัดความที่มั่นคง |
| ข้อจำกัดสำคัญ | ไม่สามารถสร้างข้อความอิสระได้ และคำตอบที่มีชนิดข้อมูลถูกต้องก็ยังอาจตัดสินใจผิด | เอาต์พุตที่ยืดหยุ่นอาจต้องมีการแยกวิเคราะห์และการตรวจสอบความถูกต้อง | ยากที่จะครอบคลุมทุกกรณีเมื่ออินพุตไม่ชัดเจน |
TypeSafe รายงานตัวเลขความเร็วสำหรับการทดสอบการตัดสินใจเชิงโครงสร้างโดยเฉพาะ ไม่ใช่เกณฑ์มาตรฐานอิสระหรือการรับประกันความเร็วสากล อ่านรายละเอียดวิธีทดสอบ
ใช้ Jev เมื่อทราบคำตอบแล้ว แต่ข้อมูลที่ป้อนยังต้องการการตีความ ใช้โมเดลกำเนิดเพื่อสร้างข้อความหรือโค้ดใหม่ เขียนเงื่อนไขที่ชัดเจนในโค้ดโดยตรง
Jev ประเมินข้อความหรือข้อมูลที่มีโครงสร้างกับคำถามที่คุณกำหนด โดยจะส่งคืนตัวเลือก คะแนน และความน่าจะเป็นที่แอปพลิเคชันของคุณสามารถใช้เพื่อตัดสินใจว่าจะเกิดอะไรขึ้นต่อไป
“ฉันถูกเรียกเก็บค่าสมาชิกซ้ำสองครั้ง ช่วยตรวจสอบให้หน่อยได้ไหม”
ทีมไหนควรจัดการเรื่องนี้?
ตัวอย่างความน่าจะเป็น 0.92
ระบุข้อความที่เกี่ยวข้อง สถานะ JSON หรือรายการข้อความ ขณะนี้ Jev ยอมรับข้อความ ไม่ใช่รูปภาพ เสียง หรือวิดีโอ
ขอผลลัพธ์แบบตัวเลือก คะแนน หรือค่าความน่าจะเป็นสำหรับคำถามใช่/ไม่ใช่ โดยกำหนดคำตอบที่อนุญาตไว้ก่อนเรียก API
ใช้ผลลัพธ์และระดับความไม่แน่นอนเพื่อจัดเส้นทาง ตรวจสอบ หรือดำเนินการ ชนิดข้อมูลที่ถูกต้องไม่ได้รับประกันว่าการตัดสินใจจะถูกต้อง
อ้างอิงจาก เอกสาร TypeSafe อย่างเป็นทางการ
Jev เหมาะกับการตัดสินใจเรื่องเฉพาะที่ต้องทำซ้ำและมีชุดคำตอบชัดเจน ตัวอย่างเหล่านี้เป็นจุดเริ่มต้น ไม่ใช่การรับประกันประสิทธิภาพ ควรทดสอบกับข้อมูลของคุณเอง
จำแนกข้อความขาเข้า ตรวจจับเรื่องเร่งด่วน และส่งเคสไปยังคิวที่เหมาะสม ส่วนคำขอที่ไม่แน่นอนสามารถส่งให้เจ้าหน้าที่ตรวจสอบ
ให้คะแนนว่ารายการแต่ละรายการตรงกับบริบทของผู้ใช้เพียงใด แล้วนำคะแนนไปรวมกับสัญญาณการจัดอันดับและนโยบายของคุณ
เลือกเครื่องมือหรือโมเดลสำหรับขั้นตอนถัดไป ตรวจสอบผลลัพธ์ หรือตัดสินใจว่าเมื่อใดควรส่งงานต่อให้ผู้เชี่ยวชาญ
ประเมินเนื้อหาตามกฎเกณฑ์เฉพาะ และส่งเคสที่มีความมั่นใจต่ำหรือมีความเสี่ยงสูงเข้ารับการตรวจสอบ
อ้างอิงจาก แผนที่กรณีการใช้งานของ TypeSafe
เริ่มจากการตัดสินใจเฉพาะเรื่องที่แอปพลิเคชันของคุณต้องใช้ กำหนดคำตอบที่เป็นไปได้ แล้วระบุในโค้ดว่าจะนำผลลัพธ์ไปใช้อย่างไร
เลือกคำถามที่เจาะจง เช่น การส่งต่อเคสฝ่ายสนับสนุนหรือการให้คะแนนความเกี่ยวข้องของรายการ
กำหนดอินพุต คำถาม และคำตอบที่อนุญาตก่อนเรียกใช้ API
ใช้ค่าความน่าจะเป็นและระดับความมั่นใจเพื่อเลือกการดำเนินการ แผนสำรอง หรือการตรวจสอบโดยเจ้าหน้าที่
ตัวอย่าง TypeScript ฝั่งเซิร์ฟเวอร์นี้ส่งข้อความฝ่ายสนับสนุนและคำถามสองข้อที่กำหนดรูปแบบคำตอบไว้แล้วไปยัง Jev 1.13 ผ่าน OpenRouter ควรเก็บคีย์ API ไว้บนเซิร์ฟเวอร์ และให้แอปพลิเคชันของคุณตัดสินใจว่าจะใช้ผลลัพธ์อย่างไร
const apiKey = process.env.OPENROUTER_API_KEY;
if (!apiKey) throw new Error("Set OPENROUTER_API_KEY");
const response = await fetch("https://openrouter.ai/api/alpha/decisions", {
method: "POST",
headers: {
Authorization: "Bearer " + apiKey,
"Content-Type": "application/json"
},
body: JSON.stringify({
model: "typesafe/jev-1.13",
state: "My card was charged twice. Please help ASAP.",
questions: {
department: {
type: "choice",
instructions: "Which team should handle this?",
criteria: {
billing: "Payments and refunds",
technical: "Bugs and integrations"
}
},
urgent: {
type: "noul",
instructions: "Does this message need urgent attention?"
}
}
})
});
if (!response.ok) throw new Error("Jev request failed: " + response.status);
const {answers} = await response.json();
if (answers.department.choice === "billing" && answers.urgent.noul > 0.8) {
// Route to the billing review queue.
}POST /api/alpha/decisionsstate + questionsanswerschoice ระบุทีมที่เลือก ส่วน noul ส่งคืนค่าตั้งแต่ 0 ถึง 1 สำหรับคำถามแบบใช่/ไม่ใช่ โค้ดของคุณนำทั้งสองค่าไปใช้ร่วมกับกฎการจัดเส้นทางของระบบ
ก่อนใช้ในระบบจริง ควรทดสอบกับเคสฝ่ายสนับสนุนที่เป็นตัวแทนของงาน บันทึกเวอร์ชันโมเดล และส่งเคสที่ไม่แน่นอนหรือมีผลกระทบสูงให้เจ้าหน้าที่ตรวจสอบ ค่า 0.8 เป็นเพียงตัวอย่าง
การอ้างอิง API: OpenRouter · TypeSafe
คำขอกำหนดรูปแบบคำถามและคำตอบ การตอบกลับจะส่งกลับผลลัพธ์สำหรับแต่ละรายการ นี่คือช่อง JSON ที่ใช้ในตัวอย่าง
modelstatequestionstypeinstructionscriteriaanswerschoiceprobabilitiesconfidencenoulคำตอบที่มีรูปแบบถูกต้องยังอาจผิดได้ ควรทดสอบกับกรณีที่เป็นตัวแทนของงานและกำหนดเกณฑ์การจัดเส้นทางให้เหมาะกับเวิร์กโฟลว์ของคุณ
สำรวจประเด็นหลักจากการสนทนาเกี่ยวกับการเปิดตัว SDK อย่างเป็นทางการ และวิดีโออิสระ อ่านบริบทที่นี่ จากนั้นติดตามแหล่งข้อมูลต้นฉบับเพื่อดูรายละเอียดเพิ่มเติม
TypeSafe แชร์ข่าวการเปิดตัวและบริบทของผลิตภัณฑ์บน X ควรมองโพสต์เหล่านี้เป็นคำอธิบายจากทีม และตรวจสอบเอกสารก่อนนำข้อมูลไปใช้เป็นพื้นฐานในการพัฒนา
ดูต้นฉบับSDK อย่างเป็นทางการสำหรับ JavaScript และ TypeScript แสดงรูปแบบ API ตัวอย่าง และความเคลื่อนไหวของแต่ละรุ่น เหมาะสำหรับตรวจสอบว่าคำขอของ Jev ถูกเขียนในโค้ดอย่างไร
ดูต้นฉบับกระทู้เปิดตัวพูดถึงว่าโมเดลสำหรับการตัดสินใจเหมาะกับงานใด ควรประเมินอย่างไร และควรทำอย่างไรเมื่อคำตอบที่มีความมั่นใจสูงกลับผิดพลาด เนื้อหานี้เป็นการอภิปราย ไม่ใช่ผลทดสอบประสิทธิภาพ
ดูต้นฉบับวิดีโออิสระจาก RepoChad อธิบายรูปแบบผลลัพธ์ คำกล่าวอ้างด้านความเร็วของ TypeSafe ตัวอย่างการสาธิต และประเด็นที่ยังเปิดอยู่ วิดีโอจะโหลดเมื่อคุณกดเล่นเท่านั้น
ดูต้นฉบับTypeSafe AI เปิดตัว Jev เป็นโมเดล System One รุ่นแรก เป้าหมายที่ระบุไว้คือการตัดสินใจที่รวดเร็วและมีโครงสร้างซึ่งสามารถใช้งานได้ภายในเวิร์กโฟลว์ซอฟต์แวร์ทั่วไป
Diogo Almeida ผู้ก่อตั้ง เคยทำงานที่ OpenAI และ Google Brain โดย TypeSafe ระบุว่างานของเขาด้าน instruction following และ RLHF มีส่วนต่อยอดงานวิจัยเบื้องหลัง ChatGPT
ไม่ใช่ Jev ออกแบบมาเพื่อส่งคืนผลลัพธ์การตัดสินใจแบบมีชนิดข้อมูลและค่าความน่าจะเป็น ไม่ได้ใช้สร้างคำตอบแชตหรือโค้ดแบบอิสระ
Jev ช่วยให้คะแนนหรือจัดอันดับรายการใหม่ตามความเกี่ยวข้องเชิงความหมายได้ แต่ระบบแนะนำที่สมบูรณ์ยังต้องมีการค้นหารายการ กฎทางธุรกิจ การประเมินผล และตรรกะการจัดอันดับของคุณเอง
ไม่ ชนิดข้อมูลช่วยกำหนดรูปแบบเท่านั้น ตัวเลือกที่ได้ยังอาจผิด จึงควรทดสอบด้วยข้อมูลที่เป็นตัวแทนและจัดการความไม่แน่นอนในโค้ด
เริ่มจากเอกสารและ SDK อย่างเป็นทางการของ TypeSafe นอกจากนี้ยังเข้าถึง Jev ผ่านหน้าโมเดลบน OpenRouter ได้
กำหนดคำถามและคำตอบที่เป็นไปได้ แล้วให้แอปพลิเคชันของคุณตัดสินใจว่าจะทำอย่างไรกับผลลัพธ์