Независимое руководство для разработчиков

Модель Jev AI.
От идеи к коду.

Jev — первая модель System One от TypeSafe. Он возвращает типизированные решения и вероятности, которые может использовать программное обеспечение. Изучите варианты использования и узнайте, как вызвать его из кода.

Выбирайте по задаче

Другой тип интеллекта.

TypeSafe называет Jev моделью System One: она возвращает типизированные варианты и вероятности вместо текста в свободной форме. Сравните, для каких задач этот подход подходит наряду с генеративными моделями и кодом на основе правил.

АспектJevГенеративные LLMКод на основе правил
РезультатПредопределенные типизированные варианты выбора, оценки и вероятностиГибкий текст, код или структурированный выводДетерминированные значения из явных условий
СкоростьОптимизирован для принятия решений с малой задержкой; TypeSafe сообщает о 70–500 мс в своих тестахЗависит от модели, промпта и длины результатаОбычно очень быстро для известных условий
Лучше всего подходитПовторяющиеся решения, требующие понимания входных данныхПисьмо, сложные рассуждения и открытые задачиЧеткие условия со стабильными определениями
Главное ограничениеНе генерирует текст в свободной форме; типизированный ответ всё равно может быть ошибочнымГибкий результат может потребовать парсинга и проверкиТрудно охватить каждый случай, когда входные данные неоднозначны.
i

TypeSafe сообщает данные о скорости для конкретных тестов структурированного решения. Они не являются независимым эталоном или универсальной гарантией скорости. Прочтите методы

Практическое различие

Используйте Jev, когда ответы известны, но вводимые данные все еще требуют интерпретации. Используйте генеративную модель для создания нового текста или кода. Пишите явные условия прямо в коде.

Основная идея

Создан для принятия решений внутри программного обеспечения.

Jev оценивает текст или структурированные данные по заданным вами вопросам. Модель возвращает варианты, оценки и вероятности, которые приложение может использовать для выбора следующего шага.

Jev в три шагаИллюстративный пример · не реальный ответ модели
01Сообщение клиента

За подписку с меня сняли дважды. Можете ли вы помочь?

02Вопрос и выбор

Какая команда должна с этим справиться?

Допустимые ответы: Биллинг · Техническая поддержка · Продажи
03Структурированный результат
БиллингJev

Пример вероятности 0.92

01

Дайте этому контекст

Предоставьте соответствующий текст, состояние JSON или список текстовых элементов. В настоящее время Jev принимает текст, а не изображения, аудио или видео.

02

Определите пространство для ответов

Попросите указать выбор, оценку или вероятность ответа «да/нет». Доступные ответы определяются перед вызовом.

03

Позвольте вашему коду решить, что будет дальше

Используйте результат и степень неопределённости для маршрутизации, проверки или действия. Корректный тип ответа не гарантирует верного решения.

На основе официальная документация TypeSafe

Где это подходит

Маленькие решения в реальных рабочих процессах.

Jev предназначен для целенаправленных, повторяемых решений с определенным пространством ответов. Это отправные точки, а не обещания производительности; протестируйте их на собственных данных.

01

Поддержка клиентов

Классифицируйте входящие сообщения, определяйте срочность и направляйте обращения в нужную очередь. Неопределённые запросы можно передать специалисту.

Пример решенияЭто проблема с оплатой или техническая проблема?
02

Рекомендации и рейтинг

Оцените, насколько хорошо элементы-кандидаты соответствуют контексту пользователя, а затем объедините эту оценку с вашими собственными сигналами и политиками ранжирования.

Пример решенияНасколько этот пункт соответствует данному запросу?
03

Оркестровка агента

Выберите инструмент или модель для следующего шага, проверьте результат или решите, когда задача требует эскалации.

Пример решенияДолжен ли этот запрос быть адресован специализированной модели?
04

Доверие и безопасность

Оценивайте контент на соответствие определенным правилам и отправляйте на рассмотрение случаи с низким уровнем доверия или высоким риском.

Пример решенияНарушает ли это сообщение данную политику?

На основе Карта вариантов использования TypeSafe

Начать

От любопытства до вашего первого решения.

Начните с конкретного решения, которое уже требуется приложению. Определите возможные ответы, а затем задайте в коде, как использовать результат.

01

Выберите решение

Выберите один конкретный вопрос, например маршрутизацию обращения или оценку релевантности элемента.

02

Определите выбор

Определите входные данные, вопросы и разрешенные ответы перед вызовом API.

03

Учитывайте неопределённость

Используйте вероятности и показатель уверенности, чтобы выбрать действие, резервный сценарий или проверку человеком.

Как интегрировать

Добавьте Jev в свой код.

Этот пример TypeScript на стороне сервера отправляет сообщение поддержки и два вопроса с определенными форматами ответов в Jev 1.13 через OpenRouter. Храните ключ API на своем сервере; ваше приложение решает, как использовать результаты.

TypeScript на стороне сервераtypesafe/jev-1.13
const apiKey = process.env.OPENROUTER_API_KEY;
if (!apiKey) throw new Error("Set OPENROUTER_API_KEY");

const response = await fetch("https://openrouter.ai/api/alpha/decisions", {
  method: "POST",
  headers: {
    Authorization: "Bearer " + apiKey,
    "Content-Type": "application/json"
  },
  body: JSON.stringify({
    model: "typesafe/jev-1.13",
    state: "My card was charged twice. Please help ASAP.",
    questions: {
      department: {
        type: "choice",
        instructions: "Which team should handle this?",
        criteria: {
          billing: "Payments and refunds",
          technical: "Bugs and integrations"
        }
      },
      urgent: {
        type: "noul",
        instructions: "Does this message need urgent attention?"
      }
    }
  })
});

if (!response.ok) throw new Error("Jev request failed: " + response.status);
const {answers} = await response.json();

if (answers.department.choice === "billing" && answers.urgent.noul > 0.8) {
  // Route to the billing review queue.
}
ЭндпоинтPOST /api/alpha/decisions
Вводstate + questions
Выходanswers

Прочитайте ответ

choice указывает команду. noul возвращает значение от 0 до 1 для вопроса «да/нет». Код использует оба значения вместе с вашими правилами маршрутизации.

Прежде чем использовать его в производстве

Перед использованием в продакшене протестируйте модель на репрезентативных обращениях, зафиксируйте версию и отправляйте неопределённые или критичные случаи на проверку человеку. Значение 0,8 приведено только как пример.

Ссылки на API: OpenRouter · TypeSafe

Что означает каждое поле

Запрос определяет форматы вопросов и ответов. Ответ возвращает результат для каждого из них. Вот поля JSON, используемые в примере.

Поля запроса

model
Идентификатор модели. В примере зафиксирована версия Jev 1.13, поэтому используемая версия указана явно.
state
Текст или структурированные данные для оценки, например сообщение службы поддержки.
questions
Набор решений с заданными именами. Эти же имена используются в поле answers ответа.
type
Формат ответа: choice выбирает один вариант, а noul оценивает вопрос «да/нет».
instructions
Конкретное суждение, которое вы хотите, чтобы модель вынесла.
criteria
Для choice: допустимые ключи вариантов и краткое описание каждого варианта.

Поля ответа

answers
Один результат на вопрос, возвращаемый под тем же именем.
choice
Ключ варианта, выбранного полем choice: вариант с наибольшей вероятностью.
probabilities
Вероятность каждого варианта выбора; сумма этих значений равна 1.
confidence
Отдельный показатель уверенности, рассчитанный по распределению вероятностей; это не вероятность выбранного варианта.
noul
Число от 0 (нет) до 1 (да) для ответа на вопрос «да/нет».

Ответ правильного формата всё равно может быть ошибочным. Тестируйте репрезентативные случаи и задавайте пороги маршрутизации для своего процесса.

Вокруг модели

Что говорят разработчики.

Изучите основные моменты обсуждения запуска, официального SDK и независимого видео. Прочтите контекст здесь, а затем следуйте первоисточникам для получения более подробной информации.

X

TypeSafe публикует в X новости о запуске и контекст продукта. Рассматривайте эти публикации как позицию команды и сверяйтесь с документацией, прежде чем опираться на конкретное утверждение.

Посмотреть оригинал

GitHub

Официальный SDK JavaScript и TypeScript показывает интерфейс API, примеры и активность по выпуску. Это наиболее полезное место для проверки того, как запрос Jev представлен в коде.

Посмотреть оригинал

Hacker News

В теме запуска задается вопрос, где подходит модель принятия решений, как ее оценить и что делать, если уверенный ответ неверен. Это обсуждение, а не проверка производительности.

Посмотреть оригинал
Смотрите на этой странице

Как работает Jev: структурированные решения и ограничения

Независимое пошаговое руководство RepoChad охватывает схему вывода, заявления TypeSafe о скорости, примеры демонстраций и открытые вопросы. Видео загружается только тогда, когда вы решите его воспроизвести.

Посмотреть оригинал
Люди, стоящие за Jev

Сделайте решения ИИ более простыми для использования в программном обеспечении.

TypeSafe AI представила Jev как свою первую модель System One. Заявленная цель модели — обеспечивать быстрые структурированные решения для обычных программных процессов.

Основатель Диого Алмейда ранее работал в OpenAI и Google Brain. По словам TypeSafe, его работа над следованием инструкциям и RLHF помогла сформировать исследование ChatGPT.

Хорошие вопросы

Вопросы, которые стоит задать.

Jev — чат-бот?

Нет. Jev предназначен для возврата типизированных решений и вероятностей, а не ответов в чате в свободной форме или сгенерированного кода.

Может ли Jev дать рекомендации?

Jev может оценивать или повторно ранжировать элементы по семантической релевантности. Полноценной рекомендательной системе также нужны поиск кандидатов, бизнес-правила, оценка качества и собственная логика ранжирования.

Означает ли типизированный вывод, что решение правильное?

Нет. Типизированный вывод ограничивает формат. Выбранный вариант все равно может быть неправильным, поэтому тестируйте с репрезентативными данными и учитывайте неопределенность в коде.

Где я могу научиться использовать Jev?

Начните с официальной документации и SDK TypeSafe. Страница модели в OpenRouter также предоставляет доступ к Jev через эту платформу.

Начните с одного вопроса

Попробуйте Jev для конкретной задачи принятия решения.

Определите вопрос и возможные ответы. Позвольте вашему приложению решить, что делать с результатом.