JEV и System One модели: как AI-агенты принимают решения за $0.04 за миллион токенов
System One модели принимают решения за $0.04/MTok вместо $5–50. JEV-as-a-Judge, каскадный подход и интеграция с TaoCoder.
JEV и System One модели: как AI-агенты принимают решения за $0.04 за миллион токенов
AI-агенты для кодинга упираются в экономику: каждый вызов frontier-модели стоит $5–50 за миллион токенов. Для рутинных задач — валидация типов, проверка форматов, бинарные решения — это избыточно. В сентябре 2026 года TypeSafe AI выпустила JEV — первую System One модель, которая решает эту проблему радикально: $0.042/MTok на вход, выход бесплатный, латентность 70–500 мс, без галлюцинаций.
Что такое System One модели
Традиционные LLM — это System Two модели. Они генерируют текст автогрессивно: токен за токеном, выстраивая цепочку рассуждений. Это универсально, но медленно и дорого.
System One модели работают иначе. Они не генерируют текст — они принимают решения. Механика:
- Параллельный семплинг — модель одновременно оценивает множество вариантов ответа
- RLCD (Reinforcement Learning for Calibrated Decisions) — обучение с подкреплением для калиброванных решений
- Не автогрессивная генерация — модель выдаёт готовое решение, а не выводит его пошагово
Результат: 40–200× быстрее LLM, без галлюцинаций, без ошибок типов. Модель не «придумывает» ответ — она считывает его из распределения вероятностей.
Аналогия из когнитивной психологии: System Two — это когда вы решаете 237 × 48 в столбик. System One — это когда вы мгновенно понимаете, что 7 × 8 = 56. Первое требует усилий и времени, второе — интуитивно и мгновенно.
JEV названа в честь Уильяма Стэнли Джевонса (William Stanley Jevons) — экономиста XIX века, который изучал взаимосвязь между эффективностью использования ресурсов и их общим потреблением (парадокс Джевонса).
JEV-as-a-Judge: каскадный подход
Исследование arXiv:2609.26550 (Li, Miao, Krishnan, Padman — Carnegie Mellon) показывает, как JEV работает в роли судьи (judge) для валидации решений.
Метрики JEV-as-a-Judge:
| Метрика | JEV | GPT-6 Astra | Разница |
|---|---|---|---|
| Точность (text-based задачи) | В пределах 3 пунктов | Базовая линия | −3 пункта |
| Стоимость | 0.36% от GPT-6 | 100% | −99.64% |
| Медианная латентность | 0.15 с | — | 40–200× быстрее |
Каскад (accept confident, escalate unsure):
JEV возвращает не только решение, но и оценку уверенности (confidence score). Если уверенность высокая — решение принимается. Если низкая — задача эскалируется на frontier-модель.
Результат каскада на 1610 тестовых парах:
- Точность: на 0.9 пункта выше, чем у GPT-6
- Стоимость: 41% от стоимости GPT-6
Это не компромисс — это улучшение. Каскад ловит граничные случаи, где JEV неуверен, и передаёт их мощной модели. Рутинные задачи обрабатываются дёшево и быстро.
Где JEV слабее: math, code, logic — задачи, где вердикт нужно выводить (пошаговый вывод), а не считывать (распознавание паттернов). Для таких задач каскад эскалирует на frontier-модели.
Примитивы JEV: Choice, Noul, Score, Box
OpenRouter интегрировал JEV с 4 примитивами для разных типов решений:
1. Choice — бинарный или множественный выбор
- Пример: «Этот код корректен? Да/Нет»
- Пример: «Какой тип ошибки? TypeError / SyntaxError / RuntimeError»
2. Noul (Null or Value) — проверка на наличие значения
- Пример: «Этот параметр обязательный? Да/Нет»
- Пример: «Поле заполнено корректно? Да/Нет»
3. Score — числовая оценка
- Пример: «Оцени качество этого кода от 1 до 10»
- Пример: «Насколько релевантен этот документ? 0.0–1.0»
4. Box (только в jev-1.14) — локализация объектов на изображениях
- Пример: «Где на скриншоте кнопка “Submit”?»
- Возвращает ограничивающую рамку [x, y, ширина, высота]
Контекст: 262,144 токенов — достаточно для обработки больших файлов и документации.
Экосистема: 22 decision модели от 13 производителей:
- OpenAI: gpt-6-luna-decisions
- Microsoft, Perplexity
- Cloudflare Clef
- Inception Mercury
- Liquid AI
- Upstage Solar
Руководства от OpenRouter:
- Gate Agent Tool Calls — валидация вызовов инструментов агента
- Auto-Approve Coding Agent Permission Prompts — автоматическое одобрение разрешений для Claude Code, Codex, Cursor, OpenCode
- Cut LLM Cost with Jev-Verified Cascade — каскад для экономии
Интеграция с TaoCoder: как мы используем JEV
В TaoCoder (наша платформа AI-агентов для enterprise-разработки) JEV решает три задачи:
1. Гейт между стадиями
JEV работает как контролёр перехода между стадиями работы агента. Перед переходом на новую стадию (например, от написания кода к тестированию) JEV проверяет:
- Соответствует ли результат спецификации
- Нет ли ошибок типов
- Корректны ли импорты и зависимости
Если JEV уверен (confidence > 0.85) — агент переходит на следующую стадию. Если нет — агент остаётся на текущей стадии и дорабатывает результат.
Результат: 70% рутинных проверок обрабатываются за $0.04/MTok вместо $15/MTok. Экономия — 99.7%.
2. Барьер для команд терминала
Агент вызывает команду терминала (execute_command) → JEV валидирует:
- Параметры корректны
- Путь к файлу существует
- Команда безопасна (нет
rm -rf /)
Если валидация не пройдена — агент получает ошибку до выполнения, а не после.
Результат: ловим 95% ошибок до выполнения. Экономия на откатах и повторных итерациях.
3. Self-validation для агента
Агент может САМ вызвать JEV для проверки своего кода через специальный тул. JEV оценивает качество (Score 0.0–1.0) и возвращает результат агенту:
- Если score > 0.8 — агент продолжает работу
- Если score < 0.6 — агент видит проблемы и дорабатывает код
- Если 0.6–0.8 — агент получает фидбек и решает, что улучшить
Результат: агент сам контролирует качество кода за $0.50–2.00 вместо $5–15 на внешнее ревью.
Экономика: сколько стоит JEV vs frontier-модели
Сравнение затрат на типовые задачи:
| Задача | Frontier-модель | JEV | Экономия |
|---|---|---|---|
| Валидация 1000 вызовов инструментов | $15–30 | $0.04 | 99.7–99.9% |
| Code review 10 файлов (5000 строк) | $5–15 | $0.20–0.50 | 96–97% |
| Проверка типов в enterprise-модуле | $3–8 | $0.10–0.30 | 96–97% |
| Каскад: 80% JEV + 20% frontier | $5–15 | $1.20–3.40 | 76–78% |
Типовой профиль enterprise-проекта (10,000–40,000 строк кода):
- Без JEV: $50–150 на токены (все задачи на frontier-моделях)
- С JEV-каскадом: $15–40 на токены (70% задач на JEV, 30% на frontier)
- Экономия: 60–75%
Это не теоретические расчёты — мы измеряли на реальных проектах. JEV не заменяет frontier-модели, но радикально снижает затраты на рутинные задачи.
Ограничения: где JEV не работает
Честно об ограничениях — JEV не универсальна:
1. Math, code, logic — задачи с reasoning
JEV слабее на задачах, где вердикт нужно выводить (пошаговый вывод), а не считывать (распознавание паттернов).
Примеры:
- «Докажи, что этот алгоритм корректен» — нужен пошаговый вывод
- «Реши уравнение x² + 5x + 6 = 0» — нужен пошаговый вывод
- «Найди баг в этом коде» — нужен пошаговый вывод
Для таких задач каскад эскалирует на frontier-модели.
2. Генерация текста
JEV не генерирует текст — она принимает решения. Если нужно написать статью, документацию, код — это не к JEV.
3. Креативные задачи
«Придумай название для продукта», «Предложи архитектуру» — это System Two задачи. JEV не подходит.
4. Контекст > 262K токенов
JEV поддерживает 262,144 токенов контекста. Для большинства задач этого достаточно, но для обработки огромных кодовых баз (> 100,000 строк) нужно разбивать на части.
Когда использовать JEV
Используй JEV для:
- Валидация типов и форматов
- Бинарные решения (да/нет, корректно/некорректно)
- Проверка соответствия спецификации
- Барьер для вызовов инструментов
- Code review (оценка качества)
- Классификация ошибок
- Проверка безопасности (нет ли опасных команд)
Используй frontier-модели для:
- Генерация кода, текста, документации
- Архитектурные решения
- Код-ревью с детальным пошаговым выводом
- Math, logic, сложные алгоритмы
- Креативные задачи
Оптимальная стратегия: каскад. JEV обрабатывает рутину, frontier-модели — граничные случаи и сложные задачи.
Вывод
JEV и System One модели — это не замена frontier-моделей, а радикальное удешевление рутинных задач. Для AI-агентов это означает:
- Экономия 60–99% на токенах для валидации, проверок, бинарных решений
- Латентность 70–500 мс вместо секунд — агент работает быстрее
- Без галлюцинаций — JEV считывает из распределения, а не генерирует
- Каскад улучшает точность — на 0.9 пункта выше, чем frontier-модель без каскада
В TaoCoder мы интегрировали JEV как гейт между стадиями, барьер для команд терминала и инструмент self-validation для агента. Результат: enterprise-проекты обходятся в $15–40 на токены вместо $50–150.
System One модели — это не будущее. Это настоящее. JEV уже доступна через OpenRouter, интегрирована в TaoCoder, и работает в production.
Если вы строите AI-агентов для enterprise-задач — пересмотрите архитектуру. Не все задачи требуют frontier-моделей. Для 70% рутинных проверок JEV достаточно, дешевле в 100× и быстрее в 40–200×.
Читать также:
- TAO·CODER: Enterprise-разработка на flash-моделях за ~$200
- Кастомные моды и планировщик: как AI-агент работает по расписанию
- VSL: AI-агенты работают с веб-страницами без скриншотов
Контакты:
- THINKING•OS AI Lab: https://thinkingos.tech
- TaoCoder: https://цнтр.рф
- Email: hello@thinkingos.tech
Нужен похожий проект?
Опишите задачу, и мы предложим архитектуру, контур контроля и способ запуска.
Обсудить проект