Новые "модели принятия решений" значительно удешевляют задачи классификации для ИИ
Ряд компаний, включая TypeSafe, Cloudflare и Perplexity, представили новые "модели принятия решений" (decider models), которые обещают значительно снизить стоимость выполнения классификационных задач для искусственного интеллекта по сравнению с традиционными большими языковыми моделями.
15 сентября компания TypeSafe представила модель Jev, позиционируя её как первую в классе System One. Эти модели получают текущее состояние системы и список типизированных вопросов, а затем выдают распределение вероятностей по возможным ответам. Ключевая особенность Jev и подобных ей решений заключается в том, что весь ответ формируется за один прямой проход, без необходимости генерации токенов, что существенно ускоряет процесс и снижает вычислительные затраты.


Комментарии (0)
Без регистрации. Комментарии проверяются автоматически перед публикацией.
Пока нет комментариев. Будьте первым!