Модель Jev от TypeSafe AI набирает популярность как экономичное решение в области ИИ

Модель Jev от TypeSafe AI, запущенная 15 сентября, быстро привлекла внимание благодаря своей способности выполнять задачи структурированного принятия решений сRemarkable скоростью и низкими затратами. Эта модель, которая не занимается творческими задачами, такими как написание стихов или генерация кода, отлично справляется с такими приложениями, как классификация электронной почты и маркировка транзакций.

Jev обрабатывает запросы всего за 70-500 миллисекунд, со средней временем отклика около 0.44-0.48 секунд. Его ценовая структура также впечатляет: всего $0.042 за миллион входных токенов, при этом выводы предоставляются бесплатно. В бенчмарках Jev продемонстрировала производительность, которая была в 5-18 раз быстрее, чем у некоторых моделей OpenAI, и в 10-20 раз дешевле, чем модель Gemini от Google для классификации электронной почты.

Модель предназначена для быстрого, структурированного вероятностного принятия решений, что соответствует концепции мышления Системы Один из поведенческой психологии, которая подчеркивает важность быстрых, интуитивных реакций. Это делает Jev особенно подходящей для рабочих процессов, связанных с обработкой больших объемов данных без чрезмерных вычислительных затрат.

TypeSafe AI, основанная в 2024 году Диого Алмейдой, Эриком Гафни и Сашей Шенг, привлекла $40 миллионов в рамках начального финансирования, возглавляемого DCVC. Jev обучается исключительно на синтетических данных с использованием метода, называемого Обучением с подкреплением для откалиброванных решений (RLCD), сосредоточенного на производстве надежных выводов, а не творческих. Первые отзывы подчеркивают надежные оценки уверенности модели, что имеет решающее значение для автоматизированных процессов.

Несмотря на свои преимущества, закрытая природа Jev вызвала обсуждения о возможности альтернатив с открытыми весами. Некоторые первоначальные тесты показывают, что, хотя Jev превосходит по скорости и стоимости, она может не всегда обгонять другие модели по чистой точности, что побуждает разработчиков взвешивать компромиссы для своих конкретных случаев использования.