Nvidia представила Nemotron 3.5 Lightning и NeMo Switchyard для оптимизации AI-процессов
Nvidia представила свои последние разработки в области AI-технологий: модель Nemotron 3.5 Lightning и библиотеку NeMo Switchyard, созданные для оптимизации рабочих процессов в сфере искусственного интеллекта и снижения операционных затрат.
Nemotron 3.5 Lightning — это модель с 30 миллиардами параметров, использующая архитектуру смешанных экспертов, которая активирует лишь около 3 миллиардов параметров в любой момент времени. Эта архитектура особенно эффективна для задач с высоким объемом, таких как обработка документов и классификация запросов клиентов, которые не требуют обширных аналитических возможностей. Эта модель является частью растущего семейства, которое Nvidia разрабатывает с конца 2025 года, при этом каждая версия нацелена на разные потребности в производительности и стоимости.
В дополнение к этому релизу, NeMo Switchyard — это библиотека с открытым исходным кодом на Rust, которая управляет маршрутизацией трафика AI-моделей и переводами API. Она интеллектуально направляет рабочие процессы к наиболее подходящей модели на основе требований по стоимости, задержке и возможностям, обеспечивая эффективную обработку различных задач.
Анонсы были сделаны 11 августа 2026 года, что стало значительным шагом в стремлении Nvidia улучшить производительность AI для предприятий.
FAQ
Что такое модель Nemotron 3.5 Lightning?
Модель Nemotron 3.5 Lightning — это модель открытого типа с 30 миллиардами параметров, разработанная компанией Nvidia, которая активирует только около 3 миллиардов параметров в любой момент времени, что делает её эффективной для задач с высоким объемом, таких как разбор документов и классификация запросов клиентов.
Какова цель библиотеки NeMo Switchyard?
NeMo Switchyard — это библиотека с открытым исходным кодом на Rust, предназначенная для управления маршрутизацией трафика AI моделей и переводом API, направляющая рабочие процессы к наиболее подходящей модели на основе требований к стоимости, задержке и возможностям.
Когда были анонсированы Nemotron 3.5 Lightning и NeMo Switchyard?
Модель Nemotron 3.5 Lightning и библиотека NeMo Switchyard были анонсированы 11 августа 2026 года.
Как модель Nemotron 3.5 Lightning оптимизирует рабочие процессы AI?
Архитектура модели позволяет эффективно обрабатывать задачи с высоким объемом, активируя только часть своих параметров, что помогает снизить операционные расходы при сохранении производительности.
Какие типы задач лучше всего подходят для модели Nemotron 3.5 Lightning?
Модель Nemotron 3.5 Lightning особенно эффективна для задач, таких как разбор документов и классификация запросов клиентов, которые не требуют обширных возможностей рассуждения.
Комментарии
Комментарии публикуются после модерации.
Пока нет комментариев — напишите первым.