Google запускает EmbeddingGemma 2: мультимодальная модель ИИ с 740 миллионами параметров

Google официально запустила EmbeddingGemma 2, новую мультимодальную модель встраивания с 740 миллионами параметров, 6 октября 2026 года. Эта модель предназначена для работы на существующем оборудовании, что позволяет разработчикам использовать её возможности без необходимости обращения к удалённым дата-центрам.

Ключевые особенности EmbeddingGemma 2

• Мультимодальные возможности: EmbeddingGemma 2 может обрабатывать текст, изображения, видео и аудио, помещая весь контент в общее 768-мерное векторное пространство. Это позволяет без проблем связывать различные типы данных, например, сопоставлять текстовые запросы с изображениями.
• Увеличенное окно контекста: Модель имеет контекстное окно на 8K токенов, что в четыре раза больше, чем у её предшественника, что улучшает её способность обрабатывать сложные запросы.
• Модульная архитектура: В её основе лежит 270 миллионов параметров для текста и кода, с дополнительными кодировщиками для визуальных и аудио данных, что в сумме составляет 740 миллионов параметров.
• Ориентированность на конфиденциальность: EmbeddingGemma 2 разработана для приложений, чувствительных к конфиденциальности, позволяя генерировать встраивания непосредственно на устройствах, тем самым обеспечивая безопасность личных данных.
• Обучение представлениям «матрёшка»: Эта функция позволяет эффективно хранить данные, упаковывая важную информацию в меньшие векторы, что может значительно уменьшить размеры встраиваний.

Разработчики могут получить доступ к весам модели по лицензии Apache 2.0, что облегчает коммерческое использование и интеграцию с различными фреймворками. Оригинальная модель EmbeddingGemma достигла более 20 миллионов загрузок, что свидетельствует о высоком интересе и полезности в сообществе разработчиков.