Tether QVAC выпустил набор данных Genesis III для улучшения обучения ИИ в STEM

Исследовательское подразделение Tether, QVAC, представило набор данных Genesis III, значительный ресурс, содержащий 191,43 миллиарда токенов, предназначенный для улучшения логического мышления ИИ в областях STEM. Этот набор данных доступен по лицензии Creative Commons CC-BY-NC 4.0 на платформе Hugging Face.

Инновационный подход к обучению

Набор данных Genesis III использует уникальную стратегию «двойной дистилляции учителя». Этот метод включает обучение более слабой модели ИИ в качестве студента, которая учится на своих ошибках и успехах через корректирующие объяснения и контрастивное рассуждение. Такой подход помогает модели не только понимать правильные ответы, но и разъяснять, почему другие варианты могут быть неверными.

Значительные улучшения в производительности

Genesis III представляет собой заметный шаг вперед по сравнению с его предшественниками, Genesis I и II, которые содержали 41 миллиард и 148 миллиардов токенов соответственно. Модели, обученные на данных Genesis III, продемонстрировали впечатляющие улучшения в производительности, достигнув прироста до 28,57% по стандарту ARC-Easy и 21,35% по стандарту ARC-Challenge, а также уровня правильных ответов 99,45% по стандартам MMLU STEM.

Стратегическое видение развития ИИ

Выпуск Genesis III отражает более широкую стратегию Tether по инвестициям в децентрализованные, локальные системы ИИ, способные функционировать без зависимости от обширной облачной инфраструктуры. Набор данных охватывает различные уровни образования и уровни сложности в 19 областях STEM, способствуя вовлечению сообщества и доступности в образовании по ИИ.

Заключение

Предоставляя набор данных Genesis III бесплатно, QVAC стремится демократизировать доступ к образовательным инструментам ИИ, способствуя местному обучению и технической поддержке, при этом выходя за рамки своего основного бизнеса со стейблкоинами.