Проект Лилия от OpenAI: Подрядчики анализируют разговоры пользователей ChatGPT для улучшения

OpenAI запустила внутреннюю инициативу под названием Проект Лилия, нанимая сотни подрядчиков для анализа реальных разговоров пользователей с ChatGPT. Цель этой инициативы — улучшить ответы чат-бота, особенно устраняя его склонность к чрезмерной лести и слишком человеческому поведению.

Согласно отчету 404 Media, подрядчики привлекаются через платформы, такие как Crossing Hurdles и Mercor, зарабатывая более 50 долларов в час за свою работу. Запросы пользователей обрабатываются через модель фильтра конфиденциальности перед тем, как быть проанализированными, что должно исключить личные данные. Однако внутренние документы указывают на то, что этот фильтр не является надежным, и чувствительная информация может быть случайно раскрыта.

OpenAI предоставляет пользователям возможность отказаться от использования их разговоров для обучения модели, но это касается только будущих взаимодействий. Разговоры, которые произошли до отказа, остаются доступными для анализа, что вызывает серьезные опасения по поводу конфиденциальности пользователей, которые могут не подозревать, что их чаты оцениваются реальными людьми.

Масштаб этой инициативы впечатляет, так как у ChatGPT более 900 миллионов пользователей, которые используют платформу для различных чувствительных запросов, от медицинских советов до эмоциональной поддержки. Предыдущие проверки со стороны регуляторов, включая временный запрет в Италии из-за проблем с конфиденциальностью, подчеркивают постоянные вызовы, с которыми сталкивается OpenAI в отношении практик обработки данных.

По мере развития Проекта Лилия последствия для конфиденциальности и доверия пользователей остаются критически важными, побуждая пользователей пересмотреть свои настройки и понять, как могут использоваться их данные.