OpenAI запустит систему частной обработки безопасности в сентябре 2026 года

OpenAI готовится запустить новую функцию, известную как «частная обработка безопасности», в сентябре 2026 года. Эта система предназначена для того, чтобы компания могла отслеживать поведение своих моделей ИИ на предмет потенциально опасных действий, при этом гарантируя, что данные пользователей останутся конфиденциальными, даже для сотрудников OpenAI.

Инициатива основывается на существующих протоколах безопасности OpenAI, которые были усовершенствованы для защиты конфиденциальности пользователей. Доступ к данным пользователей ограничен конкретными сценариями с высоким уровнем риска, а не для рутинного контроля качества. Кроме того, OpenAI внедрила ограничения на хранение данных до 30 дней для корпоративных пользователей, чтобы предотвратить неограниченное хранение конфиденциальных разговоров.

Введение частной обработки безопасности имеет большое значение, поскольку модели ИИ OpenAI становятся все более мощными, что увеличивает вероятность их неправильного использования. Недавно компания приостановила некоторые учебные мероприятия для передовых моделей из-за связанных с ними рисков, что указывает на активное применение ее Рамочной программы готовности.

OpenAI также обновила свою Рамочную программу готовности, чтобы отразить более строгие обязательства в области кибербезопасности, что свидетельствует о повышенной осведомленности о развивающемся ландшафте угроз. Ранее компания внедрила родительский контроль и улучшенные меры безопасности для подростковых пользователей, ставя безопасность выше полной конфиденциальности.

С приближением запуска в сентябре ключевые детали реализации частной обработки безопасности станут критически важными. Остаются вопросы о том, какой контент будет отмечен, кто будет его проверять, как долго данные будут храниться и будут ли пользователи иметь возможность проверять или оспаривать решения системы.

Новые разработки в системе обработки безопасности OpenAI

• OpenAI планирует запустить свою систему частной обработки безопасности в сентябре 2026 года.
• Эта система предназначена для клиентов API, использующих нулевое хранение данных, что гарантирует, что контент клиентов остается недоступным для сотрудников OpenAI.
• В рамках нулевого хранения данных OpenAI не сохраняет запросы или ответы моделей после обработки запросов.
• Данные корпоративных клиентов не будут использоваться для обучения моделей, если клиенты явно не согласны.
• Частная обработка безопасности усиливает защиту, позволяя автоматизированным системам выявлять вредоносные паттерны в нескольких взаимодействиях.
• Контент клиентов останется на инфраструктуре, контролируемой клиентом, с возможностью зашифрованного хранения на инфраструктуре OpenAI.
• Сотрудники OpenAI не будут иметь доступа к ключам шифрования или контенту клиентов.
• Система будет предоставлять ограниченные сигналы OpenAI о потенциальном злоупотреблении без передачи исходных запросов или ответов.
• Она направлена на решение рисков, которые могут возникнуть из-за повторных попыток обойти защитные меры и скоординированного злоупотребления через аккаунты.
• Клиенты будут сохранять доступ к своей информации и смогут делиться соответствующим контентом с OpenAI для апелляций или расследований.
• Частная обработка безопасности в настоящее время проходит тестирование с ранними клиентами, технический документ будет опубликован при запуске.