Anthropic, OpenAI и Google DeepMind усиливают безопасность ИИ в разработке лекарств
Anthropic, OpenAI и Google DeepMind усиливают свои усилия по повышению безопасности своих продвинутых систем ИИ, особенно в области разработки лекарств, исследований заболеваний и подготовки к пандемиям. Эта инициатива возникла в ответ на опасения, что те же технологии ИИ, которые способны разрабатывать жизненно важные лекарства, могут быть также использованы для создания опасных биологических агентов.
Три организации внедряют комплекс мер безопасности, направленных на обеспечение ответственного использования ИИ в биологических приложениях. Эти меры включают классификаторы контента в реальном времени, программы доступа для проверенных исследователей и обширные тестирования на уязвимость, все из которых предназначены для содействия полезным научным достижениям, одновременно предотвращая исследования в области биологического оружия.
В июне 2026 года генеральные директора трех компаний подписали публичное письмо, призывающее законодателей США установить обязательные требования к проверке и ведению учета для поставщиков синтетической ДНК и РНК, подчеркивая необходимость регуляторного контроля по мере роста возможностей ИИ.
Google DeepMind инициировала программу биорезилиентности, которая соединяет надежных исследователей с движками быстрого проектирования лекарств, сосредотачиваясь на противодействии биологическим угрозам. Anthropic уточняет свою Политику ответственного масштабирования, чтобы управлять тонким балансом между возможностью легитимных научных исследований и блокировкой потенциально опасных запросов. Эта политика включает в себя ужесточение требований к безопасности по мере того, как модели ИИ становятся более продвинутыми.
OpenAI также представила свою Рамочную программу готовности, которая охватывает инициативы по биозащите и инструменты для прогнозирования успеха лекарств, стремясь обеспечить положительный вклад ИИ в развитие фармацевтики, сохраняя при этом меры предосторожности против злоупотреблений.
Обновлено 15:03 UTC
Последние события в области безопасности ИИ и открытия лекарств
Компания Anthropic запустила открытый репозиторий для Claude Skills, который уже получил более 173,000 звезд на GitHub. Этот репозиторий включает заранее определенные наборы инструкций для специализированных задач, оптимизируя использование памяти за счет загрузки навыков по мере необходимости.
Эта инициатива может улучшить возможности ИИ-моделей Anthropic и укрепить ее конкурентные позиции на рынке ИИ, особенно по сравнению с такими соперниками, как OpenAI и Google DeepMind.
Аналитики рынка предполагают, что введение Claude Skills может благоприятно позиционировать Anthropic в рейтингах ИИ-моделей к сентябрю 2026 года, что может повлиять на рыночные цены и поддержку сообщества.
Наблюдателям рекомендуется следить за дальнейшими достижениями в предложениях ИИ от Anthropic, оценками производительности и любыми изменениями в восприятии рынка относительно ее конкурентной позиции.
FAQ
Каковы основные цели сотрудничества между Anthropic, OpenAI и Google DeepMind?
Основные цели заключаются в повышении безопасности передовых систем ИИ в области открытия лекарств, исследований заболеваний и подготовки к пандемиям, а также в предотвращении злоупотребления этими технологиями в вредных целях.
Какие меры безопасности внедряются этими организациями?
Организации внедряют классификаторы контента в реальном времени, программы доступа для проверенных исследователей и обширные команды по тестированию, чтобы обеспечить ответственное использование ИИ в биологических приложениях.
Почему генеральные директора трех компаний призвали законодателей США установить обязательный контроль за синтетической ДНК и РНК?
Они призвали законодателей установить обязательные требования к контролю и ведению записей, чтобы обеспечить регуляторный надзор по мере роста возможностей ИИ, решая проблемы потенциального злоупотребления технологиями ИИ.
На чем сосредоточена программа биорезилиентности Google DeepMind?
Программа биорезилиентности Google DeepMind сосредоточена на сочетании надежных исследователей с движками быстрого проектирования лекарств для противодействия биологическим угрозам.
Как OpenAI способствует безопасности ИИ в разработке фармацевтических препаратов?
OpenAI представила свою структуру готовности, которая включает инициативы по биозащите и инструменты для прогнозирования успеха лекарств, обеспечивая положительный вклад ИИ в разработку фармацевтических препаратов при сохранении мер предосторожности против злоупотреблений.
Комментарии
Комментарии публикуются после модерации.
Пока нет комментариев — напишите первым.