Виталик Бутерин поддерживает ограничения хакерских возможностей модели Kimi K3.1 Pro

Виталик Бутерин, соучредитель Ethereum, выразил свою поддержку недавнему решению компании Moonshot AI исключить продвинутые хакерские возможности из модели Kimi K3.1 Pro. Он утверждает, что этот шаг предпочтительнее, чем ограничение доступа пользователей к технологиям ИИ.

В посте, опубликованном 26 октября, Бутерин подчеркнул необходимость того, чтобы разработчики имели достаточно времени для улучшения безопасности системы и проведения формальной проверки программного обеспечения, прежде чем кибератаки с использованием ИИ станут обычным делом. Он заявил: "Дискриминация по случаям использования гораздо менее плоха, чем дискриминация пользователей", что подтверждает его убеждение в важности ответственного развертывания ИИ.

Moonshot AI, стартап из Пекина, сообщил, что отфильтрованная модель Kimi K3.1 Pro успешно решила 81% задач на своем внутреннем тесте на уязвимости, по сравнению с 90,5% для неотфильтрованной версии. Компания планирует выпустить открытые веса модели до 4 ноября, что позволит пользователям запускать ее на своем оборудовании.

Беспокойства Бутерина выходят за рамки технических возможностей; он предупредил, что серьезные сбои в безопасности ИИ могут привести к увеличению наблюдения и проверок личности, потенциально создавая многоуровневую систему доступа на основе учетных данных и национальности. Он подчеркнул необходимость проактивных мер для обеспечения равного доступа к технологиям ИИ.

Несмотря на свою поддержку ограничений Kimi K3.1 Pro, Бутерин признал, что другие лаборатории, вероятно, разработают модели с продвинутыми хакерскими возможностями, что говорит о том, что гонка за безопасностью ИИ продолжается. Он выступает за внедрение надежных мер безопасности, чтобы опередить потенциальные угрозы.