Vitalik Buterin Apoya las Limitaciones de Hackeo del Modelo Kimi K3.1 Pro

Vitalik Buterin, cofundador de Ethereum, ha expresado su apoyo a la reciente decisión de Moonshot AI de excluir capacidades avanzadas de hackeo ofensivo de su modelo Kimi K3.1 Pro. Este movimiento, argumenta, es preferible a restringir el acceso de los usuarios a las tecnologías de IA.

En una publicación compartida el 26 de octubre, Buterin destacó la necesidad de que los desarrolladores dispongan del tiempo necesario para mejorar la seguridad del sistema y realizar verificaciones formales del software antes de que los ciberataques impulsados por IA se conviertan en algo común. Afirmó: "Discriminar contra los casos de uso es MUCHO menos malo que discriminar contra los usuarios", reforzando su creencia en la importancia de un despliegue responsable de la IA.

Moonshot AI, una startup con sede en Pekín, ha informado que el modelo Kimi K3.1 Pro filtrado resolvió con éxito el 81% de las tareas en su banco de pruebas interno de explotación, en comparación con el 90.5% de una versión sin filtrar. La empresa planea lanzar los pesos abiertos del modelo para el 4 de noviembre, permitiendo a los usuarios ejecutarlo en su propio hardware.

Las preocupaciones de Buterin van más allá de las capacidades técnicas; advirtió que fallos significativos en la seguridad de la IA podrían llevar a un aumento de la vigilancia y controles de identidad, creando potencialmente un sistema de acceso escalonado basado en credenciales y nacionalidad. Enfatizó la necesidad de medidas proactivas para garantizar un acceso equitativo a las tecnologías de IA.

A pesar de su apoyo a las limitaciones del Kimi K3.1 Pro, Buterin reconoció que otros laboratorios probablemente desarrollarán modelos con capacidades avanzadas de hackeo, sugiriendo que la carrera por la seguridad de la IA está en curso. Aboga por la implementación de medidas de seguridad robustas para mantenerse por delante de posibles amenazas.