Vitalik Buterin Soutient les Limitations de Hacking du Modèle Kimi K3.1 Pro

Vitalik Buterin, co-fondateur d'Ethereum, a exprimé son soutien à la récente décision de Moonshot AI d'exclure des capacités de hacking offensif avancées de son modèle Kimi K3.1 Pro. Il soutient que cette démarche est préférable à la restriction de l'accès des utilisateurs aux technologies d'IA.

Dans un post partagé le 26 octobre, Buterin a souligné la nécessité pour les développeurs de disposer du temps nécessaire pour améliorer la sécurité des systèmes et effectuer une vérification formelle des logiciels avant que les cyberattaques alimentées par l'IA ne deviennent courantes. Il a déclaré : "Discriminer les cas d'utilisation est BEAUCOUP moins mauvais que de discriminer les utilisateurs," renforçant ainsi sa conviction sur l'importance d'un déploiement responsable de l'IA.

Moonshot AI, une startup basée à Pékin, a rapporté que le modèle Kimi K3.1 Pro filtré a réussi à résoudre 81 % des tâches sur son benchmark interne d'exploitation, contre 90,5 % pour une version non filtrée. L'entreprise prévoit de publier les poids ouverts du modèle d'ici le 4 novembre, permettant aux utilisateurs de l'exécuter sur leur propre matériel.

Les préoccupations de Buterin vont au-delà des capacités techniques ; il a averti que des échecs significatifs en matière de sécurité de l'IA pourraient conduire à une surveillance accrue et à des contrôles d'identité, créant potentiellement un système d'accès hiérarchisé basé sur les références et la nationalité. Il a souligné la nécessité de mesures proactives pour garantir un accès équitable aux technologies d'IA.

Malgré son soutien aux limitations du Kimi K3.1 Pro, Buterin a reconnu que d'autres laboratoires sont susceptibles de développer des modèles avec des capacités de hacking avancées, suggérant que la course à la sécurité de l'IA est toujours en cours. Il plaide pour la mise en œuvre de mesures de sécurité robustes afin de rester en avance sur les menaces potentielles.