Vitalik Buterin unterstützt die Hacking-Beschränkungen des AI-Modells Kimi K3.1 Pro

Vitalik Buterin, Mitbegründer von Ethereum, hat seine Unterstützung für die kürzliche Entscheidung von Moonshot AI zum Ausdruck gebracht, fortgeschrittene offensive Hacking-Fähigkeiten aus dem Kimi K3.1 Pro-Modell auszuschließen. Diese Entscheidung, so argumentiert er, sei vorzuziehen, um den Zugang der Nutzer zu AI-Technologien nicht einzuschränken.

In einem am 26. Oktober veröffentlichten Beitrag hob Buterin die Notwendigkeit hervor, dass Entwickler ausreichend Zeit haben, um die Systemsicherheit zu verbessern und eine formale Überprüfung der Software durchzuführen, bevor AI-gesteuerte Cyberangriffe zur Norm werden. Er erklärte: "Die Diskriminierung gegen Anwendungsfälle ist VIEL weniger schlimm als die Diskriminierung gegen Nutzer," und bekräftigte damit seinen Glauben an die Bedeutung eines verantwortungsvollen Einsatzes von AI.

Moonshot AI, ein in Peking ansässiges Start-up, berichtete, dass das gefilterte Kimi K3.1 Pro-Modell 81 % der Aufgaben in seinem internen Exploit-Benchmark erfolgreich gelöst hat, im Vergleich zu 90,5 % für eine ungefilterte Version. Das Unternehmen plant, die offenen Gewichte des Modells bis zum 4. November zu veröffentlichen, damit Nutzer es auf ihrer eigenen Hardware betreiben können.

Buterins Bedenken gehen über technische Fähigkeiten hinaus; er warnte, dass erhebliche Mängel in der AI-Sicherheit zu einer erhöhten Überwachung und Identitätsprüfungen führen könnten, was möglicherweise ein gestuftes Zugangssystem basierend auf Qualifikationen und Nationalität schaffen würde. Er betonte die Notwendigkeit proaktiver Maßnahmen, um einen gerechten Zugang zu AI-Technologien zu gewährleisten.

Trotz seiner Unterstützung für die Einschränkungen des Kimi K3.1 Pro räumte Buterin ein, dass andere Labore wahrscheinlich Modelle mit fortgeschrittenen Hacking-Fähigkeiten entwickeln werden, was darauf hindeutet, dass das Rennen um die Sicherheit von AI weiterhin im Gange ist. Er plädiert für die Implementierung robuster Sicherheitsmaßnahmen, um potenziellen Bedrohungen einen Schritt voraus zu sein.