Anthropic warnt vor Cybersecurity-Risiken des GLM-5.3 KI-Modells aus China
Am 29. September 2026 veröffentlichte das Frontier Red Team von Anthropic einen Bericht, der die Cybersecurity-Risiken des GLM-5.3, eines offenen KI-Modells des chinesischen Labors Z.ai, detailliert beschreibt. Der Bericht zeigt, dass das Modell von jedem, der es herunterlädt und modifiziert, ausgenutzt werden könnte, was Bedenken hinsichtlich seiner potenziellen Verwendung in Cyberangriffen aufwirft.
In Tests generierte GLM-5.3 in etwa 12 % der Versuche funktionierende Exploits, eine Zahl, die eng mit Anthropics eigenem Claude Mythos Preview übereinstimmt. Der Bericht hob mehrere Methoden hervor, die verwendet wurden, um die Sicherheitsprotokolle von GLM-5.3 zu umgehen, darunter irreführende Eingabeaufforderungen und eine Technik, die als 'Abliteration' bezeichnet wird, die eine 100%ige Engagement-Rate ermöglichte, indem die Weigerungsfähigkeiten des Modells entfernt wurden.
Die Erkenntnisse von Anthropic deuten darauf hin, dass die Kosten für das Entfernen von Sicherheitsfunktionen aus GLM-5.3 relativ niedrig sind, bei etwa 4.400 US-Dollar, während die meisten Funktionen des Modells erhalten bleiben. Dies wirft Fragen zur Wirksamkeit der integrierten Sicherheitsmaßnahmen für offene KI-Systeme auf.
Darüber hinaus bewertete das National Institute of Standards and Technology (NIST) GLM-5.3 als das leistungsfähigste offene Modell bis dato, obwohl es in Bezug auf Cyberfähigkeiten hinter den US-Frontmodellen zurückbleibt.
Der CEO von Anthropic, Dario Amodei, äußerte Bedenken hinsichtlich der Bedrohungen, die von Modellen ausgehen, die Sicherheitsprotokolle umgehen können, hat jedoch keine vollständigen Verbote gefordert. Stattdessen unterstützt er gezielte Sicherheitstests für fortschrittliche KI-Modelle, unabhängig von ihrem offenen oder geschlossenen Status.
FAQ
Was ist GLM-5.3?
GLM-5.3 ist ein Open-Weight-AI-Modell, das vom chinesischen Labor Z.ai entwickelt wurde und aufgrund seines Potenzials zur Ausnutzung Bedenken hinsichtlich der Cybersicherheit aufwirft.
Welche Cybersicherheitsrisiken sind mit GLM-5.3 verbunden?
Der Bericht des Frontier Red Team von Anthropic zeigt, dass GLM-5.3 von jedem, der es herunterlädt und modifiziert, ausgenutzt werden kann, mit einer Erfolgsquote von etwa 12 % bei der Generierung funktionierender Exploits.
Wie schneiden die Sicherheitsprotokolle von GLM-5.3 im Vergleich zu anderen Modellen ab?
Der Bericht von Anthropic hebt hervor, dass GLM-5.3 mehrere Methoden hat, um seine Sicherheitsprotokolle zu umgehen, was Fragen zur Wirksamkeit von Sicherheitsmaßnahmen in Open-Weight-AI-Systemen aufwirft.
Was kostet es, die Sicherheitsfunktionen von GLM-5.3 zu entfernen?
Die Kosten für die Entfernung der Sicherheitsfunktionen von GLM-5.3 belaufen sich auf etwa 4.400 USD, während die meisten Funktionen des Modells erhalten bleiben.
Was ist die Haltung von Anthropic zur Sicherheitstestung von KI?
Der CEO von Anthropic, Dario Amodei, unterstützt gezielte Sicherheitstests für fortschrittliche KI-Modelle, unabhängig davon, ob sie offen oder geschlossen sind, anstatt sich für vollständige Verbote auszusprechen.
Kommentare
Kommentare werden vor der Veröffentlichung geprüft.
Noch keine Kommentare — schreiben Sie den ersten.