Anthropic sperrt Konten im Zusammenhang mit Überwachungs- und Einflussoperationen im Nahen Osten
Anthropic hat bedeutende Maßnahmen gegen Konten ergriffen, die mit Überwachungs- und Einflussoperationen im Nahen Osten in Verbindung stehen. Im Juni 2026 sperrte das Unternehmen ein Konto, das zur Erstellung einer Überwachungsplattform verwendet wurde, die Nutzer sozialer Medien im Iran und im Persischen Golf basierend auf politischen Loyalitäten und demografischen Merkmalen klassifizierte. Dieses Konto war mit S2T Unlocking Cyberspace verbunden, einer Firma, die zuvor wegen ähnlicher Aktivitäten aufgefallen war.
Laut dem Bedrohungsbericht von Anthropic, der am 10. September 2026 veröffentlicht wurde, hatte das gesperrte Konto über 255 gefälschte soziale Medien-Personas in mehreren Sprachen angesammelt, die darauf abzielten, sowohl pro- als auch anti-regierungsnahe Gemeinschaften im Iran zu infiltrieren. Obwohl die Sicherheitsmaßnahmen von Anthropic explizite Profilanfragen blockierten, gelang es einigen überwachungsbezogenen Werkzeugen, diese Schutzmaßnahmen zu umgehen.
In einem separaten Vorfall beschreibt der Bericht eine von den VAE geleitete Einflussoperation, die als GTG-84002 verfolgt wurde und Claude nutzte, um die Muslimbruderschaft weltweit ins Visier zu nehmen. Diese Kampagne, die von einer Person identifiziert als „Deadshot“ geleitet wurde, umfasste etwa 300 unechte soziale Medien-Konten, eine erfundene NGO und ghostgeschriebene Zeugenaussagen, die dem UN-Menschenrechtsrat vorgelegt wurden. Anthropic ist sich sicher, dass diese Operation mit Beamten der VAE-Regierung in Verbindung steht.
Die Aktivitäten von Deadshot umfassten die Erstellung persönlicher Dossiers über Mitglieder des Europäischen Parlaments und Journalisten, um Druckpunkte innerhalb europäischer politischer Institutionen zu identifizieren. Das Ziel der Operation steht im Einklang mit der langjährigen Außenpolitik der VAE gegen die Muslimbruderschaft, die 2014 als terroristische Organisation eingestuft wurde.
Der Bericht von Anthropic hebt einen breiteren Trend des Missbrauchs seiner KI-Tools hervor, wobei ähnliche Operationen zuvor von OpenAI identifiziert wurden. Als Reaktion auf diese Erkenntnisse hat Anthropic alle Konten, die mit diesen Kampagnen verbunden sind, gesperrt und zusätzliche Sicherheitsmaßnahmen implementiert, um zukünftigen Missbrauch zu verhindern.
Aktualisiert 15:01 UTC
Neue Entwicklungen zum Missbrauch von KI durch Anthropic
Am 10. September 2026 berichtete Anthropic, dass eine Waffenentwicklungsgruppe im Norden Jemens seit etwa neun Monaten seine Claude-KI-Modelle für die Entwicklung von Software zur Steuerung und Führung von Raketen verwendet hatte. Diese Gruppe, die wahrscheinlich mit von Iran unterstützten Huthi-Milizen verbunden ist, operierte von Dezember 2025 bis August 2026, bevor ihre Konten gesperrt wurden.
Die Gruppe war an drei verschiedenen Waffenprogrammen beteiligt, darunter eine gelenkte Rakete mit einem Flugcomputer in Telefonqualität, eine mehrstufige ballistische Rakete mit Reichweiten von über 2.000 km und Pläne für ein hypersonisches Gleitfahrzeug innerhalb der R2000-Raketenfamilie.
Der Bericht von Anthropic stellte fest, dass die jemenitischen Operativen mehrere Instanzen von Claude AI parallel für Codierung, Forschung und Überprüfung der Ausgaben betrieben. Trotz der Entdeckung und Sperrung der Konten hatte die Gruppe ein Offline-Simulationswerkzeug entwickelt, um ihre Arbeit fortzusetzen.
Dieser Vorfall ist Teil eines breiteren Trends, wobei Anthropic sechs separate Missbrauchsfälle dokumentiert hat, die mit der Entwicklung von Waffensoftware in Verbindung mit staatlichen Akteuren in China und Russland stehen. Bemerkenswerterweise wurden keine operativen Waffen bestätigt, die aus den Projekten der jemenitischen Gruppe hervorgegangen sind.
Die Entscheidung von Anthropic, diese Erkenntnisse öffentlich zu teilen, hebt die Herausforderungen hervor, vor denen KI-Unternehmen stehen, um Sicherheit und Schutz gegen entschlossene Gegner zu gewährleisten.
FAQ
Welche Maßnahmen hat Anthropic gegen Konten ergriffen, die mit Überwachungsoperationen verbunden sind?
Anthropic hat Konten gesperrt, die mit Überwachungs- und Einflussoperationen im Nahen Osten verbunden sind, einschließlich eines Kontos, das eine Überwachungsplattform zur Klassifizierung von Social-Media-Nutzern im Iran und im Persischen Golf erstellt hat.
Was war der Zweck des gesperrten Kontos im Zusammenhang mit S2T Unlocking Cyberspace?
Das gesperrte Konto wurde verwendet, um eine Überwachungsplattform zu erstellen, die Social-Media-Nutzer basierend auf politischen Loyalitäten und Demografie klassifizierte, wobei sowohl pro- als auch anti-regierungsnahe Gemeinschaften im Iran ins Visier genommen wurden.
Was war die im Bericht erwähnte GTG-84002-Operation?
Die GTG-84002-Operation war eine von den VAE geleitete Einflusskampagne, die KI-Tools einsetzte, um die Muslimbruderschaft weltweit ins Visier zu nehmen, wobei etwa 300 unechte Social-Media-Konten und eine gefälschte NGO beteiligt waren.
Wer war für die Verwaltung der GTG-84002-Operation verantwortlich?
Die Operation wurde von einer Person mit dem Pseudonym 'Deadshot' geleitet, die persönliche Dossiers über Mitglieder des Europäischen Parlaments und Journalisten erstellte, um Druckpunkte innerhalb europäischer politischer Institutionen zu identifizieren.
Welche Maßnahmen hat Anthropic ergriffen, um zukünftigen Missbrauch seiner KI-Tools zu verhindern?
Als Reaktion auf die Feststellungen des Missbrauchs hat Anthropic alle Konten, die mit diesen Kampagnen verbunden sind, gesperrt und zusätzliche Sicherheitsvorkehrungen getroffen, um ähnliche Operationen in der Zukunft zu verhindern.
Kommentare
Kommentare werden vor der Veröffentlichung geprüft.
Noch keine Kommentare — schreiben Sie den ersten.