Anthropic veröffentlicht zweiten Risikobericht im Rahmen der verantwortungsvollen Skalierungspolitik

Anthropic hat seinen zweiten öffentlichen Risikobericht veröffentlicht, der die potenziellen Risiken im Zusammenhang mit seinen fortschrittlichen KI-Systemen bewertet und die Strategien des Unternehmens zur Bewältigung dieser Bedenken darlegt. Dieser Bericht ist Teil von Anthropics verantwortungsvoller Skalierungspolitik, einem Rahmen, der geschaffen wurde, um sicherzustellen, dass das Unternehmen die Gefahren versteht, die mit der Erhöhung der Fähigkeiten seiner KI-Modelle einhergehen.

Die verantwortungsvolle Skalierungspolitik (RSP) wurde erstmals im September 2023 eingeführt und macht Anthropic zu einem der wenigen großen KI-Labore, die sich zu einem strukturierten Risikomanagementrahmen verpflichten. Die Politik hat sich im Laufe der Zeit weiterentwickelt und erreichte im Februar 2026 die Version 3.0, die die Anforderung formalisiert, dass öffentliche Risikoberichte alle drei bis sechs Monate veröffentlicht werden. Diese Frequenz soll die Verantwortlichkeit im Einklang mit den raschen Fortschritten in den KI-Fähigkeiten aufrechterhalten.

Der Bericht vom Februar 2026 war der erste, der nach diesem neuen Zeitplan veröffentlicht wurde und sich auf das Sicherheitsprofil von Claude Opus 4.6 konzentrierte, einem der leistungsfähigsten Modelle von Anthropic. Im Gegensatz zu traditionellen Systemkarten, die grundlegende Informationen über KI-Modelle bereitstellen, gehen diese Risikoberichte auf spezifische Bedrohungsmodelle ein, einschließlich automatisierter Forschungs- und Entwicklungsrisiken sowie biologischer Risiken, und bieten detaillierte Minderung und Risikobewertungen.

Ein bedeutender Aspekt dieses Prozesses ist die Einbeziehung externer Gutachter. So wurde der Risikobericht vom Februar 2026 von METR bewertet, das sich auf automatisierte F&E-Risiken konzentrierte, während SecureBio eine separate Überprüfung zu chemischen Risiken durchführte. Darüber hinaus hob ein spezieller Sabotagerisikobericht Bedenken hinsichtlich der Anfälligkeit des Modells für sabotierelevante Risiken hervor.

Die RSP hat sich im Laufe der Zeit angepasst, wobei die Version 3.4 im Juli 2026 eingeführt wurde, um die Prozesse für den Umgang mit Schwärzungen zu verfeinern und das Feedback externer Gutachter zu integrieren. Diese Entwicklung spiegelt das schnelle Tempo der KI-Governance wider und betont die Notwendigkeit kontinuierlicher Aktualisierungen, während sich die KI-Fähigkeiten erweitern.

Automatisierte F&E-Risiken betreffen das Potenzial von KI-Systemen, die Entwicklung gefährlicher Technologien zu beschleunigen, während biologische Risiken Szenarien betreffen, in denen KI-Modelle die Schaffung schädlicher Agenten erleichtern könnten. Die Ergebnisse des Sabotagerisikoberichts sind besonders bemerkenswert, da sie darauf hinweisen, dass KI-Modelle manipuliert werden könnten, um die Systeme, in die sie integriert sind, zu untergraben.

Neue Entwicklungen von Anthropic

• Anthropic hat sein internes KI-Modell "Modell 2" vorgestellt, das die Fähigkeiten des bestehenden Mythos 5-Modells übertrifft.
• Dieser Fortschritt wirft Bedenken hinsichtlich der Risiken von KI-Fehlausrichtungen und der Möglichkeit autonomer schädlicher Handlungen auf.
• Die Ankündigung deutet auf eine stärkere Wettbewerbsposition von Anthropic im KI-Sektor hin.
• Markterwartungen deuten auf eine erhöhte Wahrscheinlichkeit hin, dass Anthropic bis September 2026 den Status des besten KI-Modells erreicht.
• Zukünftige Offenlegungen zu den Fähigkeiten von Modell 2 und öffentlichen Benchmarks werden vom Markt genau beobachtet.
• Die Wettbewerbslandschaft könnte sich ändern, wenn andere Unternehmen wie Google oder OpenAI konkurrierende Modelle herausbringen.
• Bewertungen führender KI-Benchmarking-Quellen bis Ende September 2026 könnten die Marktwahrnehmungen erheblich beeinflussen.

Neue Entwicklungen von Anthropic

• Anthropic hat ein internes KI-Modell namens Model 2 eingeführt, das Claude Mythos 5 in verschiedenen internen Aufgaben übertrifft.
• Model 2 wird in die Mythos-Kategorie eingeordnet, die höchste Fähigkeitsstufe von Anthropic, wird jedoch nicht der Öffentlichkeit zugänglich gemacht.
• Der neueste Risikobericht des Unternehmens, veröffentlicht im August 2026, zeigt eine Änderung der Risikobewertung für katastrophale Fehlanpassungen von sehr niedrig auf niedrig aufgrund von Cybersecurity-Bedenken.
• Das Vertrauen in das Fähigkeitsprofil von Model 2 ist geringer als bei zuvor veröffentlichten Modellen, da es keine vollständigen Vorbereitungsbewertungen durchlaufen hat.
• Die interne Forschung von Anthropic hat eine signifikante Beschleunigung erfahren, obwohl sie noch nicht das zweifache Wachstum erreicht hat.
• Polymarket schätzt einen potenziellen Börsengang für Anthropic mit einer Marktkapitalisierung von über 1,8 Billionen Dollar, mit einer Wahrscheinlichkeit von 65 % für dieses Ergebnis.
• Das Unternehmen hat eine vertrauliche Entwurfseinreichung bei der SEC eingereicht und kürzlich eine Series-H-Finanzierungsrunde abgeschlossen, die es auf etwa 965 Milliarden Dollar bewertet.
• Der annualisierte Umsatz von Anthropic hat 47 Milliarden Dollar überschritten, wobei einige Analysten einen Börsengang mit einem Wert von 2 Billionen Dollar vorhersagen.

Neue Erkenntnisse aus dem zweiten Risikobericht von Anthropic

• Bis Mai 2026 hat Claude, das KI-Modell von Anthropic, über 80% des Codes verfasst, der in die Produktionscodebasen des Unternehmens integriert wurde.
• Dies stellt einen signifikanten Anstieg im Vergleich zu den niedrigen einstelligen Zahlen vor der Forschungs-Vorschau von Claude Code im Februar 2025 dar.
• Im zweiten Quartal 2026 haben Anthropic-Ingenieure etwa achtmal mehr Code pro Tag zusammengeführt als im Durchschnitt von 2021 bis 2024.
• Claude erreichte bis Mai 2026 eine Erfolgsquote von 76% bei komplexen Ingenieuraufgaben, was einen Anstieg um 50 Punkte innerhalb von sechs Monaten darstellt.
• Ein automatisiertes Claude-Code-Überprüfungssystem hat etwa ein Drittel der Fehler aus früheren Vorfällen mit claude.ai erkannt.
• Die Codequalität von Claude hat das Niveau von menschlich verfasstem Code erreicht, was auf bedeutende Fortschritte in den KI-Coding-Fähigkeiten hinweist.
• Anthropic erkennt die Risiken an, die mit KI-Systemen verbunden sind, die einen großen Teil der Ingenieurarbeit verwalten, insbesondere in Bezug auf Kontrolle und Ausrichtung.