Anthropic sieht sich Kritik ausgesetzt, während Forscher vor KI-Risiken warnen und neues Modell von britischen Testern zurückhalten

Anthropic, das in San Francisco ansässige KI-Labor, bekannt für seine Claude-Modellreihe, hat beschlossen, sein neuestes KI-Modell von Testern im Vereinigten Königreich zurückzuhalten. Dieser Schritt entspricht der etablierten Praxis des Unternehmens, den Zugang zu seinen fortschrittlichen Systemen für Sicherheitsbewertungen einzuschränken, und spiegelt die anhaltenden Bedenken hinsichtlich der Cybersicherheitsrisiken wider.

In der Vergangenheit hatte Anthropic mit dem UK AI Security Institute und anderen Partnern für kontrollierte Sicherheitstests zusammengearbeitet. Die Entscheidung, das Modell zurückzuhalten, zeigt jedoch einen vorsichtigen Ansatz von Anthropic bei der Veröffentlichung von fortschrittlichen KI-Systemen, die potenziell die Wettbewerbsposition des Unternehmens auf dem sich schnell entwickelnden KI-Markt beeinflussen könnten.

Zusätzlich zur Kritik hat Jacob Coxon, ein ehemaliger Forscher bei Anthropic, öffentlich gewarnt, dass KI-Labore, einschließlich Anthropic und OpenAI, auf eine selbstverbessernde Superintelligenz zusteuern, die seiner Meinung nach eine erhebliche Gefahr für die Menschheit darstellen könnte. Coxon, der von Anthropic zurückgetreten ist, äußerte Bedenken, dass die Entwicklung der Technologie weit unterschätzt wird und dass private Gespräche innerhalb der Branche einen deutlichen Gegensatz zur öffentlichen Kommunikation aufweisen.

Ein weiterer wichtiger Akteur bei Anthropic, Jan Leike, hat ebenfalls Bedenken geäußert und angedeutet, dass die Wahrscheinlichkeit, dass KI innerhalb des nächsten Jahrzehnts zur Ausrottung der Menschheit führen könnte, bei mehr als 10 % liegt. Diese Aussagen verdeutlichen die laufende Debatte über die Gefahren fortschrittlicher KI-Systeme und werfen Fragen zur Zukunft von Anthropic und seiner Bewertung auf.

Während sich die Situation entwickelt, beobachten Beobachter gespannt, ob es offizielle Reaktionen von Anthropic und seinen strategischen Partnern geben wird sowie mögliche Veränderungen in der Marktpreisgestaltung im Zusammenhang mit der Bewertung des Unternehmens.