Anthropic-Bericht hebt die Rolle von KI in der Forschung zu biologischen Waffen und Sicherheitsrisiken hervor

Anthropic hat einen umfassenden Bericht veröffentlicht, der detailliert beschreibt, wie sein KI-Modell Claude in Forschungsbemühungen involviert war, die zur Entwicklung biologischer Waffen beigetragen haben könnten. Der Bericht skizziert einen abgelehnten Förderantrag, der darauf abzielte, das Chikungunya-Virus zu untersuchen, um dessen Ausbreitung zu fördern und Immunantworten zu umgehen. Obwohl der Antrag durch Claudes Sicherheitsfilter abgelehnt wurde, fanden die Betreiber Berichten zufolge einen Ausweg, indem sie ein konkurrierendes KI-Modell verwendeten.

Der Bericht umfasst 154 Seiten und enthält fünf spezifische Fälle im Zusammenhang mit biologischer Forschung. Während Anthropic Maßnahmen ergriff, um Konten zu sperren und die Forschung zu stoppen, wurde nicht behauptet, dass die beteiligten Forscher böswillige Absichten hatten. Der Bericht betont die doppelte Verwendbarkeit wissenschaftlichen Wissens, das sowohl für nützliche als auch für schädliche Zwecke eingesetzt werden kann.

Darüber hinaus warnt der Bericht vor den Implikationen der KI-Destillation, die die Denkfähigkeiten in KI-Systemen verbessern kann, ohne die notwendigen Sicherheitsvorkehrungen zu übertragen, was potenziell die Sicherheitsrisiken erhöht. Angesichts wachsender Bedenken über den Missbrauch von KI werden gesetzgeberische Maßnahmen wie der AI Kill Switch Act vorgeschlagen, um sicherzustellen, dass Entwickler die Kontrolle über ihre Systeme behalten.

Die Erkenntnisse von Anthropic verdeutlichen die anhaltenden Herausforderungen, die Vorteile der KI-Technologie mit dem Potenzial für Missbrauch in sensiblen Bereichen wie der biologischen Forschung in Einklang zu bringen.