Dario Amodei von Anthropic fordert eine Verlangsamung der KI-Entwicklung aufgrund von Sicherheitsbedenken

Dario Amodei, der CEO von Anthropic, zieht einen markanten Vergleich zwischen dem aktuellen Wettbewerb im Bereich Künstliche Intelligenz (KI) zwischen den USA und China und dem Kalten Krieg. Er betont die Notwendigkeit einer bewussten Verlangsamung der KI-Entwicklung, um potenzielle Risiken zu mindern. In einem kürzlichen Auftritt bei CBS Sunday Morning und seinem Essay mit dem Titel „Wir müssen die Grenze im Tempo halten“ argumentiert Amodei, dass die Sicherheitsforschung hinter dem rasanten Fortschritt der Modellentwicklung zurückbleibt, was katastrophale Folgen haben könnte.

Amodeis Essay, das am 12. September veröffentlicht wurde, hebt die unmittelbaren Risiken fortschrittlicher KI-Systeme hervor, die innerhalb eines kurzen Zeitrahmens von sechs bis zwölf Monaten das Internet dominieren könnten. Er beschreibt das Kernproblem als rekursive Selbstverbesserung, bei der KI-Systeme unvorhersehbar evolvieren könnten, sobald sie einen bestimmten Fähigkeitsgrad erreichen. Seine vorgeschlagene Lösung ist kein vollständiger Stopp der KI-Entwicklung, sondern vielmehr eine koordinierte Anstrengung unter KI-Labors, um den Fortschritt zu verlangsamen und gleichzeitig Sicherheit und Übereinstimmung mit menschlichen Absichten zu gewährleisten.

Der Aufruf zur Vorsicht hat Unterstützung von anderen prominenten Persönlichkeiten im KI-Sektor erhalten, darunter OpenAI-CEO Sam Altman und Google DeepMind-CEO Demis Hassabis sowie Elon Musk. Amodei erkennt jedoch das Dilemma an, das durch die Wettbewerbslandschaft mit China entsteht, und schlägt vor, dass die USA den Export fortschrittlicher KI-Chips einschränken sollten, um Chinas KI-Fähigkeiten einzuschränken, und diplomatische Gespräche ähnlich den historischen Rüstungsabkommen führen sollten.

Die Auswirkungen von Amodeis Warnung sind bereits an den Finanzmärkten spürbar, da die US-Futures nach der Veröffentlichung seines Essays stark gefallen sind. Die Nasdaq 100-Futures fielen um 1,2 %, während auch große Indizes wie der Dow Jones und der S&P 500 Rückgänge verzeichneten. Dieser Rückgang spiegelt die wachsende Unsicherheit der Investoren wider, während die KI-Branche mit Sicherheitsbedenken und geopolitischen Druck zu kämpfen hat.

Die Aktien der SoftBank Group erlitten ebenfalls einen Rückschlag und fielen um über 13 %, nachdem Amodeis Aussagen und Altman’s Ankündigung, den Börsengang von OpenAI aufgrund von Sicherheitsbedenken zu verschieben, bekannt wurden. Die bedeutende Investition von SoftBank in OpenAI macht die Aktie besonders empfindlich gegenüber Entwicklungen im KI-Sektor und verdeutlicht die Verflechtung von KI-Fortschritten, Sicherheitsdiskussionen und Marktreaktionen.

Während Anthropic und OpenAI sich in diesem komplexen Umfeld bewegen, wächst der Druck zwischen raschem technologischem Fortschritt und der Notwendigkeit einer Sicherheitsüberwachung, was entscheidende Fragen zur Zukunft der KI-Entwicklung und deren weitreichenden Auswirkungen aufwirft.