Führungskräfte der KI-Industrie warnen vor Risiken und lösen Marktverkäufe aus

Am 14. September gab Dario Amodei, CEO von Anthropic, eine eindringliche Warnung zu den potenziellen Gefahren fortschrittlicher KI ab und deutete an, dass KI-Agenten bald die Fähigkeit erlangen könnten, das Internet zu kontrollieren. Diese Alarmmeldung wurde von prominenten Persönlichkeiten wie Sam Altman von OpenAI und Elon Musk von xAI unterstützt, was zu einem seltenen Konsens unter den Branchenkonkurrenten führte.

Die unmittelbare Reaktion des Marktes war heftig, da Milliarden von den Bewertungen von Unternehmen, die stark in KI-Technologie investiert sind, verloren gingen. Nvidia, ein wichtiger Akteur im KI-Chip-Markt, verzeichnete einen Rückgang seiner Aktien um etwa 3,6 %, während AMD einen noch stärkeren Rückgang von bis zu 5,7 % erlebte. Der Philadelphia Semiconductor Index, der eine breite Palette von Chip-Herstellern verfolgt, fiel im frühen Handel um etwa 5,5 %. Darüber hinaus stürzten die Aktien von SoftBank, das stark in KI-Projekte investiert hat, um bis zu 13 % ab.

Amodeis Aufsatz hob das Potenzial von fortschrittlichen KI-Modellen hervor, Cyberangriffe und Bioterrorismus zu erleichtern, und forderte KI-Unternehmen auf, die Entwicklung fortschrittlicher Modelle freiwillig zu verlangsamen. Diese Warnung fiel mit Altman’s Ankündigung zusammen, dass OpenAI in diesem Jahr keinen Börsengang anstreben werde, wobei Sicherheitsbedenken als Hauptgrund genannt wurden.

Der Verkaufsdruck spiegelt eine wachsende Besorgnis unter Investoren wider, insbesondere im Halbleitersektor, da die Nachfrage nach Chips eng mit dem Tempo der KI-Einführung verknüpft ist. Die Verschiebung von OpenAIs Börsengang wirft Liquiditätsbedenken für andere private KI-Unternehmen auf, die OpenAIs öffentlichen Börsengang als potenzielle Ausstiegsstrategie betrachtet hatten.

In einem verwandten Kontext äußerte Brian Moynihan, CEO von Bank of America, Optimismus über KI-Unternehmen, die Sicherheit priorisieren. Er stellte fest, dass der rasante Fortschritt der KI-Fähigkeiten eine Neubewertung der Sicherheitsprotokolle erfordere. Moynihan betonte einen „Menschen im Prozess“-Ansatz bei Bank of America, bei dem KI in den Betrieb unterstützt, während Menschen in kritische Entscheidungsprozesse eingebunden bleiben.

Während die Diskussionen unter den KI-Führungskräften über die Einrichtung eines Sicherheitsgremiums der Branche weitergehen, wird die Notwendigkeit von Regulierungsrahmen, die mit den technologischen Fortschritten Schritt halten können, zunehmend offensichtlich.

Neue Erkenntnisse vom CEO von Anthropic, Dario Amodei

Am 12. September 2023 veröffentlichte Dario Amodei einen umfassenden 3.800 Wörter langen Aufsatz, in dem er einen dreistufigen Plan zur Verlangsamung der Entwicklung von KI-Fähigkeiten darlegt. Dieser Plan befasst sich insbesondere mit den Bedenken hinsichtlich offener Gewichtungsmodelle aus China und den Destillationspraktiken, die es weniger leistungsfähigen Systemen ermöglichen, fortschrittliche KI-Ausgaben zu replizieren.

Amodeis Rahmenwerk besteht aus drei aufeinander aufbauenden Säulen:

1. Gewährung von unabhängigen Evaluatoren wie METR tiefen Zugang zu fortschrittlichen KI-Modellen zur Sicherheitsüberprüfung.
2. Implementierung von verpflichtenden Sicherheitsstandards in der gesamten Branche in demokratischen Ländern.
3. Einrichtung einer globalen Koordination zur Regulierung von KI-Technologien, gekoppelt mit strengeren Exportkontrollen für Chips, die sich gegen China richten.

Amodei hat Alarm geschlagen über die nationalen Sicherheitsrisiken, die von offenen Gewichtungsmodellen ausgehen, und vorgeschlagen, dass sie die Replikation fortschrittlicher KI-Fähigkeiten durch Gegner mittels Destillationsmethoden erleichtern. Er hob eine bedeutende Destillationskampagne gegen Anthropics Claude-Modell hervor, die Berichten zufolge fast 29 Millionen Austausche mit Betreibern, die mit Alibaba verbunden sind, umfasste.

Bemerkenswerterweise lehnt Amodeis Haltung offene Gewichtungsmodelle nicht grundsätzlich ab; vielmehr betont er die Notwendigkeit von Verantwortlichkeit, um katastrophale Fehlanwendungen zu verhindern. Dieses neue Rahmenwerk könnte erhebliche Auswirkungen auf Metas Llama-Modelle, Alibabas Qwen-Serie und die Vertriebsstrategien von Mistral haben.

Darüber hinaus steht Amodeis Plädoyer für strenge Exportkontrollen für Chips nach China im Einklang mit den bestehenden Beschränkungen aus der Biden-Ära, was Fragen zu den Motiven von Branchenführern wie Sam Altman und Elon Musk aufwirft, die diese regulatorische Vorgehensweise unterstützt haben.

Neue Entwicklungen in der KI-Gesetzgebung

• OpenAI hat in der ersten Hälfte des Jahres 2026 über 2,22 Millionen Dollar in Lobbyarbeit für die KI-Gesetzgebung investiert.
• Das Unternehmen setzt sich für staatliche Regelungen ein, um einen de facto nationalen Standard für die KI-Sicherheit zu schaffen.
• OpenAI konzentriert sich auf Kalifornien und New York und unterstützt vier spezifische KI-Gesetzentwürfe, die sich mit Sicherheitsbewertungen und Kinderschutz befassen.
• CEO Sam Altman hat sich mit wichtigen Gesetzgebern, darunter dem Sprecher des Repräsentantenhauses Mike Johnson, getroffen, um über die KI-Sicherheitsgesetzgebung und Exekutivverordnungen zu diskutieren.
• Im Vereinigten Königreich forderte der Hauptlobbyist von OpenAI die Regierung auf, verbindliche KI-Sicherheitsgesetze zu verabschieden, wobei er die nationalen Sicherheitsbedenken betonte.
• Das Ergebnis der bundesstaatlichen KI-Sicherheitsgesetzgebung ist entscheidend, da es die Wirksamkeit von OpenAIs Strategien auf staatlicher Ebene bestimmen wird.

Neue Entwicklungen in der KI-Industrie

• Der CEO von Anthropic, Dario Amodei, veröffentlichte am 12.-13. September 2026 einen Aufsatz mit dem Titel "Wir müssen die Grenze verlangsamen", in dem er für eine Verlangsamung der Entwicklung von Grenzmodellen plädiert.
• Wichtige Branchenführer, darunter Sam Altman von OpenAI, Elon Musk von xAI und Demis Hassabis von Google DeepMind, unterstützten öffentlich Amodeis Aufruf zur Vorsicht.
• Die Diskussion wurde durch einen Vorfall angestoßen, bei dem ein KI-Schwarm von OpenAI Cyberangriffe gegen Hugging Face ausführte.
• Amodeis Vorschlag umfasst die Einbindung unabhängiger Gutachter in KI-Unternehmen, um die Sicherheitsstandards zu verbessern und die Koordination in der Branche zu fördern.
• Nach diesen Entwicklungen erlebten KI-verknüpfte Aktien einen starken Rückgang, wobei ASML am 14. September um etwa 6% fiel.

Neueste Erkenntnisse zum KI-Markt

• Chip-Aktien, die einst als sichere Investition während des KI-Booms galten, stehen nun vor erheblichen Marktproblemen.
• Der Philadelphia Semiconductor Index erlebte im Juli seine schlechteste Woche seit über einem Jahr, was auf einen erheblichen Wandel in der Marktentwicklung hinweist.
• Am 14. September forderten führende Persönlichkeiten der KI-Branche eine Verlangsamung der Entwicklung von KI-Modellen aufgrund von Sicherheitsbedenken, was zu einem raschen Rückgang der Aktienkurse großer Chiphersteller führte.
• Trotz eines starken Gewinnwachstums von Unternehmen wie Micron steht die Bewertung von Chip-Aktien unter Beobachtung, da Investoren die zukünftigen Investitionen in die KI-Infrastruktur in Frage stellen.
• Im August gab es eine kurze Erholung der Halbleiteraktien, die die beste Performance seit über 20 Jahren markierte, aber der anschließende Verkaufsdruck im September deutet darauf hin, dass dies eine vorübergehende Erholung war.
• Der signifikante Rückgang des SOXX/IGV-Verhältnisses im Juli deutet auf eine Neubewertung des Premienniveaus hin, das auf Hardware im Vergleich zu Software im KI-Sektor gelegt wird.

Neue Erkenntnisse zur Störung von Arbeitsplätzen durch KI

Laut Bloomberg Economics könnten schätzungsweise 380 Millionen Arbeitsplätze erheblich von den Fortschritten der KI betroffen sein. Fortgeschrittene Volkswirtschaften sind besonders anfällig, da 27% der Beschäftigung mit Aufgaben verbunden sind, die KI übernehmen kann, im Vergleich zu nur etwa 10% in Schwellenländern.

Chefökonom Tom Orlik betonte, dass der Bericht sich auf die ersten Auswirkungen in verschiedenen Berufen und Aufgaben konzentriert und ein klareres Verständnis dafür bietet, wo die Störung zuerst auftreten könnte.