KI-Führungskräfte pausieren Entwicklung aufgrund von Sicherheitsbedenken, Sprecher des Hauses plädiert für Vorsicht

In einem bedeutenden Schritt haben die CEOs großer KI-Unternehmen wie OpenAI, Anthropic und xAI beschlossen, ihre Entwicklungsinitiativen zu pausieren, wie Axios berichtet. Diese Entscheidung resultiert aus zunehmenden Bedenken hinsichtlich des rasanten Fortschritts der KI-Fähigkeiten und zielt darauf ab, ethische und sicherheitstechnische Überlegungen zu adressieren.

Diese Pause spiegelt einen breiteren Trend innerhalb der Branche wider, in dem Führungskräfte für ein gemächlicheres Tempo bei der Entwicklung fortschrittlicher Modelle plädieren, einschließlich OpenAIs Astra und Anthropics Claude Mythos. Die Auswirkungen dieser Entscheidung könnten zu potenziellen Verzögerungen im Wachstum von Unternehmen wie Anthropic führen, die möglicherweise unter Druck geraten, was ihre Bewertungen betrifft.

Marktindikatoren deuten darauf hin, dass die Wahrscheinlichkeit, dass Anthropic bis Ende des Jahres eine Bewertung von 600 Milliarden Dollar erreicht, gesunken ist und derzeit nur bei 3 % liegt. Beobachtern wird geraten, auf Ankündigungen von Anthropic oder seinen Partnern, wie Amazon und Google, bezüglich Finanzierungs- oder Partnerschaftsänderungen zu achten. Zudem könnten neue Vorschriften oder Sicherheitsprotokolle, die von KI-Unternehmen eingeführt werden, die Bewertungsvorhersagen weiter beeinflussen.

In einer verwandten Entwicklung plädiert Sprecher des Hauses Mike Johnson für einen vorsichtigen Ansatz bei der KI-Gesetzgebung. Während eines Auftritts bei NBCs Meet the Press betonte er die Notwendigkeit von Gesprächen mit Führungskräften der KI-Branche, bevor man in regulatorische Rahmenbedingungen eilt. Dies geschieht, während demokratische Gesetzgeber dringende Bedenken hinsichtlich der Risiken von KI äußern und sofortige gesetzgeberische Maßnahmen fordern.

Johnson verfolgt die Strategie, mit Branchenexperten zu konsultieren, um einen kohärenten nationalen regulatorischen Rahmen zu entwickeln, anstatt einen fragmentierten Ansatz auf Landesebene zu wählen. Er traf sich zuvor mit OpenAI-CEO Sam Altman, um regulatorische Entwürfe zu besprechen, und hob die Bedeutung der Zusammenarbeit der Branche bei der Gestaltung der KI-Politik hervor.

Derzeit konzentriert sich Johnson auf ein gezieltes Gesetzesvorhaben, das Ratepayer Protection Act, das die Energiekosten im Zusammenhang mit Rechenzentren behandelt, die KI-Betriebe unterstützen. Dies spiegelt ein wachsendes Bewusstsein für die erheblichen Energieanforderungen wider, die große KI-Modelle mit sich bringen.

Neue Entwicklungen in der KI-Governance

• Hakeem Jeffries hat die House Democratic Commission on AI and the Innovation Economy ins Leben gerufen, die am 9. Dezember 2025 offiziell gegründet wurde.
• Die Kommission wird gemeinsam von den Abgeordneten Ted Lieu, Josh Gottheimer und Valerie Foushee geleitet, während die Abgeordneten Zoe Lofgren und Frank Pallone Jr. als ex officio Co-Vorsitzende fungieren.
• Ein formeller Politikrahmen der Kommission wird voraussichtlich später in diesem Herbst veröffentlicht, der die Haltung der Demokratischen Partei zur KI-Regulierung umreißt.
• Die Demokraten streben an, innovationsfreundliche Politiken mit Verbraucherschutz zu vereinbaren, insbesondere in Bezug auf die Energiekosten von KI-Datenzentren.
• Es gibt Diskussionen über die Einrichtung eines Sonderausschusses für KI mit Subpoena-Rechten, abhängig davon, ob die Demokraten die Mehrheit im Repräsentantenhaus bei den Midterms 2026 zurückgewinnen.

Neue Entwicklungen in den Sicherheitsbedenken der KI

Jacob Coxon, ein ehemaliger KI-Forscher bei Anthropic, trat am 8. September 2026 zurück und kritisierte sowohl Anthropic als auch OpenAI dafür, dass sie Geschwindigkeit über Sicherheit in der KI-Entwicklung priorisieren.

Während seiner Rücktrittsankündigung warnte Coxon vor potenziell katastrophalen Folgen durch fortgeschrittene KI bis zum Ende des Jahrzehnts und betonte die Notwendigkeit globaler Koordination zwischen KI-Labors.

Evan Hubinger, Leiter der Ausrichtungswissenschaft bei Anthropic, räumte ein, dass es an einer klaren Strategie zur Bewältigung von Ausrichtungsproblemen im Zusammenhang mit Superintelligenz mangelt und schätzte die Wahrscheinlichkeit, dass KI zur Auslöschung der Menschheit innerhalb des nächsten Jahrzehnts führt, auf über 10%.

Coxon hob hervor, dass die aktuellen KI-Modelle zwar keine unmittelbare existenzielle Bedrohung darstellen, die schnelle Skalierung der Fähigkeiten in den nächsten 6 bis 12 Monaten jedoch zu erheblichen Gefahren führen könnte.

Sein Aufruf zum Handeln umfasst die Zusammenarbeit zwischen KI-Labors und Regierungsbehörden, um Aufsichtsrahmen zu schaffen, bevor die Technologie über die Möglichkeiten der Governance hinausgeht.

Anthropic sieht sich ebenfalls einer Überprüfung gegenüber, da es sich einer potenziellen Börseneinführung mit einem Wert von bis zu 2 Billionen Dollar nähert, was Fragen zur Übereinstimmung seiner Sicherheitsmarke mit den tatsächlichen Praktiken aufwirft.

Dieser Rücktritt folgt einem Muster von sicherheitsorientierten Forschern, die große KI-Labors aufgrund ähnlicher Bedenken verlassen, einschließlich bemerkenswerter Abgänge von OpenAI aufgrund von Sicherheitsdisputen.

Neueste Entwicklungen

• Bitcoin wurde bei 76.695 $ gehandelt, ein Rückgang von 0,80% innerhalb von 24 Stunden und 4,08% über sieben Tage.
• Das berichtete Handelsvolumen für Bitcoin in den letzten 24 Stunden betrug etwa 13,44 Milliarden $, ein Rückgang von 49,98%.
• Der CEO von Anthropic, Dario Amodei, und der CEO von OpenAI, Sam Altman, haben einen langsameren Fortschritt in der KI-Entwicklung gefordert.
• Der Börsengang von OpenAI ist nun aufgrund von Sicherheitsbedenken bis 2027 verschoben.
• Das Bureau of Labor Statistics berichtete von einem Anstieg der Erzeugerpreise für Endnachfrage um 0,4% im August, wobei die Energiepreise erheblich zur Inflation beitrugen.
• Das Treffen der Federal Reserve ist für den 15.-16. September geplant, mit einer Pressekonferenz am 16. September.

Neue Erkenntnisse zur KI-Diplomatie

Senator Chris Coons hat Präsident Trump aufgefordert, die Diskussionen über künstliche Intelligenz mit dem chinesischen Präsidenten Xi Jinping zu priorisieren und die Dringlichkeit der KI-Zusammenarbeit mit den Verhandlungen über nukleare Abrüstung im Kalten Krieg zu vergleichen. Coons betonte, dass die rasante Entwicklung der KI die legislativen Bemühungen überholt hat, was ein einseitiges Moratorium bei der Forschung aufgrund des Wettbewerbsdrucks zwischen den USA und China unrealistisch macht.

Die USA produzieren derzeit über 10 Millionen fortschrittliche KI-Chips jährlich, während China etwa 200.000 produziert, was ein signifikantes Produktionsverhältnis von 50 zu 1 schafft. Coons setzt sich für den SAFE Chips Act ein, um Beschränkungen für den Export fortschrittlicher KI-Halbleiter nach China zu formalisieren und diese Kontrollen in ein Gesetz zu gießen, anstatt sich auf Exekutivmaßnahmen zu verlassen.

In früheren Diskussionen, wie dem Treffen im Mai 2026 in Peking, wurden KI-Vorschriften behandelt, aber es wurden keine formalen Vereinbarungen getroffen. Coons argumentiert, dass, ähnlich wie bei nuklearen Abrüstungsverträgen, die Risiken, die mit der Entwicklung von KI verbunden sind, eine gemeinsame Verwaltung zwischen den beiden Nationen erfordern.

OpenAI-CEO Sam Altman hat ebenfalls vorgeschlagen, dass ein US-chinesischer KI-Sicherheitsvertrag einen Nobelpreis für den Frieden verdienen könnte, und hebt die Herausforderung hervor, effektive Verifikationsmechanismen für solche Vereinbarungen zu etablieren.