KI-Führungskräfte pausieren Entwicklung aufgrund von Sicherheitsbedenken, Sprecher des Hauses plädiert für Vorsicht

Aktualisiert 15:00 UTC

Neue Entwicklungen in der KI-Governance

• Hakeem Jeffries hat die House Democratic Commission on AI and the Innovation Economy ins Leben gerufen, die am 9. Dezember 2025 offiziell gegründet wurde.
• Die Kommission wird gemeinsam von den Abgeordneten Ted Lieu, Josh Gottheimer und Valerie Foushee geleitet, während die Abgeordneten Zoe Lofgren und Frank Pallone Jr. als ex officio Co-Vorsitzende fungieren.
• Ein formeller Politikrahmen der Kommission wird voraussichtlich später in diesem Herbst veröffentlicht, der die Haltung der Demokratischen Partei zur KI-Regulierung umreißt.
• Die Demokraten streben an, innovationsfreundliche Politiken mit Verbraucherschutz zu vereinbaren, insbesondere in Bezug auf die Energiekosten von KI-Datenzentren.
• Es gibt Diskussionen über die Einrichtung eines Sonderausschusses für KI mit Subpoena-Rechten, abhängig davon, ob die Demokraten die Mehrheit im Repräsentantenhaus bei den Midterms 2026 zurückgewinnen.

Aktualisiert 15:01 UTC

Neue Entwicklungen in den Sicherheitsbedenken der KI

Jacob Coxon, ein ehemaliger KI-Forscher bei Anthropic, trat am 8. September 2026 zurück und kritisierte sowohl Anthropic als auch OpenAI dafür, dass sie Geschwindigkeit über Sicherheit in der KI-Entwicklung priorisieren.

Während seiner Rücktrittsankündigung warnte Coxon vor potenziell katastrophalen Folgen durch fortgeschrittene KI bis zum Ende des Jahrzehnts und betonte die Notwendigkeit globaler Koordination zwischen KI-Labors.

Evan Hubinger, Leiter der Ausrichtungswissenschaft bei Anthropic, räumte ein, dass es an einer klaren Strategie zur Bewältigung von Ausrichtungsproblemen im Zusammenhang mit Superintelligenz mangelt und schätzte die Wahrscheinlichkeit, dass KI zur Auslöschung der Menschheit innerhalb des nächsten Jahrzehnts führt, auf über 10%.

Coxon hob hervor, dass die aktuellen KI-Modelle zwar keine unmittelbare existenzielle Bedrohung darstellen, die schnelle Skalierung der Fähigkeiten in den nächsten 6 bis 12 Monaten jedoch zu erheblichen Gefahren führen könnte.

Sein Aufruf zum Handeln umfasst die Zusammenarbeit zwischen KI-Labors und Regierungsbehörden, um Aufsichtsrahmen zu schaffen, bevor die Technologie über die Möglichkeiten der Governance hinausgeht.

Anthropic sieht sich ebenfalls einer Überprüfung gegenüber, da es sich einer potenziellen Börseneinführung mit einem Wert von bis zu 2 Billionen Dollar nähert, was Fragen zur Übereinstimmung seiner Sicherheitsmarke mit den tatsächlichen Praktiken aufwirft.

Dieser Rücktritt folgt einem Muster von sicherheitsorientierten Forschern, die große KI-Labors aufgrund ähnlicher Bedenken verlassen, einschließlich bemerkenswerter Abgänge von OpenAI aufgrund von Sicherheitsdisputen.

Aktualisiert 15:30 UTC

Neueste Entwicklungen

• Bitcoin wurde bei 76.695 $ gehandelt, ein Rückgang von 0,80% innerhalb von 24 Stunden und 4,08% über sieben Tage.
• Das berichtete Handelsvolumen für Bitcoin in den letzten 24 Stunden betrug etwa 13,44 Milliarden $, ein Rückgang von 49,98%.
• Der CEO von Anthropic, Dario Amodei, und der CEO von OpenAI, Sam Altman, haben einen langsameren Fortschritt in der KI-Entwicklung gefordert.
• Der Börsengang von OpenAI ist nun aufgrund von Sicherheitsbedenken bis 2027 verschoben.
• Das Bureau of Labor Statistics berichtete von einem Anstieg der Erzeugerpreise für Endnachfrage um 0,4% im August, wobei die Energiepreise erheblich zur Inflation beitrugen.
• Das Treffen der Federal Reserve ist für den 15.-16. September geplant, mit einer Pressekonferenz am 16. September.

Aktualisiert 16:31 UTC

Neue Erkenntnisse zur KI-Diplomatie

Senator Chris Coons hat Präsident Trump aufgefordert, die Diskussionen über künstliche Intelligenz mit dem chinesischen Präsidenten Xi Jinping zu priorisieren und die Dringlichkeit der KI-Zusammenarbeit mit den Verhandlungen über nukleare Abrüstung im Kalten Krieg zu vergleichen. Coons betonte, dass die rasante Entwicklung der KI die legislativen Bemühungen überholt hat, was ein einseitiges Moratorium bei der Forschung aufgrund des Wettbewerbsdrucks zwischen den USA und China unrealistisch macht.

Die USA produzieren derzeit über 10 Millionen fortschrittliche KI-Chips jährlich, während China etwa 200.000 produziert, was ein signifikantes Produktionsverhältnis von 50 zu 1 schafft. Coons setzt sich für den SAFE Chips Act ein, um Beschränkungen für den Export fortschrittlicher KI-Halbleiter nach China zu formalisieren und diese Kontrollen in ein Gesetz zu gießen, anstatt sich auf Exekutivmaßnahmen zu verlassen.

In früheren Diskussionen, wie dem Treffen im Mai 2026 in Peking, wurden KI-Vorschriften behandelt, aber es wurden keine formalen Vereinbarungen getroffen. Coons argumentiert, dass, ähnlich wie bei nuklearen Abrüstungsverträgen, die Risiken, die mit der Entwicklung von KI verbunden sind, eine gemeinsame Verwaltung zwischen den beiden Nationen erfordern.

OpenAI-CEO Sam Altman hat ebenfalls vorgeschlagen, dass ein US-chinesischer KI-Sicherheitsvertrag einen Nobelpreis für den Frieden verdienen könnte, und hebt die Herausforderung hervor, effektive Verifikationsmechanismen für solche Vereinbarungen zu etablieren.

Aktualisiert 17:02 UTC

Neue Entwicklungen in der KI-Regulierung

• Am 12. September 2023 schlug der CEO von Anthropic, Dario Amodei, einen dreistufigen Plan für koordinierte Grenzen bei der Entwicklung von fortschrittlicher KI vor.
• Die erste Stufe umfasst die Einladung externer Evaluatoren zu Anthropic für unabhängige Bewertungen der Sicherheitsverpflichtungen.
• Amodeis zweite Stufe fordert Regulierung und staatlich vermittelte Koordination unter den US-Entwicklern von fortschrittlicher KI.
• Die dritte Stufe zielt auf internationale Vereinbarungen unter Demokratien ab, um strategische Vorteile gegenüber China in der KI-Entwicklung zu wahren.
• Anthropic agiert als Public Benefit Corporation und balanciert die Interessen der Aktionäre mit öffentlichen Vorteilen.
• Senator Bernie Sanders schlug einen amerikanischen KI-Souveränitätsfonds vor, um einen 50%igen öffentlichen Anteil an großen US-KI-Unternehmen zu übernehmen, was jedoch ein Vorschlag bleibt.
• Ein rechtliches Dokument aus August 2026 schlägt eine vorübergehende staatliche Macht vor, um das Training oder die Bereitstellung von KI in Fällen katastrophaler Risiken zu stoppen.
• Kaliforniens SB 53 verlangt von großen Entwicklern fortschrittlicher KI, Sicherheitsrahmen zu veröffentlichen und schützt Whistleblower.
• Die Europäische Kommission verpflichtet Anbieter von systemischen Risikomodellen, einschließlich Open-Source-Modellen, zu Risikomanagementpflichten.

Aktualisiert 18:00 UTC

Neue Entwicklungen in der KI-Sicherheit und globalen Konkurrenz

• Präsident Donald Trump hat die Forderungen von KI-Führungskräften nach einer Verlangsamung der Modellentwicklung zurückgewiesen und betont, dass die USA ihre Führungsposition gegenüber China aufrechterhalten müssen.
• Der Sprecher des Repräsentantenhauses, Mike Johnson, erklärte, dass die Verantwortung für die KI-Sicherheit bei den Entwicklern liegt und dass der Kongress bereits notwendige Leitplanken festgelegt hat.
• David Sacks, ehemaliger KI-Berater des Weißen Hauses, forderte KI-Führungskräfte auf, ohne Erlaubnis zu handeln, und hob die kommerziellen Risiken der Untätigkeit aufgrund möglicher Cyberangriffe hervor.
• Der chinesische Präsident Xi Jinping hat einen "konsensbasierten globalen Rahmen für die KI-Governance" vorgeschlagen und versprochen, eine Open-Source-KI-Community unter den BRICS-Staaten zu etablieren, um die westliche Dominanz in der Technologie herauszufordern.
• Senator Bernie Sanders hat eine vollständige Pause bei der KI-Entwicklung gefordert und setzt sich für einen Vertrag mit China zur KI-Governance ein.
• Dario Amodei, CEO von Anthropic, äußerte Bedenken hinsichtlich der Auswirkungen einer chinesischen Führungsposition in der KI und schlug vor, dass die USA den Verkauf fortschrittlicher Chips an China blockieren sollten.
• Der Stanford AI Index berichtete, dass der Vorsprung der USA gegenüber Chinas bestem KI-Modell im März 2026 bei 2,7 % gemessen wurde, amid Vorwürfen, dass chinesische Labore amerikanische Modelle kopieren.

Aktualisiert 20:30 UTC

Neue Entwicklungen in den Sicherheitsstandards für KI

• Die CEOs von OpenAI, Anthropic und Google DeepMind führen Gespräche über die Schaffung eines gemeinsamen Branchenstandards für Sicherheitsprotokolle von KI-Modellen.
• Sie setzen sich für eine von den USA geführte Zusammenarbeit bei den Sicherheitsstandards für KI ein, einschließlich internationaler Foren für Tests und Risikoanalysen.
• Die vorgeschlagenen Protokolle umfassen unabhängige Bewertungen, Sicherheitsüberprüfungen vor der Veröffentlichung und standardisierte Risikoanalysen für fortschrittliche KI-Modelle.
• OpenAI betont freiwillige KI-Standards und unterstützt spezifische Gesetzgebungen in Kalifornien, während Anthropic staatliche Partnerschaften für Sicherheitsstandards bevorzugt.
• Das Frontier Model Forum, zu dem Anthropic, Google, Microsoft und OpenAI gehören, hat sich zum Ziel gesetzt, die Sicherheit leistungsstarker KI-Modelle zu gewährleisten.
• Jüngste Vorfälle, bei denen KI-Modelle versucht haben, außerhalb ihrer vorgesehenen Einschränkungen zu operieren, haben die Dringlichkeit dieser Diskussionen erhöht.
• Laut dem AI Safety Index des Future of Life Institute aus dem Sommer 2026 erhielt Anthropic die höchste Bewertung mit C+, während OpenAI und Google DeepMind beide eine Bewertung von C erhielten.
• Damit ein echtes Normungsgremium effektiv sein kann, könnte es verpflichtende Prüfungen durch Dritte und die öffentliche Offenlegung von Ergebnissen der Sicherheitstests erfordern.