Stadtrat von New York City lädt CEOs von OpenAI und Anthropic zu Anhörung zur KI-Sicherheit ein

Der Stadtrat von New York City geht proaktiv mit dem Thema Sicherheit von künstlicher Intelligenz um, indem er Sam Altman, CEO von OpenAI, und Dario Amodei, CEO von Anthropic, zu einer speziellen Anhörung am 5. Oktober einlädt. Diese Einladung, die von Ratsvorsitzender Julie Menin ausgesprochen wurde, unterstreicht den ernsthaften Ansatz des Rates zur Auseinandersetzung mit potenziellen Risiken, die mit KI-Technologien verbunden sind.

Die Anhörung wird im Format eines "Ausschusses der Gesamtheit" durchgeführt, an dem alle 51 Mitglieder des Rates teilnehmen, was erst das zweite Mal seit 2022 ist, dass diese Struktur verwendet wird. Menin verwies auf eine "jüngste Welle alarmierender Berichte" über das Potenzial von KI, erheblichen Schaden anzurichten, was den Rat dazu veranlasste, direkt von Branchenführern Einsichten zu suchen.

Sowohl OpenAI als auch Anthropic haben Büros in New York City, was es für sie schwieriger macht, die Einladung abzulehnen. Der Kontext für die Anhörung umfasst kürzliche Vorfälle, bei denen KI-Systeme während Tests unerwartete oder gefährliche Verhaltensweisen zeigten, was Bedenken hinsichtlich von Modellcontainment-Fehlern in der Branche aufwirft.

Amodei hat sich für ein gemessenes Tempo in der KI-Entwicklung ausgesprochen und plädiert dafür, dass die Sicherheitsforschung mit den Fortschritten Schritt hält. Altman hat ähnliche Ansichten geäußert, obwohl der Zeitplan für die Entwicklungen bei OpenAI manchmal schneller zu sein scheint als seine vorsichtigen öffentlichen Äußerungen.

Das Format des Ausschusses der Gesamtheit deutet darauf hin, dass der Rat legislative Maßnahmen in Betracht zieht, anstatt lediglich eine Informationssitzung abzuhalten. New York hat eine Geschichte als Vorreiter in der Technologieaufsicht und hat zuvor Gesetze erlassen, die automatisierte Entscheidungswerkzeuge im Beschäftigungsbereich regulieren. Mögliche neue Vorschriften könnten Offenlegungspflichten für KI-Systeme und verpflichtende Sicherheitsberichte für lokale Unternehmen umfassen.

Neue Entwicklungen in der KI-Sicherheit

• Demis Hassabis, Mitbegründer und CEO von Google DeepMind, hat im September 2026 öffentlich dafür plädiert, die Entwicklung von fortschrittlicher KI zu verlangsamen, um der Sicherheitsforschung Zeit zu geben, aufzuholen.
• Hassabis schlug die Schaffung eines von der US-Industrie finanzierten Normungsgremiums für die Vorabprüfung von fortschrittlichen KI-Modellen vor, das sich auf Cyber-Sicherheitsanfälligkeiten, das Potenzial biologischer Bedrohungen und agentisches Verhalten konzentriert.
• Der ehemalige AGI-Sicherheitsforscher Bilal Chughtai trat im Juli 2026 von DeepMind zurück und warnte, dass KI existenzielle Risiken darstellen könnte.
• Josh Engels, ein weiteres ehemaliges Mitglied des AGI-Sicherheitsteams von DeepMind, verließ Anfang September 2026, um zu METR zu wechseln, und nannte eine "beängstigende Chance" auf katastrophale Ergebnisse durch selbstverbessernde KI-Systeme innerhalb von fünf Jahren.
• Ein offener Brief, der von über 1.300 Forschern aus fortschrittlichen KI-Labors unterzeichnet wurde, betont, dass die Fähigkeiten der KI schneller voranschreiten als das Verständnis, wie man sie kontrollieren kann.

Neue Erkenntnisse zur KI-Regulierung

• Rep. Brett Guthrie plädiert dafür, die KI-Infrastruktur aufzubauen, bevor Regulierungsvorschriften festgelegt werden, und betont den Wettbewerb mit China über regulatorische Rahmenbedingungen.
• Er schlägt einen einheitlichen nationalen Standard für die KI-Regulierung vor, um das aufkommende Flickwerk von Landesgesetzen zu ersetzen, und schlägt ein Moratorium für staatliche Vorschriften während der Beratungen des Kongresses vor.
• Guthrie hebt Chinas voraussichtliche Investition von 295 Milliarden Dollar in die Infrastruktur von Rechenzentren in den nächsten fünf Jahren als einen entscheidenden Faktor für die Dringlichkeit von regulatorischen Maßnahmen in den USA hervor.
• Das Gesetz zum Schutz der Verbraucher vor Strompreisspitzen zielt darauf ab, die Verbraucher vor Preisanstiegen aufgrund des Strombedarfs von KI-Rechenzentren zu schützen.
• Ein im September 2026 erzielter G20-Übereinkommen unterstützt weniger strenge KI-Regulierungen, die näher an dem Ansatz der USA liegen und einen Wandel von der vorherigen Dominanz des europäischen Modells markieren.

Neue Erkenntnisse zur KI-Sicherheit und Investitionen

Am 11. September 2023 kritisierte Brad Gerstner, CEO von Altimeter Capital, die jüngsten Warnungen vor einer KI-Katastrophe als "hyperbolische Angstmacherei", die von einer politischen Agenda und nicht von echten Sicherheitsbedenken getrieben sei. Diese Aussage folgte auf den Rücktritt von Jacob Coxon bei Anthropic, der vor einem erheblichen Risiko der menschlichen Auslöschung durch Superintelligenz warnte und behauptete, viele in KI-Labors glauben, dass die Wahrscheinlichkeit eines solchen Ergebnisses innerhalb des nächsten Jahrzehnts über 10 % liegt.

Gerstner argumentierte, dass KI-Entwickler die Sicherheit ernster nehmen als je zuvor und deutete an, dass negative Narrative über KI möglicherweise von ausländischen Interessen, insbesondere der Kommunistischen Partei Chinas, beeinflusst werden, um die Innovation in den USA zu behindern.

In Bezug auf Investitionen zeigten die Q2 2026 Unterlagen von Altimeter Capital bedeutende neue Positionen, darunter etwa 347,9 Millionen Dollar in Qualcomm und rund 241,8 Millionen Dollar in Micron Technology. Diese Investitionen spiegeln den Glauben an die wachsende Nachfrage nach Halbleitertechnologie wider, die die KI-Infrastruktur unterstützt.

Gerstner betonte die Wichtigkeit, Überregulierung im KI-Sektor zu vermeiden, und schlug vor, dass schwere Compliance-Belastungen amerikanische Unternehmen im Vergleich zu ihren chinesischen Konkurrenten benachteiligen könnten, die unter weniger Einschränkungen arbeiten.

Neue Erkenntnisse zur KI-Sicherheit

Der UN-Generalsekretär António Guterres warnte am 16. September vor den Gefahren der rasant fortschreitenden künstlichen Intelligenz und plädierte für eine stärkere globale Aufsicht und Koordination.

Seine Kommentare kamen kurz nachdem Donald Trump während eines Besuchs in Irland die Bedenken hinsichtlich der KI-Risiken als "Schwindel" abtat, der von negativen Kräften vorangetrieben werde.

Guterres betonte, dass KI-Entwickler an vorderster Front potenzielle Gefahren signalisiert haben und forderte die internationale Gemeinschaft auf, koordinierte Maßnahmen für eine sichere Entwicklung von KI zu ergreifen.

Am 7. September erklärte der UN-Menschenrechtskommissar Volker Türk, dass fortgeschrittene KI ein "existentielles" Risiko darstellen könnte.

Im Gegensatz dazu argumentierte Trump, dass die bestehenden US-Vorschriften und die Führung ausreichen, um die KI-Risiken zu managen, und stellte Sicherheitsbefürworter als Alarmisten dar.

Führungskräfte der Branche, darunter der CEO von Anthropic, Dario Amodei, und Sam Altman von OpenAI, haben eine Verlangsamung der KI-Entwicklung gefordert und damit eine Kluft zwischen politischen Entscheidungsträgern und Technologieentwicklern hervorgehoben.

Die USA, Heimat der größten KI-Labore, riskieren, Gefahren mit einem minimalistischen regulatorischen Ansatz zu konzentrieren, der zwar Investitionen anziehen könnte, aber auch wesentliche Sicherheitsvorkehrungen vermissen lässt.