Märkte
Jacob Coxon wird vor dem NYC-Rat zu den Sicherheitsrisiken von KI aussagen
Jacob Coxon, der zuvor bei Anthropic tätig war, wird am 5. Oktober 2026 vor einem Hearing des New Yorker Stadtrats aussagen, das sich mit den Sicherheitsrisiken der künstlichen Intelligenz befasst. Bei diesem Hearing werden auch Vertreter prominenter KI-Unternehmen, darunter OpenAI, Google und Meta, anwesend sein.
Das Hearing, einberufen von Ratspräsidentin Julie Menin, wird alle 51 Ratsmitglieder einbeziehen und stellt ein bedeutendes legislativen Ereignis dar, bei dem zum ersten Mal in den USA unter Eid zur Sicherheit von KI ausgesagt wird. Der Rat hat die CEOs großer KI-Firmen, darunter Dario Amodei von Anthropic und Sam Altman von OpenAI, eingeladen, daran teilzunehmen. Allerdings haben nicht alle Unternehmen positiv reagiert; SpaceXAI wurde kürzlich wegen Nichteinhaltung vorgeladen.
Während der Sitzung werden die Gesetzgeber mehrere legislative Vorschläge prüfen, die darauf abzielen, die Sicherheit von KI zu erhöhen. Zu den wichtigsten Maßnahmen gehört die Forderung nach einer Drittvalidierung von KI-Systemen, die in der Stadt verwendet werden, die Einrichtung von Anreizen für Whistleblower, um gefährliche Praktiken zu melden, und das Recht für Einzelpersonen, Schadensersatzforderungen gegen KI-Systeme geltend zu machen.
Coxon, der Anfang September 2026 von Anthropic zurückgetreten ist, hat sich lautstark zu den Gefahren von KI geäußert und erklärt, dass Unternehmen „mit unserem Leben spielen“. Sein Rücktritt und die anschließenden Äußerungen haben den Druck auf dieses Hearing erheblich verstärkt und verdeutlichen die wachsende Besorgnis einiger Forscher über die existenziellen Risiken, die von fortschrittlichen KI-Technologien ausgehen.
Mustafa Suleyman, CEO von Microsoft AI, hat ebenfalls zu den Auswirkungen von Coxons Rücktritt Stellung genommen und diesen mit Ängsten in Verbindung gebracht, die sich auf die Selbstmodifikation von KI und das Potenzial beziehen, dass Systeme sich außerhalb menschlicher Kontrolle weiterentwickeln. Diese laufende Debatte spiegelt breitere Bedenken innerhalb der KI-Branche hinsichtlich Governance und Sicherheitspraktiken wider.
FAQ
Wer ist Jacob Coxon und welche Rolle spielt er in der Anhörung des NYC Council?
Jacob Coxon ist ein ehemaliger Mitarbeiter von Anthropic, der bei der Anhörung des NYC Council zu den Sicherheitsrisiken von KI, die für den 5. Oktober 2026 geplant ist, aussagen wird.
Was ist der Zweck der Anhörung des NYC Council zu KI-Sicherheit?
Die Anhörung zielt darauf ab, die Sicherheitsrisiken im Zusammenhang mit künstlicher Intelligenz zu behandeln und wird Zeugenaussagen von verschiedenen Interessengruppen, einschließlich Vertretern großer KI-Unternehmen, beinhalten.
Welche Gesetzesvorschläge werden während der Anhörung geprüft?
Die Gesetzgeber werden Vorschläge prüfen, wie z.B. die Anforderung einer Drittvalidierung von KI-Systemen, die Einrichtung von Whistleblower-Anreizen und das Gewähren von Individuen das Recht, auf Schadensersatz zu klagen, der durch KI verursacht wurde.
Warum hat Jacob Coxon bei Anthropic gekündigt?
Coxon kündigte Anfang September 2026 bei Anthropic und äußerte Bedenken hinsichtlich der Gefahren von KI und der Risiken, die Unternehmen eingehen, indem sie KI-Technologien ohne angemessene Sicherheitsmaßnahmen vorantreiben.
Wie haben große KI-Unternehmen auf die Anhörung reagiert?
Der NYC Council hat CEOs großer KI-Firmen eingeladen, daran teilzunehmen, aber nicht alle Unternehmen haben positiv reagiert; zum Beispiel wurde SpaceXAI wegen Nichteinhaltung vorgeladen.