Unternehmen
OpenAI-Forscher kritisieren Unternehmen in offenem Brief für Priorisierung von Profit über Sicherheit
Drei Sicherheitsforscher von OpenAI, Jasmine Wang, Tomek Korbak und Mikita Balesni, wurden um den 1. Oktober 2026 entlassen, weil sie angeblich vertrauliche Materialien mit einer externen Organisation für KI-Sicherheit geteilt haben. Die Forscher behaupten, dass ihr Handeln Teil ihrer beruflichen Verantwortung war, insbesondere angesichts von Korbaks früherer Rolle als Verbindungsperson zu externen Sicherheitsgruppen.
Am 8. Oktober sandte das Trio einen offenen Brief an den Vorstand und die Sicherheitskommissionen von OpenAI, der inzwischen online veröffentlicht wurde. Der Brief warnt vor den Risiken, die mit dem Verlust der „Chain of Thought“-Überwachung verbunden sind, einem Prozess, der es Sicherheitsforschern ermöglicht, das zwischenzeitliche Denken von KI-Modellen nachzuvollziehen. Sie argumentieren, dass der Branche die Klarheit fehlt, um Modelle sicher ohne menschliche Aufsicht zu entwickeln und einzusetzen.
Die Forscher schlugen zwei zentrale Lösungen vor: die Förderung einer branchenweiten Zusammenarbeit bei der Modellüberwachung und die Einbeziehung unabhängiger Sicherheitsprüfer. OpenAI hingegen hat betont, dass die Entlassungen nicht mit dem Engagement der Forscher für Sicherheit in Zusammenhang stehen, und erklärt, dass die Kündigungen auf Vertrauensbrüchen beruhten.
Dieser Vorfall folgt einem Muster von sicherheitsbezogenen Abgängen bei OpenAI, einschließlich des kürzlichen Rücktritts von David Robinson, dem Leiter für Sicherheitstransparenz, der Bedenken hinsichtlich der internen Kultur und Sicherheitsmaßnahmen des Unternehmens geäußert hatte. Die weitreichenden Implikationen dieser Situation verdeutlichen die anhaltenden Spannungen in der KI-Branche zwischen der Notwendigkeit von Sicherheitsüberwachung und dem Schutz proprietärer Forschung.
FAQ
Was führte zur Kündigung der drei OpenAI-Forscher?
Die Forscher wurden gekündigt, weil sie angeblich vertrauliche Materialien mit einer externen AI-Sicherheitsorganisation geteilt haben, was sie als Teil ihrer beruflichen Verantwortung ansehen.
Welche Bedenken äußerten die Forscher in ihrem offenen Brief an den Vorstand von OpenAI?
Die Forscher warnten vor den Risiken, die mit dem Verlust der 'Chain of Thought'-Überwachung verbunden sind, die entscheidend für die Nachverfolgung des zwischenzeitlichen Denkens von KI-Modellen ist, und hoben die Unklarheit hervor, wie Modelle sicher ohne menschliche Aufsicht gebaut und eingesetzt werden können.
Welche Lösungen schlugen die Forscher vor, um Sicherheitsbedenken in der KI anzugehen?
Sie schlugen vor, eine branchenweite Zusammenarbeit bei der Modellüberwachung zu fördern und unabhängige Sicherheitsprüfer einzubeziehen, um die Sicherheitsaufsicht in der KI-Entwicklung zu verbessern.
Wie reagierte OpenAI auf die Kündigungen der Forscher?
OpenAI erklärte, dass die Entlassungen nichts mit dem Engagement der Forscher für Sicherheit zu tun hatten, sondern auf Vertrauensbrüche zurückzuführen seien.
Was deutet dieser Vorfall über die Kultur bei OpenAI in Bezug auf Sicherheitsmaßnahmen an?
Der Vorfall spiegelt die anhaltenden Spannungen in der KI-Branche wider, zwischen dem Bedarf an Sicherheitsaufsicht und dem Schutz proprietärer Forschung, wie frühere sicherheitsbezogene Abgänge aus dem Unternehmen zeigen.