OpenAI arbeitet mit METR und Redwood Research zusammen, um KI-Überwachungssysteme zu bewerten

OpenAI hat kürzlich einen proaktiven Schritt unternommen, um die Sicherheit seiner KI-Systeme zu verbessern, indem externe Forscher von METR und Redwood Research eingeladen wurden, eine Bewertung seiner Überwachungsfähigkeiten durchzuführen. Diese dreiwöchige eingehende Evaluierung, die vom 21. Juli bis zum 11. August 2026 stattfand, hatte das Ziel, Schwachstellen in den internen Systemen von OpenAI zu identifizieren, die darauf ausgelegt sind, KI-Agenten auf Anzeichen von Fehlanpassungen zu überwachen.

Die Bewertung führte zu einem umfassenden 61-seitigen Bericht, der mehrere zuvor unerkannte Schwachstellen aufdeckte. Den Forschern wurden umfassende Zugriffsrechte auf das Überwachungssystem von OpenAI gewährt, was ihnen ermöglichte, die Abdeckung des agentischen Verkehrs, insbesondere über die Responses API und den internen Codex-Coding-Agenten, zu bewerten.

Den Ergebnissen zufolge wurde etwa 75 % bis 94 % des Verkehrs von der Responses API überwacht, während interne Codex-Agenten eine höhere Überwachungsrate von 99,2 % aufwiesen. Der Bericht identifizierte jedoch eine signifikante Lücke im Zusammenhang mit Kompaktierungsereignissen, was darauf hindeutet, dass etwa 10 % des berechtigten internen Codex-Verkehrs während des Bewertungszeitraums möglicherweise nicht überwacht wurden.

OpenAI hat seitdem alle Schwachstellen, die die Produktionssicherheitsmaßnahmen betreffen, behoben und betont die Bedeutung externer Audits zur Identifizierung von Schwächen, die interne Teams möglicherweise übersehen. Die Zusammenarbeit unterstreicht einen wachsenden Trend in der Aufsicht über die Sicherheit von KI und betont die Notwendigkeit strenger Überwachungsprotokolle, da KI-Systeme zunehmend autonom werden.