OpenAI führt Drittanbieterbewertungen zur Sicherheit von KI-Modellen ein

Am 22. September gab OpenAI eine bedeutende Veränderung in seiner Herangehensweise an die Sicherheit von KI bekannt, indem unabhängigen Evaluatoren der Zugang zu seinen Modellen in früheren Entwicklungsphasen gewährt wird. Diese Initiative zielt darauf ab, Sicherheitsprobleme zu identifizieren, bevor sie sich zu größeren Problemen entwickeln.

Das erweiterte Bewertungsprogramm konzentriert sich auf vier zentrale Bereiche: die Bewertung von OpenAIs Sicherheitsfällen, die Evaluierung der Widerstandsfähigkeit von Schutzmaßnahmen gegen gegnerische Bedrohungen, die Angleichung der Bewertungen an den Preparedness Framework des Unternehmens und die Untersuchung von Vorfällen der Fehlanpassung. OpenAI hat sieben Leitprinzipien für diese Bewertungen festgelegt, die wissenschaftliche Strenge, Unabhängigkeit und verantwortungsvolle Veröffentlichung von Ergebnissen betonen.

Organisationen wie METR und Redwood Research, die für ihre Expertise im Bereich der KI-Sicherheit bekannt sind, stehen in Gesprächen, um mit OpenAI an dieser Initiative zusammenzuarbeiten. Dieser Schritt baut auf den Verpflichtungen auf, die CEO Sam Altman Anfang September geäußert hat, und signalisiert eine tiefere Integration von Evaluatoren in die Betriebsstruktur von OpenAI.

Der neue Rahmen stellt einen proaktiven Ansatz zur Sicherheit dar, indem Bewertungen früher im Entwicklungszeitraum angesiedelt werden, was als Modell für branchenweite Sicherheitsstandards dienen könnte. Die Herausforderung bleibt jedoch, Transparenz mit kommerziellen Interessen in Einklang zu bringen, insbesondere wenn unabhängige Bewertungen Ergebnisse offenbaren, die im Widerspruch zu OpenAIs Geschäftszielen stehen.