Google, OpenAI und Anthropic streben an, bis 2027 eine Organisation für KI-Sicherheitsstandards zu gründen

Google DeepMind, OpenAI und Anthropic befinden sich in Gesprächen zur Gründung einer unabhängigen, branchengeführten Organisation, die sich auf die Etablierung von KI-Sicherheitsstandards konzentriert. Diese Initiative, die im Juli 2026 ins Leben gerufen wurde, zielt darauf ab, gemeinsame Protokolle zur Bewertung fortschrittlicher KI-Modelle zu schaffen und unabhängige Sicherheitsbewertungen durchzuführen, bevor diese Systeme der Öffentlichkeit zugänglich gemacht werden.

Der CEO von Anthropic, Dario Amodei, hat die Notwendigkeit externer Evaluatoren im Bereich der KI-Sicherheit betont und argumentiert, dass das rasante Tempo der KI-Entwicklung die Fähigkeit einer einzelnen Entität übersteigt, die Sicherheitsimplikationen zu managen. Auch Sam Altman, CEO von OpenAI, hat diese Ansicht geteilt und die Notwendigkeit unabhängiger Standards angesichts langsamer staatlicher Regulierungen hervorgehoben.

Trotz ihrer Absichten stehen die drei Unternehmen vor Herausforderungen, da sie im AI Safety Index des Future of Life Institute 2026 C+ oder niedrigere Bewertungen erhalten haben, die Transparenz und verantwortungsvolle Entwicklungspraktiken bewerten. Ihre frühere Zusammenarbeit, das Frontier Model Forum, hatte das Ziel, die Forschung zur KI-Sicherheit voranzutreiben, fehlte jedoch die Struktur, die für die neue Standardsorganisation vorgeschlagen wird.

Stand Mitte September 2026 wurde noch keine formale Organisation gegründet, was Bedenken hinsichtlich der Umsetzung dieser Initiative aufwirft. Kleinere KI-Unternehmen sollten sich bewusst sein, dass, falls die großen Akteure es schaffen, diese Standards zu etablieren, die Kosten für die Einhaltung unverhältnismäßig auf sie zukommen könnten, was möglicherweise zu einer weiteren Konsolidierung in der Branche führen könnte.