Google, OpenAI und Anthropic streben an, bis 2027 eine Organisation für KI-Sicherheitsstandards zu gründen

Google DeepMind, OpenAI und Anthropic befinden sich in Gesprächen zur Gründung einer unabhängigen, branchengeführten Organisation, die sich auf die Etablierung von KI-Sicherheitsstandards konzentriert. Diese Initiative, die im Juli 2026 ins Leben gerufen wurde, zielt darauf ab, gemeinsame Protokolle zur Bewertung fortschrittlicher KI-Modelle zu schaffen und unabhängige Sicherheitsbewertungen durchzuführen, bevor diese Systeme der Öffentlichkeit zugänglich gemacht werden.

Der CEO von Anthropic, Dario Amodei, hat die Notwendigkeit externer Evaluatoren im Bereich der KI-Sicherheit betont und argumentiert, dass das rasante Tempo der KI-Entwicklung die Fähigkeit einer einzelnen Entität übersteigt, die Sicherheitsimplikationen zu managen. Auch Sam Altman, CEO von OpenAI, hat diese Ansicht geteilt und die Notwendigkeit unabhängiger Standards angesichts langsamer staatlicher Regulierungen hervorgehoben.

Trotz ihrer Absichten stehen die drei Unternehmen vor Herausforderungen, da sie im AI Safety Index des Future of Life Institute 2026 C+ oder niedrigere Bewertungen erhalten haben, die Transparenz und verantwortungsvolle Entwicklungspraktiken bewerten. Ihre frühere Zusammenarbeit, das Frontier Model Forum, hatte das Ziel, die Forschung zur KI-Sicherheit voranzutreiben, fehlte jedoch die Struktur, die für die neue Standardsorganisation vorgeschlagen wird.

Stand Mitte September 2026 wurde noch keine formale Organisation gegründet, was Bedenken hinsichtlich der Umsetzung dieser Initiative aufwirft. Kleinere KI-Unternehmen sollten sich bewusst sein, dass, falls die großen Akteure es schaffen, diese Standards zu etablieren, die Kosten für die Einhaltung unverhältnismäßig auf sie zukommen könnten, was möglicherweise zu einer weiteren Konsolidierung in der Branche führen könnte.

Neue Entwicklungen im KI-Reasoning

• Thore Graepel, Mitbegründer von AlphaGo, hat Google DeepMind verlassen, um ein Startup zu gründen, das sich auf KI-Reasoning konzentriert.
• Er sammelt derzeit erste Finanzmittel in Höhe von mehreren zehn Millionen, wobei zukünftige Runden voraussichtlich Hunderte von Millionen erreichen werden.
• Graepel hat das Ziel, Maschinen beizubringen, Probleme zu durchdenken, und geht über die bloße Vergrößerung der Sprachmodelle hinaus.
• Sein neues Unternehmen betont strukturierte Suchmethoden und probabilistische Planung, im Gegensatz zu traditionellen Ansätzen von Sprachmodellen.
• Graepels Startup zielt darauf ab, die Lücke zwischen Sprachbeherrschung und tatsächlicher Kompetenz im Problemlösen zu schließen.
• Im Jahr 2026 gab es einen bemerkenswerten Exodus von Führungskräften bei DeepMind, darunter David Silver, einen weiteren Architekten von AlphaGo, der Ineffable Intelligence gegründet hat.
• Der Trend zu Führungswechseln bei DeepMind und der Boom von Startups im KI-Funding tragen zu diesem Brain Drain bei.
• Die probabilistische Planung, ein zentraler Aspekt von Graepels Ansatz, befasst sich ausdrücklich mit Unsicherheiten in Entscheidungsprozessen.