Cryptelio

Security

Google entwickelt 'Spiegel-Dimension' zur sicheren Testung von KI-Agenten

Cryptelio Editorial Veröffentlicht 19 Nov 2026 · 18:32 UTC

Google hat eine neue Testumgebung namens 'Spiegel-Dimension' vorgestellt, die entwickelt wurde, um das Verhalten von KI-Browsing-Agenten in einem kontrollierten Umfeld zu bewerten. Diese synthetische Version des Internets ermöglicht es den Agenten, zu navigieren, Transaktionen abzuschließen und mit simulierten Online-Diensten zu interagieren, ohne Benutzer oder echte Websites Sicherheitsrisiken auszusetzen.

Berichten von Google zufolge repliziert die Spiegel-Dimension Tausende von Websites, sodass Ingenieure die Abwehrmechanismen der Agenten gegen verschiedene bösartige Anweisungen testen können. Die KI-Agenten arbeiten innerhalb einer isolierten Sandbox, die Webanfragen abfängt und sie an diese synthetischen Seiten umleitet, wobei die vertrauten Webadressen beibehalten werden, um zu verhindern, dass die Agenten erkennen, dass sie sich in einer simulierten Umgebung befinden.

Ein spezialisiertes Team von KI-Agenten ist dafür verantwortlich, die simulierten Websites zu erstellen und zu pflegen. Forschungsagenten definieren die Anforderungen an die Seiten, Bauagenten erstellen funktionale Seiten, und Kritiker-Agenten überprüfen die Ergebnisse auf Fehler und Zugänglichkeitsprobleme. Dieser Prozess nutzt Chrome DevTools für Agenten, sodass die KI-Systeme mit den simulierten Webseiten interagieren können, als wären sie Menschen.

Die Testumgebung ermöglicht es Google auch, zu untersuchen, wie die KI-Agenten auf Prompt-Injection-Angriffe reagieren, bei denen bösartige Inhalte, die in Websites eingebettet sind, versuchen, die Agenten zu unautorisierten Handlungen zu manipulieren. Ingenieure können solche Angriffe in verschiedene Elemente der simulierten Websites einfügen, während die sichtbaren Adressen unverändert bleiben, was eine gründliche Bewertung der Reaktionen der Agenten in unterschiedlichen Szenarien erleichtert.

Die automatisierte Testpipeline von Google generiert täglich über 1.000 Sicherheits-Testkandidaten für jeden Ingenieur, was die Effizienz der Sicherheitsbewertungen erheblich steigert. Das Unternehmen plant, diese Umgebung weiter zu verbessern, um fortschrittlichere Codierungsagenten und zusätzliche Browsing-Funktionen zu integrieren, während sich die KI-Technologie weiterentwickelt.

Neue Entwicklungen in Googles Gemini API

  • Google hat eine neue Funktion namens Tool Retrieval in der Gemini API eingeführt, die darauf abzielt, die Effizienz von KI-Agenten zu verbessern, die mehrere Tools nutzen.
  • Diese Funktion ist Teil der Interactions API und soll Probleme im Zusammenhang mit Leistung und Genauigkeit angehen, wenn Agenten zahlreiche Tools verwenden.
  • Tool Retrieval ermöglicht es KI-Agenten, nur die relevanten Parameterschemata für Tools bei Bedarf abzurufen, anstatt bei jeder Anfrage vollständige Schemata zu senden, wodurch die Eingabetokens und die Latenz verringert werden.
  • Die Interactions API, die Mitte 2026 allgemein verfügbar wurde, ist für mehrstufige Workflows und serverseitiges Zustandsmanagement optimiert und eignet sich somit für komplexe Aufgaben.
  • Zu den jüngsten Verbesserungen der Gemini API gehören multimodale Erweiterungen für die Dateisuche, die Entwickler weiter unterstützen, agentengesteuerte Anwendungen zu erstellen.
  • Obwohl Tool Retrieval derzeit in der Vorschau ist, wird Entwicklern geraten, die Leistung und mögliche Preisänderungen vor der stabilen Veröffentlichung zu überwachen.

FAQ

Was ist die 'Spiegel-Dimension', die von Google entwickelt wurde?

Die 'Spiegel-Dimension' ist eine neue Testumgebung, die von Google geschaffen wurde, um das Verhalten von KI-Browsing-Agenten in einer kontrollierten und synthetischen Version des Internets zu bewerten. Sie ermöglicht es ihnen, zu navigieren und mit simulierten Online-Diensten zu interagieren, ohne Sicherheitsbedrohungen für echte Benutzer oder Websites darzustellen.

Wie gewährleistet die Spiegel-Dimension die Sicherheit der KI-Agenten während der Tests?

Die Spiegel-Dimension funktioniert innerhalb einer isolierten Sandbox, die Webanfragen abfängt und sie an synthetische Websites umleitet, wobei vertraute Adressen beibehalten werden, um zu verhindern, dass die KI-Agenten erkennen, dass sie sich in einer simulierten Umgebung befinden.

Welche Rollen spielen die spezialisierten KI-Agenten in der Spiegel-Dimension?

In der Spiegel-Dimension haben spezialisierte KI-Agenten unterschiedliche Rollen: Forschungsagenten skizzieren die Anforderungen an die Website, Builder-Agenten erstellen funktionale Seiten und Kritiker-Agenten überprüfen die Ergebnisse auf Fehler und Zugänglichkeitsprobleme.

Wie testet Google die KI-Agenten gegen Prompt-Injection-Angriffe?

Google testet die KI-Agenten gegen Prompt-Injection-Angriffe, indem bösartige Inhalte in verschiedene Elemente der simulierten Websites eingefügt werden, während die sichtbaren Adressen unverändert bleiben. Dies ermöglicht eine gründliche Bewertung der Reaktionen der Agenten auf solche Bedrohungen.

Was ist die Bedeutung von Googles automatisiertem Testpipeline in der Spiegel-Dimension?

Googles automatisierte Testpipeline generiert täglich über 1.000 Sicherheits-Testkandidaten für jeden Ingenieur, was die Effizienz der Sicherheitsbewertungen erheblich steigert und effektivere Tests der KI-Agenten ermöglicht, während sich die Technologie weiterentwickelt.

Beitrag lesen →