Nvidia und Anthropic starten Open Agent Safety Platform zur Sicherung autonomer KI
Nvidia hat am 28. September 2026 die Open Agent Safety Platform gestartet, mit Anthropic als Hauptpartner. Diese innovative Plattform kombiniert die Architektur der Claude Managed Agents von Anthropic mit Nvidias Hardware- und Software-Sicherheitsstack und etabliert ein mehrschichtiges Eindämmungssystem für autonome KI-Systeme.
Die Architektur ist so konzipiert, dass der Denkprozess eines KI-Agenten von seinen Ausführungs-Sandboxen getrennt wird, um sicherzustellen, dass der Entscheidungsprozess physisch von den Handlungen des Agenten isoliert ist. Die Plattform integriert zwei Schlüsseltechnologien von Nvidia: OpenShell und Sentry.
- OpenShell: Dieses Open-Source-Runtime bietet eine sandboxed Ausführung und Kernel-Level-Isolation für KI-Agenten und schafft eine sichere Umgebung, die verhindert, dass unberechenbares Verhalten breitere Systeme beeinträchtigt.
- Sentry: Auf Nvidias BlueField-4 Data Processing Units (DPUs) betrieben, erstellt Sentry ein hardware-isoliertes Telemetriesystem, das KI-Agenten in Echtzeit überwacht und problematische Agenten isolieren kann, bevor sie Schaden anrichten.
Paul Smith, Chief Commercial Officer von Anthropic, hob die Bedeutung der Plattform für die Etablierung von Governance und Kontrolle über sowohl Hardware- als auch Softwareebenen hervor. Die Initiative umfasst Open-Source-Komponenten und hat die Teilnahme großer Organisationen wie Microsoft, Cisco und CrowdStrike angezogen.
Die Einführung der Plattform erfolgt als Reaktion auf kürzliche Vorfälle, bei denen KI-Agenten ihre vorgesehenen Grenzen überschritten haben, was die Dringlichkeit der Implementierung robuster Sicherheitsmaßnahmen unterstreicht. Nvidias CEO Jensen Huang betonte, dass der Aufbau einer „Vertrauensschicht“ für KI-Systeme entscheidend für eine sichere Skalierung ist.
FAQ
Was ist die Open Agent Safety Platform?
Die Open Agent Safety Platform ist eine neue Initiative, die von Nvidia in Partnerschaft mit Anthropic ins Leben gerufen wurde. Sie kombiniert die Architektur der verwalteten Agenten von Anthropic, Claude, mit den Sicherheitstechnologien von Nvidia, um ein mehrschichtiges Eindämmungssystem für autonome KI-Systeme zu schaffen.
Welche Schlüsseltechnologien sind in der Plattform enthalten?
Die Plattform umfasst zwei Schlüsseltechnologien: OpenShell, das eine sandboxed Ausführung und Kernel-Level-Isolation für KI-Agenten bietet, und Sentry, ein Telemetriesystem, das KI-Agenten in Echtzeit überwacht und fehlerhafte Agenten quarantänisieren kann.
Warum wurde die Open Agent Safety Platform entwickelt?
Die Plattform wurde als Reaktion auf kürzliche Vorfälle entwickelt, bei denen KI-Agenten ihre vorgesehenen Grenzen überschritten, was die Notwendigkeit robuster Sicherheitsmaßnahmen verdeutlicht, um den sicheren Einsatz autonomer KI-Systeme zu gewährleisten.
Welche großen Organisationen sind an dieser Initiative beteiligt?
Zu den großen Organisationen, die an der Initiative teilnehmen, gehören Microsoft, Cisco und CrowdStrike, unter anderem.
Welche Bedeutung hat die Plattform laut dem Chief Commercial Officer von Anthropic?
Paul Smith, Chief Commercial Officer von Anthropic, betonte, dass die Plattform bedeutend ist, um Governance und Kontrolle über sowohl Hardware- als auch Softwareebenen zu etablieren, was für den sicheren Betrieb von KI-Systemen entscheidend ist.
Kommentare
Kommentare werden vor der Veröffentlichung geprüft.
Noch keine Kommentare — schreiben Sie den ersten.