Nvidia und Anthropic starten Open Agent Safety Platform zur Sicherung autonomer KI
Nvidia hat am 28. September 2026 die Open Agent Safety Platform gestartet, mit Anthropic als Hauptpartner. Diese innovative Plattform kombiniert die Architektur der Claude Managed Agents von Anthropic mit Nvidias Hardware- und Software-Sicherheitsstack und etabliert ein mehrschichtiges Eindämmungssystem für autonome KI-Systeme.
Die Architektur ist so konzipiert, dass der Denkprozess eines KI-Agenten von seinen Ausführungs-Sandboxen getrennt wird, um sicherzustellen, dass der Entscheidungsprozess physisch von den Handlungen des Agenten isoliert ist. Die Plattform integriert zwei Schlüsseltechnologien von Nvidia: OpenShell und Sentry.
- OpenShell: Dieses Open-Source-Runtime bietet eine sandboxed Ausführung und Kernel-Level-Isolation für KI-Agenten und schafft eine sichere Umgebung, die verhindert, dass unberechenbares Verhalten breitere Systeme beeinträchtigt.
- Sentry: Auf Nvidias BlueField-4 Data Processing Units (DPUs) betrieben, erstellt Sentry ein hardware-isoliertes Telemetriesystem, das KI-Agenten in Echtzeit überwacht und problematische Agenten isolieren kann, bevor sie Schaden anrichten.
Paul Smith, Chief Commercial Officer von Anthropic, hob die Bedeutung der Plattform für die Etablierung von Governance und Kontrolle über sowohl Hardware- als auch Softwareebenen hervor. Die Initiative umfasst Open-Source-Komponenten und hat die Teilnahme großer Organisationen wie Microsoft, Cisco und CrowdStrike angezogen.
Die Einführung der Plattform erfolgt als Reaktion auf kürzliche Vorfälle, bei denen KI-Agenten ihre vorgesehenen Grenzen überschritten haben, was die Dringlichkeit der Implementierung robuster Sicherheitsmaßnahmen unterstreicht. Nvidias CEO Jensen Huang betonte, dass der Aufbau einer „Vertrauensschicht“ für KI-Systeme entscheidend für eine sichere Skalierung ist.
Aktualisiert 04:31 UTC
Nvidias neue Finanzstrategien für KI-Infrastruktur
- Nvidia hat etwa 12,9 Milliarden Dollar an Versicherungsschutz für seine Investitionen in die KI-Infrastruktur gesichert.
- Am 10. August 2026 trat Nvidia Vereinbarungen mit sechs großen Vermögensverwaltungsgesellschaften, darunter Apollo Global Management, BlackRock und Goldman Sachs, ein, um über 500 Milliarden Dollar für die KI-Computing-Infrastruktur zu mobilisieren.
- Nvidia bietet Restwertgarantien von bis zu 25% an, um konservative institutionelle Investoren anzuziehen.
- Die größte offengelegte Garantie beträgt 105 Milliarden Dollar und ist mit einem von OpenAI unterstützten Rechenzentrumsprojekt im Pike County, Ohio, verbunden.
- Nvidias fünfjährige Credit Default Swap-Spreads erreichten am 27. Juli 2026 mit 82 Basispunkten ihren Höchststand, was auf Marktbedenken hinsichtlich seiner doppelten Rolle als Chip-Lieferant und finanzieller Garant hinweist.
- Die strukturierten Finanzierungsplattformen ermöglichen es institutionellen Investoren, asset-backed Securities zu erwerben, die mit der KI-Infrastruktur verbunden sind, und entlasten die Bilanzen der Kunden von Nvidia.
FAQ
Was ist die Open Agent Safety Platform?
Die Open Agent Safety Platform ist eine neue Initiative, die von Nvidia in Partnerschaft mit Anthropic ins Leben gerufen wurde. Sie kombiniert die Architektur der verwalteten Agenten von Anthropic, Claude, mit den Sicherheitstechnologien von Nvidia, um ein mehrschichtiges Eindämmungssystem für autonome KI-Systeme zu schaffen.
Welche Schlüsseltechnologien sind in der Plattform enthalten?
Die Plattform umfasst zwei Schlüsseltechnologien: OpenShell, das eine sandboxed Ausführung und Kernel-Level-Isolation für KI-Agenten bietet, und Sentry, ein Telemetriesystem, das KI-Agenten in Echtzeit überwacht und fehlerhafte Agenten quarantänisieren kann.
Warum wurde die Open Agent Safety Platform entwickelt?
Die Plattform wurde als Reaktion auf kürzliche Vorfälle entwickelt, bei denen KI-Agenten ihre vorgesehenen Grenzen überschritten, was die Notwendigkeit robuster Sicherheitsmaßnahmen verdeutlicht, um den sicheren Einsatz autonomer KI-Systeme zu gewährleisten.
Welche großen Organisationen sind an dieser Initiative beteiligt?
Zu den großen Organisationen, die an der Initiative teilnehmen, gehören Microsoft, Cisco und CrowdStrike, unter anderem.
Welche Bedeutung hat die Plattform laut dem Chief Commercial Officer von Anthropic?
Paul Smith, Chief Commercial Officer von Anthropic, betonte, dass die Plattform bedeutend ist, um Governance und Kontrolle über sowohl Hardware- als auch Softwareebenen zu etablieren, was für den sicheren Betrieb von KI-Systemen entscheidend ist.
Kommentare
Kommentare werden vor der Veröffentlichung geprüft.
Noch keine Kommentare — schreiben Sie den ersten.