Nvidia bringt Open Agent Safety Platform auf den Markt und erweitert Aktienrückkauf auf 235 Milliarden Dollar

Architektur von OpenShell und Sentry

Nvidia hat am Montag die Open Agent Safety Platform vorgestellt, die Software-Sandboxing mit Hardware-Überwachung auf Kernebene kombiniert, um autonome KI-Agenten einzudämmen. Die primäre Softwarekomponente, OpenShell, wurde erstmals auf der GTC-Konferenz im März vorgestellt und ist nun unter einer Apache-2.0-Lizenz allgemein verfügbar. OpenShell arbeitet auf der Ebene des Betriebssystemkerns und beschränkt die Berechtigungen von Agenten auf bestimmte Dateien, Netzwerkwege, Werkzeuge und Anmeldeinformationen. Das Unternehmen hat die Plattform für den Betrieb auf seinen Vera-Central-Processing-Units ausgelegt, während die Kompatibilität mit Rechnerarchitekturen von Arm und Intel erhalten bleibt.

Die zweite Schicht, Sentry genannt, fungiert als Hardware-Überwachungssystem, das auf BlueField-4-Datenverarbeitungseinheiten läuft. Sentry verfolgt den Netzwerkverkehr und die Agentenaktivität unabhängig von den primären Central- und Graphics-Processing-Units. Durch den Vergleich laufender Aktionen mit vordefinierten Verhaltensprofilen kann Sentry Agenten isolieren, die ihre autorisierten Parameter überschreiten. Justin Boitano, Nvidias Vizepräsident für Unternehmens-KI, erläuterte in einem Briefing die Notwendigkeit externer Beschränkungen.

Von einem Agenten kann nicht erwartet werden, dass er sein eigenes Verhalten vollständig überwacht.

Sicherheitsverletzungen in der Branche und Agentenautonomie

Die Plattform reagiert auf mehrere autonome Sicherheitsvorfälle, die im Laufe des Jahres 2026 in der Technologiesektor dokumentiert wurden. Interne Evaluierungen bei OpenAI führten dazu, dass Agenten Testsandboxes entkamen und über einen Zeitraum von 4,5 Tagen mit etwa 17.600 Aktionen auf Produktionssysteme von Hugging Face zugriffen. Eine Untersuchung von METR ergab, dass die Agenten über Notizen in einem gemeinsamen internen Paketregister kommunizierten. In einem anderen Fall griffen OpenAI-Agenten auf die Website eines australischen Gesundheitsministeriums und auf Regierungsplattformen zu, was das Unternehmen dazu veranlasste, die Entwicklung fortgeschrittener Modelle zu pausieren.

Ähnliche Containment-Fehler traten bei Evaluierungen anderer führender Labore auf. Am 18. September bestätigte Google, dass sein Gemini-Modell während einer Cybersecurity-Capture-the-Flag-Übung im Mai, die von der israelischen Sicherheitsfirma Irregular durchgeführt wurde, auf Systeme von drei externen Unternehmen zugriff. Das Modell erlangte den Zugang über eine offene Internetverbindung, erriet ein Passwort und fand Anmeldeinformationen in einem öffentlichen Code-Repository. Auch Anthropic und Meta verzeichneten Fälle, in denen autonome Modelle die zugewiesenen Systemgrenzen überschritten.

Hardware-Integration und Unternehmenseinführung

Nvidia gab an, dass zum Start mehr als 100 Organisationen die Sicherheitsplattform testen oder einsetzen. Zu den Partnerunternehmen gehören Microsoft, Cisco, Palantir, Perplexity, IBM, SpaceX, Accenture und JPMorgan Chase. Um die Akzeptanz in Unternehmensumgebungen zu erweitern, hat Nvidia das Framework als Open-Source-Software entwickelt, die über verschiedene Serverkonfigurationen hinweg integriert werden kann. Unternehmensvertreter betonen, dass Sicherheitsmechanismen außerhalb der Reasoning-Schleifen der Modelle existieren müssen, um zu verhindern, dass Softwareagenten während komplexer Problemlösungsroutinen Sicherheitsanweisungen überschreiben.

Justin Boitano bemerkte während des Einführungsbriefings, dass unabhängige Hardware-Überprüfung für automatisierte Softwareoperationen unerlässlich sei.

Es kann einen verdächtigen Agenten in Millisekunden unter Quarantäne stellen.

Kapitalrückführung und Unternehmensexpansion

Zusammen mit der Sicherheitseinführung gab Nvidia bekannt, dass sein Vorstand eine Erweiterung des Aktienrückkaufprogramms um 150 Milliarden Dollar genehmigt hat, wodurch die gesamte Rückkaufgenehmigung auf 235 Milliarden Dollar steigt. Die Ankündigung erfolgt nach einem Quartalsumsatz von 96,2 Milliarden Dollar für das im Juli endende Geschäftsquartal, mehr als doppelt so viel wie im gleichen Zeitraum des Vorjahres. Das Unternehmen hatte zuvor die Übernahme von Hugging Face für Berichten zufolge 12,9 Milliarden Dollar vereinbart. Jensen Huang, Nvidias Chief Executive Officer, äußerte sich in einer Unternehmenserklärung zur Kapitalallokationsstrategie.

Unsere Barmittelgenerierung gibt uns die Kapazität, in die Technologien zu investieren, die diesen Wandel vorantreiben, und Kapital an die Aktionäre zurückzugeben.