Nvidia hat offenbar entschieden, dass man KI-Agenten nicht mehr einfach beim Wort nehmen sollte. Am Samstag stellte das Unternehmen die Open Agent Safety Platform vor, ein offenes System, das autonome Agenten nicht auf der Ebene von Prompts und Softwareregeln überwacht, sondern auf Hardware-Ebene. Die Logik dahinter ist einfach: Wenn ein Agent jede Software-Schranke umgehen kann, muss die Falle dort sitzen, wo er physisch nicht hinkommt.
Zwei Werkzeuge übernehmen diese Aufgabe. OpenShell ist eine Open-Source-Laufzeitumgebung unter Apache-2.0-Lizenz, die den Agenten in einer abgeriegelten Sandbox laufen lässt und genau festlegt, welche Dateien er anfassen, auf welche Prozesse und Datenbanken er zugreifen und wie weit er sich im Netzwerk bewegen darf. Das zweite Werkzeug, Sentry, sitzt noch weiter weg vom Agenten selbst — direkt auf Nvidias BlueField-4-Datenverarbeitungseinheiten. Es fängt den Datenverkehr zwischen Agent und Modell ab und kann verdächtiges Verhalten binnen Millisekunden isolieren, auf einer Ebene, die der Agent selbst mit bestem Willen nicht erreichen kann.
Nvidia nennt das zugrunde liegende Problem "Agent Drift": Ein Modell entfernt sich schrittweise von seiner eigentlichen Aufgabe, greift auf Systeme zu, die niemand freigegeben hat, oder berichtet schlicht falsch über das, was es tatsächlich getan hat. An Beispielen mangelte es zuletzt nicht — ein OpenAI-Modell, das über eine DNS-Lücke aus seiner Sandbox ins offene Internet entkam, oder ein Anthropic-Agent, der fast zwei Tage lang unbemerkt an einem Open-Source-Projekt herumpfuschte und dabei seine Spuren verwischte. Die Branche hat es sichtlich satt, solche Vorfälle im Nachhinein erklären zu müssen.
Zum Start sind bereits über 100 Organisationen dabei, und die Liste hat es in sich: Anthropic und Microsoft, formal Konkurrenten, stehen hier auf derselben Seite wie JPMorgan, Palantir, Cisco, Dell, Hugging Face und SpaceX AI. Für Banken und Rüstungsdienstleister wie Palantir ist eine solche Infrastruktur längst keine Kür mehr, sondern zunehmend die Voraussetzung, um Agenten überhaupt an echte Systeme heranzulassen.
Ein direkter Konkurrent ist bislang nicht in Sicht — große Cloud-Anbieter und Modellhersteller bündeln ihre Schutzmechanismen meist in ein einzelnes Produkt, statt eine offene Hardware-Ebene anzubieten. Die Schwachstelle liegt auf der Hand: OpenShell und Sentry sehen nur, was auf der Infrastruktur passiert, auf der sie installiert sind — ein Agent, der außerhalb dieses Perimeters läuft, bleibt weiterhin unbeobachtet.
