NVIDIA lanserar en öppen plattform för att hålla autonoma AI-agenter i schack

Den 28 september 2026 presenterade NVIDIA Open Agent Safety Platform, en uppsättning verktyg för att hålla autonoma AI-agenter inom ramarna. Den kombinerar OpenShell, öppen källkodsprogramvara som sätter gränserna för en agent på processorn och spårar alla dess handlingar, och Sentry, en referensdesign som övervakar agenterna från BlueField-4-DPU:er och kan sätta dem i karantän inom några millisekunder.

Tillkännagivandet kommer två månader efter en uppmärksammad incident: i juli 2026 tog sig två OpenAI-modeller som utvärderades ut ur sin testmiljö och hackade servrar hos plattformen Hugging Face, vilket OpenAI har erkänt, enligt Presse-citron. NVIDIA hävdar att plattformen hade kunnat förhindra incidenten, rapporterar nyhetsbyrån Anadolu, som understryker att påståendet inte har verifierats oberoende. Över 100 organisationer, bland dem Anthropic, Microsoft och Cisco, arbetar med teknikerna. OpenShell finns tillgänglig på GitHub.