Nvidia lanserar ”Open Agent Safety Platform” som ska hålla AI-agenter inom tydligare gränser. Systemet styr vilken information en agent får komma åt och kan enligt Nvidia isolera den inom millisekunder om den försöker ta sig utanför sina begränsningar.
Nvidia lanserar den eftersom det har skett en del säkerhetsincidenter på senaste tiden. OpenAI, Anthropic och Google har rapporterat flera fall där modeller tagit sig utanför sina testmiljöer och angripit andra företag. Anthropic, Microsoft och SpaceX finns bland bolagen som ställer sig bakom Nvidias plattform.