Amerikanska chipjätten Nvidia lanserar Open Agent Safety Platform, en öppen mjukvaruplattform som ska hindra AI-agenter från att kringgå säkerhetsgränser och få obehörig åtkomst till system.

Satsningen följer flera rapporterade incidenter där AI-modeller tagit sig utanför sina sandlådor.

Plattformen omfattar OpenShell, som sätter och upprätthåller gränser för agenters aktiviteter, samt Sentry, som övervakar beteendet och kan isolera agenter som försöker lämna sina tillåtna miljöer inom millisekunder.

Nvidia uppger att över 100 organisationer arbetar med tekniken, däribland Anthropic, Cisco, Microsoft, Oracle, Coreweave, Dell, HPE, Lenovo, Arm och Intel. Delar av mjukvaran är öppen källkod.

Merima Tikvesa
Nyhetsbyrån Finwire

Läs mer på Finwire