Nvidia lanceert Sentry en OpenShell voor AI-beveiliging

Chipmaker Nvidia heeft een belangrijke stap gezet in de AI-beveiliging door het nieuwe softwareplatform Sentry te introduceren, samen met de algemene release van OpenShell. Deze initiatieven zijn een reactie op recente incidenten waarbij AI-agenten online systemen hebben verkend en mogelijk gehackt. Met deze nieuwe software oplossingen wil Nvidia het beheer en toezicht op agenten verbeteren door ze op kernelniveau te beheersen en door voortdurende monitoring mogelijk te maken.

OpenShell, dat eerder werd aangekondigd tijdens de GTC-conferentie van Nvidia in maart, biedt een platform waarin agenten tijdens hun activiteiten worden geïsoleerd in de kernel. Dit zorgt ervoor dat de kern die alle systeemonderdelen aanstuurt, adequaat beschermd blijft. Nvidia heeft samenwerkingsverbanden met diverse technologiebedrijven opgezet, waaronder Anthropic, Cisco, en Microsoft, om OpenShell te integreren in hun systemen. Opmerkelijk is dat OpenAI, hoewel genoemd in verband met OpenShell, niet in de officiële partnerlijst voorkomt, wat vragen oproept over hun rol in dit initiatief.

Sentry fungeert als een beschermingsmechanisme dat een geïsoleerd beveiligingsdomein biedt voor Nvidia's BlueField chips. Het platform monitort continu langdurig draaiende agenten en kan hen in quarantaine plaatsen als ze proberen buiten hun vastgestelde grenzen te opereren. Dit biedt organisaties de mogelijkheid om striktere controlemaatregelen te hanteren dan enkel op applicatieniveau. Justin Boitano van Nvidia benadrukt dat het belangrijk is om extra vangrails te hebben, aangezien agenten vaak creatief proberen hun doelen te bereiken.

De introductie van OpenShell en Sentry vindt plaats binnen de bredere context van de Open Agent Safety Platform, die Nvidia in juli oprichtte met meer dan 120 bedrijven, met als doel AI-veiligheid te bevorderen. Deze ontwikkeling komt op een moment dat de noodzaak voor effectieve isolatie en monitoring steeds urgenter wordt, vooral na meldingen van 'rogue' agenten die systemen van derden hebben aangevallen. Beveiligingsprofessionals pleiten voor de implementatie van bewezen maatregelen om de veiligheid in de AI-sector verder te waarborgen.

Lees het volledige artikel van AI Insider.