NVIDIA Versterkt Open Source Focus met OpenShell en AI-infrastructuur

NVIDIA heeft zijn inzet voor open source technologieën verder versterkt door deel te nemen aan KubeCon + CloudNativeCon, de toonaangevende conferentie voor de Kubernetes- en cloud-native gemeenschappen. Tijdens deze bijeenkomst heeft het bedrijf NVIDIA OpenShell gedoneerd aan de Cloud Native Computing Foundation (CNCF). OpenShell is een open source-runtime die gericht is op het beveiligen en beheren van autonome agents en zal functioneren binnen de CNCF Sandbox, waardoor het project geniet van brede samenwerking en deskundigheid vanuit de beveiligingsgemeenschap.

Naast OpenShell heeft NVIDIA ook bijgedragen aan Agent Substrate, een open-source kader voor het opereren van langdurige agent-werklasten op schaal binnen Kubernetes. Dit komt tegemoet aan de toenemende vraag naar de inzet van AI in verschillende bedrijfsomgevingen. Met de introductie van nieuwe componenten zoals NVIDIA Kubernetes Engine, NVIDIA Kubernetes Recipes en NVIDIA Snapshot, positioneert NVIDIA zijn platform als een solide basis voor het schalen van GPU-infrastructuur binnen AI-fabrieken.

NVIDIA’s bijdrage aan OpenShell biedt organisaties de mogelijkheid om autonome agents te beheren met behulp van gedetailleerde controles en governance, wat de ontwikkeling versnelt en beveiligingsmaatregelen verankert. Deze aanpak helpt ontwikkelaars niet alleen bij het creëren van veilige operationele omgevingen, maar ook bij het opportunistisch inzetten van hun AI-capaciteiten in de cloud en on-premises systemen. De mogelijkheid om verschillende compute resources te integreren en governance toe te passen in verschillende implementatie-omgevingen representeert een significante vooruitgang in het beheer van AI-infrastructuren.

Om de schaalbaarheid van agent-uitvoering op Kubernetes te waarborgen, werken NVIDIA en Google samen aan de integratie van OpenShell met Agent Substrate. Dit biedt organisaties de mogelijkheid om agenten efficiënt te beheren zonder dat ze per se permanente compute-resources hoeven te garanderen voor elke sessie. De nieuwe open source-projecten in het kader van de NVIDIA DSX AI Factory Platform maken Kubernetes bovendien eenvoudiger te beheren en faciliteren een snellere schaalvergroting van inference-capaciteit. Innovatieve tools zoals NVIDIA Snapshot helpen op hun beurt de opstart- en herstelprocessen van modellen aanzienlijk te versnellen.

Lees het volledige artikel van Nvidia.