NVIDIA Minerva: Innovatie voor AI-fabrieken

NVIDIA heeft vandaag Minerva gelanceerd, een geavanceerd AIOps-platform dat is ontworpen om teams in staat te stellen problemen eerder op te sporen en de productiviteit van AI-fabrieken te waarborgen. Minerva verzamelt telemetrie van zowel infrastructuur als AI-werkbelastingen en past speciaal ontwikkelde AI-modellen toe om deze gegevens om te zetten in tijdige, bruikbare inzichten. Met de groeiende complexiteit van AI-fabrieken, waar talloze GPU's samenwerken via snelle netwerken, kunnen zelfs de kleinste afwijkingen, zoals een oververhitte GPU, leiden tot aanzienlijke vertragingen in het overall proces.

De focus van Minerva ligt op de yield van AI-fabrieken, een maatstaf voor de bruikbare output die de infrastructuur produceert, zoals GPU-uren en uptime van clusters. Dit biedt een uitgebreide kijk op de operationele status. In tegenstelling tot traditionele monitoringtools, die vaak vanuit verschillende perspectieven naar datacentra kijken, koppelt Minerva signalen van NVIDIA GPU's, netwerken en opslag bij elkaar. Hierdoor ontstaat een dynamische kennisgrafiek die het geheel in kaart brengt en operators in staat stelt om problemen in complexe omgevingen snel te traceren.

Minerva verwerkt miljarden datapunten per uur door middel van zowel gesuperviseerde als ongesuperviseerde machine learning. Het systeem leert echter niet alleen normaal gedrag herkennen, maar detecteert ook onvoorziene afwijkingen en voorspelt potentiële storingen. Dit vereenvoudigt de operaties, omdat Minerva gerelateerde problemen aggregeert tot enkele actiegerichte items, waardoor AIOps-teams kunnen overschakelen van reactief naar proactief onderhoud. Dit alles draagt bij aan het maximaliseren van de uptime van GPU's, wat cruciaal is voor de effectiviteit van AI-fabrieken.

IREN, een van de partners van NVIDIA, heeft al aangekondigd Minerva in te zetten voor optimalisatie van hun AI-fabrieken. Volgens Denis Skrinnikoff, CTO van IREN, biedt Minerva inzicht in de prestaties van netwerk, GPU's en werkbelastingen, waardoor hun team zich kan concentreren op proactief onderhoud in plaats van op troubleshooting. Naast IREN hebben ook Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI en Tesla plannen om Minerva uit te rollen. Belangrijke hardwarepartners zoals Dell Technologies, Lenovo en Supermicro zullen Minerva ook integreren in hun AI-fabrieken portfolio.

Lees het volledige artikel van Nvidia.