NVIDIA Vera Rubin Verbetert Intelligence per Dollar

NVIDIA heeft de Vera Rubin-platform gelanceerd, dat gericht is op het optimaliseren van intelligentie per dollar voor agentic AI. In deze context is post-training een cruciaal onderdeel van de ontwikkeling van AI-modellen, dat niet langer als een eenmalige stap wordt gezien. In plaats daarvan vereist het een continue cyclus van aanpassing en verfijning, die essentieel is voor het functioneren in een snel veranderende omgeving. Agentic AI-modellen moeten zich continu aanpassen aan nieuwe situaties en uitdagingen, waardoor post-training de belangrijkste werklast wordt in dit nieuwe tijdperk.

De focus van post-training ligt op het maximaliseren van intelligentie per dollar door de efficiëntie van elke forward en backward pass te verhogen binnen de voortdurende leercyclus. De forward pass, die de inferentie vertegenwoordigt, wordt kost per token gemeten. Dit betekent dat verbeteringen in kosten per token direct bijdragen aan de algehele intelligentie per dollar. In deze opzet leert het model door middel van reinforcement learning (RL), waarbij het opeenvolgende taken uitvoert, feedback ontvangt en zijn gewichten bijwerkt op basis van deze input.

NVIDIA’s Nemotron 3 Ultra model, met 550 miljard parameters, illustreert deze benadering. Het bereikte 71,7% op een standaard programmeertakenbenchmark, waarbij het in staat was om 70% van de onderzochte softwarebugs effectief op te lossen. De infrastructuur van het Vera Rubin-platform ondersteunt frequent post-training, wat de economische haalbaarheid van deze rondes vergroot. Dit resulteert in een hogere intelligentie per dollar dankzij het optimaliseren van rollouts en het efficiënt beheren van verschillende omgevingen.

Voorbeelden van toepassingen tonen de effectiviteit van de Vera Rubin-technologie aan. Prime Intellect maakt gebruik van het NVIDIA Blackwell-platform voor continue post-training en schaling van reinforcement learning omgevingen. Hun projecten resulteren in lagere latentie en een verhoogde doorvoer per CPU. Daarnaast levert Together AI post-training services aan op basis van NVIDIA’s infrastructuur, waarmee organisaties hun modellen effectief kunnen optimaliseren. Door de integratie van open-source tools en modellen met de Vera Rubin-technologie, kunnen bedrijven profiteren van een efficiëntere en effectievere AI-ontwikkeling.

Lees het volledige artikel van Nvidia.