NVIDIA lanceert Nemotron 3.5 Lightning en NeMo Switchyard

NVIDIA breidt zijn Nemotron 3-modelfamilie uit met de introductie van de Nemotron 3.5 Lightning. Deze nieuwe versie is de meest efficiënte in zijn klasse voor langdurige, agentic AI-werkbelastingen, en volgt op de Nemotron 3 Nano. Deze uitbreidingen weerspiegelen NVIDIA’s inzet voor open modellen die gericht zijn op nauwkeurigheid en snelheid en bieden bedrijven de mogelijkheid om AI-toepassingen efficiënter en slimmer te maken.

De Nemotron 3.5 Lightning is een 30-miljard parameters model dat is geoptimaliseerd voor gespecialiseerde taken binnen grotere multi-agent systemen. Samen met deze introductie lanceert NVIDIA ook de NeMo Switchyard, een open-source bibliotheek die het mogelijk maakt om slimme routering binnen populaire agenttools te realiseren. Dit stelt ondernemingen in staat om een router te bouwen die voldoet aan hun specifieke behoeften, waarbij verzoeken intelligent worden doorverwezen naar de meest geschikte modellen.

Dit duo van modellen biedt bedrijven meer controle over hoe AI wordt ingezet en waar het draait, zowel lokaal als op grote schaal in data centra of de cloud. De Nemotron 3.5 Lightning is ontworpen voor hoge doorvoer en kan eenvoudig worden gepostraind met specifieke domeindata, wat de nauwkeurigheid voor gespecialiseerde taken bevordert. Deze modeluitbreiding helpt organisaties in verschillende sectoren hun agentic workflows te optimaliseren en om hogere prestaties te bereiken bij taken zoals cybersecurity en juridische diensten.

NeMo Switchyard fungeert als een open-source modelrouter voor AI-agents, waardoor het mogelijk wordt prompts te sturen naar de meest capabele modellen gedurende het agentwerkproces. Deze innovatieve technologie ondersteunt een breed scala aan toepassingen en partners, waarbij benchmarks aantonen dat het de taak voltooien kosten tot bijna een derde kan reduceren zonder in te boeten op nauwkeurigheid. De Nemotron 3.5 Lightning is inmiddels beschikbaar via diverse platformen, terwijl NeMo Switchyard binnenkort op meer partnerplatformen wordt geïmplementeerd.

Lees het volledige artikel van Nvidia.