NVIDIA breidt Nemotron-familie uit met nieuwe modellen

NVIDIA heeft vandaag de Nemotron 3.5 Super VL gelanceerd, een open model met 120 miljard parameters dat de snelste taakafhandeling en hoogste nauwkeurigheid biedt voor gespecialiseerde, altijd actieve agenten. Naast de Super VL zijn er twee nieuwe edge-modellen geïntroduceerd: de Nemotron 3.5 Bolt 74B-A9B 24GB, die optimaal is afgestemd op intelligentie en snelheid per GB voor lokale workloads, en de Nemotron 3.5 Bolt E4B 4GB, die zich richt op snelle conversatie-agenten. De Super VL en Bolt 74B-A9B zijn nu beschikbaar, terwijl de Bolt E4B op 23 oktober uitkomt.

Deze drie open modellen dekken het volledige spectrum van agent-implementaties, van grote enterprise-servers tot edge-apparaten en lokale hardware. Organisaties die agenten op NVIDIA-infrastructuur willen draaien, hebben nu een open, geoptimaliseerd model voor hun niveau, zonder dat ze hoeven te kiezen tussen mogelijkheden en inzetbaarheid. Naast de nieuwe modellen maakt de Nemotron-familie gebruik van eerdere versies zoals Lightning, Ultra en Thread, die gericht zijn op verschillende applicaties.

De Nemotron 3.5 Super VL is ontworpen in samenwerking met de Nemotron Coalition en biedt leidinggevende nauwkeurigheid voor multimodale agent-ische taken, zoals het opvolgen van instructies en visuele waarneming, ongeveer een vijfde van de parameters aan van NVIDIA's grootste redeneermodel. Het model behaalt tot vijf keer sneller doorvoer in zijn klasse, wat bedrijven helpt bij het versnellen van hoge-volume workflows. Organisaties zijn in staat om de Super VL na te trainen op eigen data, wat hen in staat stelt de beveiliging en privacy van hun gegevens te waarborgen.

De Nemotron 3.5 Bolt 74B-A9B 24GB is specifiek ontworpen voor lokale agentische taken met behulp van NVIDIA RTX en DGX Spark, en ondersteunt het uitvoeren van taken zoals webonderzoek en code-debugging zonder de cloud te bemoeien. De Bolt E4B 4GB richt zich op fysieke en converserende agenten binnen applicaties zoals voice assistants en interactieve karakters. Binnen verschillende industrieën zijn tientallen organisaties begonnen met het post-trainen van de Super VL om de nauwkeurigheid voor hun specifieke taken te verbeteren. Voorbeelden hiervan zijn bedrijfsspecifieke toepassingen zoals het scannen van claims in de verzekeringssector en het analyses van financiële documenten.

De openheid en aanpasbaarheid van het model zorgen voor maximale controle over gegevens en beveiliging. Dit wordt versterkt door de beschikbaarheid van open datasets en trainingsrecepten waardoor organisaties het model kunnen implementeren binnen hun eigen infrastructuur. NVIDIA faciliteert deze aanpassingen met zijn NeMo-platform en biedt een productieklaar microservice-pakket met regelmatige updates voor beveiliging en prestaties. De Nemotron 3.5-serie is momenteel toegankelijk via platforms zoals Hugging Face en ModelScope.

Lees het volledige artikel van Nvidia.