Nvidia lanceert open-source AI-model dat op één GPU draait

Nvidia heeft deze week een nieuw open-source AI-model gelanceerd dat speciaal is ontworpen om op één grafische kaart (GPU) te draaien. Dit model is wereldwijd beschikbaar via verschillende online catalogi en kan lokaal worden gebruikt en aangepast. De focus ligt op ontwikkelaars en organisaties die het systeem kunnen afstemmen op hun specifieke behoeften, wat ook in lijn is met de Europese AI-verordening en AVG-regelgeving.

Het nieuwe algoritme stelt organisaties in staat om het model op eigen hardware, zoals een pc of server, te draaien. Dit biedt aanzienlijke voordelen, waaronder lagere kosten voor cloudgebruik en een verbeterde controle over data. Het model kan eenvoudig worden gedownload via de platforms van Nvidia en grote modelhubs, waarbij de gewichten openbaar toegankelijk zijn. Ontwikkelaars kunnen het model direct inzetten voor uiteenlopende tekstgerelateerde taken, zoals samenvatten en vragen beantwoorden.

Het aanpassen van het model is mogelijk door middel van ‘fine-tuning’, waarbij het model specifiek leert van een kleinere, gerichte dataset. Dit verkort de ontwikkeltijd en beperkt de noodzaak voor grote hoeveelheden trainingsdata, wat een aantrekkelijk prospect is voor kleinere bedrijven en onderzoeksinstellingen met beperkte middelen. Nvidia voorziet ontwikkelaars doorgaans van voorbeeldscripts en modelkaarten, die cruciale informatie geven over de prestaties en beperkingen van het model.

De lancering van dit enkel-gpu-model kan significante kansen bieden voor Nederlandse sectoren, met name voor mkb-bedrijven die snelle prototyping willen realiseren. In de zorgsector kunnen dossiers lokaal en veilig worden samengevat, terwijl in het onderwijs het model kan helpen bij feedback op teksten. Publieke instellingen en leveranciers in de EU dienen echter ook rekening te houden met de eisen van de Europese AI-verordening en AVG, zoals het documenteren van de herkomst van trainingsdata en het naleven van privacyregels.

Lees het volledige artikel van AI Insider.