d-Matrix en NVIDIA NVLink Fusion voor AI-infrastructuur

De AI-inference chipmaker d-Matrix heeft aangekondigd gebruik te maken van NVIDIA's NVLink Fusion om zijn nieuwe Raptor XPUs te integreren met NVIDIA's AI-infrastructuur. Deze samenwerking positioneert d-Matrix in een groeiend netwerk van ecosystempartners, waarbij NVLink Fusion hen een versnelde en minder risicovolle route biedt voor de overgang van custom siliconen naar grootschalige implementatie.

Volgens Sid Sheth, mede-oprichter en CEO van d-Matrix, is de vraag naar inferentie aanzienlijk toegenomen, terwijl de beschikbare middelen, zoals kapitaal en energie, beperkt blijven. Door NVLink Fusion en het MGX-platform te gebruiken, kan d-Matrix zijn Raptor XPUs integreren in een bredere, vloeistofgekoelde architectuur, waarmee klanten een snellere en minder risicovolle route krijgen naar ultralage latentie inferentie.

NVIDIA's AI-platform is zowel verticaal geïntegreerd als horizontaal open. NVLink Fusion breidt deze openheid uit naar XPUs en CPUs, wat siliconenbedrijven in staat stelt om zich te concentreren op procesinnovaties en tegelijkertijd gebruik te maken van de infrastructuur van NVIDIA voor implementatie op AI-fabriekschaal. De NVLink Fusion-technologie biedt een hoge bandbreedte en lage latentie, waardoor het voor chipmakers eenvoudiger wordt om hun op maat gemaakte architecturen zonder de noodzaak van eigen racks en infrastructuur te schalen.

De samenwerking met NVIDIA stelt d-Matrix in staat om gebruik te maken van de gevestigde rack- en koelstructuren van het NVIDIA MGX-ecosysteem. Dit zorgt ervoor dat datacenters één type rack kunnen gebruiken voor diverse processoren, inclusief GPUs, CPUs en XPUs, wat leidt tot kostenbesparingen en efficiëntieverbeteringen. Door NVLink Fusion kan d-Matrix zijn XPUs in een gemeenschappelijk high-bandwidth, low-latency netwerk geïntegreerd met NVIDIA-systemen ontwikkelen, wat de implementatie van gespecialiseerde inferentie binnen flexibele AI-fabrieken vereenvoudigt.

Lees het volledige artikel van Nvidia.