Lambda Verhoogt AI-Fabriek Veerkracht met NVIDIA Photonics
Voor het trainen van een AI-model moeten duizenden GPU's samenwerken, wat vraagt om een netwerk dat snel, efficiënt en veerkrachtig is. Lambda pakt het netwerkaspect aan met NVIDIA Photonics co-packaged optics (CPO) switches. Deze switches verbinden NVIDIA GB300 NVL72 racks met meer dan 10.000 GPU's, wat resulteert in een lager energieverbruik, hoge veerkracht en een langere gemiddelde tijd tussen storingen (MTBI) voor een AI-fabriek op grote schaal. Dave Ward, president van cloudservices bij Lambda, benadrukt dat netwerken mee moeten groeien met de eisen van steeds grotere AI-clusters.
Uit testen van het bedrijf blijkt dat de netwerkvertraging, de tijd die nodig is voor dataverkeer, met ongeveer 4% is gedaald op rack-niveau en tot wel 10% op pod-niveau. In verschillende configuraties behoudt het netwerk dezelfde doorvoersnelheid als conventionele pluggable optics. Het verbeteren van energie-efficiëntie en veerkracht is cruciaal, aangezien netwerken centraal staan in de productiviteit van AI-fabrieken. Een onderbroken verbinding kan duizenden GPU's stilleggen en elke onderbreking kost tijd, terwijl elke watt die aan netwerken wordt besteed, niet beschikbaar is voor berekeningen.
NVIDIA Photonics biedt een oplossing voor zowel energie-efficiëntie als veerkracht. Door pluggable transceivers te vervangen door co-packaged optische motoren op het switchpakket, kan het tot 5 keer betere energie-efficiëntie en tot 15 keer hogere betrouwbaarheid leveren dan traditionele pluggable optics. Daarnaast worden er 4 keer minder lasers gebruikt, wat betekent dat er minder onderdelen zijn die kunnen falen. De ingebruikname van NVIDIA Photonics switches door Lambda, elk met 144 poorten die 800 Gb/s draaien, maakt gebruik van vloeistofkoeling om de warmte van de switchchip en optische motoren af te voeren.
De mediane temperatuur van de optica ligt op 36°C, vergeleken met 51°C voor traditionele pluggable optics, wat resulteert in een stabielere signaalintegriteit. NVIDIA Photonics brengt de elektrische naar optische conversie dichter bij de switchchip, en elke switch heeft 18 vervangbare externe lichtbronnen. Deze modules kunnen in het veld worden vervangen, wat een significante verbetering is ten opzichte van de traditionele optische modules waarbij de hele module vervangen moet worden bij een laserdefect. Het co-packaging verkort de elektrische weg van inches naar millimeters, wat de signaalverliezen vermindert en zowel het energieverbruik als het aantal onderdelen in het signaalpad vermindert.
Lees het volledige artikel van Nvidia.
Gerelateerde artikelen
iOS-update lost probleem van iPhone Duo op
Apple heeft met de nieuwste update van iOS, versie 27.3, gezichtsherkenning geïntroduceerd voor de iPhone Duo. Voordat deze update beschikbaar kwam, konden gebruikers het toestel alleen ontgrendelen m...
Tech Festival
17 november 2026
Speel Game Boy-muziek af met Retro Song Bird
De Retro Song Bird is een innovatieve compacte speaker, ontworpen voor liefhebbers van retro gaming. Dit apparaat biedt gebruikers de unieke mogelijkheid om direct de muziek af te spelen van hun favor...
Tech Festival
17 november 2026
DJI's eerste urban e-bike: de Amflow UE-serie
DJI, bekend om zijn drones en technologie, breidt zijn productportfolio uit met de lancering van elektrische stadsfietsen. Deze nieuwe fietsen, ondergebracht onder het dochtermerk Amflow, zijn ontworp...
Tech Festival
17 november 2026